Onderzoekers vinden dat AI-gegenereerde beoordelingen en opmerkingen een aanzienlijke bedreiging vormen voor consumenten, maar machine learning kan de vervalsingen helpen detecteren.

Sites zoals TripAdvisor, Yelp en Amazon tonen gebruikersrecensies van producten en diensten. Consumenten let op:negen op de tien mensen lezen deze peer reviews en vertrouwen op wat ze zien. In feite, tot 40 procent van de gebruikers besluit een aankoop te doen op basis van slechts een paar beoordelingen, en goede recensies zorgen ervoor dat mensen 30 procent meer uitgeven aan hun aankopen.

Toch zijn niet alle beoordelingen legitiem. Valse beoordelingen geschreven door echte mensen komen al veel voor op beoordelingssites, maar de hoeveelheid vervalsingen die door machines worden gegenereerd, zal waarschijnlijk aanzienlijk toenemen.

Volgens promovendus Mika Juuti aan de Aalto University, neprecensies op basis van algoritmen zijn tegenwoordig eenvoudig, nauwkeurig en snel te genereren. Meestal, mensen kunnen het verschil niet zien tussen echte en machinaal gegenereerde neprecensies.

"Bedrijven die zich misdragen kunnen ofwel proberen hun verkoop te stimuleren door kunstmatig een positief merkimago te creëren of door nep-negatieve recensies over een concurrent te genereren. De motivatie is, natuurlijk, geld:online beoordelingen zijn een big business voor reisbestemmingen, hotels, dienstverleners en consumentenproducten, ' zegt Mika Juuti.

in 2017, onderzoekers van de Universiteit van Chicago beschreven een methode voor het trainen van een machine learning-model, een diep neuraal netwerk, met behulp van een dataset van drie miljoen echte restaurantbeoordelingen op Yelp. Na de opleiding, het model genereerde karakter voor karakter valse restaurantrecensies.

Er was een kleine hapering in de methode, echter; het was moeilijk om bij het onderwerp te blijven. Voor een recensie van een Japans restaurant in Las Vegas, het model zou kunnen verwijzen naar een Italiaans restaurant in Baltimore. Dit soort fouten zijn natuurlijk, gemakkelijk opgemerkt door lezers.

Om de recensiegenerator te helpen op de juiste plek te blijven, Juuti en zijn team gebruikten een techniek genaamd neurale machinevertaling om het model een gevoel van context te geven. Met behulp van een tekstreeks van "review rating, restaurantnaam, stad, staat, en voedsellabels, "Ze begonnen geloofwaardige resultaten te behalen.

"In het gebruikersonderzoek dat we hebben uitgevoerd, we lieten deelnemers echte beoordelingen zien die door mensen zijn geschreven en nep-machine-gegenereerde beoordelingen en vroegen hen om de vervalsingen te identificeren. Tot 60 procent van de neprecensies werd ten onrechte als echt beschouwd, ' zegt Juuti.

Juuti en zijn collega's bedachten vervolgens een classificatie die de vervalsingen zou kunnen herkennen. De classifier bleek goed te presteren, vooral in gevallen waarin menselijke beoordelaars de meeste moeite hadden om te bepalen of een recensie echt is of niet.

Het onderzoek werd uitgevoerd in samenwerking met de onderzoeksgroep Secure Systems van Aalto University en onderzoekers van de Waseda University in Japan. Het werd gepresenteerd op het 2018 European Symposium on Research in Computer Security in september.