Online productrecensies zijn een slagveld geworden voor moderne kunstmatige intelligentie

Op het slagveld van online beoordelingen is er AI versus AI.

AI die getraind is om nepreviews te herkennen, ontmoet generatieve AI die menselijke reviews kan uitspugen. Het is een soort botsing die implicaties heeft voor zowel consumenten als de toekomst van online content.

Saud Khalifa, oprichter en CEO van Fakespot, een startup die kunstmatige intelligentie gebruikt om frauduleuze beoordelingen op te sporen, zei dat zijn bedrijf een toestroom van valse beoordelingen heeft gezien die zijn gegenereerd door kunstmatige intelligentie. Fakespot werkt aan een manier om inhoud te detecteren die is geschreven door AI-platforms zoals ChatGPT.

“Wat tegenwoordig heel anders is, is dat modellen zo goed geïnformeerd zijn dat ze over alles kunnen schrijven”, zei hij.

Neprecensies bestaan ​​al net zo lang als echte online recensies, maar de kwestie heeft een nieuwe urgentie gekregen dankzij de bredere bezorgdheid over geavanceerde AI-technologie die nu overal op internet beschikbaar is.

Na jarenlang de kwestie te hebben gevolgd door middel van een aanvraag per geval, heeft de Federal Trade Commission vorige maand een nieuwe regel voorgesteld om frauduleuze beoordelingen aan te pakken. Indien goedgekeurd, zou de regel het schrijven van neprecensies, het pushen van recensies, het maskeren van eerlijke opmerkingen en andere misleidende praktijken verbieden – en zware boetes opleggen aan degenen die de regel overtreden.

Maar wat een nepreview is of niet, is nu minder duidelijk en de technologie om frauduleuze reviews te detecteren is nog in ontwikkeling.

“We weten niet – sterker nog, we kunnen het niet weten – hoeveel slechte acteurs deze tools daadwerkelijk gebruiken, en hoeveel daarvan door robots of door mensen kan worden gegenereerd”, zegt Michael Atleson, een advocaat bij de FTC’s Division of Advertising Practices. “Het is echt een grote zorg, en het is slechts een microkosmos van de angst dat deze chatbots zullen worden gebruikt om allerlei nepcontent online te creëren.”

Er zijn enkele tekenen dat AI-gegenereerde beoordelingen al gebruikelijk zijn. Dat meldde CNBC in april Sommige beoordelingen op Amazon hebben duidelijke aanwijzingen van AI-betrokkenheid, waarvan vele beginnen met de zin “Als een AI-taalmodel…”

Amazon is een van de vele online verkopers die jarenlang hebben gestreden tegen neprecensies. Een woordvoerder van het bedrijf zei dat het bedrijf elke week miljoenen beoordelingen ontvangt en dat het in 2022 proactief 200 miljoen vermoedelijke neprecensies heeft geblokkeerd. Het bedrijf gebruikt een combinatie van menselijke onderzoekers en kunstmatige intelligentie om neprecensies op te sporen, met behulp van machine learning-modellen die factoren analyseren zoals de beoordelingsgeschiedenis van een gebruiker, inlogactiviteit en relatie met andere accounts.

Dit wordt verder bemoeilijkt door het feit dat door AI gegenereerde beoordelingen niet bepaald in strijd zijn met de regels van Amazon. Een Amazon-woordvoerder zei dat het bedrijf klanten toestaat om AI-gegenereerde beoordelingen te plaatsen, zolang ze origineel zijn en de beleidsrichtlijnen niet schenden.

Ook heeft de e-commercegigant aangegeven mogelijk wat hulp nodig te hebben. In juni nam Dharmesh Mehta, Amazon’s vice-president van Worldwide Selling Partner Services, contact op met een van de bedrijven blogpost Voor meer samenwerking tussen “de particuliere sector, consumentengroepen en overheden” om het groeiende probleem van neprecensies aan te pakken.

De cruciale vraag is of AI-detectie sneller kan gaan dan AI die neprecensies creëert. Khalifa zei dat de eerste AI-gegenereerde neprecensies die door Fakespot werden gedetecteerd een paar maanden geleden uit India kwamen en werden geproduceerd door wat hij “nepreviewfarms” noemt – bedrijven die massaal frauduleuze recensies verkopen. Generatieve AI heeft het potentieel om hun werk enorm te vergemakkelijken.

“Het is absoluut een zware test om voor deze detectietools te slagen”, zegt Bhawan Dhingra, assistent-professor informatica aan de Duke University. “Want als de vormen exact hetzelfde zijn als de manier waarop mensen iets schrijven, kun je de twee niet echt uit elkaar houden. Ik verwacht niet dat er binnenkort een detector met vlag en wimpel zal slagen voor de test.”

Verschillende onderzoeken hebben aangetoond dat mensen niet bijzonder goed zijn in het herkennen van recensies die door AI zijn geschreven. Veel technologen en bedrijven werken aan door AI gegenereerde systemen voor het ontdekken van inhoud, en sommigen, zoals OpenAI, het bedrijf achter ChatGPT, werken zelfs aan hun eigen door AI gegenereerde inhouddetectie.

Ben Zhao, een professor computerwetenschappen aan de Universiteit van Chicago, zei dat het “bijna onmogelijk” is voor AI om de uitdaging aan te gaan om door AI gegenereerde beoordelingen uit te sluiten, omdat door bots gegenereerde beoordelingen vaak niet te onderscheiden zijn van menselijke beoordelingen.

“Het is een constante kat-en-muis-achtervolging,” zei hij, “maar uiteindelijk is er niets fundamenteels dat door AI gegenereerde inhoud onderscheidt.” “Je zult systemen vinden die beweren dat ze onderscheid kunnen maken tussen door mensen geschreven versus ChatGPT-tekst. Maar de technologieën erachter zijn vrij eenvoudig in vergelijking met het ding dat ze proberen in te halen.”

met 90% van de consumenten Door te zeggen dat ze beoordelingen lezen terwijl ze online winkelen, is dit een mogelijkheid waar sommige voorstanders van consumenten zich zorgen over maken.

“Het is angstaanjagend voor consumenten”, zegt Teresa Murray, die het Consumer Watchdog Bureau leidt voor de American Public Interest Research Group. “AI helpt al oneerlijke bedrijven om binnen enkele seconden feitelijke meningen te produceren in de stem van duizenden gesprekken.”