Technische onderzoekers van Dartmouth hebben een nieuwe aanpak ontwikkeld voor het detecteren van de intentie van een spreker om te misleiden. Het kader van de aanpak, die zou kunnen worden ontwikkeld om meningen te onttrekken aan "nepnieuws, "onder andere toepassingen, werd onlangs gepubliceerd als onderdeel van een paper in Tijdschrift voor experimentele en theoretische kunstmatige intelligentie.

Hoewel eerdere studies misleiding hebben onderzocht, dit is mogelijk de eerste studie waarin naar de intentie van een spreker wordt gekeken. De onderzoekers stellen dat hoewel een waargebeurd verhaal kan worden gemanipuleerd in verschillende misleidende vormen, de bedoeling, in plaats van de inhoud van de communicatie, bepaalt of de communicatie bedrieglijk is of niet. Bijvoorbeeld, de spreker kan verkeerd zijn geïnformeerd of een verkeerde veronderstelling maken, wat betekent dat de spreker een onbedoelde fout heeft gemaakt, maar niet heeft geprobeerd te misleiden.

"Misleidende bedoeling om luisteraars expres te misleiden vormt een veel grotere bedreiging dan onbedoelde fouten, " zei Eugene Santos Jr., co-auteur en professor in de techniek aan de Thayer School of Engineering in Dartmouth. "Voor zover wij weten, ons algoritme is de enige methode die bedrog detecteert en tegelijkertijd kwaadwillende handelingen onderscheidt van goedaardige handelingen."

De onderzoekers ontwikkelden een unieke benadering en resulterend algoritme dat bedrog kan onderscheiden van alle goedaardige communicatie door de universele kenmerken van misleidend redeneren op te halen. Echter, het raamwerk wordt momenteel beperkt door de hoeveelheid gegevens die nodig is om de afwijking van een spreker van zijn eerdere argumenten te meten; de studie gebruikte gegevens van een onderzoek uit 2009 onder 100 deelnemers over hun mening over controversiële onderwerpen, evenals een dataset uit 2011 van 800 echte en 400 fictieve beoordelingen van dezelfde 20 hotels.

Santos is van mening dat het raamwerk verder kan worden ontwikkeld om lezers te helpen de bedoeling van "nepnieuws, " zodat de lezer kan bepalen of een redelijk, logisch argument wordt gebruikt of als mening een sterke rol speelt. In vervolgonderzoeken Santos hoopt het rimpeleffect van verkeerde informatie te onderzoeken, inclusief de gevolgen ervan.

In de studie, de onderzoekers gebruiken de populaire film Ocean's Eleven uit 2001 om te illustreren hoe het raamwerk kan worden gebruikt om de argumenten van een bedrieger te onderzoeken, die in werkelijkheid tegen zijn ware overtuigingen kan ingaan, resulterend in een valse eindverwachting. Bijvoorbeeld, in de film, een groep dieven breekt in in een bankkluis en onthult tegelijkertijd aan de eigenaar dat hij wordt beroofd om te onderhandelen. De dieven verstrekken de eigenaar valse informatie, namelijk dat ze maar de helft van het geld aannemen als de eigenaar de politie niet belt. Echter, de dieven verwachten dat de eigenaar de politie belt, wat hij doet, dus vermommen de dieven zich als politie om de volledige inhoud van de kluis te stelen.

Omdat Ocean's Eleven een scriptfilm is, kijkers kunnen er zeker van zijn dat de dieven van plan zijn om al het geld te stelen - en hoe dit in strijd is met wat ze de eigenaar vertellen - dat ze maar de helft zullen nemen. Dit illustreert hoe de dieven in staat waren de eigenaar te misleiden en te anticiperen op zijn acties doordat de dieven en de eigenaar verschillende informatie hadden en het tafereel daarom anders waarnamen.

"Mensen verwachten dat dingen op een bepaalde manier werken, " zei Santos, "net zoals de dieven wisten dat de eigenaar de politie zou bellen als hij erachter zou komen dat hij werd beroofd. Dus, in dit scenario, de dieven gebruikten die kennis om de eigenaar te overtuigen om tot een bepaalde conclusie te komen en het standaardpad van verwachtingen te volgen. Ze forceerden hun bedrog, zodat de eigenaar tot de conclusies zou komen die de dieven wilden."

In de populaire cultuur, verbaal en non-verbaal gedrag zoals gezichtsuitdrukkingen worden vaak gebruikt om te bepalen of iemand liegt, maar de co-auteurs merken op dat die signalen niet altijd betrouwbaar zijn.

"We hebben ontdekt dat modellen op basis van redeneerintentie betrouwbaarder zijn dan verbale veranderingen en persoonlijke verschillen, en zijn dus beter in het onderscheiden van opzettelijke leugens van andere vormen van informatievervalsing, " zei co-auteur Deqing Li, die aan het papier werkte als onderdeel van haar Ph.D. scriptie bij Thayer.