Valse audio- of video-inhoud is door experts gerangschikt als het meest zorgwekkende gebruik van kunstmatige intelligentie in termen van potentiële toepassingen voor misdaad of terrorisme, volgens een nieuw UCL-rapport.

De studie, gepubliceerd in misdaadwetenschap en gefinancierd door het Dawes Center for Future Crime aan de UCL (en beschikbaar als beleidsbriefing), identificeerde 20 manieren waarop AI de komende 15 jaar zou kunnen worden gebruikt om misdaad te vergemakkelijken. Deze werden gerangschikt in volgorde van zorg - op basis van de schade die ze konden veroorzaken, het potentieel voor criminele winst of winst, hoe gemakkelijk ze zouden zijn om uit te voeren en hoe moeilijk ze zouden zijn om te stoppen.

Auteurs zeiden dat nep-inhoud moeilijk te detecteren en te stoppen zou zijn, en dat het verschillende doelen kan hebben - van het in diskrediet brengen van een publieke figuur tot het verkrijgen van geld door de zoon of dochter van een stel te imiteren in een videogesprek. dergelijke inhoud, ze zeiden, kan leiden tot een wijdverbreid wantrouwen van audio- en visueel bewijsmateriaal, wat op zichzelf een maatschappelijke schade zou zijn.

Afgezien van nep-inhoud, vijf andere door AI ingeschakelde misdaden werden als zeer zorgwekkend beoordeeld. Deze gebruikten zelfrijdende voertuigen als wapens, helpen bij het opstellen van meer op maat gemaakte phishing-berichten (spear phishing), het verstoren van AI-gestuurde systemen, het verzamelen van online informatie voor grootschalige chantage, en door AI geschreven nepnieuws.

Senior auteur professor Lewis Griffin (UCL Computer Science) zei:"Naarmate de mogelijkheden van op AI gebaseerde technologieën toenemen, dat geldt ook voor hun potentieel voor criminele uitbuiting. Om zich adequaat voor te bereiden op mogelijke AI-dreigingen, we moeten vaststellen wat deze bedreigingen kunnen zijn, en hoe ze ons leven kunnen beïnvloeden."

Onderzoekers verzamelden de 20 door AI ingeschakelde misdaden uit academische papers, nieuws- en actualiteitenverslagen, en fictie en populaire cultuur. Vervolgens verzamelden ze 31 mensen met een expertise in AI voor twee dagen van discussies om de ernst van de mogelijke misdaden te rangschikken. De deelnemers waren afkomstig uit de academische wereld, de prive-sector, de politie, de overheid en de staatsveiligheidsdiensten.

Misdrijven die van gemiddelde zorg waren, omvatten de verkoop van artikelen en diensten die op frauduleuze wijze als "AI" werden bestempeld, zoals veiligheidsscreening en gerichte reclame. Deze zouden gemakkelijk te bereiken zijn, met potentieel grote winsten.

Misdrijven die weinig zorgwekkend waren, waren onder meer inbrekerbots - kleine robots die werden gebruikt om toegang te krijgen tot eigendommen via toegangspunten zoals brievenbussen of kattenluiken - die als gemakkelijk te verslaan werden beschouwd, bijvoorbeeld door brievenbuskooien, en AI-geassisteerde stalking, die, hoewel zeer schadelijk voor individuen, kon niet op schaal opereren.

Eerste auteur Dr. Matthew Caldwell (UCL Computer Science) zei:"Mensen voeren nu grote delen van hun leven online en hun online activiteiten kunnen reputaties maken en breken. Zo'n online omgeving, waar data eigendom is en informatiekracht, is bij uitstek geschikt voor uitbuiting door op AI gebaseerde criminele activiteiten.

"In tegenstelling tot veel traditionele misdaden, misdaden in de digitale wereld gemakkelijk kunnen worden gedeeld, herhaald, en zelfs verkocht waardoor criminele technieken op de markt kunnen worden gebracht en criminaliteit als een dienst kan worden aangeboden. Dit betekent dat criminelen de meer uitdagende aspecten van hun op AI gebaseerde misdaad kunnen uitbesteden."

Professor Shane Johnson, Directeur van het Dawes Center for Future Crimes aan de UCL, die de studie financierde, zei:"We leven in een steeds veranderende wereld die nieuwe kansen creëert - goede en slechte. Als zodanig, het is absoluut noodzakelijk dat we anticiperen op toekomstige misdaaddreigingen, zodat beleidsmakers en andere belanghebbenden met de bevoegdheid om op te treden dit kunnen doen voordat nieuwe 'misdaadoogsten' plaatsvinden. Dit rapport is het eerste in een reeks die de toekomstige misdaaddreigingen in verband met nieuwe en opkomende technologieën zal identificeren en wat we eraan kunnen doen."