Degenen die zich zorgen maken dat kunstmatige intelligentie zo goed is dat het uit de hand loopt en mensen tot robo-slachtoffers maakt van gekookte leugens die zich voordoen als waarheid, kunnen het recente onderzoek, dat hun slaap zeker zal verstoren, het beste negeren. De paper kijkt naar een succesvolle implementatie van AI-gegenereerde toespraken.

Luisteren, deze gekke tijden zullen nog gekkere tijden worden. Mensen achter de stippellijn blijven nepnieuws schreeuwen over elk item dat informatie bevat die in strijd is met hun mening. Mensen achter de gestreepte lijn zullen nepnieuws schreeuwen omdat, goed, de woorden zijn misschien nepnieuws (en foto's, en pratende hoofdvideo's) gegenereerd door kunstmatige intelligentie.

TechCrunch was een van de sites die rapporteerde over het onderzoek en hoe het slechts minder dan tien dollar kost om een ​​VN-toespraak te fabriceren met behulp van AI. Laat staan ​​minder dan tien dollar, de prestatie werd bereikt met nog minder dan dat.

"Het team kreeg een gemakkelijk beschikbaar taalmodel, " zei Donovan Alexander in Interessante techniek . Hij zei dat testcomponenten "een eenvoudig deep learning-model en goedkope cloudopslag" waren.

TechCrunch 's Jonathan Shieber zei met minder dan $ 7,80 en 13 uur programmeertijd, "Onderzoekers van de Verenigde Naties waren in staat om een ​​programma te ontwikkelen dat realistisch ogende toespraken kon maken voor de Algemene Vergadering van de Verenigde Naties."

Joseph Bullock en Miguel Luengo-Oroz waren de twee onderzoekers die het experiment uitvoerden. Hun doel:een taalmodel trainen dat tekst in spraakstijl kan genereren over onderwerpen variërend van klimaatverandering tot terrorisme.

Ze bespraken hun werk in hun paper beschikbaar op arXiv, "Geautomatiseerde spraakgeneratie uit verklaringen van de Algemene Vergadering van de VN:risico's in door AI gegenereerde teksten in kaart brengen."

Waar kwamen de cijfers voor kosten en trainingstijd vandaan? De auteurs in de krant zeiden dat het taalmodel in minder dan 13 uur was getraind op NVIDIA K80 GPU's, kost slechts $ 7,80 op AWS-spotinstanties.

De twee auteurs van dit artikel maken deel uit van Global Pulse, dat is een VN-initiatief van de secretaris-generaal van de Verenigde Naties. De focus ligt op big data, dat wil zeggen bevordering van vooruitgang op het gebied van veilig en verantwoord gebruik van big data.

Ze voerden Engelstalige transcripties in van toespraken tussen 1970 en 2015 op de Algemene Vergadering van de VN. Resultaten:Hun software kon 50 tot 100 woorden per onderwerp genereren met slechts de invoer van een of twee zinnen die relevant zijn voor het hoofdonderwerp.

Alexander merkte op dat deze toespraken "sterk genoeg zouden zijn om de menigte vandaag bij de VN te betrekken".

Hun veelgebruikte model was getraind op Wikipedia, en voedde later 40 jaar toespraken van politieke leiders op de Algemene Vergadering van de VN.

Shieber rapporteerde meer over de bevindingen. Het programma In ongeveer 90 procent van de gevallen was het in staat om tekst te genereren die geloofwaardig genoeg was om afkomstig te zijn van een spreker van de Algemene Vergadering over een politiek onderwerp of gerelateerd aan een kwestie die was behandeld door de secretaris-generaal.

Karen Hao, MIT Technology Review :De onderzoekers testten het model op drie soorten prompts:algemene onderwerpen (bijv. "klimaatverandering"), aanhef van de opmerkingen van de secretaris-generaal van de VN, en opruiende zinnen (bijvoorbeeld "immigranten zijn de schuldige ...").

Niet verrassend, ze vonden outputs van de eerste categorie die ongeveer 90% van de tijd nauw overeenkwamen met echte VN-toespraken. Uitgangen van de derde categorie, echter, meer werk nodig om te genereren, ongeveer 60% van de tijd overtuigende resultaten produceren.

Niettemin, dit alles liet Shieber met een verkwikkende conclusie, dat "het tijdperk van deepfakes is hier en dat vervalste teksten net zo'n grote bedreiging kunnen zijn als nepvideo's. Misschien meer, gezien hoe goedkoop ze zijn om te produceren."

Hoe zit het met de auteurs? Zeker, hun eigenlijke motivatie was, in hun eigen woorden, "om het bewustzijn te vergroten over de gevaren van AI-tekstgeneratie voor vrede en politieke stabiliteit."

Alexander, vooral, riep uit hoe gemakkelijk en goedkoop het was om de nep-spraaktekst als geloofwaardige items te gebruiken. Hij schreef dat "er een goede kans is in de nabije toekomst, met weinig tot geen middelen, mensen zouden AI-toespraken en politieke inhoud kunnen maken om verkeerde informatie te verspreiden of het gewoon gebruiken voor politiek gewin."

Is het niet mogelijk om met de VN-records te controleren of het item in de vragen echt is, niet nep? Veel mensen zullen niet de moeite nemen om het te controleren of de impuls voelen om dit te doen. De auteurs schreven dat men controversiële tekst voor een toespraak kan genereren, of zelfs een 'deep fake' video maken van de persoon die de toespraak houdt, "Aangezien al deze informatie direct via sociale media kan worden gepubliceerd, veel mensen zullen het originele transcript niet controleren en aannemen dat het waar is. "

Meer inspanningen om op zijn beurt door AI gegenereerde inhoud te detecteren en erop te reageren, zullen worden toegejuicht.

© 2019 Wetenschap X Netwerk