Technologiebedrijven en academici hebben de handen ineen geslagen om een ​​"deepfake-uitdaging" te lanceren om tools te verbeteren om video's en andere media te detecteren die zijn gemanipuleerd door kunstmatige intelligentie.

Het donderdag aangekondigde initiatief omvat $ 10 miljoen van Facebook en heeft tot doel een einde te maken aan wat wordt gezien als een grote bedreiging voor de integriteit van online informatie.

De inspanning wordt ondersteund door Microsoft en het door de industrie gesteunde Partnership on AI en omvat academici van het Massachusetts Institute of Technology, Cornell universiteit, Universiteit van Oxford, Universiteit van California, Berkeley, Universiteit van Maryland en Universiteit van Albany.

Het vertegenwoordigt een brede inspanning om de verspreiding van gemanipuleerde video of audio als onderdeel van een desinformatiecampagne te bestrijden.

"Het doel van de uitdaging is om technologie te produceren die iedereen kan gebruiken om beter te detecteren wanneer AI is gebruikt om een ​​video te wijzigen om de kijker te misleiden. ", zegt Facebook-chef technisch directeur Mike Schroepfer.

Schroepfer zei deepfake-technieken, die realistische AI-gegenereerde video's presenteren van mensen die fictieve dingen doen en zeggen, "hebben aanzienlijke implicaties voor het bepalen van de legitimiteit van online gepresenteerde informatie. Toch heeft de industrie geen geweldige dataset of benchmark om ze te detecteren."

De uitdaging is het eerste project van een commissie voor AI en media-integriteit, gecreëerd door het Partnership on AI, een groep wiens missie het is om nuttig gebruik van kunstmatige intelligentie te promoten en wordt ondersteund door Apple, Amazone, IBM en andere technologiebedrijven en niet-gouvernementele organisaties.

Terah Lyons, uitvoerend directeur van het partnerschap, zei dat het nieuwe project deel uitmaakt van een poging om door AI gegenereerde vervalsingen tegen te gaan, die "aanzienlijke, wereldwijde implicaties voor de legitimiteit van online informatie, de kwaliteit van het publieke debat, de bescherming van de mensenrechten en burgerlijke vrijheden, en de gezondheid van democratische instellingen."

Facebook zei dat het fondsen aanbood voor onderzoekssamenwerkingen en prijzen voor de uitdaging, en zou ook meedoen aan de wedstrijd, maar accepteer niets van het prijzengeld.

Oxford-professor Philip Torr, een van de deelnemende academici, zei dat nieuwe tools "dringend nodig zijn om dit soort gemanipuleerde media te detecteren.

"Gemanipuleerde media die op internet worden gezet, om valse samenzweringstheorieën te creëren en mensen te manipuleren voor politiek gewin, een kwestie van mondiaal belang wordt, aangezien het een fundamentele bedreiging vormt voor de democratie, "Torr zei in een verklaring.

© 2019 AFP