science >> Wetenschap >  >> Elektronica

Twitter, Facebook verbiedt nepgebruikers; sommigen hadden door AI gemaakte foto's

Deze 9 juli 2019, bestandsfoto toont voetgangers die aan de overkant van het Twitter-kantoorgebouw in San Francisco lopen. Twitter zegt dat het er bijna 6 heeft verwijderd, 000 accounts die volgens het bedrijf verband houden met een door de staat gesteunde informatieoperatie in Saoedi-Arabië. (AP Foto/Jeff Chiu, Bestand)

Twitter heeft bijna 6 geïdentificeerd en verwijderd, 000 accounts waarvan het zei dat ze deel uitmaakten van een gecoördineerde inspanning van Saoedische overheidsinstanties en individuen om de geopolitieke belangen van het land te bevorderen.

Afzonderlijk, Facebook zei dat het honderden Facebook-accounts had verwijderd, groepen en pagina's die zijn gekoppeld aan niet-authentiek gedrag van twee afzonderlijke groepen, één van oorsprong uit het land Georgië en één uit Vietnam, die zich richtte op mensen, zowel in Vietnam als in de VS.

Facebook zei dat sommige van de accounts profielfoto's gebruikten die waren gegenereerd door kunstmatige intelligentie en vermomd als Amerikanen. Het is een van de eerste dergelijke pogingen tot verkeerde informatie om materiaal te gebruiken dat door AI is gegenereerd.

Techbedrijven hebben hun inspanningen opgevoerd om verkeerde informatie over hun diensten aan te pakken in de aanloop naar de Amerikaanse presidentsverkiezingen van volgend jaar. De inspanningen volgden op onthullingen dat Russen tijdens de verkiezingen van 2016 duizenden nep-politieke advertenties financierden om onenigheid onder Amerikanen te zaaien.

De aankondigingen van Twitter en Facebook onderstrepen het feit dat zorgen over verkeerde informatie niet beperkt zijn tot de VS en Rusland.

In een blogpost vrijdag Twitter zei dat de verwijderde Saoedische accounts berichten versterkten die gunstig waren voor de Saoedische autoriteiten, voornamelijk door "agressieve sympathie, retweeten en antwoorden." Hoewel de meeste inhoud in het Arabisch was, Twitter zei dat de tweets ook de discussies over sancties in Iran en optredens van Saoedische regeringsfunctionarissen in westerse media versterkten.

"Overheden zijn begonnen met het lanceren van beïnvloedingscampagnes op dezelfde manier waarop commerciële ondernemingen campagnes lanceren om wasmiddel of auto's te verkopen, " zei James Ludes, een nationale defensie-expert die internationale betrekkingen en openbaar beleid doceert aan de Salve Regina University in Rhode Island.

Hij zei dat de Russische inspanningen in 2016 hebben aangetoond dat het mogelijk was om "de houding van het publiek daadwerkelijk te veranderen door het gerichte gebruik van sociale media".

Hoewel de pogingen om de campagnes uit te roeien misschien lijken op een spelletje whack-a-mol, hij zei dat bedrijven op zijn minst vooruitgang hebben geboekt bij het nemen van stappen om manipulatiecampagnes van buitenlandse mogendheden te identificeren en uit te roeien.

Twitter begon in 2018 met het archiveren van tweets en media die volgens haar geassocieerd zijn met bekende door de staat gesteunde informatieoperaties. 000 Chinese accounts die zich richtten op protesten in Hong Kong in augustus.

de 5, 929 accounts verwijderd en toegevoegd aan de archieven maken deel uit van een grotere groep van 88, 000 accounts die zich bezighouden met 'spamgedrag' over een breed scala aan onderwerpen. Maar Twitter maakt ze niet allemaal bekend, omdat sommige legitieme accounts kunnen zijn die door hacking zijn overgenomen.

De Twitter-accounts waren gekoppeld aan een socialmediamarketingbedrijf in Saoedi-Arabië, Smaat genaamd, dat veel overheidsafdelingen in Saoedi-Arabië beheerde. De accounts gebruikten geautomatiseerde tools van derden om niet-politieke inhoud met grote volumes te versterken. Twitter zei dat de activiteit werd gebruikt om de politieke manoeuvres van dezelfde accounts te maskeren.

Samuel Woolley, een professor aan de Universiteit van Texas in Austin die desinformatie bestudeert, zei dat terwijl de Saoedische campagne basismanipulatietechnieken gebruikte, inclusief het gebruik van vind-ik-leuks en retweets om de illusie van populariteit te wekken, grootte en schaal van de campagne waren ongebruikelijk. Het bestaan ​​van een leger van duizenden Saoedische accounts laat ook zien dat socialemediabedrijven nog steeds geen goede oplossing hebben, hij zei, ondanks de vooruitgang die ze hebben geboekt bij het identificeren van door de staat gesteunde rekeningen.

"Het is echt duidelijk dat we er iets aan moeten doen, "zei hij. "Het kan niet alleen achteraf zijn. We moeten beter worden in het detecteren in realtime."

Berichten achtergelaten bij Saoedische functionarissen in Riyad, Saoedi-Arabië, en de ambassade van het land in Washington werden niet onmiddellijk teruggestuurd.

De Saoedische regering heeft verschillende tactieken gebruikt om spraak te beheersen en hervormers en anderen ervan te weerhouden zich te organiseren, inclusief het inzetten van trollenlegers om gebruikers online lastig te vallen en te intimideren. Het heeft ook Twitter-gebruikers gearresteerd en gevangengezet.

In september, Twitter heeft het account van de voormalige topadviseur van de kroonprins opgeschort, Saud al-Qahtani, die ook diende als directeur van de cyberbeveiligingsfederatie. Net als bij de aankondiging van vrijdag, Twitter zei dat het account het beleid van het bedrijf voor platformmanipulatie had geschonden.

Vorige maand, twee voormalige Twitter-medewerkers werden beschuldigd van optreden als agenten van Saoedi-Arabië zonder zich te registreren bij de Amerikaanse overheid. De klacht beschrijft een gecoördineerde inspanning van Saoedische overheidsfunctionarissen om werknemers bij de socialemediagigant te rekruteren om de privégegevens van Twitter-accounts op te zoeken, inclusief e-mailadressen die zijn gekoppeld aan de accounts en internetprotocoladressen die de locatie van een gebruiker kunnen opgeven.

Wat de acties van Facebook betreft, Facebook zei dat de Georgia-groep zich richtte op binnenlands publiek en de Vietnam-groep zich voornamelijk op de VS richtte, evenals Vietnamese-, Spaans- en Chineessprekend publiek over de hele wereld.

Het bedrijf zei dat ze netwerken van accounts hebben gemaakt om anderen te misleiden over wie ze waren en wat ze deden. Om detectie te ontwijken, ze gebruikten een combinatie van nep- en echte accounts van mensen in de VS om pagina's en groepen te beheren, zei het bedrijf.

"We boeken vooruitgang bij het uitroeien van dit misbruik, maar zoals we al eerder zeiden, het is een voortdurende uitdaging, "Natanael Gleicher, Facebook's hoofd van het beveiligingsbeleid, zei in een blogpost.

© 2019 The Associated Press. Alle rechten voorbehouden.