science >> Wetenschap >  >> Elektronica

Experts:spion gebruikte AI-gegenereerd gezicht om contact te maken met doelen

Deze foto is dinsdag gemaakt, 11 juni 2019 toont een deel van een LinkedIn-profiel van iemand die zichzelf identificeerde als Katie Jones. De Associated Press heeft ontdekt dat het een van de vele fantoomprofielen is die op het sociale-mediaplatform op de loer liggen. (AP-foto)

Katie Jones leek zeker aangesloten op het politieke toneel van Washington. De roodharige van 30 had een baan bij een topdenktank en een who's-who-netwerk van experts en experts, van het centristische Brookings Institution tot de rechtse Heritage Foundation. Ze was verbonden aan een plaatsvervangend adjunct-staatssecretaris, een senior assistent van een senator en de econoom Paul Winfree, die in aanmerking komt voor een zetel in de Federal Reserve.

Maar Katie Jones bestaat niet, Dat heeft de Associated Press bepaald. In plaats daarvan, de persona maakte deel uit van een enorm leger van fantoomprofielen die op de loer lagen op de professionele netwerksite LinkedIn. En verschillende experts die door de AP werden gecontacteerd, zeiden dat de profielfoto van Jones door een computerprogramma leek te zijn gemaakt.

"Ik ben ervan overtuigd dat het een nepgezicht is, " zei Mario Klingemann, een Duitse kunstenaar die al jaren experimenteert met kunstmatig gegenereerde portretten en naar eigen zeggen tienduizenden van dergelijke afbeeldingen heeft bekeken. "Het heeft alle kenmerken."

Experts die de LinkedIn-activiteit van het Jones-profiel hebben beoordeeld, zeggen dat het typisch is voor spionage-inspanningen op de professionele netwerksite, wiens rol als wereldwijde Rolodex het tot een krachtige magneet voor spionnen heeft gemaakt.

"Het ruikt erg naar een soort staatsoperatie, " zei Jonas Parello-Plesner, die als programmadirecteur fungeert bij de in Denemarken gevestigde denktank Alliance of Democracies Foundation en enkele jaren geleden het doelwit was van een spionageoperatie die begon via LinkedIn.

Willem Evanina, directeur van het Amerikaanse National Counterintelligence and Security Center, zei dat buitenlandse spionnen routinematig valse sociale-mediaprofielen gebruiken om Amerikaanse doelen te achterhalen - en beschuldigden met name China van "massale" spionage op LinkedIn.

"In plaats van spionnen naar een parkeergarage in de VS te sturen om een ​​doelwit te rekruteren, het is efficiënter om in Shanghai achter een computer te zitten en vriendschapsverzoeken te sturen naar 30, 000 doelen, ', zegt hij in een schriftelijke verklaring.

Deze foto is dinsdag gemaakt, 11 juni 2019 toont een deel van een LinkedIn-profiel van iemand die zichzelf identificeerde als Katie Jones. De Associated Press heeft ontdekt dat het een van de vele fantoomprofielen is die op het sociale-mediaplatform op de loer liggen. (AP-foto)

Vorige maand, gepensioneerde CIA-officier Kevin Mallory werd veroordeeld tot 20 jaar gevangenisstraf voor het doorgeven van details van uiterst geheime operaties aan Peking, een relatie die begon toen een Chinese agent die zich voordeed als recruiter contact met hem opnam via LinkedIn.

In tegenstelling tot de focus op vrienden en familie van Facebook, LinkedIn is gericht op werkzoekenden en headhunters, mensen die routinematig hun cv's afvuren, bouw enorme netwerken van contacten en pitch projecten aan vreemden. Die 'connect-the-all'-benadering helpt bij het invullen van de miljoenen vacatures die op de site worden geadverteerd, maar het biedt ook een rijk jachtgebied voor spionnen. En dat baart westerse inlichtingendiensten zorgen.

Brits, Franse en Duitse functionarissen hebben de afgelopen jaren allemaal waarschuwingen afgegeven waarin wordt beschreven hoe duizenden mensen via LinkedIn zijn benaderd door buitenlandse spionnen.

In een verklaring, LinkedIn zei dat het routinematig actie ondernam tegen nepaccounts, duizenden van hen in de eerste drie maanden van 2019. Er stond ook "we raden u aan contact te leggen met mensen die u kent en vertrouwt, niet zomaar iemand."

Het profiel van Katie Jones was bescheiden van omvang, met 52 aansluitingen. Maar die connecties hadden genoeg invloed om het profiel geloofwaardig te maken voor sommigen die de uitnodigingen van Jones accepteerden. De AP sprak tussen begin maart en begin april van dit jaar met ongeveer 40 andere mensen die banden hadden met Jones. velen van hen zeiden dat ze routinematig uitnodigingen accepteren van mensen die ze niet herkennen.

"Ik ben waarschijnlijk de slechtste LinkedIn-gebruiker in de geschiedenis van LinkedIn, " zei Winfree, de voormalige adjunct-directeur van de raad voor binnenlands beleid van president Donald Trump, die op 28 maart de connectie met Jones bevestigde.

Winvrij, wiens naam vorige maand opdook in verband met een van de vacatures in de Federal Reserve Board of Governors, zei dat hij zelden inlogt op LinkedIn en de neiging heeft om alle opgestapelde uitnodigingen gewoon goed te keuren als hij dat doet.

Rusland-expert Keir Giles poseert voor een portret tijdens een interview op het Londense St. Pancras Station op dinsdag, 4 juni 2019. Gilles, die is aangesloten bij de Britse denktank Chatham House, was een van de mensen die eerder dit jaar het doelwit was van een LinkedIn-gebruiker die zichzelf Katie Jones noemde. (AP Foto/Raphael Satter)

"Ik accepteer letterlijk elk vriendschapsverzoek dat ik krijg, " hij zei.

Lionel Fatton, die Oost-Aziatische zaken doceert aan de Webster University in Genève, zei dat het feit dat hij Jones niet kende een korte pauze veroorzaakte toen hij in maart contact met haar had.

"Ik herinner me dat ik aarzelde, "zei hij. "En toen dacht ik, 'Wat is het kwaad?'"

Parello-Plesner merkte op dat de potentiële schade subtiel kan zijn:verbinding maken met een profiel zoals Jones' nodigt degene die erachter zit uit om een ​​één-op-één gesprek aan te gaan, en andere gebruikers op de site kunnen de verbinding zien als een soort goedkeuring.

"Je verlaagt je hoede en je zorgt ervoor dat anderen hun hoede verlagen, " hij zei.

Het Jones-profiel werd voor het eerst gemarkeerd door Keir Giles, een Rusland-specialist bij de Londense denktank Chatham House. Giles was onlangs verstrikt in een geheel aparte spionageoperatie die zich richtte op critici van het Russische antivirusbedrijf Kaspersky Lab. Dus toen hij een uitnodiging van Katie Jones op LinkedIn ontving, was hij achterdochtig.

Ze beweerde jarenlang als "Rusland en Eurazië fellow" te hebben gewerkt aan het Centrum voor Strategische en Internationale Studies in Washington, maar Giles zei dat, als dat waar zou zijn, 'Ik had van haar moeten horen.'

Rusland-expert Keir Giles poseert voor een portret tijdens een interview op het Londense St. Pancras Station op dinsdag, 4 juni 2019. Gilles, die is aangesloten bij de Britse denktank Chatham House, was een van de mensen die eerder dit jaar het doelwit was van een LinkedIn-gebruiker die zichzelf Katie Jones noemde. (AP Foto/Raphael Satter)

CSIS-woordvoerder Andrew Schwartz vertelde de AP dat "niemand genaamd Katie Jones voor ons werkt."

Jones beweerde ook diploma's in Russische studies te hebben behaald aan de Universiteit van Michigan, maar de school zei dat het "niet in staat was om iemand met deze naam te vinden die deze graden van de universiteit behaalt."

Het Jones-account verdween van LinkedIn kort nadat de AP contact had opgenomen met het netwerk om commentaar te vragen. Berichten die naar Jones zelf zijn gestuurd, via LinkedIn en een bijbehorend e-mailaccount van AOL, ging niet terug.

Talloze experts die door AP werden geïnterviewd, zeiden dat misschien wel het meest intrigerende aspect van de Katie Jones-persona haar gezicht was, waarvan ze zeggen dat het kunstmatig lijkt te zijn gecreëerd.

Klingemann en andere experts zeiden dat de foto - een kort bijgesneden portret van een vrouw met blauwgroene ogen, koperkleurig haar en een raadselachtige glimlach - leek te zijn gemaakt met behulp van een familie van duellerende computerprogramma's die generatieve vijandige netwerken worden genoemd, of GAN's, die realistisch ogende gezichten kunnen creëren van volledig denkbeeldige mensen. GAN's, soms beschreven als een vorm van kunstmatige intelligentie, hebben geleid tot toenemende bezorgdheid bij beleidsmakers die al moeite hebben om greep te krijgen op digitale desinformatie. Op donderdag, Amerikaanse wetgevers hielden hun eerste hoorzitting die voornamelijk was gewijd aan de dreiging van kunstmatig gegenereerde beelden.

Hoi Li, die de Vision of Graphics Lab leidt aan het Institute for Creative Technologies van de University of Southern California, haalde een lijst met digitale informatie op waarvan hij denkt dat de foto van Jones is gemaakt door een computerprogramma, inclusief inconsistenties rond Jones' ogen, de etherische gloed rond haar haar en vlekken op haar linkerwang.

"Dit is een typische GAN, "zei hij. "Ik zal er geld op inzetten."

© 2019 The Associated Press. Alle rechten voorbehouden.