Een drietal onderzoekers van de Universiteit van KU Leuven in België heeft ontdekt dat het mogelijk is om een ​​AI-systeem te verwarren door een bepaalde afbeelding af te drukken en tegen hun lichaam te houden terwijl het AI-systeem hen probeert te identificeren als een mens. Simen Thys, Wiebe Van Ranst en Toon Goedemé hebben een paper geschreven waarin ze hun inspanningen beschrijven en hebben deze geüpload naar de arXiv preprint-server. Ze hebben ook een video op YouTube geplaatst waarin ze laten zien wat ze hebben bereikt.

Om een ​​AI-systeem iets te laten leren, zoals het identificeren van objecten (inclusief mensen) in een scène, het moet worden getraind - de training houdt in dat het duizenden objecten laat zien die in bepaalde categorieën passen totdat er algemene patronen ontstaan. Maar zoals eerder onderzoek heeft gesuggereerd, dergelijke systemen kunnen soms in de war raken als ze iets te zien krijgen waarvoor ze niet zijn opgeleid. In dit geval, een 2D-afbeelding van mensen die kleurrijke paraplu's vasthouden. Dergelijke afbeeldingen die AI voor de gek houden, staan ​​​​bekend als vijandige patches.

Naarmate AI-systemen nauwkeuriger en geavanceerder worden, overheden en bedrijven zijn ze gaan gebruiken voor toepassingen in de echte wereld. Een bekende toepassing die door overheden wordt gebruikt, is het opsporen van individuen die problemen kunnen veroorzaken. Dergelijke systemen zijn getraind om de menselijke vorm te herkennen - als dat eenmaal gebeurt, een gezichtsherkenningssysteem kan worden geactiveerd. Recent onderzoek heeft aangetoond dat gezichtsherkenningssystemen voor de gek kunnen worden gehouden door gebruikers die een speciaal ontworpen bril dragen. En nu blijkt dat AI-systemen die mensen spotten voor de gek kunnen houden door afbeeldingen die voor hun formulieren worden geplaatst.

In hun poging om een ​​bepaald mensherkennend AI-systeem genaamd YoLo(v2) voor de gek te houden, creëerden of bewerkten de onderzoekers verschillende soorten afbeeldingen die ze vervolgens testten met het AI-systeem totdat ze er een vonden die bijzonder goed werkte:een afbeelding van mensen met kleurrijke paraplu's dat was veranderd door het te draaien en ruis toe te voegen. Om het AI-systeem voor de gek te houden, de foto werd in een positie gehouden die de doos in beslag nam die het AI-systeem maakte om te bepalen of een bepaald object identificeerbaar was.

De onderzoekers demonstreerden de effectiviteit van hun vijandige patch door een video te maken die de dozen liet zien die door het AI-systeem waren getekend terwijl het objecten in zijn gezichtsveld tegenkwam en vervolgens identificatielabels op hen plaatste. Zonder de pleister, het systeem identificeerde de mensen in de video heel gemakkelijk als menselijke wezens, maar als een van hen de patch over hun middel hield, het AI-systeem kon hun aanwezigheid niet meer detecteren.

© 2019 Wetenschap X Netwerk