Onderzoekers van CSIRO's Data61, de data- en digitale gespecialiseerde tak van het nationale wetenschappelijke agentschap van Australië, hebben een eerste reeks technieken ter wereld ontwikkeld om algoritmen effectief te 'vaccineren' tegen vijandige aanvallen, een aanzienlijke vooruitgang in onderzoek naar machine learning.

Algoritmen 'leren' van de gegevens waarop ze zijn getraind om een ​​machine learning-model te creëren dat een bepaalde taak effectief kan uitvoeren zonder specifieke instructies, zoals het maken van voorspellingen of het nauwkeurig classificeren van afbeeldingen en e-mails. Deze technieken worden al veel gebruikt, bijvoorbeeld om spam-e-mails te identificeren, diagnose van ziekten van röntgenstralen, gewasopbrengsten voorspellen en zullen binnenkort in onze auto's rijden.

Hoewel de technologie een enorm potentieel heeft om onze wereld positief te transformeren, kunstmatige intelligentie en machine learning zijn kwetsbaar voor vijandige aanvallen, een techniek die wordt gebruikt om machine learning-modellen voor de gek te houden door de invoer van kwaadaardige gegevens waardoor ze niet goed meer werken.

Dr. Richard Nock, machine learning groepsleider bij CSIRO's Data61 zei dat door een laag ruis (d.w.z. een tegenstander) over een afbeelding toe te voegen, aanvallers kunnen machine learning-modellen misleiden om de afbeelding verkeerd te classificeren.

"Adversariële aanvallen hebben bewezen in staat te zijn een machine learning-model te misleiden om een ​​verkeersstopbord ten onrechte als snelheidsbord te bestempelen, die in de echte wereld rampzalige gevolgen kunnen hebben.

"Onze nieuwe technieken voorkomen vijandige aanvallen met behulp van een proces dat vergelijkbaar is met vaccinatie, ' zei dokter Nock.

"We implementeren een zwakke versie van een tegenstander, zoals kleine wijzigingen of vervormingen aan een verzameling afbeeldingen, om een ​​meer 'moeilijke' trainingsdataset te creëren. Wanneer het algoritme wordt getraind op gegevens die zijn blootgesteld aan een kleine dosis vervorming, het resulterende model is robuuster en immuun voor vijandige aanvallen, "

In een onderzoekspaper aanvaard op de 2019 International Conference on Machine Learning (ICML), de onderzoekers tonen ook aan dat de 'vaccinatie'-technieken zijn opgebouwd uit de slechtst mogelijke vijandige voorbeelden, en kan daarom zeer sterke aanvallen weerstaan.

Adrian Turner, CEO van CSIRO's Data61 zei dat dit onderzoek een belangrijke bijdrage levert aan het groeiende veld van vijandige machine learning.

"Kunstmatige intelligentie en machine learning kunnen helpen bij het oplossen van enkele van 's werelds grootste sociale, economische en ecologische uitdagingen, maar dat kan niet zonder gericht onderzoek naar deze technologieën.

"De nieuwe technieken tegen vijandige aanvallen die bij Data61 zijn ontwikkeld, zullen een nieuwe lijn van machine learning-onderzoek op gang brengen en zorgen voor een positief gebruik van transformatieve AI-technologieën, ’ zei meneer Turner.

Het onderzoeksrapport, "Monge botst Bayes af:hardheidsresultaten voor vijandige training, " werd gepresenteerd op ICML op 13 juni in Los Angeles.