Een klein team van medische onderzoekers van de Harvard University en MIT heeft een artikel van het Policy Forum in het tijdschrift gepubliceerd Wetenschap wat suggereert dat toekomstige medische AI-systemen kwetsbaar kunnen zijn voor vijandige aanvallen. Ze wijzen erop dat eerder onderzoek heeft aangetoond dat vrijwel alle AI-systemen op de een of andere manier kwetsbaar zijn voor dergelijke aanvallen.

Een vijandige aanval op het gebied van machine learning is een poging door middel van kwaadwillende input om het model waarop een dergelijk systeem is gebouwd voor de gek te houden. In praktijk, dit betekent dat een AI-systeem een ​​soort informatie moet geven die het dwingt om onjuiste resultaten te retourneren. De onderzoekers suggereren dat een dergelijke aanval gericht zou kunnen zijn op detectiesystemen zoals die geprogrammeerd zijn om kanker te vinden door scans te analyseren. Ze lieten zelfs zien hoe een vijandige aanval zou werken door een systeem een ​​bepaald ruispatroon te geven dat verwarring veroorzaakte, met onjuiste resultaten tot gevolg.

Maar dit is niet het soort vijandige aanval waar de onderzoekers zich echt zorgen over maken. Wat hen het meest zorgen baart, zijn de AI-systemen die zijn ontwikkeld en al in gebruik zijn en die betrokken zijn bij het verwerken van claims en facturering - de mogelijkheid dat ziekenhuizen of zelfs artsen dergelijke systemen zouden kunnen gebruiken om informatie op formulieren te wijzigen om meer betaald te krijgen door verzekeringsmaatschappijen of Medicaid voor het uitvoeren van tests, bijvoorbeeld, door een code te wijzigen om een ​​eenvoudige röntgenfoto eruit te laten zien als een MRI-test. Door een AI-systeem het juiste stukje informatie op het juiste moment te geven, zou het precies dat kunnen doen. Er bestaat ook de mogelijkheid dat een ziekenhuis zijn AI-systeem kan leren de beste manieren te vinden om verzekeringsmaatschappijen of de overheid op te lichten, waardoor het bijna niet te detecteren is.

De onderzoekers suggereren dat er een nieuwe benadering van beleidsvorming nodig is - een waarbij mensen uit een grote verscheidenheid aan vakgebieden, inclusief wet, informatica en geneeskunde, het probleem aanpakken voordat het de overhand krijgt. Dergelijke groepen kunnen misschien, manieren vinden om dit te voorkomen, of in ieder geval detecteren als dat zo is.

© 2019 Wetenschap X Netwerk