Brain-computer interfaces (BCI's) zijn hulpmiddelen die het menselijk brein kunnen verbinden met een elektronisch apparaat, meestal met behulp van elektro-encefalografie (EEG). In recente jaren, vooruitgang in machine learning (ML) heeft de ontwikkeling mogelijk gemaakt van meer geavanceerde BCI-spellers, apparaten waarmee mensen met behulp van hun gedachten met computers kunnen communiceren.

Tot dusver, de meeste onderzoeken op dit gebied hebben zich gericht op het ontwikkelen van BCI-classificaties die sneller en betrouwbaarder zijn, in plaats van hun mogelijke beveiligingsproblemen te onderzoeken. Recent onderzoek, echter, suggereert dat machine learning-algoritmen soms voor de gek kunnen worden gehouden door aanvallers, of ze worden gebruikt in computervisie, spraakherkenning, of andere domeinen. Dit wordt vaak gedaan aan de hand van tegenstrijdige voorbeelden, dat zijn kleine verstoringen in gegevens die niet te onderscheiden zijn door mensen.

Onderzoekers van de Huazhong University of Science and Technology hebben onlangs een onderzoek uitgevoerd naar de veiligheid van op EEG gebaseerde BCI-spellers, en meer specifiek, hoe ze worden beïnvloed door vijandige verstoringen. hun papier, voorgepubliceerd op arXiv, suggereert dat BCI-spellers door deze verstoringen voor de gek worden gehouden en dus zeer kwetsbaar zijn voor vijandige aanvallen.

"Dit artikel is bedoeld om een ​​kritiek veiligheidsprobleem aan het licht te brengen in op EEG gebaseerde BCI-spellers en meer in het algemeen, EEG-gebaseerde BCI's, die voorheen weinig aandacht kreeg, "Dongrui Wu, een van de onderzoekers die het onderzoek heeft uitgevoerd, vertelde TechXplore. "Het laat zien dat je minuscule EEG-verstoringssjablonen kunt genereren voor doelwitaanvallen voor zowel P300 als steady-state visual evoked potential (SSVEP) spellers, d.w.z., de classificatie misleiden naar elk personage dat de aanvaller wil, ongeacht wat het door de gebruiker bedoelde karakter is."

P300 BCI-spellers worden al in verschillende instellingen gebruikt, ook in klinieken, om bewustzijnsstoornissen te evalueren of op te sporen. Tegenstrijdige aanvallen op BCI-spellers kunnen dus tal van gevolgen hebben, variërend van eenvoudige bruikbaarheidsproblemen tot ernstige verkeerde diagnoses van patiënten.

"Wij zijn van mening dat een nieuw en meer gedetailleerd begrip van hoe vijandige EEG-verstoringen de BCI-classificatie beïnvloeden, het ontwerp van BCI's kan helpen om zich tegen dergelijke aanvallen te verdedigen, ' legde Wu uit.

Wu en zijn collega's ontdekten dat om een ​​succesvolle vijandige aanval op een BCI-speller uit te voeren, de aanvaller heeft slechts toegang nodig tot een deel van de gegevens die zijn gebruikt om het apparaat te trainen. Hij/zij kan deze gegevens gebruiken om de storingssjabloon te trainen, vervolgens de sjabloon toevoegen aan goedaardige EEG-proeven om de aanval uit te voeren.

De huidige benaderingen voor het uitvoeren van vijandige aanvallen hebben twee belangrijke beperkingen. Eerst, ze hebben een aantal onderwerpspecifieke EEG-monsters nodig om de sjabloon voor tegenstrijdige verstoring te maken. Tweede, om de aanval effectiever uit te voeren, de aanvaller moet de exacte timing van de EEG-stimulus weten. Als de aanvaller deze beperkingen met succes overwint, de impact van zijn/haar aanval zou veel groter kunnen zijn.

"Het verdedigen van vijandige aanvallen is een veelvoorkomend onderzoeksprobleem in veel toepassingen van machine learning, bijv. computer visie, spraakherkenning, en BCI's, " zei Wu. "Als we weten welke aanpak de aanvaller neemt, dan kunnen we strategieën ontwikkelen om ons ertegen te verdedigen, net als hoe we ons verdedigen tegen computervirussen:er breekt eerst een virus uit en dan vinden we manieren om het te doden."

Aanvallers proberen altijd nieuwe manieren te bedenken om beveiligingsmaatregelen te omzeilen, het is dus belangrijk dat onderzoekers systeemkwetsbaarheden blijven onderzoeken en met nieuwe beveiligingsmaatregelen komen. Hoewel het onvermijdelijk is dat er gerichte beveiligingsoplossingen worden ontwikkeld nadat een specifieke kwetsbaarheid is vastgesteld, het blootleggen van algemene problemen met een systeem en het nemen van voorzorgsmaatregelen kan erg nuttig zijn.

De studie die door Wu en zijn collega's is uitgevoerd, heeft geholpen om algemene veiligheidsrisico's in verband met EEG-gebaseerde BCI's aan het licht te brengen. Hun bevindingen kunnen helpen bij het identificeren van voorlopige oplossingen die de impact van vijandige aanvallen op deze apparaten kunnen verminderen.

Wu en zijn collega's hopen dat hun onderzoek anderen zal aanmoedigen om de beperkingen en kwetsbaarheden van op EEG gebaseerde spellers of andere BCI-apparaten te onderzoeken. Hun bevindingen kunnen uiteindelijk de weg vrijmaken voor de ontwikkeling van technieken om de beveiliging van BCI's te versterken, het voorkomen van verkeerde diagnoses en andere ongewenste effecten van vijandige aanvallen.

"We willen benadrukken dat het doel van deze studie niet is om op EEG gebaseerde BCI's te beschadigen, maar om aan te tonen dat ernstige vijandige aanvallen op op EEG gebaseerde BCI's mogelijk zijn en daarmee een kritiek veiligheidsprobleem aan het licht te brengen dat voorheen weinig aandacht kreeg, " zei Wu. "In ons toekomstig onderzoek, we zijn van plan strategieën te ontwikkelen om ons tegen dergelijke aanvallen te verdedigen. In de tussentijd, we hopen dat onze studie de aandacht van meer onderzoekers kan trekken voor de veiligheid van op EEG gebaseerde BCI's."

© 2020 Wetenschap X Netwerk