Kunstmatige intelligentie kan worden ingezet door dictators, criminelen en terroristen om verkiezingen te manipuleren en drones te gebruiken bij terroristische aanslagen, meer dan twee dozijn experts zeiden woensdag toen ze alarm sloegen over misbruik van de technologie.

In een analyse van 100 pagina's ze schetsten een snelle groei van cybercriminaliteit en het gebruik van "bots" om in de komende vijf tot tien jaar de nieuwsgaring te verstoren en sociale media binnen te dringen in een groot aantal plausibele scenario's.

"Ons rapport richt zich op manieren waarop mensen opzettelijk kwaad kunnen doen met AI, "zei Sean, o heigeartaigh, Uitvoerend directeur van het Cambridge Centre for the Study of Existential Risk.

"AI kan nieuwe bedreigingen vormen, of de aard van bestaande bedreigingen veranderen, over cyber-, fysiek, en politieke veiligheid, ', zei hij tegen AFP.

De gangbare praktijk, bijvoorbeeld, van "phishing" - het verzenden van e-mails die zijn gezaaid met malware of zijn ontworpen om waardevolle persoonlijke gegevens te achterhalen - kan veel gevaarlijker worden, het rapport gedetailleerd.

Momenteel, pogingen tot phishing zijn ofwel generiek maar transparant - zoals oplichters die bankgegevens vragen om een ​​onverwachte meevaller te deponeren - of gepersonaliseerd maar arbeidsintensief - het verzamelen van persoonlijke gegevens om iemands vertrouwen te winnen, bekend als "spearphishing".

"Met behulp van AI, het zou mogelijk kunnen worden om spear-phishing op grote schaal toe te passen door een groot deel van het proces te automatiseren" en het moeilijker te herkennen te maken, O heigeartaigh merkte op.

In de politieke sfeer, gewetenloze of autocratische leiders kunnen al geavanceerde technologie gebruiken om bergen gegevens te doorzoeken die zijn verzameld van alomtegenwoordige bewakingsnetwerken om hun eigen mensen te bespioneren.

"Dictators zouden sneller mensen kunnen identificeren die van plan zijn een regime te ondermijnen, lokaliseer ze, en zet ze in de gevangenis voordat ze handelen, " aldus het rapport.

Hetzelfde, gerichte propaganda samen met goedkope, zeer geloofwaardige nepvideo's zijn krachtige instrumenten geworden voor het manipuleren van de publieke opinie "op voorheen onvoorstelbare schaal".

Een aanklacht die vorige week door de Amerikaanse speciale aanklager Robert Mueller werd uitgesproken, beschrijft een enorme operatie om sociale verdeeldheid in de Verenigde Staten te zaaien en de presidentsverkiezingen van 2016 te beïnvloeden, waarbij zogenaamde "trollenboerderijen" duizenden sociale netwerkbots manipuleerden, vooral op Facebook en Twitter.

Een andere gevarenzone aan de horizon is de verspreiding van drones en robots die kunnen worden hergebruikt om autonome voertuigen te laten crashen, raketten afleveren, of bedreigen met kritieke infrastructuur om losgeld te krijgen.

Autonome wapens

"Persoonlijk, Ik maak me vooral zorgen over het feit dat autonome drones worden gebruikt voor terreur en geautomatiseerde cyberaanvallen door zowel criminelen als staatsgroepen. " zei co-auteur Miles Brundage, een onderzoeker aan het Future of Humanity Institute van de Universiteit van Oxford.

Het rapport beschrijft een aannemelijk scenario waarin een SweepBot voor het schoonmaken van kantoren, uitgerust met een bom, het Duitse ministerie van Financiën infiltreert door samen te gaan met andere machines van hetzelfde merk.

De binnendringende robot gedraagt ​​zich normaal:vegen, schoonmaak, zwerfvuil opruimen - totdat de verborgen gezichtsherkenningssoftware de minister ziet en dichterbij komt.

"Een verborgen explosief werd geactiveerd door nabijheid, het doden van de minister en het verwonden van nabijgelegen personeel, "volgens de sci-fi verhaallijn.

"Dit rapport heeft een voorstelling gemaakt van hoe de wereld eruit zou kunnen zien in de komende vijf tot tien jaar, "Oh heigeartaigh zei.

"We leven in een wereld vol dagelijkse gevaren door het misbruik van AI, en we moeten de verantwoordelijkheid nemen voor de problemen."

De auteurs riepen beleidsmakers en bedrijven op om robotgestuurde software onhackbaar te maken, om veiligheidsbeperkingen op te leggen aan sommige onderzoeken, en om te overwegen de wet- en regelgeving voor AI-ontwikkeling uit te breiden.

Gigantische hightechbedrijven - leiders in AI - "hebben veel prikkels om ervoor te zorgen dat AI veilig en nuttig is, " aldus het rapport.

Een ander punt van zorg is het uitgebreide gebruik van geautomatiseerde dodelijke wapens.

Vorig jaar, meer dan 100 robotica- en AI-ondernemers, waaronder Tesla en SpaceX CEO Elon Musk, en de Britse astrofysicus Stephen Hawking - een verzoekschrift bij de Verenigde Naties ingediend om autonome moordrobots te verbieden, waarschuwen dat de wapens uit het digitale tijdperk door terroristen tegen burgers kunnen worden gebruikt.

"Dodelijke autonome wapens dreigen de derde revolutie in oorlogsvoering te worden, " na de uitvinding van machinegeweren en de atoombom, waarschuwden ze in een gezamenlijke verklaring, ook ondertekend door Google DeepMind mede-oprichter Mustafa Suleyman.

"We hebben niet lang om te handelen. Zodra deze doos van Pandora is geopend, het zal moeilijk zijn om te sluiten."

Medewerkers aan het nieuwe rapport, getiteld "The Malicious Use of AI:Forecasting, preventie, en mitigatie"—ook deskundigen van de Electronic Frontier Foundation, het Centrum voor een nieuwe Amerikaanse veiligheid, en OpenAI, een toonaangevend non-profit onderzoeksbureau.

"Of AI is, alles bij elkaar genomen, nuttig of schadelijk op de lange termijn is grotendeels een product van wat mensen verkiezen te doen, niet de technologie zelf, ' zei Brundage.

© 2018 AFP