Decennia nadat Isaac Asimov voor het eerst zijn wetten voor robots schreef, hun steeds groter wordende rol in ons leven vereist een radicaal nieuwe reeks regels, jurist en AI-expert Frank Pasquale waarschuwde donderdag.

De wereld is veranderd sinds sciencefictionauteur Asimov in 1942 zijn drie regels voor robots schreef, inclusief dat ze nooit mensen mogen schaden, en de alomtegenwoordige computers en algoritmen van vandaag vragen om up-to-date maatregelen.

Volgens Pasquale, auteur van "The Black Box Society:de geheime algoritmen achter geld en informatie", vier nieuwe, juridisch geïnspireerde regels moeten worden toegepast op robots en AI in ons dagelijks leven.

"De eerste is dat robots professionals moeten aanvullen in plaats van vervangen", vertelde Pasquale aan AFP in de marge van een roboticaconferentie in de Pauselijke Academie van Wetenschappen van het Vaticaan.

"In plaats van een robotdokter te hebben, je moet hopen dat je een dokter hebt die echt begrijpt hoe AI werkt en echt goed advies krijgt van AI, maar uiteindelijk is het de beslissing van een arts om te beslissen wat te doen en wat niet te doen."

"De tweede is dat we robotwapenwedlopen moeten stoppen. Er zijn op dit moment veel mensen die investeren in oorlogsrobots, militaire robots, politierobots."

Geen mensachtigen

Pasquale, een docent rechten aan de Universiteit van Maryland, zegt dat het belangrijk is dat elke investering in militaire robotica of AI een voordeel moet opleveren dat "niet meteen door je vijanden wordt tenietgedaan".

"Het is gewoon deprimerend, het is geld in een gat, je bouwt een robot die kan zien of mijn robot kan zien of jouw robot kan zien of mijn robot op het punt staat aan te vallen. Het houdt gewoon nooit op."

De derde, en meest controversiële, regel is om geen humanoïde robots of AI te maken, zegt Pasquale, met het voorbeeld van een Google-assistent genaamd Duplex die mensen zou bellen om hotelreserveringen te bevestigen zonder hen te vertellen dat ze met een computer spraken.

"Daar was onmiddellijk een reactie op, omdat mensen dachten dat het Google was die probeerde zijn machines door te geven als een mens en ik denk dat het principe van vervalsing het belangrijkste is. dat we de mensheid niet moeten vervalsen."

Robots kunnen er humanoïde uitzien "alleen als het absoluut noodzakelijk is voor de taak, " zei Pasquale, zoals 'zorgrobots of seksrobots'.

De vierde en laatste wet is dat elke robot of AI "toe te schrijven moet zijn aan of eigendom moet zijn van een persoon of een bedrijf dat uit personen bestaat, omdat... we weten hoe we mensen moeten straffen, maar we weten niet hoe we machines moeten straffen."

Technologie op twee niveaus

"Als er drones rondvliegen die autonoom zijn, auto's die autonoom zijn, bots online die spreken op Twitter of in financiële handelsaandelen, al die moeten worden toegeschreven aan een persoon."

"Er zijn bedrijven zoals Facebook waar ze het bedrijf gewoon een boete geven, maar ze dwingen nooit iemand om geld op te geven of opgesloten te worden voor iets verkeerds. En dat is een probleem.

"We hebben al een probleem met bedrijven en als we robots toestaan ​​om daarbuiten te zijn zonder toe te schrijven aan een persoon of bedrijf, wordt het alleen maar erger. " zei Pasquale, wiens boek "New Laws of Robotics" zal worden gepubliceerd door Harvard University Press.

Wat ten koste van alles moet worden vermeden, is tweeledige technologie, zoals voorgesteld door Boeing voor hun 737-MAX-vliegtuigen, geaard nadat honderden stierven in twee crashes die werden toegeschreven aan een sensor die faalde vanwege een softwarefout.

"Ze hebben op een zeer hoog niveau besloten dat ze luchtvaartmaatschappijen zouden toestaan ​​een tweede sensor te kopen, maar dat zou een extra kostenpost zijn. Ik denk dat het 80 was, 000 dollar extra per vliegtuig, en dat is voor mij een voorbode van een hoop problemen."

"Een deel van wat de wet moet doen, is tussenbeide komen en zeggen dat we bepaalde van deze koopjes niet zullen toestaan, we gaan zeggen dat we een standaard hebben voor vliegen, het is een enkele standaard, het is niet zo dat ik moet opzoeken of Ryanair, American Airlines of Lufthansa kochten de extra sensor, want dat is waanzin."

© 2019 AFP