Google kondigde donderdag aan geen kunstmatige intelligentie te gebruiken voor wapens of om "mensen letsel te veroorzaken of rechtstreeks te vergemakkelijken, " omdat het een reeks principes voor de technologieën onthulde.

CEO Sundar Pichai, in een blogpost waarin het kunstmatige-intelligentiebeleid van het bedrijf wordt geschetst, merkte op dat hoewel Google AI niet zal gebruiken voor wapens, "we zullen doorgaan met ons werk met regeringen en het leger op veel andere gebieden", zoals cyberbeveiliging, opleiding, of zoeken en redden.

Het nieuws komt met Google geconfronteerd met een opschudding van werknemers en anderen over een contract met het Amerikaanse leger, waarvan de Californische techgigant vorige week zei dat deze niet zou worden verlengd.

Pichai heeft zeven principes uiteengezet voor de toepassing van kunstmatige intelligentie door Google, of geavanceerd computergebruik dat intelligent menselijk gedrag kan simuleren.

Hij zei dat Google AI gebruikt "om mensen te helpen dringende problemen aan te pakken", zoals het voorspellen van bosbranden, boeren helpen, diagnose van ziekte of het voorkomen van blindheid.

"We erkennen dat zulke krachtige technologie even krachtige vragen oproept over het gebruik ervan, " zei Pichai in de blog.

"Hoe AI wordt ontwikkeld en gebruikt, zal de komende jaren een aanzienlijke impact hebben op de samenleving. Als leider in AI, we voelen een diepe verantwoordelijkheid om dit goed te doen."

De chief executive zei dat de AI-programma's van Google zouden worden ontworpen voor toepassingen die "sociaal voordelig" zijn en "het creëren of versterken van oneerlijke vooroordelen vermijden".

Hij zei dat de principes ook opriepen om AI-applicaties te bouwen en te testen op veiligheid, "verantwoording afleggen aan mensen" en "privacyontwerpprincipes opnemen".

Google vermijdt het gebruik van technologieën "die algemene schade veroorzaken of kunnen veroorzaken, ’ schreef Pichai.

Dat betekent dat we ons moeten afwenden van "wapens of andere technologieën waarvan het hoofddoel of de implementatie is om mensen letsel toe te brengen of rechtstreeks te vergemakkelijken" en systemen "die informatie verzamelen of gebruiken voor surveillance die in strijd zijn met internationaal aanvaarde normen."

Google verbiedt ook het gebruik van technologieën "waarvan het doel in strijd is met algemeen aanvaarde principes van internationaal recht en mensenrechten, ' zei Picha.

'Een goede start'

De eerste reacties op de aankondiging waren positief.

De Electronic Frontier Foundation, die had geleid tot oppositie tegen het Project Maven-contract van Google met het Pentagon, noemde het nieuws "een grote overwinning voor ethische AI-principes".

"Felicitaties aan de Googlers en anderen die hard hebben gewerkt om het bedrijf te overtuigen zijn werk aan Project Maven te annuleren, "EFF zei op Twitter.

Ryan Calo, een professor in de rechten van de Universiteit van Washington en fellow aan het Stanford Center for Internet &Society, getweet, "Google's AI-ethiekprincipes zijn meer te danken aan (Engelse filosoof Jeremy) Bentham en de positivisten dan aan (Duitse filosoof) Kant. Niettemin, een goede start."

Calo heeft toegevoegd, "De duidelijke verklaring dat ze geen geweld of totalitair toezicht zullen faciliteren, is zinvol."

De verhuizing komt te midden van groeiende bezorgdheid dat geautomatiseerde of robotsystemen kunnen worden misbruikt en uit de hand lopen, leidt tot chaos. Tegelijkertijd, Google heeft kritiek gekregen dat het is afgedwaald van het motto van de oorspronkelijke oprichters:'wees niet kwaadaardig'.

Verschillende technologiebedrijven hebben al ingestemd met de algemene principes om kunstmatige intelligentie voorgoed te gebruiken, maar Google leek een nauwkeuriger set normen te bieden.

Het bedrijf, die al lid is van het Partnership on Artificial Intelligence, waaronder tientallen technologiebedrijven die zich inzetten voor AI-principes, kritiek had gekregen op het contract met het Pentagon over Project Maven, die machine learning en technisch talent gebruikt om mensen en objecten te onderscheiden in drone-video's.

Geconfronteerd met een petitie ondertekend door duizenden werknemers en kritiek buiten het bedrijf, Google gaf aan dat het contract van $ 10 miljoen niet zou worden verlengd, volgens berichten in de media.

Maar er wordt aangenomen dat Google concurreert met andere technische giganten zoals Amazon en Microsoft voor lucratieve "cloud computing"-contracten met de Amerikaanse overheid, ook voor militaire en inlichtingendiensten.

© 2018 AFP