Het Pentagon past nieuwe ethische principes toe terwijl het zich voorbereidt om het gebruik van kunstmatige-intelligentietechnologie op het slagveld te versnellen.

De nieuwe principes roepen mensen op om "passende niveaus van beoordelingsvermogen en zorgvuldigheid te betrachten" bij het inzetten en gebruiken van AI-systemen, zoals degenen die luchtbeelden scannen om doelen te zoeken.

Ze zeggen ook dat beslissingen die door geautomatiseerde systemen worden genomen, 'traceerbaar' en 'bestuurbaar' moeten zijn, " wat betekent "er moet een manier zijn om ze uit te schakelen of te deactiveren" als ze onbedoeld gedrag vertonen, zei luchtmacht luitenant-generaal Jack Shanahan, directeur van het Joint Artificial Intelligence Center van het Pentagon.

Het streven van het Pentagon om zijn AI-capaciteiten te versnellen, heeft geleid tot een gevecht tussen technologiebedrijven over een cloudcomputingcontract van $ 10 miljard dat bekend staat als de Joint Enterprise Defense Infrastructure. of JEDI. Microsoft won het contract in oktober, maar kon niet aan het 10-jarige project beginnen omdat Amazon het Pentagon had aangeklaagd, met het argument dat de antipathie van president Donald Trump jegens Amazon en zijn CEO Jeff Bezos de kansen van het bedrijf om het bod te winnen, schaadde.

Een bestaande militaire richtlijn uit 2012 vereist dat mensen de controle hebben over geautomatiseerde wapens, maar gaat niet in op breder gebruik van AI. De nieuwe Amerikaanse principes zijn bedoeld als leidraad voor zowel gevechts- als niet-gevechtstoepassingen, van inlichtingenvergaring en bewakingsoperaties tot het voorspellen van onderhoudsproblemen in vliegtuigen of schepen.

De maandag geschetste aanpak volgt op aanbevelingen die vorig jaar zijn gedaan door de Defense Innovation Board, een groep onder leiding van voormalig Google-CEO Eric Schmidt.

Hoewel het Pentagon erkende dat AI "nieuwe ethische dubbelzinnigheden en risico's met zich meebrengt, "De nieuwe principes schieten tekort voor sterkere beperkingen waar voorstanders van wapenbeheersing de voorkeur aan geven.

"Ik maak me zorgen dat de principes een beetje een ethisch wassen project zijn, " zei Lucy Suchman, een antropoloog die de rol van AI in oorlogsvoering bestudeert. "Het woord 'passend' staat open voor veel interpretaties."

Shanahan zei dat de principes opzettelijk breed zijn om te voorkomen dat het Amerikaanse leger wordt geboeid met specifieke beperkingen die verouderd zouden kunnen raken.

"Tech past zich aan. Tech evolueert, " hij zei.

Het Pentagon raakte in 2018 een wegversperring in zijn AI-inspanningen nadat interne protesten bij Google ertoe leidden dat het technologiebedrijf stopte met Project Maven van het leger. die algoritmen gebruikt om luchtbeelden uit conflictgebieden te interpreteren. Andere bedrijven hebben het vacuüm inmiddels opgevuld. Shanahan zei dat de nieuwe principes helpen om de steun van de technische industrie terug te winnen. waar "er was een dorst naar het hebben van deze discussie."

"Soms denk ik dat de angst een beetje gehyped is, maar we hebben mensen die zich ernstige zorgen maken over de samenwerking met het ministerie van Defensie, " hij zei.

Shanahan zei dat de begeleiding ook helpt om Amerikaans technologisch voordeel te behalen, aangezien China en Rusland militaire AI nastreven met weinig aandacht voor ethische zorgen.

Rechtsprofessor Rebecca Crootof van de Universiteit van Richmond zei dat het aannemen van principes een goede eerste stap is. maar het leger zal moeten laten zien dat het de enorme gegevensbestanden die door AI-systemen worden gebruikt, kritisch kan evalueren. evenals hun cyberbeveiligingsrisico's.

Crootof zei dat ze ook hoopt dat de Amerikaanse actie helpt bij het vaststellen van internationale normen rond het militaire gebruik van AI.

"Als de VS de ethische normen van AI serieus nemen, standaard worden ze een serieuzer onderwerp, " ze zei.

© 2020 The Associated Press. Alle rechten voorbehouden. Dit materiaal mag niet worden gepubliceerd, uitzending, herschreven of gedistribueerd zonder toestemming.