De regering-Biden heeft dinsdag een reeks verreikende doelen onthuld die gericht zijn op het voorkomen van schade veroorzaakt door de opkomst van kunstmatige-intelligentiesystemen, inclusief richtlijnen voor het beschermen van de persoonlijke gegevens van mensen en het beperken van surveillance.

De blauwdruk voor een AI Bill of Rights bevat met name geen specifieke handhavingsacties, maar is in plaats daarvan bedoeld als een oproep tot actie van het Witte Huis voor de Amerikaanse regering om digitale en burgerrechten te beschermen in een door AI aangedreven wereld, aldus functionarissen. P>

"Dit is de regering-Biden-Harris die echt zegt dat we moeten samenwerken, niet alleen binnen de regering, maar in alle sectoren, om gelijkheid echt centraal te stellen en burgerrechten centraal te stellen in de manieren waarop we maken en gebruiken en technologieën regeren", zegt Alondra Nelson, adjunct-directeur voor wetenschap en samenleving bij het White House Office of Science and Technology Policy. "We kunnen en moeten beter verwachten en beter eisen van onze technologieën."

Het kantoor zei dat het witboek een belangrijke stap vooruit is in de agenda van de regering om technologiebedrijven verantwoordelijk te houden, en benadrukte de toezeggingen van verschillende federale instanties om nieuwe regels af te wegen en de specifieke effecten van AI-technologieën te bestuderen. Het document kwam tot stand na een jaar lang overleg met meer dan twee dozijn verschillende afdelingen en bevat ook feedback van maatschappelijke organisaties, technologen, onderzoekers uit de sector en technologiebedrijven, waaronder Palantir en Microsoft.

Het stelt vijf kernprincipes naar voren die volgens het Witte Huis in AI-systemen moeten worden ingebouwd om de gevolgen van algoritmische vooringenomenheid te beperken, gebruikers controle over hun gegevens te geven en ervoor te zorgen dat geautomatiseerde systemen veilig en transparant worden gebruikt.

De niet-bindende principes citeren academisch onderzoek, bureaustudies en nieuwsrapporten die reële schade door AI-aangedreven tools hebben gedocumenteerd, waaronder gezichtsherkenningstools die hebben bijgedragen aan onrechtmatige arrestaties en een geautomatiseerd systeem dat discrimineerde tegen leningzoekers die een historisch zwarte bijeenkomst bijwoonden. Hogeschool of universiteit.

Het witboek zei ook dat zowel ouders als maatschappelijk werkers baat kunnen hebben bij het weten of kinderwelzijnsinstanties algoritmen gebruiken om te beslissen wanneer gezinnen moeten worden onderzocht op mishandeling.

Eerder dit jaar, na de publicatie van een AP-recensie van een algoritmisch hulpmiddel dat wordt gebruikt in een kinderwelzijnssysteem in Pennsylvania, hebben OSTP-medewerkers contact opgenomen met bronnen die in het artikel worden geciteerd om meer te weten te komen, volgens meerdere mensen die aan de oproep hebben deelgenomen. AP's investigation found that the Allegheny County tool in its first years of operation showed a pattern of flagging a disproportionate number of Black children for a "mandatory" neglect investigation, when compared with white children.

In May, sources said Carnegie Mellon University researchers and staffers from the American Civil Liberties Union spoke with OSTP officials about child welfare agencies' use of algorithms. Nelson said protecting children from technology harms remains an area of concern.

"If a tool or an automated system is disproportionately harming a vulnerable community, there should be, one would hope, that there would be levers and opportunities to address that through some of the specific applications and prescriptive suggestions," said Nelson, who also serves as deputy assistant to President Joe Biden.

OSTP did not provide additional comment about the May meeting.

Still, because many AI-powered tools are developed, adopted or funded at the state and local level, the federal government has limited oversight regarding their use. The white paper makes no specific mention of how the Biden administration could influence specific policies at state or local levels, but a senior administration official said the administration was exploring how to align federal grants with AI guidance.

The white paper does not have power over tech companies that develop the tools nor does it include any new legislative proposals. Nelson said agencies would continue to use existing rules to prevent automated systems from unfairly disadvantaging people.

The white paper also did not specifically address AI-powered technologies funded through the Department of Justice, whose civil rights division separately has been examining algorithmic harms, bias and discrimination, Nelson said.

Tucked between the calls for greater oversight, the white paper also said when appropriately implemented, AI systems have the power to bring about lasting benefits to society, such as helping farmers grow food more efficiently or identifying diseases.

"Fueled by the power of American innovation, these tools hold the potential to redefine every part of our society and make life better for everyone. This important progress must not come at the price of civil rights or democratic values," the document said. + Verder verkennen

White House proposes tech 'bill of rights' to limit AI harms

© 2022 The Associated Press. Alle rechten voorbehouden. Dit materiaal mag niet worden gepubliceerd, uitgezonden, herschreven of opnieuw verspreid zonder toestemming.