Het Congres begint interesse te tonen in het openbreken van de 'zwarte doos' van de kunstmatige intelligentie van technologiebedrijven met toezicht dat parallel loopt met hoe de federale overheid onder autokappen controleert en banken controleert.

Een voorstel dat woensdag werd ingediend en mede werd gesteund door een democratische presidentskandidaat, Sen. Cory Booker, zou van grote bedrijven eisen dat ze de "algoritmische verantwoording" van hun risicovolle AI-systemen testen, zoals technologie die gezichten detecteert of belangrijke beslissingen neemt op basis van uw meest gevoelige persoonlijke gegevens.

"Computers zijn steeds meer betrokken bij zoveel van de belangrijkste beslissingen die Amerikanen nemen met betrekking tot hun dagelijks leven - of iemand een huis kan kopen, een baan krijgen of zelfs naar de gevangenis gaan, " Sen. Ron Wyden zei in een interview met The Associated Press. De Oregon Democraat is mede-sponsor van het wetsvoorstel.

“Als de bedrijven er echt op ingaan, ze gaan op zoek naar vooroordelen in hun systemen, ' zei Wyden. 'Ik denk dat ze veel zullen vinden.'

Het voorstel van de Democraten is het eerste in zijn soort, en kan een zware strijd tegemoet gaan in de door de Republikeinen geleide Senaat. Maar het weerspiegelt het groeiende - en tweeledige - onderzoek van de grotendeels ongereguleerde data-economie - alles van sociale media-feeds, online gegevensmakelaars, financiële algoritmen en zelfrijdende software die een steeds grotere impact hebben op het dagelijks leven. Een tweeledige Senaatswet die vorige maand werd geïntroduceerd, zou bedrijven ertoe verplichten mensen op de hoogte te stellen voordat ze gezichtsherkenningssoftware gebruiken. terwijl ook tests door derden vereist zijn om te controleren op bias-problemen.

Academische studies en praktijkvoorbeelden hebben gezichtsherkenningssystemen blootgelegd die vrouwen met een donkere huid verkeerd identificeren, geautomatiseerde leentools die hogere rentetarieven in rekening brengen aan Latino en zwarte leners, en tools voor het werven van banen die de voorkeur geven aan mannen in sectoren waar ze al domineren.

"Er is een mythe dat algoritmen zo neutraal zijn, objectieve dingen, " zei Aaron Rieke, directeur bij belangenvereniging Upturn. "Machine learning pikt patronen op in de samenleving - wie doet wat, wie koopt wat, of wie welke baan heeft. Dat zijn patronen gevormd door problemen waar we al decennia mee worstelen."

De regering van president Donald Trump neemt ook nota en heeft de ontwikkeling van "veilige en betrouwbare" algoritmen tot een belangrijke doelstelling van het nieuwe AI-initiatief van het Witte Huis gemaakt. Maar het zou dit vooral doen door een bestaand, door de industrie aangestuurd proces van het creëren van technologische normen te versterken.

"Er is behoefte aan meer transparantie en vergelijkbaarheid van gegevens, " en voor het opsporen en verminderen van vertekening in deze systemen, zei ondersecretaris van Handel, Walter Copan, die het National Institute of Standards and Technology leidt. "Consumenten vliegen in wezen blind."

Tientallen ontwikkelaars van gezichtsherkenning, inclusief merknamen zoals Microsoft, vorig jaar dienden hun eigen algoritmen in bij het bureau van Copan, zodat ze konden worden geëvalueerd en met elkaar vergeleken. De resultaten toonden significante winsten in nauwkeurigheid ten opzichte van voorgaande jaren.

Maar Wyden zei dat de vrijwillige normen niet genoeg zijn.

"Zelfregulering heeft hier duidelijk gefaald, " hij zei.

In een gedurfdere zet van de regering-Trump, het federale ministerie van Volkshuisvesting en Stedelijke Ontwikkeling heeft Facebook belast met het toestaan ​​van verhuurders en makelaars om systematisch groepen zoals niet-christenen, immigranten en minderheden geen advertenties voor huizen en appartementen te zien krijgen.

Boeker, in een verklaring over zijn wetsvoorstel, zei dat hoewel de Facebook-actie van HUD een belangrijke stap is, het is noodzakelijk om dieper te graven om de "pernicieuze manieren" aan te pakken die discriminatie op technische platforms werkt, soms onbedoeld.

Booker zei dat bevooroordeelde algoritmen dezelfde soort discriminerende vastgoedpraktijken veroorzaken die zijn ouders in New Jersey en andere zwarte stellen eind jaren zestig probeerden weg te sturen uit bepaalde Amerikaanse buurten. Deze keer, hij zei, het is moeilijker te detecteren en te bestrijden.

Het wetsvoorstel dat hij en Wyden hebben ingediend, zou de Federal Trade Commission in staat stellen nieuwe regels vast te stellen en af ​​te dwingen voor bedrijven om te controleren op juistheid, vooringenomenheid en mogelijke privacy- of beveiligingsproblemen in hun geautomatiseerde systemen, en corrigeer ze als er problemen worden gevonden. Het stelt kleinere bedrijven vrij die minder dan $ 50 miljoen per jaar verdienen, tenzij het gegevensmakelaars zijn met informatie over ten minste 1 miljoen consumenten.

New York Democratische Rep. Yvette Clarke, die een begeleidend wetsvoorstel in het Huis introduceert, zei dat het doel is om problemen op te lossen, niet alleen om ze te beoordelen. Ze zei dat het logisch is om de FTC de bevoegdheid te geven om regelmatig te controleren hoe deze systemen presteren, omdat het "de vinger aan de pols houdt van wat er met consumenten gebeurt".

© 2019 The Associated Press. Alle rechten voorbehouden.