science >> Wetenschap >  >> Elektronica

Kunstmatige intelligentie heeft een probleem met raciale vooroordelen. Google financiert zomerkampen om dat te veranderen

Door verbindingen gemaakt op zomerkamp, middelbare scholieren Aarzu Gupta en Lili Sun gebruikten kunstmatige intelligentie om een ​​drone-programma te maken dat bosbranden moet detecteren voordat ze zich te ver verspreiden.

Rebecca Agwunobi, een stijgende middelbare school senior, genoeg geleerd om stage te lopen bij het Media Lab van het Massachusetts Institute of Technology, werken aan het gebruik van kunstmatige intelligentie om het rechtssysteem te evalueren, inclusief het verzamelen van gegevens over hoe rechters borgtocht bepalen.

Beide projecten kwamen voort uit de Oakland, Calif.-gebaseerde non-profit AI4All, die zijn bereik zal uitbreiden naar jonge ondervertegenwoordigde minderheden en vrouwen met een subsidie ​​van $ 1 miljoen van Google.org, de filantropische tak van de technologiegigant maakte vrijdag bekend.

Kunstmatige intelligentie wordt steeds meer gemeengoed in het dagelijks leven, vind je in alles, van de gezichtsherkenningsfunctie van Facebook voor foto's tot de gezichtsherkenning van Apple iPhone X.

Het is ook een van de meer omstreden onderdelen van technologie. Wijlen astrofysicus Stephen Hawking en Tesla-CEO Elon Musk hebben gewaarschuwd dat de menselijke beschaving gevaar loopt door de ongebreidelde ontwikkeling van kunstmatige intelligentie. die zouden kunnen leiden tot autonome terreurwapens. Dergelijke angsten brachten het personeel van Google eerder dit jaar ertoe om het bedrijf onder druk te zetten om een ​​drone-contract met het Pentagon stop te zetten.

De technologie, nog in de beginfase, is ook bekritiseerd vanwege ingebouwde raciale vooroordelen die bestaande stereotypen kunnen versterken. Dat is vooral zorgelijk omdat steeds meer bedrijven het gebruiken voor beslissingen zoals het aannemen van personeel en de politie, gebruikmakend van software op basis van kunstmatige intelligentie om verdachten te identificeren. MIT Media Lab-onderzoeker Joy Buolamwini, wie is zwart, ontdekte dat gezichtsherkenningssoftware haar gezicht gemakkelijker kon identificeren als ze een wit masker droeg, een resultaat van algoritmen die vertrouwden op datasets van voornamelijk blanke gezichten.

Drie jaar geleden, Google verontschuldigde zich nadat zijn foto-identificatiesoftware zwarte mensen ten onrechte als gorilla's bestempelde. Microsoft deed hetzelfde nadat gebruikers snel een manier hadden gevonden om een ​​door kunstmatige intelligentie aangedreven sociale chatbot te krijgen om racistische opmerkingen te verspreiden.

Tess Posner, CEO van de non-profitorganisatie AI4All, zei dat het probleem wordt verergerd door het feit dat minderheidsgroepen zoals vrouwen en gekleurde mensen van oudsher buiten de technische industrie zijn gelaten, vooral bij AI.

"We hebben mensen nodig die door deze technologieën worden beïnvloed, en we hebben ook inclusie nodig om ervoor te zorgen dat ze op verantwoorde wijze worden ontwikkeld, "Zei Posner. "(bias) gebeurt wanneer we geen mensen hebben die vanaf het begin de juiste vragen stellen."

Ondanks verklaarde inspanningen om meer vrouwen en meer gekleurde mensen aan te trekken, Google, Facebook en andere grote techreuzen zijn traag geweest met het diversifiëren van hun personeel en het is ze niet gelukt om veel gekleurde vrouwen in dienst te nemen. Afro-Amerikaanse en Latijns-Amerikaanse vrouwen vormen niet meer dan één procent van het totale personeelsbestand van Silicon Valley.

Posner's organisatie is van mening dat de tech-industrie in een veel eerder stadium moet beginnen met het opnemen van vrouwen en mensen van kleur. Ze werken eraan om die kloof te dichten door middel van zomerkampen gericht op middelbare scholieren.

AI4All, gelanceerd in 2017, is gebaseerd op een zomerkampprogramma van twee weken van Stanford University.

Vanaf dat moment, De middelen van AI4All zijn over het hele land uitgebreid. In zijn eerste jaar, er waren slechts twee zomerkampen aan Stanford University en UC Berkeley. Dit jaar kwamen er nog vier bij op Carnegie Mellon, Princeton, Boston University en Simon Fraser University.

Alle kampen zijn gericht op middelbare scholieren die vrouw zijn, mensen van kleur of met een laag inkomen.

Een deel van de subsidie ​​van Google.org gaat naar het openen van meer AI4All-kampen. Het uiteindelijke doel is om het geld te gebruiken om een ​​gratis, online AI-curriculumcursus die voor iedereen ter wereld toegankelijk zal zijn. Er is al een cursus in de maak.

"We moeten AI echt maken door verschillende makers, en dat begint met mensen die toegang hebben tot de leermogelijkheden om in de kern te begrijpen wat AI is en hoe het kan worden toegepast, " Hannah Peter, de leider van het AI4All-partnerschap van Google.org, zei.

Naast het geven van zomerkampen, AI4All biedt ook fellowships van drie maanden aan waar studenten hun eigen projecten kunnen ontwikkelen en pitchen voor AI-experts in de industrie, evenals financiering voor hun studenten om onafhankelijke initiatieven te lanceren.

Een voorbeeld van zo'n initiatief was de workshop van AI4All-alumnus Ananya Karthik, creAite, die kunstmatige intelligentie gebruikt om kunstwerken te maken. Karthik verzamelde enkele tientallen meisjes op een zonnige maandagmiddag in Oakland's Kapor Center om hen te laten zien hoe ze het Deep Dream Generator-programma kunnen gebruiken om afbeeldingen samen te smelten tot een uniek kunstwerk.

Andere AI4All-studenten, waarvan de meesten nog op de middelbare school zitten, hun nieuw verworven technische vaardigheden hebben omgezet in actuele, dringende problemen, zoals het natuurbrandproject ontwikkeld door Gupta en Sun, van AI4All's 2017 en 2016 klasse, respectievelijk. De twee leerden elkaar dit jaar kennen tijdens een van de drie maanden durende fellowships van AI4All. Dit idee kwam voort uit de branden in Napa en Sonoma County die eind vorig jaar Noord-Californië teisterden.

De kampen bevestigden hun interesse in STEM-carrières. Ze waardeerden ook de lezingen van het kamp met voorbeelden uit de praktijk van vrouwen uit minderheden die in de industrie konden slagen.

"Ik wil verandering initiëren met behulp van kunstmatige intelligentie, " zei Sun. "Ik wil niet alleen aan een iPhone werken of iets dergelijks ... (AI4All) gaf me echte voorbeelden van mensen die erin zijn geslaagd, wat best gaaf is. Ik wist dat ik het kon."

Door haar ervaringen Gupta zei, ze kijkt ernaar uit om een ​​carrière in AI te verkennen, vooral in het gebruik ervan voor gezondheid en geneeskunde. Die interesse zet ze deze zomer al in voor haar stage bij UC San Francisco, waar het lab waar ze werkt onderzoek doet naar de verhoogde risicofactoren voor vrouwen bij het ontwikkelen van de ziekte van Alzheimer.

Amy Jin, een AI4All 2015-alumna en een opkomende eerstejaarsstudent voor de Harvard University in de herfst, zei dat het programma haar ogen opende voor alle mogelijkheden van AI als hulpmiddel voor het oplossen van problemen uit de echte wereld.

Met behulp van operatievideo's van UCSF, jin, samen met een van haar AI4All-mentoren, een programma ontwikkeld dat de instrumenten van een chirurg kan volgen, bewegingen en handplaatsing om feedback te geven over hoe ze hun techniek kunnen verbeteren.

Voor Agwunobi, AI4All was behulpzaam om haar te laten zien hoe ze haar passie voor activisme en sociale rechtvaardigheid kon combineren met haar interesse in technologie.

Tijdens haar MIT-stage, Agwunobi gebruikte gegevens die tijdens het proces voorafgaand aan het proces zijn verzameld om te evalueren hoe sleutelfiguren zoals rechters zich gedragen bij het vaststellen van borgtocht. Het doel is om activisten met deze gegevens te bewapenen bij het aandringen op hervorming van de borgtocht en het terugdringen van massale opsluiting.

"Je kunt met technologie werken en toch verantwoordelijk zijn voor gemeenschapsoplossingen, " zei Agwunobi. "(AI4All) bevestigde mijn wens om interessante problemen op te lossen die gemeenschappen hielpen waar ik verantwoordelijk voor was, in plaats van me het gevoel te geven dat ik uitverkocht was ... ik denk dat ik het zo wil aanpakken om humanitaire problemen in de toekomst op te lossen."

©2018 USA Today
Gedistribueerd door Tribune Content Agency, LLC.