De samenleving besteedt meer dan ooit aandacht aan de kwestie van vooringenomenheid in kunstmatige-intelligentiesystemen, en in het bijzonder die welke worden gebruikt om afbeeldingen van gezichten te herkennen en te analyseren. Bij IBM, we ondernemen de volgende acties om ervoor te zorgen dat gezichtsherkenningstechnologie op verantwoorde wijze wordt gebouwd en getraind:

(1) Een van de grootste problemen die vooroordelen op het gebied van gezichtsanalyse veroorzaken, is het gebrek aan diverse gegevens om systemen op te trainen. Dus, deze herfst, we zullen het volgende openbaar maken als hulpmiddel voor de technologische industrie en onderzoeksgemeenschap:

1. Een dataset voor gezichtskenmerken en identiteitstraining van meer dan 1 miljoen afbeeldingen om de training van het gezichtsanalysesysteem te verbeteren, ontwikkeld door wetenschappers van IBM Research. Het is geannoteerd met attributen en identiteit, gebruikmakend van geo-tags van Flickr-afbeeldingen om gegevens uit meerdere landen in evenwicht te brengen en actieve leerhulpmiddelen om vooringenomenheid bij steekproefselectie te verminderen. Momenteel, de grootste beschikbare dataset voor gezichtskenmerken is 200, 000 afbeeldingen, dus deze nieuwe dataset met een miljoen afbeeldingen zal een enorme verbetering zijn. Aanvullend, datasets die vandaag beschikbaar zijn, bevatten alleen attributen (haarkleur, gezichtshaar, enz.) of identiteit (identificeren dat 5 afbeeldingen van dezelfde persoon zijn) - maar niet beide. Deze nieuwe dataset verandert dat om een ​​enkele mogelijkheid te maken om attributen aan een individu te koppelen.
2. Een dataset met 36, 000 gezichtsafbeeldingen – gelijk verdeeld over alle etniciteiten, geslachten, en leeftijden om een ​​meer diverse dataset te bieden die mensen kunnen gebruiken bij de evaluatie van hun technologieën. Dit zal specifiek algoritmeontwerpers helpen om vooroordelen in hun gezichtsanalysesystemen te identificeren en aan te pakken. De eerste stap bij het aanpakken van vooringenomenheid is weten dat er een vooroordeel is - en dat is wat deze dataset mogelijk maakt.

(2) Eerder dit jaar, we hebben de nauwkeurigheid van onze Watson Visual Recognition-service voor gezichtsanalyse aanzienlijk verhoogd, die een bijna tienvoudige afname van het foutenpercentage voor gezichtsanalyse liet zien. En, we blijven streven naar voortdurende verbeteringen. Op 14 september wordt een technische workshop gehouden (door IBM Research in samenwerking met de Universiteit van Maryland) om vooroordelen in gezichtsanalyse te identificeren en te verminderen, 2018 in combinatie met ECCV 2018. De resultaten van de wedstrijd met behulp van de IBM-gezichtsbeelddataset worden tijdens de workshop bekendgemaakt. Verder, onze onderzoekers blijven samenwerken met een breed scala aan belanghebbenden, gebruikers en experts om andere vooroordelen en kwetsbaarheden te begrijpen die van invloed kunnen zijn op AI-besluitvorming, zodat we onze systemen kunnen blijven verbeteren."

AI heeft een aanzienlijke macht om de manier waarop we leven en werken te verbeteren, maar alleen als AI-systemen op verantwoorde wijze worden ontwikkeld en getraind, en resultaten opleveren die we vertrouwen. Ervoor zorgen dat het systeem is getraind op evenwichtige gegevens, en het wegwerken van vooroordelen is van cruciaal belang voor het bereiken van een dergelijk vertrouwen.

Naarmate de adoptie van AI toeneemt, de kwestie van het voorkomen van vooringenomenheid in AI-systemen komt op de voorgrond. Wij geloven dat geen enkele technologie - hoe nauwkeurig ook - het menselijk oordeel kan of mag vervangen, intuïtie en expertise. De kracht van geavanceerde innovaties, zoals AI, ligt in hun vermogen om te vergroten, niet vervangen, menselijke besluitvorming. Het is daarom van cruciaal belang dat elke organisatie die AI gebruikt, inclusief visuele herkenning of video-analysemogelijkheden, de teams die ermee werken traint om vooringenomenheid, inclusief impliciete en onbewuste vooringenomenheid, erop letten, en weet hoe je het moet aanpakken.

Als een bedrijf dat toonaangevend is in het stimuleren van diversiteit en inclusie in de bedrijfswereld, discriminatie van welke aard dan ook is in strijd met de waarden van IBM. We doen er alles aan om ervoor te zorgen dat AI-technologieën zonder vooroordelen worden ontwikkeld.

Al meer dan een eeuw, IBM heeft op verantwoorde wijze revolutionaire technologieën de wereld ingestuurd. We zijn toegewijd aan het leveren van AI-services die op verantwoorde wijze zijn gebouwd, zijn onbevooroordeeld en verklaarbaar. Ons bedrijf wordt geleid door een reeks vertrouwens- en transparantieprincipes, waaronder onze vaste overtuiging dat bedrijven die AI bevorderen de verantwoordelijkheid hebben om het probleem van vooringenomenheid direct aan te pakken. En we werken voortdurend aan het evalueren en updaten van onze diensten, door ze te bevorderen op een manier die betrouwbaar en inclusief is.