Van telecommunicatie tot wegverkeer, van gezondheidszorg tot de werkplek - digitale technologie is nu een intrinsiek onderdeel van bijna elk gebied van het leven. Maar hoe kunnen we ervoor zorgen dat de ontwikkelingen op dit gebied, vooral degenen die afhankelijk zijn van kunstmatige intelligentie (AI), voldoen aan al onze ethische, juridische en technologische zorgen? In een project onder leiding van het Fraunhofer Instituut voor Intelligente Analyse en Informatiesystemen IAIS, en met de deelname van het Duitse Federale Bureau voor Informatiebeveiliging (BSI), een interdisciplinair team van wetenschappers van de universiteiten van Bonn en Keulen stelt een inspectiecatalogus op voor de certificering van AI-toepassingen. Ze hebben nu een witboek gepubliceerd waarin de filosofische, ethisch, juridische en technologische vraagstukken.

Kunstmatige intelligentie verandert onze samenleving, onze economie en ons dagelijks leven op fundamentele manieren. En daarbij, het schept een aantal opwindende mogelijkheden in de manier waarop we samen leven en werken. Bijvoorbeeld, het helpt artsen al om röntgenfoto's beter te evalueren, wat vaak leidt tot een nauwkeuriger diagnose. Het is de basis van chatbots die nuttige antwoorden bieden aan mensen die advies zoeken over, bijvoorbeeld, verzekering. En, voor te lang, het zal auto's in staat stellen steeds meer autonoom te worden. De huidige prognoses geven aan dat het aantal AI-toepassingen de komende jaren exponentieel zal toenemen. Mc Kinsey, bijvoorbeeld, voorspelt een extra wereldwijde groei van AI tot 13 miljard Amerikaanse dollar tegen 2030.

Tegelijkertijd, het is duidelijk dat we ervoor moeten zorgen dat ons gebruik van AI en de kansen die het biedt in harmonie blijven met de opvattingen en waarden van onze samenleving. Onder auspiciën van Kompetenzplattform KI.NRW, een AI-competentieplatform in de deelstaat Noordrijn-Westfalen, een interdisciplinair team is samengekomen om een ​​certificeringsproces voor AI-toepassingen te ontwikkelen die door geaccrediteerde examinatoren moeten worden uitgevoerd. Dit bevestigt de naleving van een gecertificeerde kwaliteitsnorm die, beurtelings, zal technologiebedrijven in staat stellen om aantoonbaar AI-toepassingen te ontwerpen die technisch betrouwbaar en ethisch aanvaardbaar zijn.

"Het doel van de certificering is om te helpen bij het vaststellen van kwaliteitsnormen voor AI gemaakt in Europa, een verantwoorde omgang met deze technologie te verzekeren en eerlijke concurrentie tussen de verschillende spelers te bevorderen, " zegt Prof. Dr. Stefan Wrobel, directeur van Fraunhofer IAIS en hoogleraar informatica aan de Universiteit van Bonn.

Focus op het menselijke aspect

Kunstmatige intelligentie heeft het potentieel om onze mogelijkheden te vergroten en ons nieuwe kennis te verschaffen. Echter, zodra we onze beslissingen beginnen te baseren op machine learning die volledig of gedeeltelijk geautomatiseerd is, we staan ​​voor tal van nieuwe uitdagingen. De technische haalbaarheid van dergelijke toepassingen is een overweging. Eerst en vooral, echter, we moeten de fundamentele filosofische, ethische en juridische kwesties. Om ervoor te zorgen dat de behoeften van mensen stevig worden verankerd in het centrum van de ontwikkeling van deze technologie, nauwe dialoog tussen de gebieden van informatietechnologie, filosofie en recht is noodzakelijk.

Het team van experts heeft nu een whitepaper gepubliceerd waarin zij hun interdisciplinaire benadering van het certificeringsproces beschrijven. Bijvoorbeeld, ze leggen de ethische principes uit. "Iedereen die AI gebruikt, moet in staat zijn om correct te handelen in overeenstemming met zijn morele overtuigingen, en niemand mag in zijn rechten worden beknot, vrijheid of autonomie, " zegt Prof. Dr. Markus Gabriel, hoogleraar filosofie aan de universiteit van Bonn. Ook juridische vragen kwamen aan de orde. "Bijvoorbeeld, we moeten bepalen hoe AI-toepassingen kunnen worden gemaakt om te voldoen aan de fundamentele waarden en beginselen van een staat die wordt geregeerd door de rechtsstaat en onderworpen is aan de beginselen van vrijheid, " legt prof. Frauke Rostalski uit, hoogleraar rechtsgeleerdheid aan de Universiteit van Keulen.

Prioriteiten voor het opbouwen van vertrouwen in het gebruik van AI

Deze interdisciplinaire benadering heeft een aantal ethische, juridische en technologische kwesties die van belang zijn voor het gebruik van AI. Deze worden allemaal onderzocht in de whitepaper. De criteria die in een certificeringsproces worden gebruikt, moeten eerlijkheid, transparantie, autonomie, controle, gegevensbescherming, veiligheid, veiligheid en betrouwbaarheid. Aanbevelingen van de EU dienen dus ook als oriëntatie voor het KI.NRW-certificeringsproject.

Het certificeringsproces zal draaien om vragen als:Respecteert de AI-toepassing de wetten en waarden van de samenleving? Behoudt de gebruiker volledige en effectieve autonomie over de toepassing? Behandelt de applicatie alle deelnemers op een eerlijke manier? Functioneert de applicatie en neemt hij beslissingen op een transparante en begrijpelijke manier? Is de applicatie betrouwbaar en robuust? Is het beveiligd tegen aanvallen, ongelukken en fouten? Beschermt de applicatie de privésfeer en andere gevoelige informatie?

Controles en controles inbouwen in de ontwerpfase

Volgens het witboek tijdens het initiële ontwerpproces moet worden bepaald of de toepassing ethisch en juridisch toelaatbaar is - en zo ja, welke checks en controls moeten worden geformuleerd om dit proces te sturen. Een noodzakelijk criterium is ervoor te zorgen dat het gebruik van de applicatie niemand die het gebruikt in gevaar brengt in hun vermogen om een ​​morele beslissing te nemen - alsof de mogelijkheid bestaat om het gebruik van AI af te wijzen - en dat hun rechten en vrijheden op geen enkele manier worden ingeperkt .

Transparantie is een ander belangrijk criterium:de experts benadrukken dat informatie over correct gebruik van de applicatie direct beschikbaar moet zijn, en de resultaten die door het gebruik van AI in de applicatie worden bepaald, moeten volledig interpreteerbaar zijn, traceerbaar en reproduceerbaar door de gebruiker. Tegenstrijdige belangen, zoals transparantie en het niet openbaar maken van handelsgeheimen, tegen elkaar moeten worden afgewogen.

Het plan is om begin 2020 een eerste versie van de inspectiecatalogus te publiceren en dan te beginnen met de certificering van AI-toepassingen. Dit project omvat ook de deelname van het Duitse Federale Bureau voor Informatiebeveiliging (BSI), die uitgebreide ervaring heeft met het ontwikkelen van veilige IT-standaarden. Deze knowhow wordt meegenomen in het certificeringsproces. Eindelijk, aangezien AI voortdurend evolueert, de inspectiecatalogus zelf zal een "levend document" zijn dat voortdurend moet worden bijgewerkt.