Een nieuw artikel gepubliceerd in AI-communicatie biedt een uitgebreid overzicht van de ontwikkeling van een ethisch kader, gedragscode, en op waarde gebaseerde ontwerpmethodologieën voor AI-onderzoekers en applicatieontwikkelaars in Europa. De "Barcelona-verklaring voor de juiste ontwikkeling en het juiste gebruik van kunstmatige intelligentie in Europa" werd in het voorjaar van 2017 gelanceerd tijdens het B-Debate-evenement in Barcelona, om verdere discussie tussen beleidsmakers te stimuleren, industrie leiders, onderzoekers en applicatieontwikkelaars over de kansen en risico's van AI in de huidige "goudkoorts"-omgeving.

Naast het documenteren van de volledige Verklaring van Barcelona, de krant onderzoekt de achterliggende gedachte, richt zich op veiligheid, betrouwbaarheid, en ethische kwesties en evalueert de voortgang van de belangrijkste aanbevelingen. Gesponsord door de Biocat en l'Obra Social la Caixa, met steun van ICREA, het Institut de Biologia Evolutiva, en het Institut d'Investigacio en Intelligencia Artificial, B-Debate bracht topexperts in Europa bijeen om strategieën te bespreken om de risico's en voordelen van AI aan te pakken. Het evenement was uniek vanwege de deelname van Europese ontwikkelaars en onderzoekers aan het discours dat voorheen werd gedomineerd door Amerikaanse en Britse sociale wetenschappers, juridische deskundigen, en bedrijfsadviesbureaus. De Verklaring van Barcelona is ondertekend door de meeste deelnemers en is toegankelijk voor ondertekening en discussie op internet.

"Gezien de wijdverbreide interesse in AI en de gretigheid om toepassingen te ontwikkelen die mensen in hun dagelijks leven raken, het is belangrijk dat de onderzoeks- en applicatieontwikkelingsgemeenschap open discussies aangaat om onrealistische verwachtingen te voorkomen, onbedoelde gevolgen, en gebruik dat negatieve bijwerkingen of menselijk lijden veroorzaakt, " zei Luc Steels, doctoraat, ICREA onderzoekshoogleraar, Catalaanse instelling voor onderzoek en geavanceerde studies (ICREA) - IBE (UPF/CSIC), Barcelona, die met zijn mede-onderzoeker Ramon Lopez de Mantaras, doctoraat, Onderzoekshoogleraar van de Spaanse Nationale Onderzoeksraad (CSIC) en directeur van het Instituto de Investigación en Inteligencia Artificial (IIIA) - CSIC, bellaterra, Barcelona, organiseerde het evenement in Barcelona.

Hoewel de meeste AI-activiteiten in de VS en China plaatsvinden, recente acties van de Europese Commissie en nationale regeringen wijzen erop dat onderzoek en ontwikkeling in Europa toenemen, groei die het discours rond de Verklaring mede vorm geeft. Een veelbelovende ontwikkeling was de recente toewijzing binnen het Europese H2020-kaderprogramma voor het creëren van een ecosysteem en platform om Europees AI-onderzoek te stimuleren, zoals gevraagd in de Verklaring. De paper herhaalt zijn oproep aan Europese financieringsagentschappen en bedrijven om te investeren in de ontwikkeling van AI op een schaal die geschikt is voor de uitdaging, en op zo'n manier dat alle Europese regio's en burgers hiervan kunnen profiteren.

Het B-debat, Verklaring van Barcelona, en een snelgroeiende hoeveelheid literatuur roept prangende vragen op die blijven resoneren:is AI klaar voor grootschalige implementatie? AI wordt nu vooral voor commerciële doeleinden gebruikt, maar kunnen we AI ook gebruiken voor het algemeen belang? Welke toepassingen moeten we stimuleren? Hoe kunnen de negatieve effecten bij de inzet van AI worden aangepakt? Wat zijn recente technische doorbraken in AI en hoe beïnvloeden ze toepassingen? Wat zou de rol van AI in sociale media moeten zijn? Wat zijn de best practices voor de ontwikkeling en inzet van AI?

"Hoewel snelle AI-vooruitgang alom met opwinding wordt verwacht, enige angst voor vooruitgang is noodzakelijk en gerechtvaardigd, ", merkten Steels en Lopez de Mantaras op. "De algemene angst dat de inzet van AI uit de hand zal lopen, lijkt misschien vergezocht, maar er zijn al onbedoelde gevolgen die dringend moeten worden verholpen. Bijvoorbeeld, algoritmen ingebed in het web en sociale media hebben invloed op wie met wie praat, hoe informatie wordt geselecteerd en gepresenteerd, en hoe feiten/onwaarheden zich verspreiden en concurreren in de openbare ruimte. AI zou (en zou) moeten helpen om consensusvorming te ondersteunen in plaats van deze te vernietigen. AI-systemen moeten heel duidelijk maken dat ze kunstmatig zijn in plaats van menselijk. Mensen voor de gek houden mag nooit een doel van AI zijn."

Er worden ook vragen onderzocht over de betrouwbaarheid en aansprakelijkheid van AI-systemen op basis van diepgaand leren met betrekking tot regelgestuurd gedrag (bijv. financiële besluitvorming, personeelszaken, of rechtshandhaving). Ingebedde vooroordelen kunnen voorkomen dat gekwalificeerde werkzoekenden door de screening komen of leiden tot onrechtvaardige voorwaardelijke vrijlatingsbeslissingen. Autonome AI-systemen brengen verschillende zorgen met zich mee. Moeten we grenzen stellen aan autonome wapens? Wie is er verantwoordelijk als er iets misgaat met een zelfrijdende auto?

"De Verklaring van Barcelona heeft een bestuurskader uiteengezet om de beste praktijken proactief te integreren, als onderdeel van het ontwerpproces. Wij geloven dat AI een kracht kan zijn voor het welzijn van de samenleving, maar dat er voldoende gevaar is voor ongepaste, voortijdig of kwaadwillig gebruik om de noodzaak te rechtvaardigen om het bewustzijn van de beperkingen van AI te vergroten en voor collectieve actie om ervoor te zorgen dat AI inderdaad wordt gebruikt voor het algemeen welzijn in veilige, betrouwbaar, en verantwoorde manieren, ", legden Steels en Lopez de Mantaras uit.

Hoewel het landschap van AI in Europa snel verandert door al deze discussies en activiteiten, de onderzoekers concluderen dat de in de Verklaring aan de orde gestelde kwesties zeer relevant blijven, en aanbevelingen op verschillende prioritaire gebieden te vernieuwen:

• Er is tegenwoordig een nog grotere behoefte om te verduidelijken wat we bedoelen met AI bij het bespreken van juridische en ethische kwesties. Er is een gebrek aan onderscheid tussen op kennis gebaseerde AI, die menselijke kennis modelleert in computationele termen, of datagericht leren, algemeen bekend als machine learning. De juridische en ethische kwesties en toepassingen voor beide benaderingen zijn verschillend, maar het volledige potentieel van AI zal alleen worden gerealiseerd met een combinatie ervan.
• De vraag hoeveel autonomie aan een AI-systeem moet worden gegeven is voor veel toepassingen, zoals wapentechnologie of autonome auto's, van primair belang. Eén benadering is het creëren van bestuursregels en een wettelijk kader dat zowel een richtlijn is voor ontwikkelaars als een mechanisme waarmee degenen die negatief worden beïnvloed door de technologie verhaal kunnen halen.
• De focus moet verschuiven van machines die menselijke werknemers vervangen naar het aanvullen en benutten van mensen bij het uitvoeren van taken en het nemen van betere beslissingen. De discussie over automatisering moet zich toespitsen op de veranderende aard van werk, niet alleen het aantal banen.
• Er is nog een lange weg te gaan om de ontwikkeling en toepassing van AI in Europa adequaat te ondersteunen. De verklaring heeft bijgedragen aan de bewustwording en heeft een extra impuls gegeven aan overheidsinitiatieven, maar concrete acties en stabiele financieringstoewijzingen die rechtstreeks van invloed zijn op de inzet van AI, Onderzoek, en onderwijs in Europa zijn nog steeds zeldzaam.