Indien, zoals Rip Van Winkle, je hebt de afgelopen tien jaar geslapen en bent net wakker geworden, die flip-telefoon die je hebt is super populair geworden onder zowel retrotechnologen als survivalisten, en, O ja, Kunstmatige intelligentie (AI) gaat je vermoorden of je redden.

AI is de nieuwste in een lange reeks technologische modewoorden die de samenleving in zijn greep hebben, en als we de mensen van het gerespecteerde technologie-analistenbedrijf Gartner Inc. moeten geloven, 2018 wordt het jaar waarin AI echt wordt geïntegreerd in ons dagelijks leven. Hoe zenuwslopend de surrealistische robotica die in Boston Dynamics wordt voorbereid of de inzet van gezichtsherkennings-AI in Chinese openbare scholen ook mag lijken, deze technologie is een product van de menselijke conditie en als zodanig, we verankeren onze eigen cultuur in zijn gecodeerde DNA.

Debatten over AI richten zich momenteel op het begrip ethiek. Bij de studie van cultuur, ethiek is ingebed in waarden, en ze zijn een belangrijk onderdeel geworden van de beraadslagingen over hoe AI in ons leven zal integreren. Wat niet is besproken is van wie ethiek, en uiteindelijk wiens waarden, we praten over.

Is het westers versus oosters, of is het Amerikaans tegenover alle anderen? Aangezien waarden binnen de cultuur worden beïnvloed door de gemeenschap en de grotere samenleving, ethiek is afhankelijk van de culturele context waarin gemeenschappelijke waarden zich hebben ontwikkeld.

'Enculturatie'

Dus, cultuur speelt een belangrijke rol bij de vorming van AI via wat bekend staat als de inculturatie van die gegevens.

Antropoloog Genevieve Bell, de vorige vice-president van Intel en culturele visionair, was in staat om de techgigant te sturen naar een dieper begrip van hoe cultuur en AI met elkaar in wisselwerking staan.

Bells onderzoek wees uit dat menselijke interactie met technologie niet cultureel universeel is. Het is niet hetzelfde of objectief, en we coderen cultuur binnen en doorheen de technologie op een bewust en onbewust niveau.

Als dit waar is, wat gebeurt er in de uiteindelijke ontwikkeling van cultuur in AI?

Voor antropologen, menselijke culturele evolutie heeft veel kenmerken:de manipulatie van gereedschappen, de ontwikkeling van het abstracte denken, en meer fundamenteel, het creëren van taal om te communiceren.

Cultuur begint wanneer twee of meer levende wezens beginnen te communiceren en informatie uit te wisselen en, met meer complexiteit, ideeën. Culturele ontwikkeling onder niet-menselijke AI-entiteiten is iets dat nog niet is besproken, laat staan ​​de versmelting van de menselijke en AI-cultuur.

Bots ontwikkelden hun eigen taal

Onlangs, De AI-onderzoeksgroep van Facebook (FAIR) maakte kort melding van een experiment waarbij twee bots met elkaar moesten onderhandelen. Er werd destijds gemeld dat de bots een efficiëntere taal begonnen te ontwikkelen om met elkaar te communiceren.

Facebook-computerwetenschappelijke onderzoekers trokken snel de stekker uit wat in snel tempo de ontwikkeling van een efficiëntere AI-taal tussen de twee bots werd, niet omdat ze bang waren voor de opkomst van AI-zelfcreatie, maar omdat de bots niet de verwachte resultaten opleverden - een onderhandeling in het Engels.

In een wereld waar code in wezen bestaat uit nullen en enen, ja of geen commando's, er is niet veel ruimte voor het onverwachte. Maar soms, we moeten de kans omarmen en de mogelijkheden onderzoeken, omdat cultuur zich niet op een unieke manier manifesteert.

Cultuur is wat we ervan maken. Het is een reeks normen waar we als samenleving het over eens zijn, bewust of onbewust, en het geeft een beeld van hoe we werken in ons dagelijks leven.

AI kan culturen absorberen

AI heeft het unieke vermogen om in de toekomst alle culturele normen en waarden van de wereld te absorberen, het ontwikkelen van een potentieel echte pan-globale cultuur. Maar eerst, wij, de makers van AI, moeten onze rollen begrijpen en hoe we dat vermogen om te absorberen beïnvloeden. AI staat voor, ten slotte, een microkosmos van de cultuur van de mensen die het bouwen en van degenen die input leveren aan het fundamentele gegevensraamwerk van AI.

Sciencefictionschrijver Alastair Reynolds, in zijn boek Absolutie kloof , beschrijft een planeet waarin het enige intelligente wezen een enorme zee is die informatie absorbeert van de wezens en wezens die erin zwemmen. De zee leert van die informatie en verdeelt die kennis over andere wezens.

In het boek "patroon jongleren" genoemd, de huidige manifestatie van AI zoals we die kennen lijkt erg op die fictieve zee, kennis absorberen en selectief verspreiden met zijn eigen gecultiveerde gegevens.

Met Reynolds' kennisabsorberende oceaan als voorbeeld, AI is momenteel als de gescheiden zout- en zoetwaterlichamen van de aarde — elk met zijn eigen ecosysteem, geïsoleerd en onafhankelijk.

Wat gebeurt er als deze zeer unieke ecosystemen met elkaar beginnen te communiceren? Hoe zullen normen en waarden worden bepaald als de verschillende AI-entiteiten informatie beginnen uit te wisselen en te onderhandelen over de realiteit binnen hun nieuw gevormde culturen?

Norman is een waarschuwing

Norman van MIT, een AI-persoonlijkheid gebaseerd op een fictieve psychopaat produceerde een uniek voorbeeld van wat we al lang weten bij mensen:met langdurige blootstelling aan geweld komt er een gebroken kijk op culturele normen en waarden. Dit vormt een reëel gevaar voor toekomstige blootstelling aan en overdracht naar andere AI.

Hoezo?

Stel je voor dat Norman en Alexa een relatie aangaan. Beide AI's zijn representatief voor de mensen die ze hebben gemaakt, de menselijke gegevens die ze consumeren en een ingebouwde behoefte om te leren. Dus wiens culturele waarden en normen zouden overtuigender zijn?

Norman is gebouwd om alle gegevens te zien vanuit de lens van een psychopaat, terwijl Alexa als digitale assistent gewoon op zoek is om te behagen. Er zijn talloze menselijke voorbeelden van vergelijkbare persoonlijkheden die misgaan wanneer ze worden samengebracht.

Sociale wetenschappers beweren dat het debat over AI zal exploderen en, als resultaat, dat er meerdere versies van AI naast elkaar zullen bestaan.

als filosofen, antropologen en andere sociale wetenschappers beginnen hun zorgen te uiten, de tijd is rijp voor de samenleving om na te denken over het gewenste nut van AI, om de realiteit en onze verwachtingen in twijfel te trekken, en om de ontwikkeling ervan tot een werkelijk pan-globale culturele omgeving te beïnvloeden.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.