Wat was je eerste reactie toen je hoorde over Blake Lemoine, de Google-ingenieur die vorige maand aankondigde dat het AI-programma waaraan hij werkte bewustzijn had ontwikkeld?

Als je, zoals ik, instinctief achterdochtig bent, zou het zoiets kunnen zijn als:Is deze man serieus? Gelooft hij echt wat hij zegt? Of is dit een uitgebreide hoax?

Leg de antwoorden op die vragen aan de kant. Focus in plaats daarvan op de vragen zelf. Is het niet waar dat zelfs als je het hen vraagt, je veronderstelt dat er iets cruciaals aan Blake Lemoine is:specifiek, hij is bij bewustzijn?

Met andere woorden, we kunnen ons allemaal voorstellen dat Blake Lemoine bedrieglijk is.

En we kunnen dit doen omdat we aannemen dat er een verschil is tussen zijn innerlijke overtuigingen - wat hij echt gelooft - en zijn uiterlijke uitdrukkingen:wat hij beweert te geloven.

Is dat verschil niet het kenmerk van bewustzijn? Zouden we ooit hetzelfde aannemen over een computer?

Bewustzijn:'Het moeilijke probleem'

Het is niet voor niets dat filosofen het bewustzijn 'het moeilijke probleem' hebben genoemd. Het is notoir moeilijk te definiëren.

Maar laten we voor het moment zeggen dat een bewust wezen iemand is die in staat is een gedachte te hebben en deze niet te onthullen.

Dit betekent dat bewustzijn de voorwaarde zou zijn voor ironie, of het ene zeggen terwijl het het tegenovergestelde bedoelt. Ik weet dat je ironisch bent als ik me realiseer dat je woorden niet corresponderen met uw gedachten.

Dat de meesten van ons dit vermogen hebben - en de meesten van ons routinematig onze onuitgesproken betekenissen op deze manier overbrengen - is iets dat, denk ik, ons vaker zou moeten verbazen dan het doet.

Het lijkt bijna onopvallend menselijk.

Dieren kunnen zeker grappig zijn, maar niet opzettelijk.

Hoe zit het met machines? Kunnen ze bedriegen? Kunnen ze geheimen bewaren? Kunnen ze ironisch zijn?

AI en ironie

Het is een waarheid die algemeen wordt erkend (althans onder academici) dat elke onderzoeksvraag die je zou kunnen bedenken met de letters "AI" erin al ergens wordt bestudeerd door een leger van obsceen goed uitgeruste computerwetenschappers - vaak, zo niet altijd, gefinancierd door het Amerikaanse leger.

Dit is zeker het geval met de kwestie van AI en ironie, die onlangs een aanzienlijke hoeveelheid onderzoeksinteresse heeft gewekt.

Aangezien ironie inhoudt dat je het ene zegt terwijl je het tegenovergestelde bedoelt, is het natuurlijk geen eenvoudige taak om een ​​machine te maken die het kan detecteren, laat staan ​​genereren.

Maar als we zo'n machine zouden kunnen maken, zou die een veelvoud aan praktische toepassingen hebben, de een nog sinister dan de ander.

In het tijdperk van online recensies zijn retailers bijvoorbeeld erg enthousiast geworden over zogenaamde 'opinion mining' en 'sentimentanalyse', waarbij AI wordt gebruikt om niet alleen de inhoud in kaart te brengen, maar ook de sfeer van de opmerkingen van de recensent.

Weten of uw product wordt geprezen of het mikpunt van de grap wordt, is waardevolle informatie.

Of overweeg contentmoderatie op sociale media. Als we online misbruik willen beperken en tegelijkertijd de vrijheid van meningsuiting willen beschermen, zou het dan niet handig zijn om te weten wanneer iemand serieus is en wanneer ze een grapje maken?

Of wat als iemand tweet dat hij net lid is geworden van hun lokale terroristische cel of dat hij een bom in zijn koffer stopt en op weg is naar het vliegveld? (Twitter dat trouwens nooit.) Stel je voor dat we meteen zouden kunnen vaststellen of ze serieus zijn, of dat ze gewoon 'ironisch zijn'.

In feite, gezien de nabijheid van ironie tot liegen, is het niet moeilijk voor te stellen hoe de hele schimmige machinerie van overheids- en bedrijfssurveillance die is ontstaan ​​rond nieuwe communicatietechnologieën, het vooruitzicht van een ironie-detector buitengewoon interessant zou vinden.

En dat is een heel eind in de richting van het verklaren van de groeiende literatuur over het onderwerp.

AI, van Clippy tot gezichtsherkenning

Om de stand van het huidige onderzoek naar AI en ironie te begrijpen, is het nuttig om iets meer in het algemeen over de geschiedenis van AI te weten.

Die geschiedenis wordt meestal opgedeeld in twee perioden.

Tot de jaren negentig probeerden onderzoekers computers te programmeren met een reeks handgemaakte formele regels voor hoe zich te gedragen in vooraf gedefinieerde situaties.

Als je in de jaren negentig Microsoft Word gebruikte, herinner je je misschien de irritante kantoorassistent Clippy, die eindeloos opdook om ongewenst advies te geven.

Sinds de eeuwwisseling is dat model vervangen door datagedreven machine learning en neurale netwerken.

Hier worden enorme caches met voorbeelden van een bepaald fenomeen vertaald in numerieke waarden, waarop computers complexe wiskundige bewerkingen kunnen uitvoeren om patronen te bepalen die geen mens ooit zou kunnen ontdekken.

Bovendien past de computer niet zomaar een regel toe. Het leert veeleer uit ervaring en ontwikkelt nieuwe operaties onafhankelijk van menselijke tussenkomst.

Het verschil tussen de twee benaderingen is het verschil tussen Clippy en bijvoorbeeld gezichtsherkenningstechnologie.

Onderzoek naar sarcasme

Om een ​​neuraal netwerk op te bouwen dat ironie kan detecteren, richten onderzoekers zich in eerste instantie op wat sommigen als de eenvoudigste vorm beschouwen:sarcasme.

De onderzoekers beginnen met gegevens die van sociale media zijn gestript.

Ze kunnen bijvoorbeeld alle tweets met het label #sarcasm of Reddit-berichten met het label /s verzamelen, een afkorting die Reddit-gebruikers gebruiken om aan te geven dat ze niet serieus zijn.

Het gaat er niet om de computer te leren de twee afzonderlijke betekenissen van een bepaalde sarcastische post te herkennen. Betekenis is inderdaad van geen enkele relevantie.

In plaats daarvan wordt de computer geïnstrueerd om te zoeken naar terugkerende patronen, of wat een onderzoeker 'syntactische vingerafdrukken' noemt:woorden, woordgroepen, emoji's, interpunctie, fouten, contexten, enzovoort.

Bovendien wordt de dataset versterkt door meer streams van voorbeelden toe te voegen, bijvoorbeeld andere berichten in dezelfde threads of van hetzelfde account.

Elk nieuw individueel voorbeeld wordt vervolgens door een reeks berekeningen geleid totdat we tot één enkele bepaling komen:sarcastisch of niet sarcastisch.

Ten slotte kan een bot worden geprogrammeerd om op elke originele poster te antwoorden en te vragen of ze sarcastisch waren. Elk antwoord kan worden toegevoegd aan de groeiende berg ervaring van de computer.

Het slagingspercentage van de meest recente sarcasmedetectoren nadert een verbazingwekkende 90% - meer, vermoed ik, dan veel mensen zouden kunnen bereiken.

Dus, ervan uitgaande dat AI zal blijven evolueren in het tempo dat ons in minder dan twee decennia van Clippy naar gezichtsherkenningstechnologie heeft gebracht, kunnen ironische androïden dan nog ver weg zijn?

Wat is ironie?

Maar is er geen kwalitatief verschil tussen het doorzoeken van de "syntactische vingerafdrukken" van ironie en het daadwerkelijk begrijpen?

Sommigen zouden suggereren van niet. Als een computer kan worden geleerd zich precies als een mens te gedragen, dan maakt het niet uit of er een rijke interne wereld van betekenis achter zijn gedrag schuilgaat.

Maar ironie is aantoonbaar een uniek geval:het is gebaseerd op het onderscheid tussen extern gedrag en interne overtuigingen.

Hier is het misschien de moeite waard eraan te denken dat, terwijl computationele wetenschappers pas onlangs geïnteresseerd zijn geraakt in ironie, filosofen en literaire critici er al heel lang over nadenken.

En misschien zou het verkennen van die traditie als het ware oud licht werpen op een nieuw probleem.

Van de vele namen die men in dit verband zou kunnen noemen, zijn er twee onmisbaar:de Duitse romantische filosoof Friedrich Schlegel; en de poststructuralistische literatuurtheoreticus Paul de Man.

Voor Schlegel betekent ironie niet alleen een valse, externe betekenis en een echte, interne. In plaats daarvan worden, ironisch genoeg, twee tegengestelde betekenissen als even waar gepresenteerd. En de daaruit voortvloeiende onbepaaldheid heeft verwoestende gevolgen voor de logica, met name de wet van niet-tegenspraak, die stelt dat een bewering niet tegelijkertijd waar en onwaar kan zijn.

De Man volgt Schlegel op dit punt en maakt in zekere zin zijn inzicht universeel. Hij merkt op dat elke poging om een ​​concept van ironie te definiëren onvermijdelijk wordt besmet door de verschijnselen die het beweert te verklaren.

De Man gelooft inderdaad dat alle taal besmet is met ironie, en omvat wat hij 'permanente parabasis' noemt. Omdat mensen de macht hebben om hun gedachten voor elkaar te verbergen, zal het altijd mogelijk zijn - permanent mogelijk - dat ze niet menen wat ze zeggen.

Met andere woorden, ironie is niet één van de vele talen. Het structureert - of beter gezegd, spookt - elk taalgebruik en elke interactie.

En in die zin overschrijdt het de volgorde van bewijs en berekening. De vraag is of hetzelfde geldt voor de mens in het algemeen.