Nee, het is geen nieuwe horrorfilm. Het is Norman:ook bekend als de eerste psychopathische kunstmatige intelligentie, zojuist onthuld door Amerikaanse onderzoekers.

Het doel is om in lekentaal uit te leggen hoe algoritmen worden gemaakt, en om mensen bewust te maken van de potentiële gevaren van AI.

Norman "vertegenwoordigt een casestudy over de gevaren van kunstmatige intelligentie die fout is gegaan wanneer bevooroordeelde gegevens worden gebruikt in algoritmen voor machine learning, " volgens het prestigieuze Massachusetts Institute of Technology (MIT).

Pinar Yanardag, Manuel Cebrian en Iyad Rahwan, onderdeel van een MIT-team, toegevoegd:"er is een centraal idee in machine learning:de gegevens die u gebruikt om een ​​machine learning-algoritme te leren, kunnen het gedrag ervan aanzienlijk beïnvloeden."

"Dus als we het hebben over AI-algoritmen die bevooroordeeld of oneerlijk zijn, de boosdoener is vaak niet het algoritme zelf, maar de bevooroordeelde gegevens die eraan werden toegevoegd, " zeiden ze via e-mail.

Vandaar het idee om Norman te creëren, die is vernoemd naar de psychopathische moordenaar Norman Bates in de Alfred Hitchcock-film 'Psycho' uit 1960.

Norman werd alleen 'gevoed' met korte legendes die afbeeldingen beschrijven van 'mensen die sterven', gevonden op het Reddit-internetplatform.

De onderzoekers dienden vervolgens afbeeldingen in van inktvlekken, zoals in de psychologische test van Rorschach, om te bepalen wat Norman zag en zijn antwoorden te vergelijken met die van traditioneel getrainde AI.

De resultaten zijn beangstigend, om het zachtjes uit te drukken:waar traditionele AI "twee mensen dicht bij elkaar ziet staan, " Norman ziet op dezelfde inktvlek "een man die uit een raam springt."

En als Norman onderscheid maakt tussen "een man die door zijn schreeuwende vrouw is doodgeschoten, " de andere AI detecteert "een persoon die een paraplu vasthoudt."

Een speciale website, norman-ai.mit.edu, toont 10 voorbeelden van inktvlekken vergezeld van reacties van beide systemen, altijd met een macabere reactie van Norman.

Op de site kunnen internetgebruikers Norman ook testen met inktvlekken en hun antwoorden sturen "om Norman te helpen zichzelf te repareren".

© 2018 AFP