IBM heeft een Project Debater AI-systeem dat mensen kan bespreken over complexe onderwerpen. Een recent evenement om zijn mogelijkheden te demonstreren, veranderde in puur drama toen de machine AI onder de bus ging gooien, omdat het zowel con- als pro-posities innam over de vraag of AI al dan niet schadelijk is voor mensen.

Stop gewoon en denk na over het uitgangspunt:een robot kan in staat zijn om over complexe onderwerpen te debatteren. Wat een geweldig idee voor een off-Broadway-spel. Een sciencefictionfilm die een Oscar wint voor de mens, of misschien voor de robot. Op zijn minst, een grappige commercial voor het volgende Super Bowl-reclameblok.' Alleen was het geen van deze.

Een robot die met een mens debatteerde over de gevaren van kunstmatige intelligentie was het middelpunt van een echt evenement op 21 november in 's werelds oudste debatvereniging, de Cambridge Union in het VK. Het onderwerp van het debat was precies dat:de dreiging, indien van toepassing, door kunstmatige intelligentie. Het 300-koppige publiek was een "vrij typische" opkomst, zei een artikel in het Medium-account van Inside IBM Research.

De ster van de show was geen wereldnaam zoals Margaret Thatcher of de Dalai Lama, maar eerder een machine met blauwe lichten. De robot in het middelpunt was IBM's Project Debater.

Dus, het koos de kant van het argument tegen het gevaar, Rechtsaf? Mis. Het argumenteerde beide kanten terwijl toeschouwers staarden en de twee openingsverklaringen hoorden:ten eerste, pleiten voor AI, en dan, tegen AI. De robot had argumenten gekregen van meer dan 1, 100 menselijke inzendingen ter voorbereiding op het debat, zei New Scientist, en het analyseerde argumenten die mensen online hadden ingestuurd.

Jeremy Kahn Fortuin :"Nadat Project Debater aan het begin van het debat de openingscase voor elke partij had gepresenteerd, het was aan de mensen van de twee teams om deze punten uit te werken en tegenargumenten te weerleggen."

nieuwe wetenschapper sprak over de tegenargumenten. De robot probeerde zichzelf te redden in:(1) Hij vertelde het publiek aan de andere kant dat AI veel schade kan aanrichten omdat het niet in staat was een moreel correcte beslissing te nemen - moraliteit was uniek voor mensen. Een andere fout was dat (2) AI alleen zo eerlijk was als de mensen die het voedden en AI kon lijden onder menselijke vooroordelen. Aanvullend, (3) "AI-bedrijven hebben nog te weinig expertise om datasets goed te beoordelen en vooroordelen weg te filteren."

Welke kant van het debat wist het publiek uiteindelijk te overtuigen? Donna Lu in nieuwe wetenschapper meldde dat de robot het publiek er ternauwernood van overtuigde "dat AI meer goed dan kwaad zal doen". Het team kreeg 51,22 procent van de stemmen van het publiek.

Het artikel in Medium gaf een volledig verslag van hoe de stemming verliep:

"Toen het debat eindigde, het was tijd voor het publiek om een ​​winnaar te kiezen. In plaats van stemmen uit te brengen, de kamer vulde zich plotseling met het gejoel van honderden mensen die tegelijk opstonden. Het publiek had drie deuren om uit te kiezen om door te gaan - een 'ja'-deur ter ondersteuning van de stelling, een 'nee'-deur ter ondersteuning van de oppositie, en 'zich onthouden' deur voor degenen die aarzelden. De krappe meerderheid drong zich voor de deur van de noes, wat inhield dat ze voor AI stemden (de uiteindelijke uitslag:48,17% ja, 51,22% nee en 0,61% onthouding)."

De basis van Project Debater is technologie die de gedoneerde inzendingen van mensen kan sorteren op hoofdthema's. De technologie kan ook redundantie identificeren, zei nieuwe wetenschapper , waar inzendingen hetzelfde punt hebben gemaakt, maar alleen met andere woorden.

Dit leidt tot een belangrijk punt over het Cambridge Union-evenement:IBM toonde een onderzoeksprestatie met een ander doel dan louter amusement. Zijn technologie "speech-by-crowd AI" kan worden gebruikt als een hulpmiddel voor het verzamelen van feedback van grote aantallen mensen, zei nieuwe wetenschapper .

Speech-by-crowd-technologie maakt het mogelijk om vrije-tekstargumenten van het publiek te verzamelen en automatisch overtuigende standpunten te leveren, of het nu gaat om het ondersteunen of tegenspreken van een onderwerp.

IBM-ingenieur Noam Slonim, volgens nieuwe wetenschapper , zei dat de technologie zou kunnen helpen bij het opzetten van een "effectief communicatiekanaal tussen de beslisser en de mensen die door de beslissing worden beïnvloed."

Elders op een IBM-site, Slonim zei dat het doel van zijn onderzoek was de ontwikkeling van Computational Argumentation-technologieën, een "spannend en snel opkomend onderzoeksveld." Hij zei samen met een groot team van onderzoekers, ze ontwikkelden in deze context "een combinatie van Machine Learning en NLP-technieken."

Na schaken en Watson, dit zou de volgende grote uitdaging kunnen zijn. Dr. Slonim in een interview eerder dit jaar toen hij de AI for Good-top in Genève bijwoonde, hij zei dat hij het idee had gehad van een machine die over mensen kon discussiëren.

Doebaar? Ze wisten het niet, maar ze werkten er zes jaar aan.

IBM definieert Project Debater als het eerste AI-systeem dat mensen kan bespreken over complexe onderwerpen.

"Project Debater verteert enorme teksten, construeert een goed gestructureerde toespraak over een bepaald onderwerp, levert het met duidelijkheid en doel, en weerlegt zijn tegenstander. Eventueel, Project Debater zal mensen helpen redeneren door overtuigende, evidence-based argumenten en het beperken van de invloed van emotie, vooroordeel, of dubbelzinnigheid."

© 2019 Wetenschap X Netwerk