1969, kunstmatige-intelligentiepionier en Nobelprijswinnaar Herbert Simon stelde een nieuwe wetenschap voor, een die de studie van kunstmatige objecten benaderde zoals je natuurlijke objecten zou bestuderen.

"Natuurwetenschap is kennis over natuurlijke objecten en fenomenen, ' schreef Simon. 'We vragen ons af of er niet ook 'kunstmatige' wetenschap kan zijn - kennis over kunstmatige objecten en verschijnselen.'

Nutsvoorzieningen, 50 jaar later, een team van onderzoekers van Harvard, MIT, Stanford, de Universiteit van Californië, San Diego, Google, Facebook, Microsoft, en andere instellingen hernieuwen die oproep. In een recent artikel gepubliceerd in het tijdschrift Natuur , de onderzoekers stelden een nieuwe, interdisciplinair veld - machinegedrag - dat kunstmatige intelligentie zou bestuderen door de lens van de biologie, economie, psychologie, en andere gedrags- en sociale wetenschappen.

Intelligente machines, de onderzoekers beweren, kan niet langer alleen worden gezien als de producten van techniek en informatica; liever, ze moeten worden gezien als een nieuwe klasse van actoren met hun eigen gedrag en ecologie.

De Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS) sprak met David Parkes, de George F. Colony Professor of Computer Science en co-auteur van het artikel, over dit opkomende vakgebied en wat de toekomst in petto heeft voor intelligente machines.

Vraag en antwoord:David Parkes

ZEE:Zo lang, de studie van kunstmatige intelligentie en intelligente machines is beperkt gebleven tot het domein van de informatica, en de onderzoekers die de machines bouwden waren dezelfden die hun gedrag bestudeerden. Waarom is het belangrijk om de reikwijdte van de studie uit te breiden met nieuwe velden, inclusief gedrags- en sociale wetenschappen?

PARKEN:Ten eerste, een scheiding tussen de ontwerpers en bouwers van intelligente machines en degenen die bestuderen hoe ze (of niet) worden gebruikt, kan een onafhankelijk standpunt opleveren bij het ontwikkelen en testen van de juiste sets van hypothesen over de prestaties van deze technologieën. Er zijn ook pragmatische redenen, in die zin dat de studie van intelligente machines een gedragswetenschap wordt, waarbij heel verschillende soorten expertise nodig zijn. Een ander punt is dat systemen die zijn ontwikkeld in de nauwe grenzen van een laboratorium zich heel anders kunnen gedragen "in het wild, " wanneer gedrag een product wordt van de manier waarop ze worden gebruikt, inclusief de vele manieren die verschillen van wat hun ontwerpers hadden bedoeld. De Tay-bot van Microsoft [die aanstootgevende tweets begon te posten nadat trollen haar haatzaaiende uitlatingen hadden geleerd] is een ongelukkig maar niet zo uniek voorbeeld.

SEAS:Hoe kunnen de gebieden van machinegedrag en computerwetenschap samen groeien en elkaar in de toekomst informeren?

PARKES:Nu de informatica zo'n impact heeft gekregen, het veld is gaan omarmen wat economen zouden kunnen noemen als "positieve analyse, dat wil zeggen analyse die is gebaseerd op de empirische en experimentele studies van ingezet, computersystemen:de structuur van het World Wide Web, de verspreiding van informatie op sociale netwerken, of de manier waarop interactieve begeleidingssystemen worden gebruikt, om maar drie voorbeelden te geven. Intelligente machines zijn een nieuw soort artefact dat we moeten bestuderen en begrijpen, en we zullen dit op een interdisciplinaire manier moeten doen, waarbij computerwetenschappers samenwerken met sociale wetenschappers, humanisten, ethici, rechtsgeleerden, om er een paar op te noemen. Breder, de studie van machinegedrag zal worden beïnvloed door vooruitgang in datawetenschap, in het werken op grote schaal met grote hoeveelheden verschillende soorten gegevens, en door gebruik te maken van methoden van probabilistische machine learning en statistieken om oorzaak en gevolg te achterhalen.

SEAS:Je werk richt zich op het snijvlak van AI en economie. Welke vragen over machinegedrag wilt u het meest beantwoorden?

PARKES:Ik ben geïnteresseerd in een onderzoeksprogramma dat machinegedrag bestudeert binnen de algoritmische economie, inclusief prijsalgoritmen, aanbevelingsalgoritmen, en reputatiesystemen, evenals in de context van blockchains. We zien nu al een traject in de richting van de automatisering van veel van de kerncomponenten van wat een economisch systeem vormt, en de machinegedragslens is een goede omdat gedrag opduikt, wat betekent dat het niet alleen gebaseerd is op individuele interacties, maar ook op maatschappelijke en economische krachten. Ik denk dat aanbevelingssystemen zoals die van Amazon vooral interessant en belangrijk zijn om te bestuderen, omdat we dan netelige vragen zullen zien rijzen over gedragseconomie, algoritmische marketing, en ethiek ... Bijvoorbeeld, is het oké voor een intelligente aanbeveler om gebruik te maken van "keuzeset-effecten" om de inkomsten te verhogen?

SEAS:Wat zijn keuzeset-effecten?

PARKES:Ik laat je een goedkope, matige kosten, en duur koffiezetapparaat en je kiest de redelijk geprijsde. Maar, als ik je een gematigde toon laat zien, duur, en uber-luxe machine, jij kiest de …?

ZEE:Duur. U noemde particuliere bedrijven zoals Amazon en Microsoft. Gepatenteerde en black-box-algoritmen moeten een uitdaging vormen om het gedrag van machines te begrijpen. Hoe kunnen we begrijpen waarom een ​​machine zich zo gedraagt ​​als we niet weten wat het algoritme is of hoe het beslissingen neemt?

PARKEN:Grappig genoeg, de algoritmen hoeven zelf niet erg ingewikkeld te zijn. De algoritmen voor het trainen van een deep-learning systeem, die de architectuur van een model beschrijven en de manier waarop een model wordt getraind, kan meestal worden uitgedrukt in slechts tientallen regels code (hoewel code die vervolgens bovenop andere, code op een lager niveau). Het zijn de getrainde modellen die complex en enigszins ondoorgrondelijk zijn, vaak beschouwd als een 'zwarte doos'. Maar het is niet hopeloos, en er zijn veel verstandige onderzoeksrichtingen, bijvoorbeeld eenvoudigere modellen nodig hebben, aandringen op een post hoc verklaring van het gedrag van complexe modellen, en het gebruik van visualisatie- en gevoeligheidsanalyses om te proberen de manier waarop deze modellen werken te begrijpen en theorieën over gedrag te testen.

SEAS:Kunstmatige intelligentie speelt al zo'n grote rol in ons leven. Wat is het belang van het nu opzetten van dit nieuwe onderzoeksgebied? Ben je bang dat het te laat wordt gestart, wanneer zoveel van de basis van AI al is gelegd?

PARKEN:Nou, het is nooit te laat, en we staan ​​nog maar aan het begin van de golf van verandering die zal voortkomen uit de ontwikkeling van intelligente machines. Er moet weloverwogen vooruit worden gegaan, met gepaste maatregelen van nieuwsgierigheid, creativiteit, en verantwoordelijkheid, en tegelijkertijd met de erkenning dat mens en machine op nieuwe en onverwachte manieren met elkaar verbonden zullen blijven. Wat belangrijk is, is de erkenning van de noodzaak van wetenschappelijk onderzoek, en dit overzichtsartikel brengt discussies samen in deze opkomende, interdisciplinair gebied van machinegedrag.

Dit verhaal is gepubliceerd met dank aan de Harvard Gazette, De officiële krant van Harvard University. Voor aanvullend universiteitsnieuws, bezoek Harvard.edu.