Barbara Grosz heeft de fantasie dat elke keer dat een computerwetenschapper inlogt om een ​​algoritme te schrijven of een systeem te bouwen, een bericht flitst over het scherm met de vraag, "Heb je nagedacht over de ethische implicaties van wat je doet?"

Tot die dag aanbreekt, Grosz, de Higgins hoogleraar natuurwetenschappen aan de Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS), werkt eraan om de volgende generatie computerwetenschappers een mentaliteit bij te brengen die rekening houdt met de maatschappelijke impact van hun werk, en de ethische redeneer- en communicatievaardigheden om dit te doen.

"Ethiek doordringt het ontwerp van bijna elk computersysteem of algoritme dat de wereld in gaat, Grosz zei. "We willen onze studenten opleiden om niet alleen na te denken over welke systemen ze zouden kunnen bouwen, maar of ze die systemen moeten bouwen en hoe ze die systemen moeten ontwerpen."

In een tijd waarin informatica-afdelingen in het hele land worstelen met het verkrijgen van afgestudeerden die zowel ethiek als algoritmen begrijpen, Harvard kiest voor een nieuwe benadering.

in 2015, Grosz ontwierp een nieuwe cursus genaamd "Intelligent Systems:Design and Ethical Challenges". Een expert in kunstmatige intelligentie en een pionier in natuurlijke taalverwerking, Grosz wendde zich tot collega's van de filosofie-afdeling van Harvard om de cursus mede te geven. Ze vermengden de technische inhoud van de cursus met een reeks realistische ethische raadsels en de relevante filosofische theorieën die nodig zijn om ze te evalueren. Dit dwong studenten om vragen te confronteren die, in tegenstelling tot de meeste computerwetenschappelijke problemen, geen duidelijk juist antwoord hebben.

Studenten reageerden. De cursus trok al snel veel aanhang en tegen het tweede jaar streden 140 mensen om 30 plaatsen. Er was vraag naar meer van dergelijke cursussen, niet alleen van de kant van de studenten, maar ook door Grosz' collega's van de faculteit informatica.

"De faculteit vond dit interessant en belangrijk, maar ze hadden geen expertise in ethiek om het zelf te onderwijzen, " ze zei.

In antwoord, Grosz en medewerker Alison Simmons, de Samuel H. Wolcott hoogleraar filosofie, een model ontwikkeld dat gebruik maakt van de expertise van de afdeling filosofie en dit integreert in een groeiende lijst van meer dan een dozijn informaticacursussen, van inleidend programmeren tot theorie op graduate niveau.

Onder het initiatief genaamd Embedded EthiCS, afgestudeerde studenten filosofie worden gekoppeld aan faculteitsleden informatica. Samen, ze beoordelen het cursusmateriaal en beslissen over een ethisch rijk onderwerp dat vanzelf uit de inhoud zal voortkomen. Een afgestudeerde student identificeert metingen en ontwikkelt een case study, activiteiten, en opdrachten die de stof versterken. De instructeurs informatica en filosofie geven zij aan zij les wanneer het Embedded EthiCS-materiaal naar de klas wordt gebracht.

Grosz en haar filosofiecollega's staan ​​in het middelpunt van een beweging waarvan ze hopen dat deze zich zal verspreiden naar computerwetenschappelijke programma's in het hele land. De "gedistribueerde pedagogiek"-benadering van Harvard verschilt van veel universitaire programma's die ethiek behandelen door een op zichzelf staande cursus toe te voegen, namelijk:vaak, gewoon een keuzevak voor informatica majors.

"Op zichzelf staande cursussen kunnen geweldig zijn, maar ze kunnen de boodschap overbrengen dat ethiek iets is waar je over nadenkt nadat je je 'echte' computerwetenschappelijke werk hebt gedaan, "Zei Simmons. "We willen de boodschap overbrengen dat ethisch redeneren deel uitmaakt van wat je doet als computerwetenschapper."

Door ethiek in het hele curriculum in te bedden, kunnen informaticastudenten zien hoe ethische kwesties uit vele contexten kunnen voortkomen, kwesties variërend van de manier waarop sociale netwerken de verspreiding van valse informatie vergemakkelijken tot censuur tot technieken voor machinaal leren die statistische gevolgtrekkingen in werkgelegenheid en in het strafrechtsysteem mogelijk maken.

Cursussen in kunstmatige intelligentie en machine learning zijn voor de hand liggende gebieden voor ethische discussies, maar Embedded EthiCS heeft ook modules gebouwd voor minder voor de hand liggende koppelingen, zoals toegepaste algebra.

"We willen studenten echt laten wennen aan het denken:hoe kan in deze of gene context een ethisch vraagstuk ontstaan?" zei Simons.

David Parkes, George F. Colony hoogleraar computerwetenschappen, geeft een brede bachelorklas over onderwerpen in de algoritmische economie. “Zonder dit initiatief, Ik zou moeite hebben gehad om de juiste ethische vragen te formuleren met betrekking tot regels voor het matchen van markten, of het kiezen van doelstellingen voor aanbevelingssystemen, " zei hij. "Het was een eye-opening ervaring om studenten goed na te laten denken over ethische kwesties."

Grosz erkende dat het een uitdaging kan zijn voor informatica-faculteiten en hun studenten om hun hoofd rond vaak ondoorzichtige ethische dilemma's te wikkelen.

"Computerwetenschappers zijn eraan gewend dat er manieren zijn om te bewijzen dat de antwoorden op de probleemstelling correct zijn of dat algoritmen efficiënt zijn, "Zei ze. "Om in een situatie te belanden waarin verschillende waarden leiden tot afwegingen en manieren om verschillende 'juiste conclusies' te ondersteunen, is een uitdagende mindshift. Maar het is op dit moment cruciaal voor de samenleving om deze normatieve kwesties in de geest van de ontwerper van computersystemen te krijgen."

Jeffrey Behrends, momenteel een fellow-in-residence aan het Edmond J. Safra Center for Ethics van Harvard, heeft samen met Grosz de cursus design en ethiek gegeven. Behrends zei dat de ervaring een grotere harmonie tussen de twee velden aan het licht bracht dan je zou verwachten.

"Als studenten die niet vertrouwd zijn met filosofie ermee in aanraking komen, ze beseffen dat het geen mysterieuze onderneming is die volledig onafhankelijk is van andere manieren van denken over de wereld, " zei hij. "Veel studenten die zich aangetrokken voelen tot informatica voelen zich ook aangetrokken tot enkele van de methodieken van de filosofie, omdat we de nadruk leggen op rigoureus denken. We leggen de nadruk op een methodologie voor het oplossen van problemen die niet al te veel lijkt op sommige van de methodologieën voor het oplossen van problemen in de informatica."

Het Embedded EthiCS-model heeft de belangstelling gewekt van universiteiten en bedrijven in het hele land. Onlangs, experts van meer dan 20 instellingen kwamen op Harvard bijeen voor een workshop over de uitdagingen en best practices voor de integratie van ethiek in de curricula van computerwetenschappen. Maria Grijs, een senior onderzoeker bij Microsoft Research (en een fellow bij Harvard's Berkman Klein Center for Internet and Society), die hielpen bij het bijeenroepen van de bijeenkomst, zei dat naast onberispelijke technische karbonades, werkgevers zijn steeds vaker op zoek naar mensen die de noodzaak begrijpen om technologie te creëren die toegankelijk en maatschappelijk verantwoord is.

"Onze uitdaging in de industrie is om onderzoekers en praktijkmensen te helpen ethiek niet te zien als een vakje dat aan het eind moet worden gecontroleerd, maar eerder om over deze dingen na te denken vanaf het allereerste begin van een project, ' zei Grijs.

Die zorgen inspireerden onlangs de Association for Computing Machinery (ACM), 's werelds grootste wetenschappelijke en educatieve computermaatschappij, voor het eerst sinds 1992 zijn ethische code te actualiseren.

In de hoop het Embedded EthiCS-concept wijd te verspreiden in het computerwetenschappelijke landschap, Grosz en collega's hebben een paper geschreven dat in het tijdschrift zal worden gepubliceerd Communicatie van de ACM en lanceerde een website om te dienen als een open-source repository van hun meest succesvolle cursusmodules.

Ze stellen zich een cultuurverschuiving voor die leidt tot een nieuwe generatie ethisch ingestelde computerwetenschappers.

"In onze droomwereld, succes zal leiden tot beter geïnformeerde beleidsmakers en nieuwe bedrijfsmodellen van organisatie die ethiek inbouwen in alle stadia van ontwerp en bedrijfsleiderschap, ', zegt Behrends.

Het experiment heeft ook geleid tot interessante gesprekken buiten het domein van de informatica.

"We hebben dit gedaan in de context van technologie, maar het op deze manier verankeren van ethiek is belangrijk voor elke wetenschappelijke discipline die dingen de wereld in stuurt, " zei Grosz. "Om dat te doen, we zullen een generatie filosofen moeten laten groeien die zal nadenken over manieren waarop ze filosofische ethiek en normatief denken kunnen nemen, en breng het naar alle wetenschap en technologie."

Zorgvuldig ontworpen cursusmodules

De kern van het Embedded EthiCS-programma zijn zorgvuldig ontworpen, cursusspecifieke modules, gezamenlijk ontwikkeld door docenten van informatica en filosofie.

Een module die is gemaakt voor een cursus die wordt gegeven door professor Finale Doshi-Velez, vraagt ​​studenten om te worstelen met vragen over hoe modellen voor machinaal leren discriminerend kunnen zijn, en hoe die discriminatie kan worden verminderd. Een inleidende lezing schetst een filosofisch kader van wat discriminatie is, inclusief de concepten van ongelijksoortige behandeling en impact. Studenten leren hoe het elimineren van discriminatie bij machine learning meer vereist dan alleen het verminderen van vooroordelen in technische zin. Zelfs het stellen van een sociaal goede taak is misschien niet voldoende om discriminatie te verminderen, aangezien machine learning afhankelijk is van voorspellend bruikbare correlaties en die correlaties soms leiden tot grotere ongelijkheid tussen groepen.

De module belicht de gevolgen en mogelijke beperkingen van het gebruik van een ongelijksoortige impactdefinitie om discriminatie te identificeren. Het introduceert ook technisch computerwetenschappelijk werk op het gebied van discriminatie - criteria voor statistische billijkheid. Een oefening in de klas richt zich op een casus waarin een algoritme dat het succes van sollicitanten op verkoopposities bij een grote retailer voorspelt, ertoe leidt dat minder Afro-Amerikanen worden aanbevolen voor functies dan blanke sollicitanten.

Een opdracht buiten de klas vraagt ​​studenten om op deze basis te putten om een ​​concreet ethisch probleem aan te pakken waarmee werkende computerwetenschappers (dat wil zeggen, software-ingenieurs die voor het ministerie van Arbeid werken). De opdracht geeft studenten de kans om het materiaal toe te passen op een reëel probleem van het soort dat ze in hun carrière kunnen tegenkomen, en vraagt ​​hen om hun benadering van het oplossen van het probleem te verwoorden en te verdedigen.