Ibrahim Diallo zou zijn ontslagen door een machine. Recente nieuwsberichten vertelden over de toenemende frustratie die hij voelde toen zijn beveiligingspas niet meer werkte. zijn computersysteem login was uitgeschakeld, en ten slotte werd hij door beveiligingspersoneel uit het gebouw gehaald. Zijn managers konden geen verklaring geven, en machteloos om het systeem te overrulen.

Sommigen denken misschien dat dit een voorproefje was van wat komen gaat, aangezien kunstmatige intelligentie meer macht over ons leven krijgt. Persoonlijk, Ik trok de tegenovergestelde conclusie. Diallo werd ontslagen omdat een vorige manager zijn contract op het nieuwe computersysteem niet had verlengd en verschillende geautomatiseerde systemen vervolgens in actie kwamen. De problemen werden niet veroorzaakt door AI, maar door zijn afwezigheid.

De systemen vertoonden geen op kennis gebaseerde intelligentie, wat betekent dat ze geen model hadden dat was ontworpen om kennis (zoals expertise op het gebied van human resources) in de vorm van regels in te kapselen, tekst en logische links. Even, de systemen vertoonden geen computationele intelligentie - het vermogen om te leren van datasets - zoals het herkennen van de factoren die tot ontslag zouden kunnen leiden. In feite, het lijkt erop dat Diallo werd ontslagen als gevolg van een ouderwets en slecht ontworpen systeem dat werd geactiveerd door een menselijke fout. AI is zeker niet de schuldige - en het kan de oplossing zijn.

De conclusie die ik uit deze ervaring zou trekken, is dat sommige human resources-functies rijp zijn voor automatisering door AI, speciaal als, in dit geval, domme automatisering is zo onbuigzaam en ineffectief gebleken. De meeste grote organisaties hebben een personeelshandboek dat kan worden gecodeerd als een geautomatiseerd, expertsysteem met expliciete regels en modellen. Veel bedrijven hebben dergelijke systemen gecreëerd in een reeks domeinen waarbij specialistische kennis, niet alleen in personeelszaken.

Maar een praktischer AI-systeem zou een mix van technieken kunnen gebruiken om het slimmer te maken. De manier waarop de regels moeten worden toegepast op de nuances van echte situaties kan worden geleerd uit de HR-dossiers van het bedrijf, op dezelfde manier gebruiken common law-rechtsystemen zoals Engeland precedenten die door eerdere zaken zijn vastgesteld. Het systeem zou zijn redenering kunnen herzien naarmate er meer bewijs beschikbaar kwam in een bepaald geval met behulp van wat bekend staat als "Bayesiaanse updates". Een AI-concept genaamd 'fuzzy logic' kan situaties interpreteren die niet zwart-wit zijn, het toepassen van bewijs en conclusies in verschillende mate om het soort grimmige besluitvorming te vermijden dat leidde tot Diallo's ontslag.

De noodzaak van verschillende benaderingen wordt soms over het hoofd gezien in de huidige golf van overenthousiasme voor "deep learning"-algoritmen, complexe kunstmatige neurale netwerken geïnspireerd door het menselijk brein die patronen in grote datasets kunnen herkennen. Want dat is alles wat ze kunnen doen, sommige experts pleiten nu voor een meer evenwichtige aanpak. Deep learning-algoritmen zijn geweldig in patroonherkenning, maar ze tonen zeker geen diep begrip.

Het op deze manier gebruiken van AI zou het aantal fouten waarschijnlijk verminderen en wanneer ze zich voordeden, het systeem zou de lessen kunnen ontwikkelen en delen met overeenkomstige AI in andere bedrijven, zodat soortgelijke fouten in de toekomst worden vermeden. Dat kan niet gezegd worden van menselijke oplossingen. Een goede menselijke manager leert van zijn of haar fouten, maar de volgende manager zal waarschijnlijk dezelfde fouten herhalen.

Dus wat zijn de nadelen? Een van de meest opvallende aspecten van Diallo's ervaring is het getoonde gebrek aan menselijkheid. Er is een besluit genomen, zij het ten onrechte, maar niet gecommuniceerd of uitgelegd. Een AI maakt mogelijk minder fouten, maar zou het zijn beslissingen beter kunnen communiceren? Ik denk dat het antwoord waarschijnlijk niet is.

Het verliezen van je baan en levensonderhoud is een stressvol en emotioneel moment voor iedereen, behalve voor de meest frivole werknemers. Het is een moment waarop gevoeligheid en begrip vereist zijn. Dus, Ik zou persoonlijk contact zeker essentieel vinden, hoe overtuigend de AI-chatbot ook is.

Een ontslagen werknemer kan het gevoel hebben dat hem onrecht is aangedaan en kan de beslissing via een tribunaal aanvechten. Die situatie roept de vraag op wie verantwoordelijk was voor de oorspronkelijke beslissing en wie deze in rechte zal verdedigen. Dit is zeker het moment om de juridische en ethische vragen van de opkomst van AI aan te pakken, terwijl het nog in de kinderschoenen staat.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.