De allereerste industriële revolutie begon historisch met de introductie van stoom- en wateraangedreven technologie. Sindsdien hebben we een lange weg afgelegd, met de huidige vierde industriële revolutie, of Industry 4.0, die gericht is op het gebruik van nieuwe technologie om de industriële efficiëntie te verhogen.

Sommige van deze technologieën omvatten het internet der dingen (IoT), cloud computing, cyber-fysieke systemen en kunstmatige intelligentie (AI). AI is de belangrijkste drijfveer van Industrie 4.0 en automatiseert intelligente machines om zelf te controleren, interpreteren, diagnosticeren en analyseren. AI-methoden, zoals machine learning (ML), deep learning (DL), natuurlijke taalverwerking (NLP) en computer vision (CV), helpen industrieën hun onderhoudsbehoeften te voorspellen en downtime te verminderen.

Om echter een soepele, stabiele implementatie en integratie van op AI gebaseerde systemen te garanderen, moeten de acties en resultaten van deze systemen begrijpelijk worden gemaakt, of met andere woorden "verklaarbaar" voor experts. In dit opzicht richt verklaarbare AI (XAI) zich op het ontwikkelen van algoritmen die voor de mens begrijpelijke resultaten opleveren die worden gemaakt door op AI gebaseerde systemen. XAI-implementatie is dus nuttig in Industrie 4.0.

Onlangs heeft een groep onderzoekers, waaronder assistent-professor Gwanggil Jeon van de Incheon National University, Zuid-Korea, bestaande AI- en XAI-technologieën en hun toepassingen in Industry 4.0 onderzocht. Hun recensie is gepubliceerd in IEEE Transactions on Industrial Informatics .

"Hoewel AI-technologieën zoals DL veel sociale problemen kunnen oplossen vanwege hun uitstekende prestaties en resolutie, is het moeilijk uit te leggen hoe en waarom dergelijke goede prestaties worden verkregen. Daarom is het noodzakelijk om XAI te ontwikkelen, zodat DL, net als de huidige black box, kan efficiënter worden gemodelleerd. Het zal ook gemakkelijker zijn om applicaties te maken", aldus prof. Jeon, die zijn motivatie achter het onderzoek uitlegt.

Op XAI gebaseerde methoden worden geclassificeerd op basis van specifieke AI-taken, zoals de functieverklaringen, besluitvorming of visualisatie van het model. De auteurs merken op dat de combinatie van geavanceerde AI- en XAI-gebaseerde methoden met Industry 4.0-technologieën resulteert in verschillende succesvolle, nauwkeurige en hoogwaardige toepassingen. Een van die toepassingen is een XAI-model dat is gemaakt met behulp van visualisatie en ML, dat de beslissing van een klant om al dan niet een schadeverzekering af te sluiten verklaart. Met behulp van XAI kunnen mensen herkennen, begrijpen, interpreteren en communiceren hoe een AI-model conclusies trekt en actie onderneemt.

Er zijn duidelijk veel opmerkelijke voordelen van het gebruik van AI in Industrie 4.0; het heeft echter ook veel obstakels. Het meest significant is het energieverslindende karakter van op AI gebaseerde systemen, de exponentieel toenemende behoefte aan een groot aantal cores en GPU's, evenals de behoefte aan fine-tuning en hyperparameteroptimalisatie. De kern hiervan zijn gegevens die worden verzameld en gegenereerd uit miljoenen bronnen, apparaten en gebruikers, waardoor vooringenomenheid wordt geïntroduceerd die de AI-prestaties beïnvloedt. Dit kan worden beheerd met behulp van XAI-methoden om de geïntroduceerde bias te verklaren.

"AI is het belangrijkste onderdeel van industriële transformatie dat slimme machines in staat stelt om taken autonoom uit te voeren, terwijl XAI een reeks mechanismen ontwikkelt die voor mensen begrijpelijke verklaringen kunnen produceren", concludeert prof. Jeon. + Verder verkennen

AI-onderzoekers verbeteren methode voor het verwijderen van gendervooroordelen in machines die zijn gebouwd om tekst- of spraakgegevens te begrijpen en erop te reageren