Artsen die beslissingen nemen over leven en dood over orgaantransplantaties, Bij kankerbehandelingen of hartoperaties wordt er doorgaans niet veel nagedacht over hoe kunstmatige intelligentie hen zou kunnen helpen. En dat is hoe onderzoekers van de Carnegie Mellon University zeggen dat klinische AI-tools moeten worden ontworpen, zodat artsen er niet over hoeven na te denken.

Een chirurg zal misschien nooit de behoefte voelen om een ​​AI om advies te vragen, veel minder om een ​​klinische beslissing voor hen te nemen, zei John Zimmerman, de Tang Family-hoogleraar kunstmatige intelligentie en mens-computerinteractie in het Human-Computer Interaction Institute (HCII) van CMU. Maar een AI zou beslissingen kunnen sturen als het was ingebed in de besluitvormingsroutines die al door het klinische team worden gebruikt. het leveren van door AI gegenereerde voorspellingen en evaluaties als onderdeel van de algehele mix van informatie.

Zimmerman en zijn collega's noemen deze aanpak 'Onopvallende AI'.

"Het idee is dat AI onopvallend moet zijn in de zin dat je er niet over hoeft na te denken en het niet in de weg zit, "Zei Zimmerman. "Elektriciteit is volkomen onopvallend totdat je het niet hebt."

Qian Yang, een doctoraat student in de HCII, zal bespreken hoe de Unremarkable AI-benadering het ontwerp van een klinische beslissingsondersteunende tool (DST) heeft geleid op CHI 2019, de Association for Computing Machinery's conferentie over menselijke factoren in computersystemen, 4-9 mei in Glasgow, Schotland.

Yang, samen met Zimmerman en Aaron Steinfeld, universitair hoofddocent in het HCII en het Robotics Institute, werken samen met biomedische onderzoekers van de Cornell University en CMU's Language Technologies Institute aan een zomertijd om artsen te helpen bij het evalueren van hartpatiënten voor behandeling met een ventricular assist device (VAD). Deze implanteerbare pomp helpt zieke harten bij patiënten die geen harttransplantatie kunnen ondergaan, maar veel ontvangers overlijden kort na de implantatie. De DST die in ontwikkeling is, maakt gebruik van machine learning-methoden om duizenden gevallen te analyseren en de kans te berekenen of een persoon er baat bij heeft.

DST's zijn ontwikkeld om te helpen bij het diagnosticeren of plannen van een behandeling voor een aantal medische aandoeningen en chirurgische procedures, maar de meeste slagen er niet in om de overgang van laboratorium naar klinische praktijk te maken en raken in onbruik.

"Ze gaan er allemaal van uit dat je weet dat je hulp nodig hebt, "Zei Zimmerman. Ze hebben vaak te maken met weerstand van artsen, van wie velen denken dat ze geen hulp nodig hebben, of zie de zomertijd als technologie die is ontworpen om ze te vervangen.

Yang gebruikte de Unremarkable AI-principes om te ontwerpen hoe het klinische team zou omgaan met de DST voor VAD's. Deze teams omvatten clinici op het middenniveau, zoals verpleegkundigen, maatschappelijk werkers en VAD-coördinatoren, die regelmatig computers gebruiken; en chirurgen en cardiologen, die het advies van hun collega's belangrijker vinden dan computationele ondersteuning.

De natuurlijke tijd om de prognoses van de DST op te nemen, is tijdens multidisciplinaire patiëntevaluatievergaderingen, zei Yang. Hoewel artsen de uiteindelijke beslissing nemen over het wel of niet implanteren van een VAD, het hele team is vaak aanwezig bij deze bijeenkomsten en er wordt gebruik gemaakt van computers.

Haar ontwerp neemt automatisch de DST-prognoses op in de dia's die voor elke patiënt zijn voorbereid. In de meeste gevallen, de DST-informatie zal niet significant zijn, Steinfeld suggereerde, maar voor bepaalde patiënten of op bepaalde kritieke punten voor elke patiënt, de DST kan informatie geven die aandacht vereist.

Hoewel de DST zelf nog in ontwikkeling is, de onderzoekers testten dit interactieontwerp bij drie ziekenhuizen die VAD-operaties uitvoeren, met DST-verbeterde dia's gepresenteerd voor gesimuleerde patiënten.

"De middenklassen - het ondersteunend personeel - vonden dit geweldig, "Yang zei, omdat het hun inbreng verbeterde en hen hielp actiever te zijn in de discussie. De reactie van de arts was minder enthousiast, als gevolg van scepsis over zomertijd en de overtuiging dat het onmogelijk was om de interactie volledig te evalueren zonder een volledig functionerend systeem en echte patiënten.

Maar Yang zei dat artsen niet dezelfde defensiviteit en gevoelens toonden over vervanging door technologie die doorgaans wordt geassocieerd met zomertijd. Ze erkenden ook dat de DST hun beslissingen zou kunnen informeren.

"Voorgaande systemen waren allemaal bedoeld om u te vertellen wat u moest doen, "Zei Zimmerman. "We vervangen geen menselijk oordeel. We proberen mensen onmenselijke vermogens te geven."

"En om dat te doen, moeten we het menselijke besluitvormingsproces in stand houden, ', voegt Steinfeld toe.