Vi skal tale mindre om AI og mere om data

Der var sat spot AI i sundhed til årets sidste møde inden sommerferien i IT-Branchens Policy Board for Digital Sundhed.

Hvordan kommer vi fra laboratoriets pæne data til sundhedsvæsenets rodede virkelighed?

AI bliver i dag kun anvendt i meget begrænset omfang i klinisk praksis. Det fortalte Hubert D. Zając, postdoc i Human-Centered AI på Københavns Universitet. Han var inviteret til at levere et tankevækkende oplæg, hvor han bl.a. pegede på, at den manglende brug skyldes, at mange AI-modeller falder igennem, når de møder sundhedsvæsenets “messyness”. Med andre ord: Mange modeller fungerer godt i laboratoriet, men ikke i praksis.

En væsentlig årsag er, at AI-systemer adskiller sig markant fra andre software-systemer. De er krævende at udvikle, vedligeholde og opdatere – og for at være brugbare i sundhedsvæsenet, skal de kunne levere troværdige resultater, også når de konfronteres med virkelighedens kompleksitet.

Et centralt tema i oplægget var den afgørende rolle, data spiller for AI-systemers kvalitet og anvendelighed. Kvaliteten af data er ofte ikke tilstrækkelig, et problem der blev genkendt på tværs af boardet.

Hubert D. Zając understregede derfor, at man må være realistisk og kritisk i forhold til, hvad AI faktisk kan bidrage med i klinisk kontekst. Alle modeller har mangler, og det er nødvendigt at anerkende disse begrænsninger i design- og implementeringsfasen.

Samtidig argumenterede Hubert D. Zając desuden for, at der er behov for at gøre designrummet bredere for AI-systemer. Frem for at tage udgangspunkt i teorien bør man i langt højere grad tage afsæt i den praksis, systemerne skal fungere i. AI-designs skal kunne oversættes til forskellige kontekster og brancher, og det er nødvendigt at tænke i løsninger, der tager højde for både forskellige kliniktyper, brugerprofiler, patientsituationer og det konkrete medicinske vidensniveau.

Udviklingen går heldigvis i den rigtige retning

Oplægget gav anledning til en livlig dialog blandt boardets medlemmer. Diskussionen kredsede særligt om de udfordringer, der følger med manglende adgang til data og uklar lovgivning, som besværliggør både udvikling og implementering af AI-løsninger i sundhedsvæsenet.

Flere deltagere pegede på, at usikkerhed omkring regler og ansvar ofte fører til en tilbageholdenhed, hvor projekter enten forsinkes eller aldrig når længere end til pilotfasen.

Der blev desuden sat fokus på risikoen ved at arbejde med for pæne og kuraterede datasæt, som kan give modeller et forvrænget billede af virkeligheden. Boardet var enige om, at det i højere grad handler om at tage udgangspunkt i sundhedsvæsenets kompleksitet og uforudsigelighed, for at sikre robuste og anvendelige AI-systemer.

Selvom udfordringerne er mange, var der også en optimistisk tone i dialogen. Der blev udtrykt enighed om, at udviklingen inden for AI bevæger sig i den rigtige retning – så længe man holder fast i en realistisk og praksisnær tilgang, og ikke bruge AI, der hvor det ikke giver mening at automatisere.

Efterfølgende satte medlemmer fra Deloitte, Accenture og 2021.AI spot på deres egne erfaringer med AI i sundhed.

Vil du vide mere?

Hvis du vil vide mere om arbejdet i Policy Board for Digital Sundhed, og høre om, hvornår næste møde er, så er du velkommen til at kontakte Asbjørn William Ammitzbøll Flügge, der sidder med ansvaret for vores Policy Board for Digital Sundhed.