Norrtälje Kommun, der består af 62.000 indbyggere, stod med en kæmpe udfordring både administrativt og menneskeligt.
Siden 2014 var antallet af sager om børn og unge, der misrøgtes steget med 66%, og tendensen så desværre ud til at stige, samtidig med at sagerne blev mere komplekse.
Sagerne blev oftest håndteret manuelt, men på grund af manglende ressourcer og stigningen i antallet og kompleksiteten af sager, var papirbunkerne og behandlingstiden vokset markant de seneste år.
Og netop tiden er desværre ofte helt afgørende i sager om misrøgt. Lange sagsbehandlingstider forhindrer nemlig, at der i tide handles på en sag, hvilket kan have store konsekvenser for det enkelte barn.
Derudover vil en forsinket proces også kunne medføre øgede omkostninger til kommunen, da sagen kunne nå at udvikle sig mere alvorligt for barnet, inden der blev sat ind fra kommunens side.
AI som støtte til sagsbehandlerne
I Norrtälje kommune beslutte man sig derfor for, at man ville strømline og automatisere processerne omkring både forundersøgelse, sagsbehandling og indgriben.
En af de fem digitale spor, som man i den forbindelse besluttede sig for at udrulle, inkluderede brugen af kunstig intelligens i forbindelse med forundersøgelser i potentielle misrøgtsager.
Det var her, at danske 2021.ai blev koblet op på projektet gennem deres samarbejdspartner, Valcon, som i et stykke tid havde hjulpet kommunen på konsulentbasis med diverse digitaliseringsprojekter.
”Allerede da vi tog det første møde med kommunen, kunne vi godt mærke, at sagsbehandlerne var nået til et punkt, hvor de ganske enkelt ikke kunne følge med længere. Og selvom de havde besluttet, at de havde brug for digital assistance, så var det stadig en modig beslutning at vælge AI i deres løsning,” udtaler Mikael Munck, adm. direktør i 2021.ai.
På et så følsomt et område som socialområdet, hvor man taler om udsatte mennesker, er det meget vigtigt, at man ikke ser AI og machine learning som en it-løsning, der bare skal implementeres.
Så selvom man startede på klassisk vis med at identificere use cases, så endte snakken hurtigt omkring de vigtige etiske spørgsmål. Derfor lavede man også en workshop, hvor man med udgangspunkt i EU’s ”Ethics guidelines for trustworthy AI”, tog en diskussion om, hvad man kan og skal bruge data til.
På baggrund af den etiske diskussion og med udgangspunkt i, hvilke data kommunen reelt havde til rådighed, udviklede man derefter en Natural Language Processing (NLP) model.
Modellen blev trænet i et gennemlæse historiske sager og matche dem med de nye, så sagsbehandlerne hurtigere kunne få en indsigt i tidligere sager og sammenligne deres indhold og udfald med den pågældende sag.
Helt konkret finder AI’en gennem en omfattende tekstanalyse de fem historiske sager, der minder mest om den aktuelle sag, så sagsbehandler kan danne sig et overblik over, hvad der er sket i lignende sager. Noget der normalt tog meget lang tid at gå igennem.
”De seks sagsbehandlere, som kommunen har på området, følte lige pludselig, at de havde 1.000 virtuelle kollegaer. Nogle der hjalp dem med at samle data, kigge på tidligere afgørelser og som hjalp dem med at få et hurtigere overblik, så de bedre kunne vurdere de eksisterende og ofte komplicerede sager,” siger Mikael Munck.
På den måde blev sagsbehandlerne langt mere produktive, uden at skulle gå på kompromis med hverken kvalitet eller detaljer i den enkelte sag.
Opbygget som Legoklodser
For at komme i gang med en brugbar NLP-model, valgte man at tage udgangspunkt i 2-3 konkrete use cases hos sagsbehandlerne.
Derefter fandt man ud af, hvilke datakilder der skulle bruges til at understøtte disse, hvorefter man strukturerede og anonymiserede data, så modellen blev bygget op uden at kompromittere den enkelte borgers datasikkerhed.
”Det hele er konstrueret som slags legoklodser, hvor man bygger modellen op på en byggeplade eller platform. Da det er os, der står for at bygge med legoklodserne og træne modellen, kræver det ikke de store tekniske kompetencer hos sagsbehandlerne at komme i gang. De skal sådan set bare give feedback på resultater og løbende forbedringsønsker. Så bygger vi det for dem,” fortæller Mikael Munck.
Samtidig sikrede man også en høj grad af gennemsigtighed, så man ikke var i tvivl om dokumentationen, hvad der var foregået, og hvordan modellen var kommet frem til sit sagsoverblik.
Selvom det var 2021.ai, der stod for at udvikle og træne modellen, så lå alle data på svenske servere og udviklingen foregik i kommunens eget miljø. På den måde sikrede man, at der var fuldstændig styr på, hvor data var placeret, og hvem der havde adgang til dem.
Stort dansk potentiale for AI i det offentlige
Det er dog ikke kun i Sverige, at man oplever en stor interesse for at bruge kunstig intelligens i det offentlige. Også i Danmark er interessen stor for at bruge AI som en beslutningsunderstøttende teknologi.
”Når vi er ude og tale med danske kommuner om mulighederne i AI, så er de ofte positivt overraskede over, hvor meget man rent faktisk kan gøre allerede i dag. Men samtidig er man også lidt forsigtig med at komme i gang, da man ofte er usikker på den juridiske og etiske side af det hel,” siger Mikael Munck.
KL siger da også selv, at de oplever mange kommuner, der godt kan se potentialet i at bruge machine learning og kunstig intelligens, men som er bekymrede over ansvaret og i det grundlæggende i at lade en computer bidrage til beslutninger, der vedrører borgerne.
Af samme grund har KL udarbejdet en juridisk værktøjskasse, der skal hjælpe de enkelte kommunale teams på vej, ligesom man via deres Digitaliseringsprogram kan få hjælp fra deres rådgivere.
Mikael Munck anbefaler da også, at man tager fat i professionelle rådgivere eller konsulenter, hvis man sidder f.eks. i en kommune og overvejer mulighederne i at bruge AI i forbindelse med sagsbehandling el. lign.
Derudover har han følgende råd, hvis man overvejer at komme i gang med AI:
- Du skal have energien og lysten. At arbejde med kunstig intelligens og machine learning kræver en masse vigtige etiske, juridiske og datamæssige overvejelser. Så det kræver noget at komme i gang for et team. Til gengæld er der ofte en kæmpe gevinst ved at benytte teknologien.
- Tænk produktion fra starten. Alt for mange AI-projekter ender som pilotforsøg, fordi man ikke fra starten får tænkt ind, hvordan den endelige løsning skal fungere i et eksisterende miljø og infrastruktur.
- Tag etiksnakken med det samme. Det er vigtigt, at man tager snakken om etik, jura og brugen af data helt fra starten. Ellers risikerer man at måtte stoppe op til sidst.
- AI er også forandringsledelse. Når man indfører digitale assistenter, ændrer man også i både arbejdsprocesser og systemer. Derfor er det vigtigt at se implementeringen af AI som et forandringsprojekt, og ikke bar et it-projekt.
Hvis du vil vide mere
Du kan læse mere om vores mærkesag om offentlig digitalisering på vores hjemmeside, ligesom du altid kan tage fat i Martin Jensen Buch, hvis du f.eks. kunne være interesseret i at deltage i vores udvalg for offentlig digitalisering.