Med bl.a. EU Kommissær Margrethe Vestager i spidsen præsenterede EU-Kommissionens for nyligt sit forslag til regulering af AI. Et forslag, der skal danne grundlag og klarhed over, hvordan vi fremadrettet skal bruge kunstig intelligens og altså håndtere data på ansvarlig vis.
EU har taget en risiko-baseret tilgang til reguleringen af kunstig intelligens. Det betyder, at noget AI er helt forbudt, fx masseovervågning og social scoring. Andet AI falder i kategorier inden for hhv. højrisiko, begrænset risiko og minimal risiko.
Det er særligt kategorien ‘høj-risiko’, som giver grå hår i udvalget. Her har EU præsenteret en liste over services og produkter, som skal gennemgå særskilte procedurer og krav, fx inden for beslutningsunderstøttelse indenfor rets- og socialområdet, kreditvurderinger og skanning af CV’er, før de kan frigives på markedet.
Risiko for ekstraordinært høje omkostninger
På mødet havde udvalget besøg fra den europæiske organisation, DIGITALEUROPE, som kunne fortælle mere om kommissionens tiltag og disses betydning.
Her blev det fremhævet, at dokumentationskravene for højrisiko AI kommer til at ligge i den tunge ende og at omkostningerne for virksomheder risikerer at blive ekstraordinære høje. Noget som vækker stor bekymring I udvalget:
“Worst case vil reguleringen paralysere hele udviklingen inden for kunstig intelligens, særligt i offentlig sektor og finanssektoren. Men det vil også ramme nogle af de løsninger, der allerede er på markedet i dag. Min frygt er, at det fremover bliver stort set umuligt for startups og mindre virksomheder at udvikle et AI-produkt fra start til slut, ligesom det gælder for lægemiddelproducenter i dag,” udtaler Bent Dalager, partner I KPMG og formand for udvalget for digitalt erhverv.
En anden stor bekymring er den meget brede definition af AI, som EU lægger op til. For ikke alle datadrevne løsninger bør defineres som AI, f.eks. statistiske metoder.
Grundlæggende handler det om at sikre, at vi ikke ender i en situation, hvor reguleringen afskrækker brugen af AI, før vi overhovedet er kommet i gang.
“Det er som om hele diskursen om AI kun fokuserer på, hvad der kan gå galt ved at bruge AI. Men vi bør samtidig tale om, hvad vi som samfund går glip af ved ikke at bruge AI, fx dårligere behandling i sundhedssektoren. En AI-løsning har allerede reddet adskillige danskere fra at dø af et hjerteanfald, og det burde blot være begyndelsen på en lang række forbedringer,” fortsætter Bent Dalager.
Erhvervsministeriet har udsendt en høring om EU’s forslag, hvor IT-Branchen har indsendt et høringssvar med en række bemærkninger til forslaget.
Her lægger IT-Branchen bl.a. op til, at AI-reguleringen bør gå hånd i hånd med en målrettet indsats i forhold til at sikre, at EU er attraktivt for økosystemet af iværksætter- og vækstvirksomheder indenfor området med særligt fokus på at tiltrække og fastholde disse tech-startups.
Hvis du vil blive klogere på kunstig intelligens, så har IT-Branchen, sammen med IDA og tech-journalist Marie Høst, lavet en række podcasts kaldet Blinde Vinkler omkring udfordringerne ved brugen af AI. Den seneste sætter fokus på, at danske nyhedsmedier er i gang med at udvikle egen AI, der skal styre dit nyhedsflow.
Vil du være med?
Er du interesseret i at høre mere om arbejdet, som udvalget for digitalt erhverv foretager sig, eller ønsker du aktivt at deltage i udvalgets arbejde, så ret henvendelse til IT-Branchens chefkonsulent, Charlotte Holm Billund.