Aftalen om verdens første bindende regulering af AI faldt på plads sent fredag aften lange og intense forhandlinger. Her har den svære øvelse været at nå til enighed om at finde den rette balance mellem regulering på den ene side og over-regulering på den anden.
Grundprincippet i den nye AI-regulering er at anvende forskellige niveauer af regler og kontrol på forskellige typer af AI-applikationer, afhængigt af deres potentielle virkning. Dette er en såkaldt risikobaseret tilgang, hvor det er anvendelsen af AI, der reguleres.
”Det er en stor milepæl, at AI reguleringen nu er forhandlet på plads i EU. Det har vi i IT-Branchen ventet længe og spændt på, for usikkerheden om hvad virksomheder må og ikke må inden for AI er ødelæggende for vores innovation,” udtaler Natasha Friis Saxberg, adm. direktør i IT-Branchen.
Hun fortsætter: ”Men forhandlingsforløbet har også vist, at det er svært at regulere et område i rivende udvikling. For AI har ikke stået stille mens, der er blevet forhandlet. De sidste store knaster i forhandlingsforløbet har bl.a. også været ift. regulering af Generative AI og de store sprogmodeller. For AI er på ganske kort tid gået fra at være en teknologi, som vi talte om i en mindre kreds, til en teknologi som vi alle kender og bruger”.
Forhandlingerne i EU er dog ikke helt afsluttede. EU har udelukkende offentliggjort en politisk ramme for AI-reguleringen, og først i det nye år bliver den politiske aftale endeligt konkretiseret helt ned i detaljen af embedslaget. Derefter skal den lovbehandles i EU-systemet, hvorefter den forventes at træde i kraft i EU’s medlemslande i løbet af 2025-2026.
AI regulering kan ramme de mindre virksomheder hårdt
Der er ingen tvivl om, at reguleringen kommer til at få stor indflydelse på danske virksomheders konkurrenceevne og deres muligheder for at arbejde med og udvikle nye AI-løsninger.
”Nu har vi så fået en ramme for AI, som sætter nogle hegnspæle op. Om hvad vi må med AI, hvad er forbudt og hvad vi skal være mere ekstra opmærksomme på. Men vi bliver jo ikke verdensmestre inden for AI ved at regulere området. Hvis vi for alvor skal få del af det store potentiale med AI i EU og Danmark, så skal vi massivt investere i området, give en hjælpende hånd til SMV’erne og bruge AI mere proaktivt inden for de områder, hvor vi kan skabe ny vækst og velstand,” udtaler Natasha Friis Saxberg.
Som altid bliver det vigtigt at læse det med småt. Før vi kender alle detaljerne i aftalen, er det usikkert om den svære balancegang er blevet ramt. For som med meget anden EU-lovgivning bliver det afgørende, at reglerne ikke bliver så stramme og bureaukratiske, at det bliver både vanskeligt og dyrt for virksomhederne at leve op til. Særligt også når det kommer til de mange SMV’ere, der ikke har de samme ressourcer tilgængeligt til compliance, som de store.
”Vi har derfor brug for, at myndighederne hurtigt hjælper med at skabe klare retningslinjer og guidelines for brugen af AI, så vi ikke ender med at hæmme innovationen og de positive muligheder med AI af ren frygt for at gøre noget forkert,” siger Natasha Friis Saxberg.
Hvordan endte det med de store sprogmodeller?
Introduktionen af store sprogmodeller (foundational models eller General-Purpose AI) var næsten ved at køre AI forhandlingerne af sporet. Her er man endt med at regulere teknologien bag sprogmodellerne, og der indføres regler for transparens med modellerne, herunder tekniske dokumentationskrav, overholdelse af EU copyright mv.
Disse AI anvendelser bliver forbudt med den nye ‘AI Act’:
– Biometriske kategoriseringssystemer, der bruger følsomme karakteristika, som fx politisk, religiøs, filosofisk overbevisning eller seksuel orientering, race).
– Ikke målrettet indsamling af billeder af ansigter fra internettet og overvågningsmateriale til at skabe databaser til ansigtsgenkendelse.
– Følelsesgenkendelse på arbejdspladser eller uddannelsesinstitutioner.
– Social scoring baseret på social adfærd og personlige karakteristika.
– AI-systemer, der manipulerer menneskelig adfærd med det formål at omgå deres frie vilje.
– Kunstig intelligens, der bruges til at udnytte menneskers sårbarheder på baggrund af deres alder, handicap, sociale eller økonomiske situation.
Kilde: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
Hvis du vil vide mere
IT-Branchen følger tæt færdiggørelsen af AI Act’en og vil i den kommende tid informere om den nye EU-regulering gennem artikler, guides og events, der klæder virksomheder på til at forstå og til at kunne arbejde inden for de nye rammer.
Kontakt Charlotte Holm Billund, der er ansvarlig for IT-Branchens NewTech policy board, hvis du vil høre mere.
