AI-agenter bliver i stigende grad en del af hverdagen på arbejdspladsen. Men der er en ting, der fra start er værd at sikre sig. Nemlig at AI-agenten bygger på en privat AI-løsning. Det er typisk dyrt og svært at ændre, når først AI-agenten er indarbejdet i organisationens processer. Og public AI løsninger risikerer at være ulovlige.
I denne artikel forklarer advokat Tim Krarup Nielsen fra IT-Branchens samarbejdspartner HortenDahl mere om problematikken med AI-agenterne.
Hvad er problemet?
”AI-agenter er AI-løsninger, der selvstændigt udfører opgaver. Typisk bliver de mere og mere integreret på tværs af organisationens processer og IT-systemer,” forklarer Tim Krarup Nielsen.
De kan eksempelvis analysere dokumenter, besvare spørgsmål og udføre komplekse arbejdsgange. Ligeledes får de mulighed for at handle på disse data, herunder persondata, f.eks. til at besvare e-mails.
En del AI-agenter kører i leverandørens miljøer som en SaaS-tjeneste, der integreres med organisationens eksisterende systemer. Her anvendes ofte brugerinput til at træne og forbedre AI-agenten.
Det betyder, at alle oplysninger, AI-agenten får adgang til, anvendes af leverandøren – og potentielt kan spredes og lækkes:
”Dette er særligt kritisk, hvis det er fortrolige oplysninger eller persondata, som potentielt kan gemmes, analyseres og genbruges af leverandøren – og evt. tilgås af andre kunder,” uddyber Tim Kraup Nielsen.
Konsekvenserne kan være alvorlige, f.eks. brud på GDPR, overtrædelse af tavshedspligter og tab af forretningshemmeligheder.
Public AI vs. privat AI – hvad er forskellen?
Der skelnes grundlæggende mellem to typer: Public AI og privat AI.
Public AI er en tjeneste, hvor andre kan anvende input-data, som er ikke aktivt sikrede. Det vil typisk være, hvis data behandles på leverandørens egne servere/SaaS-løsning, og hvor brugerdata kan indgå i videre træning af modellen, eller på anden måde genbruges.
En privat AI-løsning indebærer derimod, at input-data ikke spredes eller genanvendes. Dette forudsætter typisk følgende:
- Data bruges ikke til træning af leverandørens AI-løsning.
- Modellen kan køre lokalt eller i et isoleret cloudmiljø, enten hos dig selv eller hos leverandøren af løsningen.
- Leverandøren forpligter sig kontraktuelt til ikke at tilgå eller anvende data.
- Der er indgået en (rigtig) databehandleraftale.
De fleste gratis AI-løsninger er public AI. Desværre er en række betalte AI-løsninger også public, f.eks. fordi der fortsat trænes på data.
Det er derfor ikke nok blot at bruge en betalt løsning. Det er nødvendigt at vurdere løsningen nærmere.
GDPR-risikoen er reel
Når en AI-agent behandler personoplysninger – og det gør den næsten altid i en juridisk kontekst – finder GDPR anvendelse.
Bruges en public AI-tjeneste, er der ikke indgået en databehandleraftale. Dermed videregives alle persondata – i GDPR’s forstand – til udbyderen af AI-tjenesten til dennes egen brug.
Dette vil der typisk ikke være taget højde for i brugen af AI-løsningen; normalt vil det ikke kunne ske lovligt, selv hvis der var taget højde for dette. Slet ikke, hvis det er følsomme data – eller hvis det er persondata, som virksomheden eller organisationen behandler som databehandler på vegne af andre.
”Brug af public AI-tjenester vil typisk medføre en automatisk overtrædelse af GDPR – og muligvis også brud på alle databehandleraftalerne med kunderne,” uddyber Tim Krarup Nielsen.
Tavshedspligten og forretningshemmeligheder
Hvis data er underlagt tavshedspligt, eller på anden måde fortrolige, medfører brug af public AI videregivelse af fortrolige oplysninger. Dermed vil du typisk automatisk overtræde tavshedspligten, f.eks. i aftalen med kunder eller leverandører.
Herudover kan der ske læk af forretningshemmeligheder. Tilgås f.eks. interne strategidokumenter, M&A-oplysninger, kildekode, tekniske oplysninger, priser eller andre fortrolige forretningsdata i en public AI-agent, risikerer virksomheden at have offentliggjort hemmelighederne. Det kan i værste fald medføre, at du mister den retlige beskyttelse.
Sådan identificerer du, om din AI-agent er public eller privat
Følgende spørgsmål bør som minimum afklares:
- Præcis hvilke data har AI-agenten adgang til?
- Bruges data til træning?
- Er der indgået en (rigtig) databehandleraftale?
- Hvad står der i AI-agentens privatlivspolitik om brugen af data?
- Hvad står der i licensaftalen/serviceaftalen om brugen af data?
- Hvor behandles data, inden for EU/EØS/sikkert tredjeland eller uden for?
- Hvem har adgang til data, herunder tredjepartskomponenter/-services?
- Hvordan er løsningens arkitektur?
- Hvordan er løsningen sikret/isoleret teknisk mod datalæk?
Brug af AI-agenter med persondata vil i praksis kræve, at der udarbejdes en konsekvensanalyse – en såkaldt DPIA. Den skal udarbejdes, før AI-agenten tages i brug. Det kan være en større opgave – men i den forbindelse vil alle ovenstående forhold blive klarlagt.
”AI-agenter er kommet for at blive – og de kan skabe stor værdi. Første skridt i at sikre værdien er dog, at der kun anvendes privat AI. Desværre er en lang række af de tilgængelige økosystemer og løsninger for AI-agenter baseret på public AI,” forklarer Tim Krarup Nielsen.
Risikoen ved at anvende public AI er ikke kun den åbenlyse: Læk af forretningshemmeligheder, bøder efter GDPR, erstatningsansvar osv. Der er også risikoen ved at være nødsaget til at udskifte en forkert løsning, efter at den er implementeret i organisationen og integreret i forretningsprocesserne, noget der typisk vil være omkostningstungt.
”Hvis du vil anvende en AI-agent professionelt, bør du derfor som minimum starte med at sikre, at denne baseres på privat AI,” afslutter Tim Krarup Nielsen.
Få gratis rådgivning
Som medlem af IT-Branchen kan du altid gratis kontakte vores samarbejdspartner HortenDahl, Den telefoniske rådgivning om erhvervsjura er ubegrænset og gratis for dig som medlem. De første 4 timers skriftligt advokatarbejde per sag er også gratis.