På baggrund af, hvad der kan virke som uskyldige informationer, kan avancerede sprogmodeller f.eks. gætte, hvor vi bor og hvad vi arbejder med. Og de kan gøre det langt hurtigere end mennesker.
Den viden som kan sammenstykkes om os, kan måske indvarsle en ny æra af annoncering eller politisk påvirkning, hvor virksomheder bruger information indsamlet fra chatbots til at opbygge detaljerede profiler af brugere.
Hvordan kan det overhovedet lade sig gøre at sammenstykke så privat information om os?
Og findes der noget forsvar mod denne invasive snushane, så vi kan beskytte vores privatliv?
Det diskuterer tech-journalist og vært Marie Høst med Sune Lehman, professor i netværks- og kompleksitetsvidenskab ved DTU Compute og professor i Social Data Science ved Københavns Universitet i denne udgave af Blinde Vinkler.
Lyt til podcasten (30:05 min.).
De kender dig bedre, end du selv gør
Måden du taler og skriver på, kan afsløre meget om dig. Især hvis du taler om en chatbot.
Det viser den seneste forskning, hvor en AI med ganske få sætninger kunne bestemme bl.a. køn, alder og geografi på den pågældende person. En udvikling der bekymrer Sune Lehman.
”Grund til at man skal være bekymret, over at ens personlige oplysninger kommer ud online, er, at det kan gøre forudsigelserne om os mere præcise og dermed bruges til at manipulere os,” udtaler han.
Det er især den hastige udbredelse af kunstig intelligens, der vil være med til at accelerere dette. For i fremtiden kommer vi ifølge Sune Lehman til at bruge mange timer om dagen sammen med diverse chatbots og AI’er, som dermed kommer til at kende os bedre, end vores venner og familie gør det.
”Det er ret vildt, så meget generative AI-modeller kan forudsige om os. De kan allerede i dag fortælle om dit køn, alder, bopæl, uddannelse, arbejde og politiske overbevisning – bare ved at lytte til måden du taler og skriver på. F.eks. er der stor forskel på, hvilke ord en person, der er neurotisk, bruger i forhold til en, der er mere åben. Og det kan en AI lynhurtigt genkende,” fortæller han.
En af årsagerne til, at AI’er er så gode til at analysere, hvem vi er, er, at vi faktisk oftest er meget stereotype og forudsigelige.
Derfor kan algoritmerne hurtigt sammenligne en med tusinder af andre, der er ligesom en selv, og dermed vide, hvem vi er som personer, hvad vi har af behov og hvordan vi typisk vil reagere på forskellige ting.
Men er det i grunden farligt? Er det noget, vi skal være nervøse for og reagere på?
Det diskuterer Marie Høst med Sune Lehman i Blinde Vinkler.
Du kan høre hele afsnittet her (30:05 minutter) eller besøge vores samlede podcast-univers, hvis du er interesseret i de blinke vinkler, som teknologien medfører.
Podcasten Blinde Vinkler er produceret af Ingeniørforeningen IDA og IT-Branchen. Den er tilrettelagt, redigeret og beværtet af Marie Høst.