Screenshots af samtaler med ChatGPT har oversvømmet vores alles feeds siden november 2022. Chatbot’en bliver ofte sammenlignet med menneskelig intelligens og beskrevet som en person.
I den nyeste episode af podcasten Blinde Vinkler taler techjournalist Marie Høst med forfatter, Peter Svarre, der ikke svømmer med på hypebølgen. Peter Svarre er begejstret for teknologien, men stadig kritisk over for ChatGPT’s omdømme og kunnen.
Vi ser på ChatGPT, som vi har set på maskiner gennem århundreder
”Vi er vokset op i en verden, hvor vi lærte, at lommeregneren altid havde ret. Så kom computerne, og de regnede altid rigtigt. Excel-arket tog aldrig fejl,” fortæller Peter Svarre og fortsætter: ”Man har en idé om, at maskiner er nogen, som altid regner rigtigt. Lige pludselig bliver vi nu omgivet af statistiske maskiner, som er overalt i vores liv – som tager fejl hele tiden”.
Men ChatGPT er ikke et orakel, der altid spytter sandheden ud. Tværtimod viser flere af Peters Svarres tests, at ChatGPT svarer forkert eller direkte vildledende på spørgsmål.
Det kan bare være svært at tro på, når maskinerne føles som et andet menneske, som du kan konversere med og som har personlighed. Med andre ord – en person med bevidsthed, intelligens og sociale kompetencer. Peter Svarre uddyber:
I det øjeblik, vi så begynder at antropomorfisere dem, altså give dem navne, eller tro, at de er mennesker, eller ligefrem omtale dem, som om de er mennesker, så begynder vi at få et menneskeligt forhold til dem. Vi begynder at stole på dem.
Og det er altid problematisk at stole blindt på nogen – maskine eller menneske. Især i det her tilfælde, hvor der reelt set blot er tale om avanceret statistik, siger Peter Svarre:
Det er tal, det er matematik, det er statistik, det er statistiske korrelationer baseret på milliarder af betragtninger. Og de modeller er blevet så store, så de er virkelig, virkelig gode til at simulere, altså lade som om, der er nogen hjemme. Men der er vitterligt ikke nogen hjemme.
Vi skal alle på ny lære at bruge konverserende AI
Ifølge Peter Svarre kommer introduktionen af ChatGPT og lignende teknologier til at kræve en generel mentalitetsændring i den måde, vi interagerer med maskiner og forstår maskiner på. Ligesom vi i løbet af de sidste 20 år har lært os selv og vores børn, at vi ikke nødvendigvis kan stole på den viden Google tilbyder os, så skal vi igen lære at være kritisk.
Og der kan der fra vores egen og udviklernes side være flere greb, som Peter Svarre mener, kan være fordelagtige:
”I stedet for at antropomorfisere, så tal om ChatGPT som en maskine,” foreslår Peter Svarre. På samme måde kan man markere, hvornår en kunstig intelligens har været kreatør på indhold. Hvis du læser en tekst, der er genereret af ChatGPT, så kan man eksempelvis med store bogstaver angive, at teksten er skrevet af en robot.
Kun ved at tænke på maskinerne som maskiner kan vi ændre vores tilgang, siger Peter Svarre og konkluderer:
Jo mere man lokker folk til at tro, at det er mennesker, jo mere investerer vi vores tillid i de der maskiner, og så er det, det kan gå galt.
Lyt til Blinde Vinkler hver måned
Podcasten Blinde Vinkler kigger ind i teknologier og videnskab, som forsøger at rette op på skævheder i samfund & teknologi. Nye episoder bliver publiceret på månedlig basis i løbet af 2023. Næste episode udkommer 29. marts. Du finder alle sæsoner af Blinde Vinkler her.
Podcasten er produceret af IT-Branchen og Ingeniørforeningen IDA.