Gode råd til dataetik i praksis

Dataetik: Hvad er dataetik & etisk brugeroplevelsesdesign?

Vores gode råd til dataetiske overvejelser er konkrete råd du som virksomhed eller organisation kan bruge allerede i dag. Dataetik handler blandt andet om kombinationen af brugeroplevelsesdesign og etik. Det centrale spørgsmål i dataetik er her: Hvordan designer vi vores digitale virkelighed med respekt for moral, etik, menneskerettigheder, som kan blive overset, når nye teknologier som IoT, Kunstig Intelligens (AI), Blockchain, 5G, Deep learning, selv-lærende algoritmer og meget mere bliver en del af vores hverdag?

Dataetik skal være en dansk konkurrencefordel

Kunstig interlligens, machine Learning og voksende brug af Internet of Things, vil kun gøre udviklingen af dataetiske digitale services mere kompliceret. Det er derfor centralt at vi som branche dygtiggør os i at forstå de dataetiske konsekvenser, der kan opstå ved brug af vores produkter og services.

Hvis vi gør det rigtig godt, som meget tyder på vi er i stand til, så betyder det også en international konkurrencefordel for Danmark.

Persondataforordningen og den kommende Privacy-forordning giver allerede nogle gode retningslinjer for hvordan vi skal arbejde dataetisk i fremtiden, men der er stadig mange ubesvarede spørgsmål når de handler om at skabe den bedste brugeroplevelse i det digitale Danmark vi så småt er ved at vende os til.

På opfordring fra vores medlemmer og Regeringen har IT-Branchen samlet en række danske virksomheder til en snak om hvordan dataetiske overvejelser bedst muligt bliver en del af danske virksomheders hverdag. Det er der kommet følgende gode råd ud af. IT-Branchens medlemmer af Udvalget for den gode brugeroplevelse har co-created 8 gode råd til virksomheder der gerne vil implementere dataetiske overvejelser i deres digitale produktudvikling.

Vigtigt er fokus på at det skal være let at komme i gang med dataetik i praksis

Derfor har vi skabt rådene ud fra virksomheders faktiske POSITIVE erfaring med at arbejde med dataetik.

Det som blev fremhævet som merværdi ved strategisk arbejde med dataetik er styrkelse af virksomhedens kultur, styrkelse af rekruttering og fastholdelse, styrkelse af markedsposition, bedre forståelse af kunderejsen og brugeroplevelsen, bedre forståelse af teknologier og buzz som selv-lærende algoritmer, neurale netværk, machine-learning, IoT og naturligvis også privacy og it-sikkerhed.

Kort introduktion til 8 de gode råd til at arbejde med dataetik i praksis: Der findes mange tilgange til arbejdet med dataetik og etisk brugeroplevelsesdesign. Det vigtigste er at komme i gang med de indsatser der passer til lige netop jeres virksomhed eller organisation. Vi alle forskellige og ikke en tilgang til etiske overvejelser passer til os alle. Vi kan derfor have megen gavn af at lade os inspirere af hinanden for at finde ud af hvilke muligheder der er. Her er vores bud.

1. Tag brugeren i ed som driver af virksomhedens etiske grundholdninger.

Dine kunder/borgere er dine oplagte drivere af virksomhedens moral og etik i mere end en forstand. De skal nok fortælle dig, når de bliver skuffede, og de skal nok fortælle deres venner, når de får en god oplevelse sammen med dig. Inddragelse af den relevante målgruppe i etiske spørgsmål er en fordel for dig som virksomhed. Det skaber etisk medejerskab hos brugerne af dine produkter og services og ikke mindst loyalitet. Hvad end du har borgere eller kunder er der gevinster at hente for dig. Dine brugere kan især hjælpe dig med at se din virksomhed udefra og i et bredere. Så hvis du ikke kender dine etiske grundholdninger, så undersøg hvad dine brugere går og mener.

2. Indarbejd en etisk ’product backlog item’ i jeres procesværktøj.

Implementering af etiske overvejelser kan ske ved at gøre dataetik til en del af jeres faste procesværktøj. Det kan gøres på flere forskellige måder. Hvis I er vant til at arbejde agilt med procesværktøjer som Scrum eller Kanban, eller måske en mere traditionel lineær leverancemodel, kan I med fordel indarbejde en fast proces, som skaber fokus på etiske konsekvenser ved normalt brug af jeres produkt eller service. Product backlog item er et begreb fra den agile procesværktøjskasse, som dækker over en handling der skal udføres. Det kan være en handling af teknisk karakter, en brugerundersøgelse eller kortlægning af en brugerrejse eksempelvis som ’User story’. En Product backlog item er karakteriseret ved at handlingen er afgrænset og kan udføres i et sprint af et team. Det er derfor ikke fordelagtigt at lave en meget omfattende konsekvensanalyse, men en fast handling.

3. Quick test jeres dataetiske overvejelser allerede i idéudviklingsfasen:

Dataetiske overvejelser kan ske gennem en fast spørgeramme, som I benytter i idéudviklingsfaser, når I påbegynder nye produkter eller services eller videreudvikler eksisterende. En spørgeramme kan fungere som en metode til hurtig afklaring og kan tilpasses jeres virksomhedskultur. Brug eksempelvis nedenstående spørgsmål som dataetisk quick test inden i går i gang med at bygge. Hvis I ikke kan svare er der en række gode værktøjer i UX (User Experience) værktøjskassen I kan benytte til at søge svar.

  1. Vil min mor forstå det her?
    • Ved min mor hvad hun giver konsensus til?
    • Ved hun hvad der sker med hendes oplysninger?
  2. Vil du efterlade det her på en bænk?
    • Vil jeres produkt eller service være mulig at misbruge hvis det falder i de forkerte hænder?
  3. Vil du selv bruge det?
    • Giver din insider-viden dig grund til at være bekymret?
    • Fortæller du stolt om jeres produkter og services?

4. Vurder fra start de etiske konsekvenser jeres produkter og services risikerer at udløse på sigt.

Vejen til helvede er brolagt med gode intentioner. Det kan derfor være svært at forudse hvilke følger vores produkter og services udløse i fremtiden. Vi har ikke meget erfaring med eksempelvis brug af automatisering, big data og kunstig intelligens. Når ny teknologi rammer vores samfund, ved vi fra historien at vi skal holde tungen lige i munden. Kan du huske de første ’massemedier’? Eller dengang nationalstater opfandt de første ’masseødelæggelsesvåben’? Brug alle de paralleller du kan finde i historien, til at forudse og undgå eventuelle etiske konsekvenser jeres dataanvendelse kan få. Kig gerne ind i andre brancher for at finde sammenligninger. Tænk gerne på tværs af teknologier og lad jer også inspirere af nær fortid. Du kan også bruge kendte modeller til at forestille dig det værste der kan ske, såkaldt post-mortem modeller.

5. Brug online guides om dataetik – f.eks. Privacykompasset

I forbindelse med implementeringen af den nye persondatalov har Erhvervsministeriet med partnere udgivet et online værktøj, hvor virksomheder gratis kan tage temperaturen på deres behandling af personhenførbar data. Formålet med Privacykompasset er at støtte virksomheder i deres arbejde med at beskytte de datasæt de behandler. Tag gerne udgangspunkt i jeres arbejde med databeskyttelse, når I skal starte jeres arbejde med dataetik. Første skridt i arbejdet med ansvarlig dataanvendelse er at få overblik over jeres faktiske databehandling. Der vil være mange gode overvejelser her I kan udbygge med et bredere perspektiv på dataetik og etisk design.

6. Skab en virksomhedskultur der understøtter den enkelte medarbejders etiske værdigrundlag/kodeks.

Co-create jeres etiske grundlag med medarbejderne. En virksomheds værdi er let opgjort i de resultater som summen af medarbejdere producerer. En medarbejder der føler medejerskab og sammenhæng mellem sit personlige etiske værdigrundlag og virksomhedens er en bedre medarbejder. Som virksomhed har du mulighed for at skabe et godt arbejdsmiljø og samtidig sende et signal til samfundet om at virksomheden tager ansvar. En stolt medarbejder er en vigtig ambassadør overfor både kunder, brugere og samarbejdspartnere.

7. Fasthold transparens og accept af formålet med produktet – fælles ledestjerne

Transparens skaber tryghed. Det gode samarbejde er en fælles intention og en veldefineret fælles målsætning for dig og dine interessenter. Som virksomhed vil du opleve at dine produkter og services bliver mere succesfulde, hvis du skaber transparens og accept omkring formålet med dine produkter og services. Både i relation til brugere, kunder, samarbejdspartnere og politiske interessenter er der værdi at hente, hvis du lykkes med at skabe en fælles ledestjerne. Den fælles ledestjerne er oplag baseret på etiske grundholdninger. Eks. Kan transparens være et mål i sig selv. At facilitere et oplyst køb eller valg af service kan også være et mål i sig selv. 

8. Foretag et eksternt etisk review

Som virksomhed med rigtig mange brugere af jeres produkter og services, kan det være uoverskueligt at forholde sig neutralt til egne produkter og services i et uklart etisk spørgsmål. Du kan derfor ud og søg eksternt etisk review enten i form af brugerfeedback eller ved at bede en anden virksomhed, som er specialiseret inden for arbejde med dataetik om at forhold sig til mulige etiske konsekvenser, udløst helt eller delvist af dit produkt eller din service. Vi anbefaler at dette initiativ kun benyttes, når det har relevans. Dvs. når I har en konkret mistanke om at I ikke gør det godt nok. Der findes lovgivning = mindstekrav i Danmark, men også på Europæisk plan, som allerede understøtter etiske grundholdninger. Eks. Persondataforordningen, Tilgængelighedsdirektivet, Markedsføringsloven mm.

Læs mere om best practice

  • White hat UX af Trine Falbe, Kim Andersen og Martin Michael Frederiksen
  • Dataetik: Den nye konkurrencefordel af Pernille Tranberg og Gry Hasselbalch
  • Jytte fra marketing er gået for i dag af Morten Münster

Find relevant forskning på området

Andre samlinger af gode råd vi anbefaler

Flere gode kilder? Send gerne til sne@itb.dk

Fra Twitter

Der co-create’s råd til virksomheder der vil arbejde med dataetik. Vi deler når vi er færdige med arbejdet. #dataetikdk @ITBranchen @MetteLITB #etiskUX jeg sender til jer @christianevejlo til inspiration. pic.twitter.com/7BDwmTm8YY

— Sif Neldeborg (@SifNelde) 29. august 2018