26.09.2018
5 min læsetid

5 etiske dilemmaer tech-branchen skal løse

De store tech-firmaer som Google, Amazon og Facebook har givet os produkter, de færreste vil undvære. Nu kommer det etiske efterslæb, som hele tech-branchen og verdens regeringer i dag står over for.

Morten Scriver Andersen

afMorten Scriver Andersen

Silicon Valley-giganterne Facebook, Google og Amazon har alle skabt produkter, som få af os vil være foruden. Søgemaskiner, sociale medier og nethandel ville ikke være det samme uden dem. Men fordi udviklingen ofte har handlet om, hvad der er teknisk muligt, er der over de seneste år opbygget et stort etisk efterslæb.

For eksempel bliver der investeret mange milliarder kroner i kunstig intelligens hvert år. Langt størstedelen af dem er til militære eller kommercielle formål. Teknologiens bannerførere har derfor primært øje for krigsførelse og profit. Etik er både dyrt, begrænsende og svært håndgribeligt.

Det har blandt andet kostet os et stort indhak i privatlivet. Men teknologien har også udfordret vores ret til at bestemme, mens den har en iboende fare for at reproducere magtstrukturer.

Men etikken er ved at snige sig ind i branchen. Et eksempel herhjemmefra er teknologimanifestet – The Copenhagen Letter – fra sidste års Techfestival i København. ”Det er tid til at tage ansvar for den verden, vi skaber,” lyder det blandt andet fra de 150 medforfattere, der alle arbejder med teknologi. I år blev manifestet udvidet med The Copenhagen Catalog, som giver 150 bud på etiske leveregler til tech-branchen.

Vi har samlet et udpluk af de største etiske problemstillinger, som tech-branchen i dag står over for.

1. Når den kunstige intelligens bestemmer

Kunstig intelligens gør os i stand til at forudse mønstre og risici, effektivisere processer og vejlede os dødelige, der må nøjes med en menneskelig intelligens.

Det kan have store sociale slagsider. Fx kan en kunstig intelligens med tilstrækkelige data om enkeltpersoners økonomiske og sundhedsmæssige forhold spare myndighederne for mange penge. Det kan også optimere virksomheders – fx banker og forsikringsselskaber – profit ved at undgå dårlige kunder.

Men hvor skal de mennesker så gå hen, der er stemplet som dårlige kunder?

Og det næste problem: Hvem har egentlig ansvaret, når en kunstig intelligens laver en dårlig investering, foreslår en forkert behandling på hospitalet eller tager en beslutning for en selvkørende bil med dødelig konsekvens til følge? Det er nogle af de problematikker SIRI-kommissionen peger på i ny etik-rapport om kunstig intelligens.

2. Kampen mod bias

Hvordan undgår man, at kunstig intelligens utilsigtet viderefører og forstærker virksomheder og udvikleres ubevidste præferencer?

Et datasæt kan indeholde bias, og derfor kan en beslutning drevet af kunstig intelligens være diskriminerende. Bias kan også forekomme i designet af en algoritme, som kan kategorisere og stemple mennesker på en måde, der diskriminerer mellem fx befolkningsgrupper. Det er med andre ord ligheden, der skal sikres.

Det findes allerede. Prøv at google ordet ”smuk”. Søgningen vil primært vise smukke, unge, hvide mennesker. Hvad gør det ved vores opfattelse af, hvad der er smukt? Og hvis en kunstig intelligens i fremtiden skal finde de mest relevante ansøgere til et job, så kan den meget vel skille ansøgere fra på baggrund af deres nationalitet, køn eller noget helt tredje.

Snakken om bias hænges ofte op på den åbenlyst manglende diversitet blandt medarbejderne i techbranchen. Visse hensyn går måske fløjten, når de fleste beslutninger tages, og produkter udvikles, af velbemidlede hvide, vestlige mænd.

3. Black box-algoritmer

”Design åben for kontrol,” står der i teknologimanifestet The Copenhagen Letter fra 2017. Manglende gennemsigtighed er i stigende grad et problem med opblomstringen af vidt forgrenede algoritmer. De fødes med en vis data og oplæres til at tage højde for udvalgte faktorer.

Man taler ligefrem om såkaldte Black box-algoritmer. De er typisk baseret på dybe neurale netværk, som kan finde løsninger på meget komplekse problemstillinger. Men hvis virksomheder skal bruge neurale netværk til at tage beslutninger, skal de også kunne forklare skridt for skridt, hvordan algoritmen kommer frem til sit resultat. Det mener blandt andre EU's konkurrencekommissær, Margrethe Vestager.

Det arbejder fx IBM og Microsoft allerede på at bygge ind i deres software. I sidste uge frigjorde IBM open source software, der kan hjælpe udviklere af kunstig intelligens med at synliggøre bagvedliggende mekanismer.

4. Hvem skal passe på dit privatliv?

”Ejendomsretten til data er helt central for etikken.” Sådan lød det fra IDAs formand, Thomas Damkjær Petersen, da SIRI-kommissionen i starten af september fremlagde deres etik-rapport.

Tjenester som Facebook, Uber og AirBnB ejer brugernes data, og det gør det besværligt og omkostningsfuldt at skifte til andre lignende tjenester.

Også myndighederne - særligt i et så gennemdigitaliseret land som Danmark - ligger inde med enorme mængder data om os. Det er på sin vis godt for at skabe de bedst mulige behandlingsforløb og ikke mindst udvikle nye løsninger. Men sundhedsdata er også meget personlige data. Den kan blive misbrugt, hvis den ender i de forkerte hænder.

EU har med persondataforordningen, GDPR, allerede strammet grebet om virksomheder, myndigheder og organisationer, der behandler personlige data. Men i Kina og USA, som vi i stigende grad afgiver data til, gælder der andre regler.

5. Winners take all

Landegrænser er nærmere en fjern abstraktion end en egentlig fysisk barriere, når globale teknologiske virksomheder udbyder deres tjenester i hele verden. Se bare Amazon, der presser de danske forlag, supermarkeder og butikker med enormt vareudvalg og billig leveringspris. Facebook og Google stjæler annoncekroner fra lokale medier, hvis indtjeningsgrundlag langsomt forsvinder.

Sågar bliver det danske sprog udfordret, når de talende, digitale assistenter som Apples Siri og Amazons Alexa bliver bygget ind i vores smartphones og hjemmehøjtalere. Dansk er (som mange andre sprog) et for lille sprogområde, til at sprogteknologien kan udvikles af kommercielle interesser. Derfor må vi enten tage til takke med dårlig sprogteknologi eller helt droppe at bruge dansk i digitale sammenhænge.

Internettet har ifølge kritikere ændret kapitalismens kår til en udpræget winners take all-tilstand. Det er i sidste ende skidt for konkurrencen og mangfoldigheden i udbuddet.

Tilmeld dig Technorama

I Technorama får du et overblik over de vigtigste historier fra teknologiens verden, hvad end det handler om etiske dilemmaer, nye teknologiske landvindinger eller spæde opfindelser.
  • Aktuelle artikler
  • Det bedste vi har set
  • Ugens nyhedsoverflyvning
Tilmeld dig nyhedsbrevLæs det seneste nyhedsbrev