30.06.2020
3 min læsetid

”Vi skal forstå, at det er algoritmisk at fejle”

Teknologi afspejler forestillinger og fordomme hos dem, der udvikler den. Derfor undersøger Marie Høst i en ny podcast-serie, hvordan vi øger diversiteten i tech-branchen og skaber løsninger, der gavner alle.

Anders Kjøller

af Anders Kjøller

Vi lever i en verden designet af mænd til mænd.

Derfor bliver kvinder oftere fejlmedicineret eller kommer til skade i trafikulykker, fordi medicin og sikkerhedsudstyr bliver testet på den gennemsnitlige mandekrop.

Det er ikke nødvendigvis ond vilje, men gamle vaner, som der er brug for at ruske op i, hvis teknologien skal gavne alle grupper i samfundet.

I en ny podcast-serie produceret i samarbejde med IDA sætter Marie Høst fokus på, hvordan tech-branchen kan give plads til flere kvinder og minoriteter.

Hvorfor er diversitet relevant, når vi taler om teknologi?

Teknologi skal repræsentere alle mennesker, men det er desværre ikke tilfældet i dag.

Denne podcast er blandt andet inspireret af forfatteren Caroline Criado-Perez, der har skrevet en øjenåbnende bog om, hvordan teknologien typisk er designet, så den gavner mænd mest.

Det er typisk mænd, der er testpersoner i medicinske forsøg, fordi forskerne mener, at kvinders menstruationscyklus ’mudrer’ deres resultater. Og kvinder kommer ofte alvorligt til skade i trafikuheld, fordi producenterne tester deres sikkerhedsudstyr på crashtest-dummies, der ligner mandekroppe.

Hvilken betydning har det at øge diversiteten i tech-branchen?

Alt teknologi afspejler den kontekst, den er skabt i. Derfor er der risiko for, at vi genskaber nogle uhensigtsmæssige mønstre fra samfundet.

Forleden hørte jeg et interview med en fysiker. Han fortalte, at han var vant til at komme i kredse med mange hvide mænd, men han havde aldrig oplevet noget lignende, som da han begyndte at tage på AI-konferencer.

Det var et udsnit af mennesker, der ligner hinanden utroligt meget. Det er jo skræmmende, fordi de ikke kan undgå at have nogle blinde vinkler i forhold til, hvordan det er at være kvinde eller en minoritet.

Om Marie Høst

Marie Høst er tidligere vært på programmet So Ein Ding. Siden har hun beskæftiget sig med teknologi i forskellige medier, herunder i podcastserien Algoritmen på Podimo og programmet Vi er data på Radio Loud.

Er der nogle elementer i den teknologiske udvikling, der bekymrer dig særligt meget?

Ansigtskendelse er jo virkelig en varm kartoffel i øjeblikket.
For et par år siden testede man flere typer ansigtsgenkendelse og observerede, at teknologien over en bred kam er langt dårligere til at genkende kvinder og personer med mørk hud, fordi den ofte bliver trænet på datasæt med primært hvide mænd.

Så kan man måske tænke, at det lyder meget rart, når man ikke vil genkendes, men problemet er, at der også er falske positive.

Man har sammenkørt billeder af hele den amerikanske kongres med mugshots fra kriminelle og fundet flere overlap, og her er risikoen for at blive udpeget som kriminel altså større for kvinder og personer med mørk hud.

Hvor skal vi sætte ind først?

Jeg ved ikke, om der er et sted, der er vigtigere at sætte ind end andre. Problemet er, at kunstig intelligens bliver implementeret i utroligt mange situationer.

Algoritmer er med til at beslutte, om du får et job, en forsikring eller en bolig. Nu taler vi om amerikanske og kinesiske tilstande, men det er jo noget, som mange danske politikere gerne vil indføre.

Det farlige er, at vi har enormt meget tillid til systemerne. Vi er meget bevidste om, at det er menneskeligt at fejle, men vi skal også forstå, at det er algoritmisk at fejle.

Hvem skal løse udfordringen med manglende diversitet – virksomhederne, politikerne, forbrugerne?

Det interessante ved Black Lives Matter-bevægelsen er, at den har skabt så stort et pres nedefra, at giganter som Amazon og IBM er stoppet med at sælge ansigtsgenkendelsesteknologi til politiet i USA.

Det kan man kun glædes over. Og så kan vi tale om, at det er branding eller symbolske handlinger, men jo mere moderne og CSR-venligt det bliver for virksomhederne at bruge deres tid og energi på at tænke etikken ind i deres teknologi, desto mere kommer de også til at gøre det.

Derfor skal vi hele tiden holde producenterne til ansvar. Men når det er sagt, kan vi ikke forlange, at almindelige mennesker kan gennemskue konsekvenserne, hver gang de godkender brugerbetingelserne til en digital løsning.

Derfor er det betryggende, at politikere som Margrethe Vestager og eksperter som Shoshana Zuboff tager denne her kamp.

Er du optimistisk eller pessimistisk i forhold til fremtiden, når vi taler om diversitet og teknologi?

Vi har det med at overvurdere udviklingen på kort sigt og undervurdere den på langt sigt, når det gælder teknologi.

Jeg tror ikke, at diversiteten bliver øget væsentligt de næste ti år, men jeg tror, at vi får gjort op med de store skævheder i teknologien på længere sigt. Det er jeg nødt til at tro på.