19.11.2018
4 min læsetid

Nordiske ingeniører går sammen om AI-etik

Association of Nordic Engineers (ANE) frygter, at vi ikke stiller de vigtigste spørgsmål, når vi taler om kunstig intelligens. Og selv hvis vi taler om det rigtige, er det så de rigtige mennesker, som diskuterer det? Nye anbefalinger skal få de rette

Anne-Cathrine Jensen

afAnne-Cathrine Jensen

340.000 ingeniører i Danmark, Sverige, Norge og Island kan klemme sig sammen under paraplyen ANE (Association of Nordic Engineers).

Der var derfor ikke plads til alle, men inviteret til input fra alle, da ANE afholdt Hackathon i København. Med i løbet af dagen var IDA's teknologipodcast Techtopia, og vært Henrik Føhns fik mulighed for at spørge generalsekretær i ANE Inese Podgaiska, hvad målet for dagen var.

Bliver ikke inviteret med til bords

"Vi observerer, at mange taler om udviklingen inden for AI uden at tage etik med i deres overvejelser, men vi er nødt til at tage stilling til, hvordan AI kan ændre eller udfordre vores klassiske etiske kodekser," forklarer Inese Podgaiska.

Samtaler og bekymringer for, hvordan man skal drive udviklingen af kunstig intelligens (AI) på en etisk måde, popper efterhånden op i mange forskellige kredse, der ikke reelt arbejder med AI. Hos ANE oplever man også, at ingeniørerne og programmørerne, der sidder ned teknologien mellem hænderne, heller ikke altid bliver inviteret med til bordet, når andre vil mene noget om emnet.

IT University of Copenhagen lagde lokaler til hackatonet, og til stede var også associate professor Irina Shklovski. Hun genkender behovet for et rum og brugbare rammer til samtalen om AI og etik på tværs af forskellige videnssfærer.

Som man råber i skoven

"Politikerne taler hinanden om det, ingeniørerne og akademikerne om det, medierne skriver om det. Men de forskellige grupper taler ikke nødvendigvis med hinanden om det - de diskuterer internt i stedet. Det kan være svært at overskride grænserne mellem de forskellige faggrupper, fordi de også har forskellige sprog - de taler forskelligt om teknologi og har forskellige forståelser og indgangsvinkler til det. Men det er nødvendigt, at samtalen kan hæves op på et fælles niveau," vurderer Irina Shklovski.

Der er allerede masser af AI i de teknologier, vi bruger hver dag, og der kommer mere hen ad vejen. Der er et håb for, at machine learning og deep learning vil være med til at skabe bedre liv for mennesker. Men der er også bekymringer og udfordringer ved autonome systemer, der kan bruges militært, som kan træffe beslutninger om, hvorvidt et menneske kan optage et lån, eller som skal anbefale strafudmålinger.

"Den type systemer skal vi kunne stole på, og vi er nødt til at tale om og sikre, at de bliver troværdige og ikke reproducerer fejlene i de systemer, de udspringer og lærer af," siger Irina Shklovski.

Tør vi rangliste menneskelig værdi i maskiner?

En del af samtalen handler om at sætte ord på nogle af de svære valg, som maskiner kommer til at træffe på vegne af mennesker. Hvem der vinder, og hvem taber, hvis vi lader autonome maskiner træffe utilitaristiske valg i situationer, der handler om individer. Det kræver rammer og værktøjer, når mennesker for første gang skal skabe et sprog om, hvad faldgruberne kan være. Det handler ikke kun om, om nogle liv er mere værd end andre, hvis det kommer så vidt, at en maskine skal vælge mellem at redde en fodgænger eller en bilist. Det handler også om, hvordan teknologien kan medvirke til, at vi aldrig kommer derud.

Resultatet af en hel dags Hackathon blev 5 anbefalinger til nordiske policy makers og 10 generelle guidelines til dem, der arbejder med AI.

"Vores guidelines er ikke rettet mod den enkelte ingeniør. Etisk praksis er først noget værd, når stærke institutioner og virksomheder bakker op, skaber policies og tager stilling til etikken på et organisatorisk plan. Individdet er ikke fritaget for etisk ansvar, men vi har også brug for organisatorisk forpligtigelse," understreger Irina Shklovski.

Etik skal med i uddannelserne

Blandt anbefalingerne er et råd om at genoverveje de tekniske uddannelser. Der er et stort pres verden over for at integrere etiske diskussioner i ingeniør- og computer science-uddannelser. Men det vil ikke gøre en stor forskel, hvis man blot føjer et kursus i etik til et i forvejen fuldt skema på en lang uddannelse. Hvis de studerende ikke lærer at tænke over etikken undervejs i deres uddannelse og i de enkelte fag, bliver det ikke kun svært men i vid udstrækning også op til dem selv at tage den etiske undervisning og føje den til deres akkumulerede viden fra andre fag.

"Vi skal finde en måde at konfigurere alle fagene på, så de indeholder etiske overvejelser og undervisning i sig selv," mener Irina Shklovski.

Du kan høre mere om de 10 guidelines og blive klogere på, hvem ANE helst ser tage samtalen op på vegne af samfundet, i ugens udgave af Techtopia.

Du kan læse ANE's anbefalinger til henholdsvis policy makers og ingeniører her.

Tilmeld dig Techtopia

I nyhedsbrevet får du bl.a. artikler og historier om de emner vi beskæftiger os med i podcasten.
  • Artikler
  • Historier
Tilmeld dig nyhedsbrevLæs det seneste nyhedsbrev