12.11.2018
3 min læsetid

Gør kunstig intelligens os til kejseren i de nye klæder?

Vi mennesker kan ikke lide at opdage, at den sandhed, vi abonnerer på, ikke er fuldstændig. Vi kan til gengæld godt lide at være de klogeste på kloden.

Anne-Cathrine Jensen

af Anne-Cathrine Jensen

"Jeg er faktisk ikke særlig bange for kunstig intelligens. Det jeg frygter er menneskelig stupiditet." Ordene er Nikola Danaylovs. Som podcaster, blogger, forfatter, foredragsholder og indehaver af SingularityWebLog er han en af tidens kritiske røster, når det kommer til den menneskelige formåen i udviklingen af AI (artificial intelligence).

For selv om Nikola Danaylov godt kan se en fremtid, hvor mennesker og AI sameksisterer harmonisk, så er han overbevist om, at det ikke sker af sig selv. Det vil kræve, at mennesket med åbne øjne gør sig bevidst om de mulige faldgruber i udviklingen af AI, der kan penetrere og påvirke hele vores samfundsstruktur.

<"Når man designer AI til at slå ihjel, skal den faktisk ikke være særlig sofistikeret. Det er ikke dens skyld, at det er nemmere og mere simpelt at lave ødelæggende AI end samfundsopbyggende, men det stiller nogle krav til de mennesker, der skal bygge den. Vi må forpligte it-videnskaben og programmører til at love at arbejde for fredelige mål," fortæller han til Henrik Føhns i IDAs teknologipodcast Techtopia. 

Skal AI følge din eller min etik?

Men én ting er, at det er meget nemmere at lave voldelig AI end social intelligent AI - selv når man gør sidstnævnte, hvis sociale normer, skal AI'en så efterleve?

Det har Nell Watson, forsker og foredragsholder for Singularity University og EthicsNet, gjort sig en del tanker om:

"Maskinerne skal bruge data - eksempler at lære fra. Virtuel erfaring, på sin vis. Vi har set, hvor vigtige gode og omfattende data-sæt er. Jeg tror, at hvis maskiner skal lære vores sociale omgangsformer, så skal de have adgang til data, der repræsenterer sociale interaktioner fra mange forskellige kulturer og demografier over hele verden, så vi kan kortlægge menneskets værdier over en bred kam," siger Nell Watson.

Ved at blande etiske kodeks, samfundsstruktur, moral, sociale normer og menneskenes sære usagte regler fra hele verden, mener Nell Watson, at AI'en vil kunne krydskoordinere data og finde 'den gyldne middelvej'. Et spektrum indenfor hvilket, at alle verdens lande kan bruge AI og ikke føle sig stødt af den.

Børneopdragelse på nettet

Vi forventer ikke, at et barn på 6 år ved, at det er uhøfligt at pege eller tale højt om andre. Den slags lærer vi vores små lidt efter lidt. Den samme lagdelte opdragelse, ser Nell Watson være en mulighed for AI. At man først lærer maskinerne de grundlæggende værdier som love og menneskerettigheder og så efterhånden bygger ovenpå med sociale normer og de mere forvirrende spilleregler, som vi alle efterlever uden at tænke over det.

Når vi integrerer maskiner mere og mere i vores hverdag, så bliver vi også påvirket den anden vej. Maskiner bliver en slags sekretærer eller butlere, som vi stoler på, når vi skal vælge en god flaske vin eller en restaurant at spise på. Måske kommer maskiner med tiden endda til at kortlægge vores værdier og hjælpe os med at forstå og finde ting, som vi vil synes er noget særligt.

"Med en så enorm indflydelse på vores personlige psykologi og på samfundet i helhed, så får vi brug for maskiner, som respekterer vores grænser, som er autonome og som anvender deres teknologiske egenskaber til at hjælpe mennesker med at trives i stedet for eksempelvis at udnytte kendskabet til det enkelte menneske," understreger Nell Watson.

Frygter 1984 med Big AI

Nikola Danaylov er ikke i tvivl om, at AI kommer til at ændre menneskets fortælling om sig selv. Men han er skeptisk over, om vi kommer til at styrke os selv med AI, eller om vi kommer til at ødelægge os selv.

"Vi kan blive klogere og dygtigere med AI, men vi har også kapacitet til at ødelægge os selv med teknologien," siger han.

Nikola Danaylov mener, at AI har muligheden for at overtage rollen som den dominerende art på jorden - på samme måde som pattedyrene tog over efter dinosaurerne. Og fordi AI nærmest gudeagtigt bliver skabt i vores billede og af os selv, frygter Nikola Danaylov, hvordan vi vil blive behandlet, hvis vi ikke længere er den dominerende art på jorden.

"Lige nu er vi overbevist om, at vi er de klogeste på jorden, og derfor behandler vi andre arter på en måde, som vi selv ville ønske at blive behandlet på, hvis vi ikke længere var de klogeste på kloden," siger Nikola Danaylov.

"I stedet for humanisme risikerer vi, at AI-isme og maskiner sætter sig selv i centrum, og fordi de bliver klogere end os. Så kan de indrette samfundet under sig på samme måde, som vi gør nu. De kan reducere os til dyr, som man slår ihjel for sport og sjov, de kan fange os eller bruge os som kæledyr eller til medicinske eksperimenter. Som vi lever lige nu, har vi ingen moralsk hjemmel til at fordømme en sådan opførsel fra intelligente overlegne væsener, for det er sådan vi selv opfører os."