Designvalg kan have stor betydning i anbefalingssystemer

Hvordan påvirker AI egentlig de nyheder, vi ser, og de redaktionelle værdier, vi møder?

Det spørgsmål stiller Jes Frellsen, lektor på DTU Compute, når han stiller sig bag mikrofonen til Driving IT 2025.

I sit oplæg tager han afsæt i et konkret samarbejde med Ekstra Bladet, hvor mediets anbefalingssystemer blev sat under lup. Projektet, støttet af Innovationsfonden, viste, at selv små designvalg i algoritmerne kan få store konsekvenser for brugeroplevelsen.

”Vi kunne se, at selvom modellerne klarede sig stort set lige godt på nøjagtighed, førte de til meget store forskelle i, hvad de rent faktisk anbefalede. For eksempel på hvor meget sport, krimi eller politik, der blev vist,” forklarer Jes Frellsen.

Afspejler ikke nødvendigvis virkeligheden

Ifølge Jes Frellsen er emnet højaktuelt, fordi AI-systemer i stigende grad bliver en del af helt almindelige beslutningsprocesser.

“Vi bruger AI mange steder i samfundet. Man vil gerne have systemer, der afspejler nogle bestemte værdier, men modellerne trænes ofte på enorme mængder data, som ikke nødvendigvis repræsenterer de værdier,” siger han.

Jes Frellsen peger på, at der kan opstå en ubalance mellem teknologiens effektivitet og dens evne til at repræsentere den virkelighed, den skal afspejle.

“I gamle dage repræsenterede avisens forside redaktionens identitet. I dag er det et anbefalingssystem, der vælger, hvad du ser,” uddyber Frellsen.

Det kan ifølge ham skabe en bias.

“Så får man pludselig anbefalinger, der ikke afspejler nyhedsmediets værdier,” siger han.

Relevant for de fleste brancher

Selvom casen handler om nyhedsmedier, gælder pointen langt bredere.

”Når vi designer systemer, skal vi huske, at selv små valg kan have stor betydning. Og nogle gange kan to modeller se lige gode ud på papiret, men føre til vidt forskellige resultater for brugeren,” siger Jes Frellsen.

Dermed er Jes Frellsens oplæg relevant for alle, der arbejder med eller interesserer sig for AI. Han lover ikke en teknisk manual, men en tankevækkende udforskning af, hvordan teknologiske valg kan forme virkeligheden.