Blinde vinkler 10: AI i jobcentrene - Hjælpende eller stemplende?

Jobcentrene har taget et nyt landsdækkende digitalt værktøj i brug, hvor kunstig intelligens profilerer arbejdsløse. Men det har mødt stor kritik for at diskriminere og stemple ledige på baggrund af dataprofilering.

Tilbage i 2015 blev et nyt landsdækkende digitalt værktøj taget i brug i jobcentrene. Det skaber dataprofiler af arbejdsløse på baggrund af personoplysninger. Ved hjælp af kunstig intelligens kommer det med en udregning om, hvorvidt en arbejdsløs borger er i risiko for at blive langtidsledig.

Men det har mødt stor kritik. Blandt andet for at diskriminere på baggrund af etnicitet, og fordi forskere mener, at det simpelthen er urimeligt at stemple ledige på baggrund af dataprofilering.

Blinde Vinkler er en podcastserie som undersøger, hvordan man drejer på biasknappen og sørger for lige muligheder for alle - i arbejdet med teknologi og videnskab.
Den er produceret af Ingeniørforeningen IDA og IT-Branchen

Gæster:

Telli Betül Karacan, videnskabelig assistent hos DIIS, Dansk Institut for Internationale Studier
Thomas Hildebrandt, professor på Københavns Universitet og projektleder for forskningsprojektet Ecoknow

Links:

ecoknow.org

Podcast: Blinde vinkler

Bias er en uundgåelig del af vores liv. Den hjælper os til at forstå verden, men den er også med til at indsnævre vores verdenssyn og skabe blinde vinkler, som gør at nogle mennesker bliver efterladt i skyggen af det gode selskab.

I denne nye podcast fra IDA undersøger journalist Marie Høst hvor og hvordan brugen af kunstig intelligens skaber utilsigtede bias.

Find alle episoder her.

Du kan også finde Blinde vinkler i iTunes eller din foretrukne podcatcher.