Kritik af overvågningssoftware vokser

”De eksempler, vi kan se fra udlandet, rummer nogle meget skræmmende perspektiver. Det er bestemt ikke en udvikling, vi ønsker at se på det danske arbejdsmarked”.

Sådan lyder det fra Malene Matthison-Hansen, der er formand for Ansattes Råd i Ingeniørforeningen, IDA, om den voldsomme vækst i brugen af digitale værktøjer, der indsamler store mængder data om de ansatte på arbejdspladserne. Data, som er med til at profilere medarbejderne og blandt andet kan vurdere deres effektivitet og værdi for arbejdspladsen.

Derfor indleder IDA nu en målrettet indsats for at få afdækket, hvor udbredt brugen af overvågningssoftware og såkaldte algoritmiske ledelsesværktøjer er i Danmark.

”Teknologien rummer store muligheder, men også alvorlige skadevirkninger, hvis den anvendes forkert. Vi er nødt til at sikre transparens om brugen af de data, der indsamles om medarbejderne. De skal vide, hvad de bliver målt på, så de kan handle på et oplyst grundlag”, siger Malene Matthison-Hansen.

Kan registrere al onlineaktivitet

Kort fortalt kan værktøjerne bruges til at registrere alt, hvad de ansatte foretager sig online og på den baggrund udstille de enkelte medarbejderes styrker, svagheder og produktivitet. Visse typer af overvågningssoftware kan endda fjernaktivere webcam og mikrofon, tage screenshots af skærmen og registrere musens bevægelser.

Dermed kan mange af de beslutninger, der træffes på lederniveau, i fremtiden være baseret på de data, der bliver opsamlet om medarbejderne fra et hav af næsten usynlige datakilder.

Kunstig intelligens med høj risiko

På internationalt plan har en række fagforeninger og organisationer sat fokus på faldgruberne ved de nye teknologier. Sidste år fremlagde EU-Kommissionen et udkast til en AI Act, som sigter på at begrænse de mest skadelige former for brug af kunstig intelligens.

Målet er, at EU skal være førende i verden på udviklingen af kunstig intelligens, der sætter mennesker i centrum, og som er ”bæredygtig, etisk forsvarlig og troværdig”.

EU-Kommissionen skriver specifikt om brugen af kunstigt intelligente systemer (AI) på arbejdspladserne:

”AI-systemer, der anvendes i forbindelse med beskæftigelse, forvaltning af arbejdstagere, rekruttering og udvælgelse af personer, beslutninger om forfremmelse og opsigelse og til opgavefordeling, overvågning eller evaluering af personer i arbejdsrelaterede kontraktforhold, bør klassificeres som højrisikosystemer. Disse systemer kan have en betydelig indvirkning på menneskers fremtidige karrieremuligheder og levebrød”, fastslår EU-Kommissionen.

Omfordeling af gevinsterne

Den fælleseuropæiske fagforening IndustriAll Europe, som IDA er medlem af, har fremlagt en række anbefalinger til, hvordan virksomheder fremover bør håndtere brugen af overvågningssoftware og andre datadrevne teknologier på arbejdspladserne.

Samtidig opfordrer IndustriAll Europe til, at den forventede højere produktivitet – og dermed økonomiske gevinst – ved brug af dataindsamling og AI-værktøjer skal bruges til eksempelvis højere lønninger, investeringer i en bæredygtig industri, opkvalificering af medarbejdere eller kortere arbejdstid.

”Der bør ske en retfærdig omfordeling af den rigdom, der genereres af digitalisering og interaktion mellem menneske og maskine. Fortjenesten fra den videre anvendelse og brugen eller videresalg af arbejdstagernes data, bør også omfordeles”, lyder det fra IndustriAll.

Truer fundamentale værdier

I Storbritannien har en tværpolitisk arbejdsgruppe i det britiske parlament – The All-Party Parliamentary Group on The Future of Work (APPG) – i november 2021 udgivet rapporten ”Artificial Intelligence at Work”, der tegner et yderst kritisk billede af de kunstigt intelligente systemer, som kontrollerer medarbejderne i varierende grad.

Konklusionen er, at der er akut behov for at sætte nogle klare rammer på landets arbejdspladser for at ”beskytte mennesker og stå vagt om vores fundamentale værdier”.

”Der er voksende beviser for, at AI har en negativ indflydelse på arbejdsforholdene og kvaliteten af arbejdet over hele landet. Konstant overvågning og presset fra automatiseret mikromanagement har en markant negativ effekt på de ansattes mentale og fysiske helbred”, skriver arbejdsgruppen, der består af politikere samt repræsentanter fra både arbejdsgivere, fagforeninger, industrien og civilsamfundet.

Mennesket i centrum

APPG foreslår at indføre Algorithmic Impact Assessments (AIA), som gør det lovpligtigt for alle virksomheder at foretage grundige vurderinger af, hvordan et påtænkt AI-system vil påvirke forholdene på arbejdspladsen. Desuden skal AI-værktøjerne løbende evalueres af ledelse og medarbejdere i fællesskab.

Arbejdsgruppen opfordrer også den britiske regering og arbejdsmarkedets parter til at iværksætte en massiv oplysningskampagne for arbejdere i alle sektorer, så de opnår indsigt i systemerne og dermed kan udfordre teknologierne på arbejdspladserne.

Også i USA er der voksende kritik af de systemer, der overvåger og kontrollerer de ansatte. I Californien har politikerne fremsat et lovforslag, der skal forbyde brugen af AI-systemer og andre teknologier, der træffer beslutninger om de ansatte på arbejdspladserne og ved jobsøgning.

Samme regler er allerede indført i New York, hvor medarbejderne også har ret til indsigt i de data, der indsamles om dem, og hvad de anvendes til.

Senest har den øverste rådgiver for The National Labor Relations Board - en offentlig myndighed, der kan sammenlignes med et arbejdsmarkedsråd - anbefalet at forbyde arbejdsgivere at anvende overvågningssoftware, der kan begrænse medarbejdernes ret til at organisere sig.

"Konstant overvågning og ledelse ved hjælp af digitale værktøjer truer de ansattes basale muligheder for at udnytte deres rettigheder", skriver toprådgiveren Jennifer Abruzzo til rådet ifølge CBS. 

I Canada trådte en ny lov i kraft den 11. oktober 2022, som pålægger arbejdsgivere med flere end 25 ansatte at have en nedskrevet politik, der informerer medarbejderne om, hvorvidt der foregår digital overvågning, og i så fald hvilke systemer der er i brug, og hvad formålet med dataindsamlingen er.

En revolution

Den britiske fagforening Trades Union Congress (TUC) har ligeledes foretaget omfattende research om brugen af AI-baserede ledelsesværktøjer og har samlet en lang række eksempler på, hvilke typer af overvågningssoftware, der findes til arbejdspladser.

TUC forudser, at der vil ske en eksplosion i brugen af AI-værktøjer til personaleledelse over de næste ti år.

I en befolkningsundersøgelse foretaget af TUC svarer 22% af de adspurgte, at de allerede er genstand for algoritmiske ledelsesværktøjer, mens 15% svarer, at de har oplevet at blive tildelt en score på baggrund af de data, som overvågningssoftware har indsamlet om deres arbejdsindsats.

”Brugen af AI på denne måde har markante implikationer for arbejdernes rettigheder. Både når det gælder retten til lighed, privatliv og databeskyttelse samt deres fysiske og psykiske velbefindende. Det har også betydning for magtbalancen mellem arbejdsgivere og arbejdstagere samt for medarbejderdemokratiet på arbejdspladsen”, fastslår TUC i rapporten ”Technology Managing People”.

Kun 6% af de adspurgte i TUC-undersøgelsen svarer, at de er blevet bedt om samtykke, før AI-værktøjerne blev taget i brug på deres arbejdsplads, og kun 5% svarer, at de har tillid til de beslutninger, som AI-teknologi træffer om dem på arbejdspladsen.