Gennemsigtighedskrav i AI Act: Er din AI-løsning til at forstå?

Krav om systematisk dokumentation

Den måske vigtigste brik i at leve op til kravene er systematisk dokumentation. Her kan etablerede standarder og værktøjer gøre det lettere at komme i mål: 

• Datasheets for datasets giver et overblik over, hvor data kommer fra, og hvordan de er indsamlet, renset og anvendt.
  
  
• Model cards giver en samlet beskrivelse af AI-modellens funktion, begrænsninger, præstationsmål og kendte bias.

Begge værktøjer gør det muligt at kommunikere med både regulatorer, forretningspartnere og interne beslutningstagere. 

Dokumentationen er ikke kun vigtig for compliance – men også for at kunne stille de rigtige krav til dine leverandører og sikre, at du ikke hæfter for fejl, du ikke forstår. 

Brugeren skal med

AI Act lægger også vægt på, at brugere skal informeres om, at de interagerer med et AI-system – og at de skal kunne forstå, hvordan og hvorfor systemet når frem til en anbefaling eller beslutning. 

Det stiller krav til kommunikation og design. Du skal kunne præsentere informationen klart – og sikre, at der er gennemsigtighed, også når brugeren ikke er dataekspert. 

Er du klar?

Gennemsigtighedskravene i AI Act angår hele organisationen. Hvis du arbejder med AI-løsninger, rådgivning eller compliance, bør du allerede nu sikre, at: 

• der er styr på dokumentation af data og modeller,  
  
  
• I kan forklare og begrunde modellens beslutninger og 
  
  
• I kan vise, at menneskelig kontrol er muligt og reelt. 

Det handler ikke kun om at efterleve regler – men også om at opbygge tillid og ansvarlighed omkring AI-løsninger, der bliver en stadig større del af forretningen.