Validering af AI-modeller i GxP-miljøer

AI i GxP-miljøer 

Mange i Life Science ser AI som en mulighed for at optimere produktion, kvalitet og beslutningsstøtte. Men så snart teknologien tages i brug i et GxP-miljø, opstår et grundlæggende spørgsmål:  

Hvordan validerer vi noget, der selv lærer? 

Validering af AI-modeller er stadig et nyt felt i reguleret industri, og både virksomheder og myndigheder arbejder på at finde fælles fodslag. Men der findes allerede praktiske tilgange – og dem bør du kende, før du går i gang. 

Hvad betyder validering i AI-sammenhæng? 

I klassisk software handler validering om at dokumentere, at et system gør, hvad det skal – hver gang. For AI er det mere komplekst: 

• Output afhænger af træningsdata 
• Modellen kan ændre sig ved retraining 
• Beslutningslogik er ofte ikke transparent 

Derfor skal validering af AI-modeller fokusere på robusthed, sporbarhed og kontrol. Og det skal ske på en måde, der kan godkendes af QA og tilsynsmyndigheder. 

Fem krav, du skal kunne dokumentere 

1. Træningsdata og datasæt 

• Hvor kommer data fra? Er de valide og repræsentative? 
• Er der styr på datasporbarhed og versionering?

2. Modelperformance og testresultater 

• Hvilke metrikker er brugt til at evaluere modellen – og hvorfor? 
• Er der testet på nye, uafhængige datasæt?

3. Kontrol over modeludvikling og ændringer 

• Er modellen statisk eller opdateres den løbende? 
• Hvordan sikrer du, at ændringer ikke kompromitterer kvalitet?

4. Dokumentation og forståelighed 

• Kan en tredjepart (QA, auditør, myndighed) forstå og følge med i, hvordan modellen er bygget, testet og anvendt?

5. Fit for purpose 

• Har modellen den nødvendige kvalitet og præcision til det formål, den skal bruges til – fx beslutningsstøtte eller automatisering?

Regulatoriske pejlemærker: Hvor står myndighederne? 

Flere regulatorer arbejder med retningslinjer, bl.a.: 

• EMA: Har nedsat en AI-taskforce og lanceret refleksionspapirer 
• FDA: Udgiver løbende “Good Machine Learning Practice” (GMLP)-principper 
• EU AI Act: Forventer risikovurdering og kontrol af high-risk AI-systemer 
• Annex 11 og ICH Q8–Q10: Ikke AI-specifikke, men kan fortolkes med AI i tankerne 

Myndighederne efterspørger ikke perfekte modeller – men dokumenterede, forståelige og kontrollerbare modeller. 

Hvad betyder det for dig? 

Hvis du arbejder med AI i pharma eller medico, skal du kunne samarbejde med både IT, QA og myndigheder. Det kræver en fælles forståelse af, hvordan modeller testes, forklares og kontrolleres. 

Det behøver ikke være tungt. Med den rigtige struktur og planlægning kan validering blive en integreret del af dit AI-projekt – og ikke bare et nødvendigt onde til sidst.