AI i pharma: Derfor skal du kunne sige AI imod

Kunstig intelligens kan allerede skrive udkast, analysere data og foreslå konklusioner på få sekunder. Det gør teknologien oplagt i en branche som pharma, hvor dokumentation, vurderinger og kontrol fylder meget i hverdagen.

Men netop i pharma er det ikke nok, at et svar kommer hurtigt. Output skal også være korrekt, kunne forklares og holde i en regulatorisk virkelighed. 

Derfor bliver det en afgørende kompetence ikke bare at kunne bruge AI, men at kunne vurdere den kritisk.

AI i pharma stiller nye krav til faglig dømmekraft

Noget af det, der gør AI attraktiv, er også det, der gør den risikabel: Systemerne kan levere svar, der virker overbevisende, selv når grundlaget er usikkert eller konklusionen er forkert.

I andre brancher kan det føre til ineffektivitet eller misforståelser. I pharma kan konsekvenserne være mere alvorlige, fordi arbejdet hænger tæt sammen med kvalitet, dokumentation, compliance og i sidste ende patientsikkerhed.

Derfor ændrer AI først og fremmest på, hvad der kræves af medarbejderne. Hvor teknologien ofte bliver omtalt som et værktøj, der kan spare tid, bør den i pharma i lige så høj grad ses som noget, der stiller nye krav til faglig dømmekraft.

Derfor kan du ikke stole blindt på AI-output

Når AI bruges til at analysere data, formulere tekst eller foreslå en vurdering, er det stadig mennesker, der skal tage ansvar for resultatet. Det gælder både fagligt og regulatorisk.

Det betyder blandt andet, at medarbejdere skal kunne vurdere:

• om outputtet er fagligt rimeligt
• om datagrundlaget er troværdigt
• om noget væsentligt mangler
• om konklusionen holder i en GxP-kontekst

AI kan være en hjælp i mange arbejdsgange, men den flytter ikke ansvaret væk fra mennesker. I en reguleret industri er det stadig den menneskelige vurdering, der afgør, om noget kan bruges i praksis.

Automation bias er en reel udfordring i pharma

En særlig risiko er, at mennesker har tendens til at tillægge systemer for stor autoritet, når de leverer et klart svar. Hjernen foretrækker ofte det, der virker tydeligt, hurtigt og sammenhængende, især når vi arbejder under tidspres. Et svar, der er let at forstå og formuleret med sikkerhed, kan derfor føles mere troværdigt, end det egentlig er. 

Det gør det lettere at acceptere AI-output uden at stille nok kritiske spørgsmål.

Og det er præcis derfor, kritisk tænkning bliver mere vigtig, ikke mindre, når AI bliver en del af arbejdsgangen - så dokumentation og beslutningsgrundlag kan holde til review, audit og myndighedskontrol.

Fremtidens pharma-specialist bliver også reviewer af AI

AI vil sandsynligvis overtage mere af det forberedende analyse- og skrivearbejde. Det kan frigøre tid og gøre mange processer hurtigere, især i de tidlige faser af dokumentation, datagennemgang og vurderinger.

Men det betyder også, at medarbejdernes rolle ændrer sig. De skal ikke nødvendigvis selv producere alt fra bunden, men de skal i højere grad kunne reviewe, kvalificere og udfordre det, som AI foreslår.

Det kræver ikke, at alle bliver eksperter i kunstig intelligens. Til gengæld kræver det, at flere bliver gode til at læse AI-output med samme grundighed, som de i dag læser analyser, SOP’er, afvigelser og regulatorisk dokumentation.

Hvilke kompetencer bliver vigtigere i pharma?

Hvis AI bliver en fast del af arbejdsgangene, bliver disse kompetencer endnu vigtigere:

• kritisk vurdering af output
• forståelse for datagrundlag og kvalitet
• evnen til at opdage mangler og svage antagelser
• sikker forankring i compliance og dokumentationskrav
• faglig dømmekraft i grænsefladen mellem teknologi og regulering

Det er med andre ord ikke nok at kunne bruge værktøjet. Man skal også kunne se, hvornår svaret ikke er godt nok.

AI i pharma er kun værdifuld, hvis nogen kan udfordre den

AI kan blive en stærk støtte i pharma. Den kan gøre arbejdsgange hurtigere, lette noget af det tunge analysearbejde og hjælpe med at strukturere store mængder information. Men værdien afhænger af, at der stadig er mennesker, som kan stille de nødvendige spørgsmål, gennemskue usikkerhederne og tage ansvar for det endelige resultat.

Derfor er det sandsynligt, at en af de vigtigste fremtidige kompetencer i pharma bliver evnen til at sige AI imod, når det er nødvendigt. Ikke fordi teknologien ikke er nyttig, men fordi dens output kun er værdifuldt, hvis nogen kan vurdere, om det faktisk holder.