Transport og byudvikling
AI på skinner: Hvad er sikkerhedsrisiciene i jernbanen?
AI er på vej ind i jernbanen i alt fra prædiktivt vedligehold og videoanalyse til trafikstyring, planlægning og beslutningsstøtte. Potentialet er reelt: bedre kapacitetsudnyttelse, tidligere varsling af fejl og hurtigere reaktion på afvigelser.
Samtidig er jernbanen et af de områder, hvor teknologiske fejl ikke bare er irriterende eller dyre, men kan få direkte betydning for menneskers sikkerhed. Derfor er det afgørende at spørge: Hvad sker der, når AI fejler i et sikkerhedskritisk system?
Det korte svar er, at risikoen sjældent ligger i “AI” alene. Den opstår i samspillet mellem model, data, mennesker, processer, software, legacy-systemer og det regulatoriske setup.
Hvor AI typisk bruges i jernbanen
AI i jernbanen bruges ofte i tre spor.
- Til asset intelligence: overvågning af spor, skifter, hjul, bremser, kontaktledninger og andre komponenter med henblik på prædiktivt vedligehold.
- Til operational intelligence: prognoser for forsinkelser, trafikafvikling og beslutningsstøtte i drift og planlægning.
- Til sikkerheds- og security-formål: videoanalyse, adgangskontrol, hændelsesdetektion og mønstergenkendelse i stationer og anlæg.
Netop derfor er det vigtigt at skelne mellem AI som beslutningsstøtte og AI som sikkerhedskritisk funktion.
Jo tættere et AI-system kommer på signalgivning, togfremføring, bremsebeslutninger eller andre funktioner, hvor fejl kan påvirke personsikkerhed, desto højere bliver kravene til dokumentation, validering, fallback og governance.
De 6 vigtigste sikkerhedsrisici
1. Fejl i data giver fejl i beslutninger
AI er kun så robust som de data, systemet lærer af og fodres med. I jernbanen kan data være påvirket af sæsonvariationer, sjældne hændelser, sensorstøj, ændrede driftsmønstre eller lokale forhold, som modellen ikke har set før.
En model, der er god til at opdage slid i tørt vejr, kan opføre sig anderledes i sne, tåge eller ved usædvanlige vibrationer. Risikoen er ikke bare lavere præcision, men falsk tryghed: at organisationen tror, den har bedre kontrol, end den faktisk har.
2. Black box-problemet
Mange AI-modeller, især dybe neurale netværk, er svære at forklare i praksis. Det er et problem i en sektor, hvor dokumentation, sporbarhed og auditérbarhed er en del af sikkerhedsarbejdet.
Hvis et system markerer en komponent som kritisk eller frikender den for fejl, skal ingeniører og sikkerhedsansvarlige kunne forstå hvorfor. Ellers bliver det svært at vurdere, om modellen faktisk har fundet et reelt mønster eller reagerer på støj, bias eller irrelevante signaler.
3. Automation bias og menneskelig overvågning
Selv når AI “kun” er beslutningsstøtte, kan den ændre menneskelig adfærd. Operatører kan komme til at stole for meget på systemets anbefalinger eller omvendt ignorere dem, hvis systemet tidligere har givet for mange falske alarmer. Begge dele er sikkerhedsrisici.
Derfor er spørgsmålet ikke kun, om modellen virker, men også hvordan den bruges i kontrolrum, vedligeholdelsesorganisationer og operative miljøer. Sikker implementering kræver klare roller, træning, procedurer og en tydelig grænse for, hvornår mennesker skal overrule systemet.
4. Svigt i integrationen med legacy-systemer
Jernbanen er præget af lange levetider, mange grænseflader og tekniske arvemiljøer. Nye AI-lag skal ofte fungere sammen med ældre software, signalteknik, sensorer og driftsprocedurer. Det skaber integrationsrisici.
Selv hvis en model virker fint i et testmiljø, kan kombinationen med eksisterende systemer skabe uventede fejltilstande, timingproblemer eller nye afhængigheder.
5. Cybersecurity bliver også safety
Når AI-systemer kobles til kameraer, sensorer, fjernovervågning, netværk og cloud-løsninger, øges angrebsfladen. Et kompromitteret AI-system kan i værste fald skabe falske alarmer, skjule fejl, manipulere beslutningsgrundlag eller forstyrre overvågning og adgangskontrol. I jernbanen er cybersecurity derfor ikke kun en IT-disciplin, men i høj grad en del af den samlede risikostyring.
6. Ansvarsforskydning
Når beslutninger bliver mere datadrevne og delvist automatiserede, opstår let et “ansvarsvakuum”. Er det leverandøren, dataholdet, driftsherren, vedligeholdsorganisationen eller operatøren, der bærer ansvaret, hvis systemet tager fejl?
I sikkerhedskritiske miljøer er det ikke holdbart at gemme sig bag, at “modellen sagde sådan”. Governance skal være krystalklar: Hvem godkender modellen, hvem overvåger performance, hvem håndterer modelændringer, og hvornår skal systemet tages ud af drift?
5 sikkerhedsspørgsmål før AI sættes på skinner
1. Hvilken beslutning påvirker AI-systemet?
Er det planlægning, vedligehold, overvågning eller direkte drift?
2. Hvad sker der ved fejl?
Kan fejl give forsinkelser, dårligere vedligehold eller påvirke personsikkerhed?
3. Kan vi forklare outputtet?
Hvis ikke, bliver validering og audit vanskeligere.
4. Hvem har ansvaret?
Der skal være tydeligt ejerskab for data, model, drift og ændringer.
5. Kan systemet fejle sikkert?
Fallback, manuel overstyring og sikker degradering er afgørende.
AI kan øge effektiviteten i jernbanen men stiller store krav
AI kan gøre jernbanen mere robust, mere effektiv og i nogle tilfælde også mere sikker. Men kun hvis teknologien indføres med samme disciplin, som man allerede kender fra safety engineering.
Den største risiko er ikke nødvendigvis, at AI fejler. Den største risiko er, at organisationer undervurderer, hvor meget dokumentation, governance, menneskelig overvågning og cybersikkerhed der skal til, før AI er klar til at blive en del af en sikkerhedskritisk drift.
Læs mere:
Kontakt
Få hjælp nu
Find relevante, kvalitetssikrede kurser og efteruddannelse.