MERAI
MERAI - MEtodik för Riskbedömning Artificiell Intelligens
Projektnamn
MERAI – MEtodik för Riskbedömning Artificiell Intelligens
Vad handlar projektet om?
MERAI är en förstudie som ska utveckla kunskap och en metodisk grund för flygsäkerhetsbedömning av AI-baserade verktyg inom flygtrafikledning. Bakgrunden är att AI används allt mer för automation och beslutsstöd, samtidigt som egenskaper som ”black box”-beteende, bias, varierande prestanda och hallucinationer gör det svårt att visa att systemen uppfyller kraven för säkerhetskritisk användning och framtida certifiering.
Projektet fokuserar särskilt på hur osäkerheter i AI-modellers prestanda kan identifieras, bedömas och reduceras inom ett Safety I-ramverk. Arbetet omfattar litteraturstudier, problemdefinition och modellering, utveckling av lösningsförslag samt validering genom enkla ”proof of concept”-prototyper och användningsfall från LFV och andra relevanta projekt. Exempel på möjliga åtgärder är ökad transparens och förklarbarhet, standardiserad testning och stresstestning, mänsklig tillsyn, validering av träningsdata samt redundans mellan AI-modeller.
Projektet ska resultera i en beskrivning av aktuellt forskningsläge och regelverk, modeller och hypoteser för AI-relaterade säkerhetsproblem, krav för säkerhetsbedömning, prototypiska demonstrationer, lösningsförslag, validering och rekommendationer för fortsatt arbete.
MERAI är explorativt och siktar på TRL 2–3. Projektet ska alltså inte leverera en färdig säkerhetsbedömningsmetod för operativ implementering, utan skapa grund för fortsatt forskning och utveckling mot säker användning och certifiering av AI inom ATM.
Vilka nyttor bidrar projektet till för LFV?
MERAI stärker LFV:s förmåga att bedöma risker när AI införs i flygsäkerhetskritiska tillämpningar. Projektet ger metoder och kunskap för att förstå AI-relaterad osäkerhet, identifiera riskkällor och utvärdera riskreducerande åtgärder. Resultaten kan direkt stödja andra LFV-initiativ som AI-PRAT och Svart IRIS samt bidra till HAIKU och AAP3. På längre sikt skapar projektet underlag för säkrare införande och certifiering av AI-baserade lösningar inom flygtrafikledning.
Projektpartners
Projektet genomförs av LFV. Projektgruppen består av Lothar Meyer, Erik Liljeroth, Jens Nilsson och Helene Alpfjord Wylde. I referensgruppen ingår även Christian Bjursten (LFV), Lars Danielsson (Saab Digital Air Traffic Solutions) och Christiane Schmidt (Linköpings universitet). Representanter från relaterade projekt planeras att bjudas in till workshops och brainstorming.
Tidplan
Projektstart: 1 april 2025
Projektslut: 31 mars 2027
Budget och finansiering
Projektets och LFV:s totalbudge uppgår till: 2 888 tkr.
Projektet finansieras av Trafikverket
Kontaktperson
Lothar Meyer, FoI-enheten
E-post: lothar.meyer@lfv.se