Mulighederne med AI i militær teknologi

Mikael Grev, grundlægger og administrerende direktør for forsvarsvirksomheden Avioniq AB med en baggrund som kampflyverpilot, udforsker i to kronikker for FSN Perspektiv de komplekse udfordringer og muligheder, som AI står over for inden for militær teknologi. I denne anden kronik dykker Mikael ned i mulighederne ved at implementere AI i luftkamp.

Efter at have diskuteret de generelle udfordringer med AI i militære sammenhænge, lad os nu dykke dybere ned i, hvordan disse udfordringer konkret kan tage sig ud, med fokus på luftkamp. Her bliver grænsen mellem menneske og maskine særligt tydelig, og vi må forstå, hvorfor et samarbejde mellem disse to er afgørende for succes.

For at tage et konkret eksempel er det forholdsvis enkelt at skabe en AI, der er overordentlig effektiv, næsten uovervindelig, til at føre luftkamp, hvis systemet får lov til at gøre, hvad det vil, og der kun findes kendte, klare regler. Men det bliver hurtigt meget komplekst og kræver stor faglig indsigt fra piloter, hvis man skal skabe en AI, der fører luftkamp sammen med operatøren, hvor sidstnævnte måske har forudsætninger, som AI ikke kender til.

Et enklere eksempel er, at det er forholdsvis enkelt at skabe en AI, der spiller skak utroligt godt, men svært at skabe en AI, der i samarbejde med et menneske skal spille lige så godt. Roden til begge problemer er grænseafgrænsninger, hvor menneske og maskine må forstå hinanden for at kunne arbejde sammen. En AI kan i dag ikke, og vil sandsynligvis aldrig kunne, undtagen i visse specifikke tilfælde, effektivt forklare, hvorfor den handler på en bestemt måde, med mulighed for at operatøren kan ændre visse ikke-forprogrammerede prioriteringer og forudsætninger.

AI-virksomhedernes løsning på ovenstående er at gøre mere information tilgængelig til AI-træningen, simpelthen fordi det er det eneste, der kan gøres uden at foretage de vanskelige grænseafgrænsninger, som kræver de domæneeksperter, der ofte ikke er tilgængelige. I visse domæner fungerer dette, for eksempel sensor- og billedanalyse, som har en naturlig grænse mod mennesket og øvrige systemer. For andre områder, som luftkamp, hvor forløbet er en kontinuerlig afvejning mellem forskellige løsninger, bliver det betydeligt sværere.

For at kunne erstatte en kampflyverpilot, selv under visse kampsekvenser, skal AI i princippet fodres med hele pilotudbildningen (dette er blevet foreslået), risikovurderinger (svære at kvantificere) og alle dokumenter, der indgår i operationen (løbende foranderlige), for at AI skal kunne generere en løsning, der ikke kræver menneskelig forståelse. I en overskuelig fremtid vil operatøren-i-løkken derfor skulle forstå og løbende kunne korrigere, hvad der sker, ved hjælp af sin erfaring og al den »bløde« information, der ændrer sig under en indsats.

Ovenstående beskriver to af betydeligt flere egenskaber ved AI, der bliver problematiske i visse militære sammenhænge. Konsekvenserne, hvis ChatGPT genererer et forkert svar, er håndterbare, men for militære produkter stiller vi naturligt højere krav. Dette gælder især, når det drejer sig om flyarenan med dens hurtige forløb, der ikke muliggør manuel kontrol af svarene fra AI, og hvor fejltrin ofte får store konsekvenser. Det betyder ikke, at vi ikke kan bruge AI til den militære flyarena. Det stiller blot højere krav og kræver håndtering af problemerne tidligt i udviklingen. Det er let at lade sig forføre af mulighederne med AI og ekstrapolere det for langt.

Hos Avioniq har vi brugt AI til luftkamp siden 2016, men vi har fra begyndelsen været bevidste om dens begrænsninger i luftkamp og ikke bygget os ind i de problemer, der er beskrevet ovenfor. Lad os tage dem én ad gangen, da løsningen er af helt forskellig karakter.

For at håndtere problemet med, at de svar AI leverer er svære at verificere, da der er så mange muligheder for, hvad der er korrekt, og løsningsrummet er så komplekst, har vi valgt for disse løsningsområder udelukkende at anvende det, vi betegner verificerbar AI.

Principielt indebærer det, at vi laver mindre, enklere AI, hvor input og output er veldefineret og direkte verificerbar med en simulering af hele forløbet. Disse AI kræver stadig enorm computerkraft at skabe, med milliarder af simuleringer pr. AI, men strukturen er optimeret for tydelighed og verificerbarhed.

I stedet for at skabe en AI, der giver operatøren en kurs eller flyvebane at styre efter for at vinde kampen, hvilket er et vanskeligt defineret problem, da der indgår så mange dele i »at vinde kampen«, stiller vi enklere spørgsmål med tydeligere og veldefinerede svar. For eksempel: »Hvor mange g (hvor kraftigt) skal flyet dreje undan med for at undgå den indkommende missil, hvis den er af typen AA 10-C?«.

Forskellen er, at her kan man simulere det præcise svar, forudsat at man har en model af missilen, og verificere, at AI leverer det korrekte svar, hvilket er et enkelt tal mellem nul og ni. Teknisk set siger man normalt, at man kan foretage en udtømmende statistisk verifikation af resultaterne for samtlige kombinationer af inputparametre ved hjælp af deterministiske simuleringer.

Verificerbar AI leverer ikke hele svaret, som en altomfattende AI gør, hvilket er selve meningen, da det også løser det andet problem, grænseafgrænsningen mellem operatør og AI. I stedet for at en AI skal levere hele svaret på problemet, som operatøren har svært ved at forstå og dermed ændre eller godkende, leverer verificerbar AI løsninger på præcis de spørgsmål, som operatøren stiller...