Mulighetene med KI i militær teknologi

Etter å ha diskutert de generelle utfordringene med KI i militære sammenhenger, la oss nå dykke dypere inn i hvordan disse utfordringene konkret kan arte seg, med fokus på luftkamp. Her blir grensedragningen mellom menneske og maskin særlig tydelig, og vi må forstå hvorfor et samarbeid mellom disse to er avgjørende for suksess.

For å ta et konkret eksempel er det forholdsvis enkelt å lage en KI som er svært effektiv, nesten uslåelig, for å gjennomføre luftkamp dersom systemet får gjøre som det vil og det kun finnes kjente, tydelige regler. Men det blir raskt svært komplekst, og krever stor domenekunnskap fra piloter, dersom man skal lage en KI som gjennomfører luftkamp sammen med operatøren, der sistnevnte kanskje har forutsetninger som KI ikke kjenner til.

Et enklere eksempel er at det er forholdsvis enkelt å lage en KI som spiller sjakk utrolig godt, men vanskelig å lage en KI som i samarbeid med et menneske skal spille like godt. Roten til begge problemene er grensedragninger, der menneske og maskin må forstå hverandre for å kunne arbeide sammen. En KI kan i dag ikke, og vil sannsynligvis aldri kunne, annet enn i visse spesifikke tilfeller, effektivt forklare hvorfor den handler på en bestemt måte, med mulighet for operatøren til å endre visse ikke-forhåndsprogrammerte prioriteringer og forutsetninger.

KI-selskapenes løsning på ovenstående er å gjøre mer informasjon tilgjengelig for KI-treningen, rett og slett fordi det er det eneste som lar seg gjøre uten å foreta de vanskelige grensedragningene som krever de domenekspertene som ofte ikke er tilgjengelige. I visse domener fungerer dette, for eksempel sensor- og bildeanalyse, som har en naturlig grensedragning mot mennesket og øvrige systemer. For andre områder, som luftkamp, der hendelsesforløpet er en kontinuerlig avveining mellom ulike løsninger, blir det betydelig vanskeligere.

For å kunne erstatte en kampflypilot, selv under visse kampsekvenser, må KI mates med i prinsippet hele pilotutdanningen (dette har vært foreslått), risikovurderinger (vanskelige å kvantifisere) og alle dokumenter som inngår i operasjonen (stadig skiftende), for at KI skal kunne generere en løsning som ikke krever menneskelig forståelse. I overskuelig fremtid vil derfor operatøren-i-løkken måtte forstå og kontinuerlig kunne korrigere det som skjer, ved hjelp av sin erfaring og all den "myke" informasjonen som endrer seg under en operasjon.

Ovenfor beskrives to av betydelig flere egenskaper ved KI som blir problematiske i visse militære sammenhenger. Konsekvensene dersom ChatGPT genererer et feilaktig svar er håndterbare, men for militære produkter stiller vi naturlig nok høyere krav. Dette gjelder spesielt når det handler om flyarenaen med sine raske hendelsesforløp, som ikke muliggjør manuell kontroll av svarene fra KI, og der feiltrinn ofte får store konsekvenser. Det betyr ikke at vi ikke kan bruke KI på den militære flyarenaen, det stiller bare høyere krav og krever håndtering av problemene tidlig i utviklingen. Det er lett å la seg forføre av mulighetene med KI og ekstrapolere det for langt.

Hos Avioniq har vi brukt KI for luftkamp siden 2016, men vi har helt fra starten vært bevisste på dens begrensninger i luftkamp og ikke bygd oss inn i problemene beskrevet ovenfor. La oss ta dem én om gangen, ettersom løsningen er av helt ulik karakter.

For å håndtere problemet med at svarene KI leverer er vanskelige å verifisere, siden det finnes så mange muligheter for hva som er riktig og løsningsrommet er så komplekst, har vi valgt å for disse løsningsområdene utelukkende benytte oss av noe vi kaller verifiserbar KI.

Prinsipielt innebærer det at vi lager mindre, enklere KI der inn- og utdata er veldefinert og direkte verifiserbar med en simulering av hele hendelsesforløpet. Disse KI-systemene krever fortsatt enorm datakraft å utvikle, med milliarder av simuleringer per KI, men strukturen er optimalisert for tydelighet og verifiserbarhet.

I stedet for å lage en KI som gir operatøren en kurs eller flybane å styre etter for å vinne kampen, noe som er et vanskelig definert problem ettersom så mange deler inngår i "å vinne kampen", stiller vi enklere spørsmål med tydeligere og veldefinerte svar. For eksempel: "Hvor mange g (hvor kraftig) må flyet svinge unna med for å unngå den innkommende missilen dersom den er av typen AA 10-C?".

Forskjellen er at her kan man simulere frem det eksakte svaret, gitt at man har en modell av missilen, og verifisere at KI leverer riktig svar, som er et enkelt tall mellom null og ni. Teknisk sett sier man gjerne at man kan foreta en uttømmende statistisk verifisering av resultatene for samtlige kombinasjoner av innparametere ved hjelp av deterministiske simuleringer.

Verifiserbar KI leverer ikke hele svaret slik en altomfattende KI gjør, noe som er selve hensikten, ettersom det også løser det andre problemet: grensedragningen mellom operatør og KI. I stedet for at en KI skal levere hele svaret på problemet, noe operatøren har vanskelig for å forstå og dermed endre eller godkjenne, leverer verifiserbar KI løsninger på nøyaktig de spørsmålene operatøren stiller...