En ny rapport fra NATO Science and Technology Organization (STO) undersøker rollen av menneskelig kontroll i militære AI-systemer. Publikasjonen understreker viktigheten av å balansere menneskelig dømmekraft med autonomi og presenterer en modell for å forstå hvordan kontrollmetoder samvirker.
Rapporten hevder at kunstig intelligens kan gi fordeler på slagmarken ved å akselerere beslutningstaking og raskt analysere store datamengder for økt presisjon og dekning. Etter hvert som systemene blir mer autonome, øker imidlertid behovet for å opprettholde en effektiv menneskelig kontroll og tilsyn. Dette ifølge en pressemelding fra NATO som har sammenstilt rapportens funn.
Rapporten konstaterer at det er bred enighet om nødvendigheten av "meningsfull menneskelig kontroll" (Meaningful Human Control, MHC) på fremtidige slagmarker, men at det finnes ulike oppfatninger om hva begrepet innebærer i praksis.
For å tydeliggjøre problemstillingene har en forskergruppe innen STO undersøkt betydningen og potensielle løsninger for fremtidige AI-baserte systemer. Gruppen, som er dannet under panelet for Human Factors and Medicine (HFM), fastslår at MHC ikke bør betraktes som en enkel egenskap. Det beskrives i stedet som en del av et komplekst sosioteknisk system som krever tiltak under ulike faser av et AI-systems livssyklus.
I rapporten identifiseres 17 potensielle metoder for å sikre kontroll. Disse spenner fra designretningslinjer til måleverdier for situasjonsforståelse og organisatorisk opplæring. Gruppen introduserer også en "holistisk bowtie-modell" av MHC. Modellen kombinerer aspekter på individnivå med system-, organisasjons- og samfunnsnivåer for å øke forståelsen av hvordan ulike metoder relaterer til hverandre.
Forfatterne understreker at det ikke finnes noen universalløsning. Rapporten fremhever viktigheten av en designprosess der mennesket står i sentrum og hvor ulike interessenter involveres allerede i de tidlige fasene av utviklingen.
Arbeidsgruppen uttrykker et håp om at de identifiserte metodene skal danne grunnlag for videre forskning rundt praktiske løsninger for menneskelig kontroll gjennom systemenes levetid.