En ny rapport fra NATO Science and Technology Organization (STO) undersøger rollen af menneskelig kontrol i militære AI-systemer. Publikationen understreger vigtigheden af at balancere menneskelig dømmekraft med autonomi og præsenterer en model for at forstå, hvordan kontrolmetoder interagerer.
Rapporten hævder, at kunstig intelligens kan medføre fordele på slagmarken ved at accelerere beslutningstagning og hurtigt analysere store datamængder for øget præcision og dækning. I takt med at systemerne bliver mere autonome, øges dog behovet for at opretholde en effektiv menneskelig kontrol og tilsyn. Dette ifølge en pressemeddelelse fra NATO, som har sammenfattet rapportens fund.
Rapporten konstaterer, at der er bred enighed om nødvendigheden af "meningsfuld menneskelig kontrol" (Meaningful Human Control, MHC) på fremtidige slagmarker, men at der er forskellige opfattelser af, hvad begrebet indebærer i praksis.
For at tydeliggøre problemstillingerne har en forskergruppe inden for STO undersøgt betydningen og potentielle løsninger for fremtidige AI-baserede systemer. Gruppen, som er dannet under panelet for Human Factors and Medicine (HFM), fastslår, at MHC ikke bør betragtes som en enkel egenskab. Det beskrives i stedet som en del af et komplekst socioteknisk system, der kræver tiltag under forskellige faser af et AI-systems livscyklus.
I rapporten identificeres 17 potentielle metoder til at sikre kontrol. Disse spænder fra designretningslinjer til måleværdier for situationsforståelse og organisatorisk uddannelse. Gruppen introducerer også en "holistisk bowtie-model" af MHC. Modellen kombinerer aspekter på individniveau med system-, organisations- og samfundsniveauer for at øge forståelsen af, hvordan forskellige metoder relaterer til hinanden.
Forfatterne understreger, at der ikke findes nogen universalløsning. Rapporten fremhæver vigtigheden af en designproces, hvor mennesket står i centrum, og hvor forskellige interessenter involveres allerede i de tidlige faser af udviklingen.
Arbejdsgruppen udtrykker et håb om, at de identificerede metoder skal danne grundlag for videre forskning omkring praktiske løsninger for menneskelig kontrol under systemernes levetid.