En ny rapport från NATO Science and Technology Organization (STO) undersöker rollen av mänsklig kontroll i militära AI-system. Publikationen betonar vikten av att balansera mänskligt omdöme med autonomi och presenterar en modell för att förstå hur kontrollmetoder samverkar.
Rapporten gör gällande att artificiell intelligens kan medföra fördelar på slagfältet genom att accelerera beslutsfattande och snabbt analysera stora datamängder för ökad precision och täckning. I takt med att systemen blir mer autonoma ökar dock behovet av att upprätthålla en effektiv mänsklig kontroll och tillsyn. Det här enligt ett pressmeddelande från Nato som sammanställt rapportens fynd.
Rapporten konstaterar att det råder bred enighet om nödvändigheten av "meningsfull mänsklig kontroll" (Meaningful Human Control, MHC) på framtida stridsfält, men att det finns skilda uppfattningar om vad begreppet innebär i praktiken.
För att tydliggöra frågeställningarna har en forskargrupp inom STO undersökt innebörden och potentiella lösningar för framtida AI-baserade system. Gruppen, som formats under panelen för Human Factors and Medicine (HFM), fastslår att MHC inte bör betraktas som en enkel egenskap. Det beskrivs istället som en del av ett komplext sociotekniskt system som kräver åtgärder under olika faser av ett AI-systems livscykel.
I rapporten identifieras 17 potentiella metoder för att säkerställa kontroll. Dessa sträcker sig från designriktlinjer till mätvärden för lägesuppfattning och organisatorisk utbildning. Gruppen introducerar även en ”holistisk bowtie-modell” av MHC. Modellen kombinerar aspekter på individnivå med system-, organisations- och samhällsnivåer för att öka förståelsen för hur olika metoder relaterar till varandra.
Författarna understryker att det inte finns någon universallösning. Rapporten framhåller vikten av en designprocess där människan står i centrum och där olika intressenter involveras redan i de tidiga faserna av utvecklingen.
Arbetsgruppen uttrycker en förhoppning om att de identifierade metoderna ska ligga till grund för vidare forskning kring praktiska lösningar för mänsklig kontroll under systemens livslängd.