Un nuovo rapporto della NATO Science and Technology Organization (STO) esamina il ruolo del controllo umano nei sistemi militari basati sull'intelligenza artificiale. La pubblicazione sottolinea l'importanza di bilanciare il giudizio umano con l'autonomia e presenta un modello per comprendere come i diversi metodi di controllo interagiscono tra loro.

Il rapporto sostiene che l'intelligenza artificiale può offrire vantaggi sul campo di battaglia accelerando il processo decisionale e analizzando rapidamente grandi quantità di dati per una maggiore precisione e copertura. Tuttavia, man mano che i sistemi diventano più autonomi, cresce la necessità di mantenere un controllo umano efficace e una supervisione adeguata. È quanto emerge da un comunicato stampa della NATO che sintetizza i risultati del rapporto.

Il rapporto constata che esiste un ampio consenso sulla necessità del "controllo umano significativo" (Meaningful Human Control, MHC) nei futuri campi di battaglia, ma che vi sono opinioni divergenti su cosa il concetto significhi nella pratica.

Per chiarire le questioni in esame, un gruppo di ricercatori all'interno della STO ha indagato il significato e le potenziali soluzioni per i futuri sistemi basati sull'intelligenza artificiale. Il gruppo, costituito nell'ambito del panel Human Factors and Medicine (HFM), stabilisce che l'MHC non deve essere considerato una semplice proprietà. Viene invece descritto come parte di un complesso sistema sociotecnico che richiede interventi nelle diverse fasi del ciclo di vita di un sistema di intelligenza artificiale.

Il rapporto identifica 17 potenziali metodi per garantire il controllo. Questi spaziano dalle linee guida progettuali alle metriche per la consapevolezza situazionale e alla formazione organizzativa. Il gruppo introduce inoltre un "modello olistico a farfalla" (holistic bowtie model) dell'MHC. Il modello combina aspetti a livello individuale con livelli di sistema, organizzazione e società, al fine di migliorare la comprensione di come i diversi metodi si relazionino tra loro.

Gli autori sottolineano che non esiste una soluzione universale. Il rapporto evidenzia l'importanza di un processo progettuale incentrato sull'essere umano, in cui le diverse parti interessate vengano coinvolte già nelle fasi iniziali dello sviluppo.

Il gruppo di lavoro esprime la speranza che i metodi identificati possano costituire la base per ulteriori ricerche su soluzioni pratiche per il controllo umano nel corso del ciclo di vita dei sistemi.