NATO:n Science and Technology Organization (STO) on julkaissut uuden raportin, joka tutkii ihmisen hallinnan roolia sotilaallisissa tekoälyjärjestelmissä. Julkaisu korostaa ihmisen harkinnan ja autonomian tasapainottamisen tärkeyttä ja esittelee mallin ymmärtääkseen, miten hallintamenetelmät toimivat yhdessä.
Raportti toteaa, että tekoäly voi tuoda etuja taistelukentällä nopeuttamalla päätöksentekoa ja analysoimalla suuria tietomääriä nopeasti tarkkuuden ja kattavuuden lisäämiseksi. Järjestelmien tullessa yhä autonomisemmiksi kasvaa kuitenkin tarve ylläpitää tehokasta ihmisen hallintaa ja valvontaa. Tämä käy ilmi Naton lehdistötiedotteesta, joka on koonnut raportin löydökset.
Raportti toteaa, että on laaja yksimielisyys "merkityksellisen ihmisen hallinnan" (Meaningful Human Control, MHC) tarpeellisuudesta tulevaisuuden taistelukentillä, mutta käsitykset siitä, mitä käsite käytännössä tarkoittaa, vaihtelevat.
Kysymysten selventämiseksi STO:n tutkijaryhmä on tutkinut merkitystä ja mahdollisia ratkaisuja tulevaisuuden tekoälypohjaisille järjestelmille. Ryhmä, joka on muodostettu Human Factors and Medicine (HFM) -paneelin alaisuudessa, toteaa, että MHC:ta ei tulisi pitää yksinkertaisena ominaisuutena. Sen sijaan se kuvataan osana monimutkaista sosioteknistä järjestelmää, joka vaatii toimenpiteitä tekoälyjärjestelmän elinkaaren eri vaiheissa.
Raportissa tunnistetaan 17 potentiaalista menetelmää hallinnan varmistamiseksi. Nämä ulottuvat suunnitteluohjeista tilannetietoisuuden mittareihin ja organisatoriseen koulutukseen. Ryhmä esittelee myös "holistisen bowtie-mallin" MHC:sta. Malli yhdistää yksilötason näkökohdat järjestelmä-, organisaatio- ja yhteiskuntatasoihin lisätäkseen ymmärrystä siitä, miten eri menetelmät liittyvät toisiinsa.
Kirjoittajat korostavat, ettei ole olemassa universaalia ratkaisua. Raportti painottaa ihmiskeskeisen suunnitteluprosessin merkitystä, jossa eri sidosryhmät ovat mukana jo kehityksen alkuvaiheissa.
Työryhmä ilmaisee toiveensa, että tunnistetut menetelmät muodostavat perustan jatkotutkimukselle käytännön ratkaisujen löytämiseksi ihmisen hallinnalle järjestelmien elinkaaren aikana.