Dopo aver discusso le sfide generali dell'IA in contesti militari, approfondiamo ora come queste sfide possano concretamente manifestarsi, con un focus sul combattimento aereo. Qui il confine tra uomo e macchina diventa particolarmente evidente, e dobbiamo comprendere perché la collaborazione tra i due sia fondamentale per il successo.
Per fare un esempio concreto, è relativamente semplice creare un'IA estremamente efficace, quasi imbattibile, per condurre il combattimento aereo se al sistema viene lasciata piena libertà d'azione e le regole sono note e chiare. Tuttavia, la situazione diventa rapidamente molto complessa e richiede una profonda conoscenza del dominio da parte dei piloti, se si vuole sviluppare un'IA che conduca il combattimento aereo insieme all'operatore, dove quest'ultimo potrebbe disporre di informazioni che l'IA non conosce.
Un esempio più semplice è che è relativamente facile creare un'IA che giochi a scacchi in modo straordinario, ma è difficile creare un'IA che, in collaborazione con un essere umano, giochi altrettanto bene. La radice di entrambi i problemi risiede nella definizione dei confini: uomo e macchina devono comprendersi reciprocamente per poter lavorare insieme. Un'IA oggi non può, e probabilmente non potrà mai, salvo in casi specifici, spiegare efficacemente perché agisce in un determinato modo, offrendo all'operatore la possibilità di modificare alcune priorità e condizioni non preprogrammate.
La soluzione delle aziende di IA a quanto sopra consiste nel rendere disponibili maggiori informazioni per l'addestramento dell'IA, semplicemente perché è l'unica cosa fattibile senza affrontare le difficili definizioni di confine che richiedono esperti di dominio spesso non disponibili. In alcuni settori questo approccio funziona, ad esempio nell'analisi di sensori e immagini, che presenta una delimitazione naturale rispetto all'uomo e agli altri sistemi. Per altri ambiti, come il combattimento aereo, dove gli eventi consistono in un continuo bilanciamento tra diverse soluzioni, la situazione diventa considerevolmente più complessa.
Per poter sostituire un pilota da combattimento, anche solo durante alcune sequenze di combattimento, l'IA dovrebbe essere alimentata con praticamente l'intero programma di addestramento dei piloti (come è stato proposto), valutazioni del rischio (difficili da quantificare) e tutti i documenti relativi all'operazione in corso (in continua evoluzione), affinché l'IA possa generare una soluzione che non richieda comprensione umana. Nel prevedibile futuro, l'operatore nel circuito dovrà quindi essere in grado di comprendere e correggere continuamente ciò che accade, avvalendosi della propria esperienza e di tutte le informazioni "soft" che cambiano nel corso di un'operazione.
Quanto descritto sopra illustra due delle numerose caratteristiche dell'IA che risultano problematiche in certi contesti militari. Le conseguenze di una risposta errata generata da ChatGPT sono gestibili, ma per i prodotti militari poniamo naturalmente standard più elevati. Ciò vale in particolare per l'arena aerea, con i suoi scenari ad evoluzione rapida che non consentono il controllo manuale delle risposte dell'IA e dove gli errori hanno spesso conseguenze gravi. Questo non significa che non possiamo utilizzare l'IA nell'arena militare aerea, ma impone standard più elevati e richiede che i problemi vengano affrontati nelle fasi iniziali dello sviluppo. È facile lasciarsi sedurre dalle possibilità offerte dall'IA ed estrapolarle troppo oltre.
In Avioniq utilizziamo l'IA per il combattimento aereo dal 2016, ma fin dall'inizio siamo stati consapevoli dei suoi limiti in questo ambito e non abbiamo incorporato i problemi descritti sopra nella nostra architettura. Affrontiamoli uno alla volta, poiché le soluzioni sono di natura completamente diversa.
Per gestire il problema della difficoltà di verificare le risposte fornite dall'IA, dato che le possibilità di ciò che è corretto sono molteplici e lo spazio delle soluzioni è molto complesso, abbiamo scelto, per questi ambiti di soluzione, di utilizzare esclusivamente ciò che definiamo IA verificabile.
In linea di principio, questo significa che sviluppiamo IA più piccole e semplici, in cui i dati di ingresso e di uscita sono ben definiti e direttamente verificabili tramite una simulazione dell'intero scenario. Queste IA richiedono comunque un'enorme potenza di calcolo per essere create, con miliardi di simulazioni per ciascuna, ma la struttura è ottimizzata per chiarezza e verificabilità.
Invece di creare un'IA che fornisca all'operatore una rotta o una traiettoria di volo da seguire per vincere il combattimento, che è un problema difficile da definire poiché "vincere il combattimento" comprende moltissimi elementi, poniamo domande più semplici con risposte più chiare e ben definite. Ad esempio: "Quanti g (con quale intensità) deve virare l'aereo per evitare il missile in avvicinamento, se si tratta di un missile di tipo AA 10-C?".
La differenza sta nel fatto che in questo caso è possibile simulare la risposta esatta, a condizione di disporre di un modello del missile, e verificare che l'IA fornisca la risposta corretta, che è un semplice numero compreso tra zero e nove. In termini tecnici, si dice che è possibile effettuare una verifica statistica esaustiva dei risultati per tutte le combinazioni di parametri di ingresso mediante simulazioni deterministiche.
L'IA verificabile non fornisce la risposta completa come farebbe un'IA onnicomprensiva, e questo è esattamente lo scopo, poiché risolve anche il secondo problema: la definizione del confine tra operatore e IA. Invece di affidare a un'IA l'intera soluzione del problema, che l'operatore fatica a comprendere e quindi a modificare o approvare, l'IA verificabile fornisce soluzioni esattamente alle domande poste dall'operatore...