Après avoir abordé les défis généraux liés à l'IA dans les contextes militaires, plongeons désormais plus en profondeur dans la manière dont ces défis peuvent se manifester concrètement, en nous concentrant sur le combat aérien. C'est ici que la frontière entre l'homme et la machine devient particulièrement tangible, et nous devons comprendre pourquoi une collaboration entre ces deux entités est essentielle au succès.
Pour prendre un exemple concret, il est relativement simple de créer une IA extrêmement efficace, presque imbattable, pour mener un combat aérien si le système peut agir à sa guise et que seules des règles connues et claires s'appliquent. Mais cela devient rapidement très complexe, et exige une grande expertise du domaine de la part des pilotes, si l'on souhaite concevoir une IA qui mène le combat aérien en collaboration avec l'opérateur, ce dernier disposant peut-être d'informations que l'IA ne connaît pas.
Un exemple plus simple : il est relativement aisé de créer une IA qui joue aux échecs de manière extraordinaire, mais il est difficile de concevoir une IA qui joue aussi bien en collaboration avec un être humain. La source des deux problèmes réside dans la délimitation des rôles, où l'homme et la machine doivent se comprendre mutuellement pour pouvoir travailler ensemble. Une IA ne peut pas aujourd'hui, et ne pourra probablement jamais, sauf dans certains cas spécifiques, expliquer efficacement pourquoi elle agit d'une certaine façon, tout en permettant à l'opérateur de modifier certaines priorités et conditions non préprogrammées.
La solution des entreprises d'IA face à ce problème consiste à rendre davantage d'informations disponibles pour l'entraînement de l'IA, simplement parce que c'est la seule chose réalisable sans effectuer les délimitations difficiles qui nécessitent des experts du domaine souvent indisponibles. Dans certains domaines, cela fonctionne, par exemple pour l'analyse de capteurs et d'images, qui présente une délimitation naturelle vis-à-vis de l'homme et des autres systèmes. Pour d'autres domaines, comme le combat aérien, où le déroulement consiste en un arbitrage continu entre différentes solutions, cela devient nettement plus difficile.
Pour pouvoir remplacer un pilote de chasse, même lors de certaines séquences de combat, l'IA doit être alimentée avec la quasi-totalité de la formation des pilotes (cela a été proposé...), des évaluations des risques (difficiles à quantifier) et de l'ensemble des documents inclus dans l'opération (en constante évolution), afin que l'IA puisse générer une solution ne nécessitant pas de compréhension humaine. Dans un avenir prévisible, l'opérateur en boucle devra donc comprendre et corriger en permanence ce qui se passe, en s'appuyant sur son expérience et sur toutes les informations « souples » qui évoluent au cours d'une opération.
Ce qui précède décrit deux des nombreuses caractéristiques de l'IA qui deviennent problématiques dans certains contextes militaires. Les conséquences d'une réponse incorrecte générée par ChatGPT sont gérables, mais pour les applications militaires, nous exigeons naturellement des standards plus élevés. Cela est particulièrement vrai dans le domaine de l'aviation, avec ses évolutions rapides qui ne permettent pas un contrôle manuel des réponses de l'IA, et où les erreurs ont souvent des conséquences importantes. Cela ne signifie pas que nous ne pouvons pas utiliser l'IA dans le domaine de l'aviation militaire, mais cela impose des exigences plus strictes et nécessite une prise en charge des problèmes dès le début du développement. Il est facile de se laisser séduire par les possibilités offertes par l'IA et d'en extrapoler les capacités trop loin.
Chez Avioniq, nous utilisons l'IA pour le combat aérien depuis 2016, mais nous avons été conscients dès le départ de ses limites dans ce domaine et nous n'avons pas intégré les problèmes décrits ci-dessus dans notre architecture. Examinons-les un par un, car les solutions sont de nature totalement différente.
Pour traiter le problème de la difficulté à vérifier les réponses fournies par l'IA, étant donné le grand nombre de possibilités quant à ce qui est correct et la complexité de l'espace des solutions, nous avons choisi, pour ces domaines de solutions, de recourir exclusivement à ce que nous appelons l'IA vérifiable.
En principe, cela signifie que nous développons des IA plus petites et plus simples, dont les données d'entrée et de sortie sont bien définies et directement vérifiables par une simulation de l'ensemble du déroulement. Ces IA nécessitent néanmoins une puissance de calcul considérable pour être créées, avec des milliards de simulations par IA, mais la structure est optimisée pour la clarté et la vérifiabilité.
Plutôt que de créer une IA qui fournit à l'opérateur un cap ou une trajectoire de vol pour remporter le combat, ce qui constitue un problème difficile à définir car de nombreux éléments entrent dans la notion de « remporter le combat », nous posons des questions plus simples avec des réponses plus claires et bien définies. Par exemple : « Combien de g (avec quelle intensité) l'avion doit-il virer pour éviter le missile entrant s'il est de type AA 10-C ? ».
La différence réside dans le fait qu'il est possible de simuler la réponse exacte à cette question, à condition de disposer d'un modèle du missile, et de vérifier que l'IA fournit la bonne réponse, qui est un simple chiffre entre zéro et neuf. Sur le plan technique, on dit généralement qu'il est possible d'effectuer une vérification statistique exhaustive des résultats pour toutes les combinaisons de paramètres d'entrée à l'aide de simulations déterministes.
L'IA vérifiable ne fournit pas la réponse complète comme le ferait une IA globale, ce qui est précisément son objectif, car elle résout également le second problème : la délimitation entre l'opérateur et l'IA. Plutôt qu'une IA qui doit fournir la réponse complète au problème, ce que l'opérateur a du mal à comprendre et donc à modifier ou approuver, l'IA vérifiable fournit des solutions aux questions exactes que l'opérateur pose...