Tras haber analizado los desafíos generales de la IA en contextos militares, adentrémonos ahora en cómo estos desafíos pueden manifestarse de forma concreta, con foco en el combate aéreo. Aquí la delimitación entre el ser humano y la máquina resulta especialmente evidente, y debemos comprender por qué la colaboración entre ambos es fundamental para el éxito.
Como ejemplo concreto, es relativamente sencillo crear una IA enormemente eficaz, casi imbatible, para llevar a cabo el combate aéreo si el sistema puede actuar libremente y existen únicamente reglas conocidas y claras. Sin embargo, la situación se vuelve rápidamente muy compleja y exige un profundo conocimiento del dominio por parte de los pilotos, si se pretende desarrollar una IA que conduzca el combate aéreo junto al operador, donde este último puede disponer de condiciones que la IA desconoce.
Un ejemplo más sencillo es que resulta relativamente fácil crear una IA que juegue al ajedrez de forma extraordinaria, pero es difícil desarrollar una IA que, en colaboración con un ser humano, juegue igual de bien. La raíz de ambos problemas reside en las delimitaciones: el ser humano y la máquina deben comprenderse mutuamente para poder trabajar juntos. Una IA no puede hoy en día, y probablemente nunca podrá, salvo en ciertos casos específicos, explicar de forma eficaz por qué actúa de una determinada manera, ofreciendo al operador la posibilidad de modificar ciertas prioridades y condiciones no preprogramadas.
La solución de las empresas de IA ante lo anterior consiste en poner a disposición más información para el entrenamiento de la IA, sencillamente porque es lo único que puede hacerse sin abordar las difíciles delimitaciones que requieren expertos en el dominio, quienes con frecuencia no están disponibles. En ciertos ámbitos esto funciona, por ejemplo en el análisis de sensores e imágenes, que tiene una delimitación natural respecto al ser humano y a los demás sistemas. Para otras áreas, como el combate aéreo, donde el desarrollo de los eventos supone una ponderación continua entre distintas soluciones, la tarea se vuelve considerablemente más difícil.
Para poder sustituir a un piloto de combate, incluso durante ciertas secuencias de combate, la IA debe ser alimentada con prácticamente toda la formación del piloto (algo que se ha propuesto), evaluaciones de riesgo (difíciles de cuantificar) y todos los documentos que forman parte de la operación (en constante cambio), a fin de que la IA pueda generar una solución que no requiera comprensión humana. En un futuro previsible, el operador en el bucle deberá por tanto comprender y poder corregir continuamente lo que ocurre, apoyándose en su experiencia y en toda la información "blanda" que cambia durante una operación.
Lo anterior describe dos de las muchas características de la IA que resultan problemáticas en ciertos contextos militares. Las consecuencias de que ChatGPT genere una respuesta incorrecta son manejables, pero en productos militares exigimos naturalmente estándares más elevados. Esto es especialmente relevante en el ámbito de la aviación, con sus procesos de rápido desarrollo que no permiten la verificación manual de las respuestas de la IA y donde los errores suelen tener grandes consecuencias. Ello no significa que no podamos utilizar la IA en el ámbito de la aviación militar, sino que simplemente impone requisitos más exigentes y demanda que los problemas se aborden desde las primeras etapas del desarrollo. Es fácil dejarse seducir por las posibilidades de la IA y extrapolarlas demasiado lejos.
En Avioniq hemos utilizado IA para el combate aéreo desde 2016, pero desde el principio hemos sido conscientes de sus limitaciones en este ámbito y no hemos incurrido en los problemas descritos anteriormente. Analicémoslos uno a uno, ya que las soluciones son de naturaleza completamente diferente.
Para abordar el problema de que las respuestas que entrega la IA son difíciles de verificar, dado que existe un gran número de posibilidades sobre lo que es correcto y el espacio de soluciones es muy complejo, hemos optado, para estas áreas de solución, por utilizar exclusivamente lo que denominamos IA verificable.
En términos conceptuales, esto implica desarrollar IA más pequeñas y sencillas, donde los datos de entrada y salida están bien definidos y son directamente verificables mediante una simulación de todo el proceso. Estas IA siguen requiriendo una enorme capacidad de cómputo para su creación, con miles de millones de simulaciones por IA, pero la estructura está optimizada para la claridad y la verificabilidad.
En lugar de crear una IA que proporcione al operador un rumbo o una trayectoria de vuelo para ganar el combate, lo cual constituye un problema difícil de definir dado que "ganar el combate" engloba numerosos elementos, planteamos preguntas más sencillas con respuestas más claras y bien definidas. Por ejemplo: "¿Cuántas g (con qué intensidad) debe virar la aeronave para esquivar el misil entrante si es del tipo AA-10C?".
La diferencia radica en que aquí es posible simular la respuesta exacta, siempre que se disponga de un modelo del misil, y verificar que la IA entrega la respuesta correcta, que es un simple número entre cero y nueve. Técnicamente, suele decirse que es posible realizar una verificación estadística exhaustiva de los resultados para todas las combinaciones de parámetros de entrada mediante simulaciones deterministas.
La IA verificable no entrega la respuesta completa como lo haría una IA omnicomprensiva, lo cual es precisamente su propósito, ya que resuelve también el segundo problema: la delimitación entre el operador y la IA. En lugar de que una IA deba entregar la respuesta completa al problema, algo que el operador tiene dificultades para comprender y, por tanto, para modificar o aprobar, la IA verificable ofrece soluciones a exactamente las preguntas que el operador formula...