Un nuevo informe de la Organización de Ciencia y Tecnología de la OTAN (STO, por sus siglas en inglés) examina el papel del control humano en los sistemas militares de inteligencia artificial. La publicación subraya la importancia de equilibrar el juicio humano con la autonomía y presenta un modelo para comprender cómo interactúan los distintos métodos de control.

El informe sostiene que la inteligencia artificial puede aportar ventajas en el campo de batalla al acelerar la toma de decisiones y analizar rápidamente grandes volúmenes de datos para mejorar la precisión y la cobertura. Sin embargo, a medida que los sistemas se vuelven más autónomos, aumenta la necesidad de mantener un control humano efectivo y una supervisión adecuada. Así lo indica un comunicado de prensa de la OTAN que recoge los hallazgos del informe.

El informe constata que existe un amplio consenso sobre la necesidad del "control humano significativo" (Meaningful Human Control, MHC) en los futuros campos de batalla, aunque hay opiniones divergentes sobre lo que este concepto implica en la práctica.

Para clarificar estas cuestiones, un grupo de investigadores de la STO ha examinado el significado y las posibles soluciones para los futuros sistemas basados en inteligencia artificial. El grupo, formado en el seno del panel de Factores Humanos y Medicina (HFM, por sus siglas en inglés), establece que el MHC no debe considerarse una propiedad simple. Se describe, en cambio, como parte de un complejo sistema sociotécnico que requiere medidas a lo largo de las distintas fases del ciclo de vida de un sistema de inteligencia artificial.

El informe identifica 17 métodos potenciales para garantizar el control. Estos abarcan desde directrices de diseño hasta métricas de conciencia situacional y formación organizativa. El grupo introduce asimismo un "modelo holístico de pajarita" (bowtie) del MHC. Dicho modelo combina aspectos a nivel individual con niveles de sistema, organización y sociedad, con el fin de mejorar la comprensión de cómo se relacionan entre sí los distintos métodos.

Los autores subrayan que no existe una solución universal. El informe destaca la importancia de un proceso de diseño centrado en el ser humano en el que se involucre a las distintas partes interesadas desde las fases más tempranas del desarrollo.

El grupo de trabajo expresa su esperanza de que los métodos identificados sirvan de base para una investigación más profunda sobre soluciones prácticas de control humano a lo largo de la vida útil de los sistemas.