Ein neuer Bericht der NATO Science and Technology Organization (STO) untersucht die Rolle menschlicher Kontrolle in militärischen KI-Systemen. Die Publikation betont die Bedeutung einer ausgewogenen Balance zwischen menschlichem Urteilsvermögen und Autonomie und stellt ein Modell vor, das das Zusammenwirken verschiedener Kontrollmethoden verdeutlicht.
Der Bericht stellt fest, dass künstliche Intelligenz auf dem Schlachtfeld Vorteile bieten kann, indem sie Entscheidungsprozesse beschleunigt und große Datenmengen schnell analysiert, um Präzision und Abdeckung zu erhöhen. Je autonomer die Systeme werden, desto größer wird jedoch der Bedarf, eine effektive menschliche Kontrolle und Aufsicht aufrechtzuerhalten. Dies geht aus einer Pressemitteilung der NATO hervor, die die Erkenntnisse des Berichts zusammenfasst.
Der Bericht stellt fest, dass weitgehende Einigkeit über die Notwendigkeit einer „bedeutsamen menschlichen Kontrolle" (Meaningful Human Control, MHC) auf künftigen Schlachtfeldern besteht, jedoch unterschiedliche Auffassungen darüber existieren, was dieser Begriff in der Praxis bedeutet.
Um die Fragestellungen zu klären, hat eine Forschungsgruppe innerhalb der STO die Bedeutung und mögliche Lösungsansätze für künftige KI-basierte Systeme untersucht. Die Gruppe, die im Rahmen des Panels für Human Factors and Medicine (HFM) gebildet wurde, stellt fest, dass MHC nicht als eine einfache Eigenschaft betrachtet werden sollte. Stattdessen wird sie als Teil eines komplexen soziotechnischen Systems beschrieben, das Maßnahmen in verschiedenen Phasen des Lebenszyklus eines KI-Systems erfordert.
Im Bericht werden 17 potenzielle Methoden zur Sicherstellung der Kontrolle identifiziert. Diese reichen von Designrichtlinien über Metriken zur Lageerfassung bis hin zu organisatorischer Ausbildung. Die Gruppe stellt zudem ein „holistisches Bowtie-Modell" der MHC vor. Das Modell verbindet Aspekte auf individueller Ebene mit System-, Organisations- und gesellschaftlichen Ebenen, um das Verständnis dafür zu verbessern, wie verschiedene Methoden miteinander in Beziehung stehen.
Die Autoren betonen, dass es keine universelle Lösung gibt. Der Bericht hebt die Bedeutung eines menschenzentrierten Designprozesses hervor, bei dem verschiedene Interessengruppen bereits in den frühen Phasen der Entwicklung einbezogen werden.
Die Arbeitsgruppe äußert die Hoffnung, dass die identifizierten Methoden als Grundlage für weitere Forschung zu praktischen Lösungen für die menschliche Kontrolle über die gesamte Lebensdauer der Systeme dienen werden.