Nachdem wir die allgemeinen Herausforderungen von KI in militärischen Zusammenhängen erörtert haben, wollen wir nun tiefer eintauchen, wie sich diese Herausforderungen konkret darstellen können, mit Fokus auf den Luftkampf. Hier wird die Grenzziehung zwischen Mensch und Maschine besonders deutlich, und wir müssen verstehen, warum eine Zusammenarbeit zwischen diesen beiden für den Erfolg entscheidend ist.
Um ein konkretes Beispiel zu nennen: Es ist verhältnismässig einfach, eine KI zu entwickeln, die äusserst effektiv, nahezu unschlagbar, im Luftkampf agiert, wenn das System nach eigenem Ermessen handeln darf und nur bekannte, klare Regeln gelten. Es wird jedoch schnell sehr komplex und erfordert umfangreiches Fachwissen von Piloten, wenn man eine KI entwickeln will, die den Luftkampf gemeinsam mit dem Operator führt, wobei Letzterer möglicherweise über Voraussetzungen verfügt, die der KI nicht bekannt sind.
Ein einfacheres Beispiel: Es ist verhältnismässig einfach, eine KI zu entwickeln, die Schach unglaublich gut spielt, aber schwierig, eine KI zu entwickeln, die in Zusammenarbeit mit einem Menschen gleich gut spielt. Die Wurzel beider Probleme liegt in der Grenzziehung, bei der Mensch und Maschine einander verstehen müssen, um zusammenarbeiten zu können. Eine KI kann heute nicht, und wird voraussichtlich auch in Zukunft nicht, ausser in bestimmten spezifischen Fällen, effektiv erklären, warum sie auf eine bestimmte Weise vorgeht, mit der Möglichkeit für den Operator, bestimmte nicht vorprogrammierte Prioritäten und Voraussetzungen zu ändern.
Die Lösung der KI-Unternehmen für das oben Genannte besteht darin, mehr Informationen für das KI-Training bereitzustellen, schlicht weil dies das Einzige ist, was möglich ist, ohne die schwierigen Grenzziehungen vorzunehmen, die die Domänenexperten erfordern, die oft nicht verfügbar sind. In bestimmten Bereichen funktioniert dies, zum Beispiel bei der Sensor- und Bildanalyse, die eine natürliche Grenzziehung gegenüber dem Menschen und den übrigen Systemen aufweist. Für andere Bereiche, wie den Luftkampf, bei dem das Geschehen eine kontinuierliche Abwägung zwischen verschiedenen Lösungen darstellt, wird es deutlich schwieriger.
Um einen Kampfpiloten zu ersetzen, selbst während bestimmter Kampfsequenzen, muss die KI im Wesentlichen mit der gesamten Pilotenausbildung (wurde vorgeschlagen...), Risikobewertungen (schwer zu quantifizieren) und allen in der Operation enthaltenen Dokumenten (ständig im Wandel) gespeist werden, damit die KI eine Lösung generieren kann, die kein menschliches Verständnis erfordert. In absehbarer Zukunft wird der Operator daher in der Lage sein müssen, das Geschehen zu verstehen und kontinuierlich zu korrigieren, mithilfe seiner Erfahrung und all der "weichen" Informationen, die sich während eines Einsatzes verändern.
Oben werden zwei von deutlich mehr Eigenschaften beschrieben, die KI in bestimmten militärischen Zusammenhängen problematisch machen. Die Konsequenzen, wenn ChatGPT eine falsche Antwort generiert, sind handhabbar, aber bei militärischen Produkten stellen wir naturgemäss höhere Anforderungen. Dies gilt insbesondere im Bereich der Luftfahrt mit ihren schnellen Abläufen, die keine manuelle Überprüfung der KI-Antworten ermöglichen und bei denen Fehler oft schwerwiegende Folgen haben. Das bedeutet nicht, dass wir KI nicht für den militärischen Luftfahrtbereich einsetzen können, es stellt lediglich höhere Anforderungen und erfordert eine frühzeitige Behandlung der Probleme in der Entwicklung. Es ist leicht, von den Möglichkeiten der KI verführt zu werden und diese zu weit zu extrapolieren.
Bei Avioniq setzen wir KI für den Luftkampf seit 2016 ein, waren uns jedoch von Anfang an ihrer Grenzen im Luftkampf bewusst und haben uns nicht in die oben beschriebenen Probleme hineingezogen. Lassen Sie uns diese einzeln betrachten, da die Lösungen völlig unterschiedlicher Natur sind.
Um das Problem zu bewältigen, dass die von der KI gelieferten Antworten schwer zu verifizieren sind, da es so viele Möglichkeiten gibt, was richtig ist, und der Lösungsraum so komplex ist, haben wir uns für diese Lösungsbereiche entschieden, ausschliesslich das zu verwenden, was wir als verifizierbare KI bezeichnen.
Prinzipiell bedeutet dies, dass wir kleinere, einfachere KI-Systeme entwickeln, bei denen Ein- und Ausgabedaten klar definiert und direkt durch eine Simulation des gesamten Geschehens verifizierbar sind. Diese KI-Systeme erfordern nach wie vor enorme Rechenleistung für ihre Erstellung, mit Milliarden von Simulationen pro KI, aber die Struktur ist auf Klarheit und Verifizierbarkeit optimiert.
Anstatt eine KI zu entwickeln, die dem Operator einen Kurs oder eine Flugbahn vorgibt, um den Kampf zu gewinnen, was ein schwer zu definierendes Problem ist, da so viele Elemente zum "Kampf gewinnen" gehören, stellen wir einfachere Fragen mit klareren und klar definierten Antworten. Zum Beispiel: "Wie viele g (wie stark) muss das Flugzeug ausweichen, um der eingehenden Rakete vom Typ AA 10-C auszuweichen?"
Der Unterschied besteht darin, dass hier die exakte Antwort simuliert werden kann, vorausgesetzt, man verfügt über ein Modell der Rakete, und verifiziert werden kann, dass die KI die richtige Antwort liefert, die eine einfache Zahl zwischen null und neun ist. Technisch gesagt kann man eine erschöpfende statistische Verifikation der Ergebnisse für alle Kombinationen von Eingangsparametern mithilfe deterministischer Simulationen durchführen.
Verifizierbare KI liefert nicht die vollständige Antwort wie eine allumfassende KI, was genau der Sinn ist, da sie auch das zweite Problem löst: die Grenzziehung zwischen Operator und KI. Anstatt dass eine KI die vollständige Antwort auf das Problem liefert, was der Operator schwer verstehen und daher kaum verändern oder genehmigen kann, liefert verifizierbare KI Lösungen für genau die Fragen, die der Operator stellt...