Mikael Grev, założyciel i dyrektor generalny firmy obronnej Avioniq AB, z doświadczeniem jako pilot myśliwski, analizuje w dwóch felietonach dla FSN Perspektiv złożone wyzwania i możliwości, przed którymi stoi sztuczna inteligencja w technologii wojskowej. W tym drugim felietonie Mikael zagłębia się w możliwości wdrożenia AI w walce powietrznej.

Po omówieniu ogólnych wyzwań związanych z AI w kontekście wojskowym, przyjrzyjmy się teraz bliżej temu, jak te wyzwania mogą konkretnie wyglądać, ze szczególnym uwzględnieniem walki powietrznej. To właśnie tutaj podział ról między człowiekiem a maszyną staje się szczególnie widoczny i musimy zrozumieć, dlaczego współpraca między nimi jest kluczowa dla sukcesu.

Weźmy konkretny przykład: stosunkowo łatwo jest stworzyć AI, które jest niezwykle skuteczne, niemal niepokonane, w prowadzeniu walki powietrznej, jeśli system może działać według własnego uznania i istnieją tylko znane, jasno określone reguły. Sytuacja szybko staje się jednak znacznie bardziej złożona i wymaga dużej wiedzy dziedzinowej ze strony pilotów, jeśli chcemy stworzyć AI, które prowadzi walkę powietrzną wspólnie z operatorem, gdzie ten ostatni może dysponować informacjami, których AI nie zna.

Prostszym przykładem jest fakt, że stosunkowo łatwo stworzyć AI, które gra w szachy niezwykle dobrze, ale trudno jest stworzyć AI, które we współpracy z człowiekiem grałoby równie dobrze. Źródłem obu problemów jest kwestia podziału ról, gdzie człowiek i maszyna muszą się nawzajem rozumieć, aby móc współpracować. AI obecnie nie potrafi, i prawdopodobnie nigdy nie będzie potrafiło, poza pewnymi konkretnymi przypadkami, skutecznie wyjaśnić, dlaczego postępuje w określony sposób, z możliwością modyfikacji przez operatora pewnych nieprogramowanych wcześniej priorytetów i założeń.

Rozwiązaniem proponowanym przez firmy zajmujące się AI jest udostępnienie większej ilości danych do treningu AI, po prostu dlatego, że jest to jedyne wykonalne działanie bez konieczności dokonywania trudnych podziałów ról, które wymagają ekspertów dziedzinowych często niedostępnych. W niektórych dziedzinach to działa, na przykład w analizie sensorów i obrazów, gdzie istnieje naturalny podział względem człowieka i pozostałych systemów. W innych obszarach, takich jak walka powietrzna, gdzie przebieg zdarzeń stanowi ciągłe wyważanie między różnymi rozwiązaniami, staje się to znacznie trudniejsze.

Aby zastąpić pilota myśliwskiego, nawet tylko w niektórych sekwencjach walki, AI musiałoby zostać nakarmione praktycznie całym szkoleniem pilotów (co zostało zaproponowane), ocenami ryzyka (trudnymi do skwantyfikowania) oraz wszystkimi dokumentami wchodzącymi w skład operacji (nieustannie zmieniającymi się), aby AI mogło wygenerować rozwiązanie, które nie wymaga ludzkiego zrozumienia. W dającej się przewidzieć przyszłości operator w pętli decyzyjnej będzie zatem musiał rozumieć i na bieżąco korygować to, co się dzieje, korzystając ze swojego doświadczenia i wszystkich „miękkich” informacji, które zmieniają się w trakcie działań.

Powyżej opisano dwie z wielu innych cech AI, które stają się problematyczne w niektórych kontekstach wojskowych. Konsekwencje błędnej odpowiedzi wygenerowanej przez ChatGPT są do opanowania, ale w przypadku produktów wojskowych naturalnie stawiamy wyższe wymagania. Dotyczy to zwłaszcza domeny lotniczej z jej szybkim przebiegiem zdarzeń, który nie pozwala na ręczną weryfikację odpowiedzi generowanych przez AI, a gdzie błędy często pociągają za sobą poważne konsekwencje. Nie oznacza to, że nie możemy wykorzystywać AI w wojskowej domenie lotniczej, oznacza to jedynie, że stawiane są wyższe wymagania i konieczne jest rozwiązywanie problemów już na wczesnym etapie rozwoju. Łatwo dać się uwieść możliwościom AI i ekstrapolować je zbyt daleko.

W Avioniq wykorzystujemy AI w walce powietrznej od 2016 roku, ale od samego początku byliśmy świadomi jego ograniczeń w tym obszarze i nie zbudowaliśmy się w opisane powyżej problemy. Omówmy je po kolei, ponieważ rozwiązanie każdego z nich ma zupełnie inny charakter.

Aby poradzić sobie z problemem trudnej weryfikowalności odpowiedzi generowanych przez AI, ponieważ istnieje tak wiele możliwych poprawnych rozwiązań, a przestrzeń rozwiązań jest tak złożona, zdecydowaliśmy się w tych obszarach stosować wyłącznie coś, co nazywamy weryfikowalną AI.

Zasadniczo oznacza to, że tworzymy mniejsze, prostsze modele AI, w których dane wejściowe i wyjściowe są dobrze zdefiniowane i bezpośrednio weryfikowalne za pomocą symulacji całego przebiegu zdarzeń. Te modele AI nadal wymagają ogromnej mocy obliczeniowej do stworzenia, z miliardami symulacji na jeden model AI, ale struktura jest zoptymalizowana pod kątem przejrzystości i weryfikowalności.

Zamiast tworzyć AI, które wskazuje operatorowi kurs lub tor lotu do wykonania w celu wygrania starcia, co jest problemem trudnym do jednoznacznego zdefiniowania, ponieważ „wygranie starcia” obejmuje tak wiele elementów, zadajemy prostsze pytania z jaśniejszymi i dobrze zdefiniowanymi odpowiedziami. Na przykład: „Ile g (jak gwałtowny manewr) musi wykonać samolot, aby uniknąć nadlatującego pocisku, jeśli jest to pocisk typu AA 10-C?”.

Różnica polega na tym, że w tym przypadku można wysymulować dokładną odpowiedź, pod warunkiem posiadania modelu pocisku, i zweryfikować, czy AI dostarcza prawidłową odpowiedź, którą jest prosta liczba od zera do dziewięciu. Z technicznego punktu widzenia mówi się, że można przeprowadzić wyczerpującą weryfikację statystyczną wyników dla wszystkich kombinacji parametrów wejściowych za pomocą symulacji deterministycznych.

Weryfikowalna AI nie dostarcza całej odpowiedzi tak, jak robi to wszechogarniające AI, i to jest właśnie jej cel, ponieważ rozwiązuje to również drugi problem: podział ról między operatorem a AI. Zamiast AI dostarczającego całą odpowiedź na problem, którą operator ma trudność zrozumieć, a tym samym zmienić lub zatwierdzić, weryfikowalna AI dostarcza rozwiązania dokładnie na te pytania, które zadaje operator...