Basalt uczestniczył w krajowym projekcie „Krajowe łagodzenie zagrożeń cybernetycznych napędzanych przez AI”. Przez sześć miesięcy urzędy, obronność, nauka i biznes współpracowali, aby wzmocnić zdolność Szwecji do przeciwdziałania zagrożeniom cybernetycznym napędzanym przez AI. Wkład Basalt polegał na zbadaniu, co potrafią mniejsze modele AI, jeśli chodzi o wykrywanie i wykorzystywanie luk w zabezpieczeniach.
Projekt rozpoczął się wiosną, krótko po tym, jak model AI Mythos zwrócił na siebie uwagę dzięki zdolności do wykrywania podatności w oprogramowaniu. Krajowe Centrum Cyberbezpieczeństwa (NCSC) koordynowało prace, AI Sweden pełniło rolę podmiotu spajającego, a Vinnova finansowała projekt. Uczestnicy udostępnili swoje kompetencje do realizacji wspólnego zadania, niezależnie od tego, kogo zwykle reprezentują lub z kim na co dzień konkurują.
Krister Hedfors, Director of AI w Basalt, brał udział w pracach nad oceną zdolności również mniejszych modeli językowych do wykrywania i wykorzystywania luk w zabezpieczeniach oprogramowania. Kwestia mniejszych modeli jest istotna, ponieważ można je pobrać i uruchomić lokalnie, poza zasięgiem zabezpieczeń, jakie mogą wprowadzać duże firmy AI.
– Mythos był interesującym punktem danych w swoim czasie, ale nie ma wyraźnej granicy w zdolnościach między Mythos a mniejszymi modelami AI, które można uruchomić na własnym sprzęcie. Nawet modele AI, które można uruchomić na komputerach osobistych, dziś identyfikują luki w zabezpieczeniach szybciej i skuteczniej niż większość ludzkich hakerów. Nie ma jednak prostej linii prowadzącej od tego do sytuacji, w której wymykają się spod kontroli i hakują komputery w internecie. Incydent z Hugging Face powstał wtedy, gdy Open AI uruchomiło tysiące agentów z wyłączonymi wszystkimi funkcjami bezpieczeństwa, bez nadzoru przez wiele tygodni z rzędu – mówi Krister Hedfors, Director of AI w Basalt.
Podstawowa działalność Basalt polega na pomaganiu organizacjom, które zarządzają informacjami wrażliwymi z punktu widzenia bezpieczeństwa.
– Jeśli ktoś ma szczególnie wysokie wymagania w zakresie bezpieczeństwa lub szczególnie silne modele AI, powinien oczywiście pójść kilka kroków dalej w izolowaniu i zabezpieczaniu systemów. Może to obejmować zdolność do tworzenia systemów z przerwą powietrzną (air-gapped) oraz ochronę przed sygnałami ujawniającymi informacje, gdzie opieramy się wówczas na prawach fizyki, oprócz oprogramowania i konfiguracji, co naturalnie daje dodatkowe bezpieczeństwo – mówi Krister.
W medialnym zgiełku wokół incydentów związanych z AI trudno bywa odróżnić rzeczywiste zagrożenia od przesady. Właśnie dlatego projekty współpracy, takie jak ten, pełnią ważną funkcję. Gdy urzędy, obronność, nauka i biznes łączą swoje doświadczenia, powstaje rzeczowy obraz sytuacji, co pokazuje, że w razie potrzeby możliwa jest mobilizacja ponad granicami poszczególnych organizacji.
– Ogólny wniosek jest taki, że wszystkie organizacje muszą stale wzmacniać swoją cyberobronę za pomocą AI i automatyzacji, a jednocześnie duże laboratoria AI muszą wzmocnić własną odpowiedzialność za cyberbezpieczeństwo w szerszym ujęciu. Ale nagłówki należy traktować z przymrużeniem oka. Udział ataków hakerskich przeprowadzanych przez agentów AI jest jak dotąd znikomo mały – mówi Krister.
Więcej informacji
Przeczytaj więcej o projekcie na stronie AI Sweden oraz Krajowego Centrum Cyberbezpieczeństwa.
Powyższy materiał został opublikowany przez podmiot trzeci za pośrednictwem Nordic Defence Sector i nie stanowi treści redakcyjnej redakcji NDS.