Basalt beteiligt sich am nationalen Projekt „Nationale Eindämmung von KI-gesteuerten Cyberbedrohungen“

Basalt hat am nationalen Projekt „Nationale Eindämmung von KI-gesteuerten Cyberbedrohungen“ teilgenommen. Sechs Monate lang haben Behörden, Verteidigung, Forschung und Wirtschaft zusammengearbeitet, um Schwedens Fähigkeit zur Bewältigung KI-gesteuerter Cyberbedrohungen zu stärken. Basalts Beitrag bestand darin zu untersuchen, wozu kleinere KI-Modelle beim Auffinden und Ausnutzen von Sicherheitslücken in der Lage sind.

Das Projekt startete im Frühjahr, kurz nachdem das KI-Modell Mythos für seine Fähigkeit, Schwachstellen in Software zu finden, Aufmerksamkeit erregt hatte. Das Nationale Zentrum für Cybersicherheit (NCSC) hat die Arbeit koordiniert, AI Sweden war die zusammenführende Akteurin und Vinnova hat das Projekt finanziert. Die Teilnehmer haben ihre Kompetenz für eine gemeinsame Aufgabe zur Verfügung gestellt, unabhängig davon, wen sie normalerweise vertreten oder mit wem sie konkurrieren.

Basalts Director of AI, Krister Hedfors, hat an der Arbeit mitgewirkt, die Fähigkeiten auch kleinerer Sprachmodelle zu bewerten, Sicherheitslücken in Software sowohl zu finden als auch auszunutzen. Die Frage nach kleineren Modellen ist wichtig, da diese heruntergeladen und lokal ausgeführt werden können, außerhalb der Reichweite der Sperren, die die großen KI-Unternehmen einrichten können.

– Mythos war seinerzeit ein interessanter Datenpunkt, aber es gibt keine scharfe Grenze in der Leistungsfähigkeit zwischen Mythos und kleineren KI-Modellen, die auf eigener Hardware laufen können. Auch KI-Modelle, die auf Personalcomputern ausgeführt werden können, identifizieren heute Sicherheitslücken schneller und effizienter als die meisten menschlichen Hacker. Es gibt jedoch keine gerade Linie davon dahin, dass sie sich selbstständig machen und Computer im Internet hacken. Der Hugging-Face-Vorfall entstand, als OpenAI Tausende Agenten mit sämtlichen Sicherheitsfunktionen ausgeschaltet laufen ließ, wochenlang unbeaufsichtigt“, sagt Krister Hedfors, Director of AI bei Basalt.

Basalts Kerngeschäft besteht darin, Organisationen zu helfen, die sicherheitssensible Informationen verwalten.

– Wenn man besonders hohe Sicherheitsanforderungen oder besonders leistungsstarke KI-Modelle hat, sollte man selbstverständlich einige Schritte weitergehen, wenn es darum geht, die Systeme zu isolieren und zu schützen. Das kann die Fähigkeit umfassen, luftgetrennte Systeme (Air-Gap) einzurichten, sowie Schutz vor kompromittierenden Signalen, wobei wir uns dann zusätzlich zu Software und Konfiguration auf die Gesetze der Physik verlassen, was selbstverständlich ein zusätzliches Maß an Sicherheit bietet, sagt Krister.

Im medialen Rauschen um KI-bezogene Vorfälle kann es schwierig sein, reale Risiken von Übertreibungen zu unterscheiden. Gerade deshalb erfüllen Kooperationsprojekte wie dieses eine wichtige Funktion. Wenn Behörden, Verteidigung, Forschung und Wirtschaft ihre Erfahrungen zusammenlegen, entsteht ein sachliches Lagebild, das zeigt, dass es möglich ist, bei Bedarf über Organisationsgrenzen hinweg zu mobilisieren.

– Die zusammenfassende Schlussfolgerung ist, dass alle Organisationen kontinuierlich ihre Cyberabwehr mithilfe von KI und Automatisierung stärken müssen, während die großen KI-Labore gleichzeitig ihre eigene Verantwortung für die Cybersicherheit insgesamt stärken müssen. Aber man sollte die Schlagzeilen mit Vorsicht genießen. Der Anteil der Hackerangriffe durch KI-Agenten ist bislang verschwindend gering, sagt Krister.

Weitere Informationen

Lesen Sie mehr über das Projekt bei AI Sweden und dem Nationellt cybersäkerhetscenter.