Basalt har deltaget i det nationale projekt "National mitigering af AI-drevne cybertrusler". I seks måneder har myndigheder, forsvar, forskning og erhvervsliv arbejdet sammen om at styrke Sveriges evne til at imødegå AI-drevne cybertrusler. Basalts bidrag har været at undersøge, hvad mindre AI-modeller formår, når det gælder at finde og udnytte sikkerhedshuller.
Projektet startede i foråret, kort efter at AI-modellen Mythos blev bemærket for sin evne til at finde sårbarheder i software. Nationellt cybersäkerhetscenter (NCSC) har koordineret arbejdet, AI Sweden har været sammenholdende aktør, og Vinnova har finansieret det. Deltagerne har stillet deres kompetence til rådighed for en fælles opgave, uanset hvem de normalt repræsenterer eller konkurrerer med.
Basalts Director of AI, Krister Hedfors, har medvirket i arbejdet med at evaluere også mindre sprogmodellers evner til både at finde og udnytte sikkerhedshuller i software. Spørgsmålet om mindre modeller er vigtigt, fordi de kan downloades og køres lokalt, uden for rækkevidde af de spærringer, som de store AI-virksomheder kan indføre.
– Mythos var et interessant datapunkt for sin tid, men der findes ingen skarp grænse i evne mellem Mythos og mindre AI-modeller, der kan køres på egen hardware. Selv AI-modeller, der kan køres på personlige computere, identificerer i dag sikkerhedshuller hurtigere og mere effektivt end de fleste menneskelige hackere. Derimod er der ikke en lige linje derfra til, at de render af sted og hacker computere på internettet. Hugging Face-hændelsen opstod, da Open AI kørte tusindvis af agenter med samtlige sikkerhedsfunktioner slået fra, uovervåget i uger i træk", siger Krister Hedfors, Director of AI på Basalt.
Basalts kerneforretning handler om at hjælpe virksomheder, der håndterer sikkerhedsfølsom information.
– Hvis man har særligt store sikkerhedskrav eller særligt stærke AI-modeller, bør man naturligvis gå nogle skridt længere, når det gælder at isolere og beskytte systemerne. Det kan omfatte evnen til at etablere luftgabede systemer og beskyttelse mod kompromitterende signaler, hvor vi så stoler på fysikkens love ud over software og konfiguration, hvilket naturligvis giver yderligere tryghed, siger Krister.
I mediestøjen omkring AI-relaterede hændelser kan det være svært at skelne reelle risici fra overdrivelser. Netop derfor udfylder samarbejdsprojekter som dette en vigtig funktion. Når myndigheder, forsvar, forskning og erhvervsliv lægger deres erfaringer sammen, vokser der et sagligt situationsbillede frem, hvilket viser, at det er muligt at mobilisere på tværs af virksomhedsgrænser, når det er nødvendigt.
– Den samlede konklusion er, at samtlige organisationer løbende har brug for at styrke deres cyberforsvar ved hjælp af AI og automatisering, samtidig med at de store AI-laboratorier har brug for at styrke deres eget ansvar for cybersikkerhed i det hele taget. Men tag overskrifterne med et gran salt. Andelen af hackerangreb fra AI-agenter er indtil videre forsvindende lille, siger Krister.
Mere information
Læs mere om projektet hos AI Sweden og Nationellt cybersäkerhetscenter.
Materialet ovenfor er offentliggjort af en tredjepart via Nordic Defence Sector og udgør ikke redaktionelt indhold fra NDS-redaktionen.