Basalt medvirker i det nasjonale prosjektet «Nasjonal mitigering av AI-drevne cybertrusler»

Basalt har deltatt i det nasjonale prosjektet «Nasjonal mitigering av AI-drevne cybertrusler». I løpet av seks måneder har myndigheter, forsvar, forskning og næringsliv samarbeidet for å styrke Sveriges evne til å møte AI-drevne cybertrusler. Basalts bidrag har vært å undersøke hva mindre AI-modeller klarer når det gjelder å finne og utnytte sikkerhetshull.

Prosjektet startet i vår, kort tid etter at AI-modellen Mythos ble lagt merke til for sin evne til å finne sårbarheter i programvare. Nationellt cybersäkerhetscenter (NCSC) har koordinert arbeidet, AI Sweden har vært sammenholdende aktør, og Vinnova har finansiert det. Deltakerne har stilt sin kompetanse til rådighet for en felles oppgave, uavhengig av hvem de ellers representerer eller konkurrerer med.

Basalts Director of AI, Krister Hedfors, har medvirket i arbeidet med å evaluere også mindre språkmodellers evner til både å finne og utnytte sikkerhetshull i programvare. Spørsmålet om mindre modeller er viktig fordi de kan lastes ned og kjøres lokalt, utenfor rekkevidden til de sperrene de store AI-selskapene kan sette.

– Mythos var et interessant datapunkt for sin tid, men det finnes ingen skarp grense i evne mellom Mythos og mindre AI-modeller som kan kjøres på egen maskinvare. Selv AI-modeller som kan kjøres på personlige datamaskiner, identifiserer i dag sikkerhetshull raskere og mer effektivt enn de fleste menneskelige hackere. Derimot finnes det ingen rett linje derfra til at de rømmer av gårde og hacker datamaskiner på internett. Hugging Face-hendelsen oppstod da OpenAI kjørte tusenvis av agenter med samtlige sikkerhetsfunksjoner avslått, uovervåket i uker i strekk», sier Krister Hedfors, Director of AI i Basalt.

Basalts kjernevirksomhet handler om å hjelpe virksomheter som håndterer sikkerhetssensitiv informasjon.

– Hvis man har spesielt store sikkerhetskrav eller spesielt sterke AI-modeller, bør man selvfølgelig gå noen steg lenger når det gjelder å isolere og beskytte systemene. Det kan omfatte evnen til å opprette luftgapede systemer og beskyttelse mot røpende signaler, der vi da stoler på fysikkens lover i tillegg til programvare og konfigurasjon, noe som naturligvis gir ytterligere trygghet, sier Krister.

I mediestøyen rundt AI-relaterte hendelser kan det være vanskelig å skille reelle risikoer fra overdrivelser. Nettopp derfor fyller samarbeidsprosjekter som dette en viktig funksjon. Når myndigheter, forsvar, forskning og næringsliv legger sammen sine erfaringer, vokser det frem et saklig situasjonsbilde, noe som viser at det er mulig å mobilisere på tvers av virksomhetsgrenser når det trengs.

– Den samlede konklusjonen er at samtlige organisasjoner løpende må styrke sitt cyberforsvar ved hjelp av AI og automatisering, samtidig som de store AI-laboratoriene må styrke sitt eget ansvar for cybersikkerhet i stort. Men ta overskriftene med en klype salt. Andelen hackerangrep fra AI-agenter er så langt forsvinnende liten, sier Krister.

Mer informasjon

Les mer om prosjektet hos AI Sweden og Nationellt cybersäkerhetscenter.