Basalt on osallistunut kansalliseen hankkeeseen ”Tekoälyvetoisten kyberuhkien kansallinen torjunta”. Kuuden kuukauden ajan viranomaiset, puolustusvoimat, tutkimus ja elinkeinoelämä ovat työskennelleet yhdessä vahvistaakseen Ruotsin kykyä vastata tekoälyvetoisiin kyberuhkiin. Basaltin panos on ollut tutkia, mihin pienemmät tekoälymallit pystyvät tietoturva-aukkojen löytämisessä ja hyödyntämisessä.
Hanke käynnistyi keväällä, pian sen jälkeen kun tekoälymalli Mythos oli saanut huomiota kyvystään löytää haavoittuvuuksia ohjelmistoista. Kansallinen kyberturvallisuuskeskus (NCSC) on koordinoinut työtä, AI Sweden on toiminut kokoavana toimijana, ja Vinnova on rahoittanut hankkeen. Osallistujat ovat asettaneet osaamisensa yhteisen tehtävän käyttöön, riippumatta siitä, ketä he tavallisesti edustavat tai kenen kanssa he kilpailevat.
Basaltin tekoälyjohtaja (Director of AI) Krister Hedfors on osallistunut työhön, jossa arvioitiin myös pienempien kielimallien kykyä sekä löytää että hyödyntää ohjelmistojen tietoturva-aukkoja. Kysymys pienemmistä malleista on tärkeä, koska ne voidaan ladata ja ajaa paikallisesti, suurten tekoälyyhtiöiden asettamien rajoitusten ulottumattomissa.
– Mythos oli aikanaan kiinnostava datapiste, mutta Mythoksen ja omalla laitteistolla ajettavien pienempien tekoälymallien kyvyn välillä ei ole terävää rajaa. Myös henkilökohtaisilla tietokoneilla ajettavat tekoälymallit tunnistavat nykyään tietoturva-aukkoja nopeammin ja tehokkaammin kuin useimmat ihmishakkerit. Sen sijaan siitä ei ole suoraa jatkumoa siihen, että ne karkaisivat ja alkaisivat hakkeroida tietokoneita internetissä. Hugging Face -välikohtaus syntyi, kun Open AI ajoi tuhansia agentteja kaikki turvatoiminnot pois päältä kytkettyinä, valvomatta, viikkojen ajan yhtäjaksoisesti”, sanoo Krister Hedfors, Basaltin Director of AI.
Basaltin ydintoiminta liittyy sellaisten organisaatioiden auttamiseen, jotka käsittelevät turvallisuusarkaluonteista tietoa.
– Jos turvallisuusvaatimukset ovat erityisen suuret tai käytössä on erityisen tehokkaita tekoälymalleja, kannattaa luonnollisesti mennä muutama askel pidemmälle järjestelmien eristämisessä ja suojaamisessa. Siihen voi kuulua kyky rakentaa ilmarakoisia (air-gapped) järjestelmiä ja suojautua paljastavilta signaaleilta, jolloin nojaudutaan ohjelmistojen ja konfiguraation lisäksi fysiikan lakeihin, mikä tuo tietenkin lisäturvaa, sanoo Krister.
Tekoälyyn liittyvien välikohtausten mediahälyssä voi olla vaikeaa erottaa todelliset riskit liioittelusta. Juuri siksi tämänkaltaiset yhteistyöhankkeet täyttävät tärkeän tehtävän. Kun viranomaiset, puolustusvoimat, tutkimus ja elinkeinoelämä yhdistävät kokemuksensa, syntyy asiallinen tilannekuva, joka osoittaa, että toimialarajojen yli voidaan tarvittaessa mobilisoida.
– Yhteenvetona voidaan todeta, että kaikkien organisaatioiden on jatkuvasti vahvistettava kyberpuolustustaan tekoälyn ja automaation avulla, samalla kun suurten tekoälylaboratorioiden on vahvistettava omaa vastuunkantoaan kyberturvallisuudesta laajemmin. Mutta otsikot kannattaa ottaa ripauksella suolaa. Tekoälyagenttien tekemien hakkerointihyökkäysten osuus on toistaiseksi häviävän pieni, sanoo Krister.
Lisätietoja
Lue lisää hankkeesta AI Swedenin ja Kansallisen kyberturvallisuuskeskuksen sivuilta.
Yllä oleva materiaali on kolmannen osapuolen julkaisema Nordic Defence Sectorin kautta, eikä se ole NDS:n toimituksen tuottamaa sisältöä.