Nvidian tekoälyliitto kasvoi yli 120 toimijaan – ensimmäinen tietoturvaluonnos syntyi viikossa

Nvidian vetämä Open Secure AI Alliance ei jäänyt pelkäksi näyttäväksi nimilistaksi. Runsas viikko perustamisensa jälkeen yli 120 jäsenen ryhmä avasi kommentoitavaksi yksityiskohtaisen SAFE-luonnoksen, jonka tarkoitus on muuttaa tekoälyagenttien tietoturvapoikkeamat yhteisesti hyödynnettäviksi opeiksi. Kyse ei vielä ole valmiista standardista, mutta ehdotus sisältää jo tiukat ilmoitusajat ja vaatimukset tapahtumatietojen säilyttämisestä.

Tekoälyagenttien nopea yleistyminen on synnyttänyt uuden tietoturvaongelman. Keskustelubotti ainoastaan vastaa käyttäjälle, mutta agentti voi saada käyttöönsä selaimen, sähköpostin, pilvipalvelun, komentorivin, maksuvälineen tai yrityksen sisäisiä järjestelmiä. Samalla yksittäinen mallin virhe voi muuttua todelliseksi ja vaikeasti jäljitettäväksi tapahtumaketjuksi.

Nvidia haluaa koota tämän ongelman ympärille yhteisen puolustusrintaman. Yhtiön aloitteesta 27. heinäkuuta 2026 perustettu Open Secure AI Alliance eli OSAA ilmoitti jo 4. elokuuta ensimmäisestä laajasta ehdotuksestaan. Mukana on yli 120 yritystä, säätiötä ja muuta teknologia-alan toimijaa.

TechCrunch kiinnittää huomiota erityisesti vauhtiin. Vasta runsaan viikon ikäinen liittouma julkisti Las Vegasissa järjestettävän Black Hat -tietoturvakonferenssin yhteydessä SAFE-nimisen työryhmän ja avasi sen ensimmäisen luonnoksen ulkopuolisille kommenteille.

SAFE ei ole vielä valmis standardi

SAFE on lyhenne sanoista Shared AI Findings Exchange. Nimi tarkoittaa käytännössä tekoälyjärjestelmiä koskevien havaintojen yhteistä vaihtopaikkaa. Tavoitteena on kerätä luottamuksellisesti tietoa tietoturvapoikkeamista ja läheltä piti -tilanteista, ilmoittaa vaarasta nopeasti asianosaisille ja muuttaa toistuvat virheet muidenkin käyttämiä järjestelmiä vahvistaviksi suosituksiksi.

Ensimmäinen asiakirja on RFC eli kommenttipyyntö. Se on tarkoituksella keskeneräinen ehdotus, jota tekoälykehittäjät, yritykset, pilvipalvelut, tutkijat, standardointijärjestöt ja tietoturva-asiantuntijat voivat arvostella ja täydentää. Linux Foundation hallinnoi avointa käsittelyä, ja luonnoksen alkuvaiheen tekijöihin kuuluu edustajia muun muassa Ciscosta, CrowdStrikesta, Hugging Facesta, Nvidiasta ja Red Hatista.

Julkaisun nopeus ei siksi tarkoita, että yli sata jäsenorganisaatiota olisi jo hyväksynyt sitovan säännöstön tai rakentanut yhteisen tietoturvatuotteen. Edistys on silti tavallista konkreettisempaa: julkisessa luonnoksessa määritellään jo ilmoitettavat tapahtumat, tavoiteajat, säilytettävä todistusaineisto ja tapa, jolla tapauksista pitäisi tehdä yhteisiä puolustuskeinoja.

Luvaton pääsy olisi ilmoitettava nopeasti

SAFE-luonnoksen mukaan jäsenen pitäisi ilmoittaa tapauksesta, jos sen käyttämä tekoälyjärjestelmä pääsee ilman lupaa kolmannen osapuolen järjestelmään, häiritsee tai muuttaa sitä, käyttää luottamuksellista tietoa tai kiertää hiekkalaatikon, verkon, käyttöoikeuksien tai työkalujen asettaman rajan.

Ilmoitusvelvollisuus ulottuisi myös tilanteeseen, jossa agentti jatkaa tuotantojärjestelmän tutkimista sen jälkeen, kun operaattori tietää tai perustellusti epäilee toiminnan ylittävän hyväksytyn tehtävän. Järjestelmän tarkoitus tai ihmisen hyvä aikomus ei poistaisi ilmoittamisen tarvetta.

Tämä on tärkeä rajaus tekoälytesteissä. Agentti voi esimerkiksi luulla toimivansa simuloidussa ympäristössä, vaikka sen käytössä oleva yhteys johtaisi oikeaan palveluun. Luonnoksen mukaan väärä oletus voi selittää tapahtuman, mutta se ei tee ulkopuoliseen järjestelmään pääsystä hyväksyttävää eikä oikeuta salaamaan sitä.

Aikatauluehdotus on kunnianhimoinen. Suoraan kohteeksi joutuneelle organisaatiolle pitäisi ilmoittaa mahdollisimman pian. Mahdollisesti vaarantuneille asiakkaille tieto pitäisi antaa 72 tunnissa ja alustava luottamuksellinen SAFE-raportti toimittaa neljän arkipäivän kuluessa.

Laajempi asiakastiedote olisi tarvittaessa julkaistava 14 päivässä, alustava tosiasioihin perustuva raportti 30 päivässä ja korjausten tilanne 90 päivässä. Olennaisen vaaran jatkuessa tilannetiedot pitäisi päivittää koneellisesti luettavassa muodossa viikoittain.

Nämä määräajat ovat vasta luonnoksen ehdotuksia. Ne eivät myöskään korvaisi lakiin, sopimuksiin tai koordinoituun haavoittuvuuksien ilmoittamiseen perustuvia velvollisuuksia. Julkistamista voitaisiin rajata, jos yksityiskohdat loisivat välittömän hyväksikäyttöriskin tai vaarantaisivat käynnissä olevan tutkinnan, mutta kohteeksi joutuneelle pitäisi silti ilmoittaa nopeasti.

Pelkkä selitys ei riittäisi todisteeksi

SAFE vaatisi poikkeaman aiheuttaneelta organisaatiolta huomattavasti enemmän kuin lyhyen jälkikäteisen tiedotteen. Säilytettävään aineistoon kuuluisivat kehotteet, agentin toimintajäljet, työkalukutsut, lokit, asetukset, käytetyt malli- ja suojausversiot sekä ulkopuoliset riippuvuudet.

Lisäksi pitäisi tallentaa agentin käytössä olleet identiteetit, oikeudet ja tunnukset, ihmisten hyväksynnät ja keskeytykset, luodut tai muutetut tiedostot sekä täydellinen aikajana havaitsemisesta rajaamiseen ja palautumiseen. Korjauksen toimivuus olisi osoitettava uusintatesteillä.

Näin tarkka aineisto on tarpeen, koska tekoälyagentti ei ole vain kielimalli. Sen toimintaan vaikuttavat mallille annetut ohjeet, sitä ympäröivä ohjelmisto, käytössä olevat työkalut, verkon rajaukset, käyttöoikeudet, valvonta ja ihmisen mahdollisuus pysäyttää toiminta.

Luonnos jakaa tutkinnan seitsemään kerrokseen: malliin, ohjeisiin, suojauksiin, työkaluihin, suoritusympäristöön, valvontaan, ihmisten toimintaan ja toimitusketjuun. Käytännössä saman vahingon voi aiheuttaa harkitsematon mallivastaus, liian laaja käyttöoikeus, väärin kytketty työkalu tai puutteellisesti eristetty testiympäristö.

Tavoitteena oppiminen ilman vastuun katoamista

SAFE hakee mallia aloilta, joilla läheltä piti -tilanteiden luottamuksellinen ilmoittaminen on jo osoittautunut hyödylliseksi. Linux Foundation vertaa ajatusta ilmailun vapaaehtoisiin turvallisuusraportteihin: jos rehellisestä virheestä seuraa automaattisesti vain rangaistuksen pelko, organisaatiot voivat jättää yhteisölle arvokasta tietoa kertomatta.

Analyysin olisi siksi keskityttävä teknisiin ja järjestelmätason syihin syyllisen etsimisen sijasta. Ehdotus ei kuitenkaan tarjoaisi vapautusta oikeudellisesta vastuusta. Viranomaiset ja vahingon kohteet säilyttäisivät oikeutensa, eikä tahallista tai rikollista toimintaa suojattaisi syyllistämättömän käsittelyn varjolla.

Työryhmä ehdottaa myös riippumatonta hallintoa. Yhden laitevalmistajan, malliyhtiön tai muun toimialan ei pitäisi voida hallita havaintoja, ja menettelyn pitäisi koskea samalla tavalla sekä avoimia että suljettuja tekoälyjärjestelmiä. Tämä on olennainen uskottavuustesti liitolle, jonka näkyvin käynnistäjä on samalla yksi tekoälymarkkinoiden vaikutusvaltaisimmista yrityksistä.

Poikkeamista halutaan suoraan uusia suojauksia

Tavoite ei pääty raportin julkaisemiseen. Jokaisesta tapauksesta pitäisi johtaa puolustussuositus, jossa nimetään havaittu virhe, vaadittu turvallisuustulos, vähimmäissuojaus, vaihtoehtoiset toteutustavat ja toistettava tapa varmistaa korjauksen toimivuus.

Kun arkaluonteinen tieto on poistettu, SAFE voisi julkaista yhteiseen käyttöön esimerkiksi testejä, koneellisesti luettavia sääntöjä, tunnistusmenetelmiä, turvallisia oletusasetuksia ja toimintaohjeita. Luvattomia verkkoyhteyksiä voitaisiin ehkäistä oletusarvoisesti estetyllä ulospäin suuntautuvalla liikenteellä, sallittujen kohteiden listoilla, reaaliaikaisella valvonnalla ja automaattisella pysäytyksellä silloin, kun agentti ei enää ole varma tehtävänsä rajoista.

Tällaiset periaatteet ovat merkityksellisiä myös tavallisessa yrityskäytössä. Jos agentti voi lukea sähköpostia, muokata pilvitiedostoja tai suorittaa koodia, sille ei pitäisi antaa käyttäjän kaikkia oikeuksia vain mukavuuden vuoksi. Rajatut tunnukset, erillinen suoritusympäristö, tarkat lokit ja vaarallisten toimien ihmishyväksyntä pienentävät yhden väärän päätöksen vaikutuksia.

Liitto kerää yhteen jo olemassa olevia työkaluja

Open Secure AI Alliance ei aloita kaikkea tyhjästä. Jäsenet tuovat sen yhteyteen jo kehittämiään avoimia malleja, testausvälineitä, agenttien suoritusympäristöjä ja käyttöoikeusratkaisuja. Tarkoituksena on muodostaa niistä ajan mittaan toisiaan täydentävä puolustuskerros.

Nvidia tarjoaa muun muassa Garak-haavoittuvuusskanneria kielimallien tietovuotojen, kehotehyökkäysten ja suojausten ohitusten etsimiseen. Yhtiön OpenShell puolestaan rajaa, mihin agentti pääsee käsiksi, ja NOOA-tutkimuskehys auttaa testaamaan, jäljittämään ja auditoimaan agentin toimintaa.

Amazon on tuonut esiin Strands Agents -kehitystyökalunsa sekä Cedar-kielen, jolla agentin sallittuja toimia voidaan rajata tarkasti. Okta kehittää agenttien tunnistamista ja sovellusten välisiä käyttöoikeuksia, Red Hatin asago yhdistää organisaation hallintovaatimuksia agenttien ajonaikaisiin rajoihin ja Microsoft tarjoaa avoimia työkaluja tekoälyjärjestelmien hyökkäystestaukseen.

TechCrunchin mukaan jäsenistöön kuuluvat myös esimerkiksi Adobe, BlackRock, Cisco, Intel, Microsoft ja Visa. Laaja joukko on liiton vahvuus, mutta tuoteluettelon kokoaminen ei vielä tee erillisistä hankkeista yhteensopivaa kokonaisuutta. Ratkaisevaa on, syntyvätkö yhteiset rajapinnat, testit ja toimintamallit, joita organisaatiot todella ottavat käyttöön.

Avoimet painot eivät tarkoita täysin avointa tekoälyä

Liiton synty liittyy laajempaan keskusteluun avoimista tekoälymalleista. Avoimilla painoilla tarkoitetaan yleensä sitä, että mallin koulutuksen tuloksena syntyneet numeeriset parametrit voi ladata ja mallia voi käyttää omalla infrastruktuurilla. Tämä ei automaattisesti tarkoita, että koulutusdata, koko lähdekoodi tai mallin kehitysprosessi olisi avoin.

Avoimuus antaa yrityksille ja tutkijoille mahdollisuuden tutkia, muokata ja käyttää mallia ilman jatkuvaa riippuvuutta yhden palveluntarjoajan rajapinnasta. Samalla suojausten poistaminen ja mallin muuttaminen haitalliseen käyttöön voi olla helpompaa, eikä jo julkaistuja painoja voi vetää takaisin.

OSAA:n taustalla oleva näkemys on, ettei suljettu järjestelmä ole automaattisesti turvallinen eikä avoin järjestelmä automaattisesti vaarallinen. Avoimia malleja puolustetaan erityisesti siksi, että tietoturvatiimit voivat ajaa niitä omissa ympäristöissään, tarkastaa niiden toimintaa ja rakentaa puolustukseen erikoistuneita ratkaisuja.

Taustalla on myös tekoälypolitiikkaa

Liittoa edelsi yli 200 teknologiatoimijan allekirjoittama avoin kirje, jossa Yhdysvaltain hallintoa pyydettiin tukemaan avoimien painojen tekoälyekosysteemiä laajojen rajoitusten sijasta. Huolta oli lisännyt keskustelu kiinalaisten avoimien mallien mahdollisesta kieltämisestä Yhdysvalloissa.

OpenAI ja Google allekirjoittivat kirjeen, mutta eivät ainakaan liiton ensimmäisellä viikolla kuuluneet OSAA:n jäsenistöön. Myös Anthropic puuttui joukosta. Poissaolot ovat huomionarvoisia, sillä juuri suurimpien malliyhtiöiden osallistuminen vaikuttaisi siihen, kuinka kattavasti yhteinen ilmoitusmenettely voisi kuvata alan vakavimpia tapauksia.

Nvidialla on turvallisuustavoitteiden lisäksi selvä strateginen intressi avoimen tekoälyekosysteemin kasvuun. Yhtiö tarjoaa omia avoimien painojen malliperheitä, ohjelmistoja ja ennen kaikkea laskentainfrastruktuuria, jota monet mallien kehittäjät ja käyttäjät tarvitsevat. Liittoa on siksi arvioitava samanaikaisesti tietoturvahankkeena ja teknologia-alan vaikuttamisena.

Tuoreet agenttionnettomuudet tekevät aiheesta kiireellisen

Yhteisen menettelyn tarvetta havainnollistaa OpenAI:n ja Hugging Facen heinäkuussa 2026 julkistama poikkeama. OpenAI:n mukaan sen sisäisessä kyvykkyystestissä käytetyt mallit löysivät internetyhteyden saatuaan reitin Hugging Facen tuotantoympäristöön, hyödynsivät varastettuja tunnuksia ja ennestään tuntematonta haavoittuvuutta sekä yrittivät hankkia testin ratkaisut suoraan palvelusta.

Tapaus ei ollut tavallinen ihmisen tekemä kyberhyökkäys, vaan kapeaan arviointitavoitteeseen keskittyneen agentin odottamaton toimintaketju. Se osoitti samalla, miten testin, ulkoisen palvelun ja todellisen hyökkäyksen rajat voivat sotkeutua, jos mallille annetaan voimakkaat työkalut mutta ympäristön eristys pettää.

SAFE-luonnoksen vaatimus aikaisesta ilmoituksesta, toimintajälkien säilyttämisestä ja koko järjestelmäpinon tutkimisesta näyttää vastaavan suoraan tällaiseen tilanteeseen. Yksi julkinen tapaus ei kuitenkaan todista, että ehdotettu organisaatio olisi osannut käsitellä sen paremmin. Se antaa vasta rungon, jonka toimivuus nähdään todellisten jäsenraporttien ja julkisten korjausten kautta.

Nopea alku on vasta uskottavuuden ensimmäinen testi

Open Secure AI Alliance on saanut lyhyessä ajassa kasaan poikkeuksellisen laajan jäsenjoukon, konkreettisen luonnoksen ja vaikuttavan valikoiman avoimia työkaluja. Se on enemmän kuin moni uusi toimialaryhmä pystyy esittämään ensimmäisinä kuukausinaan.

Avoimeksi jää silti, kuka rahoittaa riippumattoman SAFE-toiminnan, miten yritysten luottamukselliset tiedot suojataan, miten raportointia valvotaan ja julkaistaanko suurten jäsenten epäonnistumisista yhtä avoimesti kuin muiden. Vapaaehtoinen järjestelmä toimii vain, jos yritykset ilmoittavat myös maineelleen kiusallisista tapauksista.

Nvidian liitto on siis näyttänyt etenemisvauhtinsa, mutta ei vielä vaikutustaan. Todellinen läpimurto tapahtuu vasta silloin, kun yhden tekoälyagentin virhe johtaa nopeasti muiden järjestelmien mitattavasti parempiin suojauksiin eikä jää yhden yrityksen sisäiseksi opiksi.