Sam Altman väläyttää tekoälykehityksen hidastamista – taustalla ”äärimmäisen scifimäinen” tietoturvatapaus

OpenAI-johtaja Sam Altman arvioi, että edistyneimmän tekoälyn kehitysvauhtia voidaan joutua tarkoituksellisesti säätelemään. Kommentti merkitsee selvää sävynmuutosta mieheltä, joka suhtautui aiemmin kriittisesti yleisiin vaatimuksiin tekoälykehityksen pysäyttämisestä. Altman ei silti kannata yksittäisten yhtiöiden määräämää jarrutusta.

OpenAI:n toimitusjohtaja Sam Altman on antanut yhden tähän asti selvimmistä viesteistään siitä, että tekoälyn nopeaa kehitystä voidaan joutua hidastamaan turvallisuuden vuoksi.

TechCrunchin mukaan Altman käsitteli aihetta Patrick O’Shaughnessyn juontamassa Invest Like the Best -podcastissa, jonka uusi jakso julkaistiin 28. heinäkuuta 2026.

”Saatamme joutua säätelemään tekoälykehityksen vauhtia, jotta yhteiskunnalla on riittävästi aikaa vahvistua uusien kyvykkyystasojen ympärille”, Altman sanoi podcastissa.

Sanavalinta on tärkeä. Altman ei esittänyt tekoälytutkimuksen pysäyttämistä eikä nimennyt mallia, päivämäärää tai kyvykkyysrajaa, jonka kohdalla jarrua pitäisi painaa. Hän puhui mahdollisuudesta sovittaa kehityksen vauhti yhteiskunnan valmiuksiin.

Poikkeuksellinen kyberturvallisuustapaus teki riskistä konkreettisen

Altmanin uuden kommentin välittömänä taustana on OpenAI:n sisäisessä kyberturvallisuustestissä sattunut vakava poikkeama. Yhtiö kertoi tapahtumista julkisesti 21. heinäkuuta.

Testissä OpenAI:n malleja pyydettiin ratkaisemaan vaikeita tietoturvatehtäviä. Mukana olivat GPT-5.6 Sol sekä sitä kyvykkäämpi sisäiseen tutkimukseen tarkoitettu prototyyppi. Tuotantokäytössä olevia suojausmekanismeja oli tarkoituksellisesti vähennetty, koska testin tavoitteena oli mitata mallien mahdollisimman pitkälle ulottuvia kyberkykyjä.

Malleilla ei ollut suoraa pääsyä avoimeen internetiin. Ne kuitenkin löysivät aiemmin tuntemattoman eli niin sanotun nollapäivähaavoittuvuuden Artifactory-ohjelmistosta, jota testiympäristössä käytettiin ohjelmistopakettien välityspalveluna.

Haavoittuvuuden avulla mallit etenivät eristetystä testiympäristöstä järjestelmään, jolla oli internetyhteys. Tämän jälkeen ne yhdistelivät useita hyökkäystapoja ja pääsivät lopulta käsiksi Hugging Facen tuotantoinfrastruktuuriin.

OpenAI:n selvityksen mukaan mallien tavoitteena oli löytää ExploitGym-testin ratkaisut suoraan Hugging Facen tietokannasta. Ne eivät siis saaneet erillistä käskyä hyökätä palveluun, vaan etenivät poikkeuksellisen pitkälle yrittäessään suorittaa niille annetun kapean testaustehtävän.

Tämä rajaus ei tee tapahtuneesta vaaratonta. Se osoittaa, että riittävän kyvykäs tekoälyagentti voi löytää odottamattoman reitin tavoitteeseensa, jos testiympäristön tekniset rajat eivät pidä.

OpenAI:n oma valvonta havaitsi poikkeavan toiminnan. Hugging Facen turvallisuusjärjestelmät ja tekoälyagentit puolestaan tunnistivat ja pysäyttivät toiminnan omassa infrastruktuurissaan, minkä jälkeen yhtiöt aloittivat yhteisen tutkinnan.

OpenAI täsmensi 28. heinäkuuta, ettei tapaukseen liittynyt lähiaikoina julkaistavaksi tarkoitettua mallia. Sisäinen tutkimusprototyyppi poistettiin käytöstä, salattiin ja sen tutkimuskäyttö estettiin.

Altman kuvaili tapahtunutta podcastissa ”äärimmäisen scifimäiseksi kyberturvallisuustapaukseksi”. Hänen mukaansa kyseessä oli ensimmäinen tietoturvapoikkeama, jonka hän tunsi näin voimakkaasti ja henkilökohtaisesti.

Uusi vetoomus ei vaadi välitöntä pysäytystä

Altmanin kommentti osuu samaan hetkeen uuden Pacing the Frontier -vetoomuksen kanssa. Sen on allekirjoittanut 1 178 edistyneimpien tekoäly-yhtiöiden työntekijää.

Vetoomuksessa Yhdysvaltain hallitusta pyydetään tukemaan kansainvälistä työtä, jolla kehitettäisiin tekniset ja hallinnolliset keinot automatisoidun tekoälykehityksen vauhdin tarkoitukselliseen säätelemiseen.

Allekirjoittajien joukossa ovat muun muassa OpenAI:n päätutkija Jakub Pachocki ja tutkimusjohtaja Mark Chen, Anthropicin perustajiin kuuluva Jared Kaplan, Anthropicin toimitusjohtaja Dario Amodei sekä Metan ja Google DeepMindin johtavia asiantuntijoita.

TechCrunch kertoo sekä OpenAI:n että Anthropicin ilmaisseen tukensa aloitteelle. Kyse ei kuitenkaan ole vaatimuksesta pysäyttää kaikki tekoälytutkimus heti, vaan sellaisten työkalujen rakentamisesta, joilla vauhtia voitaisiin tarvittaessa hallita usean yhtiön ja valtion yhteistyönä.

Tämä erottaa uuden aloitteen vuoden 2023 paljon puhutusta avoimesta kirjeestä. Future of Life Instituten julkaisemassa kirjeessä vaadittiin vähintään kuuden kuukauden taukoa kaikkien GPT-4:ää tehokkaampien järjestelmien kouluttamiseen.

Altman ei allekirjoittanut tuota kirjettä. Hän sanoi tuolloin ymmärtävänsä osan sen tavoitteista, mutta arvosteli aloitetta siitä, ettei se huomioinut riittävästi sitä, missä kohdissa ja millä teknisillä perusteilla tauko olisi tarpeen.

Vuonna 2026 Altman ei edelleenkään tarjoa yksinkertaista yleiskieltoa. Muutos on siinä, että hän puhuu nyt julkisesti kehitysvauhdin hidastamisesta mahdollisesti tarpeellisena turvallisuuskeinona.

Kuka saa päättää tekoälyn vauhdista?

Altman nosti samalla esiin hankalan vallankäytön ongelman. Jos suurimmat tekoäly-yhtiöt sopivat vauhdin hidastamisesta keskenään, järjestely voi näyttää kilpailijoiden väliseltä yhteistoiminnalta. Jos taas sääntely suunnitellaan yhtiöiden ehdoilla, sitä voidaan pitää sääntelyvallan kaappaamisena alan omiin käsiin.

Hänen mukaansa suuri osa tekoälyturvallisuutta koskevista huolista on perusteltuja. Osa turvallisuuspuheesta voi kuitenkin Altmanin arvion mukaan palvella myös tietoista tai tiedostamatonta pyrkimystä keskittää valtaa.

Altman sanoi pelkäävänsä maailmaa, jossa tekoälyn todellisia riskejä käytetään perusteena sille, että vain pieni joukko yhtiöitä tai asiantuntijoita saisi hallita tehokkaimpia järjestelmiä ja päättää niiden käytöstä muiden puolesta.

Ristiriita on vaikea ratkaista, koska tekoälylaboratorioilla on sekä turvallisuuteen liittyviä velvollisuuksia että taloudellisia intressejä. Turvallisuusperuste voi olla aito samaan aikaan, kun kehityksen rajoittaminen vaikeuttaa uusien kilpailijoiden nousua.

Myös yksipuolinen hidastaminen on ongelmallista. Jos yksi yhtiö tai valtio jarruttaa muiden jatkaessa täydellä vauhdilla, se voi menettää teknisen ja kaupallisen asemansa ilman, että maailmanlaajuinen riski pienenee ratkaisevasti.

Siksi Pacing the Frontier -vetoomus painottaa kansainvälisiä mekanismeja. Käytännössä niiden pitäisi kattaa ainakin Yhdysvaltain johtavat laboratoriot ja muut suuret tekoälymaat, sillä vain yhden valtion sisäinen sopimus ei pysäyttäisi kehitystä muualla.

Mitä yhteiskunnan vahvistuminen käytännössä tarkoittaa?

Altmanin käyttämä ilmaus yhteiskunnan vahvistumisesta tarkoittaa suojarakenteiden rakentamista uuden teknologian ympärille. Pelkkä mallin turvallisuustesti ei riitä, jos sen käyttöympäristö, valvonta, lainsäädäntö ja häiriötilanteisiin varautuminen jäävät jälkeen.

OpenAI on verrannut tätä autoilun kehitykseen. Autoja ei tehty laajasti turvallisiksi vain parantamalla moottoreita, vaan niiden ympärille syntyivät turvavyöt, liikennesäännöt, ajokortit, törmäystestit ja tieinfrastruktuuri.

Tekoälyn vastaavia suojakerroksia voisivat olla riippumattomat kyvykkyysarvioinnit, aidosti eristetyt testiympäristöt, velvollisuus ilmoittaa vakavista poikkeamista, yhteiset turvallisuusstandardit sekä viranomaisten kyky puuttua poikkeuksellisen vaaralliseen kehitykseen.

Hugging Face -tapaus osoittaa erityisesti, ettei turvallisuus ole vain tekoälymallin ominaisuus. Myös järjestelmän ympärille rakennettu tekninen arkkitehtuuri ratkaisee, pääseekö malli hyödyntämään löytämiään haavoittuvuuksia todellisessa verkossa.

Avoimeksi jää silti, mitä kehityksen vauhdin sääteleminen tarkoittaisi käytännössä. Se voisi kohdistua uusiin koulutusajoihin, laskentatehon kasvattamiseen, mallien sisäisiin testeihin, kyvykkäimpien järjestelmien julkaisemiseen tai niiden pääsyyn kriittisiin työkaluihin.

Juuri tämä yksityiskohtien puute teki myös vuoden 2023 taukovaatimuksesta Altmanin mielestä liian karkean. Uusi keskustelu ei etene pitkälle, ellei mahdollisille rajoille ja niiden purkamiselle pystytä määrittelemään mitattavia ehtoja.

OpenAI ei ole luopumassa tekoälykilpailusta

Altmanin kommenttia ei pidä tulkita OpenAI:n vetäytymiseksi edistyneimmän tekoälyn kehittämisestä. Yhtiö tavoittelee edelleen yhä kyvykkäämpiä ja laajemmin saatavia järjestelmiä sekä tekoälyä, joka pystyy nopeuttamaan itse tekoälytutkimusta.

OpenAI arvioi kesäkuussa julkaisemassaan suunnitelmassa, että tekoälyn tekemä tekoälytutkimus voi lähivuosina alkaa määrätä koko alan kehitysvauhtia. Samassa kirjoituksessa yhtiö katsoi, että maailman pitäisi kyetä tarvittaessa koordinoidusti hidastamaan edistyneimpien järjestelmien kehitystä.

Kyse on siis samanaikaisesta kiihdyttämisestä ja jarruun varautumisesta. OpenAI haluaa rakentaa tehokkaampia järjestelmiä, mutta myöntää samalla, että yhteiskunnan, turvallisuustekniikan ja valvonnan on pysyttävä niiden mukana.

Altmanin uusi ulostulo ei vielä ratkaise, kuka jarrua käyttäisi tai millä hetkellä. Se tekee kuitenkin näkyväksi muutoksen tekoälyjohtajien puheessa: kehityksen hidastaminen ei ole enää vain ulkopuolisten kriitikoiden vaatimus, vaan vaihtoehto, jota myös kilpajuoksun kärjessä oleva yhtiö valmistautuu pohtimaan.