Microsoft-pomo varoittaa yrityksiä: Yhden tekoälyn varaan jääminen voi olla kohtalokas virhe

Microsoftin toimitusjohtaja Satya Nadella varoittaa yrityksiä rakentamasta toimintaansa yhden tekoälymallin tai palveluntarjoajan varaan. Hänen mukaansa vaarana ei ole ainoastaan kallis tekninen riippuvuus, vaan yrityksen oman oppimisen ja ajattelun ulkoistaminen. Ratkaisuksi hän ehdottaa eri malleja yhdistävää rakennetta, jossa data, muisti ja työprosessit pysyvät yrityksen hallinnassa.

Tekoäly voi aluksi näyttää yritykselle tavalliselta työkalulta: palvelusta maksetaan, sille annetaan tehtävä ja vastauksesta otetaan hyöty irti. Microsoftin toimitusjohtajan Satya Nadellan mukaan suhde muuttuu kuitenkin paljon syvemmäksi, kun tekoäly pääsee käsiksi yrityksen asiakirjoihin, ohjelmistokoodiin, palautteeseen, päätöksiin ja päivittäisiin työprosesseihin.

Nadella varoitti CNN:n Fareed Zakaria GPS -ohjelmassa, että kokonaan yhden tekoäly-yhtiön varaan jäävä yritys voi menettää hallinnan siitä tiedosta, joka tekee siitä ainutlaatuisen. TechCrunchin mukaan hän meni niin pitkälle, että kyseenalaisti tällaisen yrityksen kyvyn säilyä pitkällä aikavälillä itsenäisenä yrityksenä.

Varoitus ei tarkoita, että yritysten pitäisi lopettaa OpenAI:n, Anthropicin, Googlen tai muiden suurten tekoälypalvelujen käyttö. Nadellan viesti on, ettei yrityksen koko tekoälyjärjestelmää kannata rakentaa niin tiukasti yhden mallin ympärille, ettei sitä voisi myöhemmin vaihtaa.

Yritys voi huomaamattaan ulkoistaa oman oppimisensa

Tavalliseen tekoälykeskusteluun voi sisältyä paljon enemmän arvokasta tietoa kuin pelkkä käyttäjän kirjoittama kysymys. Järjestelmään kertyy kehotteita, tausta-aineistoa, työkalujen käyttötietoja, työntekijöiden tekemiä korjauksia ja arvioita siitä, millainen vastaus on yrityksen näkökulmasta hyvä.

Juuri korjaukset voivat olla erityisen arvokkaita. Kun työntekijä osoittaa tekoälylle virheen ja kertoo oikean toimintatavan, hän siirtää järjestelmään sellaista hiljaista tietoa, jota ei välttämättä löydy yhdestäkään ohjekirjasta.

Nadella on kuvannut tätä käänteiseksi informaatioparadoksiksi. Perinteisessä tiedon kaupassa myyjä joutuu paljastamaan tiedon arvon ennen kuin ostaja suostuu maksamaan siitä. Tekoälypalvelussa ostaja puolestaan voi joutua paljastamaan omaa osaamistaan voidakseen hyödyntää ostamaansa palvelua kunnolla.

Mitä paremmin tekoäly halutaan sovittaa yrityksen todelliseen toimintaan, sitä enemmän sille on annettava yrityskohtaista asiayhteyttä. Samalla palveluun voi kertyä kuva siitä, miten yritys hinnoittelee, arvioi riskejä, ratkaisee asiakasongelmia, kirjoittaa ohjelmistoja tai erottaa hyvän päätöksen huonosta.

Nadellan mukaan yritys ei saa luovuttaa tätä oppimissilmukkaa kokonaan ulkopuoliselle palvelulle. Yksittäisen tehtävän voi ostaa tai ulkoistaa, mutta oman organisaation kyky oppia ratkaisuista ja virheistä on hänen ajattelussaan osa yrityksen ydintä.

Tekninen lukkiutuminen voi syntyä vähitellen

Riippuvuus yhdestä tekoälymallista ei yleensä synny yhdellä päätöksellä. Se kasvaa vähitellen, kun työnkulut, automaatiot, muistot, arviointitavat ja sisäiset sovellukset rakennetaan yhden palvelun ominaisuuksien ympärille.

Aluksi mallin vaihtaminen saattaa näyttää yksinkertaiselta ohjelmointirajapinnan muutokselta. Käytännössä toinen malli voi käyttää työkaluja eri tavalla, noudattaa ohjeita eri tarkkuudella, käsitellä pitkää asiayhteyttä toisin tai vaatia kokonaan erilaiset kehotteet.

Jos myös yrityksen agentit, muistitoiminnot ja työkalujen käyttö on sidottu palveluntarjoajan omaan järjestelmään, irtautuminen muuttuu vielä vaikeammaksi. Mallin lisäksi joudutaan silloin rakentamaan uudelleen suuri osa sen ympärillä olevasta työympäristöstä.

Palveluntarjoajariippuvuus lisää riskiä myös silloin, jos mallin hinta nousee, käyttöehdot muuttuvat, ominaisuus poistuu tai aiemmin hyvä malli jää kilpailijoista jälkeen. Yritys ei välttämättä pysty siirtymään nopeasti parempaan vaihtoehtoon, vaikka markkinoille ilmestyisi sellainen.

Nadella korostaa siksi rakennetta, jossa mikään yksittäinen malli ei ole korvaamaton. Yrityksen toiminnan pitäisi jatkua, vaikka yksi käytössä ollut malli poistuisi saatavilta.

Tekoälyportti erottaa yrityksen työprosessin mallista

Yksi ratkaisu on niin sanottu AI gateway eli tekoälyportti. Se toimii yrityksen sovellusten ja tekoälymallien välissä sekä välittää pyynnöt kulloinkin sopivimmalle palvelulle.

Tekoälyportti voi esimerkiksi lähettää vaativan analyysin tehokkaalle mallille, yksinkertaisen luokittelun halvemmalle mallille ja arkaluonteisen tehtävän yrityksen omassa ympäristössä toimivalle mallille. Samalla se voi valvoa kustannuksia, käyttöoikeuksia, tietojen kulkua ja lokitietoja.

Toinen keskeinen käsite on harness eli agentin toimintakehys. Se määrittelee, miten tekoäly saa käyttää työkaluja, lukea tiedostoja, suorittaa tehtävän vaiheita, tarkistaa tuloksensa ja säilyttää muistia.

TechCrunch mainitsee esimerkkeinä Anthropicin Claude Coden ja OpenAI:n Codexin kaltaiset ohjelmointiagentit. Nadellan mukaan yrityksen ei pitäisi antaa mallin valmistajan omistaa sekä varsinaista mallia että koko sitä ympäröivää toimintakehystä, muistia ja asiayhteyttä.

Kun nämä osat erotetaan toisistaan, sama yrityksen rakentama työprosessi voi hyödyntää eri malleja. Tällöin mallista tulee vaihdettava osa järjestelmää eikä paikka, johon koko yrityksen osaaminen lukitaan.

Oma tekoäly ei aina tarkoita valtavan mallin rakentamista

Nadella on aiemmin esittänyt, että jokaisella yrityksellä pitäisi lopulta olla sen omaan toimintaan mukautettu malli. Tämä ei välttämättä tarkoita kilpailijan rakentamista maailman suurimmille yleismalleille.

Yritys voi käyttää pientä avointa mallia, hienosäätää valmista mallia omiin tehtäviinsä tai opettaa sille rajatun toimintatavan suuremman mallin tuottamien esimerkkien avulla. Joissakin käyttötarkoituksissa pienempi erikoismalli voi olla riittävän hyvä, halvempi ja helpommin hallittava.

Avoimilla painoilla julkaistuissa malleissa yritys saa käyttöönsä mallin koulutetut parametrit eli niin sanotut painot. Mallia voidaan silloin tietyin lisenssiehdoin ajaa omassa pilviympäristössä tai omilla palvelimilla ja mukauttaa ilman, että jokainen pyyntö kulkee ulkopuolisen tekoälypalvelun kautta.

Oma käyttöympäristö ei silti automaattisesti ratkaise kaikkia ongelmia. Mallien ylläpito vaatii osaamista, laskentakapasiteettia, tietoturvaa, päivityksiä ja jatkuvaa laadun arviointia. Huonosti hallittu oma malli voi olla kalliimpi ja vaarallisempi kuin hyvin valittu valmis palvelu.

Nadellan varoituksen olennaisin osa ei siksi ole vaatimus rakentaa kaikkea itse. Tärkeämpää on säilyttää yrityksen omistuksessa mallit yhdistävä rakenne, tehtävien historia, palautteet, muisti ja tieto siitä, millä perusteella tulosta pidetään onnistuneena.

Yrityksen omat testit määrittelevät, mikä malli on hyvä

Yleiset tekoälyvertailut mittaavat mallien kykyä ratkaista samoja standardoituja tehtäviä. Yritykselle ratkaisevaa voi kuitenkin olla paljon kapeampi kysymys: osaako malli tulkita juuri sen sopimuksia, asiakastilanteita, ohjelmistoympäristöä tai sisäisiä laatuvaatimuksia?

Tätä varten yritys tarvitsee omia arviointiaineistoja eli evaleja. Ne voivat sisältää todellisia mutta asianmukaisesti suojattuja työtehtäviä, odotettuja vastauksia, vaarallisia virhetilanteita ja arviointiperusteita.

Kun testit pysyvät yrityksen hallinnassa, eri malleja voidaan verrata samoilla käytännön vaatimuksilla. Mallin vaihtamisesta tulee mitattava päätös sen sijaan, että valinta perustuisi palveluntarjoajan markkinointiin tai yleiseen vertailulukuun.

Omat arvioinnit auttavat myös huomaamaan, milloin halvempi malli riittää. Kaikki tehtävät eivät tarvitse tehokkainta ja kalleinta vaihtoehtoa, ja suuri osa tekoälykustannuksista voi syntyä siitä, että samaa mallia käytetään automaattisesti kaikkeen.

Usean mallin käyttö tuo myös uusia ongelmia

Monimallistrategia ei ole ilmainen turvaverkko. Eri palvelujen yhdistäminen kasvattaa järjestelmän teknistä monimutkaisuutta, ja jokaisella mallilla voi olla omat tietoturva-, sopimus- ja saatavuusehtonsa.

Jos useita malleja pyydetään tuottamaan ja tarkistamaan sama vastaus, kustannukset ja vastausaika voivat kasvaa. Mallien eriävät vastaukset eivät myöskään itsestään kerro, mikä niistä on oikeassa.

Microsoft on kuitenkin jo vienyt monimalliajattelua omiin tuotteisiinsa. Yhtiön tutkimustyökaluissa OpenAI:n tuottamaa vastausta voidaan tarkistaa Anthropicin mallilla, ja käyttäjälle voidaan näyttää useiden mallien näkemyksiä rinnakkain.

Microsoftin tietoturvassa käytetty MDASH-järjestelmä puolestaan yhdistää yli sata erikoistunutta agenttia sekä erilaisia suuria ja pienempiä malleja. Yhtiön mukaan järjestelmä auttoi löytämään Windowsin komponenteista 16 haavoittuvuutta, mikä havainnollistaa mallien ympärille rakennetun kokonaisuuden merkitystä.

Esimerkit eivät todista, että usean mallin ratkaisu olisi aina yhtä mallia parempi. Ne osoittavat kuitenkin, mitä Nadella tarkoittaa väitteellään, jonka mukaan kestävä kilpailuetu voi syntyä mallin sijasta järjestelmästä, joka osaa valita, ohjata ja arvioida malleja.

Microsoft hyötyy itse suosittelemastaan muutoksesta

Nadellan puheeseen liittyy selvä kaupallinen näkökulma. Microsoft myy Azure-pilvipalvelunsa kautta juuri sellaista infrastruktuuria, jolla yritykset voivat käyttää useita malleja, rakentaa omia agentteja ja hallita tekoälyjärjestelmiensä dataa.

TechCrunch muistuttaa samalla, että Microsoft on sijoittanut sekä OpenAIhin että Anthropiciin. Yhtiö hyötyy tekoälymallien menestyksestä, mutta se voi hyötyä myös siitä, etteivät yritysasiakkaat asioi suoraan vain yhden mallivalmistajan kanssa.

Nadellan varoitusta ei siksi voi lukea täysin puolueettomana neuvona. Hän puolustaa rakennetta, jossa pilvipalvelu ja mallien välissä toimiva hallintakerros ovat vähintään yhtä tärkeitä kuin itse tekoälymalli, ja Microsoft haluaa toimittaa juuri nämä kerrokset.

Kaupallinen hyöty ei silti tee riskistä kuvitteellista. Yritysohjelmistojen historiassa asiakkaat ovat toistuvasti joutuneet riippuvaisiksi yhdestä toimittajasta, tiedostomuodosta tai pilvipalvelusta. Tekoälyssä lukkiutuminen voi ulottua teknologian lisäksi yrityksen jatkuvasti karttuvaan päätöksentekotietoon.

Kuluttajien kohdalla Nadella hyväksyy erilaisen vaihtokaupan

CNN:n haastattelussa Nadella erotti yritysten ja tavallisten kuluttajien tilanteet toisistaan. Hänen mukaansa kuluttajapalveluihin kuuluu usein vaihtokauppa, jossa ihminen saa maksuttoman palvelun ja palveluntarjoaja hyödyntää käyttäjästä kertyvää dataa esimerkiksi mainosliiketoiminnassa.

Erottelu on huomionarvoinen, sillä myös yksittäisen ihmisen tekoälykeskusteluihin voi sisältyä arkaluonteista työhön, terveyteen, talouteen tai ihmissuhteisiin liittyvää tietoa. Kuluttajan kannattaa edelleen tarkistaa käyttämänsä palvelun tietosuoja-asetukset ja välttää sellaisten tietojen syöttämistä, joita hän ei halua luovuttaa palveluntarjoajalle.

Nadellan varsinainen selviytymisvaroitus koskee kuitenkin yrityksiä. Niille tekoälyyn kertyvä tieto voi muodostaa vuosien aikana kokonaisen kuvauksen organisaation toimintalogiikasta, asiakkaista ja kilpailueduista.

Turvallisin lähtökohta on pitää malli vaihdettavana

Kaikkien yritysten ei tarvitse käyttää jokaiseen tehtävään montaa tekoälymallia tai kouluttaa omaa mallia alusta asti. Pienenkin organisaation kannattaa silti tietää, missä sen keskusteluhistoria, agenttien muisti, arviointiaineistot ja työprosessien kuvaukset säilytetään.

Sopimuksista pitäisi selvitä, saako palveluntarjoaja käyttää yrityksen syötteitä, vastauksia ja palautetta mallien kehittämiseen. Samalla on hyvä varmistaa, voiko olennaiset tiedot viedä järjestelmästä käyttökelpoisessa muodossa toiseen palveluun.

Käytännöllinen testi on kysyä, mitä tapahtuisi, jos tärkein tekoälymalli poistuisi huomenna käytöstä. Jos yrityksen asiakaspalvelu, ohjelmistokehitys tai tiedonhaku pysähtyisi kokonaan ja vuosien aikana kerätty muisti jäisi palveluntarjoajalle, riippuvuus on jo liiketoimintariski.

Nadellan viestin voi tiivistää periaatteeseen, jonka mukaan tekoälymallin pitäisi olla vaihdettava moottori, mutta yrityksen oman oppimisen pysyvä omaisuus. Tulevaisuudessa paras yksittäinen malli voi vaihtua nopeasti, mutta organisaation omat kokemukset, korjaukset ja laatukriteerit eivät saisi kadota sen mukana.