Findance.com
14:10 - 02.05.2023 / viihde / Findance
Mira Murati OpenAI:sta: Matka kohti yleistä tekoälyä ja sen turvallisuusnäkökohtia

OpenAI:n teknologiajohtaja Mira Murati kertoo Security Weekin haastattelussa tekoälyn turvatoimista ja yrityksen visiosta yleisen tekoälyn (AGI) suhteen.

Mira Murati ja OpenAI

Mira Murati liittyi OpenAI:n tutkimuslaboratorioon vuonna 2018, jolloin yritys ei vielä ollut erityisen tunnettu. Pian tämän jälkeen San Franciscossa sijaitseva laboratorio alkoi muuttua liiketoiminnaksi, joka herätti laajaa kiinnostusta ChatGPT:n valmistajana.

Murati johtaa nyt OpenAI:n tutkimus-, tuote- ja turvallisuustiimejä. Hän on ollut vastuussa muun muassa ChatGPT:n, kuvageneraattori DALL-E:n ja uusimman GPT-4:n kehityksestä ja lanseerauksesta.

Yleinen tekoäly OpenAI:lle

Murati selventää, että yleisellä tekoälyllä tarkoitetaan erittäin itsenäisiä järjestelmiä, jotka kykenevät tuottamaan merkittävää taloudellista arvoa ja toimimaan eri toimialoilla. OpenAI:n tavoitteena on kehittää AGI turvallisesti ja ihmisten tarkoitusperien mukaisesti, niin että se hyödyttää mahdollisimman monia ihmisiä.

- OpenAI:n näkemys siitä on rakentaa se turvallisesti ja selvittää, miten rakentaa se tavalla, joka on linjassa ihmisten aikeiden kanssa, niin että tekoälyjärjestelmät tekevät asioita, joita haluamme niiden tekevän, ja että se hyödyttää mahdollisimman monia ihmisiä, ihanteellisesti kaikkia, Murati sanoo.

GPT-4 ja AGI:n välillä

Murati kertoo, että vielä on matkaa turvallisen, luotettavan ja ihmisen tarkoitusperien mukaisen AGI-järjestelmän kehittämiseen.

OpenAI yrittää rakentaa järjestelmiä, jotka ymmärtävät maailmaa samalla tavalla kuin ihmiset, ja kokeilevat eri modaliteetteja.

GPT-4 on edistyneempi järjestelmä, joka kykenee parempaan päättelyyn. Murati korostaa, että teknologian kehittäminen laboratoriossa ei riitä, vaan tarvitaan myös yhteyttä todelliseen maailmaan, jotta voidaan havaita heikkoudet ja murtumakohdat.

- Todellisuuden kanssa tarvitaan yhteyttä, jotta näemme heikkoudet, murtumakohdat ja yritämme tehdä sen hallitusti ja alhaisen riskin kautta, saada mahdollisimman paljon palautetta, Murati toteaa.

Turvallisuustoimenpiteet

OpenAI:ssa panostetaan turvallisuuteen kaikissa kehitysvaiheissa.

Murati kertoo esimerkiksi, että DALL-E-projektissa he pyrkivät vähentämään haitallista vinoutumaa säätämällä koulutusdatassa olevien miesten ja naisten kuvien suhteita. Turvallisuuden varmistaminen vaatii kuitenkin jatkuvaa tarkkailua ja tasapainottamista.

- Käytännössä yritämme tehostaa sitä, mikä katsotaan hyväksi käytökseksi, ja sitten vähentää sitä, mikä katsotaan huonoksi käytökseksi, Murati sanoo.

Sääntely tekoälyjärjestelmille

Murati kannattaa ehdottomasti tekoälyjärjestelmien sääntelyä.

Hän kertoo, että OpenAI keskustelee jatkuvasti hallitusten, sääntelijöiden ja muiden organisaatioiden kanssa yhteisten turvallisuusstandardien luomiseksi.

Mira Muratim mielestä sääntelijöiden pitäisi olla erittäin aktiivisia asiassa.

Vetoomuksessa vaadittiin taukoa kehityksessä

Eräs vetoomus, joka ehdotti kuuden kuukauden taukoa GPT-4:tä tehokkaampien tekoälymallien kehittämisessä, sai paljon huomiota.

Murati toteaa, että vaikka kirjeessä esiin tuodut riskit ovatkin todellisia, pelkkä vetoomuksen allekirjoittaminen ei ole tehokas tapa rakentaa turvallisuusmekanismeja tai koordinoida alan toimijoita.

- Tekoälyjärjestelmien ja minkä tahansa monimutkaisen teknologisen järjestelmän turvallisuusmekanismit ja koordinointimekanismit ovat vaikeita ja vaativat paljon ajattelua, tutkimusta ja yhteistyötä toimijoiden kesken, Murati toteaa.

- Jotkin kirjeen väitteet GPT-4:n tai GPT-5:n kehityksestä olivat yksinkertaisesti valheellisia. Emme kouluta GPT-5:tä. Meillä ei ole mitään suunnitelmia tehdä niin seuraavan puolen vuoden aikana. Emme myöskään kiirehtineet GPT-4:n kehittämistä. Käytimme itse asiassa kuusi kuukautta keskittyäksemme täysin GPT-4:n turvalliseen kehittämiseen ja käyttöönottoon.

OpenAI:n muutos

Kun Murati liittyi OpenAI:hin, se oli voittoa tavoittelematon organisaatio. Ajan myötä yrityksen rakenne on muuttunut, sillä tekoälyjärjestelmien kehittäminen vaatii paljon rahoitusta.

OpenAI on kuitenkin säilyttänyt voittoa tavoittelemattoman mission tarjoamalla "rajatun voiton" rakenteen.

- OpenAI:ssa työskentelevät ihmiset ovat sisäisesti motivoituneita ja tehtävään sitoutuneita, eikä tämä ole muuttunut alusta asti. Viiden vuoden aikana ajattelumme on kuitenkin kehittynyt paljon siinä, mikä on paras tapa käyttöönottaa ja mikä on turvallisin tapa. Se on luultavasti suurin ero. Mielestäni se on hyvä muutos, Murati sanoo.

ChatGPT:n vastaanotto

Ennen ChatGPT:n julkaisua marraskuun 30. päivänä 2022, sen taustalla oleva teknologia oli ollut olemassa jo kuukausia.

OpenAI sai luottamusta mallin rajoituksiin asiakkailta, jotka olivat jo käyttäneet sitä API:n kautta. ChatGPT:n julkaisu oli kuitenkin suunniteltu enemmän tutkimuskatsauksena kuin valmiina tuotteena, ja sen tarkoituksena oli kerätä palautetta mallin käyttäytymisestä ja parantaa sen linjausta ihmisten mieltymysten kanssa.

- Emme odottaneet, että ihmiset olisivat niin lumoutuneita puhumisesta tekoälyjärjestelmälle. Se oli vain tutkimuskatsaus. Emme odottaneet sitä innostuksen tasoa, Murati toteaa.