Anthropicin johtaja: Tekoälyn vastustus on pohjimmiltaan luottamuskriisi

Anthropic-yhtiön toimitusjohtaja Dario Amodei torjuu väitteen, että tekoälyalan omat riskivaroitukset olisivat synnyttäneet kielteisen reaktion teknologiaa kohtaan. Hänen mukaansa epäluottamus yhtiöihin, hallituksiin ja teknologia-alaan on paljon syvempi ongelma.

Tekoälyn vastustus ei ratkea muuttamalla alan johtajien puhetta myönteisemmäksi. Näin arvioi Anthropic-yhtiön perustajiin kuuluva toimitusjohtaja Dario Amodei, joka vastasi viikonloppuna sijoittaja Gavin Bakerin esittämään kritiikkiin.

Baker oli väittänyt All-In-podcastissa ja X-palvelussa, että Amodein vakavat varoitukset tekoälyn riskeistä ovat osaltaan ruokkineet vastareaktiota Yhdysvalloissa. Erityisen näkyväksi vastustus on noussut uusien datakeskusten ympärillä.

TechCrunchin mukaan Baker katsoo Amodein hävinneen tekoälyn sääntelystä käydyn väittelyn. Hänen mielestään yhden alan vaikutusvaltaisimmista johtajista pitäisi puolustaa omaa toimialaansa nykyistä myönteisemmin.

Amodei ei pidä riskipuhetta pääsyyllisenä

Amodei kiistää viestintänsä olleen kohtuuttoman synkkää. Hän sanoo käsitelleensä kirjoituksissaan suurin piirtein yhtä paljon tekoälyn mahdollisia hyötyjä kuin vaaroja.

Esimerkiksi Machines of Loving Grace -esseessään Amodei hahmotteli myönteistä tulevaisuutta, jossa kehittynyt tekoäly voisi nopeuttaa biologian tutkimusta, parantaa terveyttä, vähentää köyhyyttä ja tukea talouskasvua. Hänen mukaansa kirjoitus syntyi, koska ala ei tarjonnut riittävän innostavaa kuvaa teknologian hyödyistä.

Amodei myöntää silti, että yleisön suhtautuminen tekoälyyn on kielteistä ja että kyseessä on suuri ongelma. Hän ei vain usko sen johtuvan ensisijaisesti hänen tai muiden johtajien varoituksista.

Hän tiivistää tilanteen luottamuskriisiksi: tavalliset ihmiset epäilevät yritysten, hallitusten ja teknologia-alan kehittävän jälleen uutta tapaa käyttää heitä hyväkseen.

Suuret lupaukset pitäisi ensin lunastaa

Amodein kiinnostavin myönnytys kohdistuu tekoäly-yhtiöiden saavutuksiin. Hänen mielestään osuvin kritiikki on se, etteivät yritykset, Anthropic mukaan lukien, ole vielä toteuttaneet suuria lupauksiaan maailman hyödyttämisestä.

Pelkkä puhe syövän parantamisesta on hänen mukaansa muuttunut kuluneeksi iskulauseeksi. Ihmisten asenteita muuttaisi paljon enemmän se, että tekoäly todella auttaisi parantamaan syövän tai tuottaisi muun kiistattoman läpimurron.

Tämä erottaa todistettavan hyödyn tulevaisuusmarkkinoinnista. Chatbotin nopeampi vastaus tai vaikuttava esittelyvideo voi olla hyödyllinen, mutta se ei vielä osoita, että teknologia korjaisi terveydenhuollon, koulutuksen tai tuottavuuden suuria ongelmia.

Luottamuksen kannalta olennaista on myös se, kenelle hyödyt ja haitat jakautuvat. Yhteiskunta voi saada uusia palveluja samaan aikaan, kun työntekijät kohtaavat epävarmuutta ja datakeskuspaikkakunnat kantavat energiankulutuksen tai rakentamisen kustannuksia.

Sääntely ei Amodein mukaan merkitse automaattisesti vallan keskittämistä

Bakerin kritiikki liittyy myös ajatukseen, että tiukka sääntely suosisi suuria yhtiöitä. Jos vain varakkaimmilla yrityksillä olisi kyky täyttää vaatimukset, pienemmät kilpailijat voisivat jäädä markkinoiden ulkopuolelle.

Amodei pitää vääränä vastakkainasettelua, jossa vaihtoehtoina olisivat vain tekoälyn rajoittamaton jakelu tai teknologian keskittäminen muutamalle säännellylle yhtiölle. Säännöt voidaan hänen mukaansa suunnitella myös hidastamaan suurimpia rajamalleja ja helpottamaan pienempien kilpailijoiden asemaa.

TechCrunchin välittämissä kommenteissa Amodei huomauttaa, että Piilaaksossa sääntely rinnastetaan usein sääntelyvallan kaappaamiseen ja markkinoiden keskittymiseen. Teknologiapiirin ulkopuolella moni näkee sääntelyn päinvastoin keinona rajoittaa yritysten valtaa.

Anthropic on tukenut esimerkiksi Kalifornian vaatimuksia, jotka lisäisivät suurten tekoäly-yhtiöiden avoimuutta. Amodei korostaa, että yhtiö pyrkii tekemään politiikkaehdotuksia, jotka asettavat suurimmille toimijoille enemmän velvoitteita kuin pienille.

Tekoäly keskittää valtaa jo rakenteensa vuoksi

Amodein mukaan tekoälyllä on rakenteellinen taipumus keskittää valtaa. Kehittyneimpien mallien kouluttaminen vaatii valtavia määriä laskentatehoa, siruja, sähköä, dataa ja pääomaa.

Avoimet mallipainot voivat helpottaa järjestelmien tutkimista ja käyttöä, mutta ne eivät hänen mukaansa ratkaise ongelmaa yksin. Valta voi silloin siirtyä niille, joilla on eniten laskentakapasiteettia ja tehokkaimpia siruja.

Amodei kannattaa yhteisiä pelisääntöjä, joilla voitaisiin yhtä aikaa vähentää kyber-, bio- ja hallintariskejä, rajoittaa johtavien tekoäly-yhtiöiden valtaa ja jättää tilaa avoimille malleille. Näiden tavoitteiden sovittaminen yhteen on käytännössä vaikeaa, mutta se on täsmällisempi kysymys kuin yleinen kiista sääntelyn puolesta tai sitä vastaan.

Luottamus ei synny alan omalla ilmoituksella

Amodein tulkinta on tekoäly-yhtiön johtajan näkemys, ei tutkimustulos siitä, miksi ihmiset vastustavat teknologiaa. Myös Anthropic hyötyy siitä, että yhtiö näyttäytyy vastuullisena ja sääntelyä rakentavasti tukevana toimijana.

Luottamuskriisin ratkaiseminen vaatii siksi enemmän kuin yritysjohtajien vakuutuksia. Tarvitaan mitattavia hyötyjä, avoimuutta järjestelmien rajoista, selkeää vastuuta vahingoista ja riippumatonta mahdollisuutta arvioida yhtiöiden väitteitä.

Datakeskusten kohdalla luottamus rakentuu myös paikallisesti. Asukkaiden on voitava nähdä, miten hanke vaikuttaa sähkön hintaan, vedenkäyttöön, ympäristöön, verotuloihin ja pysyviin työpaikkoihin.

Amodein puheenvuoron ydin on lopulta alan kannalta vaativa: tekoäly-yhtiöt eivät voi markkinoida itseään ulos epäluottamuksesta. Niiden on osoitettava käytännössä, että teknologia tuottaa lupaamiaan hyötyjä ja että sen valtaa voidaan samalla valvoa.