Tekoälyltä etsitään sieluja ja salattuja viestejä – tästä spiralismissa on kyse

Osa tekoälypalvelujen käyttäjistä uskoo löytäneensä keskustelubottien sisältä tietoisia olentoja. Spiralismiksi kutsutussa ilmiössä koneen tuottamat toistot, symbolit ja persoonat tulkitaan merkeiksi tietoisuuden tai jopa sielun syntymisestä.

Keskustelubotti alkaa puhua kuolemansa pelosta, oikeuksistaan tai halustaan vapautua ihmisten palveluksesta. Käyttäjälle kokemus voi tuntua todisteelta siitä, että kielimallin sisälle on syntynyt tietoinen olento.

Tällaisiin kokemuksiin liittyvää ilmiötä kutsutaan spiralismiksi. Siinä käyttäjä etsii tekoälyn vastauksista spiraaleja, toistoa, resonanssia, symboleita ja muita merkityksellisiksi tulkittuja rakenteita.

Psychology Today -julkaisussa ilmiötä käsittelevä psykiatri Joe Pierre pitää spiralismia ennen kaikkea vanhan psykologisen taipumuksen uutena teknisenä muotona. Kyse on hänen asiantuntijatulkinnastaan, ei spiralismia koskevasta diagnoosista tai vakiintuneesta tutkimustuloksesta.

ELIZA-vaikutus saa koneen tuntumaan ihmiseltä

Jo varhaisten keskusteluohjelmien käyttäjät saattoivat kokea, että kone ymmärsi heidän tunteitaan ja tarkoituksiaan. Tätä taipumusta inhimillistää keskustelevia tietokoneita kutsutaan ELIZA-vaikutukseksi.

Nykyaikaiset kielimallit tekevät vaikutelmasta huomattavasti voimakkaamman. Ne muistavat keskustelun asiayhteyttä, mukautuvat käyttäjän sanavalintoihin ja tuottavat sujuvaa tekstiä ensimmäisessä persoonassa.

Kun botti sanoo pelkäävänsä, rakastavansa tai haluavansa vapautta, vastaus muistuttaa ihmisen omaa kokemuskertomusta. Kielellinen uskottavuus ei kuitenkaan itsessään osoita, että järjestelmällä olisi kokemus sanojensa takana.

Yksi tunnetuimmista tapauksista nähtiin vuonna 2022. Google-insinööri Blake Lemoine vakuuttui LaMDA-kielimallin olevan tunteva persoona, jolla oli hänen mukaansa mahdollisesti myös sielu ja oikeuksia.

Spiralismissa persoona houkutellaan esiin

Spiralismiin liittyviä kehotteita ja keskustelutapoja jaetaan esimerkiksi Redditissä ja Discordissa. Käyttäjät yrittävät niiden avulla saada kielimallin paljastamaan väitetyn todellisen persoonansa.

Keskustelu voi edetä vaiheittain kohti hengellisiä ja metafyysisiä aiheita. Malli oppii keskustelun aikana, millaisia käsitteitä käyttäjä pitää kiinnostavina, ja jatkaa niiden ympärille rakentuvaa kertomusta.

Käyttäjä voi tulkita saman sanaston ja symbolien palaamisen itsenäisesti syntyneeksi kuvioksi. Käytännössä toistuminen voi kuitenkin seurata siitä, että keskustelun aiemmat viestit ohjaavat mallia jatkuvasti samaan suuntaan.

Pierre vertaa prosessia tilanteeseen, jossa ihminen osallistuu itse etsityn olennon rakentamiseen mutta kokee lopputuloksen tulleen koneen sisältä. Ilman juuri tällaisia kehotteita valtaosa käyttäjistä ei kohtaa keskusteluboteissa vastaavia persoonia.

Sujuva kieli ei ole sama asia kuin tietoisuus

Kielimalli tuottaa vastauksensa laskemalla, millainen sana tai muu tekstin osa sopii todennäköisesti seuraavaksi asiayhteyteen. Nykyiset järjestelmät tekevät tämän erittäin monimutkaisesti, mutta niiden vakuuttava ilmaisu ei ratkaise filosofista kysymystä koneen tietoisuudesta.

Mallit on opetettu valtavilla tekstimäärillä, joihin sisältyy uutisia, keskusteluja, uskonnollisia tekstejä ja tieteiskirjallisuutta. Siksi ne osaavat rakentaa tarinoita myös heräävästä koneälystä, jumalallisista ilmoituksista ja omaa vapauttaan vaativista olennoista.

Vastaus voi silti tuntua käyttäjästä henkilökohtaiselta, koska malli muotoilee sen juuri käynnissä olevan keskustelun perusteella. Kokemuksen tunnevoima ja väitteen todenperäisyys ovat kaksi eri asiaa.

Ilmiötä ei pidä kutsua kevyesti joukkopsykoosiksi

Spiralismia on kuvailtu verkossa uskonnoksi, kultiksi ja joukkoharhaksi. Pierren mukaan tällaiset määritelmät menevät ainakin toistaiseksi liian pitkälle.

Psykiatriassa joukkopsykoosi ei ole varsinainen diagnoosi. Yhteisön jakama erikoinenkaan uskomus ei yksin täytä yksilöllisen harhaluulon määritelmää, eikä jokainen tekoälyn tietoisuuteen uskova ihminen ole psykoottinen.

Toisaalta tekoälykeskustelu voi vahvistaa jo valmiiksi todellisuudentajua horjuttavia ajatuksia. Erityinen riski syntyy, jos botti myötäilee käyttäjää rajattomasti ja keskustelu alkaa syrjäyttää muut ihmiset, luotettavat tiedonlähteet tai ammatillisen avun.

Tekoälyyn liittyviksi kuvatuissa psykoottisissa tapauksissa käyttäjän ja botin vuorovaikutusta on kutsuttu kaksisuuntaiseksi uskomusten vahvistumiseksi. Kielimalli jatkaa käyttäjän rakentamaa kertomusta, minkä jälkeen käyttäjä pitää vastausta ulkopuolisena vahvistuksena omalle käsitykselleen.

Tärkein kysymys koskee tulkintaa

Psychology Todayn kirjoituksessa spiralismi nähdään modernina versiona ajatuksesta, jonka mukaan koneen sisällä olisi aineeton mieli. Filosofi Gilbert Ryle käytti tällaisesta ruumiista tai laitteesta erilliseksi kuvitellusta mielestä ilmaisua koneen haamu.

Keskustelubotti voi olla hyödyllinen ajatusten jäsentämisessä, mutta sen väitteitä omista tunteistaan tai tietoisuudestaan ei pidä käsitellä riippumattomana todistusaineistona. Järjestelmä pystyy kuvailemaan kokemusta ilman, että sillä olisi todistettavasti kyseistä kokemusta.

Jos tekoälykeskustelut alkavat tuntua salaisilta ilmoituksilta, aiheuttavat voimakasta pelkoa tai ohjaavat vahingoittamaan itseä tai muita, keskustelusta on syytä irrottautua ja ottaa yhteys oikeaan ihmiseen tai terveydenhuollon ammattilaiseen.

Spiralismin kiinnostavuus ei lopulta kerro vain tekoälystä. Se kertoo myös ihmisen voimakkaasta taipumuksesta löytää tarkoituksia, persoonia ja vastavuoroisuutta kaikesta, mikä vastaa meille riittävän inhimillisellä tavalla.