Findance.com
10:10 - 21.05.2023 / viihde / Findance
AI-asiantuntija varoittaa: Nopea tekoälyn kehitys uhkaa demokratiaa

Edistyneet tekoälyjärjestelmät, kuten OpenAI:n ChatGPT, voivat horjuttaa demokratiaa, ellei hallitukset toimi nopeasti ja suojaa kansalaisia, varoittaa tekoälypioneerina pidetty Yoshua Bengio.

Bengio, joka voitti Turing-palkinnon yhdessä Geoffrey Hintonin ja Yann LeCunin kanssa vuonna 2018, katsoo suuryritysten kiireellisen tekoälytuotteiden lanseerauksen olevan ”terveydelle haitallista”. Hän näkee olevan olemassa ”vaaran poliittisille järjestelmille, demokratialle, totuuden luonteelle itselleen”.

AI-asiantuntijoiden huolet kasvavat

Bengio on uusin kasvavassa joukossa AI-asiantuntijoita, jotka varoittavat voimakkaista, laajoista kielen mallinnusjärjestelmistä. Hänen kollegansa ja ystävänsä Hinton erosi Googlelta tässä kuussa puhuakseen vapaammin tekoälyn ihmiskunnalle aiheuttamista riskeistä.

Bengion mukaan yhteiskunnan yhä häikäilemättömämpi pääsy suuriin kielen mallinnusjärjestelmiin on vakava huolenaihe. Hän huomauttaa teknologian nykyisen valvonnan puutteellisuuden.

- Olisi tärkeää, että tätä pääsyä seurattaisiin tarkasti, jotta tiedämme, kuka näitä järjestelmiä käyttää, jotta voimme jäljittää mahdollisesti laittoman tai vaarallisen käytön, Bengio toteaa Financial Timesille.

Teknologiajättien kiire

Varoitukset tulevat aikana, jolloin teknologiayritykset ovat kiirehtineet lanseeraamaan mullistavia generatiivisia tekoälytuotteita - ohjelmistoja, jotka voivat kirjoittaa tekstiä ja luoda kuvia.

Bengio totesi Financial Timesille, että tekoälyasiantuntijoiden erimielisyydet ovat tärkeä viesti yleisölle siitä, että tieteellä ei vielä ole vastauksia.

- Jos olemme eri mieltä, se tarkoittaa, ettemme tiedä ... voiko se olla vaarallista. Ja jos emme tiedä, se tarkoittaa, että meidän on toimittava suojellaksemme itseämme, Bengio sanoi.

- Jos halutaan, että ihmiskunta ja yhteiskunta selviytyvät näistä haasteista, emme voi sallia ihmisten, yritysten ja maiden välistä kilpailua ja hyvin heikkoa kansainvälistä koordinointia, hän lisäsi.

Valvontaa ja läpinäkyvyyttä kaivataan

Bengio kehottaa sääntelijöitä tekemään tekoälyjärjestelmistä läpinäkyvämpiä, mukaan lukien auditoimaan dataa, jota käytetään niiden kouluttamiseen ja niiden tuottamat tulokset.

Hän on myös ehdottanut kansainvälisen koalition perustamista rahoittamaan tekoälytutkimusta julkisen edun mukaisilla aloilla, kuten ilmastonmuutos ja terveydenhuolto.

- Kuten investoinnit CERNiin Euroopassa tai avaruusohjelmiin - siinä mittakaavassa tekoälyn julkisten investointien pitäisi nykyään olla, jotta tekoälyn hyödyt todella saataisiin kaikkien ulottuville, eikä vain siksi, että sillä voitaisiin tehdä paljon rahaa, hän sanoi.

Bengio lisäsi, että hän keskustelee parhaillaan Hintonin kanssa ideoista, jotka koskevat tulevaa yhteistyötä näihin haasteisiin vastaamiseksi.

- Juuri nyt tekoäly-yhteisössä on paljon tunteita ja huutelua. Tarvitsemme kuitenkin enemmän tutkimuksia ja enemmän ajatuksia siitä, miten aiomme sopeutua tulevaan, Bengio sanoi Financial Timesille.

Tekoälyn kehitys otettava vakavasti

Bengio näkee kiireellisenä, että tekoälyn kehitys otetaan vakavasti ja sen seurauksia tutkitaan huolellisesti.

Hän näkee tarpeellisena hallitusten ja sääntelijöiden väliintulon, jotta teknologian kehitys ei vie mukanaan demokratian periaatteita ja yhteiskunnan turvallisuutta.

artikkelin avainsanat:
AI ChatGPT OpenAI tech tekoäly Yoshua Bengio