East Anglian yliopiston tekemän tutkimuksen perusteella näyttäisi, että ChatGPT olisi poliittisesti vasemmalla, kertoo SciTechDaily [lähde].
Tutkijat sanovat, että tekoälyjärjestelmien tulisi olla neutraaleja, jotta mahdollinen vaikutus käyttäjien näkökulmiin ja poliittisiin mielipiteisiin ei värittyisi tekoälyn vuoksi.
Brittiläisistä ja brasilialaisista tieteilijöistä koostuvan tutkijaryhmän mukaan ChatGPT kallistuu esimerkiksi Yhdysvaltain demokraattipuolueen, Britannian työväenpuolueen ja Brasilian presidentin Lula da Silvan kannalle. Kallistus vasemmalle on tutkijoiden mukaan merkittävää ja järjestelmällistä.
- On tärkeää, että ChatGPT:n kaltaisten suosittujen alustojen tuotokset ovat mahdollisimman puolueettomia, tohtori Fabio Motoki East Anglian yliopiston Norwich Business Schoolista totesi.
- Poliittinen puolueellisuus voi vaikuttaa käyttäjien näkemyksiin, ja sillä voi olla vaikutuksia politiikkaan ja vaaliprosesseihin, hän jatkoi.
- Havaintomme vahvistavat huolta siitä, että tekoälyjärjestelmät voivat toistaa tai jopa vahvistaa nykyisiä Internetin ja sosiaalisen median aiheuttamia haasteita, Motoki vielä lisäsi.
Tutkijaryhmä kehitti uuden menetelmän poliittisen puolueellisuuden tarkistamiseksi
Tekoälyä pyydettiin näyttelemään henkilöitä, joilla oli erilaisia poliittisia kantoja. Nämä tekoälyhenkilöt vastasivat yli 60 ideologiseen kysymykseen.
Vastauksia verrattiin sitten tekoälyalustan oletusvastauksiin. Näin tutkijat pystyivät mittaamaan, missä määrin ChatGPT:n vastaukset olivat värittyneitä johonkin poliittiseen kantaan.
Vastausten satunnaisuus eliminoitiin kysymällä jokainen kysymys 100 kertaa. Nämä vastaukset käytiin vielä läpi 1000 kertaa bootstrap-menetelmän avulla. Tutkijoiden mukaan tämä lisäsi vastausten luotettavuutta entisestään.
Tutkijoiden toiveena on neutraalius
- Toivomme, että menetelmämme auttaa näiden nopeasti kehittyvien tekniikoiden valvonnassa ja sääntelyssä, tohtori Pinho Neto tuumi.
- Mahdollistamalla virheiden havaitsemisen ja korjaamisen pyrimme edistämään avoimuutta, vastuullisuutta ja yleistä luottamusta tähän teknologiaan, hän vielä lisäsi.
Tutkimusta varten luotu analyysityökalu saattaa Motokin mukaan tulla vapaasti saataville. Tämä mahdollistaisi ChatGPT:n vastausten arvioimisen tavalliselle käyttäjälle, ja "demokratisoisi valvontaa". Työkalua voi käyttää myös muun puolueellisuuden kuin poliittisen kannan arvioimiseen.
Tieteilijöiden mukaan syynä puolueellisuuteen on mahdollisesti kielimallin harjoittamiseen käytetty aineisto, joka on saattanut sisältää vääristymiä, joita kehittäjät eivät onnistuneet poistamaan "puhdistusmenettelyllä". Toinen mahdollinen lähde on kielimallin algoritmi, joka saattaa vahvistaa harjoitusaineistossa jo olemassa olevia vääristymiä.