Meta poisti Instagramista kohua herättäneen tekoälyominaisuuden vain muutamassa päivässä

Meta on lopettanut toiminnon, jolla käyttäjä pystyi viittaamaan julkiseen Instagram-tiliin ja luomaan tekoälykuvia sen sisällön perusteella. Yhtiön mukaan ominaisuuden tarkoituksena oli tarjota hallittu luova työkalu, mutta toteutus ei vastannut käyttäjien odotuksia.

Meta on poistanut uuden tekoälyominaisuuden, joka ehti olla käytössä vain muutaman päivän. Toiminnon avulla käyttäjä pystyi mainitsemaan julkisen Instagram-tilin Meta AI:lle annetussa kehotteessa ja luomaan uusia kuvia tilillä julkaistun sisällön perusteella.

TechCrunchin mukaan ominaisuus herätti välittömästi vastustusta, sillä julkisten tilien julkaisuja voitiin käyttää tekoälykuvien lähtöaineistona ilman, että tilin omistajan täytyi ensin hyväksyä jokainen käyttökerta.

Meta ilmoitti 10. heinäkuuta lopettaneensa ominaisuuden. Yhtiö ei kuitenkaan poistanut koko Muse Image -kuvageneraattoria, vaan ainoastaan mahdollisuuden käyttää julkisia Instagram-tilejä kuvan luomisessa käyttäjänimen mainitsemisen kautta.

Ominaisuus perustui julkisen tilin mainitsemiseen

Meta esitteli Muse Image -tekoälymallin 7. heinäkuuta. Kyseessä on Meta Superintelligence Labsin kehittämä kuvageneraattori, joka pystyy luomaan kuvia tekstiohjeista, yhdistelemään useita valokuvia ja muokkaamaan valmiita kuvia.

Yksi lanseerauksen näkyvimmistä ominaisuuksista oli mahdollisuus lisätä kuviin sisältöä @-maininnan avulla. Käyttäjä saattoi kirjoittaa kehotteeseen julkisen Instagram-tilin käyttäjänimen, jolloin järjestelmä käytti tilin julkisia kuvia uuden tekoälykuvan viitteenä.

Ominaisuutta olisi voinut käyttää esimerkiksi yhteisen juhlakuvan, kutsun tai humoristisen muunnelman tekemiseen ystävästä. Sama tekniikka mahdollisti kuitenkin myös sen, että tuntematon henkilö pystyi tekemään toisesta ihmisestä tekoälykuvia ilman suoraa yhteydenottoa tähän.

Toiminto koski julkisia aikuisten Instagram-tilejä. Yksityiset tilit ja alaikäisten käyttäjien tilit oli rajattu sen ulkopuolelle.

Käyttäjän täytyi itse estää kuviensa hyödyntäminen

Instagram tarjosi asetuksen, jolla julkaisujen käyttämisen tekoälyominaisuuksissa pystyi estämään. Kritiikki kohdistui kuitenkin siihen, että käyttäjän piti löytää asetus ja kytkeä toiminto itse pois käytöstä.

Ominaisuus perustui siis käytännössä kieltäytymiseen eikä etukäteen annettavaan suostumukseen. Monet käyttäjät katsoivat, ettei julkisen kuvan julkaiseminen Instagramissa tarkoita automaattista lupaa tehdä kuvasta uusia tekoälyversioita.

Tilanne synnytti nopeasti ohjeita, joissa käyttäjiä neuvottiin avaamaan Instagramin jakamista ja uudelleenkäyttöä koskevat asetukset. Käyttäjät pystyivät estämään erikseen julkaisujensa ja Reels-videoidensa hyödyntämisen Metan tekoälytoiminnoissa.

Keskustelua vaikeutti myös se, etteivät käyttäjät välttämättä saaneet ilmoitusta, jos joku toinen käytti heidän tiliään tekoälykuvan luomisessa.

Huoli koski kasvoja, identiteettiä ja luovaa tyyliä

Vastustajat nostivat esiin mahdollisuuden käyttää ominaisuutta harhaanjohtavien tai loukkaavien kuvien tekemiseen. Kun järjestelmälle annettiin viitteeksi oikean ihmisen julkinen Instagram-tili, tekoäly pystyi tuottamaan kuvia, jotka muistuttivat henkilöä ilman tämän osallistumista.

Kyse ei ollut ainoastaan julkisuuden henkilöistä. Myös tavallisen käyttäjän julkaisemat kasvokuvat, perhekuvat tai muut henkilökohtaiset kuvat olisivat voineet toimia tekoälykuvien pohjana.

Valokuvaajat ja muut visuaalisen alan tekijät olivat puolestaan huolissaan siitä, että järjestelmä pystyi jäljittelemään tilillä näkyvää kuvallista tyyliä. Julkinen Instagram-profiili voi sisältää vuosien aikana rakennetun portfolion, jonka ilme on keskeinen osa ammattilaisen työtä ja toimeentuloa.

Ominaisuuden poistamista vaati myös yhdysvaltalainen näyttelijöiden ammattiliitto SAG-AFTRA. Liitto varoitti tekoälyllä tehtävistä digitaalisista jäljennöksistä, joita voitaisiin luoda ilman näyttelijän tai muun esiintyjän nimenomaista suostumusta.

Meta myönsi toteutuksen menneen pieleen

Meta päivitti Muse Image -mallia käsittelevää julkaisuaan vain kolme päivää alkuperäisen lanseerauksen jälkeen.

Yhtiön mukaan tarkoituksena oli luoda hyödyllinen työkalu ja antaa ihmisille mahdollisuus hallita sitä, voitiinko heidän julkiseen sisältöönsä viitata.

"Olemme kuulleet palautteen, että ominaisuus ei osunut maaliinsa, joten se ei ole enää saatavilla", Meta ilmoitti.

Yhtiö ei kertonut, aikooko se palauttaa samankaltaisen toiminnon myöhemmin esimerkiksi vapaaehtoiseen ennakkosuostumukseen perustuvana versiona.

Muse Image jatkaa toimintaansa

Metan päätös ei tarkoita koko Muse Image -palvelun sulkemista. Kuvageneraattori on edelleen käytössä Meta AI:ssa, ja sen tekniikkaa hyödynnetään myös Instagramin ja WhatsAppin luovissa toiminnoissa.

Käyttäjä voi jatkossakin luoda kuvia omien tekstiohjeidensa ja itse lisäämiensä kuvien avulla. Instagram Storiesiin on tuotu myös kymmeniä uusia tekoälypohjaisia tehosteita.

Poistettu toiminto koski nimenomaan ulkopuolisen julkisen Instagram-tilin käyttämistä viitteenä @-maininnan avulla. Siksi tapaus ei merkitse Metan tekoälypanostusten hidastumista, vaan yksittäisen ominaisuuden nopeaa uudelleenarviointia.

Julkinen sisältö ei poista suostumuksen tarvetta

Tapaus nostaa jälleen esiin sosiaalisen median julkisuuden merkityksen. Julkinen tili tarkoittaa, että julkaisut ovat muiden katsottavissa ja jaettavissa palvelun sääntöjen puitteissa. Käyttäjät eivät silti välttämättä odota, että heidän kasvonsa tai kuvallinen ilmaisunsa muutetaan uusiksi tekoälykuviksi.

Metan näkökulmasta käyttäjällä oli mahdollisuus hallita toimintoa asetuksista. Kriitikoiden näkökulmasta tällainen käyttö olisi pitänyt sallia vasta sen jälkeen, kun tilin omistaja oli liittynyt ominaisuuteen tietoisesti.

Suostumukseen perustuvassa mallissa käyttäjä voisi halutessaan antaa ystävilleen tai seuraajilleen luvan tehdä hänestä tekoälykuvia. Samalla muut tilit pysyisivät automaattisesti järjestelmän ulkopuolella.

Ero ennakkosuostumuksen ja jälkikäteen tehtävän kieltäytymisen välillä on merkittävä etenkin ominaisuuksissa, jotka koskevat ihmisen kasvoja, identiteettiä tai ammatillista tuotantoa.

Nopea poistaminen kertoo käyttäjäpalautteen voimasta

Teknologiayhtiöt julkaisevat tekoälyominaisuuksia nyt nopeassa tahdissa ja pyrkivät tuomaan niitä suoraan palveluihin, joissa on jo valmiiksi miljardeja käyttäjiä. Samalla yksityisyyteen, tekijänoikeuksiin ja suostumukseen liittyvät ratkaisut joutuvat nopeasti julkiseen arviointiin.

Instagramin toiminto ehti olla saatavilla vain muutaman päivän ennen kuin Meta perääntyi. Päätös osoittaa, ettei tekninen mahdollisuus tai asetuksiin sijoitettu kieltäytymisvalinta välttämättä riitä tekemään ominaisuudesta käyttäjien silmissä hyväksyttävää.

TechCrunchin kuvaama tapaus on myös muistutus siitä, että tekoälykuvien ongelmat eivät koske vain sitä, millä aineistolla mallit on alun perin koulutettu. Kysymys suostumuksesta syntyy uudelleen myös silloin, kun valmiin palvelun käyttäjä antaa tekoälylle viitteeksi oikean henkilön kuvia.

Meta reagoi palautteeseen nopeasti, mutta samalla yhtiö sai jälleen käytännön esimerkin siitä, kuinka herkäksi aiheeksi ihmisten kasvojen ja sosiaalisen median julkaisujen tekoälykäyttö on muodostunut.