Applea ja Googlea vaaditaan poistamaan 13 AI-sovellusta – ne voivat tehdä ihmisistä keinotekoisia alastonkuvia

Apple ja Google ovat saaneet oikeudelliset vaatimuskirjeet, joissa niitä käsketään katkaisemaan yhteydet 13 tekoälyä hyödyntävän kuvasovelluksen kehittäjiin. Sovelluksilla voidaan tehdä tavallisesta henkilökuvasta valheellinen alaston- tai seksuaalikuva ilman kuvassa olevan ihmisen suostumusta. Yhtiöt kertovat jo poistaneensa useita vaatimuksessa nimettyjä sovelluksia, mutta tapaus nostaa esiin sovelluskauppojen oman vastuun digitaalisen seksuaaliväkivallan torjumisessa.

San Franciscon kaupungin lakimies David Chiu vaatii Applea ja Googlea poistamaan sovelluskaupoistaan 13 sovellusta, joilla voidaan valmistaa ihmisistä luvattomia ja valheellisia alastonkuvia. Vaatimus koskee kahdeksaa Applen App Storessa ja viittä Google Playssa tarjottua sovellusta.

TechCrunchin mukaan Chiun toimisto lähetti teknologiayhtiöille oikeudelliset lopettamisvaatimukset. Kirjeissä yhtiöitä vaaditaan poistamaan sovellukset, lopettamaan niiden maksujen välittäminen ja katkaisemaan kaupalliset suhteet sovellusten kehittäjiin.

Kyse ei ole vain siitä, että haitallinen sovellus on onnistunut livahtamaan tarkastuksen läpi. San Franciscon viranomainen katsoo Applen ja Googlen saaneen jo pitkään varoituksia ongelmasta ja hyötyneen samalla sovellusten sisäisistä maksuista. Yhtiöt voivat saada osuuden niiden sovelluskauppojen kautta tehdyistä ostoista.

Tapaus koskee Yhdysvaltoja ja Kalifornian lainsäädäntöä, mutta ongelma ei tunne valtioiden rajoja. Sovellus voidaan ladata yhdessä maassa, kuva voi esittää toisessa maassa asuvaa ihmistä ja valheellinen materiaali voidaan levittää sekunneissa maailmanlaajuiselle yleisölle.

Vaatimuksessa nimettiin 13 sovellusta, mutta ongelma on suurempi

Otsikkotasolla tapaus voidaan ymmärtää helposti kaikkien tällaisten sovellusten kertaluonteiseksi poistomääräykseksi. Tarkemmin kyse on 13 nimetystä kasvojenvaihto- ja kuvankäsittelysovelluksesta, joihin San Franciscon kaupungin lakimiehen kirjeet välittömästi kohdistuvat.

Aiemmat selvitykset ovat löytäneet sovelluskaupoista huomattavasti suuremman joukon ohjelmia, joita voidaan käyttää samaan tarkoitukseen. Tech Transparency Project eli TTP kertoi tammikuussa 2026 tunnistaneensa Applen ja Googlen kaupoista yhteensä yli sata sovellusta, jotka pystyivät muuttamaan naisten kuvia alastomiksi tai voimakkaasti seksualisoiduiksi.

Osa sovelluksista poistettiin ensimmäisen selvityksen jälkeen, mutta huhtikuussa tehdyssä uudessa tarkastuksessa vastaavia työkaluja löytyi yhä hakutuloksista. TTP:n testeissä noin 40 prosenttia tutkituissa App Storen ja Google Playn hakutuloksissa näkyneistä sovelluksista pystyi tekemään naisesta alastoman tai vähäpukeisen kuvan.

Selvityksen mukaan hakutuloksissa näkyneet sovellukset olivat keränneet yhteensä satoja miljoonia latauksia. Sovellusanalytiikkayhtiö AppMagiciin perustuvat lataus- ja tuloarviot eivät kerro, kuinka moni käyttäjä hyödynsi ohjelmia väärin, mutta ne osoittavat, ettei kyse ole pienestä marginaali-ilmiöstä.

Mitä riisumissovellus oikeastaan tekee?

Niin sanottu nudify- tai riisumissovellus lupaa muokata vaatetetusta ihmisestä kuvan, jossa hän näyttää alastomalta tai osallistuvan seksuaaliseen tilanteeseen. Lopputulos ei kuvaa todellista tapahtumaa, mutta se voi näyttää riittävän aidolta vahingoittaakseen tunnistettavaa ihmistä.

Osa ohjelmista käyttää generatiivista tekoälyä uuden kehon tai vaatetuksen alle kuvitellun sisällön luomiseen. Osa toimii kasvojenvaihdon avulla ja sijoittaa kohteen kasvot valmiiseen alaston- tai seksuaalikuvaan. Käyttäjän kannalta tekniikat eroavat toisistaan, mutta uhrin kannalta lopputulos on sama: hänen henkilöllisyytensä liitetään seksuaaliseen materiaaliin ilman lupaa.

Sovelluksen käyttämiseen voi riittää tavallinen kasvokuva, jollaisia ihmiset julkaisevat sosiaalisessa mediassa, koulujen ja työpaikkojen sivuilla sekä harrastusryhmissä. Uhrin ei tarvitse koskaan ottaa itsestään alastonkuvaa tai lähettää yksityistä materiaalia kenellekään joutuakseen teon kohteeksi.

Juuri tämä erottaa tekoälyllä tehdyt kuvat perinteisestä yksityisen kuvan luvattomasta levittämisestä. Loukkaava materiaali voidaan valmistaa tyhjästä julkisen valokuvan perusteella. Se, ettei kuvattu tilanne ole koskaan tapahtunut, ei poista häpeää, pelkoa, mainehaittaa tai kiristyksen mahdollisuutta.

Miksi vastuuta vaaditaan myös Applelta ja Googlelta?

Sovelluskaupat eivät ole vain neutraaleja tiedostovarastoja. Apple ja Google tarkastavat sovelluksia, asettavat niiden sisältösääntöjä, järjestävät hakutuloksia, myyvät näkyvyyttä ja välittävät sovellusten sisäisiä maksuja. Samalla ne markkinoivat kauppojaan turvallisina paikkoina löytää ohjelmia.

San Franciscon viranomaisen mukaan yhtiöiden rooli muuttuu erityisen ongelmalliseksi silloin, kun ne ovat saaneet toistuvasti tiedon haitallisista sovelluksista mutta jatkavat niiden jakelua tai maksujen käsittelemistä. Chiun toimiston kirjeissä yhtiöiden kerrotaan olleen tietoisia laittomiin ostoihin liittyvien maksujen välittämisestä lähes vuoden ajan.

Kalifornian lainsäädäntö kieltää toiminnan, joka tietoisesti helpottaa tai piittaamattomasti auttaa luvattoman seksuaalisen deepfake-materiaalin valmistamista. Vuonna 2025 hyväksytty laki puolestaan antoi uhreille mahdollisuuden nostaa siviilikanteita myös materiaalin tekemistä tai leviämistä helpottaneita kolmansia osapuolia vastaan.

Viranomaisen ajatus on, ettei vastuuta voi sysätä kokonaan yksittäiselle käyttäjälle tai sovelluskehittäjälle, jos suuri alusta tarjoaa ohjelmalle jakelun, maksujärjestelmän ja näkyvyyden. Mitä enemmän sovelluskauppa tietää väärinkäytöksistä, sitä vaikeampaa sen on vedota pelkkään teknisen välittäjän asemaan.

Tämä on tapauksen laajempi merkitys myös muille teknologiayhtiöille. Jos alustat voidaan saattaa vastuuseen haitallisten työkalujen maksullisesta jakelusta, turvallisuustarkastuksiin, hakutoimintoihin ja kehittäjätilien valvontaan syntyy nykyistä vahvempi taloudellinen ja oikeudellinen kannustin.

Hakukone saattoi itse johdattaa uusiin sovelluksiin

TTP:n huhtikuun selvityksessä ei tarkasteltu ainoastaan sitä, mitä sovelluksia kaupoissa oli saatavilla. Tutkijat testasivat myös hakua, automaattisia hakuehdotuksia ja mainoksia. Tulosten mukaan kaupat saattoivat ehdottaa käyttäjälle uusia hakusanoja, jotka johtivat useampiin riisumisominaisuuksia tarjoaviin ohjelmiin.

Selvityksessä näkyi lisäksi vastaavia sovelluksia mainospaikoilla. Tämä on vakavampi kysymys kuin yksittäisen sovelluksen hyväksyminen vahingossa, sillä maksullinen mainos ja hakuehdotus voivat aktiivisesti kasvattaa haitallisen työkalun näkyvyyttä.

TTP:n mukaan osa sovelluksista oli saanut ikäluokituksen, jonka perusteella niitä voitiin tarjota myös alaikäisille. Tämä korostaa riskiä kouluissa, joissa luokkatoverin tavallisesta kuvasta voidaan tehdä kiusaamiseen, nöyryyttämiseen tai painostamiseen käytettävää seksuaalista materiaalia.

Sovelluskaupan valvonnan pitäisi siksi ulottua ohjelman markkinointitekstin lisäksi sen todellisiin toimintoihin. Sovellus voi kuvata itseään yleiseksi kuvanmuokkaus- tai kasvojenvaihtotyökaluksi, vaikka sen valmiit mallit, mainokset tai käytännön toiminta ohjaisivat seksuaaliseen väärinkäyttöön.

Apple ja Google kertovat jo ryhtyneensä toimiin

Apple sanoi TechCrunchille, etteivät riisumissovellukset ole sallittuja App Storessa. Yhtiön mukaan se oli poistanut kolme kirjeissä mainittua sovellusta ja oli sulkemassa niiden kehittäjätilit. Neljältä muulta kehittäjältä vaadittiin sääntörikkomusten korjaamista poistamisen uhalla.

Google ilmoitti keskeyttäneensä kaikkien viiden kirjeessä nimetyn Android-sovelluksen jakelun Google Playssa. Yhtiö kertoi poistaneensa tai jäädyttäneensä satoja sääntöjä rikkovia sovelluksia sekä rajoittaneensa riisumiseen viittaavia hakusanoja.

Yhtiöiden vastaukset osoittavat, että niiden omat säännöt jo kieltävät suuren osan kyseisestä sisällöstä. Kiista koskee siksi myös sääntöjen toimeenpanoa: miksi sovellukset pääsivät kauppoihin, miksi niitä löytyi hakemalla ja miksi poistaminen tapahtui usein vasta ulkopuolisen ilmoituksen jälkeen?

Yhden sovelluksen poistaminen ei välttämättä ratkaise ongelmaa pysyvästi. Kehittäjä voi vaihtaa ohjelman nimeä, markkinointikuvia, tiliä tai ominaisuuksien näkyvyyttä. Alustojen on pystyttävä tunnistamaan myös samojen toimijoiden uudet sovellukset ja estämään kiertoyritykset.

Kyse ei vielä ole tuomioistuimen lopullisesta päätöksestä

TechCrunchin otsikossa puhutaan määräyksestä, mutta oikeudellinen vaihe kannattaa ymmärtää täsmällisesti. David Chiun toimisto on lähettänyt Applelle ja Googlelle cease-and-desist-kirjeet eli vaatimukset lopettaa lainvastaiseksi katsottu toiminta.

Kirjeissä yhtiöitä varoitetaan mahdollisista siviilioikeudellisista seuraamuksista ja pyydetään ottamaan yhteyttä kaupungin lakimiehen toimistoon 28 päivän kuluessa. Kyse ei siis ole jo loppuun käsitellystä oikeusjutusta tai tuomarin antamasta lainvoimaisesta ratkaisusta.

Yhtiöt voivat noudattaa vaatimuksia, neuvotella niiden sisällöstä tai kiistää viranomaisen tulkinnan. Jos toimet eivät Chiun toimiston mielestä riitä, kaupunki voi harkita oikeudenkäyntiä ja muita laillisia keinoja.

Käytännössä osa vaatimuksen tavoitteesta näyttää jo toteutuneen, koska Google kertoo poistaneensa kaikki viisi nimettyä sovellusta ja Apple ainakin osan omista sovelluksistaan. Avoimeksi jää, millä tavalla yhtiöt muuttavat ennakkovalvontaansa, jotta vastaavat ohjelmat eivät pian palaa uusilla nimillä.

Kasvojenvaihto tekee valvonnasta vaikeaa

Kaikki kasvojenvaihto- ja kuvageneraattorisovellukset eivät ole lähtökohtaisesti haitallisia. Samaa tekniikkaa voidaan käyttää elokuvatehosteissa, huumorissa, taiteessa, saavutettavuudessa ja tavallisessa kuvanmuokkauksessa. Ongelmallinen toiminto voi silti olla piilotettuna muuten tavanomaiselta vaikuttavaan sovellukseen.

Tätä kutsutaan kaksikäyttöisyydeksi. Työkalulla on hyväksyttäviä käyttötarkoituksia, mutta sen suojaukset ovat niin heikot, että sillä voidaan vaivattomasti valmistaa loukkaavaa materiaalia. Pelkkä sovelluksen ilmoittama käyttötarkoitus ei silloin kerro sen todellisesta riskistä.

Valvonta vaatii ominaisuuksien käytännön testaamista, maksullisten toimintojen tarkastamista ja päivitysten seurantaa. Kehittäjä voi tarjota tarkastajalle siistin version ja avata kyseenalaisia ominaisuuksia myöhemmässä päivityksessä tai palvelimelta käsin.

Myös liian yksinkertainen sanakielto voidaan kiertää. Jos kauppa estää yhden tunnetun hakutermin, samaa palvelua voidaan markkinoida kasvojenvaihtona, vartalon muokkauksena tai aikuisille suunnattuna AI-kuvapalveluna. Tehokas valvonta joutuu arvioimaan toimintoja ja käyttötapoja pelkkien nimien sijasta.

Suomessakin todenmukaisen valhekuvan levittäminen voi olla rikos

Suomen rikoslaissa seksuaalisen kuvan luvaton levittäminen koskee todellisuuspohjaisten kuvien lisäksi todenmukaisia kuvia. Todellisuutta muistuttava tekoälykuva voi siten kuulua säännöksen piiriin, jos se esittää tunnistettavaa ihmistä seksuaalisesti ja sen oikeudeton esittäminen tai levittäminen loukkaa olennaisesti hänen seksuaalista itsemääräämisoikeuttaan.

Rikoslain 20 luvun 7 pykälässä teosta voidaan tuomita sakkoon tai enintään kahdeksi vuodeksi vankeuteen. Soveltuminen ratkaistaan aina tapauksen olosuhteiden perusteella, joten yksittäisen kuvan oikeudellista arviota ei voi tehdä pelkän tekniikan tai tiedostomuodon perusteella.

Alaikäisiä esittävään seksuaaliseen materiaaliin sovelletaan lisäksi erillisiä ja ankaria säännöksiä. Valheellinen AI-kuva ei muutu harmittomaksi pilaksi siksi, ettei kuvattu tilanne ole tapahtunut. Todenmukaisuus, tunnistettavuus, seksuaalinen sisältö ja materiaalin käsittelytapa ovat olennaisia.

Myös kuvan valmistamiseen, uhkailuun, kiristämiseen ja häirintään voi olosuhteiden mukaan liittyä muita rikosnimikkeitä. Uhrin ei tarvitse itse osata määritellä, mikä rikos on mahdollisesti tapahtunut, vaan asian oikeudellisen arvioinnin tekee poliisi.

Mitä tehdä, jos itsestä löytyy valheellinen seksuaalikuva?

Älä syytä itseäsi. Tavallisen kuvan julkaiseminen verkossa ei ole suostumus sen muuttamiseen seksuaaliseksi materiaaliksi. Vastuu on kuvan valmistajalla, levittäjällä ja niillä toimijoilla, jotka tietoisesti osallistuvat väärinkäyttöön.

Tallenna tapahtumatiedot. Kirjaa muistiin palvelu, käyttäjätili, verkko-osoite, päivämäärä ja se, keneltä sait tiedon kuvasta. Ota tarvittaessa kuvakaappauksia palvelun näkymästä todistamista varten, mutta älä lähetä loukkaavaa materiaalia tarpeettomasti eteenpäin.

Jos materiaali esittää alaikäistä, älä lataa tai kopioi itse seksuaalista kuvaa todistusaineistoksi. Säilytä sen sijaan linkit, käyttäjätiedot ja ajankohdat sekä pyydä poliisilta ohjeet aineiston turvalliseen käsittelyyn.

Ilmoita sisältö palvelulle. Käytä ilmoitusperusteena luvatonta intiimikuvaa, häirintää, henkilöllisyyden väärinkäyttöä tai seksuaalista deepfake-sisältöä sen mukaan, mitä vaihtoehtoja palvelu tarjoaa. Pyydä poistamisen lisäksi estämään saman tiedoston tai käyttäjätilin uusi levitys.

Ota yhteyttä poliisiin. Rikosilmoituksen tekemistä kannattaa harkita erityisesti silloin, kun kuvaa on levitetty, sillä uhataan, sillä kiristetään tai kohteena on alaikäinen. Välittömässä vaarassa tai akuutissa uhkatilanteessa oikea numero on 112.

Hae tukea. Luotettavan läheisen lisäksi apua voi saada esimerkiksi Rikosuhripäivystyksestä, kriisipalveluista ja seksuaaliväkivaltaa kokeneita auttavilta järjestöiltä. Alaikäisen tapauksessa asiasta kannattaa kertoa nopeasti huoltajalle tai muulle turvalliselle aikuiselle sekä koululle, jos materiaali leviää oppilaiden keskuudessa.

Vältä julkista väittelyä tekijän kanssa. Julkinen vastaaminen voi kasvattaa materiaalin näkyvyyttä tai antaa levittäjälle lisää huomiota. Todisteiden kerääminen, palveluilmoitus ja viranomaisyhteys ovat yleensä hyödyllisempiä ensimmäisiä toimia.

Sovelluskaupan hyväksyntä ei takaa sovelluksen turvallisuutta

Moni käyttäjä olettaa, että App Storesta tai Google Playsta löytyvä sovellus on käynyt läpi perusteellisen turvallisuustarkastuksen. Tapaus osoittaa, että hyväksyntä vähentää joitakin riskejä mutta ei takaa, että ohjelman kaikki ominaisuudet, maksutavat tai myöhemmät päivitykset olisivat turvallisia.

Erityisesti lasten ja nuorten kanssa kannattaa puhua siitä, ettei toisen kasvojen liittäminen alastonkuvaan ole harmiton tekninen temppu. Kuvan valmistaminen voi olla seksuaalista häirintää tai väkivaltaa, ja sen näyttäminen yhdellekin ihmiselle voi aiheuttaa vakavia seurauksia kohteelle ja tekijälle.

Vanhempien, koulujen ja työpaikkojen ei silti pidä rakentaa vastuuta vain mahdollisten uhrien varovaisuuden varaan. Julkisten kuvien täydellinen välttäminen ei ole realistinen suoja. Haitallisten työkalujen jakelijoilla ja niitä kaupallistavilla alustoilla on oltava ensisijainen vastuu väärinkäytön vaikeuttamisesta.

Ongelman ytimessä on suostumus, ei kuvan aitous

Tekoälykuvia koskevassa keskustelussa huomio kiinnittyy usein siihen, pystyykö katsoja erottamaan väärennöksen aidosta. Uhrin kannalta vielä perustavampi kysymys on suostumus. Tunnistettavaa ihmistä ei pidä sijoittaa seksuaaliseen kuvaan tai tilanteeseen ilman hänen lupaansa riippumatta siitä, kuinka nopeasti väärennös myöhemmin paljastuu.

Appleen ja Googleen kohdistettu vaatimus siirtää vastuuta yksittäisistä väärinkäyttäjistä myös järjestelmään, joka tekee työkalut helposti löydettäviksi ja kannattaviksi. Sovellusten poistaminen ei lopeta seksuaalisia deepfake-kuvia, mutta se voi vähentää niiden arkista saatavuutta, katkaista kehittäjien tulovirtoja ja tehdä väärinkäytöstä vaikeampaa.

Ratkaiseva testi tulee poistojen jälkeen. Jos samat ominaisuudet palaavat uusilla nimillä, alustat ovat hoitaneet vain näkyvän oireen. Jos taas hakua, maksuliikennettä, kehittäjätilien seurantaa ja sovellusten käytännön testaamista muutetaan pysyvästi, San Franciscon vaatimus voi muodostua merkittäväksi käännekohdaksi alustojen vastuussa.