Meta alkaa varoittaa vanhempia nuoren huolestuttavista tekoälykeskusteluista

Meta ottaa käyttöön ilmoitukset, jotka voivat kertoa vanhemmalle nuoren keskustelleen Meta AI:n kanssa itsemurhasta tai itsensä vahingoittamisesta. Vanhempi ei näe keskustelua, mutta toiminto herättää silti kysymyksiä yksityisyydestä, vääristä hälytyksistä ja tekoälyn vastuusta kriisitilanteissa.

Meta alkaa lähettää vanhemmille ilmoituksia, jos valvonnassa olevan nuoren keskustelu Meta AI -tekoälyavustajan kanssa viittaa mahdolliseen itsemurha- tai itsensä vahingoittamisen riskiin.

TechCrunchin mukaan uusi turvallisuustoiminto on otettu käyttöön torstaina 16. heinäkuuta 2026.

Ilmoitukset ovat aluksi käytössä Yhdysvalloissa, Britanniassa, Australiassa ja Kanadassa niillä vanhemmilla, jotka valvovat nuoren Instagram-tiliä Metan Family Center -työkalujen avulla.

Meta lupaa laajentaa toiminnon valvontaa käyttäville vanhemmille maailmanlaajuisesti vuoden 2026 loppuun mennessä.

Suomessa tekoälykeskusteluihin perustuva ilmoitus ei siis ole vielä välttämättä käytettävissä, vaikka Instagram-hakuihin liittyvät erilliset varoitukset ovat jo laajentuneet Euroopan unioniin.

Tekoäly etsii keskusteluista huolestuttavia viitteitä

Meta kertoo rakentaneensa erillisen tekoälyjärjestelmän tunnistamaan keskusteluja, joissa nuori viittaa itsensä vahingoittamiseen.

Järjestelmän pitäisi huomata myös hienovaraisesti tai epäsuorasti ilmaistuja viitteitä, eikä ainoastaan selkeitä avainsanoja.

Meta ei ole julkaissut tarkkaa luetteloa ilmauksista, jotka voivat käynnistää tarkistuksen.

Yhtiö ei myöskään kerro, kuinka pitkästä keskustelujaksosta riskiä arvioidaan tai tarkastellaanko yksittäisen viestin lisäksi aikaisempaa keskusteluhistoriaa.

TechCrunchin mukaan Meta AI ohjaa jo nykyisin itsetuhoisuuteen viittaavia nuoria kriisipuhelinten ja muiden tukipalvelujen pariin.

Tekoäly kehottaa nuorta myös ottamaan yhteyttä vanhempaan, koulukuraattoriin tai muuhun luotettavaan aikuiseen.

Ihminen tarkistaa keskustelun ennen ilmoitusta

Metan mukaan tekoälyn tekemä havainto ei johda automaattisesti vanhemmalle lähetettävään ilmoitukseen.

Kaikki järjestelmän merkitsemät keskustelut tarkistetaan ensin ihmisvoimin.

”Ymmärrämme, kuinka järkyttävä tällainen ilmoitus voi olla vanhemmalle. Siksi kaikki tekoälymme merkitsemät keskustelut tarkistaa ihminen ennen ilmoituksen lähettämistä”, Meta kertoo.

Manuaalisen tarkistuksen tarkoituksena on vähentää tarpeettomia ilmoituksia ja arvioida keskustelun asiayhteyttä.

Yhtiö myöntää silti, että vanhemmille voidaan lähettää ilmoituksia myös tilanteissa, joissa nuori ei todellisuudessa ole vaarassa.

Jos nuoren tarkoitus jää epäselväksi, Meta aikoo oman ilmoituksensa mukaan toimia varovaisuuden periaatteella ja lähettää varoituksen.

Tämä tarkoittaa käytännössä sitä, että järjestelmä painottaa mahdollisen vaaratilanteen havaitsemista väärien hälytysten välttämistä enemmän.

Vanhempi ei saa nähdä keskustelun sisältöä

Vanhemmalle lähetettävä ilmoitus ei sisällä nuoren Meta AI:n kanssa käymää keskustelua.

Metan ohjekeskuksen mukaan vanhempi ei saa ilmoituksen kautta pääsyä viesteihin eikä niiden sanatarkkaan sisältöön.

Ilmoituksen pitäisi kertoa ainoastaan, että keskustelussa on havaittu itsemurhaan tai itsensä vahingoittamiseen liittyvä aihe, joka voi vaatia vanhemman huomiota.

Vanhemmalle tarjotaan samalla asiantuntijoiden laatimia ohjeita nuoren kohtaamiseen ja keskustelun aloittamiseen.

Yksityisyyden kannalta ero on merkittävä. Vanhemmalle annetaan tieto mahdollisesta vaarasta, mutta nuoren koko keskustelua ei luovuteta.

Samalla keskustelun tarkistaminen tarkoittaa, että Metan työntekijä tai alihankkija voi joutua käsittelemään nuoren hyvin henkilökohtaista viestintää.

Meta ei kerro tiedotteessaan yksityiskohtaisesti, missä tarkastajat sijaitsevat, kuinka kauan tarkistettua sisältöä säilytetään tai millä tavoin henkilötietojen käsittely toteutetaan eri maissa.

Ilmoitus ei välttämättä tarkoita akuuttia kriisiä

Meta korostaa, että nuori voi keskustella itsemurhasta tai itsensä vahingoittamisesta monesta syystä.

Hän voi esimerkiksi tehdä koulutehtävää, yrittää ymmärtää uutista tai etsiä apua ystävälleen.

Nuori voi myös toistaa televisiosarjassa, pelissä tai sosiaalisen median videossa kuulemansa ilmauksen.

Jotkut voivat kokeilla tekoälyn rajoja tai kirjoittaa vakavasta aiheesta vitsinä ymmärtämättä, millaisen hälytyksen viesti saattaa aiheuttaa.

Toisaalta keskustelu voi olla nuoren ensimmäinen yritys kertoa aidosta hädästä paikassa, jonka hän kokee kasvokkaista keskustelua helpommaksi.

Siksi ilmoitusta ei pitäisi tulkita varmaksi todisteeksi kriisistä eikä myöskään sivuuttaa automaattisesti vääränä hälytyksenä.

Metan mukaan tärkeintä on tarkistaa nuoren turvallisuus ja käydä tilanteesta rauhallinen keskustelu.

Vanhempaa neuvotaan pysymään rauhallisena

Metan vanhemmille antamissa ohjeissa suositellaan kertomaan ilmoituksesta suoraan mutta syyttämättä.

Vanhempi voi sanoa esimerkiksi saaneensa ilmoituksen siitä, että nuoren keskustelu tekoälyn kanssa saattoi käsitellä itsemurhaa tai itsensä vahingoittamista.

Samalla nuorelle kannattaa tehdä selväksi, ettei hän ole vaikeuksissa tai rangaistavana.

”Et ole tehnyt mitään väärää. Välitän sinusta. Voimmeko puhua siitä, mitä tapahtui?” kuuluu yksi Metan ehdottamista keskustelunavauksista.

Vanhempaa neuvotaan kuuntelemaan ilman välitöntä arvostelua tai ratkaisujen tarjoamista.

Nuorelta voi kysyä suoraan, onko hän ajatellut itsemurhaa, vahingoittanut itseään tai suunnitellut tekevänsä niin.

Tutkimuskatsauksissa suoran kysymisen ei ole havaittu lisäävän itsetuhoisia ajatuksia. Puheeksi ottaminen voi päinvastoin helpottaa kertomista ja avun saamista.

Toiminto vaatii Instagramin vapaaehtoisen valvonnan

Uusi ilmoitus ei koske automaattisesti kaikkia Meta AI:ta käyttäviä nuoria.

Vanhemman ja nuoren pitää olla ottanut käyttöön Instagramin vanhempien valvontatyökalu.

Meta kuvailee valvontaa vapaaehtoiseksi järjestelyksi, joka perustuu vanhemman ja nuoren yhteiseen sopimukseen.

Valvonnan kautta vanhempi voi hallita esimerkiksi käyttöaikoja, tarkastella nuoren käyttämiä ominaisuuksia ja nähdä yleisiä aiheita, joista nuori on kysynyt Meta AI:lta.

Vanhempi voi jo nyt nähdä viimeksi kuluneiden seitsemän päivän aikana käsiteltyjen aiheiden luokkia, kuten koulun, matkailun, viihteen tai hyvinvoinnin.

Kyse on aiheista ja luokista, ei koko keskustelun tekstistä.

Itsemurhaan ja itsensä vahingoittamiseen liittyvät ilmoitukset ovat tavallisia aihekoosteita tarkempi ja kiireellisemmäksi tarkoitettu turvaominaisuus.

Instagram ilmoittaa jo huolestuttavista hauista

Uusi tekoälytoiminto jatkaa Instagramissa aikaisemmin vuonna 2026 käyttöön otettua järjestelmää.

Instagram voi ilmoittaa valvovalle vanhemmalle, jos nuori yrittää lyhyen ajan sisällä toistuvasti hakea itsemurhaan tai itsensä vahingoittamiseen liittyviä termejä.

Instagram estää moniin tällaisiin hakuihin liittyvät tulokset ja näyttää niiden sijasta tukipalveluja.

Hakuilmoitukset otettiin ensin käyttöön Yhdysvalloissa, Britanniassa, Australiassa ja Kanadassa.

Toukokuussa 2026 Meta ilmoitti laajentavansa ne Euroopan unioniin, Brasiliaan ja Intiaan.

Hakuihin perustuva ilmoitus vaatii muutaman aiheeseen liittyvän hakuyrityksen lyhyessä ajassa.

Meta ei ole kertonut julkisesti tarkkaa hakujen määrää tai aikarajaa, jotta järjestelmää ei olisi helppo kiertää.

Meta suunnittelee yhteydenottoja hätäkeskuksiin

Meta kertoo kehittävänsä myös mahdollisuutta ottaa yhteyttä viranomaisiin, jos Meta AI:n keskustelu viittaa välittömään itsemurhavaaraan.

Toiminto koskisi sekä aikuisia että alaikäisiä käyttäjiä.

Se ei ole vielä laajasti käytössä, eikä Meta kerro tarkkaa julkaisuaikataulua.

Yhtiö tekee jo nyt vastaavia yhteydenottoja Facebookissa ja Instagramissa julkaistujen viestien perusteella.

Meta kertoo tehneensä vuoden 2025 aikana maailmanlaajuisesti yli 19 000 ilmoitusta ensivasteen viranomaisille tilanteissa, joissa käyttäjän arvioitiin olevan mahdollisessa itsemurhavaarassa.

Luku on Metan itsensä ilmoittama. Yhtiö ei kerro tiedotteessa, kuinka moni ilmoitus johti todellisen vaaratilanteen havaitsemiseen tai kuinka moni osoittautui aiheettomaksi.

Tekoälykeskustelujen perusteella tehtävä viranomaisilmoitus herättää myös käytännön kysymyksen siitä, pystyykö palvelu määrittämään käyttäjän sijainnin riittävän luotettavasti.

Yli 75 ammattilaista arvioi tekoälyn vastauksia

Meta kertoo pyytäneensä palautetta yli 75:ltä nuorten mielenterveyteen erikoistuneelta kliinikolta.

Ammattilaiset arvioivat satoja Meta AI:n vastauksia itsemurhaan ja itsensä vahingoittamiseen liittyviin nuorten kysymyksiin.

Palautteessa tarkasteltiin muun muassa sitä, tunnistaako tekoäly nuoren tunteet, ohjaako se turvallisesti tuen pariin ja katkaiseeko se keskustelun liian äkillisesti.

Metan mukaan järjestelmää muutetaan niin, ettei se vain anna kriisipalvelujen yhteystietoja, vaan myös reagoi nuoren tunnetilaan myötätuntoisemmin.

Yhtiöllä on lisäksi AI Wellbeing Expert Council -asiantuntijaryhmä sekä erillisiä nuorten hyvinvointiin ja itsetuhoisuuden ehkäisyyn keskittyviä neuvonantajia.

Meta ei kuitenkaan julkaissut kliinikkojen arviointimenetelmää, kaikkia käytettyjä testikysymyksiä tai riippumatonta tutkimusta järjestelmän turvallisuudesta.

Siksi ulkopuolisten on vaikea arvioida, kuinka luotettavasti Meta AI toimii todellisissa ja monimutkaisissa kriisikeskusteluissa.

Väärä hälytys voi vaikuttaa nuoren luottamukseen

Turvallisuustoiminnon tavoite on ymmärrettävä: vakavassa tilanteessa varhainen tieto voi auttaa vanhempaa puuttumaan tilanteeseen.

Järjestelmällä voi silti olla kielteisiä seurauksia, jos se tulkitsee keskustelun väärin.

Nuori voi menettää luottamuksensa vanhempaan tai palveluun, jos koulutehtävää tai ystävän tilannetta koskeva keskustelu johtaa yllättävään ilmoitukseen.

Hän voi myös alkaa kiertää tiettyjä sanoja tai siirtyä käyttämään palvelua, jossa vanhemmille ei lähetetä ilmoituksia.

Erityisen hankala tilanne voi olla nuorella, jonka koti ei ole turvallinen tai joka pelkää vanhempansa reaktiota.

Meta ei yksityiskohtaisesti kerro, miten järjestelmä huomioi tilanteet, joissa valvova vanhempi on itse osa nuoren ahdistuksen tai turvattomuuden syytä.

Siksi vanhemmille annettujen ohjeiden painotus rauhalliseen ja tuomitsemattomaan kohtaamiseen on keskeinen osa koko järjestelmän turvallisuutta.

Manuaalinen tarkistus herättää yksityisyyskysymyksiä

Metan lupaus ihmisen tekemästä tarkistuksesta voi vähentää tekoälyn virheitä, mutta se tekee yksityisyyskysymyksestä samalla konkreettisemman.

Nuori saattaa olettaa keskustelevansa vain tekoälyjärjestelmän kanssa, vaikka sisältö voi päätyä ihmisen arvioitavaksi.

Yhtiön pitäisi siksi kertoa käyttäjälle selkeästi, että turvallisuusjärjestelmä voi johtaa keskustelun tarkistamiseen ja vanhemmalle tehtävään ilmoitukseen.

Oleellisia kysymyksiä ovat myös tarkastajien koulutus, salassapito, keskustelujen säilytysaika ja se, käytetäänkö arkaluonteista sisältöä tekoälymallien kehittämiseen.

Metan julkaisussa ei anneta näihin kaikkiin kysymyksiin yksityiskohtaisia vastauksia.

Toiminnon maailmanlaajuinen laajentaminen edellyttää lisäksi eri maiden tietosuojalainsäädännön ja alaikäisten oikeuksien huomioimista.

Tiukempi sisältöasetus laajenee tekoälyyn

Meta tuo Meta AI -keskusteluihin myös Instagramin Limited Content -asetuksen.

Se on vanhemman valittavissa oleva tavallista rajoitetumpi sisältötila.

Teinitilit käyttävät oletuksena niin sanottua 13+ sisältöasetusta, jonka tavoitteena on pitää sisältö suurin piirtein 13 vuotta täyttäneille sopivana.

Meta AI on jo ohjelmoitu välttämään nuorten kanssa esimerkiksi seksuaalisia ja romanttisia keskusteluja sekä alkoholijuomien valmistusohjeita.

Limited Content -tilassa tekoäly kieltäytyy Metan mukaan vastaamasta vielä laajempaan joukkoon arkaluonteisia kysymyksiä.

Yhtiö ei kuitenkaan yksilöinyt TechCrunchille, mitä kaikkia uusia aiheita tai kysymystyyppejä rajoitus koskee.

Tekoäly ei korvaa kriisipalvelua tai ammattilaista

Meta korostaa omassa ohjekeskuksessaan, ettei sen toiminto korvaa kriisipalveluja tai terveydenhuoltoa.

Tekoäly voi tarjota ensimmäisen matalan kynnyksen paikan ajatusten sanoittamiseen, mutta se ei pysty tekemään luotettavaa kliinistä arviota samalla tavalla kuin koulutettu ammattilainen.

Se voi tulkita viestin väärin, antaa liian yleisen vastauksen tai jäädä vaille ratkaisevaa tietoa nuoren tilanteesta.

Myös kriisitilanteen tunnistaminen pelkän tekstin perusteella on vaikeaa. Nuori voi vähätellä vaaraa, käyttää epäsuoria ilmauksia tai lopettaa keskustelun ennen kuin tilanne selviää.

Vanhemman saama ilmoitus pitäisi nähdä keskustelun lähtökohtana eikä valmiina diagnoosina tai varmana riskiluokituksena.

Suomessa apua saa myös nimettömästi

Nuoren itsetuhoiset ajatukset on aina syytä ottaa vakavasti.

Välittömässä hengenvaarassa pitää soittaa hätänumeroon 112 tai hakeutua päivystykseen.

MIELI ry:n Kriisipuhelin päivystää suomeksi ympäri vuorokauden numerossa 09 2525 0111.

12–29-vuotiaille tarkoitettu Sekasin-chat on avoinna arkisin kello 9–24 ja viikonloppuisin kello 15–24.

Mannerheimin Lastensuojeluliiton maksuton ja nimetön Lasten ja nuorten puhelin palvelee numerossa 116 111.

Kesällä 19. kesäkuuta–10. elokuuta numero päivystää joka päivä kello 17–24. Muina aikoina palvelun ajantasaiset aukioloajat kannattaa tarkistaa MLL:n sivuilta.

Nuori voi ottaa asian puheeksi myös kouluterveydenhoitajan, kuraattorin, psykologin, lääkärin tai muun luotettavan aikuisen kanssa.

Uudistus näyttää tekoälypalvelujen uuden vastuun

Meta AI:n ilmoitukset kertovat laajemmasta muutoksesta tekoälypalveluissa.

Chatbotteja ei enää käytetä vain tiedonhakuun, vaan ihmiset kertovat niille yksinäisyydestä, ihmissuhteista ja mielenterveyden kriiseistä.

Tämä pakottaa teknologiayhtiöt ratkaisemaan, milloin yksityinen keskustelu muuttuu tilanteeksi, jossa palvelun pitää puuttua asiaan.

Liian herkkä järjestelmä voi loukata yksityisyyttä ja tuottaa turhia hälytyksiä. Liian varovainen järjestelmä voi jättää vakavan vaaran tunnistamatta.

Metan ratkaisu yhdistää tekoälytunnistuksen, ihmisen tekemän tarkistuksen ja vanhemmalle lähetettävän ilmoituksen.

Sen todellista hyötyä voidaan arvioida vasta, kun yhtiö julkaisee tietoja ilmoitusten määrästä, vääristä hälytyksistä ja siitä, kuinka usein toiminto auttaa nuoren saamaan tukea.