Rick Beato löysi YouTubesta tekoälykanavan, joka jäljittelee oikeaa muusikkoa – ”Internet on kuollut”

Muusikko ja suosittu tubettaja Rick Beato varoittaa tekoälyllä tuotetusta kopiosisällöstä, joka valtaa YouTubea ja Instagramia. Hänen esittelemänsä AI-kanava näyttää jäljittelevän Rhett Shullin vanhaa studiota, kopioivan tämän pikkukuvia ja julkaisevan nopeasti tuotettuja kitaravideoita.

Muusikko, tuottaja ja YouTube-sisällöntuottaja Rick Beato on kyllästynyt tekoälyllä massatuotettuihin videoihin, joita alustojen suosittelujärjestelmät tarjoavat oikeiden tekijöiden sisältöjen rinnalla.

The Internet Is Dead…And Nobody Cares -videollaan Beato esittelee kanavan, jonka AI-hahmo puhuu kitaroista tutulta näyttävässä studiossa. Hahmon kasvot eivät ole kitaratubettaja Rhett Shullin kasvot, mutta lähes kaikki muu ympäristössä näyttää Beaton mukaan olevan peräisin Shullin vanhoista videoista.

Taustalla näkyvät Shullin farkkutakkia muistuttava vaatetus, tietokone, kaiuttimet ja oranssi kitaravahvistin. Beato kertoo tunnistaneensa Orange AD30 -vahvistimen erityisen helposti, koska hän oli itse ostanut sen Shullille tämän 30-vuotislahjaksi kuusi vuotta aikaisemmin.

”Kaikki tässä on Rhettin, paitsi tuo mies”, Beato kiteyttää.

AI-video ilmestyi heti oikean videon jälkeen

Beaton huomio kiinnittyi YouTube-suositukseen, jossa kaksi lähes samaa aihetta käsittelevää videota näkyi peräkkäin.

Toinen oli Rhett Shullin julkaisema video Fenderin ja Thomannin välisestä kiistasta. Sen yläpuolella näkyi Chase Guitar Gems -nimisen kanavan vastaavaa aihetta käsittelevä video, jonka juontajana esiintyi tekoälyltä vaikuttava hahmo.

Shullin video oli julkaistu vain päivää aikaisemmin.

Samankaltainen aihe ei yksin todista kopiointia, sillä ajankohtaisesta uutisesta voivat luonnollisesti tehdä videoita useat kanavat. Beaton mukaan epäilyä vahvistivat kuitenkin AI-hahmon ympäristö ja muut kanavalta löytyneet sisällöt.

Shull oli itse huomannut kanavan ja soittanut Beatolle myöhään illalla näyttääkseen löydöksensä.

Myös Rhett Shullin pikkukuvaa jäljiteltiin

Shull näytti Beatolle oman videonsa pikkukuvan, jossa käsiteltiin Gibson-kitaroiden suurinta ongelmaa.

AI-kanavan toisessa videossa käytettiin lähes samaa sommittelua. Kitaran väriä ja videon otsikkoa oli muutettu, mutta kuvan perusidea ja visuaalinen rakenne olivat hyvin samankaltaisia.

Beato kuvailee AI-kanavan versiota selvästi alkuperäistä heikkolaatuisemmaksi.

Pikkukuvien jäljittely on sisällöntuottajille merkittävä ongelma, sillä YouTubessa katsojan huomio ratkaistaan usein jo ennen videon avaamista. Tunnetulta kanavalta näyttävä kuva voi saada käyttäjän klikkaamaan videota, vaikka sisältö olisi täysin toisen tahon tuottamaa.

Uusi video vaihtoi taustan mutta jatkoi samalla tavalla

Beato löysi kanavalta pian uuden videon, jossa AI-juontaja esiintyi erilaisessa taustassa. Video käsitteli väitettä, jonka mukaan tunnettujen valmistajien bassokitarat ovat ylihinnoiteltuja.

Juontajan ääni, huulten liike ja ilmeet vaikuttavat synteettisiltä. Kertojan puheen päälle näytetään tekoälyllä luoduilta vaikuttavia kuvia kitaroista, soittajista ja musiikkikaupoista.

Video sisältää myös tahattoman virheen. Englannin sana bass voi tarkoittaa sekä bassokitaraa että kalaa, vaikka sanat lausutaan eri tavoin.

Synteettinen kertoja lausuu bassokitaraa tarkoittavan sanan väärin kalasta käytettävällä ääntämyksellä. Beato pitää virhettä esimerkkinä siitä, ettei automaattinen järjestelmä ymmärtänyt käsittelemänsä lauseen asiayhteyttä.

Yhdessä videossa oli AI-merkintä ja toisessa ei

Beaton mukaan Fenderiä ja Thomannia käsittelevään videoon ilmestyi myöhemmin ilmoitus tekoälyn käytöstä. Merkintä lisättiin vasta sen jälkeen, kun Rhett Shull oli nostanut kanavan toiminnan esiin.

Kanavan uudemmassa bassovideossa vastaavaa merkintää ei Beaton tarkasteluhetkellä näkynyt, vaikka video vaikutti kauttaaltaan tekoälyllä tuotetulta.

YouTube vaatii tekijöitä ilmoittamaan realistisesta sisällöstä, joka on tuotettu tai olennaisesti muutettu tekoälyllä. Ilmoituksen jälkeen videoon voidaan lisätä maininta synteettisestä sisällöstä.

Kaikkea AI-avusteista työskentelyä ei kuitenkaan tarvitse merkitä. Esimerkiksi ideointiin, tekstitykseen, kuvan pieniin värikorjauksiin tai käsikirjoituksen parantamiseen käytetty tekoäly ei yleensä vaadi ilmoitusta.

Realistiselta näyttävä keinotekoinen juontaja, synteettinen ääni ja todellisena kuvamateriaalina esitetty AI-video kuuluvat sen sijaan tyypillisesti ilmoitusvelvollisuuden piiriin.

Beato pyysi Geminiä tutkimaan videon

Beato latasi epäilemänsä videon Googlen Gemini-tekoälylle ja kysyi, oliko sen tekemisessä käytetty tekoälyä.

Gemini arvioi juontajan olevan tekoälyllä luotu avatar tai muutettu hahmo. Se kiinnitti huomiota kasvojen hetkelliseen vääristymiseen, puheen tasaiseen rytmiin, hengityksen puuttumiseen sekä kuvamateriaalissa näkyviin anatomisiin ja rakenteellisiin virheisiin.

Palvelu arvioi myös äänen olevan synteettinen ja osan liikkuvista videoista generatiivisilla videomalleilla tuotettua.

Gemini nimesi mahdollisiksi työkaluiksi useita avatar-, huulisynkronointi- ja puhepalveluja. Näitä arvauksia ei kuitenkaan voida pitää varmistettuina tietoina siitä, millä ohjelmilla video todellisuudessa tehtiin.

Yleiskäyttöinen tekoälypalvelu ei ole luotettava rikostekninen AI-tunnistin. Se voi huomata ilmeisiä poikkeamia mutta myös erehtyä sekä sisällön alkuperästä että käytetyistä työkaluista.

Kasvot hajosivat hetkellisesti kesken puheen

Videon selvin virhe näkyy kohdassa, jossa AI-juontajan kasvot vääristyvät ja palautuvat hetken kuluttua normaalin näköisiksi.

Kasvojen muoto, suu ja iho näyttävät vaihtavan paikkaa tavalla, jota tavallisessa kuvatussa videossa ei tapahtuisi.

Tällaiset virheet ovat tyypillisiä huulisynkronointia ja videomuunnoksia hyödyntäville tekoälyjärjestelmille. Järjestelmä yrittää sovittaa uuden puheen valmiiseen tai keinotekoisesti luotuun kasvoon, mutta yksityiskohdat voivat hajota vaikean liikkeen aikana.

Beato nostaa esiin myös kertojan lähes muuttumattoman puhenopeuden ja keinotekoisen kuuloisen rytmin. Synteettiset äänet ovat kehittyneet nopeasti, mutta pitkässä puheessa niiden tasaisuus ja hengitystauot voivat edelleen paljastaa alkuperän.

Instagram-video vääristeli kitaran historiaa kuvillaan

Beato esittelee videollaan myös Instagramissa vastaan tulleen julkaisun, joka kertoo sähkökitaran historiasta.

Videossa mainitaan George Beauchamp ja Adolph Rickenbacker, jotka liittyvät varhaisen sähkökitaran kehitykseen. Historiallista tarinaa havainnollistavat kuvat näyttävät kuitenkin Beaton mukaan lähes kokonaan tekoälyllä tuotetuilta.

Yhdestä alkuperäisestä valokuvasta on luotu suuri määrä uusia kuvia, jotka esitetään vanhaa arkistoaineistoa muistuttavassa muodossa.

AI-kuvissa näkyvissä kitaroissa on väärä määrä kieliä ja virityskoneistoja. Nauhamerkkejä on paikoissa, joihin niitä ei oikeissa soittimissa asetettaisi, ja kitaroiden tekstit muodostuvat merkityksettömistä kirjainjonoista.

Kuvat voivat näyttää nopeasti katsottuna uskottavilta, mutta soitinten rakenteen tunteva katsoja huomaa virheet välittömästi.

Yksi alkuperäinen kuva muuttui kokonaiseksi kuvitteelliseksi historiaksi

Beaton keskeinen huoli ei ole vain se, että tekoäly tekee rumia tai virheellisiä kitaroita.

Ongelma syntyy siitä, että keinotekoiset kuvat esitetään historiallisessa asiayhteydessä ilman selvää ilmoitusta. Katsoja voi luulla näkevänsä aitoja valokuvia sähkökitaran kehitysvaiheista.

Kun yhdestä aidosta kuvasta rakennetaan kokonainen kuvitteellinen kuvasto, todellisen historian ja visuaalisesti vakuuttavan sepityksen raja hämärtyy.

Erityisen hankalaa tämä on lyhyissä somevideoissa, joita katsotaan nopeasti ja ilman lähdetietojen tarkistamista.

Sama video voi levitä Instagramissa, Facebookissa, TikTokissa ja YouTube Shortsissa miljoonille käyttäjille ennen kuin kukaan ehtii oikaista sen kuvia tai väitteitä.

Meta käyttää AI-merkintöjä mutta tunnistus ei ole täydellistä

Meta edellyttää käyttäjiä ilmoittamaan realistiselta näyttävästä tekoälyvideosta tai aidolta kuulostavasta synteettisestä äänestä.

Instagram ja Facebook voivat lisätä sisältöön AI-merkinnän käyttäjän oman ilmoituksen, teknisten metatietojen tai alustan tunnistusjärjestelmien perusteella.

Järjestelmä ei kuitenkaan tunnista kaikkea tekoälysisältöä. Kuvan tai videon käsittely, tallentaminen uudelleen ja siirtäminen eri palvelujen välillä voi poistaa alkuperää koskevia teknisiä tietoja.

Toisaalta AI-merkintä ei itsessään tarkoita, että sisältö olisi harhaanjohtavaa tai arvotonta. Tekoälyä voidaan käyttää avoimesti taiteeseen, animaatioon, opetukseen ja viihteeseen.

Beaton arvostelu kohdistuu ennen kaikkea sisältöön, jossa tekoälyä käytetään peittämään tekijän henkilöllisyys ja kopioimaan muiden luovaa työtä mahdollisimman nopeasti.

Miksi algoritmi suosittelee tällaista sisältöä?

Beato kysyy videollaan, miksi YouTube ja Instagram suosittelevat tekoälyllä massatuotettuja videoita oikeiden tekijöiden töiden rinnalla.

Suosittelujärjestelmä ei yleensä arvioi sisältöä samalla tavalla kuin asiantunteva toimittaja tai musiikintekijä. Se ennustaa käyttäjän toiminnan perusteella, mitä tämä todennäköisesti katsoo, klikkaa tai kommentoi.

Tekoälykanava voi hyödyntää tätä tuottamalla nopeasti videoita aiheista, joiden tiedetään jo kiinnostavan yleisöä. Otsikot ja pikkukuvat voidaan muotoilla tunnettujen kanavien tavoin, ja uusia julkaisuja voidaan tehdä huomattavasti ihmistekijää nopeammin.

Jos video saa riittävästi klikkauksia ja katseluaikaa, järjestelmä voi tarjota sitä edelleen, vaikka sisältö olisi pinnallista tai osittain virheellistä.

Beaton löytämä esimerkki on erityisen pysäyttävä siksi, että kopioitu AI-video ilmestyi hänen syötteessään alkuperäisen tekijän aidon videon viereen.

YouTube voi evätä massatuotetun sisällön kaupallistamisen

YouTube sallii tekoälyn käytön, eikä AI-sisältö menetä automaattisesti oikeutta mainostuloihin.

Alustan kaupallistamissäännöt kieltävät kuitenkin vähäarvoisen, toistuvan ja massatuotetun sisällön, joka näyttää syntyneen samasta mallipohjasta ilman merkittävää omaa näkökulmaa.

Kaupallistamisen ulkopuolelle voivat jäädä esimerkiksi geneerisillä AI-malleilla tehdyt videot, joissa käsikirjoitus, kertoja ja kuvat vaihtuvat vain vähän videosta toiseen.

Myös muilta kanavilta tai verkkosivuilta kerätty sisältö voi rikkoa uudelleenkäytettyä sisältöä koskevaa sääntöä, jos siihen ei lisätä olennaista kommentointia, opetuksellista arvoa tai luovaa muokkausta.

Sääntö ei silti tarkoita, että jokainen tällainen video poistettaisiin alustalta. Kaupallistamisen estäminen, AI-merkinnän lisääminen ja sisällön poistaminen ovat toisistaan erillisiä toimenpiteitä.

Kopioitu tyyli ei aina ole helppo tekijänoikeustapaus

Tekoälyllä tehty Rhett Shullia muistuttava studio herättää kysymyksen siitä, milloin toisen sisällöntuottajan visuaalisen ilmeen jäljittelystä tulee lainvastaista.

Yksittäinen farkkutakki, vahvistin tai studion yleinen tunnelma ei välttämättä saa tekijänoikeussuojaa. Suoraan kopioitu valokuva, videokuva, grafiikka tai pikkukuva voi sen sijaan olla suojattu teos.

Myös harhaanjohtava esiintyminen ja vaikutelman luominen yhteydestä tunnettuun tekijään voivat nostaa esiin muita oikeudellisia kysymyksiä.

Kanavan nimi ja hahmon erilaiset kasvot saattavat estää sitä olemasta suora Rhett Shullin henkilöllisyyden kaappaus. Kokonaisuus voi silti olla suunniteltu hyödyntämään katsojan tuttuuden tunnetta ja Shullin vuosien aikana rakentamaa visuaalista identiteettiä.

Pikkukuvan lähes suora kopiointi on konkreettisempi esimerkki kuin pelkkä samanlaisen studion käyttäminen.

Beato syyttää tekoäly-yhtiöitä taiteen varastamisesta

Videonsa lopussa Beato laajentaa arvostelunsa yksittäisistä kanavista koko generatiivisen tekoälyn teollisuuteen.

Hänen mukaansa AI-kuvat, videot ja tekstit ovat mahdollisia vain siksi, että järjestelmät on koulutettu oikeiden taiteilijoiden ja kirjoittajien tuottamalla aineistolla.

”Kaikki tämä tekoälyn tuottaminen käyttää koulutusaineistona taiteilijoilta varastettua materiaalia”, Beato väittää.

Väite kuvaa monien luovan alan tekijöiden kokemusta, mutta sitä ei voi pitää kaikkia tekoälymalleja koskevana ratkaistuna oikeudellisena tosiasiana.

Mallien koulutusaineistot ja niiden käyttöoikeudet vaihtelevat. Osa yhtiöistä käyttää lisensoitua, avointa tai itse tuotettua aineistoa, kun taas monien suurten mallien koulutuksessa on hyödynnetty laajasti verkosta kerättyä sisältöä.

Tekijänoikeuskiistat siitä, milloin teosten käyttäminen mallien kouluttamiseen on sallittua, jatkuvat eri maissa ja oikeusasteissa.

Spotify taistelee AI-musiikin väärinkäyttöä vastaan

Beato nostaa videollaan esiin myös Spotifyn ja kysyy, miksi suoratoistopalvelu tarjoaa tekoälyllä tuotettua sisältöä oikeiden artistien rinnalla.

Spotify ei kiellä kaikkea tekoälyllä tehtyä musiikkia. Palvelu on kuitenkin tiukentanut sääntöjään luvattomia äänijäljitelmiä, väärille artistisivuille ladattua musiikkia ja massatuotettua roskasisältöä vastaan.

Spotifyn mukaan tunnetun artistin ääntä saa jäljitellä julkaistussa musiikissa vain tämän luvalla.

Palvelu on lisäksi kehittänyt suodatinta, jonka tarkoituksena on tunnistaa esimerkiksi suuria massalatauksia, kappaleiden kopioita, hakukoneoptimointiin perustuvia julkaisuja ja poikkeuksellisen lyhyillä kappaleilla tehtävää järjestelmän hyväksikäyttöä.

Spotify on ilmoittanut kehittävänsä myös musiikin alkuperää kuvaavia AI-tietoja yhdessä musiikkialan toimijoiden kanssa.

”Kuollut internet” ei tarkoita kirjaimellisesti tyhjää verkkoa

Beaton videon otsikko viittaa kuolleen internetin teoriaan. Sen äärimmäisen version mukaan suuri osa verkkoliikenteestä, sisällöstä ja keskustelusta olisi jo bottien tuottamaa.

Beato ei yritä todistaa teoriaa kirjaimellisesti oikeaksi. Hänen videonsa osoittaa konkreettisemman huolen: internetissä ihmisen tekemän ja automaattisesti tuotetun sisällön erottaminen vaikeutuu.

Oikea sisällöntuottaja voi käyttää päiviä tai viikkoja tutkimiseen, kuvaamiseen ja editointiin. AI-kanava voi jäljitellä aiheen, kuvan ja esitystavan tunneissa tai jopa minuuteissa.

Kun molemmat videot asetetaan algoritmisessa syötteessä samanarvoisiksi vaihtoehdoiksi, ihmisen tekemän työn alkuperä ja merkitys voivat kadota.

Internet ei siis ole kuollut siksi, ettei siellä olisi oikeita ihmisiä. Beaton näkökulmasta se on vaarassa kuolla, jos keinotekoinen kopiosisältö peittää alkuperäiset tekijät näkyvistä.

AI-sisältö ei itsessään ole ongelma

Tekoälyä voidaan käyttää myös tavalla, joka auttaa luovia tekijöitä ilman, että yleisöä johdetaan harhaan.

Muusikko voi hyödyntää sitä ideointiin, äänen puhdistamiseen, tekstityksiin tai visuaaliseen kokeiluun. Videontekijä voi luoda selvästi kuvitteellisen animaation ja kertoa avoimesti, millä tekniikalla se on tehty.

Ongelmallinen yhdistelmä syntyy, kun tekoälyllä kopioidaan toisen tekijän tunnistettava ilmaisu, sisältö julkaistaan ilman asianmukaista merkintää ja tavoitteena on hyödyntää alkuperäisen työn keräämä huomio.

Katsojalle tärkeintä on mahdollisuus tietää, katsooko hän oikean ihmisen kuvaamaa videota, tekoälyllä luotua hahmoa vai näiden yhdistelmää.

Merkintä ei yksin ratkaise sisältöjen laatua, tekijänoikeuksia tai algoritmien kannustimia. Se on silti vähimmäisedellytys sille, että yleisö pystyy arvioimaan näkemäänsä.

Alustojen ratkaisut määrittävät, kuka verkossa näkyy

Rick Beaton esimerkki osoittaa, ettei tekoälysisällön ongelma rajoitu siihen, tunnistaako katsoja vääristyneet kasvot tai ylimääräiset kitarankielet.

Suurempi kysymys koskee sitä, millaista sisältöä YouTube, Instagram ja Spotify palkitsevat näkyvyydellä ja rahalla.

Jos nopea, halpa ja kopioiva sisältö saa yhtä paljon suosituksia kuin alkuperäinen työ, massatuotanto muuttuu taloudellisesti kannattavaksi. Samalla oikean asiantuntijan, muusikon tai toimittajan on vaikeampi tavoittaa yleisönsä.

Alustat ovat jo luoneet AI-merkintöjä, kaupallistamisrajoituksia ja väärinkäytösten ilmoituskanavia. Beaton video osoittaa, etteivät nykyiset keinot aina estä kopiosisältöä päätymästä suoraan alkuperäisen tekijän viereen.

Ratkaisu ei välttämättä ole kaiken tekoälysisällön kieltäminen. Alustojen pitäisi pystyä erottamaan toisistaan avoimesti tehty luova AI-työ ja automaattinen sisältö, jonka arvo perustuu muiden työn jäljittelemiseen.