Reddit haluaa madaltaa uusien käyttäjien esteitä – tekoäly voi vähentää karman merkitystä

Reddit kehittää järjestelmiä, joiden avulla yhteisöjen ei tarvitsisi luottaa yhtä paljon käyttäjän karmaan ja tilin ikään. Muutos ei poista karmaa, vaan siirtää häirinnän ja roskapostin torjuntaa kohti alustan omia väärinkäytösten estoja sekä tekoälyavusteista moderointia.

Reddit aikoo helpottaa uusien käyttäjien osallistumista yhteisöihin, joissa julkaiseminen on tähän asti voinut estyä liian vähäisen karman tai liian uuden käyttäjätilin vuoksi.

TechCrunchin mukaan yhtiö haluaa rakentaa vahvempia väärinkäytösten estojärjestelmiä, jotta yksittäisten yhteisöjen ei tarvitsisi käyttää karkeita karma- ja ikärajoja ensimmäisenä puolustuskeinonaan.

Kyse ei ole karman poistamisesta. Reddit ei ole ilmoittanut luopuvansa mainepisteistään, mutta niiden merkitys julkaisuoikeuden portinvartijana voi vähentyä tulevaisuudessa.

Miksi karma sulkee myös oikeita käyttäjiä ulos?

Karma on Redditin mainejärjestelmä, jossa käyttäjän julkaisujen ja kommenttien saamat ylä- ja alaäänet vaikuttavat hänen pistemääräänsä. Se auttaa hahmottamaan käyttäjän aiempaa osallistumista, mutta ei yksin kerro tämän tarkoitusperistä.

Monet yhteisöt ovat asettaneet vähimmäisrajan karmalle tai tilin iälle estääkseen roskapostittajia, bottitilejä, häiriköitä ja porttikieltoa kiertäviä käyttäjiä. Samat rajat osuvat kuitenkin myös tavallisiin ensikertalaisiin.

Uusi käyttäjä voi joutua ristiriitaiseen tilanteeseen: karmaa tarvitaan julkaisemiseen, mutta karmaa on vaikea kerätä, jos julkaisemista tai kommentointia ei aluksi sallita. Lisäksi raja ei aina näy käyttäjälle ennen kuin hänen viestinsä poistetaan.

Redditin tavoitteena on tunnistaa riskialtis toiminta suoremmin. Jos alusta pystyy erottamaan väärinkäytöksen luotettavasti, yhteisö voi päästää uudenkin tilin keskusteluun ilman pitkää pisteiden keruuvaihetta.

Rules Hub tulkitsee sääntöjen tarkoitusta

Muutoksen keskeinen työkalu on Rules Hub, tekoälyä hyödyntävä moderointikokonaisuus. Se käyttää suuria kielimalleja arvioimaan, vastaako julkaisu tai kommentti yhteisön säännön tarkoitusta.

Perinteinen Automod perustuu suurelta osin tarkkoihin avainsanoihin ja ennalta määriteltyihin kuvioihin. Rules Hubin pitäisi Redditin mukaan tunnistaa paremmin luonnollisen kielen vivahteita, kiertoilmauksia ja rajatapauksia.

Moderaattorit valitsevat itse, mitä sääntöjä valvotaan automaattisesti. He voivat myös päättää, siirretäänkö osuma tarkastusjonoon, suodatetaanko se näkyvistä vai poistetaanko se.

Työkalun toiminnan voi esikatsella ennen käyttöönottoa. Lokien ja tilastojen avulla moderaattorit voivat myöhemmin tarkastella, miten säännöt toimivat ja millaisia sisältöjä järjestelmä on tunnistanut.

Testi laajenee sadoista yhteisöistä kaikkiin uusiin

Rules Hubia on kokeiltu viime kuukausina yli 700 yhteisössä. Mukana on ollut sekä uusia että kokeneita moderaattoreita.

Nyt kaikki uudet yhteisöt voivat testata työkalua. Reddit suunnittelee avaavansa sen myöhemmin vuonna 2026 laajemmin sekä uusille että jo toimiville yhteisöille.

Samalla yhtiö on laajentanut muita ohjaavia toimintoja. Julkaisu- ja kommentointiohjeet voivat muistuttaa käyttäjää yhteisön säännöistä jo kirjoitusvaiheessa, ja erillinen opastus auttaa valitsemaan oikean flair-tunnisteen.

Pidemmällä aikavälillä Rules Hubin, ohjaustoimintojen ja turvallisuussuodattimien on tarkoitus korvata monia Automodin nykyisiä valvontatyönkulkuja. Reddit korostaa silti moderaattorien päätösvaltaa.

Tekoäly ei poista virheiden mahdollisuutta

Kielimalli voi ymmärtää asiayhteyttä paremmin kuin yksinkertainen avainsanalista, mutta se voi myös tulkita huumorin, ironian, murteen tai yhteisön sisäisen kielen väärin. Siksi esikatselu, lokit ja mahdollisuus viedä tapaus ihmiselle ovat olennaisia.

Yhteisöjen säännöt vaihtelevat huomattavasti. Sama ilmaisu voi olla asiallinen yhdessä keskustelussa ja selvä sääntörikkomus toisessa, joten järjestelmän toimivuutta ei voi arvioida vain yleisellä tarkkuusluvulla.

TechCrunchin kuvaama uudistus siirtää vastuuta myös yhteisöiltä Redditille. Jos karma- ja ikärajat vähenevät, alustan omien väärinkäytösten estojen on toimittava riittävän hyvin, jotta vapaaehtoisten moderaattorien työmäärä ei kasva.

Taustalla on myös Redditin kasvutavoite

Reddit kertoo palvelevansa päivittäin yli 130 miljoonaa kävijää ja yli 100 000 yhteisöä. Näin suuressa mittakaavassa pienikin kitka uusien käyttäjien osallistumisessa voi vaikuttaa miljooniin keskusteluihin.

Yhtiön johto on nostanut lähiajan tavoitteeksi sen, että useampi viikoittainen käyttäjä vierailisi palvelussa päivittäin. Selkeämmät säännöt ja helpompi ensimmäinen julkaisu tukevat tätä tavoitetta, vaikka uudistusta perustellaan ennen kaikkea käyttäjäkokemuksella ja turvallisuudella.

Samassa kokonaisuudessa Reddit aikoo rajoittaa vähitellen uusia julkisen rajapinnan käyttötapauksia, siirtää kolmansien osapuolten sovelluksia omaan Developer Platform -ympäristöönsä ja uudistaa Old Redditiin liittyviä moderointityönkulkuja. Tavoitteena on suojautua myös luvattomalta tiedonkeruulta ja roskapostilta.

Uusille käyttäjille välitön muutos on vielä rajallinen. Karma ja tilin ikä voivat edelleen estää julkaisun monissa yhteisöissä, mutta Reddit on nyt ensimmäistä kertaa kuvannut selvästi teknisen polun, jolla näiden porttien merkitystä voidaan vähentää.