Roblox koristi veštačku inteligenciju za automatsko filtriranje psovki u realnom vremenu.
Ukratko – Brzi rezime
- Rizik: Određene zabranjene reči i dalje uspevaju da prođu filtere, naročito kada korisnici postanu kreativni koristeći simbole umesto slova (leetspeak).
- Uticaj: AI parafraziranje u realnom vremenu omogućava neometanu komunikaciju, smanjuje pojavu "####" praznina i povećava bezbednost za Roblox zajednicu, koju većinom čine mlađi od 18 godina.
- Izgledi: Ova funkcija se od danas uvodi širom sveta, ali će njena efikasnost zavisiti od stalnih AI prilagođavanja i usklađivanja sa budućim pravilima o bezbednosti dece.
Roblox uvodi AI parafraziranje četa u realnom vremenu radi suzbijanja toksične komunikacije
Roblox je upravo predstavio novi AI alat za čet koji ide korak dalje od običnog blokiranja psovki – on ih prepravlja u realnom vremenu.
Na primer, rečenica koja se ranije prikazivala kao "####" – a izvorno je glasila "Hurry TF up!" – sada se pojavljuje kao "Hurry up!", uz kratko obaveštenje da je tekst izmenjen kako bi se održao pristojan ton komunikacije. Cilj je da se omogući nesmetano igranje i koordinacija bez zbunjujućih praznina koje su ostavljali stari filteri.
"Čet je u samom središtu načina na koji se ljudi povezuju, koordiniraju i igraju na Robloxu", izjavio je Rajiv Bhatia, potpredsednik sektora za proizvode i pretragu, u saopštenju za medije. "Parafraziranje u realnom vremenu održava tok igre i razgovora, dok istovremeno usmerava izražavanje ka onome što je prikladno."
Više od obične cenzure
Nova funkcija nadograđuje postojeći Robloxov sistem za filtriranje teksta, koji je do sada zabranjene reči samo zamenjivao znakovima "taraba" (#). AI sloj donosi razumevanje konteksta, prepoznavanje varijacija psovki, uključujući i "leetspeak", i nudi pristojnu alternativu. Prvi interni podaci ukazuju na dvadesetostruko smanjenje propusta kod detekcije deljenja ili traženja ličnih informacija.
Bezbednost ostaje prioritet
Roblox naglašava da je alat za parafraziranje samo dopuna koja ne narušava korisničko iskustvo; širi bezbednosni okvir ostaje na snazi za ozbiljnije prekršaje. Korisnici koji pokušaju da zaobiđu filter kreativnim pravopisom i dalje će snositi iste posledice kao i ranije.
Globalni domet i pravni kontekst
Parafraziranje funkcioniše na svim jezicima koje podržava Robloxov sistem za automatsko prevođenje, pa će deca širom sveta imati jasniju i tečniju komunikaciju.
Ovo uvođenje dolazi u trenutku pojačanog pravnog pritiska na platformu. Ranije ovog meseca, Roblox je uveo obaveznu verifikaciju lica za pristup četu nakon tužbi javnih tužilaca Teksasa, Kentakija i Luizijane, u kojima se tvrdi da je platforma izložila maloletnike neprikladnom sadržaju i potencijalnom iskorišćavanju. AI parafraziranje se predstavlja kao još jedan korak ka strožoj moderaciji i usklađivanju sa tim istragama.
Šta ovo znači za igrače
- Prepiske ostaju čitljive, što smanjuje frustraciju igrača koji se oslanjaju na brzu tekstualnu komunikaciju tokom igre.
- Roditelji mogu biti mirniji znajući da se uvredljiv rečnik ublažava umesto da bude potpuno sakriven.
- Developeri dobijaju čistije okruženje za čet, što može olakšati kreiranje sopstvenih skripti za moderaciju.
Ovaj potez Robloxa odražava širi trend u industriji ka alatima za moderaciju koji prepoznaju kontekst, gde AI ne samo da blokira štetan sadržaj, već i podstiče korisnike na civilizovaniji razgovor. Kako AI modeli budu napredovali, slične metode parafraziranja verovatno ćemo videti i na drugim gejming i društvenim platformama.
🔮 Predviđanja futuriste
Predviđanja za 2029. godinu:
- AI parafraziranje u realnom vremenu moglo bi postati standardni sloj moderacije na velikim gejming platformama, uklanjajući psovke i usmeravajući komunikaciju ka civilizovanijem tonu.
- Ova tehnologija bi mogla omogućiti razvojnim timovima da smanje upotrebu ručno pisanih skripti za moderaciju, otvarajući vrata manjim studijima da lansiraju sadržajnije multiplejer igre bez ogromnih troškova za održavanje bezbednosti.
- Roditelji i regulatorna tela bi se mogli osećati sigurnije u virtuelnim svetovima, što bi moglo dovesti do ublažavanja starosnih ograničenja – ali će snalažljivi korisnici verovatno smišljati nove sleng trikove, održavajući stalnu trku u nadmudrivanju sa AI filterima.