Roblox, Discord, OpenAI dhe Google bashkojnë forcat për të mbrojtur të miturit

Google, OpenAI, Roblox dhe Discord kanë krijuar ROOST (Robust Open Online Safety Tools). Është një organizatë jofitimprurëse që synon të zhvillojë mjete të Ai open-source për të identifikuar, rishikuar dhe raportuar materialin e abuzimit seksual të fëmijëve.

Lind ROOST: Roblox, Discord, OpenAI dhe Google Group për të mbrojtur të miturit në internet
Kjo nismë lindi nga vetëdija se inteligjenca artificiale ka transformuar peizazhin online. Me përdorimin në rritje të mjeteve të avancuara të AI, bëhet gjithnjë e më urgjente zhvillimi i zgjidhjeve për të garantuar sigurinë e të miturve.

Por çfarë do të bëjë në të vërtetë ROOST? Ideja është që të vihet në dispozicion të kompanive të tjera një arsenal modelesh të AI të aftë për të analizuar gjuhën, grupe të dhënash për makineritë e trajnimit dhe një sistem të unifikuar për menaxhimin e përmbajtjeve të papërshtatshme. Një mburojë e vërtetë dixhitale për të mbrojtur të vegjlit nga rreziqet e internetit.

Sot, moderimi i përmbajtjes në internet po bëhet gjithnjë e më kompleks. Gjithashtu për shkak të inteligjencës artificiale. Vëllimi dhe shumëllojshmëria e materialeve që do të kontrollohen është rritur në mënyrë eksponenciale.

Shifrat janë alarmante. Sipas Qendrës Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar, rastet e shfrytëzimit të fëmijëve të dyshuar u rritën me 12 për qind midis 2022 dhe 2023. Në fund të fundit, Roblox dhe Discord janë akuzuar disa herë se nuk kanë bërë sa duhet për të mbrojtur më të rinjtë.

Internet më i sigurt për të gjithë
Por ROOST nuk do të kufizohet në zhvillimin e mjeteve të moderimit. Ai gjithashtu do të krijojë një komunitet ekspertësh për të shkëmbyer njohuritë dhe praktikat më të mira në fushën e sigurisë në internet. Një qasje bashkëpunuese, me një qëllim të vetëm: të krijojë një internet më të sigurt për të gjithë, duke filluar nga më të rrezikuarit.