
Технологічні гіганти запускають ініціативу для захисту дітей в онлайн-просторі
Найвпливовіші технологічні корпорації об’єднали зусилля для запуску некомерційної ініціативи ROOST, яка спрямована на розробку та впровадження безкоштовних цифрових інструментів для підвищення безпеки дітей в інтернеті.
Про це повідомляє The Verge.
Такі компанії, як Roblox, Discord, OpenAI та Google, спільно заснували ROOST (Robust Open Online Safety Tools) – організацію, що зосереджується на створенні відкритих AI-рішень для виявлення, аналізу та звітування про контент, пов’язаний із сексуальною експлуатацією дітей (CSAM).
Головна мета ініціативи – вдосконалити існуючі методи онлайн-захисту через відкритість і співпрацю. До цього проєкту залучені експерти зі штучного інтелекту, які розробляють інструменти модерації контенту. На початковому етапі ROOST отримала фінансування у розмірі понад 27 мільйонів доларів від благодійних фондів, що забезпечить її діяльність у перші чотири роки. Очікується, що ініціатива зробить AI-алгоритми безпеки доступнішими для платформ через API-інтеграцію.
Створення ROOST стало відповіддю на дедалі зростаючий тиск з боку регуляторів та суспільства щодо підвищення онлайн-безпеки для дітей. За даними Національного центру зниклих та експлуатованих дітей, у 2022–2023 роках зафіксовано 12-відсотковий ріст підозр у випадках експлуатації дітей.
Кожен з учасників ROOST робить внесок по-своєму: деякі надають фінансову підтримку, інші діляться своїми технологічними напрацюваннями. Наприклад, Discord розширює власну ініціативу Lantern, що сприяє обміну інформацією між платформами, а Roblox готує до відкритого доступу свою AI-систему, яка автоматично розпізнає ненормативну лексику, прояви расизму, булінг та інші форми токсичного контенту в аудіоматеріалах.
Цей проєкт є свідченням спільного прагнення технологічних компаній до створення безпечнішого цифрового простору для молодих користувачів та підвищення рівня відповідальності у сфері онлайн-контенту.