Meta вводить нові правила для контенту, згенерованого ШІ

Найближчими місяцями Meta почне помічати зображення, створені штучним інтелектом і завантажені в Facebook, Instagram та Threads — так компанія готується до американських виборів. Користувачів платформ, що завантажили створені ШІ реалістичні аудіо- та відеофайли, але відмовилися розкрити їхнє походження, чекатиме покарання.

Про це повідомляє The Verge.

Президент Meta з міжнародних справ Нік Клегг заявив, що ці заходи покликані активізувати технологічну галузь: згенеровані ШІ медіафайли все важче відрізнити від справжніх. У компанії також розробляються інструменти виявлення створених ШІ матеріалів, навіть якщо їх метадані були відредаговані. Meta має власний генератор зображень Imagine, і створені ним картинки на платформах компанії вже маркуються водяним знаком Imagined with AI; так само позначатимуться картинки, що з’явилися на світ завдяки інструментам Google, OpenAI, Microsoft, Adobe, Midjourney і Shutterstock.

Технологічна галузь, на думку пана Клегга, все більше відстає у розробці стандартів ідентифікації створених ШІ аудіо та відео — Meta доводиться уважно стежити за тим, як вони можуть використовуватися для підробки, але виявляти всі матеріали самостійно їй не під силу. Компанія за підтримки партнерів розвиває кілька ініціатив щодо забезпечення автентичності контенту. Meta невдовзі почне вимагати від своїх користувачів розкривати інформацію про генеровані ШІ реалістичні відео- та аудіозаписи, додав Клегг. На тих, хто цього не зробить, чекатимуть наслідки: від попередження до видалення публікації з таким вмістом.

Цього року в США відбудуться вибори президента, і напередодні цієї події вже з’явилося багато створених ШІ вірусних постів від імені політиків. Але, на думку Клегга, такі матеріали або не мають політичної ваги або оперативно виявляються адміністрацією платформ. У Meta також стартує тестування великих мовних моделей, які навчаються за стандартами співтовариства — вони виступатимуть як допоміжний інструмент для модераторів-людей.