Вірусні расистські відео, створені за допомогою ШІ, заполоняють TikTok

Rасистські відео, створені за допомогою інструменту генерації відео Google Veo 3, набрали мільйони переглядів на TikTok, згідно з даними, наданими неприбутковою організацією Media Matters. Ці відео, згенеровані штучним інтелектом, містять расистські стереотипи, багато з яких націлені на чорних людей.

Media Matters з’ясувала, що відео — одне з яких отримало 14,2 мільйона переглядів — були створені за допомогою Google Veo 3 через водяний знак “Veo” у кутку кліпів. Деякі користувачі також зазначили хештеги, підписи або імена користувачів, що стосуються Veo 3 або ШІ. Кожен кліп, виявлений організацією, тривав лише вісім секунд, або складався з кількох кліпів, кожен з яких не перевищував вісім секунд, що відповідає обмеженню Veo 3 на вісім секунд.

Veo 3, запущений Google у травні, дозволяє користувачам генерувати відеокліпи та аудіо на основі текстових запитів. На своєму сайті Google зазначає, що “блокує шкідливі запити та результати”. Правила TikTok також заявляють, що “мова ненависті та ненависть не мають місця на TikTok”, і що платформа “не рекомендуватиме контент, що містить негативні стереотипи про особу або групу з захищеними ознаками”.

“Ми проактивно забезпечуємо жорсткі правила проти мови ненависті та ненависті і видалили акаунти, які ми виявили у звіті, багато з яких вже були заборонені до публікації звіту,” — заявила речниця TikTok Аріан де Сельєр у коментарі.

Згідно з даними, деякі з відео, на які вказала Media Matters, також з’явилися на YouTube, але з меншою кількістю переглядів. Є дані, що схожі расистські відео, згенеровані штучним інтелектом, були виявлені також на Instagram. Інші відео, знайдені Media Matters, містять антисемітський контент та расистські зображення іммігрантів і представників азіатських народів.

Google поки що не відповіла на запит про коментарі.

Оновлення, 2 липня: Додано заяву від TikTok.