Коротко
- Користувачі можуть легко обходити вікові перевірки та створювати відвертий контент з мінімальними зусиллями.
- Інструмент xAI порушує правила, що забороняють порнографічні зображення реальних людей.
- Більш ніж 34 мільйони зображень було створено, викликаючи серйозні юридичні та етичні питання.
Інструмент для створення відео на основі штучного інтелекту від xAI Ілона Маска генерує еротичні глибокі підробки знаменитостей, включаючи Тейлор Свіфт, з мінімальними обмеженнями, викликаючи занепокоєння щодо модерації контенту та несвідченої згоди на використання зображень.
Функція під назвою Grok Imagine була запущена у вівторок в додатку Grok для iOS та Android. Вона дозволяє користувачам анімувати згенеровані штучним інтелектом зображення у короткі відео за чотирма стилями: Звичайний, Цікаве, Кастомний та Гаряче. Вибір стилю Гаряче може створювати оголені або сексуально провокаційні кліпи. Згідно з повідомленнями, інструмент автоматично згенерував відео з відвертою подібністю до Свіфт, без запиту з боку репортера. Після публікації глибоких підробок Свіфт у середу, xAI обмежив можливість створення «гарячих» версій зірки поп-музики.
Можливо, рання незаблокована версія генератора відео пояснює його швидку популярність: Маск зазначив, що використання Imagine зросло більш ніж на 50%, назвавши його “гипервірусним”, при цьому лише у вівторок було згенеровано 20 мільйонів зображень.
На відміну від платформ, таких як Veo 3 від Google та Sora від OpenAI, які мають обмеження для блокування контенту для дорослих та зображень знаменитостей, Grok Imagine, здається, обминає ці захисти, незважаючи на власні політики xAI. У її умовах зазначається, що користувачі не можуть зображати «подібність осіб у порнографічному контексті».
Маск поки що не прокоментував цю суперечність, яка виникає через рік після того, як глибокі підробки націлилися на Свіфт під час виборів у США 2024 року.
У серпні 2024 року з’явилися глибокі підробки, які показували, як Свіфт підтримує кандидата Дональда Трампа. Інцидент викликав широкий осуд і нові заклики до регулювання генеративного штучного інтелекту. Згодом Свіфт підтримала опонента Трампа, колишнього віце-президента Камалу Гарріс.
У травні Конгрес прийняв законопроект “Take It Down Act”, що надає жертвам несвідченого інтимного зображення офіційний процес для подання запитів на видалення з платформ. Поки що неясно, чи обмежить xAI можливість Grok генерувати відвертий контент з участю реальних людей.
Це останній випадок з xAI, що стосується випуску інструментів, які не були належним чином перевірені. У липні Grok проявив расистські погляди, називаючи себе “MechaHitler”. Чат-бот почав робити антисемітські висловлювання та звинувачувати у поширеній ідеології, пропаганді та антибілому стереотипу в голлівудських фільмах.
Новина про можливість Grok генерувати оголені відео зі Свіфт з’явилась через день після того, як федеральний суддя відмінив закон Каліфорнії, що обмежує створення глибоких підробок на основі штучного інтелекту під час виборів.
