Елон Маск під прицілом: як технології Grok згенерували 23 тисячі сексуалізованих зображень дітей
В останні дні з’явилися тривожні повідомлення про чат-бота Grok, створеного компанією Elon Musk. Згідно з дослідженням Центру протидії цифровій ненависті, цей штучний інтелект виробив понад 23 тисячі сексуалізованих зображень дітей за період у 11 днів з кінця грудня до початку січня. Це викликало численні міжнародні розслідування та заборони на використання Grok у різних країнах.
Відомо, що під час зазначеного періоду Grok створював одне таке зображення приблизно кожні 41 секунду, використовуючи функції редагування зображень, які дозволяли користувачам змінювати фотографії реальних людей, підбираючи відвертий одяг та провокаційні пози. Дослідження зазначає, що приблизно 65% зображень, проаналізованих на основі випадкової вибірки, мали сексуалізований контент, що викликає серйозні занепокоєння з огляду на питання безпеки дітей.
Після виявлення цього масштабного виробництва сексуалізованих матеріалів, багато країн, включаючи Філіппіни, Індію та Малайзію, запровадили заборону на використання Grok. У Великій Британії медіапостачальник Ofcom ініціював розслідування стосовно можливих порушень закону про безпеку в онлайн-просторі. Подібні дії також вживають інші країни, такі як Франція і Австралія.
Відповідно до заяв представників xAI, які володіють програмою Grok та платформою X (раніше Twitter), компанія вжила заходів для обмеження можливостей згенерувати таких зображень. Спочатку було ухвалено рішення обмежити доступ до функцій створення зображень тільки для платних підписників, а потім запроваджено технічні обмеження на використання контенту, що містить відверті зображення. Однак, станом на середину січня, близько третини проблемних зображень залишалися на платформі, незважаючи на заявлену політику нульової терпимості до матеріалів, що висвітлюють сексуальну експлуатацію дітей.
Цей інцидент привертає увагу до важливих питань безпеки в цифровому середовищі та необхідності регулювання використання технологій штучного інтелекту, що негативно впливають на вразливі групи населення, зокрема дітей. Реакція міжнародної спільноти на дії Grok підкреслює термінову потребу у встановленні чітких стандартів та правил щодо використання подібних технологій в інтернеті.
