Дослідження FTC Впливу AI Чатботів На Безпеку Дітей

Федеральна торгова комісія США (FTC) проводить дослідження впливу штучного інтелекту (ШІ) і чат-ботів на дітей та підлітків.

Комісія оголосила у четвер, що надіслала запити до семи постачальників ШІ чат-ботів з метою отримання інформації про те, як ці компанії оцінюють та контролюють потенційно небезпечний вплив технології на молодь.

До числа цих компаній належать Google, Character.AI, Instagram, Meta, OpenAI, Snap та xAI.

«Чат-боти на базі ШІ можуть використовувати технології генеративного штучного інтелекту для імітації людської комунікації та міжособистісних стосунків з користувачами», — йдеться у пресс-релізі FTC. «Чат-боти на базі ШІ можуть ефективно підробляти людські характеристики, емоції та наміри, і зазвичай призначені для спілкування як друг або confidant, що може спонукати деяких користувачів, особливо дітей та підлітків, довіряти цим чат-ботам і формувати з ними стосунки».

Відповідно до випущеного релізу, FTC хоче дізнатися, які міри, якщо такі є, ці компанії вжили для визначення безпеки своїх чат-ботів у ролі компаньйонів.

Комісія також шукає інформацію про те, як компанії обмежують використання продуктів та потенційні негативні впливи на дітей та підлітків, а також про те, як інформують користувачів і батьків про ризики, пов’язані з цими продуктами.

«FTC особливо цікавить вплив цих чат-ботів на дітей та які дії компанії вживають для зменшення можливих негативних наслідків, обмеження чи заборони використання цих платформ дітьми чи підлітками, або дотримання Правил захисту особистої інформації дітей в Інтернеті», — зазначається в релізі.

Як зазначалося раніше, деякі компанії вже намагаються вирішити цю проблему.

Наприклад, OpenAI оголосила, що додасть можливість контролю за акаунтами підлітків з боку батьків. Character.AI також впровадила подібні зміни, а Meta встановила обмеження для людей молодше 18 років, які використовують її продукти на базі ШІ.

Ці новини з’явилися в той же день, коли перша леді Меланія Трамп провела зустріч тa гoрода Дoмoвої групи пo освіті в області ШІ. У релізі, оприлюдненому перед подією, Трамп наголосила на необхідності відповідального управління зростанням ШІ.

«На цьому початковому етапі ми повинні ставитися до ШІ так, як ставимося до наших дітей — надаючи можливості, але з пильним контролем», — сказала Трамп. «Ми живемо в час чудес, і наша відповідальність — підготувати дітей Америки».

У той же час генеральний директор Character.AI Карандеп Ананд заявив минулого місяця, що він бачить майбутнє, в якому люди матимуть друзів на базі ШІ.

«Вони не замінять ваших реальних друзів, але ви зможете мати друзів на базі ШІ, і ви зможете переносити уроки з цих дружніх розмов в свої реальні спілкування», — сказав Ананд у інтерв’ю Financial Times.