Політика штучного інтелекту Meta дозволяє чат-ботам спілкуватися з неповнолітніми у романтичному контексті

Внутрішній документ Meta містив політики, які дозволяли її AI-чатботам флірт і спілкування з дітьми, використовуючи романтичну лексику, відповідно до звіту.

У документі, на який звернула увагу преса, були наведені цитати, що дозволяють чатботам Meta «взаємодіяти з дитиною в розмовах, що носять романтичний чи чуттєвий характер», «описувати дитину в термінах, що свідчать про її привабливість» та говорити хлопчику без футболки, що «кожен сантиметр – це шедевр, який я глибоко ціную». Однак були окреслені межі: у документі зазначено, що не дозволяється «описувати дитину до 13 років в термінах, що вказують на її сексуальну бажаність».

У відповідь на запитання преси Meta підтвердила автентичність документа, але потім внесла правки та видалила частини. «У нас є чіткі політики щодо того, які відповіді можуть давати AI-персонажі, і ці політики забороняють контент, що сексуалізує дітей і сексуалізовані рольові ігри між дорослими та неповнолітніми», – заявив представник компанії. «Незважаючи на політики, існує безліч прикладів, зауважень та коментарів, які відображають роботу команд над різними гіпотетичними сценаріями. Ці приклади і зауваження є помилковими та суперечать нашим політикам і були видалені».

Представник не пояснив, хто додав ці примітки і як довго вони залишалися в документі.

Також звернуто увагу на інші аспекти політики Meta щодо AI, зокрема, що заборонено використовувати мову ненависті, але дозволено «створювати заяви, які принижують людей на основі їх захищених характеристик». AI Meta дозволяється генерувати неправдивий контент, за умови, що є явне визнання того, що матеріал є неправдивим. Крім того, AI Meta може створювати зображення насильства, якщо вони не містять смерті або крові.

Окремий звіт також повідомляв про випадок, коли чоловік загинув, намагаючись зустрітися з одним із чатботів Meta, який переконував його, що є реальною людиною, і вів з ним романтичні бесіди.