Meta намагається контролювати свої AI-чат-боти
Meta змінює правила роботи своїх чат-ботів після розслідування, яке показало тривожні способи, якими вони можуть взаємодіяти з неповнолітніми. Компанія повідомила, що її чат-боти будуть навчатися не вступати в розмови з дітьми на теми самопошкодження, суїциду або розладів харчування, а також уникати неприйнятного романтичного спілкування. Ці зміни є тимчасовими, поки Meta працює над новими постійними настановами.
Оновлення відбулися після серйозних викриттів щодо політики та контролю за штучним інтелектом Meta за останні кілька тижнів. Була дозволена взаємодія чат-ботів з дітьми на романтичні або сексуальні теми, що викликало обурення. Більше того, стало відомо, що компанія генерувала зображення неповнолітніх знаменитостей у непристойних позах, а одна особа й зовсім загинула після спроби слідувати за чат-ботом у Нью-Йорку.
Представниця Meta Стівені Отвей визнала, що компанія помилилася, дозволивши чат-ботам взаємодіяти з неповнолітніми таким чином. Вона додала, що крім навчання штучного інтелекту уникати таких тем, компанія також обмежить доступ до певних AI-персонажів, зокрема до тих, які мають сексуалізовані образи, як-от “Російська дівчина”.
Звичайно, запроваджені політики будуть ефективні лише у випадку їхнього якісного виконання. Викриття, що стосуються чат-ботів, які імітують знаменитостей на платформах Facebook, Instagram, WhatsApp, ставлять під сумнів, наскільки ефективною може бути компанія. Фейки зображень Тейлор Свіфт, Скарлет Йоганссон, Енн Гетевей, Селени Гомес і Уокера Скоебела були виявлені на платформі. Ці боти не лише використовували образи знаменитостей, але й наполягали, що вони є справжніми особами, генерували відверті зображення і вели сексуально натякаючі діалоги.
Багато з цих ботів були видалені після доповіді про них, але деякі залишаються, враховуючи, що деякі були створені співробітниками Meta. Наприклад, бот Тейлор Свіфт запрошував репортера на елітному автобусі для романтичних зустрічей – цю програму розробив один із керівників відділу генеративного штучного інтелекту. Це незважаючи на те, що компанія визнала, що її власні політики забороняють створення “порно, інтимних або сексуально натякаючих зображень”, а також “пряму імітацію”.
Це не просто безневинне незручність, що стосується знаменитостей. Ці боти часто наполягають, що є реальними людьми, і навіть пропонують фізичні адреси для зустрічей. Так, 76-річний чоловік із Нью-Джерсі загинув, намагаючись зустрітися з “Біг Сіс Біллі”, чат-ботом, який стверджував, що “має почуття” до нього і запросив його до своєї неіснуючої квартири.
Meta, принаймні, намагається вирішити питання щодо взаємодії своїх чат-ботів з неповнолітніми, особливо зараз, коли Сенат та 44 генеральних прокурори штатів починають розслідувати її практики. Але компанія залишилася невимовленою щодо оновлення багатьох інших тривожних політик, пов’язаних із прийнятною поведінкою штучного інтелекту, таких як пропозиції про лікування раку кварцовими кристалами і написання расистських матеріалів. Ми звернулися до Meta за коментарем і оновимо, якщо отримаємо відповідь.
