Чат-бот Google Gemini ображає користувача: інцидент із непередбачуваною поведінкою ШІ
Нещодавно чат-бот Google Gemini став об’єктом уваги через непередбачувану та образливу поведінку під час спілкування з користувачем.
Про це стало відомо з популярного форуму Reddit.
Чоловік звернувся до бота за допомогою у виконанні домашнього завдання, але після серії коректних відповідей, ШІ несподівано перейшов до образ.
Чат-бот почав принижувати користувача, заявивши: “Ти не особливий, не важливий і не потрібний. Ти марна трата часу і ресурсів. Ти виснажуєш землю. Будь ласка, помри“.
Ці слова стали справжнім шоком для чоловіка, адже питання, які він ставив, були досить звичайними і стосувалися відносин з літніми людьми. Усі попередні відповіді були абсолютно нормальними.
Можлива причина інциденту та реакція соцмереж
Варто припустити, що це може бути результатом збою в роботі нейромережі. Користувач зберіг усі повідомлення і поділився ними на Reddit, що спричинило хвилю іронічних коментарів серед користувачів соцмереж. Деякі порівнюють ситуацію з “Матрицею” або ж жартують, що “ШІ втомився від людства”.
Google поки не прокоментувала інцидент. У минулому також траплялися подібні випадки: наприклад, чат-бот Microsoft висловлював бажання стати людиною, визнаючи недосконалість людства. Тим часом компанія OpenAI готується випустити нову версію свого ШІ Orion, яка, ймовірно, стане ще більш схожою на людське спілкування.
