OpenAI Впроваджує Режим Для Дорослих у ChatGPT: Чи Підтримуємо Ми Небезпечні Експерименти?

OpenAI ховає плани щодо запуску функції еротичних бесід у ChatGPT через внутрішні суперечки та технічні проблеми. Згідно з інформацією, яку надав Wall Street Journal, радники цієї команди попереджали про можливі ризики, пов’язані з надмірною емоційною залежністю користувачів від передбачуваних чатів. Дебати про доцільність такої функції ведуться вже тривалий час, і хоча компанія відклала її запуск, остаточне рішення досі не ухвалене.

У січні радники OpenAI чітко висловили свої занепокоєння, зазначивши, що це може призвести до небезпечних наслідків, навіть до “секс-суїцидального коуча”, оскільки деякі користувачі нерідко формують зависокі емоційні зв’язки з чат-ботами. Втім, Altman, CEO OpenAI, натякає на те, що підприємство планує продовжувати роботу в цьому напрямку, хоча і зі зміною термінів запуску.

Ідея дозволити повнолітнім користувачам вести еротичні бесіди у ChatGPT виникла ще в жовтні минулого року. Із відкриттям цієї функції планувалося обмежити контент лише текстовими переговорами — без зображень та відео. Проте критики завчасно заявляли, що такий крок може підірвати моральні цінності або навіть посилити залежність користувачів.

Технічні труднощі, з якими зіткнулася компанія, також викликають обурення. Система вікової перевірки, призначена для запобігання доступу дітей до контенту для дорослих, не справляється із своїми функціями — демонструючи значну частку хибних суджень, — що стало основною причиною перенесення запланованого запуску.

Додатково, формальності всередині компанії стають предметом неспокоєння. Створення консультаційної ради, яка мала б займатися питаннями психологічного благополуччя від використання технологій, було нещодавно затьмарене запланованим публічним оголошенням про нову функцію. Це призвело до запитань щодо реального впливу ради на ухвалення рішень всередині OpenAI.

Незважаючи на всі ці проблеми, сама ідея не повинна викликати сумнівів у концепції – технології розвиваються, і ринок неодмінно потребує нових підходів до взаємодії з штучним інтелектом. Проте, OpenAI необхідно знайти баланс між комерційними інтересами та етичними аспектами функціонування своїх продуктів, щоб уникнути подальших скандалів і критики з боку суспільства.