Deadbots – чат-бот з ШІ, який несе загрозу користувачам
Фахівці з Кембриджського університету попередили, що продукти штучного інтелекту, які дозволяють розмовляти з втраченими близькими, здатні зашкодити. Вони завдають користувачам психологічної шкоди та створюють в цифровому просторі можливості для надокучливого переслідування.
«Deadbots» або «Griefbots» — це чат-боти штучного інтелекту, які імітують мовні моделі та риси особистості мертвих, використовуючи цифрові сліди, які вони залишають. Деякі компанії вже пропонують ці послуги, популяризуючи абсолютно новий підхід до поминальної церемонії. Фахівці з етики штучного інтелекту з Кембриджського Центру майбутнього описали до яких негативних наслідків такі інструменти можуть привести.
Неправильне використання Deadbots
Деякі компанії можуть використовувати таких ботів, для реклами. Оскільки Deadbots — це сервіс, у якому є всі основні дані про померлого, їх можна вивчити та рекламувати живим родичам речі, які нагадували б про нього.
Окрім цього чат-боти можуть використовуватися компаніями для розсилання спаму родинам і друзям померлого. Небажані сповіщення, нагадування, оновлення, інформація про послуги – це схоже на справжнє переслідування.
Також дослідники стверджують, що щоденні розмови з “цифровим покійником” виснажують психологічно. Це не дає можливості пройти всі етапи горя та відпустити людину.
Доктор Катажина Новачик-Басінська, співавтор дослідження та дослідник Кембриджського Центру майбутнього, підкреслює, що ця сфера ШІ є етичним мінним полем. З однієї сторони цифровим двійником можуть скористатися для отримання інформації недоброчесні компанії, з іншої — людина може залишити симуляцію штучного інтелекту як подарунок на прощання для близьких.
