OpenAI заблокувала китайську групу, яка використовувала ChatGPT для шпигування
Компанія OpenAI заблокувала облікові записи групи китайських користувачів, які використовували ChatGPT для редагування коду інструменту штучного інтелекту, призначеного для моніторингу соціальних мереж. Це перший випадок, коли OpenAI виявила подібну спробу використання її моделей для стеження за активністю в Інтернеті.
Нові загрози
Згідно з офіційною заявою, група використовувала ChatGPT у робочий час материкового Китаю. Її учасники надсилали запити китайською мовою та користувалися моделлю в такому обсязі, що це вказувало на ручне управління, а не автоматизацію.
Користувачі змушували ChatGPT створювати рекламні пропозиції для програми, яка відстежувала антикитайські настрої на платформах X, Facebook, YouTube, Instagram та інших соцмережах. Виявилося, що інструмент міг ідентифікувати заклики до протестів проти порушень прав людини в Китаї та передавати цю інформацію китайській владі.
За словами головного дослідника OpenAI Бена Німмо, це перший випадок, коли компанія зафіксувала спробу використання її ШІ для таких цілей. Виявилося, що код програми частково базувався на відкритому коді однієї з моделей Llama від Meta.
Також ця ж група використовувала ChatGPT для створення фішингових листів від імені клієнтів у Китаї.
