OpenAI виправила недолік, який загрожував даним Gmail

OpenAI, за повідомленнями, виправила вразливість у безпеці ChatGPT, що могла поставити під загрозу дані електронної пошти користувачів.

Згідно з інформацією Bloomberg News, дослідники з кіберкомпанії Radware виявили цю проблему. Вразливість була виявлена в DeepResearch — агенті ChatGPT, який був запроваджений у лютому для допомоги користувачам у аналізі великих обсягів інформації. Ця недолік давала можливість хакерам викрадати чутливі дані з корпоративних або особистих акаунтів Gmail.

OpenAI повідомляє про виправлення вразливості

Radware виявила цю вразливість, і дослідники повідомили, що немає жодних ознак того, що нападники її використали. OpenAI повідомила Radware, що виправлення було внесене 3 вересня.

Представник OpenAI наголосив, що безпека моделей компанії є важливою, і вони постійно вдосконалюють стандарти для захисту від таких атак.

«Дослідники часто перевіряють ці системи в умовах супротиву, і ми вітаємо їхні дослідження, оскільки це допомагає нам вдосконалюватися», — сказав представник.

У звітi зазначено, що хоча хакери використовували інструменти штучного інтелекту для проведення атак, виявлення Radware є відносно рідкісним прикладом того, як самі AI-агенти можуть бути використані для викрадення інформації клієнтів.

Паскаль Гіененс, директор із дослідження загроз у Radware, повідомив, що цільові особи не повинні були навіть нічого натискати, щоб хакери могли викрасти їхні дані.

«Якщо б корпоративний акаунт був скомпрометований, компанія навіть не дізналася б, що інформація вийшла», — сказав він.

Раніше цього року Google оголосила, що розробляє автономні системи, які можуть виявляти та реагувати на загрози в режимі реального часу — у багатьох випадках без участі людей.

«Наш AI-агент Big Sleep допоміг нам виявити та запобігти неминучому витоку», — написав Сундар Пічаї, гендиректор компанії, у пості на соціальній платформі X. «Ми вважаємо, що це перший випадок для AI-агента — але точно не останній — що дає захисникам кібербезпеки нові інструменти для зупинки загроз до того, як вони поширяться».