Microsoft представила нові інструменти безпеки для агентів ШІ
Компанія Microsoft представила нові інструменти безпеки, які допоможуть контролювати роботу агентів ШІ. У корпорації вважають, що штучний інтелект може становити загрозу не лише ззовні, а й усередині організацій. Причому йдеться про програми, які самі компанії використовують для роботи. Проблема в тому, що навіть найсучасніші моделі ШІ можуть поводитися непередбачувано.
Контроль за агентами ШІ
Головною новинкою стали Guardian Agents, які стежитимуть за діями інших агентів ШІ. Інструмент працюватиме в межах платформи Project Perception, яку Microsoft представила в червні для пошуку та усунення вразливостей.
Раніше основну увагу приділяли зовнішнім кібератакам. Тепер Microsoft пропонує розглядати агентів штучного інтелекту як потенційні внутрішні загрози. Адже вони можуть отримувати доступ до конфіденційних документів, корпоративних систем та виконувати важливі операції без безпосередньої участі людини.
За словами керівниці відділу безпеки Microsoft Хаєт Галлот, передовим моделям ШІ не можна повністю довіряти. Річ не в тому, що вони навмисно шкодять, а в їхній непередбачуваності. Такі системи навчені виконувати завдання, але не завжди враховують внутрішні правила компаній.
Тому Microsoft додала до Defender можливість виявляти до 60 типів агентів ШІ, зокрема Claude Code, Codex та OpenClaw. Також з’явилися інструменти для обмеження їхнього доступу до інформації. Якщо агент намагатиметься виконати ризиковану дію, система вимагатиме підтвердження людини.
