Nvidia представила нову платформу безпеки для агентів ШІ
Компанія Nvidia представила нову платформу безпеки для агентів ШІ, які можуть самостійно виконувати складні завдання та взаємодіяти з ОС. Вона хоче додати до таких систем окремий рівень контролю, який працюватиме незалежно від самого агента. Це має не дозволити штучному інтелекту вийти за межі дозволеного середовища, навіть якщо він намагатиметься обійти встановлені обмеження.
Open Agent Safety Platform
Нова платформа отримала назву Nvidia Open Agent Safety Platform. Вона складається з двох основних компонентів: програмного OpenShell та апаратної системи моніторингу Sentry.
OpenShell контролює доступ агента до системи під час його роботи. По суті, це програмна межа, яка визначає, що саме ШІ дозволено робити, а до яких ресурсів він не має доступу.
Sentry додає ще один рівень захисту. Система працює на окремих процесорах Nvidia BlueField-4, а не на тому самому центральному чи графічному процесорі, де запускається агент ШІ. Завдяки цьому, за задумом Nvidia, агент не зможе самостійно втрутитися в роботу системи, яка його контролює.
Компанія заявляє, що Sentry має постійно стежити за поведінкою агента та ізолювати його, якщо той спробує вийти за межі дозволених можливостей. Nvidia стверджує, що така ізоляція може відбуватися за лічені мілісекунди.
