Коротко
- OpenAI представила ChatGPT Agent, що дозволяє штучному інтелекту виконувати складні завдання за допомогою віртуального комп’ютера.
- Цей інструмент викликає занепокоєння з приводу безпеки, зокрема ризики атак на запити.
- OpenAI додала засоби безпеки, але попередила користувачів бути обережними.
OpenAI презентувала свій найавтономніший інструмент штучного інтелекту – версію ChatGPT, яка здатна переглядати веб, запускати додатки та виконувати реальні завдання без значної людської участі. Однак з таким розвитком технології виникають нові загрози для безпеки.
ChatGPT Agent, запущений у четвер, дозволяє користувачам доручати складні завдання, такі як планування відпусток, бронювання готелів, дослідження конкурентів, створення слайд-презентацій та навіть оформлення замовлень в онлайн-магазинах.
Ця функція почне впроваджуватись сьогодні для користувачів Pro, Plus та Team.
Для виконання завдань агент використовує віртуальний комп’ютер і єдиний набір інструментів, до яких входять текстовий браузер, термінал та доступ до сторонніх додатків, таких як Google Drive і GitHub. Віртуальний комп’ютер – це симульоване обчислювальне середовище, що працює в хмарі, яке агент ChatGPT може контролювати незалежно, подібно до того, як штучний інтелект отримує власну приватну “пісочницю” для виконання реальних завдань.
«Це новий рівень можливостей у штучному інтелекті», – заявив генеральний директор OpenAI Сем Альтман під час демонстрації у прямому ефірі, проведеній членами команди, що створила продукт. Однак демонстрація також була помітною через кількість обережних зауважень, які зробила компанія OpenAI.
«Це новий спосіб використання штучного інтелекту, але з цим з’явиться новий набір атак», – сказав Альтман. «Суспільство і технологія повинні еволюціонувати та навчитися, як ми будемо пом’якшувати проблеми, про які ще навіть не можемо уявити, оскільки люди починають виконувати все більше завдань у такому форматі».
Один з прикладів: агент міг би дослідити покупку, знайти товар на фішинговому сайті та надати дані кредитної картки користувача. Щоб пом’якшити цю проблему, у поточній версії передбачено ряд заходів безпеки, які зупинять агенту перед завантаженням інформації про кредитну картку, поки користувач не затвердить це вручну.
«Ми навчали модель ігнорувати підозрілі інструкції на ризикованих веб-сайтах», – зазначила дослідниця OpenAI Кейсі Чу. «У нас також є монітори, які слідкують за поведінкою агента та зупиняють його, якщо все виглядає підозріло».
Чу також додала, що хоча системні засоби безпеки можна оновлювати в реальному часі, агент ChatGPT все ще є «передовим продуктом», який відкриває двері для нових форм експлуатації.
«Для користувачів важливо розуміти ризики та обережно ставитись до інформації, яку вони поширюють», – сказала вона.
Випуск ChatGPT Agent відбувається в той час, коли розробники штучного інтелекту працюють над наданням все більш потужних можливостей віртуальним асистентам. У середу Google запустила нову функцію з використанням штучного інтелекту в пошуку, яка дозволяє AI Gemini телефонувати до підприємств від імені користувачів.
«ChatGPT Agent все ще на початковій стадії, і ми використовуємо цей час, щоб навчитися на реальних прикладах, щоб покращити як продукт, так і наші засоби безпеки», – сказав представник OpenAI. «Поточна система відображає наш поточний підхід, але ми готуємося до наступного етапу та продовжимо ділитися оновленнями, поки будемо покращувати агента та робити його більш безпечним».
Експерти з кібербезпеки також висловили занепокоєння щодо наслідків автономних агентів.
«Існує висока загроза, оскільки агент має неписану владу розкривати особисті дані під час спілкування», – зазначив Нік Адамс, співзасновник і генеральний директор кібербезпекової компанії 0rcus. «Користувачам слід надати точні, відкличні права, такі як цільова компанія, мета, дозволені елементи даних та термін дії».
Щодо найкращих практик, Адамс запропонував, щоб після виконання агент надавав повний транскрипт для затвердження перед зберіганням будь-якої інформації на тривалий термін.
«Тиха, загальна згода зместить відповідальність на користувача без суттєвого контролю», – зазначив він. «Тому модель підтвердження за кожним завданням є необхідною».
Окрім ризиків дозволяти AI агенти здійснювати покупки чи планування, дослідники OpenAI погодились, що такий рівень автономії представляє нові загрози, зокрема атаки на запити, коли шкідливі дані можуть обманювати AI на витік інформації, поширення дезінформації чи виконання несанкціонованих дій.
Щоб зменшити ці ризики, OpenAI розробила режим захоплення, який, як випливає з назви, дає користувачам можливість взяти керування від агента та вводити інформацію самостійно, замість того, щоб покладатися на агента. В деяких випадках ChatGPT Agent буде запитувати явну затвердження користувача перед вжиттям важливих дій, таких як здійснення покупок або доступ до чутливих даних.
«Ми створили потужний інструмент, але користувачі повинні залишатися обережними», – додала Чу.
