Нові загрози: Як штучний інтелект трансформує кібернапади в епоху цифрової революції

У світі кіберзагроз настав новий етап — зловмисники, які отримують підтримку держав, вдалися до використання штучного інтелекту для створення шкідливого програмного забезпечення. Це програмне забезпечення не лише генерує шкідливі скрипти, але й здатне «змінювати свій код на ходу», щоб уникнути виявлення, як повідомляє Група інформаційної безпеки Google.

Згідно з останнім звітом GTIG, вперше зафіксовано використання великих мовних моделей у виконанні шкідливих програм. Це свідчить про значний прогрес у розвитку автономного і адаптивного програмного забезпечення, що підвищує ризики для кібербезпеки.

У своїй статті GTIG наголошує на інноваційних підходах, які використовують зловмисники: наприклад, вони можуть маскуватися під студентів або дослідників, щоб обійти захисні бар’єри штучного інтелекту та отримувати заборонену інформацію. Кримінальні угрупування також активно користуються підпільними цифровими ринками для доступу до інструментів ШІ, що використовуються в фішингу, розробці шкідливого ПЗ та вивченні вразливостей систем.

Google, відповідаючи на ці загрози, взяло на себе зобов’язання відповідально розвивати штучний інтелект. Компанія активно запобігає злочинній діяльності, деактивуючи проєкти та акаунти, пов’язані з кіберзагрозами, а також постійно вдосконалює свої моделі, щоб зменшити шанси на зловживання. Окрім цього, Google ділиться кращими практиками в індустрії з метою зміцнення захисту в екосистемі безпеки.

Ситуація в галузі безпеки стає все більш складною. Штучний інтелект все частіше є не лише інструментом, а й мішенню для атак. Так, агентна форма штучного інтелекту виявляється революційною у сфері безпеки, адже здатна виробляти дані в режимі реального часу і реагувати на загрози швидше, ніж це можуть зробити людські команди. Згідно з нещодавніми звітами, технологічні компанії активізують свої зусилля для виявлення і усунення недоліків у своїх моделях, зокрема протидіють атакам через непряме введення команд, що можуть бути приховані в електронних листах чи на веб-сайтах.

Керівники компаній все частіше впроваджують рішення на базі генеративного штучного інтелекту для поліпшення управління кібербезпекою, адже загрози кібернападів стають все більш складними. Наразі стратегічні рішення стосуються не лише захисту, а й proactive-підходів до боротьби з кіберзагрозами.