Google розширить використання штучного інтелекту для виявлення шахрайства та посилення безпеки в Індії
Google представив у Індії свою Хартію безпеки, що надасть поштовх розвитку технологій штучного інтелекту для виявлення шахрайства та боротьби з аферами в країні. Індія є найбільшим ринком компанії за межами Сполучених Штатів.
В Індії спостерігається зростання цифрового шахрайства. За даними уряду, шахрайство, пов’язане з миттєвою платіжною системою UPI, за рік зросло на 85%, досягнувши майже 11 мільярдів рупій ($127 мільйонів). Країна також стала свідком численних випадків шахрайств, коли злочинці видають себе за посадовців, виманюючи гроші через відеодзвінки та шахрайські кредитні додатки.
З Хартією безпеки, Google має на меті вирішити деякі з цих проблем. Компанія також відкрила свій центр безпеки в Індії, ставши четвертим таким центром після Дубліна, Мюнхена та Малаги.
Центр безпеки (GSec) був представлений на саміті Google для Індії минулого року. Він надає можливість Google співпрацювати з місцевою спільнотою, зокрема з урядом, академічними установами, студентами, а також малими та середніми підприємствами для розробки рішень, які допоможуть вирішувати проблеми кібербезпеки, конфіденційності, безпеки та штучного інтелекту, повідомила віце-президент Google з безпеки Хізер Акінс в інтерв’ю.
Google співпрацює з Координаційним центром боротьби з кіберзлочинністю Міністерства внутрішніх справ Індії (I4C) для підвищення обізнаності про кіберзлочини, що було відзначено у блозі компанії. Це є продовженням існуючої роботи Google, включаючи запуск програми онлайн-ідентифікації шахрайства DigiKavach, яка стартувала у 2023 році для обмеження негативного впливу шкідливих фінансових додатків і кредитних програм.
За словами Акінс, у своєму GSec в Індії Google зосередиться на трьох ключових напрямках: явищі онлайн-шахрайства та як захистити людей в мережі; кібербезпеці підприємств, урядів і критичної інфраструктури; і створенні відповідального штучного інтелекту.
«Ці три напрямки стануть частиною нашої Хартії безпеки для Індії, і в найближчі роки… ми хочемо використати наявні інженерні ресурси для вирішення тих проблем, що виникають в Індії, безпосередньо поруч з користувачами», — зазначила Акінс.
На глобальному рівні Google використовує штучний інтелект для боротьби з онлайн-шахрайством і видаляє мільйони реклами та рекламних акаунтів. Компанія має на меті більш активно впроваджувати штучний інтелект в Індії з метою боротьби з цифровим шахрайством.
Google Messages, який попередньо встановлений на багатьох Android-пристроях, використовує функцію виявлення шахрайства на базі штучного інтелекту, яка допомогла захистити користувачів від понад 500 мільйонів підозрілих повідомлень щомісяця. Аналогічно, Google минулого року провів пілотний проект з Play Protect в Індії, який, за словами компанії, заблокував майже 60 мільйонів спроб встановлення високоризикових додатків, що призвело до зупинки понад 220 тисяч унікальних програм на більш ніж 13 мільйонах пристроїв. Google Pay, один з провідних платіжних додатків на основі UPI в країні, також видав 41 мільйон попереджень про транзакції, які можуть бути аферами.
Акінс, один із засновників команди безпеки Google, який працює в компанії понад 23 роки, обговорила кілька інших тем під час інтерв’ю.
За словами Акінс, одне з головних питань сьогодення — це використання та зловживання штучним інтелектом зловмисниками.
«Ми уважно стежимо за розвитком штучного інтелекту. На даний момент ми здебільшого бачимо, що великі мовні моделі, такі як Gemini, використовуються як інструменти підвищення продуктивності. Наприклад, для того, щоб зробити шахрайства з фішингом трішки ефективнішими — особливо якщо атакуючий та жертва говорять різними мовами — вони можуть скористатися перевагами перекладу, щоб зробити афери більш переконливими, використовуючи глибокі фейки, зображення, відео тощо», — зазначила Акінс.
Акінс повідомила, що Google проводить широке тестування своїх моделей штучного інтелекту, щоб гарантувати, що вони усвідомлюють, що не повинні робити.
«Це важливо стосується як контенту, що генерується, який може бути шкідливим, так і дій, які вони можуть вчинити», — додала Акінс.
Google працює над рамковими рішеннями, включаючи Безпечну рамку штучного інтелекту, для обмеження зловживання своїми моделями Gemini. Однак, щоб захистити генеративний штучний інтелект від зловживання хакерами в майбутньому, компанія вважає, що необхідно розробити рамки, які будуть забезпечувати безпеку у взаємодії між кількома агентами.
«Індустрія розвивається дуже швидко. Наче це перші дні інтернету, коли всі випускають код в реальному часі, а ми думаємо про безпеку лише в ретроспективі», — зазначила Акінс.
Google не прагне запроваджувати виключно власні рамки для обмеження обсягу зловживань генеративного штучного інтелекту хакерами. Натомість, Акінс підкреслила, що компанія співпрацює з дослідницьким співтовариством та розробниками.
«Одне з тих, чого ви не хочете, — це надмірно обмежувати себе на ранніх етапах дослідження», — сказав Акінс.
Щодо постачальників для спостереження
На фоні потенційних зловживань генеративного штучного інтелекту, Акінс вважає, що комерційні постачальники для спостереження становлять суттєву загрозу. Це можуть бути виробники шпигунських програм, такі як NSO Group, відомі своїм шкідливим програмним забезпеченням Pegasus, або інші дрібні підприємства, що продають інструменти для спостереження.
«Ці компанії з’являються повсюди у світі і розробляють, виробляють та продають платформи для зломів», — зазначила Акінс. «Вам можуть заплатити 20 доларів, або 200 тисяч доларів, в залежності від складності платформи, і це дозволяє масштабувати атаки на людей без жодної спеціалізованої підготовки».
Деякі з цих постачальників також продають свої інструменти для стеження за людьми на ринках, включаючи Індію. Однак, окрім того, що країна піддається впливу інструментів спостереження, вона має й свої унікальні виклики через свій розмір. Країна стикалася не лише з шахрайством на основі штучного інтелекту, але й із випадками цифрових арештів, які Акінс зазначає як звичайні афери, адаптовані до цифрового світу.
«Можна побачити, як швидко зловмисники розвиваються… Мені подобається вивчати кібербезпеку в цьому регіоні через це. Це часто є індикатором того, що ми побачимо в майбутньому в усьому світі», — сказала Акінс.
Щодо багатофакторної аутентифікації
Google довго закликав своїх користувачів використовувати більш безпечні методи аутентифікації, окрім паролів, для захисту їхньої онлайн-присутності. Компанія вже запровадила багатофакторну аутентифікацію (MFA) для всіх облікових записів та просуває апаратні ключі безпеки, на які Акінс звернула увагу, коли вказала на своїх співробітників, які активно користуються ноутбуками. Безпарольна аутентифікація також стає популярним терміном, що має різні значення.
Проте очікувати, що люди відмовляться від паролів у такій країні, як Індія, є складним завданням через її величезну демографію та різноманітний економічний ландшафт.
«Ми вже давно знали, що паролі не є безпечними. Концепція багатофакторної аутентифікації стала кроком вперед», — додала Акінс, зазначаючи, що індійці, ймовірно, надають перевагу SMS-аутентифікації над іншими варіантами MFA.
