Кіберзлочинність: Чи стане це єдиною сферою, де штучний інтелект не зможе замінити людей?

За останні кілька років безпека в кіберпросторі привернула увагу урядів, експертів та технологічних компаній, які попереджали про потенційний бум злочинності, зумовлений розширенням використання штучного інтелекту. Проте нове дослідження, опубліковане на платформі arXiv, пропонує несподівану перспективу на реальні практики і використання AI в підпільному кіберсередовищі.

Команда дослідників з Cambridge, Единбургу та Стратклайда проаналізувала понад 97 тисяч тем на форумах, що з’явилися після запуску ChatGPT у листопаді 2022 року. Використовуючи дані з Cambridge Cybercrime Centre, дослідники створили модель тематики, вручну переглянули більше трьох тисяч постів та занурилися в атмосферу цих спільнот.

Вражаючим є висновок: 97,3% аналізованих тем не стосувалися використання AI для злочинних цілей. Лише 1,9% згадок про AI містили аспекти, пов’язані з вразливими кодами. Це фактично ставить під сумнів численні прогнози про те, як генеративний AI може перетворити кіберзлочинність.

Відзначаючи популярність так званих «Темрявих AI» інструментів, дослідження демонструє, що більшість обговорюваних продуктів виявилися або неефективними, або й зовсім фіктивними. Адже учасники форумів часто лише шукали безкоштовний доступ до таких технологій або скаржились на їх ненадійність. Наприклад, один з розробників зізнався, що його «темний AI» насправді не був чимось більшим, аніж доступний ChatGPT.

Науковці зазначили, що навіть зусилля враховуються здебільшого неосвіченими користувачами, які оригінальних скриптів уникають. Зломщики та хакери, з якими спілкувалися дослідники, вказують на те, що AI інструменти, нехай і допомагають у розробці, підвищують ризики, пов’язані з ненадійним кодом і уразливостями в ланцюгу постачання.

У той час як скандали з «виборами на базі вібрації» отримують багато уваги, дані дослідження не підтверджують впровадження таких кампаній у великих масштабах. Натомість, використання AI найбільше помітне серед спам- та шахрайських схем, які адаптуються під нові можливості. Шахраї влаштовують нові афери у сфері романтичних шахрайств або використовують генерування зображень та голосу для обману жертв.

На думку дослідників, найбільший вплив AI на погіршення ситуації в кіберзлочинності може виявитися не в підвищенні спроможностей злочинців, а у відтоку кваліфікованих розробників у темний бік через нестабільність на ринку праці.

Отже, хоча прогнози про стрімке зростання AI-злочинності виявилися перебільшеними, рівень використання нових технологій у злочинних схемах все ж таки зростає – але переважно в межах звичайної та низькосложної шахрайства.