Компанії стикаються з істинними витратами на впровадження штучного інтелекту
Швидке впровадження штучного інтелекту (ШІ) в операції підприємств стикається зі складною та часто недооціненою реальністю: масштабне впровадження ШІ може виявитися дорогим, а справжні витрати можуть значно перевищувати показники, які надають постачальники.
Згідно з недавніми даними PYMNTS Intelligence, витрати на впровадження ШІ є другим за величиною недоліком використання генеративного ШІ, близько 46,7% респондентів вказали на це як на проблему, поступаючись лише складності інтеграції.
На папері витрати на використання сучасних генеративних моделей знижуються в порівнянні з цінами, які встановлюють компанії-сообщники.
Наприклад, GPT-4 від OpenAI з контекстом 8K коштував $30 за мільйон вхідних токенів і $60 за мільйон вихідних токенів на початку 2023 року. Цього року GPT-4 Turbo, котрий є більш потужним, все ж коштує на 50% до 67% менше: $10 за мільйон вхідних токенів і $30 за вихідні.
Згідно з доповіддю Stanford 2025 Artificial Intelligence Index, витрати на застосування ШІ в використанні — інференс — “знизилися від дев’яти до 900 разів за рік”, йдеться в доповіді.
Щодо інфраструктури, витрати знизилися на 30% щорічно, а енергоефективність покращилася на 40% кожного року, згідно зі звітом Стенфорда. Більш того, відкриті моделі, які безкоштовно доступні для використання, наближаються до закритих моделей за показниками продуктивності.
Проте ці заголовкові цифри розкривають лише частину ситуації.
Хоча ціна моделей знизилася з 2022 року, загальні витрати на володіння “залишаються стійкими до зниження”, сказав Муат Джуаді, засновник SearchQ.AI. “Справжні витрати криються в прихованій інфраструктурі, зокрема в командах з обробки даних, відповідності заходам безпеки, постійному моніторингу моделей та архітекторах інтеграції, які необхідні для взаємодії ШІ з існуючими системами.”
За кожен долар, витрачений на моделі ШІ, компанії витрачають від п’яти до десяти доларів, щоб зробити моделі “придатними для виробництва та відповідними для підприємства”, зазначив Джуаді. “Виклики інтеграції зазвичай є більш витратними, ніж сама технологія, і потребують значних інвестицій у управління змінами та редизайн процесів, які багато організацій недооцінюють.”
Крім того, витрати на впровадження ШІ “не є одноразовими витратами, а є постійними оперативними зобов’язаннями”, додав Джуаді.
Отже, чому впровадження ШІ стрімко зростає? Джуаді зазначив: “Компанії, які успішно впроваджують ШІ, не чекають, поки витрати знизяться; вони визначають конкретні випадки використання, де навіть нинішні витрати можуть забезпечити замітний ROI.”
Самостійне хостингування може знизити витрати
Для багатьох підприємств ранні рішення, такі як питання самостійного хостингування, використання хмари чи сторонньої інфраструктури, можуть вплинути на 40% витрат на ШІ, сказав Павло Бантсевич, менеджер проектів та радник з рішень в Pynest. Хостинг у хмарі може бути ідеальним для прототипів, але витрати можуть різко зрости з масштабуванням навантажень.
Бантсевич наводить приклад з американською будівельною компанією, яку він консультував: вони розробили інструмент аналітики з використанням ШІ та розмістили його в хмарі. Витрати на інфраструктуру склали менше $200 на місяць. Але коли його запустили, витрати зросли до близько $10,000 на місяць. Перехід на самостійне хостингування з використанням відкритої моделі Llama замість хмари знизив витрати до близько $7,000 на місяць і залишився під контролем.
В іншому випадку європейський ритейлер з понад 50,000 працівників хотів реалізувати модуль комп’ютерного зору для автоматизованого обслуговування покупців. Але компанія не хотіла використовувати хмару. Вони самостійно розмістили маленьку модель Llama, яка показала гарні результати. Витрати вийшли менше $10 на місяць на машину. “Якби був вибрано хмарне рішення, витрати були б величезними”, – сказав він.
Бантсевич вважає, що витрати продовжать знижуватись, оскільки набори даних стають більш доступними, а хмарні постачальники також знижують тарифи для збереження клієнтів. “Є ймовірність, що незабаром витрати на ШІ стануть подібними до комунальних рахунків”, – передбачив він.
Тим часом, фінансовий директор Bill Рохіні Джайн порадила підприємствам скористатися ШІ, який вже вбудовано в платформи, які вони використовують, такі як для виставлення рахунків, платежів чи прогнозування, замість додавання окремих інструментів з “невизначеними” цінами. “Інтегровані рішення зазвичай пропонують кращий ROI і більш прогнозовані витрати, такі як підписка”, – зазначила вона.
Фергал Глійн, директор з маркетингу та захисник безпеки ШІ в Mindgard, сказав, що впроваджувати ШІ можна з початковими витратами від $10,000 для базових проектів, в той час як великомасштабні корпоративні системи можуть коштувати мільйони. Більшість компаній витрачають від $50,000 до $500,000 на практичні випадки використання, такі як аналітичні інструменти або чат-боти; менші компанії зазвичай витрачають менше, використовуючи готові рішення.
Ніколь ДіНікола, глобальний віце-президент з маркетингу в Smartcat, зазначила, що впроваджувати ШІ не обов’язково “по всьому ряду”.
“Багато платформ, включаючи безкоштовні або недорогі варіанти, дозволяють організаціям почати з малих обсягів та поступово нарощувати свою присутність з часом,” – сказала ДіНікола. “На відміну від традиційного SaaS, яке часто вимагає тривалого впровадження, початкових витрат та повномасштабного впровадження для демонстрації цінності, ШІ може забезпечити значний вплив без повної інтеграції в організації.”
ДіНікола вказала на команди, які інтегрують ШІ в робочі процеси та вже отримують переваги та заощадження. “ШІ має тенденцію до накопичення вартості, але навіть невелике впровадження може сприяти чітким і вимірювальним покращенням.”
Гірший сценарій — це дозволити витратам і складності впровадження ШІ налякати компанію й уникнути впровадження ШІ взагалі.
“Бездіяльність часто є дорожчим шляхом, навіть якщо це менш очевидно спочатку”, – додала ДіНікола. “Хоча ця затримка може здаватись безпечною, перші прихильники вже набирають обертів, покращують процеси, вчаться швидше і розширюють свою конкурентну перевагу.”
