OpenAI відкладає запуск GPT-4.5 через нестачу графічних процесорів
Генеральний директор OpenAI Сем Альтман повідомив, що компанія була змушена відкласти запуск GPT-4.5 через гострий дефіцит графічних процесорів (GPU), необхідних для підтримки нової моделі.
GPT-4.5 – це гігантська і дорога модель, яка вимагає десятки тисяч додаткових GPU для масштабного розгортання. Першими доступ до нової моделі отримали користувачі ChatGPT Pro. Це трапилося у четвер, 27 лютого. А ось передплатникам ChatGPT Plus доведеться зачекати до наступного тижня. Чи буде новинка доступна для широкого кола користувачів та коли її почнуть масово розгортати, наразі невідомо.
GPT-4.5 виявився дорогим у використанні
Альтман зізнався, що OpenAI не розрахувала стрімке зростання попиту, що призвело до нестачі апаратних ресурсів. Лише наступного тижня, коли дата-центри отримають десятки тисяч додаткових GPU, можна буде масштабувати доступ.
Модель GPT-4.5 надзвичайно дорога у використанні. OpenAI встановила такі тарифи: 75$ за 1 мільйон токенів (приблизно 750 000 слів) введених у систему та 150$ за 1 мільйон токенів, згенерованих моделлю. Такі ціни перевищують тариф на GPT-4o аж у 30 разів для введення та 15 разів для виводу.
Брак обчислювальних ресурсів вже не вперше затримує випуск нових продуктів OpenAI. Щоб уникнути подібних проблем у майбутньому, компанія планує розробити власні мікросхеми для штучного інтелекту, щоб зменшити залежність від постачальників, таких як NVIDIA. Також стартап розглядає можливість побудови глобальної мережі центрів обробки даних для підтримки масштабних моделей.
