OpenAI досліджує нові стратегії для прискорення еволюції штучного інтелекту
Наступна велика мовна модель (LLM) від OpenAI, схоже, не зробить настільки значного прориву, як її попередниці. З огляду на це, компанія сформувала команду розробників, які займатимуться дослідженням можливих шляхів для подальшого вдосконалення нейромережі.
Про це повідомляє toneto.net.
Ця нова LLM відома під кодовою назвою Orion. Тестувальники зазначають, що її продуктивність перевершує попередні моделі, проте приріст якості не такий вражаючий, як це було при переході від GPT-3 до GPT-4. Зокрема, в деяких завданнях (на кшталт написання коду) Orion лише трохи перевищує показники своїх попередників.
Щоб подолати цей виклик, компанія OpenAI створила спеціальну групу розробників. Вона має дослідити нові стратегії вдосконалення LLM в умовах обмеженості навчальних даних. Згідно з інформацією джерел, компанія планує використовувати синтетичні дані, створені нейромережами, та проводити глибше вдосконалення моделі вже після основного етапу навчання. Офіційні представники OpenAI поки не надали коментарів щодо цього питання.
