Phison анонсує робочу станцію з 4 GPU для навчання великих моделей ШІ
На заході Nvidia GTC 2024 компанія Phison вразила глядачів демонстрацією робочої станції, що має чотири графічні процесори і здатна навчати моделі штучного інтелекту з 70 мільярдами параметрів.
Це досягнення стало можливим завдяки використанню ресурсів SSD і системної DRAM, що дозволило значно зменшити витрати на порівнянні з традиційними серверними рішеннями.
За словами представників компанії Phison, їх платформа aiDaptiv+ відкриває нові перспективи для компаній, які бажають навчати великі мовні моделі ШІ, але хочуть уникнути дефіциту графічних процесорів та знизити витрати на цей процес.
Використання системної пам’яті та твердотільних накопичувачів дозволяє збільшити доступну графічним процесорам пам’ять, що є ключовим фактором у здійсненні швидкого та ефективного навчання.
Програмне забезпечення Phison aiDaptiv+ інтегрується з популярними фреймворками машинного навчання, такими як Pytorch і Tensor Flow, і не потребує модифікації програм для роботи.
Партнери Phison, зокрема компанії MSI, Maingear, Gigabyte, ASUS та Deep Mentor, готові надати свої рішення на базі нової платформи. Маingear Pro AI, один із варіантів робочої станції, вже доступний у кількох конфігураціях, починаючи від $28 тис. за версію з одним GPU і до $60 тис. за комплектацію з чотирма GPU.
