Ян Лейке з OpenAI приєднується до конкурента Anthropic

На початку цього місяця Ян Лейке, провідний дослідник ШІ в OpenAI, публічно розкритикував підхід компанії до безпеки та звільнився. Тепер повідомляється, що він приєднався до конкуруючої компанії Anthropic, де очолить команду, яка займається безпекою ШІ.

Більше про цю подію розповів Ян Лейке у дописі на соціальній платформі Х. Він повідомив, що його нова команда зосередиться на розробці різних способів для створення безпечного штучного інтелекту. Зокрема приділять увагу масштабованому нагляду та автоматизованому дослідженню вимірювань.

Джерела обізнані з нюансами нового призначення повідомляють, що Лейке підпорядковуватиметься Джареду Каплану, головному науковому директору Anthropic. Дослідники Anthropic, які зараз працюють над масштабованим наглядом — методами керування великомасштабним ШІ передбачуваним і бажаним способом — перейдуть під керівництво Лейке. 

Багато в чому нова команда Лейке схожа на розпущений відділ Superalignment OpenAI. Команда Superalignment, яку очолював Лейке мала на меті мінімізувати проблеми, пов’язані з безпекою використання штучного інтелекту протягом наступних чотирьох років. Однак керівництво OpenAI часто гальмувало розвиток їхнім програм та розробок.