Відкритий код для загрози: чи зможе нова теорія зупинити небезпечний штучний інтелект Anthropic?

У світі штучного інтелекту з’явилась новинка, яка викликала великий ажіотаж – OpenMythos. Цей проект представляє собою спробу відтворення архітектури Claude Mythos, одного з найпотужніших штучних інтелектів, розробленого компанією Anthropic. Всі етапи створення OpenMythos базуються на відкритих наукових публікаціях та логічних висновках, що робить його цікавим не лише для вчених, а й для широкої аудиторії.

Секрети Claude Mythos лишаються під замком у рамках Project Glasswing, оскільки він виявив критичні вразливості у Firefox і завершив складні атаки на мережі. Тому розробник Кай Гомес вирішив заповнити прогалину знань, опублікувавши OpenMythos на GitHub. Цей відкритий проект вже отримав понад 10 тисяч зірок, короткий опис методу наповнений формулами та посиланнями, водночас з огляду на те, що це лише спроба, а не остаточний продукт.

Важливо зазначити, що OpenMythos – це не просто теоретичний розрахунок, а структурована спроба відновлення архітектури Claude Mythos. У березні цього року, коли Anthropic ненавмисно опублікувала чернетки, стало відомо про Mythos, який перевершив усі попередні моделі компанії. При цьому Mythos досягнув неймовірних результатів у галузі кібербезпеки, виявивши 271 вразливість у Firefox, що завершує аналіз атаки у 32 кроки.

Сама структура OpenMythos базується на припущенні, що Mythos працює як реверсивний трансформер, який за одну ітерацію використовує меншу кількість шарів. Це дозволяє моделі глибше опрацьовувати інформацію, що, в свою чергу, пояснює її унікальні можливості рішення задач, не під силу іншим моделям.

Незважаючи на те що OpenMythos пропонує велику кількість архітектурних рішень, він не включає в себе готові моделі, тож необхідно самостійно навчати створені варіанти. Це може потребувати значних обчислювальних ресурсів, проте проект надає можливість для експериментів та вдосконалень у світі штучного інтелекту.

Розвиток OpenMythos став свідченням зростаючого інтересу до технологій, які можуть створити нові рішення в аналізі даних та кібербезпеці. Водночас цей проект поставив під сумнів міцність огорожі навколо Mythos: перед нами вже другий спроба розкрити секрети цього потужного інструмента.

OpenMythos свідчить, що частина знань, необхідних для створення моделей подібного рівня, вже доступна в науковій літературі. Таким чином, цей проект не лише підкреслює актуальність досліджень у сфері штучного інтелекту, а й відкриває нові горизонти для амбітних дослідників у цій динамічній й швидкозростаючій галузі.