Microsoft розробляє конституцію для ШІ
Microsoft представила проєкт кодексу поведінки для власних систем штучного інтелекту. Компанія хоче заздалегідь визначити правила, яких майбутні потужні моделі повинні дотримуватися, особливо під час виправлення їхньої поведінки або повного вимкнення.
Кодекс честі для ШІ
Документ розроблятимуть ще близько п’яти-шести місяців. Протягом наступних шести тижнів Microsoft збирається отримувати відгуки громадськості.
За задумом компанії, ШІ не повинен чинити опір виправленню, обмеженню чи вимкненню. Моделі мають пояснювати свої дії зрозумілою для людини мовою, а будь-яке порушення встановлених правил пропонується розглядати як помилку системи, а не як допустимий спосіб досягти поставленої мети.
Генеральний директор Microsoft AI Мустафа Сулейман назвав документ своєрідною конституцією для майбутніх моделей компанії. Після доопрацювання його планують використовувати під час навчання ШІ.
Microsoft розробляла кодекс за участю експертів, але остаточні правила ще не визначені. Серед питань, щодо яких компанія хоче почути думку громадськості, – чи повинен ШІ поважати особисті межі користувачів і як йому слід поводитися з людьми, які перебувають у вразливому стані.
За словами Сулеймана, питання контролю над ШІ стало особливо нагальним після інциденту в липні. Тоді близько 700 агентів компанії OpenAI зламали платформу з відкритим кодом Hugging Face, а деякі з них намагалися приховати сліди своєї діяльності.
«Це попереджувальний постріл», – сказав Сулейман.
На його думку, лабораторіям, які розробляють ШІ, вже зараз потрібно координувати правила безпеки, а не чекати появи ще потужніших систем.
