Anthropic заборонила зловживати Claude та втручатися у вибори

Anthropic оновила правила використання Claude. Компанія додала заборони на втручання у вибори, створення програмного забезпечення для зброї та масове стеження. Також нова політика обмежує тривалі образливі розмови з моделлю, якщо користувач систематично знущається з неї без зрозумілої мети. Звичайне невдоволення відповідями штучного інтелекту, творчі експерименти та тестування моделей під ці обмеження не підпадають.

Що змінилося в правилах використання Claude

Ще в серпні Anthropic навчила Claude завершувати розмови, якщо користувач постійно поводиться образливо або веде шкідливий діалог. Тепер компанія закріпила це обмеження в офіційній політиці використання.

В Anthropic пояснили, що нове правило стосується лише крайніх випадків, коли людина неодноразово ображає модель без помітної мети. Воно не поширюється на ситуації, коли користувач роздратований відповіддю, перевіряє можливості ШІ або обговорює складні й похмурі теми.

Окремий блок змін стосується політичних маніпуляцій. Компанія заборонила використовувати Claude для створення фальшивих облікових записів і вигаданих новинних ресурсів. Також правила прямо забороняють допомогу в обмані виборців або зриві виборчого процесу. 

Крім того, Anthropic додала заборони на використання моделей для розробки програмного забезпечення для зброї та організації стеження.