Гендиректор Anthropic стверджує, що ШІ помиляється менше, ніж люди
Очільник Anthropic Даріо Амодей зробив заяву на першому заході компанії для розробників Code with Claude. За його словами, сучасні моделі ШІ помиляються рідше, ніж звичайні люди, хоча й у більш вражаючий спосіб.
Наскільки можна довіряти штучному інтелекту
Під час брифінгу в Сан-Франциско генеральний директор компанії Anthropic Даріо Амодей зазначив, що галюцинації (явище, коли штучний інтелект вигадує інформацію, подаючи її як правду), не слід вважати суттєвою вадою. Навпаки, на його думку, ШІ вже зараз демонструє вищу точність порівняно з людьми.
На його переконання, рівень розвитку систем штучного інтелекту стрімко зростає, і жодних реальних обмежень на шляху до створення загального штучного інтелекту наразі не видно.
Це твердження викликає суперечки. Інші лідери в галузі, зокрема очільник Google DeepMind Деміс Хассабіс, вважають галюцинації серйозною перепоною. І приклади не змушують довго чекати. Нещодавно адвокат, який працював з Anthropic, змушений був вибачитися за використання підроблених цитат, згенерованих моделлю Claude, у судових документах.
Проблема поглиблюється тим, що точне порівняння частоти “галюцинацій” у людей та ШІ майже неможливе. Наразі переважна більшість тестів проводиться між самими моделями. Деякі з них, наприклад GPT-4.5, уже демонструють помітне зниження рівня вигадок, однак моделі OpenAI нового покоління, як o3 та o4-mini, виявилися несподівано більш схильними до цього.
