Дженсен Хуанг: на усунення хибних відповідей ШІ знадобиться кілька років

Генеральний директор NVIDIA Дженсен Хуанг заявив, що сучасний штучний інтелект ще не здатний надавати найбільш точні відповіді. До рівня довіри, який дозволить повністю покладатися на такі системи, залишається кілька років.

Про це повідомляє Business Insider.

Він також торкнувся проблеми “галюцинацій” — явища, коли ШІ генерує неправдиву, але правдоподібну інформацію. За словами Хуанга, користувачі не повинні зосереджуватися на питанні, чи є відповідь результатом “галюцинації”, чи вона правильна. Натомість слід звернути увагу на те, як поліпшити точність моделей.

Незважаючи на значний прогрес великих мовних моделей, таких як ChatGPT, вони все ще мають серйозні обмеження, одним із яких є створення недостовірної інформації. Яскравим прикладом стала ситуація, коли американський адвокат представив у суді фіктивні цитати, згенеровані ШІ. Згодом з’ясувалося, що посилання на неіснуючі справи були створені ChatGPT.

Дженсен Хуанг запропонував впровадити механізм, що зобов’язує мовні моделі підтверджувати свої відповіді виключно на основі перевірених джерел. Такий підхід, за його словами, нагадує журналістський фактчекінг, де інформацію порівнюють із достовірними даними. Якщо певний факт виявляється неточним, вся відповідь має відхилятися.