NIST створить платформу, яка ідентифікуватиме продукти ШІ

Національний інститут стандартів і технологій (NIST) — це агентство, що розробляє та тестує технології. У понеділок в NIST заявили про необхідність створення платформи, яка оцінюватиме текст та зображення, створені штучним інтелектом. Наразі відбувається підготовка до проведення пілотного тестування програм, які на це здатні.

Основна мета NIST

NIST GenAI хоче створити платформу, що виявлятиме автентичність продукту. Основна ціль компанії — розробити програмне забезпечення, яке виявлятиме недостовірну інформацію надану ШІ. У прес-релізі представники компанії пояснили, що це допоможе відповідально використовувати цифровий контент.

Як проходитиме пілотне тестування

Перший етап проекту NIST GenAI — це пілотне дослідження систем, які відрізнятимуть мультимедійні дані створені людиною, від створених ШІ. Незважаючи на те, що більшість компаній хотіли отримати продукт, який би розпізнавав дипфейки, в NIST почнуть тестування з тексту.

Наразі NIST GenAI запрошує команди з наукових кіл та дослідницьких лабораторій подати «генератори» або «дискримінатори». Генератори — це системи ШІ, які створюють контент. Дискримінатори — програми, що виявляють, ким створено продукт: людиною чи штучним інтелектом.

Реєстрація на участь у пілотному тестуванні розпочнеться 1 травня, перший із двох раундів має завершитися 2 серпня. Очікується, що остаточні результати дослідження будуть опубліковані в лютому 2025 року.