Темна Сторона Штучного Інтелекту: Що Це Таке і Чому Це Важливо для Бізнесу
Штучний інтелект (ШІ) є основою багатьох сучасних інновацій. Він використовується в різноманітних сферах, включаючи голосових асистентів, рекомендації для онлайн-шопінгу і відкриття нових медикаментів.
Однак деякі з найскладніших систем штучного інтелекту настільки заплутані, що навіть їх розробники не завжди знають, як саме ШІ приймає свої рішення. Експерти називають такі системи “чорними ящиками”.
Термін “чорний ящик” позначає систему, яка обробляє інформацію та видає результати, проте не розкриває, що відбувається між цими етапами. Уявіть, що позичальник подає заявку на кредит, а ШІ вирішує, чи її затвердити. Легко не помітити, на чому ґрунтується це рішення.
Причина цього полягає в тому, що сучасні моделі ШІ, зокрема системи глибокого навчання, є надзвичайно складними. Ці системи складаються з шарів математичних формул і мільйонів, навіть мільярдів зв’язків, які працюють разом, щоб відповідати на запитання або розв’язувати проблеми — часом дуже незрозумілими способами.
Багато з нинішніх чат-ботів на базі ШІ також є чорними ящиками, такими як ChatGPT від OpenAI. Те саме стосується Gemini від Google, Claude від Anthropic, Perplexity AI, Llama від Meta та інших, які використовують глибокі нейронні мережі з мільярдами параметрів.
Складність рішень, які приймає ШІ, створює невизначеність для організацій. Наприклад, пацієнт у лікарні визнаний ризиком захворювання сепсисом, проте ШІ не може точно пояснити причину. Чи можуть лікарі довіряти рекомендованим діям?
Відсутність ясності може призвести до серйозних ризиків. Якщо система ШІ робить помилку, як компанія може зрозуміти, що пішло не так? Якщо виявиться, що система є несправедливою — наприклад, вона упереджено ставиться до якоїсь групи — як це можна виправити? У таких сферах, як кредитування, найм, охорона здоров’я та правоохоронні органи, ці питання стають важливими для регуляторів.
Чому це важливо для бізнесу
Для бізнесу використання чорних ящиків ШІ може принести як можливості, так і ризики. З одного боку, ці складні системи можуть виконувати завдання, які раніше здавалися практично неможливими.
Вони допомагають компаніям ефективніше виявляти шахрайство, глибше прогнозувати поведінку клієнтів, здійснювати гіперперсоналізований маркетинг або оптимізувати ланцюги постачання. Вони можуть виявляти шаблони в даних, які можуть пропустити люди, і часто роблять це швидше та точніше.
Але якщо компанії не можуть пояснити, як працює їхній ШІ, вони можуть потрапити в неприємності. Наприклад, якщо компанія використовує ШІ для відбору кандидатів на роботу, і починаються скарги на упередженість системи, як компанія захистить свій процес?
Регулятори звертають на це увагу. Нью-Йорк прийняв закон, що вимагає аудиту автоматизованих інструментів підбору працівників на наявність упереджень. У Європі GDPR надає людям право на пояснення, якщо їх торкаються автоматизовані рішення.
За даними звіту PYMNTS Intelligence, фінансові директори середніх компаній заявляють, що регуляторні вимоги створюють додаткову невизначеність для їхніх підприємств, найбільше відчувають це малі фірми. Наслідками цієї невизначеності стають операційні порушення, підвищення юридичних ризиків і збільшення витрат на відповідність і управління ризиками.
Внутрішні ризики також реальні. Оскільки ШІ стає центральним елементом бізнес-стратегії, компанії повинні забезпечити його відповідальне використання. Але це важко зробити, якщо вони не можуть бачити, що відбувається у чорному ящику. Довіра, відповідальність і репутація бренду — все це під загрозою.
Добра новина полягає в тому, що дослідники активно працюють над тим, щоб зробити ШІ зрозумілішим. Є зростаюча галузь, яка називається Пояснювальний ШІ (XAI), що намагається надати людям розуміння того, як працюють ці системи. Наприклад, французька компанія Dataiku дозволяє науковцям тестувати різні сценарії та демонструвати результати бізнес-користувачам, щоб вони могли довіряти системі ШІ.
Сьогодні уряди та регулятори вимагають більшої прозорості. Законодавство Європейського Союзу про ШІ має на меті встановити чіткі правила щодо використання високоризикованого ШІ, включаючи вимоги до прозорості та підзвітності.
