Голова підкомітету з цінних паперів, страхування та інвестицій сенатор Майк Раундс (Р-С.Д.) оголосив про повторне внесення законопроєкту «Вирішимо інновації ШІ у фінансових послугах».
Цей законопроєкт, co-спонсорований сенатором Мартіном Хайзрихом, D-Н.М., дозволить фінансовим установам тестувати продукти та послуги на основі ШІ без ризику негайних заходів примусу, якщо вони дотримуються вимог щодо прозорості, захисту споживачів та національної безпеки.
«Створивши безпечний простір для експериментів, ми можемо допомогти фірмам інновувати, а регуляторам вчитися, не застосовуючи застарілі правила, які не відповідають сучасним технологіям», – зазначив Раундс. Законопроєкт вперше був представлений у 2024 році.
У разі прийняття, S.4951 зобов’яже фінансові регулятори, зокрема Комісію з цінних паперів і бірж, Бюро захисту споживачів фінансових послуг та Федеральну резервну систему, оцінити та потенційно скасувати або змінити існуючі правила для схвалених проєктів тестування ШІ. Агентства матимуть 90 днів для затвердження або відмови у заявках, причому автоматичне затвердження відбудеться, якщо рішення не буде ухвалено в цей термін.
Під час слухань законодавці з обох партій відзначили, що прагнуть сприяти інноваціям, одночасно зменшуючи ризики, пов’язані з неконтрольованим впровадженням технологій ШІ.
Сенатор Марк Уорнер, D-Va., нагадав про попередні слухання, які скликав сенатор Чак Шумер, D-N.Y., на яких зібралися генеральні директори провідних компаній у сфері ШІ. «Пам’ятаєте, як Шумер запитав: “Скільки з вас вважають, що ШІ потрібно регулювати?” Усі підняли руки», – зазначив він.
Але коли справа дійшла до конкретики, «я стурбований тим, що ми ідемо практично в абсолютно протилежному напрямку», – сказав Уорнер. Наприклад, план дій щодо ШІ президента Трампа передбачав дерегуляцію цієї сфери.
Уорнер заявив, що якби люди могли повернути час назад, «багато з нас вважали б, що якби у 2014 році ми впровадили певні обмеження на соціальні медіа, принаймні для захисту психічного здоров’я наших дітей, нам було б краще. Ми цього не зробили, і соціальні медіа малі в порівнянні з потенціалом, який має ШІ.»
Він також навів приклад компанії Delta Air Lines, яка тестує системи ШІ, що використовують дані окремих осіб для налаштування цін на авіаквитки, називаючи цю практику «ціновою політикою спостереження». Уорнер і ще двоє сенаторів висловили занепокоєння з цього приводу і написали листа Delta з проханням про додаткову інформацію.
Читайте далі: Delta Air Lines тестує персоналізовані ціни з використанням ШІ
Страховики відмовляються покривати ризики ШІ
Кевін Калініч, глобальний лідер з невидимих активів в Aon, заявив під час слухань, що страхова індустрія починає реагувати на ризики, пов’язані з новими можливостями ШІ, включаючи галюцинації згенерованих моделей, глибокі фейки та автономних програмних агентів.
Проте, за словами Калініча, актуарні моделі не мають достатньої історичної інформації для точного визначення цих ризиків. У результаті деякі страховики виключають ризики, пов’язані з ШІ, у професійних відповідальності та кіберполісах.
Втім, «кілька інноваційних страховиків створили страхування, специфічне для ШІ, хоча з меншими лімітами, ніж необхідно для великих клієнтів», – додав він.
Калініч зазначив, що страхові компанії будуть більш схильні пропонувати вигідні умови, якщо у фірм є належні практики управління ШІ, включаючи документовані аудити моделей, метрики пояснювальності та протоколи зменшення упередженості. «Добре управління веде до кращої страхуваності, що, в свою чергу, підтримує інновації та захист споживачів», – зауважив він.
Тал Коен, президент Nasdaq, описав, як ШІ уже покращує моніторинг ринку, зменшуючи кількість хибно позитивних результатів і спрощуючи розслідування. На минулому тижні Nasdaq запустила своє агентне ШІ для забезпечення відповідності та ефективності.
Перші два агенти ШІ Nasdaq — цифровий аналітик санкцій та цифровий аналітик покращеного дью ділідженс — були залучені до трудомістких завдань з дотримання вимог. Для цифрового аналітика санкцій, інтегрованого в робочий процес triage сповіщень банку, навантаження на перевірку зменшилось більш ніж на 80%.
Окрім ефективності, важливою є стабільність. Раундс запитав Коена, які загрози з боку ворожих держав можуть призвести до дестабілізації фінансових ринків США, адже затримки навіть на мілісекунди в виконанні замовлень можуть підірвати довіру інвесторів.
Коен зазначив, що головний спеціаліст з інформаційної безпеки Nasdaq використовує найсучасніші інструменти кібербезпеки та координує дії з іншими учасниками галузі щодо захисту. «Це не конкурентний елемент для нас з іншими біржами», – сказав він. «Ми ділимося та співпрацюємо».
Але, відповідаючи на питання про те, чи існує формальна багатогалузева робоча група для вирішення ризиків ШІ на біржах, Коен відповів: «Нам це потрібно. Нам потрібно про це поговорити».
Крім того, відповідальність, що виникає внаслідок таких інцидентів з ШІ, буде «спільною», додав Коен.
Девід Кокс, віце-президент з моделей ШІ в IBM Research, зазначив, що підхід з відкритим кодом у розвитку ШІ є важливим для формування довіри.
«Ми щиро віримо в цінність відкритого ШІ. Це підвищує безпеку, довіру та співпрацю через прозорість, дозволяє меншим фірмам і дослідницьким організаціям конкурувати без обтяжливих початкових капітальних витрат і розширює пул майбутніх талантів», – сказав Кокс.
Великі мовні моделі (LLMs) мають бути підлягають аудиту, особливо у регульованих умовах.
«Фірми повинні чітко розуміти, на яких даних базуються їхні моделі, і мати можливість здійснювати аудит цих систем з часом», – додав Кокс, зауваживши, що небагато розробників моделей розкривають свої навчальні набори даних, що ускладнює дотримання вимог.
Сенатор Кеті Бріtt, R-Ала., висловила занепокоєння щодо шахрайства з використанням ШІ, зазначивши, що фінансові злочини, зумовлені згенерованим ШІ, зросли на 148% у річному обчисленні. Вона також запитала Коена про торгових роботів і ризик систем прийняття рішень на основі ШІ для цілісності ринку. Коен зазначив, що будь-яка регульована фірма матиме «належні заходи контролю».
Врешті-решт, на слуханнях було досягнуто широкої згоди, що існуючі регуляції є недостатніми. Уорнер зазначив, що Китай вже не тільки копіює технології, але й займається інноваціями. «Це змінилося», – сказав він. «Китай не грає на другому місці в гонці за ШІ».
Бріtt додала: «Це гонка, яка має значення».
Читайте далі:
Каліфорнія просуває законопроєкт, що регулює компаньйонів ШІ на тлі занепокоєння з приводу питань психічного здоров’я
Регулювання ШІ призводить до сплеску лобістських зусиль у Вашингтоні
Сенат відхилив 10-річний мораторій на регулювання ШІ на рівні штатів
