Каліфорнійський законопроект націлений на боротьбу з оманливим використанням штучного інтелекту в охороні здоров’я

Законопроєкт AB 489, який обговорювався на слуханнях у сенаті 18 серпня, заборонить системам ШІ видавати себе за ліцензованих медичних спеціалістів. Він розширює діючі закони, які карають за оманливі заяви від практикуючих лікарів.

Згідно з чинним законодавством, не ліцензовані особи не мають права використовувати такі кваліфікаційні ознаки, як ‘M.D.’, щоб натякати на медичну ліцензію. Законопроєкт, запропонований членом асамблеї Мією Бонто з Окленда, зробить порушенням використання таких термінів у функціонуванні та рекламі інструментів ШІ, якщо вони не контролюються ліцензованим постачальником.

Це правило охоплює як відверті неправдиві заяви – наприклад, чат-бот, що видає себе за лікаря, так і більш тонкі формулювання, такі як використання професійних термінів у спілкуванні.

Законопроєкт передбачає, що “забороняється використання вказаних термінів, літер або фраз, щоб хибно вказувати або натякати на наявність ліцензії або сертифіката на практику в галузі охорони здоров’я, що підлягає виконанню щодо юридичної особи, яка розробляє або впроваджує технології штучного інтелекту, що використовують один або більше з цих термінів, літер або фраз в рекламі або функціонуванні”.

Підтримка законопроєкту надійшла від Mental Health America of California. “Цей законопроєкт включає запобіжники, щоб забезпечити, що молодь не отримує хибну та потенційно шкідливу інформацію стосовно їхнього психічного здоров’я або проблем із вживанням речовин,” – зазначив координатор з питань державної політики організації Денні Тіракула у листі до комітету сенату штату.

Цей законопроєкт з’являється на фоні швидкого впровадження платформ та цифрових інструментів на основі ШІ у сфері охорони здоров’я. За даними звіту PYMNTS Intelligence, три з десяти пацієнтів покоління Z та мілленіалів відвідали лікаря дистанційно під час свого останнього медичного візиту. Більше того, майже кожен п’ятий споживач зараз використовує додатки або пристрої для моніторингу здоров’я.

Однак AB 489 “сигналізує про більше, ніж просто коригування чинного законодавства в охороні здоров’я – це є ознакою того, як наступне покоління регуляцій може сформувати майбутнє розвитку та впровадження ШІ в охороні здоров’я,” – написав Алаап Шах, співголова групи практики ШІ в юридичній фірмі Epstein Becker Green, у блозі 15 серпня.

Шах зазначив, що законопроєкт визначає три сфери, в яких компаніям потрібно буде адаптуватися для дотримання:

• Правозастосування: Державні професійні ліцензійні ради отримають прямий контроль, створюючи додатковий рівень відповідності, поряд з існуючими правилами приватності та захисту споживачів.
• Дизайн продукту: Інтерфейси користувача повинні будуть видалити будь-які формулювання або зображення, які можуть натякати на консультації на рівні лікаря без доказів ліцензування.
• Маркетинг: Фрази, такі як “лікарський рівень”, “лікар, що веде” або “підтримка експерта”, можуть призводити до порушень, якщо ліцензовані фахівці не беруть формальної участі в розробці чи наданні послуг.

Крім того, “широкий охоплення” законопроєкту вимагає додаткового уточнення, в тому числі, як він буде реалізованим на практиці, згідно блогу правової фірми Nixon Peabody від 20 лютого. Наприклад, чи будуть державні ліцензійні агентства мати можливість контролювати та стежити за відповідністю?

Законопроєкт був представлений у лютому Бонто. “Каліфорнійці заслуговують на правду, чесність і прозорість у своїй медицині. Генеративні системи ШІ не є ліцензованими медичними працівниками і не повинні дозволяти собі видавати себе за таких. Це очевидно,” – сказала Бонто у заяві 10 лютого, коли представляла законопроєкт.

Системи ШІ, які виглядають “людяними”, несуть унікальні ризики для дітей, які, зазвичай, більше довіряють системам ШІ і можуть розкривати їм приватну інформацію, додала Бонто.

Співспонсорами є SEIU California та Каліфорнійська медична асоціація.

Президент CMA Шеннон Удовік-Констант зазначив у заяві 1 квітня, що їхній “проактивний підхід до регулювання штучного інтелекту забезпечує, що технології підтримують, а не замінюють прийняття рішень лікарем.”

Додаткова інформація:

Обговорення в Reddit знову підняло питання про роль ШІ у медичних порадах.

Apple, як повідомляється, розробляє AI-агента “лікаря” у рамках останніх зусиль у сфері охорони здоров’я.

Додатки для ведення медичних записів на основі ШІ користуються здоровою хвилею інвестицій.