Стартап у сфері штучного інтелекту оголосив у вівторок, що планує створити автоматизовану систему визначення віку, яка дозволить з’ясувати, чи є користувачі його чат-бота старше 18 років, направляючи молодших користувачів до вікового обмеженого варіанту ChatGPT.
Компанія також повідомила, що працює над впровадженням батьківського контролю, який запрацює наприкінці цього місяця. Він дозволить батькам пов’язувати свої облікові записи з обліковими записами підлітків і управляти функціями, які можна відключити, такими як пам’ять та історія чату.
“Підлітки зростають разом із ШІ, і це наша відповідальність – забезпечити, щоб ChatGPT відповідав їхнім потребам,” написали представники компанії в своєму блозі. “Відповідь ChatGPT на запитання 15-річного повинна відрізнятися від відповіді для дорослого.”
У публікації в блозі зазначається, що якщо компанія не впевнена у віці користувача або має неповну інформацію, вона “перейде до варіанту для користувачів до 18 років.”
Ці нові заходи запроваджуються через кілька тижнів після позову батьків підлітка, який загинув внаслідок самогубства, обвинувачуючи чат-бота в спонуканнях до таких дій. Зміни також відбуваються в умовах, коли Федеральна торгівельна комісія (FTC) вивчає, як штучний інтелект може вплинути на психічне здоров’я та безпеку дітей.
Реклама: Продовжуйте читати
В іншій публікації в блозі, приуроченій до оголошення OpenAI, генеральний директор Сем Альтман зазначив, що OpenAI буде навчений не “залучатися до обговорень про самогубство або самоушкодження, навіть у контексті творчого письма,” і що, якщо особа віком до 18 років “має суїцидальні думки, ми спробуємо зв’язатися з батьками користувача, а якщо це неможливо, то з відповідними органами у разі безпосередньої загрози.”
У цьому році PYMNTS досліджував важливість перевірки віку у інтерв’ю з Браяном Льюісом, генеральним директором Intellicheck, який стверджував, що недостатньо забезпеченої безпеки для перевірки особи та допомоги бізнесу в забезпеченні легітимності їхніх кінцевих користувачів.
“Можна навести безліч сайтів,” сказав він генеральному директору PYMNTS Карен Вебстер, “чи це TikTok, виробник зброї, алкогольний або порнографічний сайт… багато з них просто питають: ‘Вам 18 років або більше?’ або ‘Вам 13 років або більше? Натисніть цю кнопку.’ Немає жодних доказів.”
Наслідки такого низького бар’єра для входу суттєві. Льюіс зазначив, що діти отримують доступ до контенту, дезінформації, тривожних матеріалів, відео, повідомлень і думок, які завдають шкоди нерозвиненим психікам. Внаслідок цього зросла тривожність і проблеми з психічним здоров’ям у дітей.
“Якщо ми справді хочемо захистити нашу молодь,” додав Льюіс, “ми повинні знати, хто вони.”
