Системи фільтрації контенту Tumblr помилково маркують пости як ‘дорослі’, користувачі звинувачують штучний інтелект
Тумблер став останньою технологічною компанією, яка стикнулася з проблемами автоматизованого маркування та видалення контенту, що викликали обурення серед користувачів.
У останні дні користувачі Тумблера висловлювали скарги на те, що їхній контент помилково маркується як “дорослий”, навіть якщо це не відповідає дійсності. Ця проблема зменшила видимість їхніх публікацій, адже чимало людей на платформі налаштували свої параметри так, щоб за замовчуванням приховувати контент для дорослих.
Відповідно до численних постів від користувачів, які зазнали негативного впливу, публікації помилково маркувалися, незважаючи на те, що не містили сексуального або насильницького змісту. Вони включали все від GIF з котами до контенту фанатів, мистецтва та навіть фотографій рук. Деякі користувачі підозрюють, що причину проблеми слід шукати в автоматизації на основі штучного інтелекту.
Схожі звинувачення нещодавно почали з’являтися і на інших соціальних медіа-платформах. Наприклад, Pinterest нарешті зізнався, що внутрішня помилка призвела до масових блокувань користувачів. Тим часом Instagram відмовився коментувати свої власні проблеми з масовими блокуваннями, про які користувачі заявляли, що їм приділялося мало уваги, окрім онлайн-жалоб на таких платформах, як X та Reddit.
У обох випадках користувачі підозрювали, що винною є автоматизація на основі штучного інтелекту, хоча Pinterest заперечив це.
На Тумблері проблема з маркуванням пов’язана з оновленням програми для Android, де компанія повідомила, що експериментує з покращеннями системи фільтрації контенту для дорослих. Зокрема, вона тестує новий етап модерації для контентних міток.
Представник Тумблера зазначив, що експерименти тривають, і на основі відгуків користувачів система буде покращена перед її впровадженням на інших платформах.
“Під час роботи над безпекою платформи для всіх користувачів, ми прагнемо враховувати різноманітні інтереси та уподобання контенту, які можна буде налаштувати в параметрах. Ми вважаємо це постійним процесом, оскільки продовжуємо вдосконалювати наші методи виявлення та обробки контенту для дорослих,” — йдеться у заяві представника компанії.
Компанія також визнала існування проблеми у своєму блозі, відповідаючи на запитання користувача щодо неправильно помічених публікацій. Команда Тумблера визнала, що вони усвідомлюють “неправильні класифікаційні проблеми” і активно працюють над їхнім усуненням.
Крім того, у пості пояснювалося, що процес оскарження на Тумблері буде оновлено найближчими тижнями, щоб впоратися з більшим обсягом справ. Тумблер не відповів на запитання про заплановані зміни в процедурі оскарження.
Невідомо, чи є причиною проблеми автоматизація на основі штучного інтелекту, оскільки Тумблер не деталізував причини нових труднощів. Однак зменшення чисельності персоналу в службі блогів, напевно, також зіграло свою роль.
Після придбання в 2019 році компанією Automattic, що створила WordPress.com, Тумблер стикнувся з звільненнями, оскільки його співробітники були перерозподілені на інші проекти в рамках материнської компанії. Минулого року Automattic оголосила, що також перемістить бекенд Тумблера на WordPress, щоб спростити управління та зменшити фінансові збитки.
