Черговий скандал навколо штучного інтелекту та соціальних мереж. Платформа Tumblr зіткнулася з хвилею критики через помилкове маркування звичайного контенту як «mature» (дорослого) внаслідок оновлення системи фільтрації.
Користувачі масово скаржаться, що їх публікації були неправомірно позначені як дорослий контент, що зменшило їх видимість у стрічці, оскільки більшість користувачів має налаштування, які приховують «mature» пости за замовчуванням.
Проблема виникла після останнього оновлення застосунку Tumblr для Android, у якому компанія почала тестувати новий рівень модерації в системі Content Labels. Видання TechCrunch зазнача, що представник Tumblr сказав, що ці зміни є експериментальними, і компанія працює над їх удосконаленням з урахуванням відгуків користувачів.
«Ми прагнемо зробити Tumblr безпечнішим місцем для всіх користувачів, поважаючи при цьому різноманіття інтересів і контентних вподобань, які можна налаштувати в параметрах», — йдеться в офіційній заяві Tumblr.
Попри численні підозри у використанні ШІ для модерації, Tumblr не підтвердив, що саме штучний інтелект винен у помилках. Компанія визнала проблему на своєму офіційному блозі, зазначивши, що знає про хибну класифікацію постів і працює над її усуненням.
Схожі випадки нещодавно сталися і на інших платформах. Pinterest визнав, що масові блокування облікових записів сталися через внутрішню помилку, а Instagram відмовився коментувати аналогічні скарги на необґрунтовані бани. В обох випадках користувачі підозрювали вину ШІ-модерації, хоча Pinterest це заперечив.
