Низка міжнародних технологічних медіа повідомили про впровадження компанією OpenAI нового механізму захисту неповнолітніх користувачів у сервісі ChatGPT. Ініціатива передбачає використання системи прогнозування віку користувачів з метою підвищення рівня безпеки та відповідності віковим стандартам доступу до контенту.
Повідомляє видання GALERA.NEWS, посилаючись на TechCrunch.
Мета ініціативи
Основною метою нововведення є захист дітей і підлітків від матеріалів, які можуть бути для них небажаними або шкідливими. OpenAI зазначає, що з огляду на зростаючу кількість молодих користувачів, компанія посилює підходи до вікової диференціації контенту та відповідального використання ШІ.
Загальний принцип роботи
Згідно з оприлюдненою інформацією, система не вимагає від користувачів прямого зазначення віку у кожному випадку. Натомість вона оцінює ймовірний віковий діапазон на основі сукупності технічних та поведінкових сигналів, пов’язаних з обліковим записом і взаємодією з сервісом.
У разі якщо алгоритм визначає, що користувач може бути неповнолітнім, ChatGPT автоматично застосовує посилені обмеження щодо типів контенту та відповідей.
Права користувачів та коригування помилок
OpenAI підкреслює, що система вікового прогнозування не є остаточним судженням. У випадках помилкової класифікації передбачені механізми підтвердження віку, які дозволяють користувачам відновити повний функціонал сервісу відповідно до їхнього реального віку.
Контекст і значення
Запровадження вікового прогнозування є частиною ширшої стратегії OpenAI у сфері цифрової безпеки, етики та відповідального розвитку штучного інтелекту. Компанія наголошує, що подібні інструменти мають на меті не контроль за користувачами, а створення безпечного середовища, яке враховує вікові особливості та законодавчі вимоги різних країн.
Нова функція ChatGPT відображає загальну тенденцію в технологічній галузі до більш уважного ставлення до захисту неповнолітніх в онлайн-середовищі. OpenAI заявляє про готовність і надалі вдосконалювати підходи до безпеки, прозорості та відповідального використання своїх продуктів.
