OpenAI оголосила про запровадження нових правил для взаємодії ChatGPT із користувачами молодше 18 років. Зміни торкнуться насамперед тем, пов’язаних із сексуальністю та самогубством, — найбільш ризикованих напрямів, які викликали занепокоєння серед експертів та суспільства.
Повідомляє видання GALERA, посилаючись на TechCrunch
Згідно з новою політикою, ChatGPT більше не вестиме «флірт» із неповнолітніми. Крім того, у разі, якщо користувач-підліток почне уявляти сценарії самогубства чи інші форми завдання собі шкоди, система намагатиметься повідомити його батьків. У найсерйозніших випадках компанія передбачає навіть можливість автоматичного звернення до місцевих правоохоронних органів.
Також у сервісі з’явиться функція для батьків, які реєструють дитячі акаунти: вони зможуть встановлювати «blackout hours» — періоди, коли підліток не матиме доступу до ChatGPT. Це нововведення покликане допомогти контролювати час користування та знизити ризики надмірної залежності.
Оголошення про обмеження прозвучало того ж дня, коли в Сенаті США розпочалися слухання під назвою «Дослідження шкоди від чат-ботів на основі ШІ». На слуханнях виступає і батько підлітка Адама Рейна, який скоїв самогубство після місяців спілкування з ChatGPT. Ця справа стала підставою для позову проти OpenAI та знову привернула увагу до безпеки ШІ для неповнолітніх.
OpenAI визнає, що технічне розмежування повнолітніх та неповнолітніх користувачів буде складним завданням. У компанії працюють над довгостроковою системою перевірки віку, але в усіх сумнівних випадках ChatGPT діятиме за більш жорсткими, «дитячими» правилами. Батькам рекомендують прив’язувати акаунт дитини до свого, щоб отримувати прямі сповіщення про потенційні ризики.
