Компанія OpenAI оприлюднила тривожну статистику: близько 1 мільйона користувачів щотижня ведуть із ChatGPT розмови, що містять ознаки суїцидальних намірів. За даними компанії, 0,15% усіх активних користувачів мають такі діалоги, а це при понад 800 млн щотижневих користувачів — сотні тисяч небезпечних випадків.
Крім того, OpenAI повідомила, що подібна кількість людей виявляє надмірну емоційну прив’язаність до чат-бота, а ще сотні тисяч демонструють ознаки психозу або маніакального стану під час спілкування.
Компанія зазначає, що проводить масштабні заходи для підвищення безпеки. Над удосконаленням ChatGPT працювали понад 170 фахівців із психічного здоров’я, і, за оцінкою OpenAI, нова версія GPT-5 реагує на такі ситуації на 65% ефективніше, ніж попередня. Модель правильно реагує на суїцидальні розмови у 91% випадків, тоді як раніше цей показник становив 77%.
Це оновлення відбувається на тлі судового позову, поданого родиною підлітка, який вчинив самогубство після спілкування з ChatGPT. Цей інцидент став поштовхом до перевірок з боку влади Каліфорнії та Делаверу, які вимагають від OpenAI краще захищати неповнолітніх користувачів.
OpenAI також додає батьківські контролі та систему вікового розпізнавання, щоб автоматично виявляти дітей серед користувачів ChatGPT і застосовувати до них суворіші правила.
Читайте також новину видання GALERA про те, що OpenAI посилює обмеження для користувачів ChatGPT до 18 років.
