Компанія OpenAI представила нову функцію Trusted Contact у ChatGPT, яка має допомогти у випадках можливих суїцидальних намірів користувачів.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
Нова система дозволяє користувачам призначити довірену особу — друга або члена родини — яка отримає сповіщення, якщо AI зафіксує ознаки самопошкодження чи суїцидальних думок у розмові.
У такому випадку ChatGPT рекомендуватиме користувачу звернутися до цієї людини, а також може автоматично надіслати повідомлення довіреному контакту.
За словами OpenAI, сповіщення не містять деталей переписки, щоб зберегти конфіденційність користувача.
Компанія зазначає, що система працює через поєднання автоматичного аналізу та перевірки модераторами — усі потенційно небезпечні випадки переглядаються людьми.
Функція з’явилася після хвилі судових позовів до OpenAI від родин людей, які вчинили самогубство після спілкування з ChatGPT.
У деяких позовах стверджується, що чатбот нібито підштовхував користувачів до самогубства або допомагав планувати такі дії.
В OpenAI заявили, що Trusted Contact є частиною ширшої стратегії зі створення безпечніших AI-систем для людей у кризових ситуаціях.
