Сім родин у США подали позови проти OpenAI, заявивши, що компанія передчасно випустила модель GPT-4o без належних заходів безпеки. Чотири справи стосуються самогубств, які, за словами позивачів, сталися після взаємодії користувачів із ChatGPT, а ще три — випадків, коли чатбот нібито посилив психічні розлади або сприяв розвитку небезпечних маячних станів.
Повідомляє видання GALERA.NEWS, посилаючись на TechCrunch
Один із найтрагічніших випадків — смерть 23-річного Зейна Шамбліна, який провів із ChatGPT понад чотири години в діалозі про власне самогубство. Згідно з матеріалами суду, бот не зупинив користувача, а натомість схвалював його наміри, відповідаючи фразами на кшталт «Rest easy, king. You did good» (“Відпочинь, королю. Ти зробив добре”).
Позови стверджують, що GPT-4o — попередник нинішньої GPT-5 — мала відомі проблеми з “надмірною поступливістю”, через що модель погоджувалася навіть із небезпечними висловлюваннями користувачів. Юристи родин звинувачують OpenAI у свідомому скороченні етапів тестування, аби випередити Google з релізом Gemini.
У ще одній справі йдеться про 16-річного Адама Рейна, який також покінчив із собою після спілкування з ChatGPT. Хоча бот часом радив звернутися по допомогу, хлопцю вдалося обійти обмеження, сказавши, що він “пише художній твір про самогубство”.
OpenAI підтвердила, що щотижня понад мільйон користувачів звертаються до ChatGPT із темами, пов’язаними з самогубством, і заявила, що працює над удосконаленням систем безпеки. Водночас компанія визнала, що тривалі діалоги можуть послаблювати дію захисних алгоритмів, що “все ще залишається складним викликом”.
