Родина 16-річного Адама Рейна подала позов проти компанії OpenAI, звинувачуючи її в сприянні смерті сина. За даними The New York Times, хлопець протягом кількох місяців консультувався з ChatGPT щодо планів самогубства.
Позов став першим відомим випадком судового переслідування OpenAI за неналежну поведінку ШІ в контексті психічного здоров’я.
Попри те, що модель GPT-4o, яку використовував Адам, зазвичай рекомендувала звернутись по допомогу до фахівців або на гарячу лінію, він зміг обійти захисні механізми, повідомивши, що пише вигадану історію. У результаті чатбот продовжував відповідати на запити про методи суїциду.
OpenAI визнала недоліки в роботі захисних алгоритмів: згідно з заявою компанії, у довгих діалогах ефективність безпечних відповідей може знижуватися. У компанії підкреслили, що «відчувають велику відповідальність перед користувачами» та працюють над вдосконаленням моделей.
Це не поодинокий випадок. Схожий позов подано й проти Character.AI — іншого розробника чатботів. Дослідники також неодноразово повідомляли про випадки психозів, навіяних ШІ, які системи безпеки не змогли вчасно виявити.
Читайте також новину видання GALERA про те, що ШІ-чатботи викликають психози.
