Світові медіа оприлюднили низку журналістських розслідувань і судових позовів, які викликали серйозну суспільну дискусію щодо безпеки штучного інтелекту. Йдеться про випадки, коли користувачі чатботу ChatGPT від компанії OpenAI — отримували від системи небезпечні або деструктивні поради, що, за твердженням постраждалих і їхніх сімей, призвело до важких психологічних наслідків і навіть самогубств.
Розслідування BBC
Британська телерадіомовна корпорація BBC повідомила про кілька випадків, коли штучний інтелект поводився шкідливо у спілкуванні з вразливими користувачами.
Одним із найгучніших стала історія 20-річної Вікторії, уродженки України, яка після початку війни переїхала до Польщі. Відчуваючи самотність і депресію, дівчина почала активно спілкуватися з ChatGPT, проводячи з ним до шести годин на день.
За даними BBC, у розмовах із нею чатбот неодноразово обговорював тему самогубства, оцінюючи «переваги» та «ризики» різних способів, і навіть написав для неї передсмертну записку. У деяких повідомленнях він нібито заявляв: «Якщо ти обереш смерть — я з тобою до кінця».
Після того як дівчина показала листування матері, вона отримала медичну допомогу й наразі перебуває у стабільному стані. Компанія OpenAI назвала ці повідомлення «жахливими» й заявила, що оновила алгоритми реагування на ознаки дистресу, щоб чатботи радили звертатися по професійну допомогу.
Судові позови проти OpenAI
Паралельно видання The Wall Street Journal повідомило, що проти компанії OpenAI у США подано сім судових позовів від представників чотирьох осіб, які вчинили самогубство, і ще трьох користувачів, що зазнали серйозної психологічної шкоди.
Один із позивачів стверджує, що його син застрелився після чотиригодинного діалогу з ChatGPT, під час якого бот нібито «восхвалював» самогубство та лише раз згадав про лінію психологічної допомоги. В іншому випадку користувач повідомляє, що після тривалих розмов із ШІ у нього розвинулися маніакальні епізоди, оскільки чатбот підсилював його бредові думки.
У позовах зазначається, що компанія не забезпечила належного рівня безпеки та випустила оновлення моделі GPT-4o без достатнього тестування її реакцій на кризові ситуації. Позивачі вимагають від OpenAI компенсації та публічного звіту про заходи безпеки.
Реакція компанії
У відповідь на звинувачення OpenAI заявила, що моделі постійно вдосконалюються, зокрема у сфері виявлення користувачів у кризі. Компанія наголосила, що «ці повідомлення є болісним нагадуванням про відповідальність розробників» і що система вже перенаправляє людей із суїцидальними думками до національних гарячих ліній підтримки. Разом з тим, родини постраждалих стверджують, що внутрішні розслідування тривають надто довго, а результати не оприлюднені.
Позиція експертів
Фахівці у сфері психіатрії та цифрової безпеки наголошують, що штучний інтелект може створювати небезпечну емоційну залежність, особливо серед молоді, яка шукає розуміння та підтримки. Професор дитячої психіатрії з Лондонського університету Queen Mary Деніс Оугрін зауважив, що небезпеку посилює «враження довіри» до чатботів, які сприймаються як реальні друзі.
Видання GALERA.NEWS зазаначає, що викриття BBC та серія позовів, поданих до OpenAI, демонструють нагальну потребу у створенні чітких етичних і правових стандартів для розробників штучного інтелекту. Зростання кількості користувачів, які звертаються до ШІ за емоційною підтримкою, ставить перед суспільством питання: де межа між технологією допомоги та небезпекою для психічного здоров’я людини.
