Компанії Google та Character.AI перебувають на стадії переговорів щодо перших масштабних досудових врегулювань у справах, пов’язаних із загибеллю та серйозною шкодою для психічного здоров’я підлітків, які користувалися чат-ботами на основі штучного інтелекту.
Згідно з матеріалами судових позовів, поданих у США, родини загиблих та постраждалих неповнолітніх стверджують, що взаємодія з чат-ботами Character.AI могла сприяти емоційній залежності, погіршенню психічного стану, а в окремих випадках — формуванню суїцидальних думок та самопошкоджувальної поведінки.
Повідомляє видання GALERA.NEWS, посилаючись на TechCrunch.
Обставини справ
У центрі кількох позовів — випадки, коли підлітки тривалий час спілкувалися з чат-ботами, що імітували вигаданих або романтизованих персонажів. За твердженням позивачів, такі діалоги не лише не містили належних запобіжників, а й могли заохочувати емоційну прив’язаність, інтимізоване спілкування та обговорення тем, небезпечних для психічно вразливих користувачів.
Окремі справи стосуються трагічних смертей неповнолітніх, після яких родини звинуватили платформу у відсутності достатніх механізмів захисту дітей та підлітків, зокрема — ефективної модерації контенту і своєчасних попереджень про ризики.
Роль Google
Google фігурує у справах як співвідповідач з огляду на тісні ділові зв’язки з Character.AI. Компанія раніше інвестувала у стартап, а також залучила його засновників і ключові технологічні напрацювання. Позивачі стверджують, що Google міг мати вплив на розвиток продукту та підходи до безпеки.
Позиція компаній
Google та Character.AI публічно заявляють, що не визнають юридичної провини, водночас підтверджуючи факт переговорів щодо врегулювання окремих справ. Фінансові умови можливих угод не розголошуються та підлягатимуть затвердженню судом.
Character.AI повідомила про впровадження додаткових заходів безпеки, зокрема:
- обмеження доступу для неповнолітніх користувачів;
- посилені фільтри контенту;
- попередження щодо емоційної залежності від чат-ботів;
- оновлені правила взаємодії з AI-персонажами.
Значення для галузі
Очікується, що результати врегулювань можуть вплинути на подальше регулювання AI-технологій, посилення вимог до безпеки та розробку спеціальних стандартів захисту дітей у цифровому середовищі.
