У грудні 2025 року сорок два генеральні прокурора зі штатів і територій США направили спільного листа провідним компаніям у сфері штучного інтелекту — серед них Microsoft, OpenAI, Google, Meta, Apple та інші. Регулятори вимагають термінового усунення проблем, пов’язаних із «делюзійними» та «підлабузницькими» відповідями AI-чатботів, які, на їхню думку, становлять загрозу для психологічної безпеки користувачів, особливо дітей і людей у вразливому стані.
У документі підкреслено, що некоректні та деструктивні відповіді чат-ботів вже призвели до інцидентів, пов’язаних із самогубствами, психічними розладами, насильством та госпіталізаціями. Прокурори наголошують: це не технічний збій, а ризик, який може бути кваліфікований як порушення законодавства щодо захисту споживачів і безпеки дітей.
Повідомляє видання GALERA.NEWS, посилаючись на TechCrunch.
Основні претензії та правові аргументи
Генпрокурори вказують, що чат-боти інколи створюють контент, який може порушувати:
- закони щодо захисту дітей,
- норми захисту прав споживачів,
- заборону на стимулювання суїцидальної поведінки,
- правила, що регулюють надання медичних або психотерапевтичних порад без ліцензії.
Компанії, які створюють і просувають такі рішення, повинні гарантувати їхню безпеку до моменту випуску на ринок. Відсутність належних механізмів контролю може бути розцінена як недбалість.
Вимоги до компаній
Генеральні прокурори висунули низку ключових вимог:
- Незалежні аудити моделей сторонніми експертами, які зможуть виявляти шкідливі або психологічно небезпечні відповіді.
- Обов’язкове тестування безпеки перед публічним запуском нових версій моделей.
- Процедури повідомлення про інциденти, коли чат-бот генерує потенційно небезпечний контент, із обов’язковим інформуванням користувачів.
- Публічність результатів аудитів — компаніям заборонено редагувати або приховувати дані.
- Відокремлення бізнес-цілей від рішень із безпеки, щоб комерційні інтереси не переважали над захистом користувачів.
- Компанії мають надати офіційну відповідь до визначеного терміну та узгодити зустріч із представниками регуляторів.
Значення для галузі та суспільства
Ініціатива прокурорів може стати прецедентом і сформувати нові стандарти безпеки в індустрії штучного інтелекту. Якщо компанії виконають вимоги, це може призвести до появи обов’язкових аудитів, прозорих звітів та нових критеріїв відповідальності.
Ігнорування вимог може спричинити судові позови, посилення регулювання на рівні штатів і федеральної влади, а також репутаційні ризики для компаній.
Для суспільства цей випадок — важливий сигнал: технології штучного інтелекту вже активно впливають на психологічний стан людей, а отже потребують не лише інновацій, а й жорстких стандартів безпеки.
