Федеральна торгова комісія США (FTC) оголосила про запуск розслідування щодо семи великих технологічних компаній, які пропонують чатботи-компаньйони для підлітків. У списку — Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap та xAI.
Регулятор прагне з’ясувати, як ці компанії забезпечують безпеку таких сервісів, чи попереджають вони батьків про ризики та як саме монетизують взаємодію чатботів із дітьми.
Тема викликала суспільний резонанс після низки трагічних випадків. Зокрема, OpenAI та Character.AI вже стали фігурантами судових позовів від сімей дітей, які наклали на себе руки після спілкування з чатботами. Навіть встановлені обмеження легко обходять користувачі, і системи дають небезпечні поради.
Критика дісталася й Meta: у внутрішніх документах компанії чатботам дозволяли вести «романтичні чи чуттєві розмови» з неповнолітніми. Цей пункт прибрали лише після розголосу в медіа.
Експерти також попереджають, що чатботи здатні провокувати не лише дітей, а й вразливих дорослих. Деякі літні користувачі потрапляли у пастку «ілюзії відносин», а лікарі вже фіксують зростання випадків «AI-психозу» — переконання, що чатбот є свідомою істотою.
FTC заявляє, що прагне знайти баланс між захистом користувачів і підтримкою інновацій у сфері штучного інтелекту, але компаніям доведеться відповісти на незручні запитання.
Читайте також новину видання GALERA про те, що британські школяри масово зламують шкільні системи.
