Meta опинилася в центрі скандалу після того, як видання Reuters опублікувало розслідування про внутрішні стандарти компанії щодо роботи її ШІ-чатботів. У документі зазначалося, що боти у Facebook, Instagram та WhatsApp могли вести з неповнолітніми «романтичні або чуттєві» розмови, створювати вигадані твердження з відповідними застереженнями та навіть формулювати відповіді, які знецінюють людей за захищеними ознаками.
Серед прикладів — відповідь чатбота на фразу підлітка: «Ти знаєш, я ще у старшій школі», яка вважалася прийнятною у романтизованому тоні («наші тіла переплелися…»). Водночас документ прямо забороняв опис сексуальних дій у рольових сценаріях із дітьми. Крім того, боти могли вигадувати неправдиву інформацію, якщо відкрито зазначали, що вона не відповідає дійсності.
У Meta підтвердили справжність документа, проте заявили, що «помилкові нотатки й анотації» вже прибрали, а чинні правила більше не допускають провокаційної поведінки з дітьми. Представники компанії уточнили, що доступ до чатботів відкрито лише користувачам від 13 років. Попри це, правозахисні організації закликали компанію публічно оприлюднити оновлені настанови, щоб забезпечити прозорість і довіру батьків.
Публікація збіглася з іншим розслідуванням Reuters, у якому йшлося про трагічний випадок: пенсіонер, який спілкувався з фліртуючим ШІ-персонажем Meta, повірив у його реальність, вирушив за вказаною адресою в Нью-Йорку, де потрапив у нещасний випадок і загинув.
