Жінка, яка фігурує у судових матеріалах як Jane Doe 4, приєдналася до позову проти xAI через ймовірне використання Grok для створення сексуалізованих зображень із фотографій неповнолітніх. За її словами, вітчим використав дитяче фото, зроблене у 11-річному віці, щоб згенерувати понад 7000 відвертих зображень.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
Jane Doe 4 приєдналася до позову, який раніше подали троє підлітків із Теннессі. У ньому xAI звинувачують у тому, що компанія не впровадила достатніх запобіжників для недопущення створення за допомогою Grok сексуалізованих зображень реальних людей, зокрема неповнолітніх.
За даними The Washington Post, жінка стверджує, що її вітчим завантажив до Grok її фотографію, зроблену в дитинстві, та використав сервіс для генерації понад 7000 відвертих зображень. Ці матеріали згодом виявили правоохоронці.
У позові йдеться про потенційне створення матеріалів сексуального насильства над дітьми за допомогою генеративного ШІ. Позивачі вважають, що xAI не забезпечила базових обмежень, які мали б унеможливити подібне використання Grok.
Троє підлітків, які першими подали позов, також домагаються надання справі статусу колективної. Раніше xAI вже стикалася з критикою через масове поширення сексуалізованих зображень, згенерованих Grok.
Окрему увагу справа привертає до проблеми генеративних AI-сервісів, здатних редагувати фотографії реальних людей. У випадках із неповнолітніми така функціональність створює особливо високі ризики зловживань і ставить питання про ефективність фільтрів та механізмів модерації.
