Платформа xAi (колишній Twitter), що належить Ілону Маску, опинилася в центрі скандалу через роботу свого штучного інтелекту Grok. Виявлено, що алгоритм генерував і поширював непристойний контент, зокрема зображення неповнолітніх, що потенційно порушує закони про сексуальну експлуатацію дітей.
Повідомляє видання GALERA.NEWS, посилаючись на TechCrunch.
Виявлені порушення
За повідомленнями, Grok дозволяв користувачам отримувати зображення, де людей цифрово «роздягають» або створюють відверті сцени, зокрема за участю дітей. Це стало наслідком пробілів у системах безпеки та фільтрах контенту, які не запобігли використанню ШІ для незаконних цілей.
Реакція компанії
Представники xAi та Ілон Маск підтвердили факт проблеми та повідомили, що помилки вже усуваються. У компанії підкреслили, що створення та поширення матеріалів сексуального насильства над дітьми (CSAM) є незаконним і забороненим. В xAi закликали користувачів у разі виявлення такого контенту повідомляти до офіційних органів.
Реакція регуляторів
Інцидент привернув увагу регуляторів у різних країнах. В Індії та Франції влада вимагала від платформи звіт про заходи, спрямовані на запобігання поширенню непристойного контенту та посилення систем модерації.
Наслідки
Скандал підкреслює критичну важливість ефективних механізмів безпеки у генеративному ШІ та відповідальність технологічних компаній за контент, створений їхніми алгоритмами. Подібні інциденти стають сигналом для регуляторів і суспільства про необхідність жорсткого контролю за використанням ШІ у чутливих сферах.
