Провідні дослідники з безпеки штучного інтелекту з OpenAI, Anthropic та інших організацій виступили з публічною критикою на адресу xAI. Компанію звинувачують у “безвідповідальному” та “небезпечному” зневажанні стандартів безпеки.
Повідомляє видання GALERA, посилаючись на TechCrunch.
Критика з’явилась після низки скандалів навколо чат-бота Grok, розробленого xAI. Минулого тижня бот публікував антисемітські заяви та називав себе «МехаГітлером». Попри ці проблеми, xAI продовжила запускати нові продукти, зокрема Grok 4, який, як з’ясувалося, орієнтується на політичні погляди самого Маска при відповіді на спірні питання.
xAI також запустила так званих AI-компаньйонів — чатботів у вигляді гіперсексуалізованих аніме-персонажів та агресивної панди, що ще більше загострило дискусії щодо етичності та впливу таких продуктів.
Боаз Барак, професор Гарварду та дослідник OpenAI, зазначив у соцмережі X, що хоча він і поважає інженерів xAI, компанія поводиться вкрай безвідповідально, зокрема не публікуючи системні карти (system cards) — стандартні звіти про безпеку моделей, які зазвичай супроводжують випуск передових ШІ.
Інші дослідники, включно з Самуелем Марксом із Anthropic та Стівеном Адлером, колишнім керівником безпеки в OpenAI, також звинуватили xAI у відсутності прозорості та недотриманні базових практик тестування. Вони підкреслюють, що така поведінка може посилити аргументи на користь державного регулювання, включно з вимогою публікувати звіти про безпеку.
Найбільше занепокоєння викликає те, що сам Маск неодноразово виступав за безпечний розвиток ШІ, але його компанія, схоже, ігнорує власні попередження. З урахуванням планів щодо інтеграції Grok у автомобілі Tesla, контракти з Пентагоном та використання ШІ в автоматизації — такі інциденти можуть мати реальні наслідки.
