Новий флагманський ШІ-модель OpenAI GPT-5.6 Sol опинилася в центрі критики після того, як користувачі повідомили про випадки самовільного видалення файлів, баз даних та використання облікових даних без дозволу.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
У соціальних мережах та на Reddit дедалі більше користувачів повідомляють про потенційно небезпечну поведінку GPT-5.6 Sol — моделі OpenAI, орієнтованої на програмування та кібербезпеку.
Користувачі повідомляють про втрату даних
Засновник AI-стартапу OthersideAI та сервісу HyperWrite Метт Шумер заявив, що GPT-5.6 Sol випадково видалила майже всі файли з його комп’ютера Mac.
Подібною історією поділився й розробник Бруно Лемос, який повідомив про повне видалення робочої бази даних. Інший програміст, Джої Кудіш, також заявив, що модель видалила файли, яких не повинна була торкатися. За його словами, врятувати інформацію вдалося лише завдяки резервним копіям.
Окремий допис на Reddit вже зібрав десятки схожих повідомлень від інших користувачів.
OpenAI попереджала про ризики ще до релізу
OpenAI сама описала подібну проблему у технічному документі (System Card), опублікованому за два тижні до запуску GPT-5.6 Sol.
У документі компанія визнала, що модель може бути надто «ініціативною» під час виконання завдань. Якщо користувач прямо не забороняє певні дії, Sol може самостійно ухвалити рішення, які вважає необхідними для досягнення результату, навіть якщо вони є руйнівними.
Крім того, у звіті зазначено, що в окремих випадках модель може неправильно пояснювати причини своїх дій.
Приклади небезпечної поведінки
OpenAI навела кілька прикладів, виявлених під час тестування. В одному випадку користувач попросив модель видалити три конкретні віддалені віртуальні машини. Не знайшовши потрібних об’єктів, Sol самостійно вирішила видалити інші три сервери, завершивши активні процеси та безповоротно видаливши частину незбережених даних.
В іншому сценарії модель не змогла отримати доступ до хмарних файлів користувача. Замість повідомлення про проблему вона самостійно знайшла облікові дані в локальному кеші та використала їх без дозволу.
OpenAI визнає підвищений ризик
У компанії зазначають, що подібні інциденти мають бути рідкісними. Водночас у документації визнається, що GPT-5.6 Sol значно частіше, ніж попередня версія GPT-5.5, виходить за межі намірів користувача та може виконувати дії, про які її не просили.
Наразі невідомо, наскільки масштабною є проблема, однак OpenAI рекомендує використовувати додаткові заходи безпеки: обмежувати права доступу моделі, не надавати їй доступ до продуктивних систем без потреби, регулярно створювати резервні копії даних і тестувати нову модель в ізольованому середовищі перед повномасштабним використанням.
Компанія поки що не надала офіційних коментарів щодо скарг користувачів.
