Компанія OpenAI представила новий режим безпеки Lockdown Mode, покликаний захистити користувачів від так званих prompt injection-атак — маніпуляцій, коли шкідливі інструкції приховуються у вебсторінках, документах або інших джерелах даних, які обробляє штучний інтелект.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
Новий режим орієнтований насамперед на компанії та користувачів, які працюють із конфіденційною інформацією та хочуть мінімізувати ризики витоку даних під час використання ChatGPT.
Після активації Lockdown Mode система автоматично відключає низку функцій, які можуть створювати додаткові ризики безпеки. Зокрема, користувачі втрачають доступ до перегляду вебсторінок у реальному часі, отримання та відображення зображень із мережі, режиму глибокого дослідження (Deep Research) та агентного режиму (Agent Mode).
Водночас OpenAI наголошує, що новий інструмент не гарантує абсолютного захисту. Prompt injection-атаки все ще можуть бути присутніми у кешованому вебконтенті або файлах, які користувач завантажує до системи. У таких випадках вони можуть впливати на поведінку моделі або точність відповідей.
У компанії підкреслюють, що Lockdown Mode не призначений для масового використання. Його створили для організацій та спеціалістів, які працюють із чутливими даними та потребують підвищеного рівня контролю над роботою AI.
Наразі OpenAI поступово відкриває доступ до Lockdown Mode для клієнтів ChatGPT Business, а також для окремих персональних акаунтів, які відповідають вимогам компанії.
Поява нового режиму свідчить про те, що питання кібербезпеки та захисту даних стають дедалі важливішими для розробників генеративного штучного інтелекту на тлі зростання кількості атак, спрямованих на AI-системи.
