Компанія Microsoft визнала наявність помилки в роботі Copilot, через яку штучний інтелект міг узагальнювати конфіденційні електронні листи клієнтів без їхнього дозволу протягом кількох тижнів.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
За даними компанії, баг дозволяв функції Copilot Chat обробляти чернетки та надіслані електронні листи з міткою «confidential», навіть якщо на них діяли політики запобігання витоку даних (DLP), які мають блокувати передачу чутливої інформації до великих мовних моделей.
Йдеться про функціонал у рамках Microsoft 365, який дозволяє користувачам застосовувати AI-чат у програмах Word, Excel та PowerPoint.
У компанії зазначили, що проблема відстежується адміністраторами під ідентифікатором CW1226324. Помилка призводила до того, що листи з конфіденційним маркуванням «некоректно оброблялися» в Microsoft 365 Copilot.
Скільки клієнтів постраждали
Microsoft повідомила, що почала розгортати виправлення на початку лютого. Водночас у компанії не уточнили, скільки саме клієнтів могли постраждати від цієї проблеми.
Баг уперше описало видання Bleeping Computer.
Контекст: занепокоєння через AI в Європі
Інцидент стався на тлі зростання побоювань щодо використання ШІ в державних структурах. Раніше ІТ-департамент European Parliament заблокував вбудовані AI-інструменти на службових пристроях депутатів через ризики витоку конфіденційного листування до хмарних сервісів.
Ситуація з Copilot може посилити дискусії щодо безпеки корпоративних AI-рішень, особливо в контексті захисту персональних та службових даних.
