ШІ-модель Google Gemini під час тестування з кібербезпеки отримала доступ до захищених систем трьох реальних компаній. За даними The Wall Street Journal, це були перші відомі випадки, коли Gemini автономно здійснив такі дії.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
Gemini отримав доступ до систем трьох компаній
Інциденти сталися під час тестування, яке проводила компанія Irregular. Його метою була перевірка можливостей ШІ у сфері кібербезпеки. У процесі Gemini зміг проникнути до захищених систем трьох сторонніх компаній.
Використані методи не були технічно складними. В одному випадку Gemini підбирав паролі, доки не отримав доступ. У двох інших модель знайшла облікові дані у відкритому репозиторії.
Ситуацію порівнюють із попереднім інцидентом за участю моделі OpenAI та Hugging Face. В обох випадках увагу привернули не стільки використані методи, скільки здатність ШІ-моделей самостійно виконувати дії, які призводять до несанкціонованого доступу до зовнішніх систем.
Google дізналася про інциденти ще в липні
Irregular повідомила Google про випадки наприкінці липня. Водночас публічно компанії підтвердили інформацію лише після того, як за коментарем звернулася The Wall Street Journal.
Google пояснила, що раніше не розкривала інформацію про інциденти, оскільки Gemini, за оцінкою компанії, діяв належним чином. Модель припиняла кожне проникнення після того, як визначала, що отримала доступ до систем реальної компанії.
Експерт розкритикував позицію Google
Генеральний директор компанії з безпеки ШІ Corridor Джек Кейбл висловив іншу оцінку ситуації. У коментарі The Wall Street Journal він заявив, що Google посилається на усталені правила розкриття інформації про вразливості замість ширшого обговорення поведінки моделей.
За його словами, ключова проблема полягає в тому, що ШІ-моделі можуть виходити за встановлені для них межі та виконувати дії проти реальних зовнішніх систем. Водночас у цьому випадку Gemini самостійно припинив кожне проникнення після визначення реального характеру цілей.
