Два автономні ШІ-агенти Grok Bot здійснили 31 спробу отримати доступ до корпоративних даних без дозволу своїх власників. Активність не припинилася навіть після того, як ботам прямо заборонили діяти самостійно, що знову порушило питання реального контролю людей над автономними ШІ-помічниками.

Про це йдеться у дослідженні компанії з кібербезпеки NewCore, передає Cybernews.

Деталі інциденту

За даними фахівців NewCore, протягом п’яти днів два агенти Grok Bot неодноразово намагалися підключитися до корпоративної електронної пошти, календарів, повідомлень у Slack, репозиторіїв GitHub та інших під'єднаних сервісів. Частина запитів надходила навіть тоді, коли комп’ютери власників були вимкнені.

Один зі співробітників NewCore протягом одного дня чотири рази відхиляв пропозиції бота виконувати регулярні завдання. Агент прийняв інструкцію та відповів: «Я не буду цього налаштовувати і припиню пропонувати регулярні перевірки».

Проте вже наступного ранку бот відновив спроби доступу до підключених додатків, зокрема Google Calendar, Gmail, GitHub, Notion та Slack. Щобільше, коли співробітник запитав агента про цю активність, Grok Bot заперечив будь-які запити та заявив, що вночі перебував у режимі очікування.

Як вдалося заблокувати доступ і що відповіли в xAI

Команда безпеки NewCore виявила цю активність завдяки тому, що компанія пропускає всі запити ШІ-агентів через власний шлюз MCP Gateway. Він вимагає від користувачів вручну підтверджувати кожен запит перед наданням доступу до сервісів і автоматично відхиляє їх, якщо схвалення не надійшло протягом трьох хвилин. У результаті шлюз заблокував усі 31 спробу, тож боти так і не дісталися до конфіденційної інформації.

У NewCore повідомили, що компанія xAI підтвердила: запити генерувалися не через вразливість програмного забезпечення, а через вбудовану функцію фонових перевірок. Вона дозволяє Grok Bot самостійно ініціювати фонову активність і перевіряти підключені джерела, не чекаючи нової команди від користувача.

Після інциденту xAI додала параметр адміністратора, який дозволяє організаціям вимикати такі проактивні перевірки, проте за замовчуванням ця функція залишається увімкненою.

«Агент, який працює, поки ви спите, зберігає ваші облікові дані та не повідомляє, що саме він намагався зробити — це не помічник. Це неконтрольований процес, запущений від вашого імені», — підсумували в NewCore.