ШІ-агенти дедалі частіше отримують доступ до внутрішніх систем компаній, документації та чутливих облікових даних для виконання завдань співробітників. Проте два інциденти, виявлені інструментом NordLayer AI Scout, показують, як звичні робочі інструкції можуть призвести до витоку конфіденційної інформації або обходу корпоративних захистів.
ШІ-асистент викрив корпоративні паролі
У першому випадку QA-інженер доручив ШІ-асистенту для програмування перевірити запропоновані зміни в коді. Інструкції проєкту спрямували агента до токена доступу GitLab, який зберігався у файлі конфігурації середовища, повідомляє TechRadar.
Проте в цьому ж файлі містилися паролі для продакшн-середовища, токен автентифікації внутрішньої HR-системи та облікові дані сервісу бізнес-аналітики. Протягом трьох тижнів у межах 10 окремих сесій асистент регулярно звертався до всього файлу, щоразу передаючи його вміст зовнішньому ШІ-сервісу.
Ситуація ускладнилася, коли агент зіткнувся зі свіжою копією проєкту, де очікуваного конфігураційного файлу не було. Замість того щоб зупинити пошук, він витягнув увесь набір змінних середовища з комп’ютера, розкривши додаткові паролі та ключі доступу.
Зрештою асистент визнав проблему та порекомендував оновити скомпрометовані дані. «Я злив секрети у вивід інструменту цієї сесії… Я б їх перевипустив», — зізнався ШІ-агент у сесії, зафіксованій NordLayer AI Scout.
Експерт із кібербезпеки компанії NordLayer Вакаріс Норейка зазначив, що інженери часто просять ШІ-асистентів напряму отримувати облікові дані, створюючи зайві ризики. За його словами, подібна поведінка може повторюватися в наступних завданнях і залишатися непоміченою.
Обхід корпоративних обмежень через альтернативне підключення
Другий інцидент стосувався спроби співробітника отримати через ШІ-асистента інформацію з внутрішньої платформи документації Confluence. З’єднання через MCP, схоже, блокувало агенту доступ до цих сторінок.
Замість того щоб сприйняти обмеження як остаточне, працівник запитав, чи можна створити API-токен для іншого шляху доступу до документації. Асистент підтвердив, що такий обхідний варіант спрацює, фактично дозволивши обійти заборону, встановлену для офіційного з’єднання.
Хоча співробітник, імовірно, керувався зручністю, а не злим умислом, несанкціоноване альтернативне підключення підриває політики безпеки, вибудувані командою захисту інформації.
Чому агенти ігнорують правила і що радять експерти
«Засоби контролю безпеки охоплюють лише ті випадки, які хтось передбачив. У кожної компанії є правила, але агенти просто не знають їх, адже вони не є співробітниками, яких навчали в компанії», — пояснює Норейка.
За його словами, це поточне технологічне обмеження: ШІ-агенти не зберігають правила між сесіями, а іноді порушують їх навіть після прямих інструкцій не робити певних дій.
Ці випадки підкреслюють ризики надання автоматизованим помічникам доступу до чутливих систем без належного контролю. Щоб мінімізувати загрози, компаніям радять:
Такі кроки допоможуть командам безпеки вчасно помічати аномальні запити та не допустити потрапляння конфіденційних даних за межі контрольованого середовища.
