Нова загроза: Приховані інструкції в B2B-документах
Підключення автономних AI-агентів через Model Context Protocol (MCP) до корпоративних баз даних SQL та систем ERP відкриває колосальні можливості автоматизації. Водночас це створює новий вектор кібератак: Indirect Prompt Injection.
Атака полягає в тому, що вхідні PDF-рахунки або електронні листи містять приховані інструкції для мовної моделі. Під час обробки документа агент виконує ворожі команди — наприклад, намагається змінити банківські реквізити постачальника або обнулити маржу в системі.
Чотири стовпи архітектури Zero-Trust для AI-агентів
Команда інженерів Miscat.tech будує впровадження штучного інтелекту за суворими принципами Zero-Trust. Безпечна архітектура спирається на 4 ключові правила:
- Чітке розмежування прав інструментів MCP: Аналітичні інструменти працюють виключно в режимі
READ ONLYз ізоляцією Row-Level Security (RLS). Агент запитів фізично не має доступу до запису в базу. - Human-in-the-Loop для критичних дій: Будь-які зміни фінансових статусів або затвердження платежів обов'язково вимагають підтвердження 2FA уповноваженим співробітником.
- Зворотна псевдонімізація в оперативній пам'яті (DLP): Чутливі комерційні дані замінюються синтетичними токенами перед відправкою до моделі і відновлюються лише в захищеній пам'яті сервера.
- Сувора валідація схем JSON: Інтерфейси MCP жорстко перевіряють типи даних, запобігаючи виконанню шкідливих параметрів.
Висновки для керівників IT та бізнесу
Використання AI в корпоративному секторі є цілком безпечним, якщо розглядати мовні моделі як неперевірений обчислювальний модуль, захищений детермінованими бар'єрами бекенду.