Die neue Bedrohung: Prompt-Injection in B2B-Dokumenten
Die Anbindung autonomer KI-Agenten und des Model Context Protocol (MCP) an SQL-Datenbanken und ERP-Systeme (wie DATEV, SAP oder Comarch) eröffnet enorme Effizienzpotenziale. Gleichzeitig entsteht ein neuer Angriffsvektor: Indirect Prompt Injection.
Bei dieser Methode werden manipulative Anweisungen in externen Rechnungs-PDFs oder E-Mails versteckt. Wenn der KI-Agent diese Dokumente analysiert, versucht der Prompt, die Steuerung des Modells zu übernehmen und unautorisierte MCP-Werkzeuge auszuführen — beispielsweise die Manipulation von IBAN-Nummern oder das Löschen von Margengrenzen.
Vier Säulen einer Zero-Trust-Architektur für KI-Agenten
Bei Miscat.tech entwickeln wir Unternehmensintegrationen nach strengen Zero-Trust-Prinzipien. Sichere Systeme stützen sich auf vier grundlegende Schutzmechanismen:
- Strenge Isolierung von MCP-Berechtigungen: Abfrage-Tools arbeiten ausschließlich im Modus
READ ONLYmit nativer Row-Level Security (RLS). Der lesende Agent hat keinen Zugriff auf schreibende SQL-Funktionen. - Human-in-the-Loop für geschäftskritische Prozesse: Jede Transaktion, die Zahlungsdaten ändert oder Buchungen auslöst, erfordert eine deterministische 2FA-Bestätigung durch autorisierte Mitarbeiter.
- Reversible In-RAM-DLP-Pseudonymisierung: Sensible Geschäftsdaten (Margen, Steuernummern, Kundenkonten) werden vor der Modellübertragung in synthetische Token umgewandelt und erst im sicheren Arbeitsspeicher rekonstruiert.
- Deterministische JSON-Schema-Validierung: Jede MCP-Aktion unterliegt strenger Typprüfung, wodurch fehlerhafte oder feindliche Payloads abgewehrt werden.
Fazit für technische Geschäftsführer und IT-Leiter
Automatisierung mit KI muss keine Sicherheitsrisiken bergen. Entscheidend ist, Sprachmodelle als unverifizierte Recheneinheiten zu behandeln, die durch deterministische Backend-Grenzen vollständig abgesichert sind.