KI-Test

Ihr KI-Assistent befolgt Anweisungen. Wessen?

Wir finden heraus, wozu sich Ihr KI-Assistent mit einer geschickt formulierten Anfrage bringen lässt – bevor ein Angreifer es herausfindet.

Über Ihre KI-Risiken sprechen
Geschäftsrisiko

KI-Funktionen eröffnen eine neue Art von Angriffsfläche.

Chatbots, Assistenten und LLM-gestützte Abläufe sind zunehmend mit internen Daten, Dokumenten und Werkzeugen verbunden. Ihr Verhalten wird durch Sprache geprägt, nicht nur durch Code – was bedeutet, dass es sich auch mit Sprache manipulieren lässt.

Anweisungen lassen sich überschreiben

Ein sorgfältig formulierter Prompt – oder Inhalt, den das Modell liest – kann sein Verhalten ändern.

Filter und System-Prompts sind selten so robust, wie sie wirken.

Daten können über Antworten abfließen

Modelle mit Zugriff auf Dokumente oder Datenbanken geben womöglich mehr preis als beabsichtigt.

System-Prompts, interne Daten und Zugangsdaten sind häufige Ziele.

Ihr Chatbot spricht für Ihr Unternehmen

Macht ein manipulierter Chatbot falsche Versprechen, gibt vertrauliche Daten preis oder antwortet beleidigend, wird Ihr Unternehmen dafür verantwortlich gemacht.

Und kann die KI APIs oder Werkzeuge aufrufen, wird aus einer manipulierten Antwort schnell eine echte Aktion.

Unser Spezialist mit Zertifizierung für KI/ML-Penetrationstests (C-AI/MLPen) prüft Ihre KI-Funktionen mit realen Angriffstechniken. Zu jedem Befund liefern wir Nachweise und konkrete Empfehlungen zur Behebung. Der beste Zeitpunkt für den Test ist vor dem Go-live.

Beratung anfragen
Methodik

Wie wir KI-gestützte Anwendungen prüfen.

Unsere Prüfung ist den OWASP Top 10 für LLM-Anwendungen zugeordnet und wird von einem Tester mit der Zertifizierung Certified AI/ML Pentester (C-AI/MLPen) durchgeführt. Wir verbinden KI-spezifische Techniken mit klassischem Anwendungstest, da die meisten KI-Funktionen auf gewöhnlichen Webanwendungen und APIs aufsetzen.

  • Direkte Prompt Injection
  • Indirekte Injection über Dokumente, Dateien oder Webinhalte
  • Umgehung von Eingabefiltern und Guardrails
  • Kontextwechsel und Überschreiben von Anweisungen
  • Cross-Site-Scripting durch generierte Inhalte
  • SQL- und Command-Injection über das Modell
  • Unsicheres Rendern von Links und Markup
  • Drittmodelle, Plugins und Bibliotheken
  • Fehlkonfigurationen von Modell und Deployment
  • Offenlegung von Management- und Debug-Schnittstellen
  • Offenlegung von System-Prompts
  • Abfluss interner Daten oder Inhalte anderer Nutzer
  • API-Schlüssel und Zugangsdaten im Kontext
  • Über Retrieval-Quellen (RAG) erreichbare Daten
  • Überberechtigte Werkzeuge und APIs
  • Verkettung von Modellaktionen zu unbeabsichtigten Operationen
  • Autorisierungsprüfungen hinter Tool-Aufrufen
  • Authentifizierung und Session-Handling
  • Zugriffskontrolle zwischen Nutzern und Mandanten
  • API-Sicherheit des KI-Backends
  • Priorisierte Befunde mit Empfehlungen zur Behebung
Beratung

Sicherheit beginnt mit einem Gespräch.

Keine Verkaufsfloskeln – nur ein fokussiertes Gespräch über Ihre Geschäftskontinuität und Ihre operativen Risiken.

Kostenlose 30-minütige Beratung buchen