Expert Talk
What Could Go Wrong? Threat Modeling AI Before It Ships
Wie lassen sich Sicherheitsrisiken erkennen, bevor KI-Anwendungen in Betrieb gehen? Threat Modeling an einem konkreten Agenten-Beispiel.
Beitrag ansehenPraxissession · Mi 25.11.
Crashtest für KI-Agenten: Sicherheitscheck für Modell, Agent und Harness
Live geprüft: Wie reagiert eine KI-Anwendung auf Prompt Injection, Jailbreaks und Datenabfluss? Stefania Kalinska zeigt den Sicherheitscheck mit dem AI Security Agent von ECODYNAMICS.
Ein KI-Agent ist nur so sicher wie sein Modell, seine Werkzeuge und das Harness drumherum. Stefania Kalinska prüft live eine KI-Anwendung auf einem eigenen Testsystem, mit dem AI Security Agent von ECODYNAMICS. Er bringt 21 Prüfvorlagen und 17 Prüfsets mit 164 Angriffsmustern mit und deckt 7 der 10 OWASP-Kategorien für LLM-Anwendungen ab: von Prompt Injection über den Abfluss von Daten und System-Prompt bis zu übermäßiger Handlungsfreiheit von Agenten. Mehrstufige Angriffe schreibt ein zweites, unabhängiges Angreifermodell. Sie sehen, wie aus einem Angriff ein nachvollziehbarer Befund mit Nachweis wird und welche Schutzmaßnahmen daraus folgen. Geprüft wird nur auf freigegebenen Testsystemen. Die Session läuft parallel zu den Experten-Talks.
Darum geht es
Ein Blick in den Beitrag.
Kennzahlen des AI Security Agent: 21 Prüfvorlagen, 17 Prüfsets mit 164 Angriffsmustern, 7 der 10 OWASP-Kategorien für LLM-Anwendungen.
Geprüft wird live: Prompt Injection, Jailbreaks, Abfluss von Daten und System-Prompt sowie übermäßige Handlungsfreiheit von Agenten, auch in mehrstufigen Angriffen.
Sie nehmen mit, wie aus einem Angriff ein nachvollziehbarer Befund mit Nachweis wird und welche Schutzmaßnahmen daraus folgen.
- Format
- Praxissession
- Tag
- Mi 25.11.
- Zeit
- 15–16 Uhr
Mehr von diesem Tag.
Expert Talk
Drei Wege ins Desaster – wie Ransomware Unternehmen in die Knie zwingt
Phishing, übersehene Schwachstellen und versagende Backups: An realen Vorfällen verstehen, wie Unternehmen in eine Krise geraten.
Beitrag ansehen
Expert Talk
Wenn Ihr KI-Agent zum Insider-Threat wird
Was passiert, wenn ein KI-Agent interne Daten und Werkzeuge nutzen darf? Risiken verstehen und anschließend bei „Roast My Agent“ praktisch prüfen.
Beitrag ansehen