KI Red Teaming

Wie Organisation KI-Risiken erkennen, testen und beherrschen

Sprachmodelle schreiben überzeugende Texte, treffen plausible Entscheidungen und integrieren sich nahtlos in Organisationen. Genau darin liegt ihr Risiko. Denn KI-Systeme wirken korrekt, auch wenn sie falsch liegen – und sie entfalten Wirkung, ohne formell Regeln zu brechen. Dieses Buch zeigt, warum klassisches Red Teaming, Penetration Testing und Application Security für KI-Systeme nicht ausreichen – und wie KI-Red-Teaming als eigenständige Disziplin entsteht: hypothesengetrieben, wirkungsorientiert und auditfähig.

Statt spektakulärer Exploits analysiert der Autor reale Angriffspfade: Prompt Injection ohne Regelbruch, Datenrekonstruktion in RAG-Systemen, Autonomieeffekte bei Agenten, Datenschutzrisiken durch Wahrscheinlichkeiten. Immer geht es nicht um das „Hacken“ von KI, sondern um das systematische Hinterfragen ihrer Nutzung, Integration und Verantwortung.

Das Buch richtet sich an Entwickler, Security-Teams, Red Teams, Compliance- und Datenschutzverantwortliche sowie Entscheider, die KI nicht als Magie, sondern als kritische Infrastruktur begreifen. Alle Beispiele sind reproduzierbar, lokal testbar und DSGVO-konform.