Künstliche Intelligenz · Dr. Holger Reibold
KI Red Teaming
Wie Organisationen KI-Risiken erkennen, testen und beherrschen
Worum es geht
Sprachmodelle schreiben überzeugende Texte, treffen plausible Entscheidungen und integrieren sich nahtlos in Organisationen. Genau darin liegt ihr Risiko: KI-Systeme lassen sich manipulieren, täuschen und missbrauchen – auf Wegen, die klassische Sicherheitsprüfungen nicht erfassen.
Dieses Buch zeigt, wie KI Red Teaming als strukturierte Methode eingesetzt wird: von der Testplanung über konkrete Angriffstechniken bis zum Aufbau einer kontinuierlichen KI-Sicherheitspraxis.
Schwerpunkte
01
KI Red Teaming vs. klassisches Pentesting – Unterschiede und Methodik
02
Prompt Injection, Jailbreaking und Adversarial Prompting systematisch testen
03
Multi-Turn-Angriffe und Rollenspiel-Manipulation
04
Automatisiertes Red Teaming mit LLM-basierten Testtools
05
Befunde dokumentieren, priorisieren und remediieren
06
Aufbau eines kontinuierlichen KI-Red-Teaming-Programms
Downloads