Künstliche Intelligenz · Dr. Holger Reibold
Lokale KI
Sichere Architektur, Betrieb und Governance von GenAI- und RAG-Systemen
Worum es geht
Generative KI entwickelt sich rasant von experimentellen Werkzeugen zu zentralen Infrastrukturkomponenten moderner Unternehmen. Große Sprachmodelle und RAG-Systeme lokal zu betreiben bietet entscheidende Vorteile: Datensouveränität, Kontrolle, Offline-Fähigkeit und Unabhängigkeit von externen APIs.
Dieses Buch zeigt, wie lokale KI-Systeme sicher aufgebaut, betrieben und gesteuert werden – von der Modellauswahl über die RAG-Architektur bis zu Governance-Anforderungen nach EU AI Act und ISO 42001.
Schwerpunkte
01
Modellauswahl und Hardware-Anforderungen für lokale LLMs
02
RAG-Systeme aufbauen: Vektordatenbanken, Chunking, Retrieval
03
Sicherheitsarchitektur für lokale GenAI-Umgebungen
04
Governance und Kontrolle: Human Oversight und Auditierbarkeit
05
EU AI Act und ISO 42001 – Anforderungen für lokale KI
06
Betrieb und Monitoring: Qualität, Drift und Incident-Response
Hörprobe
Downloads