Akte 05
Guardrails
Guardrails sind die Schutzschicht, die Unternehmen zuerst kaufen: Filter und Klassifikatoren um Ein- und Ausgaben. Sie leisten etwas. Nur nicht das, was viele erwarten.
Was sind Guardrails bei KI?
Guardrails, auf Deutsch Leitplanken, sind bei KI-Systemen der Sammelbegriff für alles, was um das Sprachmodell herumgebaut wird, um Ein- und Ausgaben zu kontrollieren: Eingabefilter gegen bekannte Angriffsmuster, Ausgabemoderation gegen unerwünschte Inhalte, Themenzäune, die das Gespräch im vorgesehenen Rahmen halten. Meist ein zweites Modell oder ein Regelwerk, das den Verkehr beobachtet.
Was leisten Guardrails und was nicht?
Gegen Zufallstreffer und bekannte Muster funktionieren Guardrails ordentlich, und genau dafür sind sie sinnvoll. Gegen gezielte Angriffe halten sie selten: Natürliche Sprache erlaubt unendlich viele Umschreibungen, und jeder Filter ist selbst nur ein Klassifikator mit Fehlerrate. Wer seine Sicherheit ausschließlich auf Guardrails baut, hat einen Zaun um ein offenes Haus. Wie brüchig diese Schicht ist, hat eine Untersuchung von Mindgard und der Lancaster University 2025 gemessen: zwölf Techniken der Zeichen-Injektion gegen sechs verbreitete Erkennungssysteme für Prompt Injection und Jailbreaks, darunter Azure Prompt Shield und Meta Prompt Guard. Die wirksamste, in Emoji versteckter Text, kam auf bis zu 100 % Umgehungserfolg.
Wo gehören Guardrails in eine Sicherheitsarchitektur?
Guardrails sind eine Schicht in einer Verteidigung aus mehreren Schichten: sinnvoll als Grundrauschfilter und Frühwarnsystem, gefährlich als einzige Maßnahme. Die tragende Konstruktion bleibt die Architektur dahinter, mit begrenzten Rechten und misstrauisch behandelten Ausgaben. Was gegen Prompt Injection messbar hilft und was nicht, steht im Beitrag zu Indirect Prompt Injection; den Rahmen dafür liefern die OWASP LLM Top 10.
Beiträge in dieser Akte 00
> akte angelegt, die ermittlung läuft … erste protokolle folgen im Journal.