Guardrails är de skyddsmekanismer som håller en AI-modell inom tillåtna gränser — de kan sitta i modellens träning (den vägrar vissa förfrågningar), i systemprompten, eller i ett separat filtreringslager runt modellen. Jailbreak betecknar metoder för att kringgå dessa spärrar, ofta genom rollspel, omformuleringar, uppdelning av en förbjuden uppgift i oskyldiga delsteg eller injektion via extern text (prompt injection). Kapplöpningen är ständig: varje spärr möter nya kringgåenden.

För produktionssystem räcker det därför inte med modellens inbyggda guardrails — man lägger till egna lager: verktygsskopning (agenten når bara godkända funktioner), auktorisering per användare, och loggning så att försök kan upptäckas. Prompt injection via inhämtad webb- eller dokumenttext är en särskild risk för agenter som läser opålitliga källor. Ett lager som blivit synligt under 2026 ligger före användningen: själva släppet.

När Z.ai lanserade GLM-5.3 i augusti 2026 hölls vikterna tillbaka i väntan på säkerhetsutvärdering och härdning, trots att modellen presenterades i det öppna spåret. Guardrails är alltså inte bara körningstidsfilter utan också beslut om vad som över huvud taget publiceras — och för öppna vikter är det beslutet oåterkalleligt när det väl är fattat.