Blyerts
MenyTeach & TalkSköt hemsidan med AILagarna kring AI och dataDet nya arbetslivetAI och samhälletAlla temanRedaktörernaKurserMetoderKontexterOrdbokenPlattformenCoWork StudioMedlemskap BasNytt och omskrivetMedlemskap Bas · gratis till nyår

Scaling laws

Mer data + compute → förutsägbart bättre.

OrdbokenBegreppKontrollerad mot källa 2026-10-05

Scaling laws

Mer data + compute → förutsägbart bättre.

Skallagar (scaling laws) är empiriska samband som visar att en modells prestanda förbättras förutsägbart när man ökar tre faktorer: modellens storlek, mängden träningsdata och mängden compute. Iakttagelsen, som fick stort genomslag genom OpenAI och senare DeepMind (Chinchilla), låg bakom strategin att bygga allt större modeller för att nå bättre resultat. Skallagarna förklarar varför compute och kapital blev så avgörande maktfaktorer i AI-kapplöpningen.

På senare tid har bilden nyanserats: avkastningen på ren storlek avtar, och andra vägar som bättre data, reasoning och test-time compute har blivit viktiga komplement. Ett konkret exempel kom i augusti 2026, när Z.ai:s GLM-5.3 lyfte resultatet på Terminal-Bench 3.0 från 4,6 till 28,3 procent på oförändrad basmodell — hela förbättringen kom ur utökad post-träning med fler körbara uppgiftsmiljöer och mer RL-compute, inte ur ökad skala. Metaforskare har sedan, rapporterat i oktober 2026, formulerat egna "Loop Scaling Laws" för arkitekturer som kombinerar parameter-looping med Mixture-of-Experts-sparsitet: en "Looped MoE"-modell kan enligt det nya sambandet matcha en konventionell MoE-modells resonemangsprestanda med ungefär hälften så många parametrar, vid samma träningsberäkning — jämförbart i ambition med hur Chinchilla-studien 2022 omformade träningsbeslut för täta transformer-modeller, men för en ny arkitekturklass.

Skallagar är därför en förklaring till det senaste årtiondets utveckling snarare än en garanti för framtiden, och de är central bakgrund till debatten om huruvida vägen mot AGI går via mer skala eller via smartare arkitektur och efterträning.

Källor

Kaplan et al. (OpenAI, 2020); Hoffmann et al. Chinchilla (DeepMind, 2022); GLM-5.3 (docs.z.ai, digitalapplied.com, emergent.sh — aug 2026); Meta AI, Loop Scaling Laws för Looped Mixture-of-Experts (rapporterat techtimes.com, okt 2026) (live-verifierat 2026-10-05).

Kontrollerad mot källa 2026-10-05 · Ordboken kontrolleras varje natt, ett urval ord i taget

Secret Link