Träning är processen att bygga en modell genom att låta den lära sig mönster ur stora datamängder — en engångsinsats som kräver enormt mycket compute och tid. Inferens är att köra den färdiga modellen för att få ett svar, det som sker varje gång någon ställer en fråga. Träning är alltså en stor, sällan återkommande investering, medan inferens är en löpande kostnad som skalar med användningen.

Denna skillnad förklarar mycket av AI-ekonomin: bara ett fåtal aktörer har råd att träna de största modellerna, men många kan köra inferens, inte minst lokalt på egen hårdvara med öppna modeller. En axel som blivit tydligare under 2026 är tokeneffektivitet: två modeller kan kosta lika mycket per token men förbruka olika många tokens för samma uppgift, vilket gör listpriset per token till ett otillräckligt mått på verklig inferenskostnad — särskilt för resonerande modeller och agenter som genererar mycket mellanled. För verksamheter är det ofta inferenskostnaden och var inferensen sker (moln eller egen infrastruktur) som är den praktiska och integritetsmässiga frågan.

Lokal inferens är därför central för datasuveränitet.