Nyhet

llama.cpp v1.0.0 släppt: ggml-org inför tydligare versionsregler för lokal AI

Projektet ggml-org, som numera drivs med Hugging Face, har släppt version 1.0.0 av biblioteken llama.cpp och ggml. Beskedet publicerades den 13 november 2026, drygt tre och ett halvt år efter att projektet startade. Från och med nu ska brytande ändringar i API och ABI markeras med nytt huvudversionsnummer, så att utvecklare som bygger på biblioteken ska veta var gränserna går.

Det viktigaste i korthet

• llama.cpp v1.0.0 (libllama) och ggml v1.0.0 (libggml) släpptes den 13 november 2026.

• Framöver ska API- och ABI-inkompatibiliteter i både llama.cpp och ggml visas genom att huvudversionen höjs.

• Huvudversionen höjs vid brytande ändringar i det publika C-API:et i ./include; nya funktioner, backend-uppdateringar och modellstöd ger en minor-höjning.

• llama.cpp stöder enligt projektet fler än 150 arkitekturvarianter samt alla vanliga metoder för speculative decoding.

• Programvaran distribueras bland annat via Docker, Debian, Homebrew, conda-forge, MacPorts, Winget och XCFramework.

• Hårdvarustöd för testmiljön kommer från NVIDIA, AMD, Qualcomm, Arm, IBM och Intel.

Vad har hänt

llama.cpp är ett C/C++-bibliotek för att köra språkmodeller, även multimodala, lokalt på allt från konsumentdatorer till kraftfulla företagsservrar. Enligt projektet sker det med hjälp av kvantisering, optimerade backends och en portabel implementation. Under de 3,5 år som gått sedan starten har många program kommit att bygga på arbetet. Projektet räknar med att utvecklingen fortsätter i takt med att lokal AI och integritet blir viktigare, och menar att ett flexibelt men stabilt API därför är avgörande.

Med v1.0.0 vill teamet visa att det tar ansvar för de utvecklare som är beroende av biblioteken. Både llama.cpp (libllama, publika headers i llama.cpp/include/) och ggml, tensorbiblioteket för maskininlärning (libggml, headers i ggml/include/), får därför versionsnummer enligt semantisk versionering. Reglerna gäller alla ggml-org-projekt som använder sådan versionering. En major-höjning görs vid brytande ändring i det publika C-API:et. En minor-höjning görs vid bakåtkompatibla funktioner, backend-uppdateringar, modellstöd eller API-tillägg. En patch-höjning görs vid buggfixar utan API-ändring. Projektet säger att det blir striktare med att synliggöra dessa gränser för dem som använder biblioteken.

Även distributionen ska utökas. Källan listar förkompilerade artefakter för Linux, macOS, Windows, Android och iOS, Docker och Debian för Linux, Homebrew för macOS och Linux, conda-forge för Windows, macOS och Linux, MacPorts för macOS, Winget för Windows samt XCFramework för iOS och macOS. Den som vill lägga till ggml-org-projekt i egna paketerings- och releaseflöden hänvisas till en diskussion som länkas i inlägget.

Om utvecklingen skriver teamet att man anpassar och använder LLM:er i utvecklingsarbetet på ett genomtänkt sätt. Hög kodkvalitet, kontroll över arkitekturen och förståelse för implementationsdetaljerna ska fortsatt prioriteras. För att klara snabbare utvecklingstakt satsar projektet mer på CI-infrastrukturen. Med Hugging Faces tekniker HF Buckets och HF Jobs kan kapaciteten skalas för att säkra att varje ändring på master-grenarna är korrekt. Med hårdvarustöd från NVIDIA, AMD, Qualcomm, Arm, IBM och Intel lägger teamet till fler egna testkörare på de stora hårdvaruplattformarna.

Grunden i llama.cpp är ggml, som enligt projektet är byggd för att köra på i princip all befintlig hårdvara genom särskilda backends. Varje backend kan kompileras som dynamiskt bibliotek och valfritt laddas vid körning. Teamet lovar fortsatt stöd för alla modellarkitekturer. Inlägget nämner också skrivbordsappar för macOS och Windows från teamet bakom llama.cpp och Hugging Face. Inlägget är skrivet av Daniel Bevenius, Georgi Gerganov och merve.

Vad det betyder för dig i Sverige

Källan tar inte upp Sverige specifikt. Den som utvecklar program med llama.cpp eller ggml, i Sverige eller någon annanstans, får enligt projektet tydligare signaler om när en uppdatering kan kräva kodändringar, eftersom brytande API-ändringar ska märkas med ny huvudversion. Det gör det enklare att planera uppgraderingar av produkter som kör AI lokalt.

De listade distributionskanalerna, till exempel Homebrew, Winget, Docker och conda-forge, gäller globalt enligt källan och är relevanta för både privatpersoner och företag som vill köra modeller på egen hårdvara. Projektet betonar att lokal körning passar privata AI-produkter, men källan säger inget om svenska regler eller svenska användare.

Det här vet vi inte än

Källan anger inte vilka konkreta API-ändringar, om några, som ingår i v1.0.0 jämfört med tidigare versioner, eller hur uppgraderingen ska gå till för befintliga projekt. Den redovisar inga prestandasiffror eller jämförelser. Den ger inte heller någon tidplan för kommande major-versioner eller för nya distributionskanaler utöver dem som listas. Den fullständiga listan över implementerade backends finns bara som en länk i inlägget och återges inte. Det framgår inte heller om eller hur svenska användare påverkas på något annat sätt än det som gäller alla utvecklare.