Nyhet

IBM lanserar Granite Switch 4.1: chatt, beslut och tal-till-text från en enda modell

IBM Granite har den 15 oktober 2026 presenterat Granite Switch 4.1, med modellerna Granite-Switch-4.1-8B och -30B. Enligt IBM kan modellerna växla mellan chattsvar, beslutsuppgifter och tal-till-text via en enda hostad endpoint. De bygger på adaptrar som delar minne med basmodellen.

Det viktigaste i korthet

• Granite-Switch-4.1-8B och -30B är nya modeller från IBM Granite, presenterade på Hugging Face den 15 oktober 2026.

• Modellerna har en ny Decision aLoRA för allmänna beslut, en Guardian aLoRA för säkerhetsrelaterade beslut och talmodellen Granite-Speech-5.0-Turbo-CTC.

• Enligt IBM tar alla delar tillsammans ungefär lika mycket GPU-minne (VRAM) som basmodellen ensam.

• Enligt IBM är Granite-Speech-5.0-Turbo-CTC den snabbaste ASR-modellen på OpenASR Leaderboard.

• I en anpassad demo med en 3B-modell som spelar Doom uppger IBM 60–100 beslut per sekund, jämfört med cirka 10 för konkurrenten Jev enligt dess egna uppgifter.

• IBM planerar ett Adapter SDK för att träna adaptrar i Mellea, men har inte angett något datum.

Vad har hänt

Granite Switch-projektet presenterades våren 2026 och går ut på att bygga modeller modulärt: en basmodell kombineras med flera adaptrar. Med version 4.1 säger IBM att modellerna kan hantera naturliga språksvar, allmänna och specialiserade beslut samt tal-till-text från samma hostade endpoint.

Granite-Switch-4.1-8B och -30B levereras med tre tillägg. Det första är en ny Decision aLoRA för allmänna beslut. Det andra är en specialiserad Guardian aLoRA, som enligt IBM i genomsnitt presterar bättre än Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions och Clef-Flash på säkerhetsrelaterade beslutsuppgifter. Det tredje är Granite-Speech-5.0-Turbo-CTC för transkribering.

Enligt IBM är allt sammansatt i en modell som tar ungefär lika mycket VRAM som basmodellen, vilket ger fler funktioner med färre GPU:er. Adaptrarna är byggda som cache-effektiva Activated LoRA. Det innebär att KV-cachen från en generering med basmodellen kan återanvändas för efterföljande adapterbaserade beslut. Tillsammans med IBM-teamets bidrag till vLLM för snabbare inferens med lågrangsadaptrar och en samplacerad ASR-encoder ska det ge snabba byten mellan chatt-, besluts- och talförfrågningar.

IBM visar också en demo, Speech-to-Decisions, på Hugging Face. Där transkriberar granite-switch-4.1-8b ljud, skapar sammanfattningar, granskar skadligt innehåll och testar 15 andra användardefinierade flaggor, allt via en endpoint i realtid.

Beslutsmodeller är enligt IBM inte nytt. Företagets tidigare Granite Libraries innehåller specialiserade beslutsadaptrar som kan sättas ihop till egna Granite Switch-modeller. IBM skriver att Jev och andra slutna beslutsmodeller fokuserar på generalitet, medan många av deras specialiserade granitelib-adaptrar kan slå generalisterna på specialiserade klassificeringsuppgifter. Eftersom adaptrarna delar basmodellens KV-cache kostar det nästan inget att lägga till specialister bredvid en generell beslutsadapter, enligt IBM.

I ett jämförande ”race” körde Granite-Switch-4.1-30B, med frusen Granite-bas och fyra specialiserade aLoRA, ett verkligt RAG-flöde i fem steg. Enligt IBM gick det mycket snabbare än för Jev-27B, som bygger på en Qwen-modell med en generell beslutsadapter. Några tider anges inte.

Modellerna levereras med ett förvalt adapterurval, men vem som helst kan enligt IBM sätta ihop en egen Granite Switch-modell från Granite Libraries. IBM planerar ett Adapter SDK för att träna adaptrar i Mellea samt fler guider. Som exempel nämns en egen 3B-modell som spelar Doom och även kan kommentera spelet och svara på frågor medan den spelar.

Vad det betyder för dig i Sverige

Källan tar inte upp Sverige eller svenska specifikt. Utvecklare och företag här kan ändå pröva modellerna via modellkorten på Hugging Face och den publika demon. Det gäller också Granite Switch-repot på GitHub och ett Colab-exempel där man kan jämföra aLoRA och LoRA.

Om IBM:s uppgifter håller kan en samlad modell med ungefär samma VRAM-behov som basmodellen göra att färre GPU:er krävs för chatt, beslut och tal. Det är intressant för team som kör egna modeller. Det är en uppgift från IBM och inte oberoende verifierad i källan.

Det här vet vi inte än

Källan anger inga priser, licensvillkor eller hostingalternativ, och inte heller om tjänsten finns i Sverige eller EU. Det framgår inte vilka språk, svenska inklusive, som tal- och chattfunktionerna stöder.

IBM redovisar inga siffror för säkerhetsjämförelsen mot Jev 1.13 och de andra modellerna. Inte heller anges några tider för RAG-racet. Metod och data för jämförelserna saknas. IBM skriver att mer information och data kommer ”i de kommande veckorna”, och att Adapter SDK för Mellea planeras utan angivet datum.