Nyhet
NVIDIA lanserar Nemotron 3.5 Embed, Rerank och Parse för AI-agenter
NVIDIA har den 21 oktober 2026 presenterat Nemotron 3.5 Embed, Rerank och Parse, nya öppna och kommersiellt tillgängliga modeller för sökning och dokumentbehandling i AI-agenter. Enligt bolaget i ett blogginlägg på Hugging Face kan bättre sökning minska agenternas tokenförbrukning och ge mer träffsäkra svar. Modellerna hanterar både text och bilder.
Det viktigaste i korthet
• Nemotron 3.5-modellerna är Embed 8B BF16, Embed 1B BF16, Embed 1B NVFP4, Rerank 8B BF16 och Parse (631 miljoner parametrar). De är öppna och kommersiellt tillgängliga.
• Enligt NVIDIA ger Rerank cirka 14 procent lägre tokenkostnad per fråga med Embed 8B och 13 procent med Embed 1B, samtidigt som träffsäkerheten ökar.
• Embed 8B BF16 når 61,17 nDCG@10 på ViDoRe v3.1 och rankas först bland täta sökmodeller per 20 oktober 2026, mot 52,23 för Llama Nemotron Embed VL 1B.
• Rerank 8B BF16 når 60,49 nDCG@10 med kombinerad bild och text, mot 59,17 för Qwen-3-VL-Reranker-8B.
• Embed 1B NVFP4 ger 27,1 procent högre genomströmning på NVIDIA GB200 (från 101,3 till 128,8 dokument per sekund) och behåller 99,85 procent av träffsäkerheten.
• Med NVIDIA NIM uppmättes 6 031 frågor per sekund, cirka 2,9 gånger mer än en jämförbar vLLM-konfiguration (2 099).
Vad har hänt
NVIDIA utökar sin Nemotron Retriever-samling med modeller för att skapa sökvektorer (embedding), ranka sökträffar på nytt (reranking) och göra om dokumentbilder till strukturerat innehåll (parsing). Utgångspunkten är att en AI-agents svar beror på vilka belägg den hittar. Är underlaget ofullständigt eller irrelevant upprepar agenten sökningar och granskar fler dokument, vilket förbrukar fler tokens.
Nemotron 3.5 Embed bygger på förra generationens textmodeller, Nemotron 3 Embed, men kan nu också söka i dokumentbilder med tabeller, diagram, infografik, datablad och scheman. Text och bildinnehåll går alltså att söka tillsammans. 8B-modellen är kvalitetsinriktad. 1B-modellen är destillerad från den och är mindre. NVFP4-varianten av 1B-modellen använder kvantisering i både text- och bildkodare för effektiv drift på hårdvara som stöds. Rerank 8B är en så kallad cross-encoder som bedömer varje par av fråga och dokument gemensamt över text och bild.
I tester av agenter på ViDoRe v3, BRIGHT och BrowseComp-Plus varierade NVIDIA bara sökverktygets uppbyggnad, medan språkmodellen, uppgifterna och datamängden var desamma. Enligt bolaget sänkte Rerank tokenkostnaden med cirka 14 procent (Embed 8B) respektive 13 procent (Embed 1B). Med Embed 8B som sökmodell gav Rerank cirka 0,9 poäng högre nDCG@10 än Qwen3-VL-Reranker-8B till liknande tokenkostnad.
För flerspråkighet utvärderades textsökning på 34 språk och visuell sökning på MIRACL Vision (18 språk) och KoViDoRe. På MIRACL Vision får 8B-modellen 72,6 nDCG@10, 4,3 poäng över Qwen3-VL-Embedding-8B. Embed 1B BF16 får 58,38 på ViDoRe v3.1, 95,4 procent av 8B-modellens resultat. Tillsammans med MTEB-teamet startar NVIDIA även en rankinglista för rerankers på ViDoRe v3.1, där Rerank 8B enligt bolaget ligger etta.
Modellerna kan anpassas till egna dokument. Ett recept kombinerar syntetisk datagenerering, utvinning av svåra negativa exempel, finjustering med NeMo AutoModel och utvärdering. På 8 202 diagram- och infografikbilder ökade Embed 1B BF16 från 37,34 till 44,12 nDCG@10 (18 procent relativt), och Embed 8B från 41,44 till 42,75 (3 procent).
Textdelen är fryst under träningen, så textvektorer ska enligt NVIDIA vara oförändrade jämfört med Nemotron 3 Embed och befintliga index kan återanvändas. Nemotron 3.5 Parse omvandlar dokumentbilder till maskinläsbar text med bevarad struktur: element, positioner, läsordning samt tabeller och diagram som Markdown, HTML-tabeller och strukturerade block.
Vad det betyder för dig i Sverige
Hugging Face-inlägget nämner inte Sverige eller svenska. Modellerna beskrivs som öppna och kommersiellt tillgängliga, så svenska företag och utvecklare som bygger sök- eller agentlösningar kan i princip utvärdera dem. Textsökning har testats på 34 språk, men inlägget anger inte vilka, och det sägs att fler språk kan fungera. Hur väl modellerna fungerar på svenska är därför inte känt. Företag med många PDF-filer, tabeller och diagram kan vara intresserade av bild- och dokumentfunktionerna.
Det här vet vi inte än
• Om svenska ingår bland de utvärderade språken och hur modellerna presterar på svenska.
• Licensvillkor och eventuella priser, inklusive kostnad för NVIDIA NIM.
• Hur resultaten håller i oberoende tester, eftersom alla siffror kommer från NVIDIA.
• Hur Nemotron 3.5 Parse presterar, eftersom inga mätvärden för den modellen redovisas.
• Hur tokenbesparingarna ser ut i andra agentuppsättningar än de som NVIDIA testat.