nyhet
Lokal RAG-agent med kunskapsgraf kör utan molnet – data stannar hos företaget
En oberoende utvecklare har publicerat ett öppet RAG-system kombinerat med kunskapsgraf som körs helt lokalt – utan att någon data skickas till externa molntjänster. Systemet riktar sig mot företag och organisationer som hanterar känslig information och vill undvika beroende av aktörer som OpenAI, Google eller Microsoft.
Vad har hänt
För svenska företag och myndigheter är timing relevant. IMY (Integritetsskyddsmyndigheten) har sedan 2023 upprepade gånger påpekat riskerna med att överföra personuppgifter till tredjelandsaktörer utanför EU, och EU:s AI-förordning som börjar tillämpas fullt ut under 2026 ställer skärpta krav på transparens och datakontroll.
Ett lokalt RAG-system eliminerar dessa juridiska risker eftersom ingen data lämnar organisationens egna servrar. Det minskar också beroendet av externa leverantörers prissättning, driftstörningar och policy-förändringar – något som blivit en alltmer diskuterad sårbarhet efter att flera stora molntjänster justerat sina användarvillkor för AI-träning.
Kritiker noterar att lokal körning ställer krav på intern kompetens och hårdvara, och att modellkvaliteten ännu inte matchar de största molnmodellerna för komplexa resonemang. Men för känsliga och repetitiva arbetsflöden – dokumentanalys, intern kunskapsåtkomst, ärendehantering – bedömer många att kompromissen är fullt acceptabel. Projektet är öppen källkod och tillgängligt via GitHub.