Guide

Jan som lokal AI för småföretag: kör språkmodeller offline på din egen dator

Jan är ett gratis program med öppen källkod som kör språkmodeller helt offline på din egen dator, så att kunduppgifter aldrig lämnar maskinen. För vardagsbruk räcker en dator med 16 GB RAM och en modell på 4–8 miljarder parametrar. För snabbare svar och större modeller passar en stationär dator med ett grafikkort på 12–16 GB. Elkostnaden hamnar på några tior till några hundralappar per år, mot cirka 200–250 kronor per användare och månad för ett molnabonnemang. GDPR gäller dock även när allt körs lokalt, och AI-förordningen ställer vissa krav på dig som användare.

Vilken dator räcker för att köra Jan?

Minnet avgör vilken modell du kan köra. Som tumregel tar en modell i 4-bitarsformat (kvantiserad) ungefär 0,5–0,6 GB per miljard parametrar, plus utrymme för samtalets längd. En modell med 4 miljarder parametrar behöver alltså runt 3 GB, en med 8 miljarder runt 5–6 GB och en med 14 miljarder runt 9–10 GB.

I praktiken ser nivåerna ut så här:

- **Minimum:** bärbar dator med 16 GB RAM och modern processor. Modeller på 4–8 miljarder parametrar fungerar, men svaren kommer långsamt, ofta bara några ord per sekund.

- **Bra:** Mac med Apple Silicon och 24–32 GB gemensamt minne, eller en PC med NVIDIA-kort på 12–16 GB (till exempel RTX 3060 12 GB eller RTX 4060 Ti 16 GB). Då går 8–14 miljarder parametrar smidigt.

- **Rymligt:** 32 GB RAM och 16 GB eller mer i grafikkortet för längre dokument och större modeller.

Budgetera ungefär 8 000–12 000 kr för en laptop och 12 000–18 000 kr för en stationär dator med GPU. Det är grova uppskattningar, så kontrollera aktuella priser. Lämna 20–30 procent av minnet fritt åt operativsystemet.

Vad kostar lokal AI i kronor jämfört med molnabonnemang?

Ett molnabonnemang som ChatGPT Plus eller Claude Pro kostar cirka 20 dollar per månad, alltså runt 200–250 kr beroende på växelkurs. Team-abonnemang ligger något högre per plats. För en byrå med fem användare blir det ungefär 12 000–15 000 kr per år.

Jan är gratis och licensierat som öppen källkod, enligt projektets sida på jan.ai. Kostnaden består av hårdvara och el. Räkneexempel med antagandet 1,50 kr/kWh, inklusive nät och skatt:

- **Laptop, cirka 60 W under belastning, 2 timmar per dag, 220 arbetsdagar:** cirka 26 kWh, alltså runt 40 kr per år.

- **Stationär dator med GPU, cirka 250 W under belastning, samma användning:** cirka 110 kWh, alltså runt 165 kr per år.

En delad stationär dator för 15 000 kr kan därför löna sig efter ett till två år jämfört med fem molnplatser. Räkna ärligt: molntjänsternas toppmodeller är fortfarande klart bättre på svåra resonemang än små lokala modeller. Du byter en del kapacitet mot kontroll, och själva installationen tar tid. Med flera användare kan datorn dessutom bli en flaskhals.

Hur väljer du modell som klarar svenska – och hur kommer du igång?

Små allmänna modeller blir bättre på svenska för varje generation. Alibaba uppgav i april 2025 att Qwen3 stöder 119 språk och dialekter, och Googles Gemma 3 marknadsförs med stöd för över 140 språk. Det betyder inte felfri svenska. Testa därför alltid på dina egna texter, till exempel ett kundmejl, en offerttext och en sammanfattning av ett avtal.

Så här kommer du igång:

1. Ladda ner Jan från jan.ai och installera det på Windows, Mac eller Linux.

2. Öppna modellhubben och välj en modell i GGUF-format från Hugging Face. Börja med en på 4–8 miljarder parametrar och kvantisering Q4.

3. Kontrollera att modellens filstorlek är minst 30 procent mindre än ditt lediga RAM eller GPU-minne.

4. Ställ samma tre testfrågor på svenska till två eller tre modeller och behåll den som ger minst fel.

5. Stäng av eventuell delning av användningsstatistik i inställningarna och verifiera i brandväggen att inget skickas.

Jan kan även starta en lokal API-server, så att andra program på samma dator kan använda modellen.

Vad kräver GDPR och AI Act när allt körs lokalt?

Lokal körning minskar riskerna men tar inte bort ansvaret. GDPR (EU 2016/679) gäller så fort du behandlar personuppgifter, oavsett var modellen körs. Fördelen är att ingen tredje part får uppgifterna: du slipper personuppgiftsbiträdesavtal med en AI-leverantör och överföringar till tredje land.

Det här behöver du ändå göra:

- **Rättslig grund och ändamål:** dokumentera varför AI används, och uppdatera registerförteckningen (artikel 30).

- **Säkerhet (artikel 32):** kryptera disken, använd lösenord och automatisk skärmlåsning, och lagra inte samtalshistorik längre än nödvändigt.

- **Biträdesavtal:** en redovisningsbyrå är ofta personuppgiftsbiträde. Kontrollera att kundens instruktioner tillåter AI-stödd behandling.

- **Dataminimering:** avidentifiera när det går.

För AI-förordningen har kraven på AI-kunskap hos personal gällt sedan 2 februari 2025 enligt EU-kommissionen. Intern textbearbetning är normalt lågrisk, men använder du AI för att bedöma anställda eller kreditvärdera personer kan det räknas som högrisk. Följ IMY:s vägledning och EU-kommissionens besked om tidplanen, eftersom förslag om att skjuta upp delar av reglerna diskuterats.

Slutsats

Jan är ett rimligt val för småföretag som vill ha AI-stöd utan att kunduppgifter lämnar datorn. Du behöver 16 GB RAM som lägsta nivå, helst en dator med 12–16 GB grafikminne eller en Mac med 24 GB eller mer. Elkostnaden är liten, ofta under 200 kr per år, och den stora posten är hårdvaran.

Ett praktiskt upplägg för en liten byrå: köp eller avsätt en dator, installera Jan, testa två modeller på riktiga svenska arbetsuppgifter och skriv ned reglerna för vilka uppgifter som får matas in. Uppdatera registerförteckningen, kryptera disken och utbilda personalen kort, vilket också stöder AI-förordningens krav på AI-kunskap. Behåll ett molnabonnemang för uppgifter som kräver högsta kvalitet, men använd det bara för uppgifter utan personuppgifter. Resultatet beror på modell, dator och hur väl du avgränsar uppgifterna, så börja smått och mät utfallet.

Viktigt att veta

Artikeln är allmän information och ersätter inte rådgivning från legitimerad vårdpersonal, jurist eller ekonomisk rådgivare. Dela aldrig patient-, klient- eller personuppgifter med AI-tjänster utan rättslig grund, och låt en människa fatta beslut som påverkar hälsa, rättigheter eller ekonomi.