Nyhet

Anthropic släpper in granskare från METR i verksamheten för att bedöma AI-risker

Anthropic meddelade den 15 oktober 2026 att bolaget har börjat ge ett team från den ideella organisationen METR anställdsliknande åtkomst för att granska risker med bolagets AI-modeller. METR får publicera sina bedömningar, och Anthropic kan inte lägga in veto mot publiceringen. Bolaget samarbetar också med bland andra SecureBio och Accenture.

Det viktigaste i korthet

• Anthropic har onboardat sex METR-anställda med företagsdatorer, kontorsplats och tillgång till interna verktyg och system.

• Åtkomsten är enligt Anthropic ungefär jämförbar med den bolagets egna riskbedömningsteam har.

• Anthropic kan inte stoppa METR:s publicering, men får kräva att information inom snävt definierade kategorier tas bort.

• SecureBio granskar just nu kapitlet om kemiska och biologiska vapen i Anthropics Risk Report från augusti.

• Anthropic bygger tre nivåer av åtkomst för externa granskare, där METR ligger på den högsta.

• Bolaget säger sig vara i tidiga samtal med flera andra organisationer, bland dem Hugging Face.

Vad har hänt

Anthropic berättar att bolaget förra månaden lovade kraftfullare oberoende granskning av sina modeller och sitt säkerhetsarbete. Bolaget skrev också under ett amerikanskt avtal kallat White House Accord on Super Intelligence. I det förband sig företag att samarbeta med oberoende externa revisorer eller utvärderare. Nu tar Anthropic ett konkret steg: ett litet team från METR, som utvärderar de mest avancerade AI-modellerna, får arbeta nära verksamheten. Under det senaste året har METR redan granskat Anthropics Risk Reports vid flera tillfällen.

Enligt Anthropic kan bolaget inte dela all säkerhetsrelevant information offentligt. Delar av den kan vara användbara för illasinnade aktörer, och andra delar, som uppgifter om beräkningskapacitet och träning, är kommersiellt känsliga. Därför ger man i stället utvärderare djup insyn och låter dem redovisa bevis och motiverade slutsatser om riskerna. Målet är att minska glappet mellan vad utvärderarna förstår om ett AI-bolags system och vad bolaget självt förstår.

Anthropic anger fyra krav på en utvärderare: kompetens att bedöma avancerade modeller, bland annat hur tester kan gå fel, till exempel genom så kallad alignment faking. Utvärderaren ska vara oberoende, det vill säga inte äga aktier i bolaget och inte vara ekonomiskt eller operativt beroende av det. Utvärderaren ska ha tillräcklig åtkomst, även till hur modellerna tränats och hur skyddsåtgärderna fungerar. Slutligen ska utvärderaren ha frihet att publicera. Anthropic jämför med banktillsyn, där myndigheter placerar inspektörer inne i de största bankerna, men säger att liknelsen inte är exakt.

METR-teamet får dela information med Anthropics personal ungefär som en kollega. Undantag gäller ett fåtal kategorier, till exempel kunddata, juridiskt skyddad information och uppgifter om modellarkitektur. Anthropic kan kräva att sådant tas bort ur publicerat material, men METR får offentligt beskriva borttagningarna och säga om de var motiverade, så länge den dolda informationen inte avslöjas. Övriga METR-anställda, även forskare som arbetar med Anthropic i andra projekt, hålls avskilda från teamets arbete, som sker under verkställbara avtal.

Anthropic bygger tre nivåer. På nivå ett gör utvärderare snävt avgränsade riskundersökningar, Anthropic bestämmer åtkomsten och publicering kräver godkännande. På nivå två kan utvärderare publicera utan godkännande och får mer information, med samma möjlighet till borttagning av vissa kategorier. Nivå tre är METR-upplägget. SecureBio ligger på nivå ett och har slutfört och publicerat en pilotgranskning av den förra Risk Report. Accenture och Faculty planeras ingå i ett ambitiöst samarbete som omfattar utvärdering och red-teaming av modeller, alignment-bedömningar, test av skyddsåtgärder och kompetensuppbyggnad. Anthropic säger att man gör detta frivilligt och att alla ledande AI-bolag borde göra detsamma.

Vad det betyder för dig i Sverige

Källan nämner inget som särskilt gäller Sverige eller svenska användare. Beskedet rör hur Anthropic granskas externt, inte någon ny produkt eller tjänst. Enligt Anthropic är upplägget ett steg mot stabilare säkerhetsövervakning i AI-branschen. För svenska företag och organisationer som använder AI kan det vara relevant att följa vad METR och andra utvärderare publicerar om riskerna.

Det här vet vi inte än

• När METR publicerar sin första analys av Anthropic, och vad den kommer att visa.

• Hur ofta och i vilken omfattning Anthropic kommer att kräva borttagningar i publicerat material.

• Vilka villkor och publiceringsrättigheter de tidiga partnerskapen med bland andra Hugging Face får.

• När, eller om, fler utvärderare kommer att få fullt inbäddad åtkomst på den tredje nivån.

• Om andra AI-bolag följer Anthropics exempel.

• Om beskedet får några konsekvenser för användare i Sverige.

Viktigt att veta

Artikeln är allmän information och ersätter inte rådgivning från legitimerad vårdpersonal, jurist eller ekonomisk rådgivare. Dela aldrig patient-, klient- eller personuppgifter med AI-tjänster utan rättslig grund, och låt en människa fatta beslut som påverkar hälsa, rättigheter eller ekonomi.