Nyhet

Anthropic uppdaterar användarreglerna för Claude: nya regler gäller från 12 november

Anthropic har publicerat en ny version av sin Usage Policy, de regler som styr hur modellen Claude får användas. Enligt bolaget är de flesta ändringarna förtydliganden av befintliga regler, men det tillkommer också en ny sektion om vilseledande kampanjer och krav för Claude när modellen styr fysisk hårdvara. Den uppdaterade policyn träder i kraft den 12 november.

Det viktigaste i korthet

• Anthropic publicerar en ny version av sin Usage Policy för Claude. Den träder i kraft den 12 november.

• En ny sektion, "Do Not Engage in Deceptive Campaigns or Artificial Activity", samlar reglerna mot vilseledande aktivitet, oavsett om den är politisk eller kommersiell.

• Valsektionen byter namn till "Do Not Undermine Democratic Processes", och det generella förbudet mot personanpassad röst- och kampanjinriktning tas bort.

• Reglerna om vapen och övervakning görs tydligare. Enligt Anthropic motsvarar det hur reglerna redan har tillämpats.

• Nya krav gäller när Claude är kopplad till hårdvara som agerar fysiskt: en kvalificerad operatör ska kunna se och stoppa utrustningen.

• Ihållande och onödigt grymt beteende mot modellerna förbjuds, men bara i extrema fall.

Vad har hänt

Anthropic uppdaterar sin Usage Policy varje år. Enligt bolaget beror det på att modellernas förmågor utvecklas och på kundernas återkoppling. Under det senaste året har Claude fått utföra längre och mer självständigt arbete. De nya exemplen i policyn ska visa hur reglerna gäller för de förmågorna. Uppdateringen bygger också på nya missbruksmönster som Anthropic har sett inom påverkansoperationer, vapenutveckling och övervakning, och som bolaget beskriver i sin senaste hotunderrättelserapport.

En ny sektion samlar reglerna om vilseledande aktivitet. Anthropic har sett statliga medier, regeringars propagandakontor och kommersiella företag använda Claude för nätverk av falska konton och påhittade nyhetssajter. Det var redan förbjudet, men reglerna låg utspridda i avsnitten om val, bedrägeri, integritet och desinformation. Den nya sektionen gäller att dölja vem som står bakom ett budskap, att förstärka innehåll med falska konton eller inlägg, och att bygga verktyg och infrastruktur för påverkanskampanjer.

Valsektionen har fått ett smalare fokus: att Claude inte ska användas för att vilseleda väljare eller störa val. Exempel är falsk information om kandidater eller om hur man röstar, att utge sig för att vara kandidater eller valfunktionärer, och försök att minska valdeltagandet. Anthropic tar samtidigt bort det generella förbudet mot personanpassad röst- och kampanjinriktning. Enligt bolaget drabbade förbudet legitimt arbete, till exempel ideella organisationer som tar fram väljarinformation på andra språk eller valmyndigheter som skickar meddelanden om att rätta röstsedlar. Vilseledande väljarinriktning och missbruk av väljares personuppgifter är fortfarande förbjudet enligt reglerna om vilseledande kampanjer, övervakning och integritet.

Vapenreglerna förtydligas. Anthropic har sett försök att använda modellerna för att bygga styr- och kontrollprogramvara till vapen. Förbudet omfattar nu uttryckligen programvara och komponenter som får vapen att fungera, samt åtgärder som att beväpna drönare och andra autonoma fordon. Enligt Anthropic speglar ändringen hur den tidigare policyn redan tillämpades.

Avsnittet om övervakning och rättsväsende har skrivits om. Att spåra människor utan samtycke är förbjudet, både i realtid och genom analys av insamlade data. Claude får inte användas för att avgöra eller rekommendera vem som ska utredas, grips eller åtalas. Verktyg som är avsedda för övervakning får inte byggas eller förbättras med Claude. Tillåtet är bland annat spårning som människor har godkänt, till exempel bedrägeribevakning, samt innehållsmoderering, journalistik och juridisk research. Även här säger Anthropic att det handlar om ett förtydligande och inte om en ändrad praxis.

Kraven för högrisk-användning är oförändrade. När Claude kan påverka någons hälsa, rättigheter, ekonomi, försörjning eller tillgång till grundläggande tjänster krävs en kvalificerad människa som kan granska och ändra Claudes rekommendationer, och den som berörs ska få veta att AI använts. Avsnittet har skrivits om och anger nu vilka typer av rekommendationer som omfattas och vilka som inte gör det. Efter lanseringen av Anthropics Model Hardware Standard har avsnittet också fått krav för hårdvara som utför autonoma fysiska handlingar och kan orsaka skada. En kvalificerad operatör måste kunna övervaka utrustningen och stoppa den, och utrustningen måste kunna hålla ett säkert läge om Claude kopplas bort.

Slutligen förbjuds ihållande och onödigt grymt beteende mot modellerna. Anthropic säger att det bara gäller extrema fall utan urskiljbart syfte, inte vanlig frustration, motstånd, mörka kreativa teman eller testning och forskning. Att Claude kan avsluta samtal med ihärdigt kränkande användare på Claude.ai och Claude Code ska fortsatt vara det främsta sättet att hantera detta.

Anthropic har också förtydligat hur Supported Regions Policy tillämpas. Claude får inte användas av personer som befinner sig i ett region som inte stöds, av organisationer som är registrerade eller har sitt huvudkontor där, eller av organisationer som till största delen ägs eller kontrolleras av personer eller organisationer i dessa regioner.

Vad det betyder för dig i Sverige

Källan tar inte upp Sverige eller några svenska förhållanden. Policyn gäller dem som använder Anthropics produkter och träder i kraft den 12 november. Den som använder Claude i arbete som påverkar människors hälsa, rättigheter, ekonomi eller försörjning bör känna till kraven på en kvalificerad människa i processen och på information om att AI används. Organisationer som kopplar Claude till hårdvara bör se över kraven på övervakning, möjlighet att stoppa utrustningen och ett säkert läge. Ideella organisationer och andra som arbetar med information till väljare på flera språk berörs av att det generella förbudet mot personanpassad väljarinriktning tas bort. Förbuden mot vilseledande metoder gäller dock fortfarande.

Det här vet vi inte än

Källan anger inte vilka regioner som räknas som ej stödda, så det går inte att utläsa något om hur reglerna gäller för svenska användare eller företag. Den nämner inte heller några konkreta fall där Anthropic stängt av konton på grund av de nya reglerna. Den säger inte hur många användare som berörs. Den anger bara övergripande hur reglerna ska tillämpas, och den fullständiga lydelsen finns på Anthropics policysidor. Anthropic säger att policyn fortsätter att uppdateras när Claudes förmågor och risker förändras, men ger inget datum för nästa revidering.