Nyhet

AI-hallucination höll på att utlösa militär incident mellan USA och Kina

En AI-genererad underrättelserapport om påstådda kinesiska kärnvapenkomponenter ombord på ett civilt fartyg visade sig vara helt fabricerad – en så kallad hallucination. Trots det kom den felaktiga rapporten tillräckligt nära beslutskedjan för att USA nästan ska ha beordrat en militär bordning av fartyget. Händelsen, som rapporteras av Ars Technica i september 2026, beskrivs som ett av de allvarligaste dokumenterade fallen av AI-fel i en säkerhetskritisk kontext.

Vad har hänt

Enligt en rapport från Ars Technica genererade ett AI-system som används inom amerikansk underrättelseverksamhet ett dokument som beskrev ett kinesiskt civilt fartyg som en transportör av kärnvapenrelaterade komponenter. Rapporten var inte baserad på faktisk signalspaning, satellitkartläggning eller mänskliga källor – den var en hallucination, det vill säga ett påhitt som AI-systemet presenterade som faktabaserad analys.

Dokumentet ska ha tagit sig tillräckligt långt upp i beslutskedjan för att en militär åtgärd – bordning av fartyget – ska ha diskuterats på allvar. Det var först när mänskliga analytiker genomförde en manuell källgranskning som felet upptäcktes och aktionen stoppades. Inga detaljer om exakt datum för incidenten, vilket AI-system som användes eller vilka specifika personer i befälskedjan som var inblandade har ännu bekräftats officiellt av amerikanska myndigheter.

Vad det betyder

Händelsen illustrerar en känd men underskattad risk med att integrera stora språkmodeller och AI-analysverktyg i säkerhetskritiska processer: systemen kan producera övertygande, välformulerade och detaljerade rapporter som saknar varje förankring i verkligheten. Det som gör AI-hallucinationer särskilt farliga i militära sammanhang är att de kan se ut precis som äkta underrättelsedokument – med referenser, formuleringar och struktur som signalerar trovärdighet.

Händelsen väcker frågor om hur snabbt AI-verktyg har integrerats i beslutsprocesser utan att robusta verifikationsrutiner har hunnit utvecklas parallellt. Inom AI-säkerhetsforskning har experter länge varnat för att människa-i-loopen-principen – att en mänsklig beslutsfattare alltid ska granska AI-output innan åtgärd vidtas – är avgörande, men att den i praktiken ofta åsidosätts när tidspressen är hög. En eskalering baserad på fabricerade uppgifter mellan kärnvapenmakter som USA och Kina skulle kunna få oöverskådliga konsekvenser.

Vad det betyder för dig i Sverige

Sverige och EU befinner sig mitt i en intensiv debatt om hur AI får användas i offentlig förvaltning och försvar. EU:s AI-förordning, som trädde i kraft 2024 och tillämpas fullt ut från 2026, klassar AI-system som används i kritisk infrastruktur och försvarsrelaterade sammanhang som högrisk och ställer krav på mänsklig tillsyn och dokumentation.

För svenska myndigheter och Försvarsmakten, som undersöker hur AI kan användas i allt från logistik till underrättelseanalys, är den amerikanska incidenten en skarp påminnelse: hastigheten i AI-implementation får inte gå före säkerheten i verifikationsprocesserna. Post- och telestyrelsen (PTS) och Integritetsskyddsmyndigheten (IMY) har tidigare lyft liknande farhågor kring AI-system i känsliga beslutsmiljöer.

För dig som medborgare innebär det att de politiska och tekniska val som görs nu – om hur mycket autonomi AI-system ges i säkerhetskritiska flöden – kan ha direkta konsekvenser för global stabilitet och säkerhet, även utanför USA:s gränser.