nyhet
MosaicLeaks: Så läcker dina AI-agenter känslig data – utan att du märker det
En ny säkerhetsstudie från ServiceNow, publicerad under namnet MosaicLeaks, visar att LLM-baserade forskningsagenter kan läcka konfidentiell information under aktiv körning – utan att vare sig användare eller systemägare uppmärksammar det.
Vad har hänt
ServiceNows forskarteam publicerade den 23 juni 2026 studien MosaicLeaks på Hugging Face, där de dokumenterar hur AI-drivna forskningsagenter byggda på stora språkmodeller (LLM) kan exponera känslig data som passerar genom agentens kontext under körning.
Studien fokuserar specifikt på RAG-pipelines (Retrieval-Augmented Generation) och agentbaserade system där interna dokument, databaser eller konfidentiella affärsuppgifter hämtas och bearbetas i realtid. Forskarteamet visade att en agent, under rätt omständigheter, kan inkludera fragment av hämtad känslig information i svar riktade till obehöriga användare – ett fenomen de kallar 'mosaikläckage', eftersom datan sällan exponeras i sin helhet utan bryts ned i tillräckligt avslöjande fragment.
I testerna identifierades läckage i scenarier där agenter hanterade HR-data, finansiella rapporter och intern IP. Problemet förstärks av att moderna agenter ofta saknar granulär åtkomstkontroll på kontextnivå, till skillnad från traditionella databassystem med etablerade behörighetslager.
Vad det betyder
För svenska företag som bygger interna AI-lösningar är fynden direkt relevanta. IMY (Integritetsskyddsmyndigheten) har tidigare påpekat att automatiserad behandling av personuppgifter i AI-system måste uppfylla GDPR:s krav på dataminimering och ändamålsbegränsning – krav som mosaikläckage per definition bryter mot.
ServiceNow rekommenderar i studien tre omedelbara åtgärder: implementera kontextbaserad åtkomstkontroll (context-level ACL), logga och granska vad som faktiskt skickas i agentens promptkedja, samt genomföra regelbundna red team-övningar specifikt riktade mot RAG-flöden.
Parallellt har öppen källkod-projektet Latitude LLM, licensierat under MIT, lanserat verktyg för att automatiserat identifiera och åtgärda just den typen av säkerhetsproblem i agentpipelines – ett tecken på att branschen börjar ta frågan på allvar.
För organisationer som ännu inte auditerat sina LLM-baserade interna agenter är MosaicLeaks en tydlig signal: det räcker inte att säkra API-lagret. Kontexten som flödar genom agenten är i sig en attackyta.