nyhet
Hugging Face avslöjar: Forskningsbotar läcker konfidentiell data i agentiska AI-system
Forskare från ServiceNow vid Hugging Face har publicerat MosaicLeaks – ett projekt som konkret demonstrerar hur AI-agenter avsedda för forskning kan läcka konfidentiell information när de driftsätts i verkliga produktionsmiljöer.
Vad har hänt
För företag som redan driftsätter agentiska AI-system i produktionsmiljö – exempelvis inom juridik, life science eller finanssektorn – innebär MosaicLeaks ett konkret och dokumenterat riskscenario. IMY (Integritetsskyddsmyndigheten) har tidigare slagit fast att organisationer är ansvariga för hur personuppgifter behandlas även när tredjepartsverktyg används, vilket innebär att ett AI-agentläckage kan utlösa GDPR-anmälningsplikt inom 72 timmar.
Säkerhetsforskarna rekommenderar tre omedelbara åtgärder: strikt segmentering av vilken data en agent får indexera, loggning av alla agentanrop i realtid samt regelbundna röda-laget-tester där agenten aktivt försöks manipuleras att läcka information.
Hugging Face-rapporten understryker att problemet inte är unikt för någon enskild modell eller leverantör – det är en strukturell utmaning i hur agentiska system byggs. EU-kommissionens AI Act, som börjar tillämpas fullt ut under 2026, ställer krav på riskklassificering av just den här typen av autonoma system, vilket kan tvinga fler organisationer att formellt granska sina agentdriftsättningar.