nyhet
Google stämmer kinesiskt brottssyndikat som använde Gemini AI för storskaliga SMS-bedrägerier
Google har lämnat in en stämningsansökan mot ett kinesiskt brottssyndikat som systematiskt missbrukade företagets AI-modell Gemini för att i industriell skala automatisera SMS-baserade nätfiskebedrägerier riktade mot användare i flera länder. Det är ett av de första fallen där ett teknikföretag använder civilrättsliga åtgärder specifikt mot missbruk av en stor språkmodell.
Vad har hänt
Google lämnade in stämningsansökan i juni 2026 mot ett nätverk med kopplingar till Kina, anklagat för att ha utnyttjat Gemini AI för att automatisera så kallad smishing – bedrägliga SMS-meddelanden utformade för att lura mottagare att lämna ifrån sig personuppgifter eller pengar. Enligt Google skapade nätverket tusentals falska konton för att komma åt Gemini, varefter modellen användes för att generera övertygande phishing-texter i stor volym och på flera språk. Stämningsansökan riktas mot flera namngivna individer samt ett antal företag med säte i Kina. Google uppger att verksamheten bröt mot företagets användarvillkor, dataskyddslagar samt amerikansk federal lagstiftning mot dataintrång och bedrägeri. Bolaget samarbetar med brottsbekämpande myndigheter i USA och internationellt.
Vad det betyder
Fallet sätter ett viktigt prejudikat för hur AI-företag kan agera rättsligt när deras modeller missbrukas av organiserad brottslighet. Hittills har diskussionen om AI-säkerhet till stor del handlat om tekniska skyddsåtgärder – så kallade guardrails – men Google visar nu att civilrättsliga stämningar är ett konkret verktyg. För europeiska konsumenter och myndigheter som IMY och PTS är fallet relevant: det illustrerar hur generativ AI snabbar upp och skalar upp traditionella bedrägerimetoder på ett sätt som kräver både tekniska och juridiska motåtgärder. EU:s AI-förordning, som gradvis träder i kraft under 2025–2026, ställer krav på leverantörer att övervaka och begränsa riskfylld användning av AI-system – något detta fall understryker vikten av. Experter bedömer att liknande stämningar sannolikt kommer att bli vanligare i takt med att kriminella nätverk i allt högre grad integrerar stora språkmodeller i sin infrastruktur.