Nyhet

Google DeepMind och Singapore presenterar Gemma-modell som varnar för bedrägerier direkt i mobilen

Google DeepMind och Singapores statliga teknikmyndighet GovTech har presenterat en AI-modell som körs direkt på mobilen och varnar användare för bedrägeriförsök i konversationer. Modellen bygger på Gemma, analyserar samtal lokalt och är enligt Google DeepMind framtagen för att skydda användare utan att kompromissa med integriteten. Nyheten publicerades den 14 oktober 2026.

Det viktigaste i korthet

• Google DeepMind och GovTech Singapore har tagit fram en bedrägeridetektering som körs på enheten, inom ett nationellt AI-partnerskap med Singapores regering.

• Modellen bygger på den lätta språkmodellen Gemma, finjusterad på lokala bedrägerikonversationer.

• Bedrägerier står enligt källan för över hälften av Singapores anmälda brott och för förluster på mer än 4 miljarder Singapore-dollar sedan 2019.

• Bedrägerier baserade på social manipulation står enligt källan för upp till 80 procent av alla förluster.

• Systemet använder två steg: en energisnål förfiltrering och en djupare analys med den finjusterade Gemma-modellen.

• Lösningen presenterades vid Singapore International Cyber Week (SICW 2026).

Vad har hänt

Google DeepMind och GovTech har inom partnerskapet med Singapores regering utvecklat en modell för att upptäcka bedrägerier som är optimerad för vanliga smartphones i Singapore. Bakgrunden är att bedrägerierna har gått från enkel nätfiske till komplex social manipulering, där förövare först för övertygande samtal med offret och därefter ber om pengar.

Enligt Google DeepMind har generella modeller ofta svårt med lokala bedrägerimetoder. Därför finjusterades Gemma på lokala bedrägerikonversationer, bland annat där förövare utger sig för att vara myndigheter, banker eller lokala offentliga personer, samt på aktuella regionala upplägg. Syftet är att modellen ska kunna skilja ofarligt småprat från verklig manipulation.

Det nya är att analysen sker på enheten. Traditionellt skannas meddelanden på servrar i molnet, men många meddelandetjänster är end-to-end-krypterade, vilket innebär att de inte kan granska privata konversationer. Genom att flytta hotanalysen till telefonen kan mönster i samtal analyseras snabbare, och användaren kan agera innan känsliga uppgifter eller pengar har lämnats ut. När modellen upptäcker manipulativa mönster visas en varning direkt på enheten som uppmanar användaren att pausa och vara försiktig.

Eftersom batteritiden är en central fråga använder systemet två steg. Först en lätt och effektiv klassificerare som med minimal energi granskar inkommande meddelanden och letar efter möjliga hot. Därefter granskar den finjusterade Gemma-modellen en större del av konversationen för att bekräfta hotet eller avfärda ett falsklarm.

GovTechs chef för förtroende och säkerhet, Mark Chen, framhåller att avancerat AI-skydd på enheten gör det möjligt att fånga riktade, lokala bedrägeriförsök i realtid medan kommunikationen förblir privat.

Källan lyfter fram tre styrningsprinciper. Finjusteringen skedde i GovTechs egen hanterade GCP-miljö (”Sovereign Sandbox”), så att träningsdata hölls isolerad. Ingen medborgardata användes: privat eller personidentifierande information utelämnades, och anonymiserade dataset från bedrägerianmälningar och underrättelseflöden användes i stället. Modellen stresstestades mot syntetiska dialoger och lokala textsamlingar för att täcka olika bedrägerikategorier och föränderliga identitetsstölder.

Enligt Google DeepMind visar projektet att varken säkerhet eller integritet behöver offras, och att regeringar och modellleverantörer kan samarbeta kring teknik för allmännyttan. Meddelandetjänster och operativsystemleverantörer kan enligt källan integrera lätta modeller av det här slaget direkt för att skydda användare lokalt.

Vad det betyder för dig i Sverige

Källan nämner inte Sverige, och det framgår inte att verktyget finns eller planeras för svenska användare. Modellen är tränad på singaporianska bedrägerier och optimerad för telefoner i Singapore, så den är inte direkt tillämplig på svenska förhållanden.

Principen är ändå relevant: att analysera misstänkta samtal lokalt på telefonen är ett sätt att möjliggöra bedrägeriskydd även i krypterade tjänster. Enligt Google DeepMind kan meddelandetjänster och operativsystemleverantörer integrera sådana modeller. Om något liknande kommer till Sverige, i vilken form och med vilka språk, är inte känt.

Det här vet vi inte än

• Hur träffsäker modellen är. Källan redovisar inga siffror för hur många bedrägerier den upptäcker eller hur ofta den ger falsklarm.

• När och hur verktyget når allmänheten i Singapore, och vilka appar eller telefoner som får det.

• Vilken Gemma-version och storlek som används.

• Om eller när liknande lösningar blir tillgängliga i Sverige eller för svenska språket.

• Vad det kostar, om något.