// CLUBIC — INTELLIGENZA ARTIFICIALE
Google teste une IA capable de démasquer les escrocs au fil de vos conversations
Les escroqueries en ligne ne commencent pas toujours par une demande d'argent. Certaines se construisent sur plusieurs jours de conversation, le temps de gagner la confiance de leur victime. À Singapour, Google DeepMind développe avec les autorités locales une IA expérimentale capable de repérer ces manipulations directement sur un smartphone, sans envoyer les échanges dans le cloud.
Face aux escroqueries qui se construisent progressivement au fil des échanges, Google DeepMind et l'agence publique singapourienne GovTech ont développé une IA capable de repérer les stratégies de manipulation dans les conversations. Présenté ce 14 octobre, ce système repose sur Gemma, la famille de modèles ouverts de Google. À Singapour, les fraudes ont représenté 913,1 millions de dollars singapouriens de pertes en 2025, soit environ 615 millions d'euros, selon les autorités locales.
Le système fonctionne en deux étapes. Un premier programme léger examine les messages entrants afin de détecter d'éventuels signaux suspects, tout en limitant la consommation de ressources du smartphone.
Si un risque est identifié, un modèle Gemma spécialisé analyse un ensemble plus large de messages. L'objectif est de repérer les mécanismes de manipulation, notamment l'usurpation d'identité ou les demandes inhabituelles, plutôt que de simplement rechercher des mots-clés ou des liens frauduleux.Prenons l'exemple d'un faux recruteur qui échange avec une personne pendant plusieurs jours. Les premiers messages peuvent sembler parfaitement ordinaires. Ce n'est qu'après avoir établi une relation de confiance qu'il réclame des « frais de dossier » pour finaliser une embauche fictive. C'est ce type de progression que Google cherche à identifier, sans que l'on sache encore à quel stade son système serait capable de déclencher une alerte.
Lorsqu'une tentative est suspectée, le téléphone peut afficher un avertissement invitant l'utilisateur à faire preuve de prudence avant de communiquer des informations sensibles ou d'effectuer un paiement.Pour entraîner son IA, Google et GovTech ont utilisé des données anonymisées issues de signalements de fraudes et de renseignements sur les modes opératoires locaux, sans intégrer les conversations privées des citoyens.
L'analyse des messages directement sur l'appareil n'est pas une première. WhatsApp propose déjà Scam Alert, tandis que Google Messages détecte certains SMS frauduleux. Le nouveau projet se distingue par son analyse des conversations dans la durée, avec un modèle entraîné à reconnaître des stratégies de manipulation à partir de données sur les escroqueries recensées à Singapour.
Les échanges sont analysés sur le smartphone, sans être transmis aux serveurs de Google ou des autorités singapouriennes. Une garantie intéressante pour la confidentialité, même si des questions demeurent sur l'accès aux messages, les applications concernées et les contrôles laissés à l'utilisateur.Google ne fournit pas encore de chiffres détaillés sur l'efficacité du système ou les fausses alertes. Développée initialement pour Singapour, cette technologie n'est pas encore disponible pour le grand public. On ignore quelles messageries et quels smartphones seront compatibles, et aucun déploiement en France n'est annoncé.Cette approche pourrait pourtant être utile face aux fraudes par usurpation d'identité ou aux faux conseillers bancaires. Reste à démontrer qu'elle peut repérer ces manipulations sans multiplier les alertes injustifiées.