Name: Tremplin Numérique
Price range: $$$

Un incident récent, décrit dans un blog personnel de Sam Mitrovic, montre à quel point les appels frauduleux basés sur l'IA sont de plus en plus difficiles à discerner. Mitrovic a reçu une série de notifications et d'appels téléphoniques suspects imitant une communication légitime de Google, une menace qui aurait pu entraîner la perte de son compte Google.

Les événements ont commencé par une notification de tentative de récupération de compte Gmail en provenance des États-Unis. Cela a été suivi d'un appel manqué d'un numéro affichant « Google Sydney » comme identification de l'appelant. Environ une semaine plus tard, Mitrovic a reçu une autre demande de récupération de compte, toujours en provenance des États-Unis. Et cette fois, il a répondu à l'appel de « Google Sydney », qui avait une voix américaine polie et professionnelle parlant depuis un numéro de téléphone australien.

L'appelant a affirmé qu'il y avait une activité suspecte sur le compte de Mitrovic, impliquant un accès non autorisé depuis l'Allemagne. Mitrovic a été informé que les données de son compte avaient été téléchargées, faisant référence à la notification précédente de récupération de compte. Notamment, le numéro de téléphone utilisé par « Google Sydney » est apparu dans la documentation officielle de Google, suggérant que ce numéro était légitime.

Sam a néanmoins demandé à l’appelant de prouver son identité. L'appelant a envoyé un e-mail qui semblait provenir d'un domaine Google, mais après une inspection plus approfondie, Mitrovic a remarqué que le champ « À » de l'e-mail contenait une adresse e-mail se terminant par « InternalCaseTracking.com », qui n'est pas un domaine Google. La voix de l'appelant, qualifiée de « trop parfaite », a également éveillé les soupçons. Mitrovic, reconnaissant le potentiel d’une arnaque basée sur l’IA, a raccroché. Après être rentré chez lui et avoir vérifié le récent journal d'activité de sécurité de son compte Google, Mitrovic n'a trouvé que ses propres sessions de connexion. Un examen des en-têtes des e-mails a révélé que l'e-mail provenait d'une adresse IP associée à Amazon Web Services (AWS). Cette découverte conforte la possibilité que l’e-mail soit envoyé via une plateforme cloud utilisée par les fraudeurs.

Google est conscient des problèmes posés par les fraudeurs basés sur l'IA et lutte contre les escroqueries en ligne en s'associant à la Global Anti-Scam Alliance (GASA) et à la DNS Research Federation (DNSRF) pour lancer Global Signal Exchange (GSE), une plateforme de partage. escroqueries et informations sur la fraude. Google étend également son outil de protection multi-comptes, qui permet de protéger les utilisateurs en partageant des notifications de sécurité avec des applications et des services liés à leurs comptes Google. Cependant, cela pourrait ne pas suffire car, selon le Lawstreet Journal, ces sociétés d’IA ciblent l’ensemble des 2,5 milliards de titulaires de comptes Gmail. Google n'est pas seul non plus, car même les clients Apple sont confrontés à des escrocs plus avancés.

Il est important de noter qu'AWS lui-même n'est pas impliqué ni responsable d'activités frauduleuses ; il s'agit plutôt d'un service qui a été utilisé. Il existe de nombreuses applications d'IA sur l'App Store qui sont utilisées à des fins d'escroquerie, cela ne va donc pas s'arrêter de si tôt. La capacité des fraudeurs à imiter les voix humaines et à créer des scénarios réalistes rendra probablement beaucoup plus difficile la distinction entre les appels et les communications légitimes et les fraudes. Il vaut donc mieux toujours être très prudent.