L'IA au quotidien
Repérer les arnaques à l'IA : voix clonées, deepfakes et faux messages
La voix de votre fils qui réclame de l'argent après un accident. Une vidéo d'une célébrité qui recommande un placement. Un message de votre banque impeccable. L'IA générative rend ces arnaques plus crédibles, mais elles jouent toujours sur les mêmes ressorts : l'urgence, l'émotion et un paiement difficile à annuler. Voici comment les repérer, et que faire si vous êtes visé.
Ce que l'IA change aux vieilles arnaques
Les escroqueries elles-mêmes ne sont pas nouvelles : faux proche en détresse, faux conseiller, faux placement. Ce qui change, c'est le déguisement. La FTC, l'autorité américaine de protection des consommateurs, explique qu'un escroc peut récupérer un court extrait de la voix d'un proche dans des contenus publiés en ligne et utiliser un logiciel de clonage vocal pour que l'appel sonne comme lui. Le FBI cite d'autres usages : fausses photos de profil et faux papiers d'identité, fausses recommandations de célébrités, voix générées par IA pour se faire passer pour un proche ou accéder à un compte bancaire, et vidéos utilisées en direct pour se faire passer pour un dirigeant d'entreprise ou une autre figure d'autorité.
Le FBI prévient aussi qu'un contenu généré par IA peut être difficile à identifier. La meilleure défense n'est donc pas de devenir expert en pixels, mais de vérifier l'histoire par un autre canal.
Voix clonée : l'appel d'un proche en détresse
Le scénario est connu : un proche ou un supérieur appelle, paniqué, il lui faut de l'argent tout de suite et il vous demande de n'en parler à personne. Le conseil de la FTC tient en une phrase : ne vous fiez pas à la voix. Raccrochez et rappelez la personne sur un numéro dont vous êtes sûr. Si vous ne la joignez pas, passez par un autre membre de la famille ou un ami.
Le FBI conseille d'écouter attentivement le ton et le choix des mots, mais un bon clone peut sonner presque à l'identique. C'est le rappel qui fonctionne.
Convenez d'un mot de passe familial
Le FBI recommande de choisir avec votre famille un mot ou une phrase secrète pour vérifier l'identité de chacun. Prenez quelque chose d'introuvable en ligne (pas le nom du chat que vous avez publié), partagez-le de vive voix et fixez la règle : lors de tout appel urgent qui réclame de l'argent, on demande le mot. Pas de mot, pas d'argent, quelle que soit la voix.
Expliquez-le à tout le monde, y compris aux parents âgés et aux adolescents qui publient des vidéos en ligne.
Vidéos et images truquées
Les guides officiels listent des indices visuels qui peuvent trahir un faux :
- mains ou pieds déformés, traits du visage irréalistes, ombres ou lumière incohérentes (FBI) ;
- zones floues ou pixélisées, mouvements des yeux peu naturels, lèvres mal synchronisées avec la parole (CNIL) ;
- contenu surprenant ou spectaculaire : vérifiez la source avant de le partager (CNIL).
Ces indices sont utiles, mais leur absence ne prouve rien. Si une vidéo vous pousse à investir, à payer ou à donner des données, rendez-vous vous-même sur le site ou le compte officiel de la personne ou de l'entreprise, jamais par le lien de la vidéo.
Faux sites et faux messages
L'IA aide aussi les escrocs à rédiger des messages propres, sans les fautes qui les trahissaient autrefois. Jugez la demande, pas le style. Parmi les signaux d'alerte : un paiement par virement, en cryptomonnaie ou en cartes cadeaux (FTC), une demande d'informations sensibles venant de quelqu'un que vous ne connaissez qu'en ligne ou par téléphone (FBI), et une pression pour agir avant d'avoir pu vérifier. Le conseil du FBI : n'envoyez ni argent, ni cartes cadeaux, ni cryptomonnaie à des personnes que vous ne connaissez pas ou que vous n'avez rencontrées qu'en ligne ou au téléphone.
Réduisez ce qui peut être copié
Le FBI suggère de limiter les images et les enregistrements de votre voix accessibles en ligne, de passer vos comptes de réseaux sociaux en privé et de n'accepter comme abonnés que des personnes que vous connaissez. La CNIL ajoute de faire régulièrement le ménage dans vos anciennes photos et vidéos, et de flouter les visages quand vous partagez des images. Vous ne pourrez pas tout effacer, mais vous compliquez la tâche de l'escroc.
Que faire si vous êtes visé
- Coupez l'échange. Raccrochez, ne cliquez pas, ne payez pas. Puis vérifiez par un canal que vous connaissez déjà.
- Si vous avez payé, contactez immédiatement votre banque ou votre service de paiement.
- Gardez les preuves : numéros, messages, liens, montants, dates. Ce sont ces éléments que demandent les services de signalement.
- Signalez. En France : 17cyber.gouv.fr, service public mené avec la police, la gendarmerie et Cybermalveillance.gouv.fr, accessible 24 h sur 24, qui propose un diagnostic, des conseils et, dans les cas graves, un échange par messagerie avec un policier ou un gendarme. La CNIL renvoie aussi vers PHAROS pour les contenus gravement illicites, et vers les outils de signalement de chaque plateforme pour une vidéo truquée. Aux États-Unis : ReportFraud.ftc.gov (FTC) et ic3.gov (FBI).
À garder en tête
- Aucun détecteur ne remplace un rappel. Les indices changent à mesure que les outils progressent ; vérifier auprès de la vraie personne, par un canal connu, reste valable.
- Tout le monde peut se faire piéger. Ces arnaques jouent sur l'émotion. En parler à l'avance, en famille comme au travail, est la meilleure protection.
- Signalez même si vous n'avez pas payé. Les signalements aident les autorités à repérer les nouveaux scénarios et à prévenir d'autres personnes.
Questions fréquentes
Un escroc peut-il vraiment copier ma voix ?
Oui. La FTC américaine prévient qu'un escroc peut utiliser un court extrait de la voix d'une personne, tiré de contenus publiés en ligne, et un logiciel de clonage vocal pour imiter un proche au téléphone.
Existe-t-il un moyen fiable de détecter un deepfake ?
Aucun test unique. Le FBI souligne qu'un contenu généré par IA peut être difficile à identifier. Les indices visuels aident, mais la vérification la plus sûre reste de contacter vous-même la personne par un canal que vous connaissez déjà.
J'ai déjà payé. Est-il trop tard ?
Agissez vite : appelez votre banque ou votre service de paiement pour tenter de bloquer ou d'annuler l'opération, gardez toutes les preuves, puis signalez l'arnaque (17cyber.gouv.fr en France, ReportFraud.ftc.gov ou ic3.gov aux États-Unis).
Sources
- FBI, Internet Crime Complaint Center, Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud, PSA I-120324-PSA (2024)
- Federal Trade Commission, Scammers use AI to enhance their family emergency schemes (2023)
- CNIL, Hypertrucage (deepfake) : comment se protéger et signaler les contenus illicites ? (2026)
- Cybermalveillance.gouv.fr, 17Cyber, le nouveau réflexe d'assistance en ligne pour toutes les victimes de cybermalveillance (2024)
Un e-mail IA par semaine. Seulement ce qui change quelque chose pour vous.