7 fausses escroqueries courantes dont vous devez être conscient
Exploration des arnaques Deepfake les plus répandues.
Prenons comme point de départ cette allocution "particulière" du "POTUS", Joe Biden :
Ceci donne une idée approximative de ce à quoi peut ressembler une escroquerie deepfake (vocale). En réalité, cela a été généré avec un outil de clonage vocal IA gratuit, et il m'a fallu environ cinq minutes pour saisir (avec l'aide de ChatGPT) et coller le texte, avant de le convertir en discours (de Biden).
Cependant, les arnaques deepfake actuelles sont bien plus perfectionnées. Quelques clichés, vidéos, ou enregistrements audio de bonne qualité de la personne ciblée (la victime), ainsi qu'une carte graphique puissante, suffisent pour commencer.
Notre objectif ici n'est pas d'expliquer comment élaborer des vidéos deepfake, ni de détailler comment les identifier.
Cet article vise plutôt à proposer une introduction concise aux deepfakes et à mettre en lumière quelques escroqueries dont il est crucial de se méfier.
Que sont les Deepfakes ?
Le terme "deepfake" est la contraction de deux mots : "deep" (référence au deep learning, technique employée pour les créer) et "fake" (qui indique la nature fallacieuse du résultat).
En résumé, des algorithmes d'apprentissage profond sont mobilisés pour créer des images, des contenus audio ou vidéo très réalistes, à partir de matériel original haute résolution.
Ceci est un exemple classique de deepfake, qui s'avère plutôt convaincant. Cependant, cette vidéo date d'il y a cinq ans et la technologie évolue à une vitesse fulgurante.
Ces outils ne sont pas uniquement employés pour le divertissement ou pour mettre en avant des compétences en IA. Un exemple alarmant est cette vidéo où "M. Volodymyr Zelensky" appelle ses troupes à se rendre pendant le conflit actuel. Guerre Russie-Ukraine.
Malheureusement, de telles manipulations sont fréquentes. Selon le Rapport Regula Forensics 2023, 37% des organisations internationales ont rencontré des fraudes vocales deepfake, 29% des arnaques vidéo synthétiques et 46% ont été la cible de tentatives d'usurpation d'identité.
Il ne s'agit donc pas uniquement d'amusement. Les deepfakes sont largement employés pour diffuser de fausses informations, et sont utilisés de manière abusive de diverses façons, ce qui peut s'avérer dangereux et éprouvant pour les victimes.
De plus, la lutte contre les contenus deepfake n'est pas aisée. Il s'agit d'un effet collatéral des progrès significatifs réalisés dans le domaine de l'IA et de la mise à disposition de ces outils au grand public.
Par conséquent, notre principal moyen de défense reste la sensibilisation.
Examinons de plus près ces aspects et explorons les différents types d'escroqueries deepfake.
Types d'escroqueries Deepfake
Les escroqueries deepfake peuvent être classées en plusieurs catégories en fonction du contenu et de la cible :
- Usurpation d'identité vidéo
- Faux entretiens d'embauche
- Fausses informations
- Fraude vocale
- Pièges à miel
- Faux services clients
- Témoignages fictifs
Les sections suivantes examineront ces catégories plus en détail, ainsi que certaines de leurs variations.
Usurpation d'identité vidéo
Il s'agit d'une escroquerie deepfake bien connue, qui consiste à diffuser une vidéo truquée qui ressemble généralement à celle d'une personnalité publique. Les victimes courantes incluent les présidents de pays (comme le deepfake d'Obama), les vedettes hollywoodiennes, ou les PDG d'entreprises renommées.
La raison pour laquelle elles sont des cibles privilégiées est la disponibilité publique de leurs photos, discours, etc., car les outils de création de vidéos deepfake fonctionnent bien avec des données d'entrée variées, couvrant différents registres émotionnels, angles de visage, conditions d'éclairage, arrière-plans, etc.
L'objectif d'une telle usurpation d'identité peut être le divertissement, le chantage, des motifs politiques, la diffamation ou autre.
Dans de rares cas, de fausses vidéos de proches peuvent être utilisées pour demander de l'argent ou un accès à des biens de valeur.
Faux entretiens
Il va sans dire que les faux entretiens, réalisés grâce à la technologie deepfake, ciblent les postes en télétravail. Ces arnaques consistent à simuler des vidéos en direct lors de visioconférences, par exemple sur Zoom.
Outre le risque d'embaucher un candidat incompétent, l'entreprise cible s'expose au risque de confier ses actifs à une personne malintentionnée. En fonction des actions de cette dernière, cela pourrait nuire non seulement aux ressources de l'entreprise, mais également compromettre les intérêts de son pays.
Un objectif plus simple des entretiens deepfakes peut être de se faire payer en devises à forte valeur.
Par ailleurs, des escrocs peuvent demander des frais d'entretien à des candidats crédules, pour leur faire passer un entretien avec des "magnats de l'industrie" et leur donner l'illusion d'une opportunité d'emploi rêvée.
Fausses nouvelles
La diffusion de fausses informations est l'escroquerie deepfake la plus courante. De telles campagnes de désinformation en ligne présentent des risques qui peuvent s'avérer fatals dans des situations sensibles telles que des émeutes ou des guerres.
De plus, elles peuvent nuire à la réputation de personnalités publiques, lorsque leurs répliques deepfake font des déclarations qu'elles n'ont jamais faites en réalité.
La propagation de la désinformation est facilitée par les réseaux sociaux et les plateformes de streaming comme YouTube, où les fausses informations se propagent à une vitesse fulgurante. Cela a pour effet de créer un climat de confusion chez les utilisateurs, qui ne savent plus si le contenu qu'ils consultent est authentique ou non.
Fraude vocale
À l'instar des vidéos et images deepfake, la voix de synthèse s'ajoute à la liste des supercheries technologiques.
Par exemple, Jennifer DeStefano, une résidente de l'Arizona, a entendu sa fille de 15 ans pleurer au téléphone tandis qu'une voix masculine exigeait une rançon d'un million de dollars pour sa libération. La mère était persuadée que sa fille était en danger. Fort heureusement, avant qu'elle ne procède au paiement, une amie a contacté son mari pour lui confirmer que sa fille était saine et sauve.
Mme DeStefano a rapporté plus tard que cette épreuve avait été particulièrement angoissante. Elle avait cru fermement à l'authenticité de la voix, non seulement à cause du son, mais aussi en raison du ton général, qui correspondait parfaitement à la façon dont sa fille parle habituellement.
Il s'agit d'un clonage vocal réalisé à partir d'échantillons audio bruts de la source.
Pièges à miel
Par définition, un piège à miel est une manœuvre consistant à manipuler une personne pour l'amener à divulguer des informations confidentielles. Les pièges à miel visent généralement des personnes de haut rang, telles que des membres des forces armées, des fonctionnaires de haut niveau ou des politiciens en exercice.
Grâce à la technologie deepfake, les pièges à miel se déroulent la plupart du temps en ligne, et peuvent être mis en œuvre par n'importe qui à grande échelle. Concrètement, une victime peut recevoir des demandes de relation de la part de partenaires attrayants sur les réseaux sociaux. La relation devient rapidement intime, avec pour objectif final une extorsion financière ou informationnelle.
Ces escroqueries deepfake sont généralement des opérations bien rodées, qui suivent leur cours normal avant de tendre le piège final.
Service client
Les escroqueries liées à un faux support technique sont très fréquentes. Vous avez peut-être déjà entendu parler d'arnaques où une personne se faisant passer pour "Microsoft" vous demande de payer pour résoudre les "graves" problèmes de votre ordinateur.
Avant l'avènement du deepfake, leurs accents ou discours inhabituels trahissaient leurs intentions malhonnêtes. Aujourd'hui, ces escrocs ont recours à l'IA, ce qui leur permet de tromper plus facilement des utilisateurs crédules en leur faisant croire qu'ils sont en contact avec un véritable représentant d'une entreprise.
Témoignages
Nombre d'entre nous consultent les avis clients avant d'effectuer un achat. De la même façon, la consultation de témoignages vidéo est devenue une habitude d'achat qui s'est avérée utile jusqu'à présent.
Ce type d'arnaque deepfake consiste à inciter des personnes à recommander un mauvais produit, ce qui influence les décisions d'achat et fait perdre du temps et de l'argent aux clients.
Il y en a bien d'autres !
Qu'est-ce qui est le plus présent sur internet, hormis le texte ?
Je dirais des vidéos, des images et du contenu audio. Tous ces éléments peuvent être manipulés grâce à l'IA, ce qui fait d'internet un terrain fertile pour la fraude dans un avenir proche. De plus, la création de deepfakes devient de plus en plus aisée, ce qui rend difficile pour un internaute lambda de rester "correctement" informé.
Dans cette situation, où rien n'empêche la généralisation de l'utilisation abusive de la technologie, il est primordial de s'informer et de rester vigilant.
PS : Pour ce qui est de ses applications ludiques, vous pouvez trouver des applications deepfake pour créer des mèmes qui envahissent les réseaux sociaux.