>> Une start-up vietnamienne est apparue à la Collision Conference 2023
>> USA : l'Agence de protection des consommateurs enquête sur OpenAI
>> Google teste un outil d'IA pour écrire des articles de presse
 |
| La diffusion de deepfakes constitue une nouvelle menace technologique. |
| Photo : Vietnamplus/CVN |
Ces dernières années, la création et le développement rapides de l'Intelligence Artificielle (IA) ont offert de nouvelles possibilités aux criminels de se livrer à des activités frauduleuses de plus en plus sophistiquées et ciblées.
Dérober rapidement
Lê Khai, résidant à Hô Chi Minh Ville, a reçu un message via Messenger d'un ami, dont le contenu demandait à Khai un prêt de 30 millions de dôngs. Le message a été envoyé quelques minutes après qu'un statut sur un match de football a été posté sur Facebook par son ami. Se souvenant des escroqueries dont il avait entendu parler à la télévision, Khai a réalisé un appel vidéo pour confirmer l'information. "Ah, c'est moi !", l'image de son ami figurait sur le téléphone portable. L'appel était si convaincant que Khai n'a plus pensé à le vérifier. Il a immédiatement effectué le virement de 30 millions de dôngs dès la fin de l'appel, en quelques secondes. Le lendemain, Khai a découvert que lui et certains autres amis de son ami avaient été victimes de fraudeurs.
 |
| Deepfake est utilisé par des criminels en créant des arnaques via l'appel téléphonique avec l'image et la voix fausses du victime. |
| Photo : Vietnamplus/CVN |
Les deepfakes, créés en 2017, sont des médias tels que des images, des vidéos et des enregistrements audio qui ont été manipulés à l'aide d'algorithmes d'IA pour créer des représentations réalistes mais fausses de personnes ou d'événements. Cette technique peut être utilisée pour créer des informations mensongères (infox) et des canulars malveillants. Le terme "deepfake" est formé à partir de "deep learning" (apprentissage profond) et de "fake" (faux/contrefait).
Selon Nguyên Van Cuong, directeur de la sécurité informatique du groupe de technologie Bkav, la diffusion de deepfakes constitue une nouvelle menace technologique dont les criminels profitent pour la manipulation, la désinformation, l'humiliation, la diffamation ou la fraude.
Détection et protection
Bien que les images et sons créés par deepfake soient assez similaires à de vraies personnes, il reste encore des défauts que nous pouvons détecter, tels que le mouvement saccadé, les variations de lumière d'un plan à l'autre, les variations au niveau de la couleur de la peau, et la synchronisation labiale. De plus, la durée d'un appel téléphonique est très courte, en quelques secondes seulement. Selon les experts, une vidéo de deepfake peut être formée à partir d'une seule image et de cinq secondes de la voix de la victime. Ainsi, les utilisateurs des réseaux sociaux doivent être prudents en partageant leurs photos privées et leurs vidéos sur internet ou avec d'autres personnes pour éviter que ces données ne soient piratées.
Afin de prévenir les risques, les experts recommandent aux utilisateurs d'utiliser différents mots de passe forts pour leurs différents comptes, ainsi que d'utiliser une bonne solution de sécurité, comme Kaspersky, pour protéger leur réseau domestique, leur ordinateur portable et leur smartphone contre les cybermenaces.
Faceless, outil anti-deepfake
Récemment, deux jeunes experts en cybersécurité, Duong Tiêu Dông et Pham Tiên Manh, ont présenté leur outil de détection de deepfake visant à prévenir les escroqueries basées sur l'intelligence artificielle (IA).
 |
| Duong Tiêu Dông et Pham Tiên Manh présentent leur produits "Faceless" au forum BlackHat Asia 2023 à Singapour. |
| Photo : Vietnamnet/CVN |
Des recherches sont menées mondialement sur des détecteurs de deepfake, principalement à des fins scientifiques ou commerciales, mais ils sont encore limités en termes de mise en œuvre dans la vie réelle. Cependant, ces deux "white hat" (hackers éthiques) vietnamiens, Duong Tiêu Dông (née en 2005) et Pham Tiên Manh (né en 1996), ont étudié et développé un produit appelé "Faceless" pour aider les utilisateurs à identifier les arnaques basées sur le deepfake.
Selon Pham Tiên Manh, Faceless fonctionne en recevant l'image du visage de l'internaute, puis en l'analysant à l'aide d'un réseau de neurones convolutifs pour déterminer s'il s'agit d'une image réelle ou d'un produit de deepfake. "Nous avons construit différents systèmes de neurones convolutifs et les avons comparés pour trouver le plus optimal, qui est utilisé dans la création de la plateforme de détection des images fausses créées par deepfake", explique Duong Tiêu Dông.
Ces deux jeunes experts ont travaillé pendant environ six mois sur la création de ce produit. Les résultats des essais ont démontré que Faceless est capable de détecter le deepfake en seulement deux secondes, avec une précision estimée à 94,5%.
Faceless a été présenté lors du Forum sur la sécurité BlackHat Asia 2023, qui s'est tenu en mai à Singapour. Pham Tiên Manh conclut en disant que "ce produit est le fruit de recherches en laboratoire. Il reste encore beaucoup de travail à faire pour que l'application puisse être intégrée dans la réalité".
My Anh/CVN
