Les deepfakes, ou hypertrucages en français, représentent une technologie émergente à l'intersection de l'intelligence artificielle et de la désinformation, soulevant des préoccupations importantes pour la société moderne .
Cette technique utilise l'intelligence artificielle pour produire des images, des vidéos ou des enregistrements audio falsifiés, souvent de manière très réaliste .
Le processus implique l'utilisation d'une base de données comprenant des photos et des vidéos, permettant à l'IA de créer une image de toutes pièces et de la superposer à une vraie photo ou vidéo.
Un exemple frappant de cette technologie est une vidéo virale mettant en scène Donald Trump annonçant faussement avoir éradiqué le VIH.
Bien que le président n'ait jamais prononcé ces paroles, la vidéo semblait authentique, illustrant le potentiel de désinformation des deepfakes.
Les applications des deepfakes sont variées et potentiellement dangereuses :
. Atteinte à la réputation : L'industrie pornographique a rapidement adopté cette technologie pour créer du contenu non consensuel, un phénomène appelé "revenge porn"
. Manipulation politique : Des journalistes et des politiciens ont été ciblés par des trucages mensongers visant à diminuer leur crédibilité
. Sensibilisation : Paradoxalement, certains deepfakes, comme celui mettant en scène Jordan Peele transformé en Barack Obama, ont été créés pour sensibiliser le public à cette technologie
La sophistication croissante des techniques d'IA rend de plus en plus difficile la distinction entre un contenu réel et un contenu deepfake, ce qui complique la tâche de détection et de lutte contre ces fausses informations.
Même si les deepfakes actuelement présentent encore des imperfections permettant de les détecter, les experts s'accordent à dire que la technologie s'améliore rapidement.
Volodymyr Zelensky filmé en pleine danse orientale ?
janvier 2024
Pour contrer cette menace, des solutions sont en développement :
. Création de logiciels de détection de deepfakes
. Renforcement du rôle des médias crédibles dans la vérification de l'information
. Sensibilisation du public à l'importance de vérifier la fiabilité des sources, y compris pour les contenus vidéo
La lutte contre les deepfakes implique autant le développement de technologies de détection de pointe, que de l'éducation du public, que de la mise en place de politiques et de réglementations pour lutter contre la création et la diffusion de deepfakes.
" Ce rapport présente la première analyse publiée du programme Europol.
La fonction Observatoire d'Innovation Lab, centrée sur les deepfakes, la technologie qui les sous-tend et leur impact potentiel sur le droit l’application des lois et les citoyens de l’UE.
La technologie Deepfake utilise l'artificiel Intelligence des contenus audio et audiovisuels.
Technologie de contrefaçon profonde peut produire du contenu qui montre de manière convaincante aux gens disant ou faire des choses qu'ils n'ont jamais faites ou créer des personnages qui n'ont jamais existé en premier lieu. "> Europol (2022), Face à la réalité ? L’application de la loi et le défi des deepfakes, rapport d'observation du laboratoire d'innovation d'Europol, Office des publications de l'Union européenne, Luxembourg. - Mise à jour janvier 2024
Quels sont les exemples les plus célèbres de deepfakes utilisés pour la désinformation
Voici quelques-uns des exemples les plus célèbres de deepfakes utilisés à des fins de désinformation :
. Les faux appels téléphoniques imitant la voix de Joe Biden aux États-Unis. Ces appels automatisés, utilisant une voix synthétisée du président, exhortaient les électeurs démocrates à ne pas voter lors d'une primaire, constituant une tentative claire de manipulation électorale.
> Deepfakes : Des entreprises texanes étaient derrière les faux appels téléphoniques du président américain - janv 2024
. Le deepfake de Jordan Peele transformé en Barack Obama en 2018. Bien que créé dans un but de sensibilisation, cette vidéo devenue virale a montré à quel point il était facile de faire dire n'importe quoi à une personnalité publique.
. Des deepfakes pornographiques ciblant des célébrités et des personnalités politiques. Ces vidéos, souvent créées sans le consentement des personnes concernées, ont été utilisées pour porter atteinte à la réputation de journalistes et de politiciens, notamment en Inde et en Belgique
. Les fausses publicités mettant en scène de faux MrBeast et Tom Hanks. Ces deepfakes ont été utilisés pour promouvoir des arnaques, exploitant la notoriété de ces célébrités pour tromper le public.
VOTRE VISAGE NOUS APPARTIENT - RECONNAISSANCE FACIALE
surveillance et perte de l'anonymat - Momotchi - 2024
La lutte contre les deepfakes
Il est important de noter que la détection des deepfakes reste un défi en constante évolution, les techniques de génération s'améliorent rapidement.
Les chercheurs travaillent continuellement à développer de nouvelles méthodes pour rester en avance sur les créateurs de deepfakes.
> 5 meilleurs outils et techniques de détection de Deepfake (juillet 2024)
Mais ce n'est pas gagné, voir les projets de Synthesia.
Avec des corps qui bougent et des mains qui ondulent, les deepfakes vont devenir encore plus réalistes.
> Les deepfakes hyperréalistes de Synthesia auront bientôt des corps
" Les avatars générés par l'IA de la startup Synthesia font l'objet d'une mise à jour pour les rendre encore plus réalistes : ils auront bientôt des corps capables de bouger et des mains qui gesticulent. "
En France, une agence spécialisée pour l’IA de défense a été lancée en juillet 2024 : Amiad
" Contenus falsifiés, vidéos artificielles, fausses informations : le cyberespace et en particulier la sphère informationnelle sont des espaces où les fausses informations foisonnent. Certains de ces faux contenus visent à déstabiliser les opérations militaires françaises et peuvent avoir des répercussions sur les théâtres d’opérations. Les détecter et les contrer sont essentiels pour protéger les opérations mais également pour garantir la crédibilité des Armées. "
> Désinformation : l'intelligence artificielle au service de la détection de deepfake - Ministère des armées juin 2024
> Financement, souveraineté, éthique : les enjeux de l'IA dans la défense française avec Bertrand Rondepierre - FranceCulture - 07-2024
Vers une pénalisation des deepfakes
Dans le Projet de loi visant à sécuriser et réguler l’espace numérique (dit projet de loi SREN) des amendements ont été intégré.
Les principales conséquences légales potentielles pour les auteurs de deepfakes :
1 - Sanctions pénales :
. En France, un projet de loi vise à introduire un nouvel article 226-8-1 dans le code pénal, qui punirait la publication non consentie de montages à caractère sexuel (incluant les deepfakes) de 2 ans d'emprisonnement et 60 000 euros d'amende.
. L'article 226-8 du Code pénal, applicable aux montages traditionnels, serait élargi pour inclure explicitement les deepfakes. Les peines pourraient atteindre 2 ans d'emprisonnement et 45 000 euros d'amende, notamment si la diffusion se fait en ligne.
2 - Poursuites pour usurpation d'identité :
. L'article 226-4-1 du Code pénal punit l'usurpation d'identité d'un an d'emprisonnement et 15 000 euros d'amende, si elle vise à troubler la tranquillité ou porter atteinte à l'honneur de la victime.
3 - Atteinte à la vie privée :
. Les deepfakes peuvent être poursuivis sur le fondement de l'atteinte à la vie privée.
4 - Responsabilité civile :
. Les auteurs de deepfakes peuvent être poursuivis au civil pour les dommages causés aux victimes (atteinte à la réputation, préjudice moral, etc.).
5 - Sanctions liées à la manipulation de l'information :
. Dans certains contextes (élections, marchés financiers), la diffusion de deepfakes pourrait être sanctionnée au titre de la manipulation de l'information.
6 - Réglementation européenne :
. Le règlement européen sur l'IA prévoit des obligations pour les fournisseurs de systèmes d'IA générant des deepfakes, comme le marquage technique des contenus.
En savoir + sur le site : Deepfakes : un Projet de loi visant à sécuriser et réguler l’espace numérique ?
pdf en téléchargement - avril 2023
> Regards croisés de spécialistes et d’acteurs du domaine
Lutte contre les manipulations de l’information - pole-excellence-cyber.org
" Réseaux sociaux, fake news, deep fakes… les fausses nouvelles et les tentatives de désinformation prolifèrent de plus en plus, année après année Le phénomène est tel que, aujourd’hui, l’ensemble des opérations de manipulation de l’information menacent très sérieusement nos sociétés démocratiques."
En lien avec l'article :
. En Europe, quelles précautions à prendre dans l'utilisation des IA génératives ?
. De l'avatar à l'e-ID : l'évolution de l'identité numérique
. L'évolution de l'avatar dans les mondes virtuels
. Comprendre et protéger votre identité numérique
. L’information au temps de la désinformation
. IA, une menace pour les créateurs ?
