Deepfake : quand ton visage devient une arme sans ton accord

Imagine que tu vois une vidéo où tu dis des choses que tu n’as jamais dites. Pire, on te voit faire des choses que tu n’as jamais faites. C’est ça, un deepfake : une vidéo truquée avec ton visage ou ta voix, créée par une intelligence artificielle.

Le problème, ce n’est pas juste que c’est faux. C’est que ça peut te blesser pour de vrai. Par exemple, une journaliste a vu son visage utilisé dans des vidéos pornographiques sans son accord. Résultat : elle a été harcelée, elle a eu peur, et elle s’est sentie violée.

Pourtant, on parle souvent des deepfakes comme d’un simple mensonge. Mais pour les personnes visées, c’est bien plus grave. C’est comme si quelqu’un utilisait ton corps sans ta permission.

Aujourd’hui, la loi essaie de protéger les gens, mais ce n’est pas encore parfait. Des chercheurs travaillent sur des solutions pour rendre les visages plus difficiles à copier sans autorisation.

Tu connais les deepfakes : ces vidéos ou images truquées grâce à l’intelligence artificielle qui copient le visage ou la voix d’une personne. Mais savais-tu que ces contenus peuvent avoir des conséquences graves pour les victimes ?

Prenons l’exemple d’une journaliste indienne, Rana Ayyub. Après ses enquêtes, des vidéos pornographiques truquées avec son visage ont circulé. Le problème ne venait pas seulement du mensonge, mais du fait que son identité était utilisée contre elle. Résultat : isolement, anxiété, et un sentiment de violation.

Les deepfakes servent aussi à des fraudes (comme un salarié qui a transféré 24 millions d’euros après une visioconférence avec des faux participants) ou à créer des contenus pornographiques sans consentement.

Pourtant, la plupart des solutions se concentrent sur la détection des deepfakes après leur diffusion. Mais cela ne suffit pas : même si on sait qu’une vidéo est fausse, la victime peut continuer à souffrir.

Des projets comme BeepFake (mené par l’Inria en France) cherchent à protéger les médias avant qu’ils ne soient détournés, en rendant les visages et les voix plus difficiles à cloner. Sur le plan juridique, certains pays proposent de créer un droit spécifique sur son propre visage et sa voix.

En SNT, ce sujet touche les données personnelles (comment protéger son identité numérique ?) et les réseaux sociaux (comment circulent ces contenus ?).

Les deepfakes sont souvent réduits à un enjeu de désinformation ou de criminalistique numérique. Pourtant, cette approche ignore une dimension fondamentale : l’atteinte à l’identité des personnes dont les traits sont clonés sans consentement. Ces contenus, générés par des modèles d’apprentissage automatique comme les GAN ou les modèles de diffusion, instrumentalisent le corps numérique des victimes – c’est-à-dire leurs signaux biométriques (visage, voix, gestes).

Cette notion de corps numérique prolonge le corps biologique dans l’espace numérique. Des études montrent que les victimes subissent des atteintes incarnées (embodied harms), comparables à une violation physique. Par exemple, la journaliste Rana Ayyub a décrit un sentiment d’effraction intime après des vidéos pornographiques synthétiques la ciblant.

Problèmes techniques et juridiques La réponse technique dominante repose sur la détection a posteriori (analyse des artefacts visuels ou des métadonnées cryptographiques comme C2PA). Mais cela ne protège pas la victime avant la diffusion. Sur le plan juridique, les protections sont fragmentées : la loi SREN (2024) sanctionne la diffusion, mais pas la création, et l’AI Act impose un signalement, mais ne protège pas l’intégrité de la personne.

Solutions en amont Des projets comme BeepFake (Inria) proposent de perturber a priori la génération de deepfakes en rendant les médias résistants au clonage. Plusieurs mécanismes sont étudiés : - Bruitage des signaux biométriques : ajouter des perturbations imperceptibles pour empêcher leur extraction. - Marquage cryptographique : intégrer des signatures numériques pour tracer la provenance.

Enjeux éthiques Comment réguler sans étouffer la liberté d’expression ? L’Electronic Frontier Foundation (EFF) plaide pour cibler l’intention malveillante.

Lien avec le programme NSI Ce sujet croise plusieurs notions : - Réseaux et protocoles (Terminale) : comment intégrer des métadonnées cryptographiques aux médias ? - Sécurisation des communications (Terminale) : quels mécanismes de chiffrement garantissent l’intégrité ? - Algorithmique avancée (Terminale) : comment détecter ou perturber les tentatives de clonage ?