10 millions de dollars juste pour débusquer les deepfakes. Mais au fait, c’est quoi un deepfake ? Pourquoi Facebook, avec un consortium d’universités et d’entreprises, est prêt à dépenser autant d’argent pour détecter un montage réalisé par une Intelligence Artificielle ? Forecasting AI vous en dit plus sur un sujet qui a fait et fera encore le buzz dans les années à venir.

Facebook n’est pas le seul mastodonte à se mettre en branle pour le deepfake aux Etats-Unis mais sa récente expérience lors des dernières élections américaines et la prise de pouvoir de Donald Trump en 2016 l’ont aujourd’hui obligé à prendre les devants et à faire preuve de bonne volonté dans leur simple détection.

Manipulation of an Asian male face by deepfake and Artificial Intelligence. (Adobe Stock)

Alors le Deepfake Detection Challenge de Facebook est apparu depuis peu sur nos écrans d’appareils connectés après la publication d’un post sobrement baptisé Creating a data set and a Challenge for Deepfakes sur le blog de la compagnie américaine. Mais, au fait, à quoi correspond ce nouveau nom, deepfake ? D’où vient-il, que cache-t-il ? Pour quelles raisons Facebook s’y intéresse-t-il de si près et quels moyens met-il à la réussite de son projet ?

Mais au fait, c’est quoi un deepfake ?

En anglais, le terme deepfake vient de la contraction de deux mots « Deep » pour « Deep Learning », « Deep » signifiant « Profond », et « Fake » pour « Fake News », signifiant « faux » en français. Le principe du deepfake est par conséquent de transformer des vidéos grâce à l’Intelligence Artificielle et l’apprentissage profond pour diffuser de manière virale de fausses informations.

Avant, les fake news concernaient surtout les écrits ou les images et personne ne pouvait encore imaginer les vidéos rongées par le même mal. Mais il faut s’y faire, trafiquer une vidéo pour produire une fausse information et la diffuser est devenu possible et, même, facilement.

Quelles sont les techniques connues de deepfake ?

Les techniques sont nombreuses et permettent d’atteindre un résultat bluffant. Le face swap vous permet de changer le visage d’une personne par un autre, image par image, pour lui faire dire des mots ou tenir des expressions qui ne sont pas les siennes.

Le lip sync permet pour sa part de modifier simplement la base labiale pour l’adapter à un discours que la personne n’aurait bien sûr pas tenu dans la réalité.

Enfin, le face to face permet de superposer le visage d’une personnalité sur celle d’un acteur qui aurait de son côté enregistré une fausse version.

A data set specially designed by Facebook and stakeholders to feed the Deepfake Detection Challenge. (Facebook AI)

Ces différentes techniques permettent de faire dire n’importe quoi à n’importe qui, d'imaginer des scènes qui n'ont jamais eu lieu, et de les faire passer comme vraies aux yeux du grand public. Certaines stars ou célébrités se sont déjà retrouvé piégées par le deepfake, se retrouvant par exemple au beau milieu de scènes pornographiques qu’elles n’avaient, bien sûr, jamais tournées.

Grâce à une Intelligence Artificielle qui apprend de plus en plus rapidement et un meilleur rendu vidéo avec une résolution optimisée, le deepfake est de plus en plus difficile à distinguer et détecter. D’où les inquiétudes de Facebook ou d’autres sociétés et universités avant, notamment, les élections présidentielles américaines en 2020.

Pourquoi Facebook veut détecter le deepfake ?

Après le scandale du Cambridge Analytica avec la fuite de milliers de données utilisateurs dans le cadre de la campagne américaine 2016, les nombreuses fake news diffusées sur les réseaux sociaux comme Twitter ou, justement, Facebook et la convocation de Mark Zuckerberg devant le congrès américain pour excuser tous ces écarts, la firme américaine n’entend plus revivre de tels scenarii.

Condamné à une amende record de 5 milliards de dollars par la Federal Trade Commission à l’époque (9% de son chiffre d’affaires en 2018) pour avoir violé ses engagements en matière de protection de la vie privée de ses utilisateurs dans le scandale du Cambridge Analytica, le réseau social veut aujourd’hui jouer la transparence et s’assurer qu’une telle mésaventure ne se reproduira pas. Surtout qu’il avait été vertement sermonné par le congrès américain, lui rappelant à cette occasion les nombreuses excuses qu’il avait dû déjà présenter lors de précédentes affaires.

Quels moyens pour détecter les deepfakes ?

Par conséquent, Facebook se donne les moyens pour repérer les deepfakes, anticiper et s’épargner un scandale qui pourrait venir entacher les futures élections. Car les deepfakes sont l’avenir de la diffusion de fausses informations après les fake news pour le contenu écrit et imagé. L’objectif est simple : repérer les fausses vidéos fabriquées avec l’aide de l’Intelligence Artificielle et les bannir avant même qu'elles ne soient diffusées auprès du plus grand nombre.

Le géant américain a lancé de lui-même le Deepfake Detection Challenge et a rassemblé derrière ce projet de nombreuses universités et entreprises du numérique pour parvenir à ses fins : trouver une solution et des outils efficaces dans la détection de deepfake. Au rayon universitaire, le MIT, l’Université d’Oxford et l’Université de Californie de Berkeley sont venus prêter main force à une belle brochette d’entreprises parmi lesquelles Microsoft ou Apple, Google, Amazon et Intel via leur alliance Partnership of AI.

10 millions de dollars investis pour des jeux de données et une compétition

Pour faciliter le challenge, Facebook a créé des jeux de données spécialement dédiés et les a mis à disposition de tous les contributeurs. "Pour passer de l'ère de l'information à l'ère du savoir, nous devons mieux distinguer le réel du faux, récompenser le contenu fiable par rapport au contenu non fiable et éduquer la prochaine génération à devenir de meilleurs citoyens numériques, précise d’ailleurs Hany Faried, Professeur à l’Université de Californie de Berkeley en génie électrique et sciences de l’informatique, dans le communiqué de presse diffusé par Facebook. Cela nécessitera des investissements dans tous les domaines, y compris dans les efforts de recherche de l'industrie, des universités et des ONG pour développer et opérationnaliser une technologie capable de déterminer rapidement et précisément quel contenu est authentique."

Le deepfake à l’épreuve de nouvelles solutions

Pour motiver tous ceux tentés par une telle compétition et respecter l’équité, Facebook a ainsi transmis une base de données commune avec de fausses vidéos, créées pour l’occasion avec des acteurs et non pas extraites des données utilisateurs qu’il possède... Un classement sera aussi publié pour connaitre les meilleures solutions et les soumettre aux nouveaux concurrents. Et bien sûr prix et autres récompenses seront remis aux participants les plus compétitifs.

Mark Zuckerberg talks about Spectre

Mark Zuckerberg finally speaks the truth about Facebook. #Spectreknows #NoPrivacy #Surveillancecapitalism #deepfake #CannyAI

Publiée par The Truth from Paul Joseph Watson sur Mercredi 12 juin 2019

Cela lui évitera peut-être d’avoir de nouveau à faire à la justice américaine ou de voir son patron convoqué devant le congrès américain pour s’excuser une nouvelle fois de dérives. En tout cas, Facebook prend les devants en agissant de la sorte, ce qui ne devrait toutefois pas empêcher les deepfakes de fleurir en attendant une solution idoine. A l’image de celle où Mark Zuckerberg prétend avoir volé toutes les données utilisateurs de son réseau social pour les transmettre au Spectre, l’organisation secrète bien connue des fans de James Bond. Une vidéo devenue en un rien de temps virale sur Facebook et Instagram, propriété de… Facebook.


blog comments powered by Disqus