Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Traducteur: Anne-Sophie Matichard Relecteur: Guillaume Rouy

Look at these images.

Regardez ces images et dites-moi quel Obama est réel.

Now, tell me which Obama here is real.

(Video) Barack Obama: To help families refinance their homes,

(Video) B.O. : ... pour aider les familles à financer leur maison,

to invest in things like high-tech manufacturing,

à investir dans la haute technologie par exemple, l'énergie renouvelable,

clean energy

and the infrastructure that creates good new jobs.

et les infrastructures créatrices de nouveaux emplois.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn : Quelqu'un ?

The answer is none of them.

La réponse est aucun d'entre eux.

(Laughter)

(Rires)

None of these is actually real.

En fait, aucune de ces vidéos n'est réelle.

So let me tell you how we got here.

Je vais vous expliquer comment nous y sommes arrivés.

My inspiration for this work

Mon inspiration pour ce travail

was a project meant to preserve our last chance for learning about the Holocaust

a été un projet destiné à préserver notre dernière chance

d'en savoir plus sur l’Holocauste grâce aux survivants.

from the survivors.

It's called New Dimensions in Testimony,

Il s'appelle : « Nouvelles Dimensions dans le Témoignage »

and it allows you to have interactive conversations

et vous permet de dialoguer de façon interactive

with a hologram of a real Holocaust survivor.

avec l’hologramme d'un véritable survivant de l’Holocauste.

(Video) Man: How did you survive the Holocaust?

(Vidéo) Comment avez-vous survécu à l’Holocauste?

(Video) Hologram: How did I survive?

Hologramme : Comment ai-je survécu ?

I survived,

J'ai survécu,

I believe,

je crois,

because providence watched over me.

parce que la providence veillait sur moi.

SS: Turns out these answers were prerecorded in a studio.

Sup.S. : Il se trouve que ces réponses ont été préenregistrées en studio,

Yet the effect is astounding.

pourtant, leur effet est stupéfiant.

You feel so connected to his story and to him as a person.

Vous vous sentez directement connecté à son histoire et à sa personne.

Je pense qu'il y a quelque chose de spécial dans les interactions humaines

I think there's something special about human interaction

that makes it much more profound

qui les rend plus profondes et personnelles

and personal

than what books or lectures or movies could ever teach us.

que ce que tout livre, film ou conférence puisse jamais nous enseigner.

So I saw this and began to wonder,

Cette constatation m'a amené à m'interroger :

can we create a model like this for anyone?

pouvons-nous créer un modèle similaire pour tout le monde,

A model that looks, talks and acts just like them?

un modèle qui nous ressemble, parle et agit comme nous ?

So I set out to see if this could be done

J'ai donc commencé à regarder si c’était faisable

and eventually came up with a new solution

et suis arrivé à une nouvelle solution

that can build a model of a person using nothing but these:

qui permet de créer le modèle d'une personne en utilisant uniquement

existing photos and videos of a person.

des photos et des vidéos pré-existantes de cette personne.

If you can leverage this kind of passive information,

Si vous pouvez exploiter ce genre d'information passive,

just photos and video that are out there,

comme des photos ou des vidéos,

that's the key to scaling to anyone.

vous avez la clé pour étendre la technologie à n'importe qui.

By the way, here's Richard Feynman,

En passant, voici Richard Feynman,

who in addition to being a Nobel Prize winner in physics

qui, en plus d'avoir remporté le prix Nobel de Physique,

was also known as a legendary teacher.

était considéré comme un professeur de légende.

Ne serait-ce pas génial si nous pouvions le ramener

Wouldn't it be great if we could bring him back

to give his lectures and inspire millions of kids,

pour qu'il donne des conférences et inspire des millions d'enfants,

perhaps not just in English but in any language?

peut-être pas seulement en anglais, mais dans n'importe quelle langue ?

Or if you could ask our grandparents for advice and hear those comforting words

Ou si vous pouviez demander conseil à vos grands-parents

et entendre leur paroles de réconfort même s'ils ne sont plus parmi nous ?

even if they're no longer with us?

Or maybe using this tool, book authors, alive or not,

Ou si, en utilisant cet outil, les auteurs de livres, vivants ou non,

could read aloud all of their books for anyone interested.

pouvaient lire à haute voix tous leurs livres à tous les intéressés ?

The creative possibilities here are endless,

Les possibilités créatrives sont infinies et, pour moi, c'est vraiment excitant.

and to me, that's very exciting.

And here's how it's working so far.

Voici comment ça fonctionne pour le moment.

First, we introduce a new technique

D'abord, nous inaugurons une technique

that can reconstruct a high-detailed 3D face model from any image

qui peut reconstruire un visage 3D en détail

à partir de n'importe quelle image

without ever 3D-scanning the person.

sans jamais avoir à scanner cette personne en 3D.

And here's the same output model from different views.

Voici le résultat du même modèle sous différents points de vue.

This also works on videos,

Cela fonctionne aussi avec les vidéos

by running the same algorithm on each video frame

en utilisant le même algorithme sur chaque image de la vidéo,

and generating a moving 3D model.

et en créant un modèle 3D en mouvement.

And here's the same output model from different angles.

Et voici les résultats du même modèle vu sous différents angles.

It turns out this problem is very challenging,

Il s'avère que ce problème est un vrai défi,

but the key trick is that we are going to analyze

mais l'astuce, c'est que nous analysons

a large photo collection of the person beforehand.

une grande collection de photos de cette personne au préalable.

For George W. Bush, we can just search on Google,

Pour George W. Bush, nous pouvons simplement chercher sur Google,

and from that, we are able to build an average model,

et à partir de ça, nous sommes capables de créer un modèle moyen,

an iterative, refined model to recover the expression

un modèle itératif et précis qui reconstitue les expressions en détail,

in fine details, like creases and wrinkles.

comme les pliures et les rides.

What's fascinating about this

Ce qui est fascinant,

is that the photo collection can come from your typical photos.

c'est que cette collection de photos peut provenir de vos photos ordinaires.

It doesn't really matter what expression you're making

L'expression que vous avez n'a pas vraiment d'importance,

or where you took those photos.

ni le lieu où vous avez pris ces photos.

What matters is that there are a lot of them.

Ce qui compte, c'est qu'il y en ait beaucoup.

And we are still missing color here,

Mais il nous manque la couleur.

so next, we develop a new blending technique

Nous avons donc développé une nouvelle technique de combinaison

that improves upon a single averaging method

qui améliore la basique méthode des moyennes

and produces sharp facial textures and colors.

et crée des textures faciales et des couleurs nettes.

And this can be done for any expression.

Et cela peut être fait pour n'importe quelle expression.

Now we have a control of a model of a person,

Maintenant, nous contrôlons le modèle d'une personne

and the way it's controlled now is by a sequence of static photos.

grâce à une séquence de photos statiques.

Notice how the wrinkles come and go, depending on the expression.

Remarquez comment les rides vont et viennent selon l'expression,

We can also use a video to drive the model.

Nous pouvons aussi utiliser une vidéo pour diriger le modèle.

(Video) Daniel Craig: Right, but somehow,

(Vidéo) Daniel Craig : C'est vrai, mais d'une certaine façon,

we've managed to attract some more amazing people.

nous avons réussi à attirer d'autres personnes encore plus incroyables.

Sup.S. : Une autre démo amusante :

SS: And here's another fun demo.

So what you see here are controllable models

Vous voyez ici des modèles contrôlables de gens,

of people I built from their internet photos.

que j'ai créés à partir de photos Internet.

Now, if you transfer the motion from the input video,

En transférant le mouvement à partir de l'entrée vidéo,

we can actually drive the entire party.

vous pouvez, en fait, diriger tout le groupe.

George W. Bush: It's a difficult bill to pass,

(Vidéo) G.W.B. : C'est une loi difficile à adopter

because there's a lot of moving parts,

vu qu'il y a beaucoup de parties mobiles

and the legislative processes can be ugly.

et le processus législatif peut être répugnant...

(Applaudissements)

(Applause)

SS: So coming back a little bit,

Sup. S. : Mais revenons un peu en arrière.

our ultimate goal, rather, is to capture their mannerisms

Notre but ultime est plutôt de saisir leurs manières

or the unique way each of these people talks and smiles.

ou la façon unique dont chacune de ces personnes parle et sourit.

So to do that, can we actually teach the computer

Pour y parvenir, pouvons-nous apprendre à l'ordinateur

to imitate the way someone talks

à imiter la façon dont quelqu'un parle

by only showing it video footage of the person?

en lui montrant uniquement une séquence vidéo de cette personne ?

And what I did exactly was, I let a computer watch

Ce que j'ai fait, c'est laisser un ordinateur

14 hours of pure Barack Obama giving addresses.

regarder 14 heures de pur discours de Barack Obama.

And here's what we can produce given only his audio.

Et voici ce que nous pouvons produire en utilisant uniquement le son.

(Video) BO: The results are clear.

(Vidéo) B. O. : Les résultats sont clairs.

America's businesses have created 14.5 million new jobs

Les entreprises américaines ont créé 14,5 millions d'emplois sur 75 mois...

over 75 straight months.

SS: So what's being synthesized here is only the mouth region,

Sup. S. : Seule la région de la bouche a été synthétisée ici,

and here's how we do it.

et voici comment nous avons procédé.

Our pipeline uses a neural network

Notre chaîne de traitement utilise un réseau neural

to convert and input audio into these mouth points.

pour convertir et intégrer l'audio sur ces points de la bouche.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Vidéo) B.O.: Nous l'avons à travers notre travail ou à travers Medicare ou Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

Sup. S. : Puis nous synthétisons la texture,

améliorons les détails, les dents,

and blend it into the head and background from a source video.

et la combinons avec la tête et l'arrière-plan d'une vidéo.

(Video) BO: Women can get free checkups,

(Vidéo) B.O.: Des examens gratuits pour les femmes

and you can't get charged more just for being a woman.

sans payer plus juste parce que vous êtes une femme.

Young people can stay on a parent's plan until they turn 26.

Les jeunes peuvent garder l'assurance de leurs parents jusqu'à 26 ans.

SS: I think these results seem very realistic and intriguing,

Sup. S. : Ces résultats semblent très réalistes et intrigants,

but at the same time frightening, even to me.

mais aussi effrayants, même pour moi.

Our goal was to build an accurate model of a person, not to misrepresent them.

Notre but était de créer un modèle fidèle de quelqu'un,

non de donner une idée fausse.

But one thing that concerns me is its potential for misuse.

Mais ce qui me préoccupe, ce sont les abus potentiels.

People have been thinking about this problem for a long time,

Les gens ont réfléchi à ce problème depuis longtemps,

since the days when Photoshop first hit the market.

depuis le jour où Photoshop est arrivé sur le marché.

As a researcher, I'm also working on countermeasure technology,

En tant que chercheur, je travaille aussi sur une technologie de contre-mesure,

and I'm part of an ongoing effort at AI Foundation,

et je participe à l'effort constant de la Fondation AI

which uses a combination of machine learning and human moderators

dans l'utilisation de machines intelligentes et de modérateurs humains

to detect fake images and videos,

pour détecter les fausses images et fausses vidéos

fighting against my own work.

et contrecarrer mon propre travail.

And one of the tools we plan to release is called Reality Defender,

Un des outils que nous voulons lancer s'appelle « Reality Defender »,

which is a web-browser plug-in that can flag potentially fake content

une extension de navigateur internet

capable de signaler automatiquement les contenus potentiellement faux

automatically, right in the browser.

directement au navigateur.

(Applause)

(Applaudissements)

Despite all this, though,

Mais malgré tout cela, les fausses vidéos peuvent faire du tort

fake videos could do a lot of damage,

avant même que quiconque ait eu la chance de les vérifier.

even before anyone has a chance to verify,

so it's very important that we make everyone aware

Il est donc très important d'informer les gens

of what's currently possible

sur qui est possible à l'heure actuelle,

so we can have the right assumption and be critical about what we see.

pour qu'ils soient capable d'estimer et juger correctement ce qu'ils voient.

There's still a long way to go before we can fully model individual people

Il reste encore du chemin à faire avant la modélisation d'une personne entière,

and before we can ensure the safety of this technology.

et avant que nous puissions assurer la sécurité de cette technologie.

But I'm excited and hopeful,

Mais je suis excité et optimiste,

because if we use it right and carefully,

car si nous l'utilisons correctement et prudemment,

this tool can allow any individual's positive impact on the world

cet outil peut permettre à tout individu

d'augmenter massivement son impact positif sur le monde,

to be massively scaled

and really help shape our future the way we want it to be.

et vraiment aider à construire le futur tel que nous le voulons.

Thank you.

Merci.

(Applause)

(Applaudissements)