Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Vertaald door: Rik Delaet Nagekeken door: Christel Foncke

Look at these images.

Kijk eens naar deze beelden.

Now, tell me which Obama here is real.

Wie is de echte Obama?

(Video) Barack Obama: To help families refinance their homes,

(Video) Barack Obama: Om families te helpen hun huizen te herfinancieren,

to invest in things like high-tech manufacturing,

om te investeren in dingen als hightechindustrie,

clean energy

schone energie

and the infrastructure that creates good new jobs.

en infrastructuur die goede nieuwe banen schept.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: Iemand?

The answer is none of them.

Het antwoord is: geen enkele.

(Laughter)

(Gelach)

None of these is actually real.

Geen enkele is echt.

So let me tell you how we got here.

Ik vertel jullie hoe we hiertoe kwamen.

My inspiration for this work

Mijn inspiratie voor dit werk

was a project meant to preserve our last chance for learning about the Holocaust

was een project dat was bedoeld als onze laatste kans

om iets over de Holocaust te vernemen van de overlevenden.

from the survivors.

It's called New Dimensions in Testimony,

Het heet 'Nieuwe Dimensies in Getuigenis'

and it allows you to have interactive conversations

en het laat je interactief spreken

with a hologram of a real Holocaust survivor.

met een hologram van een echte overlevende van de Holocaust.

(Video) Man: How did you survive the Holocaust?

(Video) Man: Hoe heb je de Holocaust overleeefd?

(Video) Hologram: How did I survive?

(Video) Hologram: Hoe overleefde ik?

I survived,

Ik heb het overleefd,

I believe,

geloof ik,

because providence watched over me.

omdat de voorzienigheid over mij waakte.

SS: Turns out these answers were prerecorded in a studio.

SS: Blijkt dat deze antwoorden vooraf opgenomen waren in een studio.

Yet the effect is astounding.

Maar het effect is verbluffend.

You feel so connected to his story and to him as a person.

Je voelt je zo verbonden met zijn verhaal en hem als persoon.

I think there's something special about human interaction

Ik denk dat er iets bijzonders is aan menselijke interactie

that makes it much more profound

dat het veel dieper

and personal

en persoonlijker maakt

than what books or lectures or movies could ever teach us.

dan wat boeken of lezingen of films ons ooit kunnen bijbrengen.

So I saw this and began to wonder,

Ik zag dit en begon me af te vragen

can we create a model like this for anyone?

of we voor iedereen een model als dit kunnen maken.

A model that looks, talks and acts just like them?

Een model dat er net als hen uitziet, praat en handelt?

So I set out to see if this could be done

Ik begon eraan te werken om te zien of het kon

and eventually came up with a new solution

en vond uiteindelijk een nieuwe oplossing

that can build a model of a person using nothing but these:

die slechts hiermee een model van een persoon kan bouwen:

existing photos and videos of a person.

bestaande foto's en video's van een persoon.

If you can leverage this kind of passive information,

Als je dit soort passieve informatie kan benutten,

just photos and video that are out there,

alleen met bestaande foto's en video's,

that's the key to scaling to anyone.

is dat de sleutel om het voor iedereen aan te passen.

By the way, here's Richard Feynman,

Hier is Richard Feynman,

who in addition to being a Nobel Prize winner in physics

die naast het feit dat hij de Nobelprijs voor natuurkunde kreeg

was also known as a legendary teacher.

ook bekend stond als een legendarische leraar.

Zou het niet geweldig zijn als we hem konden terugbrengen

Wouldn't it be great if we could bring him back

to give his lectures and inspire millions of kids,

om zijn lezingen te geven en miljoenen jongeren te inspireren,

perhaps not just in English but in any language?

misschien niet alleen in het Engels, maar in elke taal?

Or if you could ask our grandparents for advice and hear those comforting words

Of als we onze grootouders om advies zouden kunnen vragen

en hun troostende woorden horen

even if they're no longer with us?

ook als ze er niet meer zijn?

Or maybe using this tool, book authors, alive or not,

Of misschien zouden we hiermee auteurs, al dan niet levend,

could read aloud all of their books for anyone interested.

hun boeken voor geïnteresseerden kunnen laten voorlezen.

The creative possibilities here are endless,

De creatieve mogelijkheden hiervoor zijn eindeloos

and to me, that's very exciting.

en voor mij is dat heel spannend.

And here's how it's working so far.

Zo gaat dat tot nu toe.

First, we introduce a new technique

Eerst introduceren we een nieuwe techniek

that can reconstruct a high-detailed 3D face model from any image

om een hooggedetailleerd 3D-gezichtsmodel van een afbeelding te reconstrueren

without ever 3D-scanning the person.

zonder enige 3D-scan van de persoon.

And here's the same output model from different views.

Hier is hetzelfde outputmodel vanuit verschillende standpunten.

This also works on videos,

Dit werkt ook met video's,

by running the same algorithm on each video frame

door het hetzelfde algoritme op elk videoframe uit te voeren

and generating a moving 3D model.

en een bewegend 3D-model te genereren.

And here's the same output model from different angles.

Hier zie je hetzelfde outputmodel vanuit verschillende invalshoeken.

It turns out this problem is very challenging,

Dit probleem blijkt zeer uitdagend,

but the key trick is that we are going to analyze

maar de belangrijkste truc is dat we een grote fotocollectie van de persoon

a large photo collection of the person beforehand.

op voorhand gaan analyseren.

For George W. Bush, we can just search on Google,

George W. Bush kunnen we gewoon opzoeken op Google.

and from that, we are able to build an average model,

Daaruit kunnen we een ​​gemiddeld model ontwerpen,

an iterative, refined model to recover the expression

een iteratief verfijnd model om de uitdrukking te herstellen

in fine details, like creases and wrinkles.

met fijne details, zoals plooien en rimpels.

What's fascinating about this

Fascinerend hieraan is

is that the photo collection can come from your typical photos.

dat de fotocollectie afkomstig kan zijn van je typische foto's.

It doesn't really matter what expression you're making

Het maakt eigenlijk niet uit welke uitdrukking je hebt

or where you took those photos.

of waar die foto’s genomen zijn.

What matters is that there are a lot of them.

Je moet er gewoon veel hebben.

And we are still missing color here,

Dit is nog steeds zonder kleur,

so next, we develop a new blending technique

maar dan ontwikkelden we een nieuwe mengtechniek,

that improves upon a single averaging method

een verbeterde versie van een middelingsmethode

and produces sharp facial textures and colors.

die scherpe gezichtstexturen en kleuren produceert.

And this can be done for any expression.

Dit kan voor elke uitdrukking.

Now we have a control of a model of a person,

Nu hebben we controle over een model van een persoon

and the way it's controlled now is by a sequence of static photos.

en dat gebeurt door een opeenvolging van statische foto's.

Notice how the wrinkles come and go, depending on the expression.

Merk op hoe de rimpels komen en gaan, afhankelijk van de expressie.

We kunnen ook een video gebruiken om het model te laten werken.

We can also use a video to drive the model.

(Video) Daniel Craig: Right, but somehow,

(Video) Daniel Craig: Klopt, maar op een of andere manier

we've managed to attract some more amazing people.

zijn we erin geslaagd om wat meer fantastische mensen aan te trekken.

SS: And here's another fun demo.

SS: Hier nog een leuke demo.

So what you see here are controllable models

Hier zie je controleerbare modellen van mensen

of people I built from their internet photos.

gebaseerd op hun foto’s op internet.

Now, if you transfer the motion from the input video,

Nu, als je hierop de beweging van de inputvideo overbrengt,

we can actually drive the entire party.

kunnen we de hele groep laten werken.

George W. Bush: It's a difficult bill to pass,

George W. Bush: Het wetsvoorstel ligt moeilijk,

because there's a lot of moving parts,

want er zijn veel bewegende delen

and the legislative processes can be ugly.

en de wetgevende processen kunnen lelijk zijn.

(Applause)

(Applaus)

SS: So coming back a little bit,

SS: Om er een beetje op terug te komen:

our ultimate goal, rather, is to capture their mannerisms

ons uiteindelijke doel is veeleer om hun maniertjes te vangen

or the unique way each of these people talks and smiles.

of de unieke manier waarop elk van deze mensen praat en glimlacht.

So to do that, can we actually teach the computer

Kunnen we daarvoor de computer echt leren imiteren hoe iemand praat

to imitate the way someone talks

by only showing it video footage of the person?

door hem slechts videobeelden van de persoon te laten zien?

And what I did exactly was, I let a computer watch

Net wat ik deed, ik liet een computer kijken

14 hours of pure Barack Obama giving addresses.

naar 14 uur toespraken van alleen maar Barack Obama.

And here's what we can produce given only his audio.

En hier is wat we kunnen produceren met alleen zijn audio.

(Video) BO: The results are clear.

(Video) BO: De resultaten zijn duidelijk.

America's businesses have created 14.5 million new jobs

Amerikaanse bedrijven schiepen 14,5 miljoen nieuwe banen

over 75 straight months.

in slechts 75 maanden.

SS: So what's being synthesized here is only the mouth region,

SS: Hier wordt alleen het mondgebied gesynthetiseerd

and here's how we do it.

en zo doen we dat.

Our pipeline uses a neural network

Onze pijplijn gebruikt een neuraal netwerk

to convert and input audio into these mouth points.

om inkomend geluid te converteren in deze mondpunten.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Video) BO: We krijgen het door onze baan of door Medicare en Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Dan synthetiseren we de textuur, verbeteren de details en tanden,

and blend it into the head and background from a source video.

en vermengen het met het hoofd en de achtergrond van een bronvideo.

(Video) BO: Women can get free checkups,

(Video) BO: Vrouwen kunnen gratis check-ups krijgen

and you can't get charged more just for being a woman.

en je hoeft niet meer te betalen enkel omdat je een vrouw bent.

Young people can stay on a parent's plan until they turn 26.

Jongeren kunnen tot hun 26ste verzekerd blijven via hun ouders.

SS: I think these results seem very realistic and intriguing,

SS: Ik denk dat deze resultaten erg realistisch en intrigerend lijken,

but at the same time frightening, even to me.

maar tegelijkertijd zelfs voor mij wel beangstigend.

Our goal was to build an accurate model of a person, not to misrepresent them.

Wij wilden een nauwkeurig model van een persoon opbouwen,

niet ze fout voorstellen.

But one thing that concerns me is its potential for misuse.

Maar ik maak me wel zorgen over mogelijk misbruik.

People have been thinking about this problem for a long time,

Mensen hebben lang nagedacht over dit probleem,

since the days when Photoshop first hit the market.

sinds de dagen waarop Photoshop voor het eerst op de markt kwam.

As a researcher, I'm also working on countermeasure technology,

Als onderzoeker ben ik ook bezig met de tegenmaatregel-technologie

and I'm part of an ongoing effort at AI Foundation,

en neem ik deel aan een voortdurende inspanning op AI Foundation,

which uses a combination of machine learning and human moderators

die een combinatie van machineleren en menselijke moderators gebruikt

om nepafbeeldingen en dito video's op te sporen.

to detect fake images and videos,

fighting against my own work.

Ik vecht tegen mijn eigen werk.

And one of the tools we plan to release is called Reality Defender,

Een van de tools die we willen vrijgeven heet Reality Defender,

which is a web-browser plug-in that can flag potentially fake content

een plug-in voor webbrowsers die potentiële nepinhoud kan opmerken,

automatically, right in the browser.

automatisch, in de browser zelf.

(Applause)

(Applaus)

Despite all this, though,

Ondanks dat kunnen nepvideo’s veel schade aanrichten,

fake videos could do a lot of damage,

even before anyone has a chance to verify,

nog voor iemand de kans heeft om ze te controleren.

so it's very important that we make everyone aware

Dus is het erg belangrijk dat we iedereen op de hoogte houden

of what's currently possible

van wat er op dit moment mogelijk is

so we can have the right assumption and be critical about what we see.

om de juiste instelling te hebben en kritisch te zijn over wat we zien.

There's still a long way to go before we can fully model individual people

Er is nog een lange weg te gaan

voordat we individuele mensen volledig kunnen modelleren

and before we can ensure the safety of this technology.

en voordat we voor de veiligheid van deze technologie kunnen zorgen.

But I'm excited and hopeful,

Maar ik ben enthousiast en hoopvol,

because if we use it right and carefully,

want als we ze goed en zorgvuldig gebruiken,

this tool can allow any individual's positive impact on the world

kan deze tool het positieve effect van elk individu op de wereld

to be massively scaled

massaal opschalen

and really help shape our future the way we want it to be.

en onze toekomst helpen vormgeven zoals we dat echt willen.

Thank you.

Dank je.

(Applause)

(Applaus)