Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Traducător: Mirel-Gabriel Alexa Corector: Cristina Nicolae

Look at these images.

Priviți aceste imagini.

Now, tell me which Obama here is real.

Spuneți-mi care e adevăratul Obama.

(Video) Barack Obama: To help families refinance their homes,

(Video) Barack Oabama: Pentru a ajuta familiile să își câștige traiul,

to invest in things like high-tech manufacturing,

pentru a investi în lucruri precum producția de tehnologie,

clean energy

energie verde

and the infrastructure that creates good new jobs.

și infrastructura ce creează locuri de muncă bune.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajankorn: Știe careva?

The answer is none of them.

Răspunsul e: niciunul.

(Laughter)

(Râsete)

None of these is actually real.

Niciunul nu e real.

So let me tell you how we got here.

Să vă spun cum s-a ajuns aici.

My inspiration for this work

Inspirația mea pentru această muncă

was a project meant to preserve our last chance for learning about the Holocaust

a fost un proiect menit să conserve ultima noastră șansă de a învăța despre Holocaust

from the survivors.

de la supraviețuitori,

It's called New Dimensions in Testimony,

E denumit „Noi dimensiuni ale mărturiei”

and it allows you to have interactive conversations

și îți permite să porți o conversație

with a hologram of a real Holocaust survivor.

cu holograma unui supraviețuitor real al Holocaustului.

(Video) Man: How did you survive the Holocaust?

(Video) Bărbat: Cum ai supraviețuit Holocaustului?

(Video) Hologram: How did I survive?

(Video) Hologramă: Cum am supraviețuit?

I survived,

Am supraviețuit,

I believe,

cred,

because providence watched over me.

pentru că Dumnezeu m-a păzit.

SS: Turns out these answers were prerecorded in a studio.

SS: Se pare că aceste răspunsuri au fost înregistrate într-un studiu.

Yet the effect is astounding.

Totuși rezultatul e incredibil.

You feel so connected to his story and to him as a person.

Te simți atât de conectat la poveste și la el ca persoană.

I think there's something special about human interaction

Cred că e ceva special în interacțiunile umane

that makes it much more profound

ce le face mult mai profunde

and personal

și personale

than what books or lectures or movies could ever teach us.

decât ceea ce ne pot învăța cărțile, lecțiile sau filmele.

So I saw this and began to wonder,

Am văzut acest lucru și am început să mă întreb:

can we create a model like this for anyone?

am putea crea un asemenea model pentru oricine?

A model that looks, talks and acts just like them?

Un model ce arată, vorbește și se comportă la fel ca persoana reală?

So I set out to see if this could be done

Așa că am încercat să văd ce se poate face

and eventually came up with a new solution

și am venit în final cu o soluție nouă

that can build a model of a person using nothing but these:

ce poate construi un model de persoană folosind doar aceste lucruri:

existing photos and videos of a person.

fotografii și videoclipuri.

If you can leverage this kind of passive information,

Dacă poți folosi acest tip de informații pasive,

just photos and video that are out there,

doar fotografiile și videoclipurile existente,

that's the key to scaling to anyone.

ai soluția pentru recrearea oricărei persoane.

By the way, here's Richard Feynman,

Aici e Richard Feynman,

who in addition to being a Nobel Prize winner in physics

care, pe lângă faptul că e un laureat al Premiului Nobel în fizică,

was also known as a legendary teacher.

a fost cunoscut și ca profesor legendar.

Wouldn't it be great if we could bring him back

Nu ar fi grozav să îl aducem înapoi

to give his lectures and inspire millions of kids,

pentru a preda și a inspira milioane de copii,

perhaps not just in English but in any language?

poate nu doar în limba engleză, ci în orice limbă?

Or if you could ask our grandparents for advice and hear those comforting words

Sau dacă am putea cere sfatul bunicilor noștri

even if they're no longer with us?

chiar dacă nu mai sunt printre noi?

Or maybe using this tool, book authors, alive or not,

Sau poate că folosind acest instrument, autorii în viață sau nu,

could read aloud all of their books for anyone interested.

și-ar putea citi cu voce tare cărțile pentru cei interesați.

The creative possibilities here are endless,

Posibilitățile sunt nesfârșite

and to me, that's very exciting.

și pentru mine asta e foarte captivant.

And here's how it's working so far.

Și așa funcționează acum.

First, we introduce a new technique

Întâi introducem o nouă tehnică

that can reconstruct a high-detailed 3D face model from any image

ce reconstruiește modele 3D de înaltă fidelitate din orice imagine

without ever 3D-scanning the person.

fără o scanare 3D a persoanei.

And here's the same output model from different views.

Acesta e modelul creat din diferite perspective.

This also works on videos,

Acest lucru funcționează și cu videoclipuri,

by running the same algorithm on each video frame

prin folosirea algoritmului pentru fiecare cadru

and generating a moving 3D model.

și prin generarea unui model 3D în mișcare.

And here's the same output model from different angles.

Aici e același model din diferite unghiuri.

It turns out this problem is very challenging,

Se pare că această problemă e foarte grea,

but the key trick is that we are going to analyze

dar cheia e să analizăm

a large photo collection of the person beforehand.

o colecție mare de poze înainte de asta.

For George W. Bush, we can just search on Google,

Pentru George W. Bush putem căuta pe Google,

and from that, we are able to build an average model,

și de aici putem crea un model standard,

an iterative, refined model to recover the expression

apoi e îmbunătățit pentru a recrea expresia

in fine details, like creases and wrinkles.

în detaliu, precum ridurile.

What's fascinating about this

Ceea ce e fascinant

is that the photo collection can come from your typical photos.

e că acea colecție de fotografii poate fi dintr-un album obișnuit.

It doesn't really matter what expression you're making

Nu contează ce expresie facială ai în poze

or where you took those photos.

sau unde ai făcut acele fotografii.

What matters is that there are a lot of them.

Contează doar să fie multe.

And we are still missing color here,

Dar mai avem nevoie de culoare,

so next, we develop a new blending technique

deci, mai întâi dezvoltăm o tehnică

that improves upon a single averaging method

ce se îmbunătățește printr-o metodă de aproximare

and produces sharp facial textures and colors.

și produce textura și culoarea facială.

And this can be done for any expression.

Și acest lucru poate fi făcut pentru orice expresie.

Now we have a control of a model of a person,

Avem deci controlul unui model uman,

and the way it's controlled now is by a sequence of static photos.

iar modul în care e controlat acum e prin intermediul unor poze statice.

Notice how the wrinkles come and go, depending on the expression.

Observați cum apar și dispar ridurile în funcție de expresie.

We can also use a video to drive the model.

Putem folosi și un videoclip.

(Video) Daniel Craig: Right, but somehow,

(Video) Daniel Craig: Da, dar cumva,

we've managed to attract some more amazing people.

am reușit să atragem niște oameni extraordinari.

SS: And here's another fun demo.

SS: Și aici e un alt exemplu hazliu.

So what you see here are controllable models

Aici avem modele controlabile

of people I built from their internet photos.

ale unor persoane construite folosind poze de pe internet.

Now, if you transfer the motion from the input video,

Dacă transferăm mișcarea din videoclip,

we can actually drive the entire party.

putem pune în mișcare toate modelele.

George W. Bush: It's a difficult bill to pass,

George W. Bush: E o lege dificil de trecut,

because there's a lot of moving parts,

deoarece are multe părți complicate,

and the legislative processes can be ugly.

iar procesul legislativ poate fi dificil.

(Applause)

(Aplauze)

SS: So coming back a little bit,

SS: Ne întoarcem puțin,

our ultimate goal, rather, is to capture their mannerisms

scopul nostru final e să le copiem manierismele

or the unique way each of these people talks and smiles.

sau modul unic de a vorbi și zâmbi al acestor persoane.

So to do that, can we actually teach the computer

Pentru a face asta, putem oare învăța computerul

to imitate the way someone talks

să imite modul în care cineva vorbește

by only showing it video footage of the person?

doar arătându-i un videoclip cu acea persoană?

And what I did exactly was, I let a computer watch

Ceea ce am făcut a fost să las un computer să vizioneze

14 hours of pure Barack Obama giving addresses.

14 ore de discursuri ale lui Barack Obama.

And here's what we can produce given only his audio.

Și acesta a fost rezultatul, folosind doar vocea sa.

(Video) BO: The results are clear.

(Video): BO: Rezultatele sunt clare.

America's businesses have created 14.5 million new jobs

Afacerile Americii au creat 14,5 milioane de noi locuri de muncă

over 75 straight months.

în 75 de luni de zile.

SS: So what's being synthesized here is only the mouth region,

SS: Aici a fost creată doar regiunea bucală,

and here's how we do it.

și așa am făcut-o.

Our pipeline uses a neural network

Algoritmul nostru folosește o rețea neuronală

to convert and input audio into these mouth points.

pentru a transforma informația audio în aceste puncte.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Video): BO: O obținem de la locul de muncă sau prin Medicare sau Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Apoi creăm textura și amplificăm detaliile și dinții,

and blend it into the head and background from a source video.

și o integrăm în fundalul videoclipului original.

(Video) BO: Women can get free checkups,

(Video) BO: Femeile pot obține consultații gratuite,

and you can't get charged more just for being a woman.

și nu vei plăti mai mult doar pentru că ești femeie.

Young people can stay on a parent's plan until they turn 26.

Tinerii pot rămâne în planificarea parentală până la 26 de ani.

SS: I think these results seem very realistic and intriguing,

SS: Cred că aceste rezultate par foarte realistice și intrigante,

but at the same time frightening, even to me.

dar în același timp și amenințătoare, chiar și pentru mine.

Our goal was to build an accurate model of a person, not to misrepresent them.

Scopul nostru e să construim un model fidel al unei persoane,

nu să construim discursuri false.

But one thing that concerns me is its potential for misuse.

Dar ceea ce mă îngrijorează e potențialul de a fi utilizat greșit.

People have been thinking about this problem for a long time,

Oamenii s-au gândit la această problemă de mult timp,

since the days when Photoshop first hit the market.

din ziua în care Photoshop a ieșit pe piață.

As a researcher, I'm also working on countermeasure technology,

Ca cercetător, lucrez de asemenea la măsuri de contracarare

and I'm part of an ongoing effort at AI Foundation,

și fac parte dintr-o misiune a AI Fundation,

which uses a combination of machine learning and human moderators

ce folosește o combinație de machine learning și moderatori umani

to detect fake images and videos,

pentru a detecta imaginile și videoclipurile false,

fighting against my own work.

luptând împotriva muncii mele.

And one of the tools we plan to release is called Reality Defender,

Iar unul dintre instrumentele pe care plănuim

să le lansăm e Reality Defender,

which is a web-browser plug-in that can flag potentially fake content

ce e un plug-in al browser-ului ce poate marca conținutul potențial fals,

automatically, right in the browser.

automatic, direct din pagina de internet.

(Applause)

(Aplauze)

Despite all this, though,

În ciuda acestor lucruri,

fake videos could do a lot of damage,

videoclipurile false pot face multe rele,

even before anyone has a chance to verify,

chiar înainte ca cineva să aibă șansa să le verifice,

so it's very important that we make everyone aware

deci e foarte important ca fiecare să conștientizeze

of what's currently possible

ceea ce e posibil în prezent

so we can have the right assumption and be critical about what we see.

pentru a presupune corect și a fi critici în legătură cu ceea ce vedem.

There's still a long way to go before we can fully model individual people

Mai este mult de muncă până să putem construi modele umane complete

and before we can ensure the safety of this technology.

și până când această tehnologie va fi sigură.

But I'm excited and hopeful,

Dar sunt entuziasmat și optimist,

because if we use it right and carefully,

deoarece dacă îl folosim corect și cu grijă,

this tool can allow any individual's positive impact on the world

acest instrument poate permite oricărui individ, ca impactul său pozitiv

to be massively scaled

asupra lumii să fie amplificat masiv

and really help shape our future the way we want it to be.

și ne poate ajuta să ne construim viitorul așa cum ne dorim.

Thank you.

Mulțumesc.

(Applause)

(Aplauze)