Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Translator: Artjola Puja Reviewer: Helena Bedalli

Look at these images.

Shikojini këto foto.

Now, tell me which Obama here is real.

Tani, më tregoni cili Obama këtu është i vërtetë.

(Video) Barack Obama: To help families refinance their homes,

(Video) B. Obama: Të ndihmojmë familjet të rifinancojnë shtëpitë e tyre,

to invest in things like high-tech manufacturing,

të investojmë në prodhimet e teknologjisë së lartë,

clean energy

energjinë e pastër dhe në infrastrukturë

and the infrastructure that creates good new jobs.

që krijon vende të reja dhe të mira pune.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: Ndonjë?

The answer is none of them.

Përgjigjja është asgjë nga ato.

(Laughter)

(Të qeshura)

None of these is actually real.

Asnjë nga këto nuk është faktikisht e vërtetë.

So let me tell you how we got here.

Më lini t'iu tregoj si arritëm këtu.

My inspiration for this work

Frymëzimi im për këtë punë

was a project meant to preserve our last chance for learning about the Holocaust

ishte nga një projekt për të mbrojtur mundësinë tonë të fundit

për të mësuar për Asgjesimin nga të mbijetuarit.

from the survivors.

It's called New Dimensions in Testimony,

Quhet Dimensionet e Reja në Testament,

and it allows you to have interactive conversations

dhe ai të lejon të bësh një bisedë interaktive

with a hologram of a real Holocaust survivor.

me një hologram të një të mbijetuari real të Asgjesimit.

(Video) Man: How did you survive the Holocaust?

(Video) Burri: Si i mbjetuat Asgjesimit?

(Video) Hologram: How did I survive?

(Video) Hologram: Si mbijetova?

I survived,

Unë mbijetova,

I believe,

Unë besoj,

because providence watched over me.

sepse fati u kujdes për mua.

SS: Turns out these answers were prerecorded in a studio.

SS: E kuptuat që këto përgjigje janë para regjistruar në një studio.

Yet the effect is astounding.

Ende efekti është i mahnitshëm.

You feel so connected to his story and to him as a person.

Ju ndiheni të lidhur me historinë e tij dhe me të si individ.

I think there's something special about human interaction

Unë mendoj se ka diçka speciale në bashkëveprimin midis njerëzve

that makes it much more profound

që e bën atë akoma më të ndjeshëm

and personal

dhe personal

than what books or lectures or movies could ever teach us.

se sa librat ose leksionet ose filmat mund të na mësojnë ne.

So I saw this and began to wonder,

Pra unë pashë këtë dhe nisa të pyes veten,

can we create a model like this for anyone?

a mundemi ne të krijojmë një model të tillë për këdo?

A model that looks, talks and acts just like them?

Një model që duket, flet dhe vepron si ata?

Kështu nisa të shikoja nëse kjo mund të ndodhte

So I set out to see if this could be done

and eventually came up with a new solution

dhe përfundimisht erdha me një zgjidhje të re

that can build a model of a person using nothing but these:

për të ndërtuar një model të një personi duke përdorur vetëm këto:

existing photos and videos of a person.

fotot dhe videot ekzistuese të një personi.

If you can leverage this kind of passive information,

Nëse ju mund të menaxhoni këtë lloj informacioni pasiv,

just photos and video that are out there,

vetëm fotot dhe videot që janë atje,

that's the key to scaling to anyone.

ky është çelësi i riprodhimit të kujdo.

By the way, here's Richard Feynman,

Ja pra, këtu kemi Richard Feynam,

who in addition to being a Nobel Prize winner in physics

i cili përveç të qënit fitues i çmimit Nobel në fizikë

was also known as a legendary teacher.

ishte gjithashtu i njohur si një mësues legjendar.

Wouldn't it be great if we could bring him back

A nuk do të ishte fantastike ta sillnim sërish

to give his lectures and inspire millions of kids,

atë të na jepte leksionet e tij dhe të frymëzonte miliona fëmijë,

perhaps not just in English but in any language?

ndoshta jo vetëm në Anglisht por në çdo gjuhë tjetër?

Or if you could ask our grandparents for advice and hear those comforting words

Ose të mund të pyesnit gjyshërit për ndonjë këshillë dhe të dëgjonit

ato fjalë të ngrohta edhe pse ata nuk janë më mes nesh?

even if they're no longer with us?

Or maybe using this tool, book authors, alive or not,

Ose ndoshta duke përdorur këtë metodë, shkrimtarë, gjallë ose jo,

could read aloud all of their books for anyone interested.

mund të lexojnë me zë librat e tyre për këdo të interesuar.

The creative possibilities here are endless,

Mundësitë kreative këtu janë të pafundme,

and to me, that's very exciting.

dhe për mua kjo është shumë emocionuese.

And here's how it's working so far.

Dhe kështu po funksionon kjo deri tani.

First, we introduce a new technique

Fillimisht, ne prezantojmë një teknikë të re

that can reconstruct a high-detailed 3D face model from any image

që mund të ndërtojë një model fytyre të detajuar 3D nga çdo imazh

without ever 3D-scanning the person.

pa skanim 3D të personit.

And here's the same output model from different views.

Këtu është i njëjti model paraqitje nga anë të ndryshme.

This also works on videos,

Kjo funksionon dhe në video,

by running the same algorithm on each video frame

duke përdorur të njëjtin algoritëm në çdo kuadër të filmit

and generating a moving 3D model.

dhe duke krijuar një model 3D lëvizje.

And here's the same output model from different angles.

Dhe këtu është i njëjti model nga kënde të ndryshme.

It turns out this problem is very challenging,

Zbulimi i këtij problemi është shumë sfidues,

but the key trick is that we are going to analyze

por çelësi i zgjidhjes është që ne të analizojmë

a large photo collection of the person beforehand.

fillimisht një koleksion të gjerë fotosh të personit.

For George W. Bush, we can just search on Google,

Për George W. Bush, ne thjesht mund të kërkojmë në Google,

dhe nga ajo, ne mund të krijojmë një model të përafërt

and from that, we are able to build an average model,

an iterative, refined model to recover the expression

një model të përsëritur, të përpunuar për të shprehur

in fine details, like creases and wrinkles.

detaje të hollësishme, si shprehitë e fytyrës dhe rrudhat.

What's fascinating about this

Ajo që është mahnitëse rreth kësaj është se

is that the photo collection can come from your typical photos.

koleksioni i fotove krijohet

prej fotove tipike tuajat.

It doesn't really matter what expression you're making

Nuk ka rëndësi çfarë shprehie fytyre ju jeni duke bërë

or where you took those photos.

ose ku i keni realizuar ato foto.

What matters is that there are a lot of them.

Ajo që vlen është që ka shumë prej tyre.

Dhe kemi akoma mungesë ngjyrash këtu,

And we are still missing color here,

so next, we develop a new blending technique

kështu te tjetra, zhvilluam një teknikë të re përzierje

that improves upon a single averaging method

që e përmirëson në një metodë të vetme të përafërt

and produces sharp facial textures and colors.

dhe krijon paraqitje dhe ngjyra të mprehta të fytyrës.

And this can be done for any expression.

Dhe kjo mund të bëhet për çdo shprehi fytyre.

Now we have a control of a model of a person,

Tani ne kemi një kontroll të një modeli të një personi dhe

and the way it's controlled now is by a sequence of static photos.

mënyra si ai kontrollohet është pasojë e fotove statike.

Notice how the wrinkles come and go, depending on the expression.

Vini re si rrudhat vijnë dhe ikin, në varësi të shprehisë.

We can also use a video to drive the model.

Ne mund të përdorim edhe një video për bërë modelin.

(Video) Daniel Craig: Right, but somehow,

(Video) Daniel Craig: Drejt, por disi,

we've managed to attract some more amazing people.

ne jemi përpjekur për të tërhequr më shumë njerëz interesantë.

SS: Dhe këtu është një tjetër demostrim argëtues.

SS: And here's another fun demo.

So what you see here are controllable models

Ato që shikoni këtu janë modele të kontrollueshme

of people I built from their internet photos.

të njerëzve që unë ndërtova nga fotot e tyre në internet.

Now, if you transfer the motion from the input video,

Tani, nëse transferoni lëvizjen

nga video origjinale,

we can actually drive the entire party.

mund të realizoni lëvizjen e të gjitha pjesëve.

George W. Bush: It's a difficult bill to pass,

G. Bush: Ky projektligj është i vështirë për t'u kaluar,

because there's a lot of moving parts,

sepse ka shumë pjesë të ndryshueshme,

dhe proçesi legjislativ mund të jetë i shëmtuar.

and the legislative processes can be ugly.

(Duartrokitje)

(Applause)

SS: So coming back a little bit,

SS: Pra le të kthehemi pak pas,

our ultimate goal, rather, is to capture their mannerisms

qëllimi ynë final është të kapim

veset e tyre ose mënyrat tipike se si

or the unique way each of these people talks and smiles.

këta persona flasin dhe qeshin.

So to do that, can we actually teach the computer

Pra për ta bërë atë, a mundemi të mësojmë kompjuterin

to imitate the way someone talks

të imitojë mënyrën se si një person flet duke

by only showing it video footage of the person?

i treguar atij një video imazh të personit?

And what I did exactly was, I let a computer watch

Dhe unë saktësisht lash në një kompjuter për 14 orë

14 hours of pure Barack Obama giving addresses.

video të Barak Obamës duke mbajtur fjalim.

And here's what we can produce given only his audio.

Dhe ja çfarë mund të krijojmë duke përdorur vetëm audio-n e tij.

(Video) BO: The results are clear.

(Video) BO: Rezultatet janë të qarta.

America's businesses have created 14.5 million new jobs

Bizneset në Amerikë kanë krijuar

14.5 milion vende të reja pune gjatë 75 muajve pasuese.

over 75 straight months.

SS: So what's being synthesized here is only the mouth region,

SS: Pra ajo që kemi modifikuar këtu është vetëm zona e gojës,

and here's how we do it.

dhe ja si e kemi bërë.

Our pipeline uses a neural network

Për përpunimin përdoret një rrjet nervor që konverton

to convert and input audio into these mouth points.

dhe fut audio në pikat e gojës.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Video) BO: Ne e arritëm atë nga puna jonë

ose nga Medicare ose Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Pastaj ne krijuam tiparet, përmirësuam detajet dhe dhëmbët,

and blend it into the head and background from a source video.

dhe i vendosëm ato te koka dhe sfondin nga video origjinale.

(Video) BO: Women can get free checkups,

(Video) BO: Gratë mund të bëjnë kontrolle falas,

and you can't get charged more just for being a woman.

dhe ju nuk do të ndjeni më pengesë që jeni një grua.

Young people can stay on a parent's plan until they turn 26.

Të rinjtë mund të jenë nën kujdesin e prindit derisa bëhen 26.

SS: Unë mendoj se këto rezulatate duken shumë realiste

SS: I think these results seem very realistic and intriguing,

dhe interesante por njëkohësisht frikësuese, edhe për mua.

but at the same time frightening, even to me.

Qëllimi ynë ishte të ndërtonim një model

Our goal was to build an accurate model of a person, not to misrepresent them.

të saktë të personit, jo keqprezantimin e tyre.

But one thing that concerns me is its potential for misuse.

Por një gjë që më shqetëson është risku për keqpërdorim të tij.

People have been thinking about this problem for a long time,

Njerëzit kanë menduar për këtë problem për një kohë të gjatë,

since the days when Photoshop first hit the market.

që në ditët kur Photoshop hyri në treg.

As a researcher, I'm also working on countermeasure technology,

Si një studiues, unë po punoj edhe në teknologjinë mbrojtëse

and I'm part of an ongoing effort at AI Foundation,

dhe jam pjesë e një projekti në vazhdim të Al Foundation,

which uses a combination of machine learning and human moderators

që përdor një kombinim të të mësuarit automatik dhe njeriut

to detect fake images and videos,

për të dalluar imazhet dhe videot false,

fighting against my own work.

duke luftuar kundër punës time.

And one of the tools we plan to release is called Reality Defender,

Dhe një nga mjetet që ne duam të nxjerrim quhet Mbrojtësi Realitetit,

which is a web-browser plug-in that can flag potentially fake content

që është një ndihmës web-browser që dallon

të dhënat false automatikisht,

automatically, right in the browser.

direkt në browser.

(Duartrokitje)

(Applause)

Përveç kësaj, meqënëse

Despite all this, though,

fake videos could do a lot of damage,

videot false shkaktojnë shumë pasoja, edhe para se një person

even before anyone has a chance to verify,

të ketë mundësinë t'i verifikojë.

Pra është shumë e rëndësishme të dini

so it's very important that we make everyone aware

se çfarë bëhet konkretisht, që të bëni supozimet e duhura

of what's currently possible

so we can have the right assumption and be critical about what we see.

dhe të jeni kritik në atë që shikoni.

There's still a long way to go before we can fully model individual people

Duhet një rrugë e gjatë para se të modelojmë

plotësisht një individ dhe

and before we can ensure the safety of this technology.

para se të garantojmë sigurinë e kësaj teknologjie.

But I'm excited and hopeful,

Por unë jam i kënaqur dhe me shpresë, sepse nëse e përdorim

because if we use it right and carefully,

atë drejt dhe me kujdes,

this tool can allow any individual's positive impact on the world

ky mjet lejon çdo impakt pozitiv të njeriut në botë

to be massively scaled

të vlerësohet masivisht dhe na ndihmon

and really help shape our future the way we want it to be.

të krijojmë të ardhmen tonë ashtu si duam ne.

Thank you.

Ju falemnderit.

(Applause)

(Duartrokitje)