Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Tłumaczenie: Izabela Miśkowicz Korekta: Barbara Guzik

Look at these images.

Spójrzcie na te obrazy.

Now, tell me which Obama here is real.

Zgadnijcie, który Obama jest prawdziwy.

(Video) Barack Obama: To help families refinance their homes,

(Nagranie) Barack Obama: Żeby pomóc rodzinom spłacić hipotekę,

to invest in things like high-tech manufacturing,

zainwestować w produkcję nowoczesnych urządzeń,

clean energy

czystą energię

and the infrastructure that creates good new jobs.

oraz infrastrukturę, która tworzy nowe miejsca pracy.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: Kto wie?

The answer is none of them.

Odpowiedź brzmi: Żaden z nich.

(Laughter)

(Śmiech)

None of these is actually real.

Żaden z nich nie jest prawdziwy.

Pozwólcie, że powiem, jak to powstało.

So let me tell you how we got here.

My inspiration for this work

Moją inspiracją był projekt, który miał na celu

was a project meant to preserve our last chance for learning about the Holocaust

zachować ostatnią szansę na zdobycie informacji o Holokauście

from the survivors.

od ocalałych osób.

It's called New Dimensions in Testimony,

Projekt nazywa się "Nowe Wymiary Świadectwa"

and it allows you to have interactive conversations

i pozwala na interaktywne rozmowy

with a hologram of a real Holocaust survivor.

z hologramem prawdziwych ocalałych osób.

(Video) Man: How did you survive the Holocaust?

(Nagranie) Mężczyzna: Jak przetrwałeś Holokaust?

(Video) Hologram: How did I survive?

(Nagranie) Hologram: Jak przetrwałem?

I survived,

Wierzę, że przetrwałem

I believe,

because providence watched over me.

dzięki opatrzności.

SS: Turns out these answers were prerecorded in a studio.

SS: Okazuje się, że te odpowiedzi zostały wcześniej nagrane w studiu.

Yet the effect is astounding.

Jednak efekt jest zdumiewający.

You feel so connected to his story and to him as a person.

Można poczuć więź z tą osobą i jego historią.

I think there's something special about human interaction

Myślę, że jest coś wyjątkowego w interakcji między ludźmi,

that makes it much more profound

co sprawia, że jest ona głębszym i bardziej osobistym źródłem nauki

and personal

than what books or lectures or movies could ever teach us.

niż książki, wykłady czy filmy.

So I saw this and began to wonder,

Kiedy to obejrzałem, zacząłem się zastanawiać,

can we create a model like this for anyone?

czy można stworzyć taki model dla każdej osoby.

A model that looks, talks and acts just like them?

Model, który wygląda,

mówi i zachowuje się jak ta osoba.

So I set out to see if this could be done

Zacząłem drążyć temat

and eventually came up with a new solution

i znalazłem nowe rozwiązanie,

that can build a model of a person using nothing but these:

które pozwala zbudować model osoby,

używając tylko istniejących zdjęć i nagrań wideo tej osoby.

existing photos and videos of a person.

If you can leverage this kind of passive information,

Jeśli można pozyskać tego typu pasywne informacje,

just photos and video that are out there,

zdjęcia i nagrania, które są dostępne,

that's the key to scaling to anyone.

to mamy klucz do zeskalowania każdej osoby.

By the way, here's Richard Feynman,

Oto Richard Feynman,

who in addition to being a Nobel Prize winner in physics

który nie tylko jest noblistą w dziedzinie fizyki,

was also known as a legendary teacher.

ale także legendarnym nauczycielem.

Wouldn't it be great if we could bring him back

Czy nie byłoby wspaniale przywrócić go,

to give his lectures and inspire millions of kids,

żeby mógł inspirować swoimi wykładami miliony dzieci,

perhaps not just in English but in any language?

być może nie tylko po angielsku, ale w jakimkolwiek języku?

Or if you could ask our grandparents for advice and hear those comforting words

Lub zapytać naszych dziadków o radę i posłuchać ich pocieszających słów,

even if they're no longer with us?

nawet jeśli nie ma ich już z nami?

Or maybe using this tool, book authors, alive or not,

A może posłuchać, jak autorzy książek, żyjący lub nie,

could read aloud all of their books for anyone interested.

czytają swoje dzieła zainteresowanym osobom?

The creative possibilities here are endless,

Możliwości są nieskończone

and to me, that's very exciting.

i według mnie to jest fascynujące.

And here's how it's working so far.

Oto jak to działa na tę chwilę.

First, we introduce a new technique

Na początku stosujemy nową technikę,

that can reconstruct a high-detailed 3D face model from any image

która potrafi zrekonstruować ze zdjęcia szczegółowy model twarzy 3D,

without ever 3D-scanning the person.

nawet bez skanowania tej osoby w 3D.

And here's the same output model from different views.

Tak model wygląda z różnych stron.

This also works on videos,

Działa to także w nagraniach wideo

by running the same algorithm on each video frame

poprzez używanie takiego samego algorytmu w każdej klatce filmu,

and generating a moving 3D model.

co generuje ruchomy model 3D.

And here's the same output model from different angles.

Tak model wygląda pod różnymi kątami.

It turns out this problem is very challenging,

Okazuje się, że to zadanie jest bardzo wymagające,

but the key trick is that we are going to analyze

ale sztuczka polega na uprzedniej analizie

a large photo collection of the person beforehand.

dużej kolekcji zdjęć takiej osoby.

For George W. Bush, we can just search on Google,

Zdjęcia George'a W. Busha możemy wyszukać w Google,

and from that, we are able to build an average model,

następnie zbudować przeciętny model,

an iterative, refined model to recover the expression

interaktywny, udoskonalony, żeby odbudować dokładny wyraz twarzy

in fine details, like creases and wrinkles.

z załamami skóry i zmarszczkami.

What's fascinating about this

Fascynujące jest to,

is that the photo collection can come from your typical photos.

że taką kolekcję można przygotować ze zwykłych zdjęć.

It doesn't really matter what expression you're making

Nie ma znaczenia, jaką robimy minę i gdzie te zdjęcia były zrobione.

or where you took those photos.

What matters is that there are a lot of them.

Ważne tylko, żeby było ich dużo.

And we are still missing color here,

Nadal brakuje nam koloru,

so next, we develop a new blending technique

więc tworzymy nową technikę mieszania,

that improves upon a single averaging method

która jest lepsza od zwykłej metody uśredniania

and produces sharp facial textures and colors.

i tworzy wyostrzoną teksturę twarzy i kolory.

And this can be done for any expression.

Można tak zrobić z każdą mimiką.

Now we have a control of a model of a person,

Mamy kontrolę nad modelem osoby

dzięki sekwencji statycznych obrazów.

and the way it's controlled now is by a sequence of static photos.

Notice how the wrinkles come and go, depending on the expression.

Zobaczcie, jak zmarszczki pojawiają się i znikają, zależnie od miny.

We can also use a video to drive the model.

Możemy też użyć nagrania wideo do stworzenia modelu.

(Video) Daniel Craig: Right, but somehow,

(Nagranie) Daniel Craig: Dobrze, ale jakoś udało nam się

we've managed to attract some more amazing people.

przyciągnąć więcej wspaniałych osób.

SS: And here's another fun demo.

SS: To kolejne zabawne demo.

So what you see here are controllable models

Widać tu kontrolowane modele osób,

of people I built from their internet photos.

które stworzyłem ze zdjęć z Internetu.

Now, if you transfer the motion from the input video,

Jeśli przeniesiemy ruch z wejściowego nagrania,

we can actually drive the entire party.

możemy pokierować całą grupą modeli.

George W. Bush: It's a difficult bill to pass,

George W. Bush: Ta ustawa nie przejdzie łatwo,

because there's a lot of moving parts,

bo wiele się zmienia w tej kwestii,

and the legislative processes can be ugly.

i proces legislacyjny może być okropny.

(Applause)

(Brawa)

SS: So coming back a little bit,

SS: Wracając do poprzedniej kwestii,

our ultimate goal, rather, is to capture their mannerisms

naszym najważniejszym celem jest uchwycenie grymasu twarzy

or the unique way each of these people talks and smiles.

lub typowego dla danej osoby sposobu mówienia i uśmiechania się.

So to do that, can we actually teach the computer

Czy możemy nauczyć komputer

to imitate the way someone talks

imitować sposób, w jaki ktoś mówi,

by only showing it video footage of the person?

wykorzystując tylko zdjęcia lub nagrania takiej osoby?

And what I did exactly was, I let a computer watch

Pokazałem komputerowi 14 godzin przemówień Baracka Obamy.

14 hours of pure Barack Obama giving addresses.

And here's what we can produce given only his audio.

Oto co uzyskałem, tylko dzięki nagraniom audio.

(Video) BO: The results are clear.

(Nagranie) BO: Rezultaty są jasne.

America's businesses have created 14.5 million new jobs

Przedsiębiorstwa amerykańskie stworzyły 14,5 miliona miejsc pracy

over 75 straight months.

w ciągu 75 miesięcy.

SS: So what's being synthesized here is only the mouth region,

SS: Syntetyzowany jest sam ruch ust.

and here's how we do it.

Oto jak to robimy.

Our pipeline uses a neural network

Stosujemy sieć neuronową

to convert and input audio into these mouth points.

do przetworzenia dźwięków i dopasowania ich do punktów na ustach.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Nagranie) BO: To jest możliwe dzięki naszej pracy albo Medicare lub Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Następnie syntetyzujemy teksturę, wyostrzamy detale i zęby

and blend it into the head and background from a source video.

i dopasowujemy do głowy i tła w nagraniu.

(Video) BO: Women can get free checkups,

(Nagranie) BO: Kobiety mogą mieć darmowe badania kontrolne.

and you can't get charged more just for being a woman.

Nie można płacić więcej, tylko dlatego, że jest się kobietą.

Young people can stay on a parent's plan until they turn 26.

Młode osoby mogą być objęte ubezpieczeniem rodziców do 26 roku życia.

SS: I think these results seem very realistic and intriguing,

SS: Uważam, że efekt końcowy jest bardzo realistyczny i ciekawy,

but at the same time frightening, even to me.

ale także przerażający, nawet dla mnie.

Our goal was to build an accurate model of a person, not to misrepresent them.

Naszym celem było stworzenie dokładnego modelu osoby,

a nie jej fałszywego obrazu.

But one thing that concerns me is its potential for misuse.

Martwi mnie możliwość nadużycia tej metody.

People have been thinking about this problem for a long time,

Ludzie myślą o tym problemie już od dawna,

since the days when Photoshop first hit the market.

od kiedy Photoshop wszedł na rynek.

As a researcher, I'm also working on countermeasure technology,

Jako naukowiec pracuję też nad środkami zaradczymi

and I'm part of an ongoing effort at AI Foundation,

i współpracuję z Fundacją Sztucznej Inteligencji,

which uses a combination of machine learning and human moderators

która wykorzystuje uczenie maszynowe oraz ludzkich moderatorów

to detect fake images and videos,

do wykrywania fałszywych zdjęć i filmów,

fighting against my own work.

walcząc z tym, nad czym pracuję.

And one of the tools we plan to release is called Reality Defender,

Jedno z narzędzi, które chcemy wypuścić na rynek to "Reality Defender",

which is a web-browser plug-in that can flag potentially fake content

czyli wtyczka w przeglądarce internetowej,

która automatycznie może wyłapać potencjalnie fałszywe treści.

automatically, right in the browser.

(Applause)

(Brawa)

Despite all this, though,

Mimo to, fałszywe nagrania

fake videos could do a lot of damage,

mogą wyrządzić dużo szkody,

even before anyone has a chance to verify,

nawet zanim ktoś zdąży je zweryfikować.

so it's very important that we make everyone aware

Ważne, żebyśmy wszystkim uświadomili, jakie obecnie są możliwości,

of what's currently possible

so we can have the right assumption and be critical about what we see.

żebyśmy mogli krytycznie podejść do tego, co widzimy.

There's still a long way to go before we can fully model individual people

Jeszcze daleka droga do stworzenia modelu całego człowieka

and before we can ensure the safety of this technology.

i do zapewnienia bezpieczeństwa w stosowaniu tej metody.

But I'm excited and hopeful,

Ale jestem podekscytowany i pełen nadziei,

because if we use it right and carefully,

bo jeśli będziemy odpowiednio i ostrożnie używać tego narzędzia,

this tool can allow any individual's positive impact on the world

może ono pozwolić człowiekowi

na ogromną skalę wpływać na świat

to be massively scaled

and really help shape our future the way we want it to be.

i może pomóc stworzyć przyszłość, jaką chcielibyśmy mieć.

Thank you.

Dziękuję.

(Applause)

(Brawa)