Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Translator: Vibhavari Deshpande Reviewer: Arvind Patil

Look at these images.

हे फोटो पाहा.

Now, tell me which Obama here is real.

आता मला सांगा , या फोटोंमधील कोणते ओबामा खरे आहेत??

(Video) Barack Obama: To help families refinance their homes,

(व्हिडिओ) ओबामा:कुटुंबांना घरे उभी करण्यास मदत करण्यासाठी,

to invest in things like high-tech manufacturing,

हायटेक उत्पादनांसारख्या गोष्टींमध्ये गुंतवणुकीसाठी.

clean energy

स्वच्छ ऊर्जा,

and the infrastructure that creates good new jobs.

नोकऱ्या निर्माण करणाऱ्या सुविधांमध्ये गुंतवणुकीसाठी.

Supasorn Suwajanakorn: Anyone?

सुपासोन सुवाजनकोन : सांगा ?

The answer is none of them.

उत्तर आहे - एकही खरे नाहीत.

(Laughter)

(हशा)

None of these is actually real.

खरेतर यातील कोणतेच खरे नाहीत.

So let me tell you how we got here.

याची सुरुवात कशी झाली हे सांगतो.

My inspiration for this work

या कामामागील माझी प्रेरणा म्हणजे

was a project meant to preserve our last chance for learning about the Holocaust

होलोकॉस्ट मध्ये वाचलेल्या लोकांकडून त्यासंबंधी जाणून घेण्याची शेवटची संधी

from the survivors.

जतन करण्यासाठीचा एक प्रक्ल्प.

It's called New Dimensions in Testimony,

'न्यु डायमेन्शन इन टेस्टिमोनी' हा तो प्रकल्प .

and it allows you to have interactive conversations

यात होलोकॉस्टमधे वाचलेल्या व्यक्तींच्या

with a hologram of a real Holocaust survivor.

होलोग्रामशी परस्पर संवाद साधता येतो.

(Video) Man: How did you survive the Holocaust?

(व्हिडिओ) व्यक्ती: तुम्ही कसे वाचलात?

(Video) Hologram: How did I survive?

(व्हिडिओ ):होलोग्राम :मी कसा वाचलो?

I survived,

मी वाचलो

I believe,

कारण मला वाटतं

because providence watched over me.

देवाची माझ्यावर कृपादृष्टी होती.

SS: Turns out these answers were prerecorded in a studio.

सुपासोन :ही उत्तरे स्टुडिओ मध्ये आधीच रेकॉर्ड करण्यात आली होती.

Yet the effect is astounding.

तरीही परिणाम आश्चर्यचकित करणारा आहे.

You feel so connected to his story and to him as a person.

ती व्यक्ती आणि त्यांचे अनुभव यांच्याशी आपण नकळत जोडले जातो.

I think there's something special about human interaction

मला वाटतं मानवी संवादामध्ये काहीतरी खास आहे;

that makes it much more profound

ज्यामुळे या अनुभवांना, भावनांना

and personal

अधिक तीव्रता प्राप्त होते.

than what books or lectures or movies could ever teach us.

पुस्तके, व्याख्याने, चित्रपटांच्या तुलनेत मानवी संवाद खूपकाही शिकवतो.

So I saw this and began to wonder,

मी हे पहिले आणि विचार केला कि,

can we create a model like this for anyone?

आपल्याला कोणाची अशी प्रतिकृती बनवता येईल का?

A model that looks, talks and acts just like them?

हुबेहूब त्यांच्यासारखीच दिसणारी, बोलणारी,वागणारी प्रतिकृती.

So I set out to see if this could be done

आणि मी त्यादिशेने प्रयत्न करू लागलो.

and eventually came up with a new solution

अखेरीस मला एक उपाय सापडला,

that can build a model of a person using nothing but these:

ज्यायोगे एखाद्या व्यक्तीची प्रतिकृती सहज बनवता येऊ शकेल.

existing photos and videos of a person.

यासाठी फोटो,व्हिडीओ इतकेही पुरेसे ठरतील.

If you can leverage this kind of passive information,

एखाद्याची अशी निष्क्रिय माहिती मिळवता आली

just photos and video that are out there,

जसे कि फोटो, व्हिडीओ इत्यादी.

that's the key to scaling to anyone.

तर अशी प्रतिकृती बनवणे सहज शक्य आहे.

By the way, here's Richard Feynman,

असो .. तर हे आहेत 'रिचर्ड फेनमन'

who in addition to being a Nobel Prize winner in physics

हे भौतिकशास्त्रातील नोबेल पारितोषिक विजेते तर होतेच

was also known as a legendary teacher.

शिवाय ते एक महान शिक्षक म्हणूनही ओळखले जात.

Wouldn't it be great if we could bring him back

आपण त्यांना परत आणू शकलो तर बरे होईल ना ?

to give his lectures and inspire millions of kids,

कितीतरी लहान मुलांना त्यांच्या व्याख्यानांमधून प्रेरणा मिळेल.

perhaps not just in English but in any language?

कदाचित इंग्रजी शिवाय इतरही अनेक भाषांमध्ये हे शक्य झाले तर ?

Or if you could ask our grandparents for advice and hear those comforting words

किंवा आजी आजोबांना सल्ला विचारता आला, त्यांचे मायेचे शब्द परत ऐकता आले तर..

even if they're no longer with us?

आज ते आपल्यात नसले तरीही ?

Or maybe using this tool, book authors, alive or not,

किंवा हे साधन वापरून, जिवंत असले/नसलेले प्रसिद्ध लेखक

could read aloud all of their books for anyone interested.

त्यांची पुस्तके श्रोत्यांना ऐकवू शकले तर

The creative possibilities here are endless,

अश्या कितीतरी कल्पक शक्यता वर्तवता येतील.

and to me, that's very exciting.

आणि माझ्यासाठी, हे अतिशय रोमांचक आहे.

And here's how it's working so far.

आतापर्यंत हे कसे साध्य झाले आहे ते पाहू.

First, we introduce a new technique

एका नवीन तंत्राचा परिचय करून देतो.

that can reconstruct a high-detailed 3D face model from any image

ह्या तंत्राद्वारे कोणत्याही फोटोवरून चेहऱ्याची तपशीलवार 3D प्रतिमा बनवता येते.

without ever 3D-scanning the person.

त्या व्यक्तीचे 3D- स्कॅनिंग न करता सुद्धा.

And here's the same output model from different views.

एकच आउटपुट मॉडेल वेगवेगळ्या प्रकारे तुम्हाला इथे दिसेल.

This also works on videos,

व्हिडिओ मध्येही हे काम करते.

by running the same algorithm on each video frame

प्रत्येक व्हिडिओ फ्रेमसाठी सारखाच अल्गोरिदम वापरला जातो

and generating a moving 3D model.

आणि 3D मॉडेल तयार केले जाते.

And here's the same output model from different angles.

अशा प्रकारे एकच आऊपुट मॉडेल वेगवेगळ्या दिशेने दाखवता येते.

It turns out this problem is very challenging,

ही समस्या खूप आव्हानात्मक आहे,

but the key trick is that we are going to analyze

पण यासाठी आपण त्या व्यक्तीच्या संग्रीहीत फोटोंचे

a large photo collection of the person beforehand.

सविस्तर विश्लेषण करणार आहोत.

For George W. Bush, we can just search on Google,

जॉर्ज डब्ल्यू. बुश यांचे फोटो आपण गुगलवर शोधू शकतो.

and from that, we are able to build an average model,

त्यावरून आपल्याला त्यांची साधारण प्रतिमा बनवता येते.

an iterative, refined model to recover the expression

एक चांगली प्रतिकृती ज्यात त्यांचे हावभाव

in fine details, like creases and wrinkles.

चेहऱ्याच्या बारकाव्यांसह पुनर्निर्मित करता येतील.

What's fascinating about this

सगळ्यात मजेदार गोष्ट म्हणजे,

is that the photo collection can come from your typical photos.

तुमच्या नेहमीच्या फोटोंवरून हे सर्व करता येते.

It doesn't really matter what expression you're making

त्या फोटोंमधील तुमचे हावभाव महत्वाचे नाहीत.

or where you took those photos.

फोटो कोठे काढले हेही महत्वाचं नाही.

What matters is that there are a lot of them.

फक्त असे भरपूर फोटो उपलब्ध असणं गरजेचं आहे.

And we are still missing color here,

अरे ...आपण यात अजून रंग भरले नाहीत.

so next, we develop a new blending technique

तर पुढे .. यासाठी आम्ही नवे तंत्र विकसित केले.

that improves upon a single averaging method

तयार केलेली सर्वसाधारण प्रतिमा सुधारण्यास याची मदत होते.

and produces sharp facial textures and colors.

यामध्ये चेहऱ्याचा पोत आणि रंग उत्तमप्रकारे तयार करता येतो.

And this can be done for any expression.

आणि हे कोणत्याही हावभावासाठी शक्य आहे.

Now we have a control of a model of a person,

आता अशी प्रतिमा आपल्या पूर्ण नियंत्रणाखाली येते.

and the way it's controlled now is by a sequence of static photos.

स्थिर फोटोंच्या क्रमवार रचनेतून हे नियंत्रण मिळवले जाते.

Notice how the wrinkles come and go, depending on the expression.

हावभावांनुसार चेहऱ्यावरच्या रेषा कश्या बदलतात ते पाहा.

We can also use a video to drive the model.

आपण व्हिडिओ मध्येही हे बदल पाहू शकतो.

(Video) Daniel Craig: Right, but somehow,

(व्हिडिओ) डॅनियल क्रेग: बरोबर, पण

we've managed to attract some more amazing people.

आम्ही काही चांगल्या लोकांना आकर्षित करण्यात यशस्वी झालो आहोत.

SS: And here's another fun demo.

सुपासोन:काही मजेदार प्रात्यक्षिके.

So what you see here are controllable models

या नियंत्रीत करता येतील अशा काही प्रतिकृती.

of people I built from their internet photos.

इंटरनेटवरील फोटोंवरून या प्रतिकृती बनवल्या आहेत.

Now, if you transfer the motion from the input video,

आता, इनपुट व्हिडीओ द्वारे हालचालींमध्ये बदल केल्यास;

we can actually drive the entire party.

एकाचवेळी सगळे फोटो नियंत्रित होतात.

George W. Bush: It's a difficult bill to pass,

जॉर्ज बुश: या कायद्यास अनुमती मिळणे अवघड आहे.

because there's a lot of moving parts,

यासाठी खूप बदल गरजेचे आहेत

and the legislative processes can be ugly.

आणि कायदेविषयक प्रक्रिया तितकीशी सरळ सोपी नाही.

(Applause)

(टाळ्या )

SS: So coming back a little bit,

सुपासोन: तर.. थोडंसं मागे येऊ.

our ultimate goal, rather, is to capture their mannerisms

खरंतर आमचं अंतिम उद्दिष्ट त्यांची वागण्या पद्धत जाणून घेणे तसेच

or the unique way each of these people talks and smiles.

या प्रत्येकांची हसण्या, बोलण्याची लकब लक्षात घेणे हे आहे.

So to do that, can we actually teach the computer

यासाठी आपल्याला संगणकाला

to imitate the way someone talks

एखादयाच्या बोलण्याची नक्कल करण्यास शिकवता येईल?

by only showing it video footage of the person?

ते सुद्धा फक्त त्या व्यक्तीचे व्हिडिओ दाखवून?

And what I did exactly was, I let a computer watch

मी तेच केले. संगणकाला असे व्हिडिओ दाखवले.

14 hours of pure Barack Obama giving addresses.

१४ तास फक्त बराक ओबामा यांची भाषणे दाखवली.

And here's what we can produce given only his audio.

आणि केवळ त्यांचे ऑडिओ देऊन आम्ही हे निर्माण करू शकलो.

(Video) BO: The results are clear.

(व्हिडिओ) ओबामा: परिणाम स्पष्ट आहेत.

America's businesses have created 14.5 million new jobs

अमेरिकन उद्योग धंद्यामुळे १४. ५ दशलक्ष नव्या रोजगारांची निर्मिती झाली आहे.

over 75 straight months.

तेही सलग ७५ महिन्यांच्या कालावधीत.

SS: So what's being synthesized here is only the mouth region,

सुपासोन: येथे केवळ ओठांचा भाग बनवला जातो आहे.

and here's how we do it.

आणि आम्ही हे अशाप्रकारे बनवतो.

Our pipeline uses a neural network

मज्जासंस्थावर आधारित प्रणाली वापरून

to convert and input audio into these mouth points.

आवाज रूपांतरित करून ओठांच्या या बिंदूंमध्ये बसवला जातो.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(व्हिडिओ) ओबामा: आपल्या कामाद्वारे, मेडिकेअर किंवा मेडिकएड द्वारे मिळते.

SS: Then we synthesize the texture, enhance details and teeth,

सुपासोन: नंतर आम्ही त्वचेचा पोत, दात आणि इतर बारकाव्यांवर काम करतो.

and blend it into the head and background from a source video.

नंतर हे सर्व, चेहरा व व्हिडिओतील पार्श्वभूमी यांना जोडले जाते.

(Video) BO: Women can get free checkups,

(व्हिडिओ)ओबामा: स्त्रियांना मोफत तपासणी,

and you can't get charged more just for being a woman.

केवळ महिला आहेत म्हणून अधिक शुल्क आकारता येणार नाही.

Young people can stay on a parent's plan until they turn 26.

तरुणांना २६ वर्षांपर्यंत पालकांचीच विमा योजना वापरता येईल.

SS: I think these results seem very realistic and intriguing,

मला वाटते की हे परिणाम खूपच वास्तववादी आणि रोचक आहेत.

but at the same time frightening, even to me.

पण त्याच बरोबर ते भीतीदायक सुद्धा आहेत. अगदी माझ्यासाठी सुद्धा.

Our goal was to build an accurate model of a person, not to misrepresent them.

आमचा उद्देश अचूक मॉडेल तयार करणे हा होता. चुकीचा अर्थ लावणे हा नाही.

But one thing that concerns me is its potential for misuse.

मात्र याचा दुरुपयोग होऊ शकतो हि गोष्ट मला काळजीत टाकते.

People have been thinking about this problem for a long time,

लोक बऱ्याच काळापासून या समस्येबद्दल विचार करत आहेत,

since the days when Photoshop first hit the market.

अगदी फोटोशॉप पहिल्यांदा बाजारात आलं त्या वेळपासून.

As a researcher, I'm also working on countermeasure technology,

एक संशोधक म्हणून,मी प्रतिबंधात्मक तंत्रज्ञानावर देखिल काम करतो आहे.

and I'm part of an ongoing effort at AI Foundation,

आणि मी एआय फाउंडेशनमध्ये चालू असलेल्या प्रयत्नांचा भाग आहे,

which uses a combination of machine learning and human moderators

यामध्ये मशीन लर्निंग आणि मानवी संयोजक यांचा एकत्रित उपयोग केला जातो.

to detect fake images and videos,

आणि नकली छायाचित्रे, व्हिडीओ शोधली जातात.

fighting against my own work.

हे माझ्याच विरोधात जाणे झाले.

And one of the tools we plan to release is called Reality Defender,

आम्ही लवकरच उपलब्ध करणाऱ्या साधनांपैकी एक म्हणजे 'रिऍलिटी डिफेंडर'.

which is a web-browser plug-in that can flag potentially fake content

हे एक वेब-ब्राउझर प्लग-इन आहे जे संभाव्य बनावट मजकूर अधोरेखित करेल.

automatically, right in the browser.

आपोआप आणि तेही ब्राउझरमध्येच

(Applause)

(टाळ्या)

Despite all this, though,

तरीही..

fake videos could do a lot of damage,

बनावट व्हिडिओ बरेच नुकसान करू शकतात,

even before anyone has a chance to verify,

अगदी कोणालाही ते पडताळून पाहण्याची संधी मिळण्या आधीच

so it's very important that we make everyone aware

म्हणूनच सध्या तंत्रज्ञानाद्वारे काय शक्य आहे

of what's currently possible

याबाबत सर्वांना जागृत करणे महत्वाचे आहे.

so we can have the right assumption and be critical about what we see.

जेणेकरून आपण हे गृहीत धरून काय पाहतो आहोत याचा सारासार विचार करू शकू.

There's still a long way to go before we can fully model individual people

व्यक्तीची संपूर्ण प्रतिकृती बनवण्यासाठी अजून बरेच प्रयत्न गरजेचे आहेत.

and before we can ensure the safety of this technology.

तसेच याचा योग्य वापर होईल हे सुनिश्चित करण्यासाठीही.

But I'm excited and hopeful,

पण मी उत्साहित आणि आशावादी आहे,

because if we use it right and carefully,

कारण याचा योग्य आणि काळजीपूर्वक केल्यास,

this tool can allow any individual's positive impact on the world

कोणत्याही व्यक्तीचा जगावरील सकारात्मक प्रभाव

to be massively scaled

वाढवण्यास मदत होऊ शकेल.

and really help shape our future the way we want it to be.

व याच्या साहाय्याने भविष्याला हवा तसा आकार देता येऊ शकेल.

Thank you.

धन्यवाद.

(Applause)

(टाळ्या)