Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

المترجم: Elissa Jahjah المدقّق: Jihad shaban

Look at these images.

انظروا إلى هذه الصور.

Now, tell me which Obama here is real.

الآن، أخبروني أيّ منهم هو أوباما الحقيقي.

(Video) Barack Obama: To help families refinance their homes,

(فيديو) باراك أوباما: لمساعدة الناس على إعادة تمويل منازلهم،

to invest in things like high-tech manufacturing,

وللاستثمار في أمور مثل التصنيع عالي التقنية،

clean energy

والطاقة المتجددة

and the infrastructure that creates good new jobs.

والبنى التحتية التي تخلق وظائف جديدة جيدة.

Supasorn Suwajanakorn: Anyone?

سوباسورن سواجاناكورن: أيّ أحد؟

The answer is none of them.

الجواب هو ولا واحد منهم.

(Laughter)

(ضحك)

None of these is actually real.

ليس أيّاً منهم حقيقياً.

So let me tell you how we got here.

لذا دعوني أخبركم كيف توصّلنا إلى هذا.

My inspiration for this work

مصدر إلهامي لهذا العمل

was a project meant to preserve our last chance for learning about the Holocaust

كان مشروعاً يهدف إلى الحفاظ على فرصتنا الأخيرة للتعلم عن محرقة اليهود

from the survivors.

من النّاجين منها.

It's called New Dimensions in Testimony,

إنه يدعى "الأبعاد الجديدة للشهادة"

and it allows you to have interactive conversations

وهو يمنحك فرصة إجراء محادثات تفاعلية

with a hologram of a real Holocaust survivor.

مع صورة ثلاثية الأبعاد لشخصٍ حقيقي ناجٍ من المذبحة.

(Video) Man: How did you survive the Holocaust?

(فيديو) الرجل: كيف نجوت من المذبحة؟

(Video) Hologram: How did I survive?

كيف نجوت؟

I survived,

لقد نجوت،

I believe,

على ما أعتقد،

because providence watched over me.

لأن العناية الإلهية كانت تحرسني.

SS: Turns out these answers were prerecorded in a studio.

س.س: تبين أن هذه الإجابات قد تمّ تسجيلها مسبقاً في الأستوديو.

Yet the effect is astounding.

ومع ذلك، فإنّ تأثيرها مذهل.

You feel so connected to his story and to him as a person.

تشعر بأنك على اتّصال قوي بقصته وبه كشخص.

I think there's something special about human interaction

أعتقد أن هناك شيئاً مميزاً في التفاعل البشري

that makes it much more profound

يجعله أكثر عمقاً بكثير

and personal

وشخصيّاً

than what books or lectures or movies could ever teach us.

مما يمكن أن تعلّمنا إياه الكتب أو المحاضرات أو الأفلام.

So I saw this and began to wonder,

لذا رأيت هذا وبدأت بالتساؤل،

can we create a model like this for anyone?

هل يمكننا إنشاء نموذج كهذا لأي أحد؟

A model that looks, talks and acts just like them?

نموذجاً يبدو ويتحدث ويتصرّف مثلهم تماماً؟

So I set out to see if this could be done

لذا صممت على معرفة إن كان ذلك ممكناً

and eventually came up with a new solution

وفي النهاية توصلت إلى حل جديد

that can build a model of a person using nothing but these:

يمكنه بناء نموذج لشخص باستخدام ما يلي فحسب:

existing photos and videos of a person.

صور وفيديوهات فعلية للشخص.

If you can leverage this kind of passive information,

إذا كنت تستطيع الاستفادة من المعلومات المستترة،

just photos and video that are out there,

مجرد صور وفيديو موجودة،

that's the key to scaling to anyone.

فهذه هي الوسيلة لتكبير أيّ أحد.

By the way, here's Richard Feynman,

بالمناسبة، هذا ريتشارد فايمان

who in addition to being a Nobel Prize winner in physics

الذي بالإضافة لكونه حائزاً على جائزة نوبل في الفيزياء

was also known as a legendary teacher.

كان يُعرف أيضاً بكونه أستاذاً أسطورياً.

Wouldn't it be great if we could bring him back

ألن يكون عظيماً لو استطعنا إعادته

to give his lectures and inspire millions of kids,

لكي يلقي محاضراته ويلهم الملايين من الأطفال،

perhaps not just in English but in any language?

لربما ليس فقط بالإنكليزية، و إنّما بأية لغة؟

Or if you could ask our grandparents for advice and hear those comforting words

أو لو كان بإمكاننا أن نسأل أجدادنا للحصول على المشورة وسماع تلك الكلمات المطمئِنة

even if they're no longer with us?

بالرغم من أنهم لم يعودوا معنا؟

Or maybe using this tool, book authors, alive or not,

أو ربما باستخدام هذه الأداة، يمكن لمؤلفي الكتب، سواء كانوا أحياء أم لا،

could read aloud all of their books for anyone interested.

أن يقرؤوا بصوتٍ عالٍ كلّ كتبهم لمن يهمه الأمر.

The creative possibilities here are endless,

لا نهاية للاحتمالات الإبداعية هنا،

and to me, that's very exciting.

و بالنسبة لي، هذا مشوّق للغاية.

And here's how it's working so far.

إليكم كيف يسير الأمر حتى الآن.

First, we introduce a new technique

أولاً، نقوم بتقديم تقنية جديدة

that can reconstruct a high-detailed 3D face model from any image

باستطاعتها تصميم نموذج في غاية الدقة لوجه ثلاثي الأبعاد من أيّ صورة

without ever 3D-scanning the person.

دون الحاجة لعمل مسح ضوئي ثلاثي الأبعاد للشخص.

And here's the same output model from different views.

وإليكم ذات النموذج الناتج من زوايا مختلفة.

This also works on videos,

هذا ينطبق أيضاً على الفيديوهات،

by running the same algorithm on each video frame

عن طريق تطبيق الخوارزمية ذاتها على كل مقطع فيديو

and generating a moving 3D model.

و تشكيل نموذج ثلاثي الأبعاد متحرّك.

And here's the same output model from different angles.

وإليكم ذات النموذج الناتج من زوايا مختلفة.

It turns out this problem is very challenging,

تبيّن أنّ هذه المشكلة صعبة للغاية،

but the key trick is that we are going to analyze

لكن الحيلة الأساسية هي أننا سنقوم بتحليل

a large photo collection of the person beforehand.

مجموعة كبيرة من صور الشخص سلفاً.

For George W. Bush, we can just search on Google,

بالنسبة لجورج بوش الأب، يمكننا ببساطة البحث على غوغل

and from that, we are able to build an average model,

ومن هناك، بمقدورنا بناء نموذج متوسّط

an iterative, refined model to recover the expression

وترابطيّ ومصقول لنسخ تعبير الوجه

in fine details, like creases and wrinkles.

بتفاصيله الدقيقة، مثل الطويات الجلدية واالتجاعيد.

What's fascinating about this

المذهل في هذا الأمر

is that the photo collection can come from your typical photos.

هو أنّ مجموعة الصور يمكن أن تكون من ضمن صورك العادية.

It doesn't really matter what expression you're making

لا يهم حقاً ما التعبير الذي تصنعه

or where you took those photos.

أو أين التقطت تلك الصور.

What matters is that there are a lot of them.

ما يهم هو أن هناك الكثير منهم.

And we are still missing color here,

ومازلنا نفتقد للألوان هنا،

so next, we develop a new blending technique

لذلك طوّرنا تقنية دمج جديدة

that improves upon a single averaging method

تحسّن طريقةً توسّطية وحيدة

and produces sharp facial textures and colors.

وتنتج قواماً وجهياً وألواناً حادّة.

And this can be done for any expression.

ويمكن القيام بذلك لأي تعبير.

Now we have a control of a model of a person,

الآن لدينا قدرة التحكم بنموذج لشخص ما،

and the way it's controlled now is by a sequence of static photos.

وطريقة التحكم به الآن هي من خلال سلسلة من الصور الثابتة.

Notice how the wrinkles come and go, depending on the expression.

لاحظوا كيف تظهر التجاعيد وتختفي اعتماداً على تعبير الوجه.

We can also use a video to drive the model.

يمكننا أيضاً استخدام الفيديو لتحريك النموذج.

(Video) Daniel Craig: Right, but somehow,

(فيديو) دانيال كريغ: صحيح، لكن بطريقةٍ ما

we've managed to attract some more amazing people.

لقد نجحنا في جذب المزيد من الناس الرائعين.

SS: And here's another fun demo.

س.س: وإليكم عرضًا آخر مسلٍّ.

So what you see here are controllable models

إنَ ما ترونه هنا هي نماذج يمكن التحكم بها

of people I built from their internet photos.

لأشخاصٍ صممتهم من صورهم على الإنترنت.

Now, if you transfer the motion from the input video,

إذا قمت بنقل الحركة من الفيديو المُدخل،

we can actually drive the entire party.

يمكننا في الواقع قيادة المجموعة بأكملها.

George W. Bush: It's a difficult bill to pass,

جورج بوش الأب: إنه مشروع قانون صعب التنفيذ

because there's a lot of moving parts,

لأن هناك الكثير من الأجزاء المتحركة

and the legislative processes can be ugly.

ويمكن للعمليات التشريعية أن تكون عسيرةً.

(Applause)

(تصفيق)

SS: So coming back a little bit,

س.س: لذا، بالرجوع قليلاً،

our ultimate goal, rather, is to capture their mannerisms

هدفنا الأساسي كان تصوير سلوكيّاتهم

or the unique way each of these people talks and smiles.

أو الطريقة المميزة التي تحدّث وابتسم بها كلّ من هؤلاء الأشخاص.

So to do that, can we actually teach the computer

إذاً لفعل ذلك، هل يمكننا في الواقع تعليم الكمبيوتر

to imitate the way someone talks

كيف يقلّد طريقة كلام أحدهم

by only showing it video footage of the person?

بمجرد أن نريه لقطات فيديو للشخص؟

And what I did exactly was, I let a computer watch

وما فعلته بالضبط هو ترك الكومبيوتر يشاهد

14 hours of pure Barack Obama giving addresses.

14 ساعة من لا شيء سوى باراك أوباما وهو يلقي خطابات.

And here's what we can produce given only his audio.

وإليكم ما يمكننا إنتاجه من صوته فقط.

(Video) BO: The results are clear.

(فيديو) ب.أ: إنّ النتائج واضحة.

America's businesses have created 14.5 million new jobs

لقد أنشأت الشركات الأمريكية 14.5 مليون وظيفة جديدة

over 75 straight months.

خلال 75 شهراً متتالياً.

SS: So what's being synthesized here is only the mouth region,

س.س: إنّ ما يجري توليفه هنا هو منطقة الفم فقط،

and here's how we do it.

وإليكم كيف نفعل ذلك.

Our pipeline uses a neural network

يستخدم خط أنابيبنا شبكة عصبية

to convert and input audio into these mouth points.

لتحويل وإدخال الصوت في نقاط الفم هذه.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(فيديو) ب.أ: نحصل عليها عن طريق عملنا أو نظام الرعاية الطبية للعجزة أو الفقراء.

SS: Then we synthesize the texture, enhance details and teeth,

س.س: ثم نقوم بتركيب البنية وتعزيز التفاصيل والأسنان

and blend it into the head and background from a source video.

ودمجها في الرأس والخلفية بالاعتماد على فيديو.

(Video) BO: Women can get free checkups,

(فيديو) ب.أ: يمكن للنساء الحصول على معاينات مجانية

and you can't get charged more just for being a woman.

ولا يتحملن نفقات أكثر لمجرد كونهن نساءً.

Young people can stay on a parent's plan until they turn 26.

يمكن للشباب البقاء ضمن تأمين الوالدين حتى بلوغ عمر 26.

SS: I think these results seem very realistic and intriguing,

س.س: أعتقد أن هذه النتائج تبدو واقعية جدًّا ومثيرة للاهتمام،

but at the same time frightening, even to me.

ولكن في نفس الوقت مرعبة، حتى بالنسبة لي.

Our goal was to build an accurate model of a person, not to misrepresent them.

كان هدفنا هو بناء نموذج دقيق من شخص ما، وليس تشويهه.

But one thing that concerns me is its potential for misuse.

لكن ما يقلقني هو احتمالية سوء الاستخدام.

People have been thinking about this problem for a long time,

لقد فكر الناس بهذه المشكلة لفترة طويلة،

since the days when Photoshop first hit the market.

منذ أن تم إطلاق برنامج الفوتوشوب في الأسواق.

As a researcher, I'm also working on countermeasure technology,

بصفتي باحثاً، فأنا أعمل أيضاً على التكنولوجيا المضادة،

and I'm part of an ongoing effort at AI Foundation,

وأنا جزء من جهد مستمر في مؤسسة الذكاء الاصطناعي،

which uses a combination of machine learning and human moderators

التي تستخدم مزيجاً من تعلَم الآلة والمشرفين البشر

to detect fake images and videos,

للكشف عن الصور ومقاطع الفيديو المزيفة،

fighting against my own work.

للمحاربة ضد عملي الخاص.

And one of the tools we plan to release is called Reality Defender,

وأحد الأدوات التي نخطط لإصدارها تسمى "المدافع عن الواقع"

which is a web-browser plug-in that can flag potentially fake content

وهو مكون إضافي لمتصفح الويب يمكنه الإبلاغ عن محتوى مزيف محتمل

automatically, right in the browser.

تلقائياً، مباشرة ً في المتصفح.

(Applause)

(تصفيق)

Despite all this, though,

على الرغم من كل هذا،

fake videos could do a lot of damage,

قد تؤدي مقاطع الفيديو المزيفة إلى الضرر

even before anyone has a chance to verify,

حتى قبل أن تتاح الفرصة لأي شخص للتحقق،

so it's very important that we make everyone aware

لذلك من المهم جداً أن نجعل الجميع يدرك

of what's currently possible

ما هو ممكن حالياً

so we can have the right assumption and be critical about what we see.

حتى نتمكن من الحصول على الافتراض الصحيح ونكون حاسمين حول ما نراه.

There's still a long way to go before we can fully model individual people

لا يزال هناك طريق طويل يجب قطعه قبل أن نتمكن من نمذجة الأفراد بشكل كامل

and before we can ensure the safety of this technology.

وقبل أن نضمن سلامة استخدام هذه التكنولوجيا.

But I'm excited and hopeful,

ولكنني متحمس ومتفائل

because if we use it right and carefully,

لأنه إذا استخدمناها بطريقة صحيحة وبعناية

this tool can allow any individual's positive impact on the world

بإمكان هذه الأداة أن تسمح للتأثير الإيجابي لأي شخص في العالم

to be massively scaled

أن يُعرف على نطاق واسع

and really help shape our future the way we want it to be.

وتساعد حقاً في تشكيل مستقبلنا بالطريقة التي نريدها.

Thank you.

شكراّ لكم.

(Applause)

(تصفيق)