How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Translator: Mitra Shishegari Reviewer: Masoud Motamedifar

So, on April 23 of 2013,

خب در ۲۳ آوریل سال ۲۰۱۳،

the Associated Press put out the following tweet on Twitter.

آسوشیتد پرس توئیتی در صفحه‌اش گذاشت.

It said, "Breaking news:

که نوشته شده بود: «خبر فوری:

Two explosions at the White House

در دو انفجار در کاخ سفید

and Barack Obama has been injured."

باراک اوباما مجروح شده است.»

This tweet was retweeted 4,000 times in less than five minutes,

این توئیت در کمتر از ۵ دقیقه ۴۰۰۰ بار توئیت مجدد شد،

and it went viral thereafter.

و بعد از آن فراگیر شد.

Now, this tweet wasn't real news put out by the Associated Press.

خب خبر این توئیت آسوشیتد پرس حقیقت نداشت.

In fact it was false news, or fake news,

در واقع خبری اشتباه یا جعلی بود،

that was propagated by Syrian hackers

که توسط هکرهای سوری پخش شده بود

that had infiltrated the Associated Press Twitter handle.

که در توئیتر آسوشیتد پرس نفوذ کرده بود.

Their purpose was to disrupt society, but they disrupted much more.

هدف آنها ایجاد اختلال در جامعه بود اما موجب اختلال خیلی شدیدتری شدند.

Because automated trading algorithms

چون الگوریتم‌های خودکار تجاری

immediately seized on the sentiment on this tweet,

بلافاصله با این توئیت تحت تاثیر قرار گرفتند،

and began trading based on the potential

و شروع به داد وستد بر اساس این پتانسیل کردند که

that the president of the United States had been injured or killed

رئیس جمهور ایالات متحده آمریکا مجروح در این انفجار

in this explosion.

یا کشته شده است.

And as they started tweeting,

و به محض اینکه آنها شروع به توئیت کردند،

they immediately sent the stock market crashing,

بلافاصله بازار سهام سقوط کرد،

wiping out 140 billion dollars in equity value in a single day.

۱۴۰ میلیارد دلار ارزش سهام در یک روز از بین رفت.

Robert Mueller, special counsel prosecutor in the United States,

رابرت مولر مشاور ویژه دادستان ایالات متحده آمریکا،

issued indictments against three Russian companies

علیه سه شرکت روسی و همینطور ۱۳ فرد روسی

and 13 Russian individuals

کیفرخواست صادر کرد.

on a conspiracy to defraud the United States

این کیفرخواست دررابطه با توطئه‌ی فریب دادن ایالات متحده آمریکا

by meddling in the 2016 presidential election.

با مداخله درانتخابات سال ۲۰۱۶ ریاست جمهوری بود.

And what this indictment tells as a story

و داستان این کیفر خواست چه بود

is the story of the Internet Research Agency,

داستان آژانس پژوهشی اینترنت بود،

the shadowy arm of the Kremlin on social media.

بازوی پنهان کرملین در رسانه‌های اجتماعی.

During the presidential election alone,

فقط در مدت انتخابات ریاست جمهوری،

the Internet Agency's efforts

با تلاش‌های آژانس اینترنتی

reached 126 million people on Facebook in the United States,

۱۲۶ میلیون نفردر امریکا از طریق فیس بوک،

issued three million individual tweets

به توئیت سه میلیون نفر

and 43 hours' worth of YouTube content.

و معادل ۴۳ ساعت محتوای یوتیوب دسترسی پیدا کردند.

All of which was fake --

که همه جعلی بودند--

misinformation designed to sow discord in the US presidential election.

اطلاعات جعلی برای ایجاد اختلاف نظر در انتخابات ریاست جمهوری ایالات متحده آمریکا.

A recent study by Oxford University

پژوهش اخیر دانشگاه آکسفورد

showed that in the recent Swedish elections,

نشان داد که در انتخابات اخیر سوئد،

one third of all of the information spreading on social media

یک سوم ازاطلاعات اشاعه داده شده در رسانه‌های اجتماعی

about the election

در مورد انتخابات

was fake or misinformation.

اطلاعات جعلی و یا اشتباه بودند.

In addition, these types of social-media misinformation campaigns

به علاوه این نوع از کمپین‌های اطلاعات اشتباه رسانه‌های اجتماعی

can spread what has been called "genocidal propaganda,"

می‌توانند چیزی باعنوان «تبلیغ نسل کشی» گسترش دهند،

for instance against the Rohingya in Burma,

برای مثال علیه روهینگیا در برمه،

triggering mob killings in India.

تحریک اوباش، موجب کشته شدن مردم در هند شد.

We studied fake news

ما خبرهای جعلی را بررسی کردیم

and began studying it before it was a popular term.

وشروع به بررسی آنها قبل آنکه فراگیرشدنشان کردیم.

And we recently published the largest-ever longitudinal study

اخیرا ما بزرگترین پژوهش طولی را

of the spread of fake news online

در مورد انتشار آنلاین اخبار جعلی منتشر کرده‌ایم

on the cover of "Science" in March of this year.

در ماه مارس امسال با عنوان «علم».

We studied all of the verified true and false news stories

ما تمام اخبار تایید شده درست و غلط را مطالعه کردیم

that ever spread on Twitter,

که تا به حال در توئیترمنتشر شده‌اند،

from its inception in 2006 to 2017.

از ابتدای سال ۲۰۰۶ تا ۲۰۱۷.

And when we studied this information,

و وقتی داشتیم این اطلاعات را مطالعه می‌کردیم،

we studied verified news stories

اخباری را مورد مطالعه قرار دادیم که تایید شده بودند

that were verified by six independent fact-checking organizations.

تایید این اخبار از طرف ۶ سازمان مستقل حقیقت یاب اتفاق افتاده بود.

So we knew which stories were true

پس می‌دانستیم کدام یک از خبرها درست هستند

and which stories were false.

و کدام یک اشتباه.

We can measure their diffusion,

میزان انتشارشان قابل اندازی‌گیری است،

the speed of their diffusion,

سرعت انتشار هم همینطور،

the depth and breadth of their diffusion,

همینطور عمق و وسعت آنها،

how many people become entangled in this information cascade and so on.

چند نفر در این نوع از انتشار اطلاعات گرفتار شده‌اند.

And what we did in this paper

و ما در این مقاله چه کردیم

was we compared the spread of true news to the spread of false news.

ما انتشار اخبار درست و غلط را باهم مقایسه کردیم.

And here's what we found.

و این چیزی است که ما به آن رسیدیم.

We found that false news diffused further, faster, deeper

ما متوجه شدیم که اخبار غلط بیشتر، سریعتر و عمیق‌تر پخش می‌شوند

and more broadly than the truth

بسیار گسترده‌تر از خبر واقعی

in every category of information that we studied,

در همه دسته بندی‌های اطلاعاتی ما مطالعه کردیم،

sometimes by an order of magnitude.

بعضی مواقع با ایجاد یک بزرگنمایی.

And in fact, false political news was the most viral.

و در واقع اخبار سیاسی غلط در صدر این انتشار بودند.

It diffused further, faster, deeper and more broadly

انتشاراخبار سیاسی بیشتر و سریع‌تر و عمیق‌تر و بسیار گسترده‌تر

than any other type of false news.

از دیگر انواع خبرها بود.

When we saw this,

وقتی این را فهمیدیم،

we were at once worried but also curious.

نه تنها نگران بودیم بلکه کنجکاو هم شده بودیم.

Why?

چرا؟

Why does false news travel so much further, faster, deeper

چرا باید اخبارغلط بسیار بیشتر، سریع‌تر و عمیق‌تر

and more broadly than the truth?

ازاخبار صحیح پخش شود؟

The first hypothesis that we came up with was,

فرضیه اولی که ما به آن رسیدیم این بود که،

"Well, maybe people who spread false news have more followers or follow more people,

«شاید منتشرکنندگان اخبار جعلی، فالوئر زیاد دارند یا نفرات زیادی را دنبال می‌کنند،

or tweet more often,

یا توئیت بیشتری می‌کنند،

or maybe they're more often 'verified' users of Twitter, with more credibility,

یا شاید اغلب آنها کاربران مورد تایید توئیتر بودند با اعتبار زیاد،

or maybe they've been on Twitter longer."

یا شاید مدت زمان زیادی هست که درتوئیتر هستند.»

So we checked each one of these in turn.

پس ما هریک از این‌ها را به ترتیب چک کردیم.

And what we found was exactly the opposite.

و آنچه که به آن رسیدیم دقیقا برعکس بود.

False-news spreaders had fewer followers,

انتشاردهندگان اخبار اشتباه دنبال کنندگان کمی دارند،

followed fewer people, were less active,

نفرات کمی را دنبال می‌کنند که فعالیت کمی دارند،

less often "verified"

و اغلب کمتر «تایید شده‌اند»

and had been on Twitter for a shorter period of time.

و سابقه حضورشان در توئیتر کم بود.

And yet,

و هنوز،

false news was 70 percent more likely to be retweeted than the truth,

به نظر می‌رسد که اخبار اشتباه ۷۰ درصد بیشتر از اخبار درست توئیت مجدد می‌شود،

controlling for all of these and many other factors.

که همه اینها و دیگر عوامل را کنترل می‌کند.

So we had to come up with other explanations.

خب ما مجبور شدیم توضیحات دیگری ارائه دهیم.

And we devised what we called a "novelty hypothesis."

و فرضیه جدید را ابداع کردیم.

So if you read the literature,

خوب اگر ادبیات خوانده باشید،

it is well known that human attention is drawn to novelty,

واضح است که انسان توجه اش به چیزهای جدید جلب می‌شود،

things that are new in the environment.

چیزهایی که در محیط جدید هستند.

And if you read the sociology literature,

و اگر ادبیات جامعه شناسی خوانده باشید،

you know that we like to share novel information.

می‌دانید که همه ما دوست داریم مطالب جدید به اشتراک بگذاریم.

It makes us seem like we have access to inside information,

این باعث می‌شود که ما اینطور به نظر برسیم که دسترسی به اطلاعات داخل داریم،

and we gain in status by spreading this kind of information.

و با انتشار این اطلاعات اوضاع را تحت کنترل داریم.

So what we did was we measured the novelty of an incoming true or false tweet,

پس کاری که ما می‌کنیم سنجش میزان جدید بودن توئیت‌های درست و یا غلط،

compared to the corpus of what that individual had seen

در مقایسه با مجموع نوشته‌هایی که یک فرد دیده است

in the 60 days prior on Twitter.

در ۶۰ روز قبل در توئیتر.

But that wasn't enough, because we thought to ourselves,

اما این کافی نبود چون ما به خودمان فکر کردیم،

"Well, maybe false news is more novel in an information-theoretic sense,

«خب شاید اخبارغلط در مفهوم اطلاعات نظری بسیار جدیدتر بودند،

but maybe people don't perceive it as more novel."

اما شاید مردم آنرا جدید تلقی نکنند.»

So to understand people's perceptions of false news,

پس برای فهم تلقی مردم از اخبار غلط،

we looked at the information and the sentiment

ما نگاهی به اطلاعات و احساسات انداختیم

contained in the replies to true and false tweets.

که شامل پاسخ به توئیت‌های غلط و درست بود.

And what we found

و آنچه که به آن رسیدیم

was that across a bunch of different measures of sentiment --

میان مجموعه‌ای از احساسات --

surprise, disgust, fear, sadness,

تعجب، نفرت، ترس، اندوه،

anticipation, joy and trust --

انتظار، شادی و اعتماد--

false news exhibited significantly more surprise and disgust

اخبار غلط بطور معناداری تعجب و نفرت را بیشتر نشان می‌دادند

in the replies to false tweets.

در پاسخ به توئیت‌های غلط.

And true news exhibited significantly more anticipation,

و اخبار درست به طور معناداری انتظار بیشتری را به نمایش گذاشته بودند،

joy and trust

و البته شادی و اعتماد

in reply to true tweets.

در پاسخ به توئیت‌های درست.

The surprise corroborates our novelty hypothesis.

تعجب, تایید کننده فرضیه جدید ما است.

This is new and surprising, and so we're more likely to share it.

جدید و تعجب آور است و می‌خواهیم که آن را به اشتراک بگذاریم.

At the same time, there was congressional testimony

در همان زمان کنگره‌ای

in front of both houses of Congress in the United States,

در مقابل دو ساختمان کنگره در ایالات متحده،

looking at the role of bots in the spread of misinformation.

با عنوان نگاهی به نقش ربات‌ها در انتشاراطلاعات غلط برگزار می شد.

So we looked at this too --

خب ما این را هم بررسی کردیم-

we used multiple sophisticated bot-detection algorithms

و ما از الگوریتم‌های تشخیص ربات استفاده نمودیم

to find the bots in our data and to pull them out.

تا ربات‌ها را در داده‌های خود پیدا و آنها را بیرون بیاندازیم.

So we pulled them out, we put them back in

خب ما آنها را بیرون انداختیم و دوباره بازگرداندیم

and we compared what happens to our measurement.

و مقایسه کردیم که چه اتفاقی برای معیار سنجش ما افتاد.

And what we found was that, yes indeed,

وچیزی که پیدا کردیم این بود که، بله واقعا،

bots were accelerating the spread of false news online,

ربات‌ها به گسترش اخبار غلط در فضای اینترنت سرعت می‌بخشند،

but they were accelerating the spread of true news

اما آنها به انتشار اخبار درست هم سرعت می‌دادند

at approximately the same rate.

تقریبا با همان میزان.

Which means bots are not responsible

که به این معناست که ربات‌ها مسئول

for the differential diffusion of truth and falsity online.

تعیین میزان تغییرات انتشار درست یا غلط بودن نیستند.

We can't abdicate that responsibility,

ما نمی‌توانیم از این مسئولیت چشم‌پوشی کنیم،

because we, humans, are responsible for that spread.

چون ما انسان‌ها مسئول انتشار آن هستیم.

Now, everything that I have told you so far,

خب تا اینجا هر چیزی را که به شما گفتم،

unfortunately for all of us,

متاسفانه برای همه ما،

is the good news.

اخبار خوب است.

The reason is because it's about to get a whole lot worse.

دلیل این است که قرار است بدتر از این شود.

And two specific technologies are going to make it worse.

و دو تکنولوژی خاص اوضاع را بدتر می‌کنند.

We are going to see the rise of a tremendous wave of synthetic media.

ما منتظر ظهور موج عظیمی از رسانه‌های مصنوعی هستیم.

Fake video, fake audio that is very convincing to the human eye.

ویدئوهای جعلی, فایل‌های صوتی جعلی که به نظر انسان متقاعدکننده هستند.

And this will powered by two technologies.

که توسط دو تکنولوژی طراحی می‌شود.

The first of these is known as "generative adversarial networks."

نام یکی از آن‌ها «شبکه های مخالف مولد» است.

This is a machine-learning model with two networks:

این یک مدل یادگیری ماشینی با دو شبکه است:

a discriminator,

یک تفکیک کننده،

whose job it is to determine whether something is true or false,

که کارش تعیین این است که آیا چیزی درست است یا نه،

and a generator,

و یک مولد،

whose job it is to generate synthetic media.

که کارش تولید رسانه مصنوعی است.

So the synthetic generator generates synthetic video or audio,

بنابراین ژنراتور مصنوعی ویدئو و صدای مصنوعی تولید می‌کند،

and the discriminator tries to tell, "Is this real or is this fake?"

و تفکیک کننده سعی می‌کند تشخیص دهد که «این درست است یا جعلی»؟

And in fact, it is the job of the generator

و در واقع این کار ژنراتور است

to maximize the likelihood that it will fool the discriminator

که شباهت را به حداکثر برساند و تفکیک کننده فریب بخورد

into thinking the synthetic video and audio that it is creating

و فکر کند که ویدئو و صدای تولید شده

is actually true.

واقعا درست است.

Imagine a machine in a hyperloop,

ماشینی درهایپرلوپ (سیستم سریع حمل ونقل) مجسم کنید،

trying to get better and better at fooling us.

که در فریب دادن ما هر روز بهتر و بهتر می‌شود.

This, combined with the second technology,

این، ترکیبی از تکنولوژی نسل دوم است که،

which is essentially the democratization of artificial intelligence to the people,

در واقع دموکراتیک سازی هوش مصنوعی برای مردم است،

the ability for anyone,

توانایی برای هر کسی،

without any background in artificial intelligence

بدون هیچ پیشینه خاصی در هوش مصنوعی

or machine learning,

یا آموزش ماشینی،

to deploy these kinds of algorithms to generate synthetic media

برای بکارگیری این نوع از الگوریتم‌ها برای تولید رسانه مصنوعی

makes it ultimately so much easier to create videos.

که در نهایت فرآیند تولید ویدئو را آسان‌تر می‌کند.

The White House issued a false, doctored video

کاخ سفید یک ویدئوی جعلی و دستکاری شده

of a journalist interacting with an intern who was trying to take his microphone.

یک خبرنگاررا که با یک کارآموزدر تعامل بود سعی داشت میکروفنش را پس بگیرد، پخش کرد.

They removed frames from this video

آنها فریم‌هایی از ویدئو را حذف کرده بودند

in order to make his actions seem more punchy.

بطوری که کارهای او تاثیرگذار به نظر برسد.

And when videographers and stuntmen and women

و وقتی فیلمبرداران و بدلکاران و زنان

were interviewed about this type of technique,

درمورد این نوع از تکنیک مصاحبه کردند،

they said, "Yes, we use this in the movies all the time

گفتند «بله ما از این همیشه در فیلم‌ها استفاده می‌کنیم

to make our punches and kicks look more choppy and more aggressive."

تا مشت و لگدهایمان واقعی‌تر و تهاجمی‌تر به نظر برسد.»

They then put out this video

آنها این ویدئو را بیرون دادند

and partly used it as justification

و تا حدی از آن برای حذف

to revoke Jim Acosta, the reporter's, press pass

جیم‌آکوستا استفاده کردند، او خبرنگارپرس‌پس (کارتی که خبرنگارازمحدودیت معاف می‌شود)

from the White House.

از کاخ سفید بود.

And CNN had to sue to have that press pass reinstated.

و CNN باید شکایت کند تا کارت پرس بازگردانده شود.

There are about five different paths that I can think of that we can follow

حدود ۵ راه مختلف وجود دارد که من فکر می‌کنم می‌توانیم پیگیری کنیم

to try and address some of these very difficult problems today.

و امروز به برخی از این مشکلات خیلی سخت بپردازیم.

Each one of them has promise,

هر کدام از آن‌ها قولی دارند،

but each one of them has its own challenges.

اما هرکدام از آنها چالش‌های خاص خود را دارند.

The first one is labeling.

اولین مورد برچسب زدن است.

Think about it this way:

اینطور به آن فکر کنید:

when you go to the grocery store to buy food to consume,

وقتی به فروشگاه موادغذایی برای خرید غذای مصرفی می‌روید،

it's extensively labeled.

برچسب بزرگی روی آن وجود دارد.

You know how many calories it has,

می‌دانید که چقدر کالری دارد،

how much fat it contains --

چقدر چربی دارد--

and yet when we consume information, we have no labels whatsoever.

با اینحال وقتی اطلاعاتی ارائه می‌کنیم برچسبی نداریم.

What is contained in this information?

این اطلاعات چه محتوایی دارد؟

Is the source credible?

آیا منبع معتبری دارد؟

Where is this information gathered from?

این اطلاعات از کجا جمع آوری می‌شوند؟

We have none of that information

ما هیچ کدام از آن اطلاعات را نداریم

when we are consuming information.

وقتی اطلاعاتی را استفاده می‌کنیم.

That is a potential avenue, but it comes with its challenges.

این یک راه بالقوه است اما با چالش‌هایی همراه است.

For instance, who gets to decide, in society, what's true and what's false?

برای مثال، در جامعه چه کسی تصمیم می‌گیرد، چه چیزی اشتباه و چه چیزی درست است؟

Is it the governments?

دولت‌ها؟

Is it Facebook?

فیس بوک؟

Is it an independent consortium of fact-checkers?

آیا این یک کنسرسیوم ازافراد حقیقت‌یاب است؟

And who's checking the fact-checkers?

چه کسی خود این افراد را چک می‌کند؟

Another potential avenue is incentives.

یکی دیگر از راه‌های بالقوه مشوق‌ها هستند.

We know that during the US presidential election

ما می‌دانیم که طی انتخابات ریاست جمهوری ایالات متحده

there was a wave of misinformation that came from Macedonia

موجی از اطلاعات جعلی از مقدونیه می‌آمد

that didn't have any political motive

هیچ انگیزه سیاسی پشت آن نبود

but instead had an economic motive.

اما در مقابل انگیزه اقتصادی در آن بود.

And this economic motive existed,

و این انگیزه اقتصادی وجود داشت،

because false news travels so much farther, faster

چون اطلاعات غلط بسیار بیشتر و سریعتر

and more deeply than the truth,

وبسیارعمیق‌ترازاطلاعات درست جابه‌جا می‌شود،

and you can earn advertising dollars as you garner eyeballs and attention

و شما هم دلارهای تبلیغات را بدست می‌آورید همانطور که توجه‌ها را سمت خود جلب می‌کنید

with this type of information.

با این نوع از اطلاعات.

But if we can depress the spread of this information,

اما اگربتوانیم گسترش این اطلاعات را تحت فشار قرار دهیم،

perhaps it would reduce the economic incentive

شاید انگیزه اقصادی را

to produce it at all in the first place.

در همان وهله اول قبل از تولید کاهش دهد.

Third, we can think about regulation,

سوم، می‌توانیم در مورد مقررات فکر کنیم،

and certainly, we should think about this option.

و مطمئنا باید در این مورد فکر کنیم.

In the United States, currently,

درحال حاضردر ایالات متحده آمریکا،

we are exploring what might happen if Facebook and others are regulated.

ما به دنبال آن هستیم که بدانیم چه اتفاقی می‌افتد اگر فیس بوک و دیگران تنظیم شوند.

While we should consider things like regulating political speech,

درحالی که ما باید مواردی چون نحوه نظارت برسخنرانی سیاسی را در نظر بگیریم

labeling the fact that it's political speech,

با این برچسب که این یک سخنرانی سیاسی است،

making sure foreign actors can't fund political speech,

با حصول اطمینان از سرمایه گذاری نکردن بازیگران خارجی از سخنرانی سیاسی،

it also has its own dangers.

که البته آن هم خطرات خودش را دارد.

For instance, Malaysia just instituted a six-year prison sentence

برای مثال، مالزی حکم شش سال زندان صادر کرده است

for anyone found spreading misinformation.

برای کسانی که اطلاعات جعلی منتشر کنند.

And in authoritarian regimes,

و در رژیم‌های استبدادی،

these kinds of policies can be used to suppress minority opinions

این نوع از سیاست برای سرکوب عقاید اقلیت استفاده می‌شود

and to continue to extend repression.

و سرکوب را افزایش می‌دهند.

The fourth possible option is transparency.

انتخاب چهارم شفافیت است.

We want to know how do Facebook's algorithms work.

ما می‌خواهیم بدانیم الگوریتم فیس بوک چگونه کار می‌کند.

How does the data combine with the algorithms

چگونه داده‌ها با الگوریتم‌ها ترکیب می‌شوند

to produce the outcomes that we see?

تا خروجی که می‌بینیم تولید شود؟

We want them to open the kimono

از آنها می‌خواهیم کیمونو را باز کنند

and show us exactly the inner workings of how Facebook is working.

و به ما نشان بدهند که دقیقا در لایه‌های داخلی فیس بوک چگونه کار می‌کند.

And if we want to know social media's effect on society,

و اگر می‌خواهیم تاثیر رسانه جمعی بر جامعه را بدانیم،

we need scientists, researchers

نیاز به دانشمند و محقق و دیگر افرادی داریم

and others to have access to this kind of information.

که دسترسی به این نوع از اطلاعات داشته باشند.

But at the same time,

اما هم زمان،

we are asking Facebook to lock everything down,

از فیس‌بوک می‌خواهیم که همه چیزرا قفل کند،

to keep all of the data secure.

که همه آن داده‌ها در امنیت باشند.

So, Facebook and the other social media platforms

پس بستر فیس بوک و دیگر رسانه های جمعی

are facing what I call a transparency paradox.

با آنچه من شفافیت متناقض می‌نامم, مواجه هستند.

We are asking them, at the same time,

ما همزمان از آن‌ها خواستیم،

to be open and transparent and, simultaneously secure.

باز و شفاف باشند و همزمان ایمن.

This is a very difficult needle to thread,

خیلی سخت است که این سوزن نخ شود،

but they will need to thread this needle

اما آنها نیازدارند که این سوزن را نخ کنند

if we are to achieve the promise of social technologies

اگر ما به وعده فناوری‌های اجتماعی دست پیدا کنیم

while avoiding their peril.

در حالیکه از خطرات آنها جلوگیری شود

The final thing that we could think about is algorithms and machine learning.

آخرین چیزی که می‌توانیم به آن فکر کنیم، الگوریتم‌ها و آموزش ماشینی است.

Technology devised to root out and understand fake news, how it spreads,

فناوری برای ریشه کن کردن و درک اخبار جعلی و چگونگی انتشار آن طراحی شده است،

and to try and dampen its flow.

که سعی در تعدیل جریان آن دارد.

Humans have to be in the loop of this technology,

انسان ها باید از این تکنولوژی آگاه باشند،

because we can never escape

چون نمی‌توانیم از آن فرار کنیم

that underlying any technological solution or approach

و پایه و اساس هر راه حل یا رویکرد فناوری

is a fundamental ethical and philosophical question

یک سوال بنیادی اخلاقی و فلسفی است

about how do we define truth and falsity,

در مورد اینکه ما چگونه درست و غلط را تعریف می‌کنیم،

to whom do we give the power to define truth and falsity

به چه کسی این قدرت را می‌دهیم که درست و غلط را تعریف کند

and which opinions are legitimate,

و کدام یک از نظرات موجه است،

which type of speech should be allowed and so on.

به کدام نوع از سخنرانی باید مجوز داده شود و از این قبیل چیزها.

Technology is not a solution for that.

تکنولوژی یک راه حل برای آن نیست.

Ethics and philosophy is a solution for that.

اخلاقیات و فلسفه راه حل آن است.

Nearly every theory of human decision making,

تقریبا هر نظریه تصمیم گیری انسانی،

human cooperation and human coordination

همکاری انسانی و هماهنگی انسانی

has some sense of the truth at its core.

در وجودش یک حس درست بودن وجود دارد.

But with the rise of fake news,

اما با ظهور اخبار جعلی،

the rise of fake video,

ظهور ویدئوهای جعلی،

the rise of fake audio,

ظهور فایل‌های صوتی جعلی،

we are teetering on the brink of the end of reality,

می‌توان در مورد نزدیک شدن به مرز پایان واقعیت صحبت کرد،

where we cannot tell what is real from what is fake.

جایی که دیگر نمی‌توان گفت چه چیزی درست است و چه چیزی غلط.

And that's potentially incredibly dangerous.

و این بطور بالقوه فوق العاده خطرناک است.

We have to be vigilant in defending the truth

باید در دفاع از حقیقت در مقابل

against misinformation.

اطلاعات اشتباه هوشیار باشیم.

With our technologies, with our policies

با تکنولوژی‌مان، با سیاست‌هایمان

and, perhaps most importantly,

و شاید مهمتر از همه چیز،

with our own individual responsibilities,

با مسئولیت پذیری فردیمان،

decisions, behaviors and actions.

تصمیمات، رفتارها و عملکردها.

Thank you very much.

خیلی ممنونم.

(Applause)

(تشویق حضار)