How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Translator: Renu Chandna Reviewer: Arvind Patil

So, on April 23 of 2013,

23 अप्रैल 2013 को,

the Associated Press put out the following tweet on Twitter.

एसोसिएटेड प्रेस ने ट्विटर पर निम्न ट्वीट किये ।

It said, "Breaking news:

इसमें कहा गया , "ब्रेकिंग न्यूज:

Two explosions at the White House

व्हाइट हाउस में दो विस्फोट

and Barack Obama has been injured."

और बराक ओबामा घायल हो गए हैं। "

This tweet was retweeted 4,000 times in less than five minutes,

यह ट्वीट 4,000 बार रीट्वीट किया गया पाँच मिनट से कम समय में,

and it went viral thereafter.

और इसके बाद यह वायरल हो गया।

Now, this tweet wasn't real news put out by the Associated Press.

यह ट्वीट वास्तविक समाचार नहीं था एसोसिएटेड प्रेस द्वारा भेजा गया।

In fact it was false news, or fake news,

वास्तव में यह झूठी खबर थी, या फर्जी खबर थी,

that was propagated by Syrian hackers

यह सीरिया के हैकरों द्वारा प्रचारित किया गया था

that had infiltrated the Associated Press Twitter handle.

जो एसोसिएटेड प्रेस के ट्विटर हैंडल में घुसपैठ की थी।

Their purpose was to disrupt society, but they disrupted much more.

उद्देश्य समाज में गड़बड़ करना था, पर और भी अधिक गड़बड़ हुई ।

Because automated trading algorithms

क्योंकि स्वचालित ट्रेडिंग एल्गोरिदम

immediately seized on the sentiment on this tweet,

ने तुरंत इस ट्वीट के भाव को पकड़ लिया गया,

and began trading based on the potential

और क्षमता के आधार पर काम करना शुरू किया

that the president of the United States had been injured or killed

कि संयुक्त राज्य अमेरिका के राष्ट्रपति घायल या मारे गए थे

in this explosion.

इस विस्फोट में।

And as they started tweeting,

और जैसे ही उन्होंने ट्वीट करना शुरू किया,

they immediately sent the stock market crashing,

उससे शेयर बाजार तुरंत दुर्घटनाग्रस्त हो गया,

wiping out 140 billion dollars in equity value in a single day.

एक ही दिन में140 बिलियन डॉलर इक्विटी वैल्यू का सफाया हो गया ।

Robert Mueller, special counsel prosecutor in the United States,

रॉबर्ट मुलर, संयुक्त राज्य अमेरिका के विशेष वकील प्रासीक्यूटर , ने

issued indictments against three Russian companies

तीन रूसी कंपनियों के खिलाफ अभियोग जारी किए

and 13 Russian individuals

और 13 रूसी व्यक्तियों

on a conspiracy to defraud the United States

पर संयुक्त राज्य को ठगने की साजिश

by meddling in the 2016 presidential election.

2016 के राष्ट्रपति के चुनाव में दखल देकर ।

And what this indictment tells as a story

और यह अभियोग जो कहानी बताता है

is the story of the Internet Research Agency,

वह इंटरनेट अनुसंधान एजेंसी की कहानी है,

the shadowy arm of the Kremlin on social media.

क्रेमलिन की छायादार भुजा सोशल मीडिया पर।

During the presidential election alone,

सिर्फ राष्ट्रपति चुनाव के दौरान,

the Internet Agency's efforts

इंटरनेट एजेंसी के प्रयास से

reached 126 million people on Facebook in the United States,

126 मिलियन लोगों ने संयुक्त राज्य अमेरिका में फेसबुक पर,

issued three million individual tweets

तीन मिलियन व्यक्तिगत ट्वीट

and 43 hours' worth of YouTube content.

और 43 घंटे की यूट्यूब सामग्री जारी की ।

All of which was fake --

जो सभी झूठे थे -

misinformation designed to sow discord in the US presidential election.

गलत सूचना जो बनायीं गई थी अमेरिकी राष्ट्रपति चुनाव में खलबली के लिए।

A recent study by Oxford University

ऑक्सफोर्ड यूनिवर्सिटी द्वारा हाल ही में किया गया एक अध्ययन

showed that in the recent Swedish elections,

दिखता है ताजे स्वीडिश चुनाव में ,

one third of all of the information spreading on social media

सोशल मीडिया पर फैली जानकारी का एक तिहाई हिस्सा

about the election

चुनाव के बारे में

was fake or misinformation.

नकली था या गलत सूचना थी।

In addition, these types of social-media misinformation campaigns

इसके अलावा, इस प्रकार के सोशल-मीडिया गलत सूचना अभियान

can spread what has been called "genocidal propaganda,"

फैला सकते हैं, जिसे कहा जाता है "जनसंहारक प्रचार" .

for instance against the Rohingya in Burma,

उदाहरण के लिए बर्मा में रोहिंग्या,

triggering mob killings in India.

भारत में भीड़ की हत्याओं को ट्रिगर करना।

We studied fake news

हमने फर्जी खबरों का अध्ययन किया

and began studying it before it was a popular term.

और इसका अध्ययन जब शुरू किया तब यह एक लोकप्रिय शब्द नहीं था।

And we recently published the largest-ever longitudinal study

और हमने हाल ही में प्रकाशित किया है सबसे बड़ा अनुदैर्ध्य अध्ययन

of the spread of fake news online

ऑनलाइन फर्जी खबरों का प्रसार

on the cover of "Science" in March of this year.

"विज्ञान" के कवर पर इस साल के मार्च में।

We studied all of the verified true and false news stories

हमने सभी सत्यापित का अध्ययन किया सच्ची और झूठी खबरें

that ever spread on Twitter,

जो कभी ट्विटर पर फैला था,

from its inception in 2006 to 2017.

2006 से 2017 तक इसकी स्थापना से।

And when we studied this information,

और जब हमने इस जानकारी का अध्ययन किया,

we studied verified news stories

हमने सत्यापित समाचारों का अध्ययन किया

that were verified by six independent fact-checking organizations.

कि छह द्वारा सत्यापित किया गया स्वतंत्र तथ्य-जाँच संगठन।

So we knew which stories were true

हमें पता था कि कौन सी कहानियां सच थीं

and which stories were false.

और कौन सी कहानियाँ झूठी थीं।

We can measure their diffusion,

हम उनके प्रसार को माप सकते हैं,

the speed of their diffusion,

उनके प्रसार की गति,

the depth and breadth of their diffusion,

उनके प्रसार की गहराई और चौड़ाई,

how many people become entangled in this information cascade and so on.

कितने लोग उलझ जाते हैं इस जानकारी के बहाव में, इत्यादि ।

And what we did in this paper

और इस पेपर में हमने यह किया कि

was we compared the spread of true news to the spread of false news.

हमने सच्ची खबरों के प्रसार की तुलना की झूठी खबर के प्रसार से ।

And here's what we found.

और यहाँ हमने यह पाया

We found that false news diffused further, faster, deeper

हमने पाया कि झूठी खबर ज्यादा आगे, तेजी से, और गहरी फैलती है

and more broadly than the truth

और सच्चाई से अधिक मोटे तौर पर

in every category of information that we studied,

सूचना की हर उस श्रेणी में जिसका हमने अध्ययन किया,

sometimes by an order of magnitude.

कभी-कभी परिमाण कहीं ज्यादा ।

And in fact, false political news was the most viral.

और वास्तव में, झूठी राजनीतिक खबरें सबसे ज्यादा वायरल हुई थी ।

It diffused further, faster, deeper and more broadly

यह ज्यादा आगे, तेजी से, गहराई से, और अधिक व्यापक रूप से फेली

than any other type of false news.

किसी अन्य प्रकार की झूठी खबरों की तुलना में।

When we saw this,

जब हमने यह देखा,

we were at once worried but also curious.

हम तुरंत चिंतित हो गए लेकिन उत्सुक भी।

Why?

क्यों?

Why does false news travel so much further, faster, deeper

झूठी खबर क्यों यात्रा करता है ज़्यादा आगे, तेज, और गहराई से

and more broadly than the truth?

और सच्चाई से अधिक बड़े पैमाने पर?

The first hypothesis that we came up with was,

हमारी पहली परिकल्पना थी ,

"Well, maybe people who spread false news have more followers or follow more people,

“शायद जो लोग झूठी खबरें फैलाते हैं उनके ज़्यादा अनुयायियों हों या,

अधिक लोगों का अनुसरण करते हों ,

or tweet more often,

या अधिक बार ट्वीट करतें हों ,

or maybe they're more often 'verified' users of Twitter, with more credibility,

या शायद वे 'ट्विटर के अधिक त्यापित' उपयोगकर्ता और अधिक विश्वसनीय हों,

or maybe they've been on Twitter longer."

या शायद वे ट्विटर पर लंबे समय तक रहे हैं। "

So we checked each one of these in turn.

इसलिए हमने बारी-बारी हर एक की जाँच की।

And what we found was exactly the opposite.

और जो हमने पाया ठीक इसके विपरीत था।

False-news spreaders had fewer followers,

झूठी खबर फैलाने वालों के कम अनुयायी थे,

followed fewer people, were less active,

कम लोगों का अनुसरण कर रहे थे, कम सक्रिय थे,

less often "verified"

अक्सर कम "सत्यापित" थे

and had been on Twitter for a shorter period of time.

और ट्विटर पर कम समय से थे ।

And yet,

और फिर भी,

false news was 70 percent more likely to be retweeted than the truth,

झूठी खबर 70 प्रतिशत अधिक री-ट्वीवीट होने की संभावित थी सच्चाई के मुकाबले ,

controlling for all of these and many other factors.

इन सभी और कई अन्य कारक के नियंत्रण में ।

So we had to come up with other explanations.

इसलिए हमने अन्य स्पष्टीकरण दूंदे।

And we devised what we called a "novelty hypothesis."

और हमने जो तैयार किया उसे कहा "नवीनता परिकल्पना।"

So if you read the literature,

इसलिए यदि आप साहित्य पढ़ते हैं,

it is well known that human attention is drawn to novelty,

यह जाना जाता है कि मानव ध्यान नवीनता की ऑर आकर्षित होता है,

things that are new in the environment.

जो चीजें पर्यावरण में नई हैं।

And if you read the sociology literature,

और अगर आप समाजशास्त्र साहित्य पढ़ते हैं,

you know that we like to share novel information.

आप जानते होगे कि हम नयी जानकारी साझा करना पसंद करते हैं ।

It makes us seem like we have access to inside information,

इससे हमें ऐसा लगता है जैसे हमारे पास अंदर की जानकारी है ,

and we gain in status by spreading this kind of information.

और हम प्रतिष्ठा प्राप्त करते हैं इस तरह की जानकारी फैलाकर।

So what we did was we measured the novelty of an incoming true or false tweet,

इसलिए हमने आने वाले सच्चे या झूठे ट्वीट की नवीनता को मापा ,

compared to the corpus of what that individual had seen

कॉर्पस की तुलना में उस व्यक्ति ने क्या देखा था

in the 60 days prior on Twitter.

ट्विटर पर 60 दिनों के पूर्व में।

But that wasn't enough, because we thought to ourselves,

लेकिन यह पर्याप्त नहीं था, क्योंकि हमने सोचा ,

"Well, maybe false news is more novel in an information-theoretic sense,

“शायद झूठी खबर अधिक उपन्यासिक है एक सूचना के सिद्धांत में,

but maybe people don't perceive it as more novel."

लेकिन शायद लोग इसे अधिक उपन्यासिक रूप में नहीं देखें। "

So to understand people's perceptions of false news,

तो लोगों को झूठी खबरों की धारणा को समझने के लिए ,

we looked at the information and the sentiment

हमने देखा उस भावना को जो निहित थी

contained in the replies to true and false tweets.

उन सच्चे और झूठे ट्वीट के उत्तरों में ।

And what we found

और हमने पाया कि

was that across a bunch of different measures of sentiment --

विभिन्न भावनाों एक झुंड में -

surprise, disgust, fear, sadness,

आश्चर्य, घृणा, भय, उदासी,

anticipation, joy and trust --

प्रत्याशा, आनंद और विश्वास -

false news exhibited significantly more surprise and disgust

झूठी खबर दर्शाती है काफी अधिक आश्चर्य और घृणा

in the replies to false tweets.

झूठे ट्वीट के जवाब में।

And true news exhibited significantly more anticipation,

और सच्ची खबर दर्शाती है काफी अधिक प्रत्याशा,

joy and trust

आनंद और विश्वास

in reply to true tweets.

सच्चे ट्वीट्स के जवाब में।

The surprise corroborates our novelty hypothesis.

आश्चर्य चकित कर देता है हमारी नवीनता परिकल्पना।

This is new and surprising, and so we're more likely to share it.

यह नया और आश्चर्यजनक है, इसलिए हम इसे साझा करने की

अधिक संभावना रखते हैं।

At the same time, there was congressional testimony

एक ही समय पर, कांग्रेस की गवाही थी

in front of both houses of Congress in the United States,

कांग्रेस के दोनों सदनों के सामने संयुक्त राज्य अमेरिका में,

looking at the role of bots in the spread of misinformation.

गलत सूचना के प्रसार में बॉट्स की भूमिका के लिए ।

So we looked at this too --

तो हमने इसे भी देखा -

we used multiple sophisticated bot-detection algorithms

हमने कई जटिल बॉट-डिटेक्शन एल्गोरिदम इस्तेमाल किये

to find the bots in our data and to pull them out.

हमारे डेटा में बॉट खोजने के लिए और उन्हें बाहर निकालने के लिए।

So we pulled them out, we put them back in

तो हमने उन्हें बाहर निकाला, फिर उन्हें वापस अंदर डाल दिया

and we compared what happens to our measurement.

और हमने तुलना की कि हमारे माप में क्या होता है।

And what we found was that, yes indeed,

और जो हमने पाया, वह वास्तव में ही,

bots were accelerating the spread of false news online,

ऑनलाइन झूठी खबर का प्रसार, बॉट्स बढ़ा रहे थे

but they were accelerating the spread of true news

लेकिन वे सच्ची खबर का प्रसार भी तेज कर रहे थे

at approximately the same rate.

लगभग उसी दर पर।

Which means bots are not responsible

जिसका मतलब है कि बॉट जिम्मेदार नहीं हैं

for the differential diffusion of truth and falsity online.

ऑनलाइन सच और झूठ के प्रसार में अंतर के लिए ।

We can't abdicate that responsibility,

हम उस जिम्मेदारी का पालन नहीं कर सकते,

because we, humans, are responsible for that spread.

क्योंकि हम, इंसान, उसके प्रसार के लिए जिम्मेदार हैं।

Now, everything that I have told you so far,

अब, वह सब कुछ जो मैंने तुम्हें अभी तक बताया है

unfortunately for all of us,

दुर्भाग्य से हम सभी के लिए,

is the good news.

अच्छी खबर है।

The reason is because it's about to get a whole lot worse.

इसका कारण यह है की और भी बुरा होने वाला है।

And two specific technologies are going to make it worse.

और दो विशिष्ट प्रौद्योगिकियां इसे और बुरा बनाने जा रहे हैं।

We are going to see the rise of a tremendous wave of synthetic media.

हम देखेंगे सिंथेटिक मीडिया के उदय की जबरदस्त लहर।

Fake video, fake audio that is very convincing to the human eye.

नकली वीडियो, नकली ऑडियो जो मानवीय नज़र को बहुत आश्वस्त है।

And this will powered by two technologies.

और यह दो तकनीकों द्वारा संचालित होगा।

The first of these is known as "generative adversarial networks."

इनमें से पहला "सामान्य प्रतिकूल नेटवर्क" नाम से जाना जाता है।

This is a machine-learning model with two networks:

यह एक मशीन लर्निंग मॉडल है दो नेटवर्क के साथ:

a discriminator,

एक भेद करनेवाला,

whose job it is to determine whether something is true or false,

जिसका काम है यह निर्धारित करना कि यह सच है या झूठ ,

and a generator,

और एक जनरेटर,

whose job it is to generate synthetic media.

जिसका काम है सिंथेटिक मीडिया उत्पन्न करना ।

So the synthetic generator generates synthetic video or audio,

तो सिंथेटिक जनरेटर उत्पन्न करता है, सिंथेटिक वीडियो या ऑडियो

and the discriminator tries to tell, "Is this real or is this fake?"

और भेदभावकर्ता बताने की कोशिश करता है, "यह असली या यह नकली है?"

And in fact, it is the job of the generator

और वास्तव में, यह काम है जनरेटर का

to maximize the likelihood that it will fool the discriminator

संभावना को अधिकतम करने का जिससे यह भेदभावकर्ता को बेवकूफ बना दे

into thinking the synthetic video and audio that it is creating

सोचने में कि जो सिंथेटिक वीडियो और ऑडियो बना रहा है,

is actually true.

वह वास्तव में सच है।

Imagine a machine in a hyperloop,

कल्पना करें एक मशीन की जो हाइपरलूप में है ,

trying to get better and better at fooling us.

बेहतर की कोशिश और हमें बेवकूफ बनाने में बेहतर होने के लिए ।

This, combined with the second technology,

यह दूसरी तकनीक के साथ जुड़ा है,

which is essentially the democratization of artificial intelligence to the people,

जो मूल रूप से लोकतंत्रीकरण है लोगों को कृत्रिम बुद्धिमत्ता का ,

the ability for anyone,

किसी के लिए भी,

without any background in artificial intelligence

बिना किसी पृष्ठभूमि के कृत्रिम बुद्धि में

or machine learning,

या मशीन सीखने में ,

to deploy these kinds of algorithms to generate synthetic media

ऐसे एल्गोरिदम को तैनात करने के लिए सिंथेटिक मीडिया बनाने के लिए

makes it ultimately so much easier to create videos.

यह अंततः बहुत आसान बनाता है वीडियो बनाने के लिए।

The White House issued a false, doctored video

व्हाइट हाउस ने एक झूठा, बनाया हुआ वीडियो जारी किया

of a journalist interacting with an intern who was trying to take his microphone.

एक पत्रकार का जो इंटर्न से बात करते हुए माइक्रोफोन लेने की कोशिश कर रहा था।

They removed frames from this video

उन्होंने इस वीडियो से फ्रेम हटा दिए

in order to make his actions seem more punchy.

उसके कार्यों को अधिक असरदार बनाने के लिए ।

And when videographers and stuntmen and women

और जब वीडियो ग्राफर और स्टंटमैन और महिलाओं

were interviewed about this type of technique,

से जब पुछा गया इस प्रकार की तकनीक के बारे में,

they said, "Yes, we use this in the movies all the time

उन्होंने कहा, "हां, हम इसका इस्तेमाल फिल्मों में हमेशा करते हैं

to make our punches and kicks look more choppy and more aggressive."

हमारे घूंसे और लात मारने के लिए अधिक अधिक आक्रामक दिखे । ”

They then put out this video

उन्होंने फिर यह वीडियो डाला

and partly used it as justification

और कुछ हिस्से कोऔचित्य के रूप में इस्तेमाल किया

to revoke Jim Acosta, the reporter's, press pass

जिम एकोस्टा ,रिपोर्टर का, प्रेस पास वापिस लेने के लिए,

from the White House.

व्हाइट हाउस से।

And CNN had to sue to have that press pass reinstated.

और सीएनएन को मुकदमा करना पड़ा उस प्रेस पास को बहाल करना है।

There are about five different paths that I can think of that we can follow

मेरी सोच में लगभग पांच अलग रास्ते हैं जिनका हम अनुसरण कर सकते हैं

to try and address some of these very difficult problems today.

कुछ पता करने के लिए आज की इन बहुत ही कठिन समस्याओं में से ।

Each one of them has promise,

उनमें से हर एक ने भरोसनीय है,

but each one of them has its own challenges.

लेकिन उनमें से हर एक अपनी चुनौतियां हैं।

The first one is labeling.

पहला है लेबल करना।

Think about it this way:

इसे इस तरह से सोचिये :

when you go to the grocery store to buy food to consume,

जब आप किराने की दुकान पर जाते हैं उपभोग के लिए भोजन खरीदने के लिए,

it's extensively labeled.

इसे बहुत लेबल किया गया है।

You know how many calories it has,

आपको पता है कि इसमें कितनी कैलोरी है,

how much fat it contains --

इसमें कितना वसा होता है -

and yet when we consume information, we have no labels whatsoever.

पर हम जिस सूचना का उपभोग करते हैं, उसका कोई लेबल नहीं है।

What is contained in this information?

इस जानकारी में क्या निहित है?

Is the source credible?

क्या स्रोत विश्वसनीय है?

Where is this information gathered from?

यह जानकारी कहां से एकत्र की गई है?

We have none of that information

हमारे पास वह जानकारी नहीं है

when we are consuming information.

जब हम जानकारी का उपभोग कर रहे हैं।

That is a potential avenue, but it comes with its challenges.

यह एक संभावित एवेन्यू है, लेकिन यह अपनी चुनौतियां हैं।

For instance, who gets to decide, in society, what's true and what's false?

जैसे कि समाज में,यह निर्णय कौन लेता है, कि क्या सच है और क्या झूठ ?

Is it the governments?

क्या यह सरकारें हैं?

Is it Facebook?

क्या यह फेसबुक है?

Is it an independent consortium of fact-checkers?

क्या यह एक स्वतंत्र तथ्य-चेक करने का संघ है?

And who's checking the fact-checkers?

और तथ्य-चेकर्स की जाँच कौन करता है?

Another potential avenue is incentives.

एक संभावित एवेन्यू प्रोत्साहन राशि है।

We know that during the US presidential election

हम जानते हैं कि अमेरिकी राष्ट्रपति चुनाव के दौरान

there was a wave of misinformation that came from Macedonia

गलत सूचना की लहर थी जो मैसेडोनिया से आई थी

that didn't have any political motive

इसका कोई राजनीतिक मकसद नहीं था

but instead had an economic motive.

लेकिन इसका एक आर्थिक मकसद था।

And this economic motive existed,

और यह आर्थिक मकसद मौजूद था,

because false news travels so much farther, faster

क्योंकि झूठी खबरें बहुत दूर, तेज जाती हैं

and more deeply than the truth,

और सच्चाई से अधिक गहराई से,

and you can earn advertising dollars as you garner eyeballs and attention

और आप विज्ञापन डॉलर कमा सकते हैं जब आप ध्यान आकर्षित करते हैं

with this type of information.

इस प्रकार की जानकारी के साथ।

But if we can depress the spread of this information,

लेकिन अगर हम प्रसार को दबा सकें इस जानकारी के लिए,

perhaps it would reduce the economic incentive

तो शायद यह आर्थिक प्रोत्साहन कम हो जाएगा

to produce it at all in the first place.

पहले स्थान पर, जहाँ यह पैदा किया जाता है।

Third, we can think about regulation,

तीसरा, हम विनियमन के बारे में सोच सकते हैं,

and certainly, we should think about this option.

और निश्चित ही, हमें इस विकल्प को सोचना चाहिए।

In the United States, currently,

इस समय, संयुक्त राज्य अमेरिका में,

we are exploring what might happen if Facebook and others are regulated.

हम तलाश रहे हैं कि अगर फेसबुक को विनियमित किया जाये तो क्या हो।

While we should consider things like regulating political speech,

जबकि हमें चीजों पर विचार करना चाहिए राजनीतिक भाषण को विनियमित करने,

labeling the fact that it's political speech,

तथ्य को लेबल करना कि यह राजनीतिक भाषण है,

making sure foreign actors can't fund political speech,

सुनिश्चित करना कि विदेशी कलाकार राजनीतिक भाषण को पूँजी नहीं दे सकें,

it also has its own dangers.

इसके अपने खतरे भी हैं।

For instance, Malaysia just instituted a six-year prison sentence

मिसाल के तौर पर, मलेशिया ने हाल ही में छह साल की जेल की सजा

for anyone found spreading misinformation.

बनायीं है गलत सूचना फैलाने वाले के लिए ।

And in authoritarian regimes,

और सत्तावादी शासन में,

these kinds of policies can be used to suppress minority opinions

ऐसी नीतियां अल्पसंख्यक राय को दबाने के लिए उपयोग की जा सकती हैं

and to continue to extend repression.

और दमन को जारी रखने के लिए।

The fourth possible option is transparency.

चौथा संभव विकल्प पारदर्शिता है।

We want to know how do Facebook's algorithms work.

हम जानना चाहते हैं फेसबुक के एल्गोरिदम कैसे काम करते हैं

How does the data combine with the algorithms

डेटा एल्गोरिदम के साथ गठबंधन कैसे करता है

to produce the outcomes that we see?

हम जो परिणाम देखते हैं उसका उत्पादन कैसे करता है ?

We want them to open the kimono

हम चाहते हैं कि वे किमोनो खोलें

and show us exactly the inner workings of how Facebook is working.

और हमें आंतरिक कामकाज दिखाए कि फेसबुक कैसे काम कर रहा है।

And if we want to know social media's effect on society,

और अगर हम जानना चाहते हैं सोशल मीडिया का समाज पर प्रभाव,

we need scientists, researchers

हमें वैज्ञानिकों, शोधकर्ताओं की ज़रुरत है

and others to have access to this kind of information.

और दूसरों के पास पहुंच है इस तरह की जानकारी के लिए।

But at the same time,

लेकिन उसी समय पर,

we are asking Facebook to lock everything down,

हम फेसबुक से कह रहे हैं सब कुछ बंद करने के लिए,

to keep all of the data secure.

सभी डेटा को सुरक्षित रखने के लिए।

So, Facebook and the other social media platforms

तो, फेसबुक और अन्य सोशल मीडिया प्लेटफॉर्म

are facing what I call a transparency paradox.

जिसका सामना कर रहे हैं उसे मैं पारदर्शिता विरोधाभास कहता हूँ ।

We are asking them, at the same time,

हम उनसे कह रहे हैं, एक ही समय में ,

to be open and transparent and, simultaneously secure.

खुला और पारदर्शी होना और, इसके साथ ही सुरक्षित भी ।

This is a very difficult needle to thread,

ऐसा करना बहुत ही मुश्किल है,

but they will need to thread this needle

पर उन्हें ऐसा करना होगा

if we are to achieve the promise of social technologies

अगर हम वादे को हासिल करना चाहते हैं सामाजिक प्रौद्योगिकियों का

while avoiding their peril.

और वह भी उनके संकट से बचते हुए ।

The final thing that we could think about is algorithms and machine learning.

अंतिम बात जो हमने सोची वह एल्गोरिदम और मशीन लर्निंग है।

Technology devised to root out and understand fake news, how it spreads,

प्रौद्योगिकी जो जड़ से उखाड़ फेंके नकली ख़बरों को, और समझें यह कैसे फैलता है,

and to try and dampen its flow.

और इसके प्रवाह को कम करे ।

Humans have to be in the loop of this technology,

मनुष्य को इस तकनीकी के घेरे में ही रहना है ,

because we can never escape

क्योंकि हम कभी बच नहीं सकते

that underlying any technological solution or approach

कि किसी भी तकनीकी अंतर्निहित है समाधान या दृष्टिकोण

is a fundamental ethical and philosophical question

एक मौलिक नैतिकता है और दार्शनिक सवाल

about how do we define truth and falsity,

हम सच्र और झूठ को कैसे परिभाषित करते हैं,

to whom do we give the power to define truth and falsity

हम किसको शक्ति देते हैं सत्य और मिथ्या को परिभाषित करना

and which opinions are legitimate,

और कौन सी राय वैध हैं,

which type of speech should be allowed and so on.

किस प्रकार का भाषण अनुमति दी जानी चाहिए और इत्यादि ।

Technology is not a solution for that.

तकनीक उसके लिए कोई समाधान नहीं है।

Ethics and philosophy is a solution for that.

नैतिकता और दर्शन उसके लिए एक समाधान है।

Nearly every theory of human decision making,

लगभग हर सिद्धांत मानव निर्णय लेने का,

human cooperation and human coordination

मानव सहयोग और मानव समन्वय

has some sense of the truth at its core.

इसके मूल में सच्चाई का कुछ बोध है।

But with the rise of fake news,

लेकिन नकली समाचार के उदय के साथ,

the rise of fake video,

नकली वीडियो के उदय के साथ ,

the rise of fake audio,

नकली ऑडियो के उदय के साथ ,

we are teetering on the brink of the end of reality,

हम कगार पर हैं वास्तविकता के अंत की,

where we cannot tell what is real from what is fake.

हम बता नहीं सकते जो असली है वह नकली है।

And that's potentially incredibly dangerous.

और वह संभावित है अविश्वसनीय रूप से खतरनाक।

We have to be vigilant in defending the truth

हमें सतर्क रहना होगा सच्चाई का बचाव करने में

against misinformation.

गलत सूचना के खिलाफ।

With our technologies, with our policies

हमारी तकनीकों के साथ, हमारी नीतियों के साथ

and, perhaps most importantly,

और, शायद सबसे महत्वपूर्ण बात,

with our own individual responsibilities,

हमारी व्यक्तिगत जिम्मेदारियों के साथ,

decisions, behaviors and actions.

निर्णय, व्यवहार और कार्य।

Thank you very much.

आपका बहुत बहुत धन्यवाद।

(Applause)

(तालियां)