How a handful of tech companies control billions of minds every day | Tristan Harris

Translator: Morteza Haghani Reviewer: Leila Ataei

I want you to imagine

ازتون می‌خوام تصور کنین

که به اتاقی وارد می‌شین،

walking into a room,

a control room with a bunch of people,

یه اتاق عملیات با یه عده آدم،

a hundred people, hunched over a desk with little dials,

صد نفر، که روی یه میز با دکمه‌های ریز قوز کردن،

and that that control room

و اینکه اون اتاق عملیات

will shape the thoughts and feelings

اندیشه‌ها و احساسات

of a billion people.

میلیاردها نفر رو شکل می‌ده.

This might sound like science fiction,

این شاید علمی تخیلی به نظر بیاد،

but this actually exists

ولی واقعاً وجود داره

right now, today.

همین الان، امروز.

من می‌دونم چون‌که تو یکی از اون اتاق‌های عملیات بودم.

I know because I used to be in one of those control rooms.

من تو گوگل طراح اخلاقیات بودم،

I was a design ethicist at Google,

where I studied how do you ethically steer people's thoughts?

جایی‌که چگونگی هدایت اخلاقی افکار مردم رو مطالعه می‌کردم.

Because what we don't talk about is how the handful of people

چون چیزی که درباره‌ش صحبت نمی‌شه اینه که چطوری یه سری آدم

working at a handful of technology companies

که تو یه سری شرکت کار می‌کنن

با انتخاب‌هاشون نحوه‌ی اندیشیدن میلیاردها نفر رو هدایت می‌کنن.

through their choices will steer what a billion people are thinking today.

Because when you pull out your phone

چون وقتی تلفنتون رو بیرون میارین

اونا هستن که طراحی ‌میکنن چطوری کار کنه یا تو خوراک خبری چی باشه،

and they design how this works or what's on the feed,

it's scheduling little blocks of time in our minds.

قطعات کوچک زمانی رو در ذهن ما زمان‌بندی می‌کنه.

If you see a notification, it schedules you to have thoughts

اگه یه اعلان ببینین، زمان‌بندی‌تون می‌کنه که فکرهایی کنین

that maybe you didn't intend to have.

که شاید قصدش رو نداشتین.

If you swipe over that notification,

اگه رو اون اعلان ضربه بزنین،

زمان‌بندی می‌کنه زمانی صرف کنین که

it schedules you into spending a little bit of time

getting sucked into something

وارد یه جریانی بشین

that maybe you didn't intend to get sucked into.

که شاید قصد وارد شدن بهش رو نداشتین.

When we talk about technology,

وقتی از فناوری حرف می‌زنیم،

سعی می‌کنیم شبیه یه موقعیت افسانه‌ای به نظر بیاد.

we tend to talk about it as this blue sky opportunity.

It could go any direction.

به هر جهتی می‌تونه بره.

And I want to get serious for a moment

می‌خوام یه لحظه جدی باشم

and tell you why it's going in a very specific direction.

و بهتون بگم چرا به یه جهت خیلی خاص می‌ره.

Because it's not evolving randomly.

برای اینکه تصادفاً تکامل پیدا نمی‌کنه.

یه هدف نامریی جهت‌گیری همه‌ی

There's a hidden goal driving the direction

فناوری‌هایی که می‌سازیم رو تعیین می‌کنه،

of all of the technology we make,

and that goal is the race for our attention.

و اون هدف رقابت بر سر جلب توجه ماست.

Because every news site,

چون هر وب‌سایت جدید --

TED, elections, politicians,

TED، انتخابات، سیاستمداران،

games, even meditation apps

بازی‌ها، حتی نرم‌افزارهای مدیتیشن --

have to compete for one thing,

باید سر یه چیز رقابت کنن،

که جلب توجه ماست،

which is our attention,

and there's only so much of it.

و خیلی از اون وجود داره.

And the best way to get people's attention

و بهترین راه جلب توجه آدم‌ها

is to know how someone's mind works.

اینه که بدونی ذهنشون چطوری کار می‌کنه.

And there's a whole bunch of persuasive techniques

و تعداد زیادی روش متقاعد کننده داریم

که تو آزمایشگاه فناوری‌های متقاعد کننده تو دانشگاه یادشون گرفتم

that I learned in college at a lab called the Persuasive Technology Lab

to get people's attention.

که چطوری توجه آدم‌ها رو جلب کنم.

A simple example is YouTube.

یه نمونه‌ی ساده یوتیوب هست.

یوتیوب می‌خواد زمانی که شما توش صرف می‌کنین رو بیشتر کنه.

YouTube wants to maximize how much time you spend.

And so what do they do?

بنابراین چی کار می‌کنه؟

They autoplay the next video.

ویدیوی بعدی رو به صورت خودکار پخش می‌کنه.

And let's say that works really well.

بذارین بگم که خیلی خوب جواب می‌ده.

They're getting a little bit more of people's time.

یه ذره بیشتر وقت مردم رو می‌گیرنه.

خوب اگر نت‌فلیکس باشین، اونو می‌بینین و می‌گین،

Well, if you're Netflix, you look at that and say,

well, that's shrinking my market share,

خوب، داره سهم منو از بازار کم می‌کنه،

so I'm going to autoplay the next episode.

پس من قسمت بعدی رو خودکار پخش می‌کنم.

But then if you're Facebook,

بعدش اگه فیسبوک باشین،

you say, that's shrinking all of my market share,

میگین اون سهم منو از بازار کم می‌کنه،

پس من کل ویدیوهای خوراک خبری رو خودکار پخش می‌کنم

so now I have to autoplay all the videos in the newsfeed

before waiting for you to click play.

قبل اینکه منتظر بشم رو دکمه پخش بزنین

So the internet is not evolving at random.

پس اینترنت تصادفاً تکامل پیدا نمی‌کنه.

The reason it feels like it's sucking us in the way it is

دلیل اینکه به نظر میاد ما رو اینطوری به درون خودش می‌کشه

is because of this race for attention.

برای این رقابت سر جلب توجه ماست.

می‌دونیم به کدوم سمت می‌ره.

We know where this is going.

Technology is not neutral,

فناوری بی‌طرف نیست،

and it becomes this race to the bottom of the brain stem

و تبدیل به مسابقه‌ای شده بر سر انتهای ساقه‌ی مغز

of who can go lower to get it.

که هر کی پایین‌تر بره بردتش.

Let me give you an example of Snapchat.

بذارین براتون از اسنپ‌چت یه مثال بزنم.

If you didn't know, Snapchat is the number one way

اگه نمی‌دونستین، اسنپ‌چت راه‌حل شماره‌ یک

ارتباط نوجوانان تو ایالات متحده‌ است.

that teenagers in the United States communicate.

So if you're like me, and you use text messages to communicate,

پس اگه مثل من هستین و از پیام متنی برای برقراری ارتباط استفاده می‌کنین،

Snapchat is that for teenagers,

اسنپ‌چت برای نوجوانان همونه،

and there's, like, a hundred million of them that use it.

و حدوداً صد میلیون نوجوان ازش استفاده می‌کنن.

و یه ویژگی اختراع کردن به اسم اسنپ‌تریک،

And they invented a feature called Snapstreaks,

which shows the number of days in a row

که تعداد روزهای پشت سرهم

که دو نفر با هم ارتباط برقرار کردن رو نشون میده.

that two people have communicated with each other.

In other words, what they just did

به عبارت دیگه، کاری که اونا کردن

is they gave two people something they don't want to lose.

اینه که به دو نفر چیزی دادن که نمی‌خوان از دستش بدن.

چون اگه یه نوجوان باشین، و ۱۵۰ روز پشت سر هم ارتباط داشته باشین،

Because if you're a teenager, and you have 150 days in a row,

you don't want that to go away.

نمی‌خواین از دستش بدین.

And so think of the little blocks of time that that schedules in kids' minds.

خوب به قطعات زمانی کوچک که اون تو ذهن کودک زمان‌بندی‌ می‌کنه فکر کنین.

این یه بحث نظری نیست: وقتی بچه‌ها می‌رن تعطیلات،

This isn't theoretical: when kids go on vacation,

it's been shown they give their passwords to up to five other friends

دیده شده که کلمه‌ی عبورشون رو به پنج نفر از دوستاشون می‌دن

to keep their Snapstreaks going,

که اسنپ‌تریک‌هاشون رو ادامه بدن،

حتی وقتی خودشون نمی‌تونن.

even when they can't do it.

اونا حدوداً سی تا ازین چیزا دارن،

And they have, like, 30 of these things,

و خوب باید با عکاسی از تصاویر یا دیوارها

and so they have to get through taking photos of just pictures or walls

or ceilings just to get through their day.

یا سقف‌ها روزشون رو بگذرونن.

So it's not even like they're having real conversations.

حتی مثل یه گفتگوی واقعی هم نیست.

We have a temptation to think about this

ما وسوسه می‌شیم اینطوری فکر کنیم که

as, oh, they're just using Snapchat

اونا فقط دارن اسنپ‌چت استفاده می‌کنن

the way we used to gossip on the telephone.

همونجور که ما هم پشت تلفن دری وری می‌گفتیم.

It's probably OK.

احتمالاً مشکلی نیست.

Well, what this misses is that in the 1970s,

خوب چیزی که این ازش بی‌بهره است اینه که

when you were just gossiping on the telephone,

تو دهه‌ی ۷۰ در حالی‌که پشت تلفن دری وری می‌گفتین،

there wasn't a hundred engineers on the other side of the screen

صدها مهندس اون طرف صفحه نبودن که

who knew exactly how your psychology worked

دقیقاً بدونن روانشناسی شما چطوریه

and orchestrated you into a double bind with each other.

و شما رو به سمت یه ارتباط دوگانه هدایت کنن.

Now, if this is making you feel a little bit of outrage,

حالا، اگه این جریان کمی عصبانی‌تون کرده،

notice that that thought just comes over you.

متوجه شین که این فکر هم داره روتون اثر می‌ذاره.

Outrage is a really good way also of getting your attention,

عصبانیت یه راه خیلی خوب برای جلب توجه شماست،

because we don't choose outrage.

چون ما عصبانیت رو انتخاب نمی‌کنیم

It happens to us.

برامون اتفاق می‌افته.

And if you're the Facebook newsfeed,

و اگه شما خوراک خبری فیسبوک باشین،

whether you'd want to or not,

بخواید یا نخواید،

you actually benefit when there's outrage.

از بروز عصبانیت بهره می‌برین.

چون عصبانیت فقط یه عکس‌العمل رو زمان‌بندی نمی‌کنه

Because outrage doesn't just schedule a reaction

in emotional time, space, for you.

در یک زمان یا مکان هیجانی برای شما.

We want to share that outrage with other people.

ما می‌خوایم اون عصبانیت رو با بقیه به اشتراک بذاریم

So we want to hit share and say,

پس می‌خوایم رو دکمه هم‌رسانی زده

"Can you believe the thing that they said?"

و بگیم: «چیزی که گفتن رو باور می‌کنین؟»

And so outrage works really well at getting attention,

بنابراین عصبانیت راه خیلی خوبی برای جلب توجه هست،

such that if Facebook had a choice between showing you the outrage feed

جوری‌که اگر فیسبوک بین نمایش خوراک خبری عصبانی و

and a calm newsfeed,

خوراک خبری آرام انتخاب داشت

اونا بهتون خوراک خبری عصبانی رو نشون می‌دادن

they would want to show you the outrage feed,

not because someone consciously chose that,

نه برای این‌که کسی آگاهانه انتخابش کرده،

but because that worked better at getting your attention.

بلکه چون توجهتون رو بهتر جلب می‌کنه.

اتاق عملیات خوراک خبری مسئول پاسخگویی به ما نیست.

And the newsfeed control room is not accountable to us.

اون فقط مسئول بیشینه کردن توجه هست.

It's only accountable to maximizing attention.

It's also accountable,

همچنین جواب می‌ده،

because of the business model of advertising,

بخاطر مدل کسب و کار آگهی‌ها،

برای هر کسی که بیشتر پول می‌ده تا پاش رو تو اتاق عملیات بذاره و بگه،

for anybody who can pay the most to actually walk into the control room

and say, "That group over there,

«هی گروهی که اونجا هستین،

I want to schedule these thoughts into their minds."

می‌خوام این افکار رو تو ذهن اونا برنامه‌ریزی کنم.»

So you can target,

پس می‌تونین هدف بگیرین،

دقیقا یه دروغ رو مستقیماً به سمت

you can precisely target a lie

مردمی که بیش از همه مستعد پذیرشش هستن نشونه‌گیری کنین.

directly to the people who are most susceptible.

و چون این جریان سودآوره، فقط بدتر خواهد شد.

And because this is profitable, it's only going to get worse.

بنابراین من امروز اینجام

So I'm here today

چون هزینه‌ها کاملا مشخص هستن.

because the costs are so obvious.

I don't know a more urgent problem than this,

من از این اضطراری‌تر مشکلی نمی‌بینم،

because this problem is underneath all other problems.

چون این مشکل زمینه‌ساز همه‌ی مشکلات دیگه است.

It's not just taking away our agency

فقط نماینده ما نمی‌شه که

to spend our attention and live the lives that we want,

توجهمون رو جلب کنه و زندگی‌ای رو بکنه که ما می‌خوایم،

it's changing the way that we have our conversations,

بلکه روشی که گفتگو می‌کنیم رو تغییر داده،

it's changing our democracy,

دموکراسی‌مون رو تغییر داده،

و قابلیت گفتگو کردن‌ با همدیگه

and it's changing our ability to have the conversations

and relationships we want with each other.

و رابطه داشتن‌مون رو تغییر داده.

روی همه اثر گذاره،

And it affects everyone,

because a billion people have one of these in their pocket.

چون‌که یک میلیارد نفر تو جیبشون از اینا دارن.

So how do we fix this?

خوب چطوری درستش کنیم؟

باید سه تا تغییر بنیادین ایجاد کنیم

We need to make three radical changes

تو فناوری و جامعه‌مون.

to technology and to our society.

The first is we need to acknowledge that we are persuadable.

اول اینکه باید بپذیریم ما مستعد متقاعد شدن هستیم.

Once you start understanding

وقتی شروع کنین به فهم

that your mind can be scheduled into having little thoughts

این‌که ذهن شما می‌تونه جوری برنامه‌ریزی بشه که افکاری کوچک

یا قطعات زمانی کوچک خارج از اختیار خودتون داشته باشه

or little blocks of time that you didn't choose,

wouldn't we want to use that understanding

نمی‌خوایم از اون درک استفاده کنیم تا

and protect against the way that that happens?

در مقابل اتفاق افتادنش از خودمون محافظت کنیم؟

I think we need to see ourselves fundamentally in a new way.

من به نظرم باید به خودمون یه جور اساساً تازه‌ای نگاه کنیم.

It's almost like a new period of human history,

انگار تو یه دوره جدید از تاریخ بشریت هستیم.

مثل روشن‌فکری،

like the Enlightenment,

but almost a kind of self-aware Enlightenment,

ولی یه جورایی روشن‌فکری خودآگاهانه،

that we can be persuaded,

که بدونیم می‌تونیم متقاعد شونده باشیم،

and there might be something we want to protect.

و شاید یه چیزی باشه که می‌خوایم ازش محافظت کنیم.

The second is we need new models and accountability systems

دومیش اینه که نیازمند مدل‌ها و سیستم‌های پاسخگویی نوینی هستیم

که جهان جای بهتر و متقاعد کننده‌تری در گذر زمان بشه --

so that as the world gets better and more and more persuasive over time --

because it's only going to get more persuasive --

چون‌که فقط وقتی متقاعد کننده‌تر میشه که --

that the people in those control rooms

اونایی که تو اتاق عملیات هستن

are accountable and transparent to what we want.

در مقابل نیازهای ما پاسخگو و شفاف باشن.

The only form of ethical persuasion that exists

تنها روش اخلاقی موجود برای متقاعد کردن

is when the goals of the persuader

اینه که اهداف متقاعد کننده

are aligned with the goals of the persuadee.

در راستای اهداف متقاعد شونده باشه.

And that involves questioning big things, like the business model of advertising.

و این شامل پرسش‌های بزرگه، مثل روش کسب و کار آگهی‌ها.

Lastly,

در پایان،

we need a design renaissance,

نیاز به رنسانس طراحی داریم،

چون وقتی از این دیدگاه به طبیعت انسان نگاه کنین،

because once you have this view of human nature,

که می‌تونین گاه‌نماهای میلیاردها نفر رو هدایت کنین --

that you can steer the timelines of a billion people --

فقط تصور کنین، افرادی هستند که میل دارن

just imagine, there's people who have some desire

about what they want to do and what they want to be thinking

کارهایی که می‌خوان انجام بدن و جوری که می‌خوان فکر کنن

and what they want to be feeling and how they want to be informed,

و جوری که می‌خوان احساس کنن و جوری که می‌خوان آگاه بشن،

and we're all just tugged into these other directions.

و همه‌ ما به جهات دیگه کشیده می‌شیم.

And you have a billion people just tugged into all these different directions.

و شما میلیاردها نفر دارین که به جهات مختلف هدایت می‌شن.

Well, imagine an entire design renaissance

خوب یه رنسانس طراحی رو تصور کنین

that tried to orchestrate the exact and most empowering

که تلاش می‌کنه دقیق‌ترین و توانمندترین

time-well-spent way for those timelines to happen.

راه استفاده بهینه از وقت رو برای اون گاه‌نماها اعمال کنه.

And that would involve two things:

این شامل دو چیز میشه:

one would be protecting against the timelines

یکی محافظت در برابر اون گاه‌نماها

that we don't want to be experiencing,

که نمی‌خوایم تجربه کنیم،

the thoughts that we wouldn't want to be happening,

افکاری که نمی‌خوایم داشته باشیم،

so that when that ding happens, not having the ding that sends us away;

پس وقتی اون زنگ به صدا در میاد، مارو یه جا دیگه نندازه؛

دومیش توانمند کردن ما برای زندگی تو گاه‌نمای مورد علاقه خودمونه.

and the second would be empowering us to live out the timeline that we want.

So let me give you a concrete example.

بذارین یه مثال ملموس براتون بزنم.

Today, let's say your friend cancels dinner on you,

فرض کنین امروز دوستتون قرار شام شب رو کنسل می‌کنه،

and you are feeling a little bit lonely.

و شما کمی احساس تنهایی می‌کنین.

And so what do you do in that moment?

تو اون لحظه چه کاری می‌کنین؟

You open up Facebook.

فیس‌بوک رو باز می‌کنین.

And in that moment,

و در اون لحظه،

the designers in the control room want to schedule exactly one thing,

طراحان اتاق عملیات فقط می‌خوان یه کار انجام بدن،

این که زمانی که شما صرف صفحه نمایش می‌کنین رو بیشینه کنن.

which is to maximize how much time you spend on the screen.

Now, instead, imagine if those designers created a different timeline

حالا، فرض کنین اون طراحان یه گاه‌نمای متفاوت می‌ساختن

that was the easiest way, using all of their data,

که با استفاده از اون همه اطلاعات کار راحتیه،

که واقعاً بهتون کمک کنه با آدمایی که براتون مهمن برین بیرون؟

to actually help you get out with the people that you care about?

Just think, alleviating all loneliness in society,

فقط فکر کنین، کاهش این همه تنهایی تو جامعه،

if that was the timeline that Facebook wanted to make possible for people.

اگه اون گاه‌نمایی بود که فیس‌بوک می‌خواست امکانش رو برای مردم فراهم کنه.

یا یه گفتگوی دیگه رو تصور کنین.

Or imagine a different conversation.

Let's say you wanted to post something supercontroversial on Facebook,

فرض کنیم شما می‌خواستین یه چیز خیلی جنجالی رو فیس‌بوک بنویسین،

which is a really important thing to be able to do,

که البته خیلی مهمه که بتونین این کار رو انجام بدین،

to talk about controversial topics.

توانایی گفتگو درباره موضوعات جنجالی

And right now, when there's that big comment box,

هم‌اکنون، وقتی اون پنجره‌ی نظرات بزرگ اونجاست،

it's almost asking you, what key do you want to type?

تقریبا داره ازتون می‌پرسه، چه کلیدی رو می‌خواین تایپ کنین؟

به بیان دیگه، گاه‌شمار کوچکی از چیزها رو زمان‌بندی می‌کنه

In other words, it's scheduling a little timeline of things

که شما قراره روی صفحه انجام بدین.

you're going to continue to do on the screen.

تصور کنین اونجا یه دکمه‌ی دیگه بود که می‌گفت،

And imagine instead that there was another button there saying,

بهترین راه استفاده شما از زمان چیه؟

what would be most time well spent for you?

And you click "host a dinner."

و شما کلیک می‌کردین «میزبانی شام»

And right there underneath the item it said,

و همون‌جا زیر اون گزینه می‌گفت،

"Who wants to RSVP for the dinner?"

«کی می‌خواد برای شام رزرو کنه؟»

And so you'd still have a conversation about something controversial,

و خوب شما هنوز هم درباره یه موضوع جنجالی گفتگو می‌کردین،

but you'd be having it in the most empowering place on your timeline,

ولی در قدرتمندترین جای گاه‌شمارتون،

which would be at home that night with a bunch of a friends over

یعنی اون شب تو خونه با تعدادی از دوستان

to talk about it.

تا درباره‌ش صحبت کنین.

تصور کنین داریم یه چیزی مثل یافتن و جایگزین کردن اجرا می‌کنیم،

So imagine we're running, like, a find and replace

تو همه‌ی گاه‌نماهایی که الان ما رو به سمت

on all of the timelines that are currently steering us

towards more and more screen time persuasively

صرف کردن زمان بیشتر برای صفحه نمایش هدایت می‌کنن

و جایگزینی اون‌ها با گاه‌نماهایی که

and replacing all of those timelines

with what do we want in our lives.

می‌خوایم با زندگی‌مون انجام بدیم.

It doesn't have to be this way.

این راهش نیست.

Instead of handicapping our attention,

به جای ایجاد مانع برای جلب توجه،

imagine if we used all of this data and all of this power

تصور کنین اگر از همه این اطلاعات و قدرتشون استفاده می‌کردیم

and this new view of human nature

و این دیدگاه جدید درباره طبیعت بشر

که یه توانایی مافوق بشری برای تمرکز بهمون بده

to give us a superhuman ability to focus

و یه توانایی مافوق بشری برای اینکه توجه ما رو به سمتی جلب کنه که برامون اهمیت داره

and a superhuman ability to put our attention to what we cared about

و یه توانایی مافوق بشری برای گفتگو کردن

and a superhuman ability to have the conversations

that we need to have for democracy.

که لازمه‌ی دموکراسیه.

The most complex challenges in the world

پیچیده‌ترین چالش‌های دنیا

require not just us to use our attention individually.

فقط به توجه فردی ما نیاز ندارن.

They require us to use our attention and coordinate it together.

نیازمند این هستن که توجهمون رو در یک راستا با همدیگه هماهنگ کنیم.

Climate change is going to require that a lot of people

تغییرات آب و هوایی نیازمند اینه که خیلی از مردم

are being able to coordinate their attention

بتونن توجهشون رو به توانمندترین شکل ممکن

in the most empowering way together.

با همدیگه هماهنگ کنن.

And imagine creating a superhuman ability to do that.

تصور کنین یه توانایی مافوق بشر برای انجام این کار بسازیم.

گاهی مهم‌ترین و پرفشارترین مشکلات جهان

Sometimes the world's most pressing and important problems

اون چیزهایی فرضی نیستن که ممکنه تو آینده به‌وجود بیاریم.

are not these hypothetical future things that we could create in the future.

Sometimes the most pressing problems

گاهی پرفشارترین مشکلات

are the ones that are right underneath our noses,

اونایی هستن که بیخ گوشمون هستن،

the things that are already directing a billion people's thoughts.

چیزهایی که همین الان ذهن هزاران نفر رو هدایت می‌کنن.

And maybe instead of getting excited about the new augmented reality

به جای این‌که از موضوع واقعیت افزوده هیجان‌زده شیم

و واقعیت مجازی و این چیزهای باحالی که می‌تونن اتفاق بیفتن،

and virtual reality and these cool things that could happen,

which are going to be susceptible to the same race for attention,

که مستعد همون رقابت سر جلب توجه ما هستن،

if we could fix the race for attention

کاش می‌تونستیم رقابت سر جلب توجه رو تو چیزایی

on the thing that's already in a billion people's pockets.

که همین الان تو جیب میلیاردها نفر هستن درست کنیم.

شاید جای هیجان‌زدگی از

Maybe instead of getting excited

about the most exciting new cool fancy education apps,

هیجان‌انگیزترین برنامه‌های آموزشی تجملی،

we could fix the way kids' minds are getting manipulated

بتونیم روشی که ذهن بچه‌هارو جوری دستکاری می‌کنه که

into sending empty messages back and forth.

چپ و راست پیام‌های توخالی بفرستن درست کنیم.

(تشویق حضار)

(Applause)

Maybe instead of worrying

شاید به جای نگرانی

about hypothetical future runaway artificial intelligences

درباره‌ی آینده‌ای که توش هوش مصنوعی به راحتی پیروز می‌شه

that are maximizing for one goal,

برای بیشینه کردن یه هدف خاص،

we could solve the runaway artificial intelligence

می‌تونستیم مشکل پیروزی هوش‌مصنوعی‌

that already exists right now,

که همین الان وجود داره رو حل کنیم،

which are these newsfeeds maximizing for one thing.

همین خوراک‌های خبری که فقط می‌خوان به یه چیز برسن.

مثل این می‌مونه که به جای این‌که دنبال مهاجرت به سیارات جدید باشیم،

It's almost like instead of running away to colonize new planets,

we could fix the one that we're already on.

به داد همینی که توش زندگی می‌کنیم برسیم.

(تشویق حضار)

(Applause)

حل این مشکل

Solving this problem

is critical infrastructure for solving every other problem.

زیرساخت ضروری حل مشکلات دیگر است.

There's nothing in your life or in our collective problems

هیچ چیز تو زندگی شما یا تو مشکلات مشترکمون نیست که

that does not require our ability to put our attention where we care about.

به توانایی‌مون برای معطوف کردن توجهمون به چیزهای با اهمیت مرتبط نباشه.

At the end of our lives,

در پایان زندگی،

all we have is our attention and our time.

تنها چیزی که داریم زمان و توجه‌ ماست.

What will be time well spent for ours?

بهترین استفاده ما از زمان چیه؟

Thank you.

خیلی ممنون.

(Applause)

(تشویق حضار)

Chris Anderson: Tristan, thank you. Hey, stay up here a sec.

کریس اندرسن: تریستن، ازت ممنونم. هی، یه دقیقه این بالا بمون.

First of all, thank you.

اولاً ازت ممنونم.

می‌دونم خیلی دیر ازت خواستیم که این سخنرانی رو انجام بدی،

I know we asked you to do this talk on pretty short notice,

and you've had quite a stressful week

و هفته‌ی پر استرسی داشتی

که اینو راست و ریس کنی، خیلی ممنون.

getting this thing together, so thank you.

Some people listening might say, what you complain about is addiction,

بعضی از اونایی که شنیدن، شاید بگن چیزی که ازش ناراضی هستی اعتیاده،

and all these people doing this stuff, for them it's actually interesting.

و همه‌ی کسانی‌که این کارها رو می‌کنن، خوب براشون جالبه.

All these design decisions

همه‌ی این تصمیمات طراحی

have built user content that is fantastically interesting.

محتوای کاربری‌ رو ساخته که به طور شگفت‌انگیزی جذابه.

The world's more interesting than it ever has been.

جهان در جذاب‌ترین حالت خودش قرار داره.

مشکلش چیه؟

What's wrong with that?

Tristan Harris: I think it's really interesting.

تریستن هریس: من فکر می‌کنم که خیلی جذابه.

One way to see this is if you're just YouTube, for example,

یه دیدگاه اینه که اگه شما فقط یوتیوب باشین، مثلا،

you want to always show the more interesting next video.

همیشه می‌خواین ویدیوی جذاب بعدی رو نشون بدین.

You want to get better and better at suggesting that next video,

هی می‌خواین در زمینه‌ی پیشنهاد ویدیوی بعدی بهتر و بهتر شین،

but even if you could propose the perfect next video

اما اگر هم بتونین بهترین ویدیو بعدی رو پیشنهاد کنین

that everyone would want to watch,

که همه می‌خوان ببیننش،

it would just be better and better at keeping you hooked on the screen.

خیلی بهتر و بهتر خواهد بود اگه شما رو گرفتار صفحه نمایش کنه.

So what's missing in that equation

پس چیزی که از این معادله جا افتاده

اینه که بفهمیم حد و مرزمون کجاست.

is figuring out what our boundaries would be.

You would want YouTube to know something about, say, falling asleep.

شما می‌خواین بدونین که یوتیوب چیزی درباره، مثلا، خوابیدن هم می‌دونه.

The CEO of Netflix recently said,

مدیر اجرایی نت‌فلیکس اخیراً گفته،

"our biggest competitors are Facebook, YouTube and sleep."

«بزرگترین رقبای ما فیس‌بوک، یوتیوب و خواب هستن!»

And so what we need to recognize is that the human architecture is limited

چیزی که باید بدونیم اینه که معماری انسان محدوده

and that we have certain boundaries or dimensions of our lives

و ما حد و مرزها و ابعاد مشخصی تو زندگی‌مون داریم

that we want to be honored and respected,

که می‌خوایم بهش احترام گذاشته بشه،

and technology could help do that.

و فناوری می‌تونه به این جریان کمک کنه.

(Applause)

(تشویق حضار)

CA: I mean, could you make the case

ک.ا: منظورم اینه که می‌تونی بگی که

بخشی از مشکل اینه که یه مدل نپخته از طبیعت انسان داریم؟

that part of the problem here is that we've got a naïve model of human nature?

خیلی از این مربوط به اولویت‌های بشره،

So much of this is justified in terms of human preference,

where we've got these algorithms that do an amazing job

الگوریتم‌هایی که به دست آوردیم تا کار شگفت‌انگیز

of optimizing for human preference,

بهینه‌سازی اولویت بشر رو انجام بدن،

but which preference?

ولی کدوم اولویت؟

There's the preferences of things that we really care about

اولویت چیزهایی که برامون اهمیت دارن

وقتی بهشون فکر می‌کنیم

when we think about them

versus the preferences of what we just instinctively click on.

در مقابل اولویت‌هایی که به طور غریزی روشون کلیک می‌کنیم.

If we could implant that more nuanced view of human nature in every design,

اگه بتونیم اون تفاوت جزیی تو دیدگاه طبیعت بشر رو به کار ببریم

would that be a step forward?

یه قدم به جلو محسوب می‌شه؟

TH: Absolutely. I mean, I think right now

ت.ه: کاملاً. منظورم اینه، فکر می‌کنم الان

it's as if all of our technology is basically only asking our lizard brain

جوریه که انگار فناوری فقط از اون بخش دوزیست مغز می‌خواد بهترین راهی رو

what's the best way to just impulsively get you to do

پیدا کنه که مجاب شین کاری رو بدون انگیزه قبلی

the next tiniest thing with your time,

با کوچکترین بخش زمانتون انجام بدین،

instead of asking you in your life

به جای این‌که تو زندگی ازتون بخواد

what we would be most time well spent for you?

بهترین راه استفاده از زما‌‌‌ن‌تون چیه؟

What would be the perfect timeline that might include something later,

کامل‌ترین گاه‌نمای شما که شامل یه چیز خیلی جدیدتره،

زمانیه که شما روز قبل به درستی صرف حضور در TED کردین؟

would be time well spent for you here at TED in your last day here?

CA: So if Facebook and Google and everyone said to us first up,

ک.ا: پس اینطور که فیس‌بوک و گوگل و بقیه‌شون اولش بهمون می‌گفتن،

"Hey, would you like us to optimize for your reflective brain

«آهای، می‌خوای برای بخش بازتابی مغزت بهینه بشیم یا

or your lizard brain? You choose."

بخش دوزیست مغزت؟ خودت انتخاب کن.»

TH: Right. That would be one way. Yes.

ت.ه: آره. اینم یه راهشه. بله.

CA: You said persuadability, that's an interesting word to me

ک.ا: تو گفتی قابلیت متقاعد سازی، این برام لغت جالبیه

because to me there's two different types of persuadability.

چون به نظر من دو نوع قابلیت متقاعد سازی داریم.

یه متقاعد سازی که الان داریم انجامش می‌دیم

There's the persuadability that we're trying right now

of reason and thinking and making an argument,

متشکل از منطق و تفکر و مباحثه است،

but I think you're almost talking about a different kind,

ولی تو تقریباً درباره نوع دیگری صحبت می‌کنی،

a more visceral type of persuadability,

نوع شهودی‌تری از متقاعد سازی،

of being persuaded without even knowing that you're thinking.

متقاعد شدن بدون این‌که حتی بدونی داری فکر می‌کنی.

TH: Exactly. The reason I care about this problem so much is

ت.ه: دقیقاً. دلیل این‌که این مشکل اینقدر برام مهمه اینه که

I studied at a lab called the Persuasive Technology Lab at Stanford

من تو آزمایشگاه فناوری متقاعد کننده تو استنفورد درس خوندم

that taught [students how to recognize] exactly these techniques.

که دقیقاً همین فنون رو به ملت آموزش می‌داد.

اونجا کنفرانس‌ها و کارگاه‌هایی هستن که همه‌ی راه‌های پنهان

There's conferences and workshops that teach people all these covert ways

جلب توجه مردم و هدایت زندگی اونا رو آموزش میدن.

of getting people's attention and orchestrating people's lives.

و چون که خیلی از آدم‌ها نمی‌دونن که چنین چیزی وجود داره

And it's because most people don't know that that exists

that this conversation is so important.

این گفتگو اهمیت بسیار زیادی داره.

CA: Tristan, you and I, we both know so many people from all these companies.

ک.ا: تریستن، من و تو، هردوی ما آدم‌های زیادی از این شرکت‌ها رو می‌شناسیم.

There are actually many here in the room,

خیلی‌هاشون الان تو این سالن هستن،

and I don't know about you, but my experience of them

تو رو نمی‌دونم، ولی تجربه‌ای که من ازشون دارم

اینه که نیت خوب کم ندارن.

is that there is no shortage of good intent.

مردم دنیای بهتری می‌خوان.

People want a better world.

They are actually -- they really want it.

واقعاً اینطوریه -- واقعاً می‌خوانش.

And I don't think anything you're saying is that these are evil people.

و فکر نمی‌کنم منظورت این باشه که این آدم‌ها اهریمنی هستن.

It's a system where there's these unintended consequences

یه سامانه‌ای وجود داره که این پیامدهای غیرعمدی توشه

that have really got out of control --

و کاملا از دست ما خارج شده --

ت.ه: این رقابت سر جلب توجه.

TH: Of this race for attention.

It's the classic race to the bottom when you have to get attention,

یه رقابت بنیادی تا انتهای جایی که جلب توجه کنین،

and it's so tense.

و خیلی هم شدیده.

تنها راه بیشتر کردنش اینه که بیشتر وارد ساقه‌ی مغز بشیم،

The only way to get more is to go lower on the brain stem,

to go lower into outrage, to go lower into emotion,

عصبانیت بیشتره، هیجانات بیشتره،

to go lower into the lizard brain.

وارد شدن بیشتر به مغز دوزیستی ما.

ک.ا: ازت ممنونم که بهمون کمک کردی کمی در این باره عاقل‌تر شیم.

CA: Well, thank you so much for helping us all get a little bit wiser about this.

Tristan Harris, thank you. TH: Thank you very much.

تریستن هریس، ممنون. ت.ه: خیلی ممنونم.

(Applause)

(تشویق حضار)