Will Superintelligent AI End the World? | Eliezer Yudkowsky | TED

Translator: Amirreza Abedzadeh Reviewer: Pedram Pourasgari

Since 2001, I have been working on what we would now call

از سال ۲۰۰۱، من بر روی چیزی کار می‌کنم که اکنون به آن می‌گوییم

the problem of aligning artificial general intelligence:

مشکل تنظیم هوش عمومی مصنوعی:

how to shape the preferences and behavior

چگونه ترجیحات و رفتار یک هوش مصنوعی قدرتمند را

of a powerful artificial mind such that it does not kill everyone.

به گونه‌ای شکل دهیم تا همه را نکشد.

من کم‌و‌بیش این رشته را دو دهه قبل پایه‌گذاری کردم، زمانی که هیچ کس دیگری

I more or less founded the field two decades ago,

when nobody else considered it rewarding enough to work on.

آن را به اندازه‌ای کافی رضایت‌بخش نمی‌یافت که روی آن کار کند.

I tried to get this very important project started early

من تلاش کردم که این پروژه بسیار مهم را زود آغاز کنم

so we'd be in less of a drastic rush later.

تا بعدها ما در شتابزدگی شدیدی نباشیم.

I consider myself to have failed.

من باور دارم که شکست خورده‌ام.

(Laughter)

(خنده)

Nobody understands how modern AI systems do what they do.

هیچ‌کس درک نمی‌کند که سیستم‌های هوش مصنوعی نوین چگونه کارشان را انجام می‌دهند.

They are giant, inscrutable matrices of floating point numbers

آن‌ها ماتریکس‌هایی عظیم و غیرقابل‌درک از اعداد ممیز شناور هستند

that we nudge in the direction of better performance

که ما آن‌ها را به سمت عملکرد بهتر هل می‌دهیم

تا زمانی که به طور غیرقابل توضیحی شروع به کار کردن کنند.

until they inexplicably start working.

At some point, the companies rushing headlong to scale AI

زمانی، شرکت‌هایی که سراسیمه در توسعه هوش مصنوعی شتاب می‌کنند،

will cough out something that's smarter than humanity.

چیزی را تولید خواهند کرد که از انسان هوشمندتر خواهد بود.

Nobody knows how to calculate when that will happen.

هیچ‌کس نمی‌داند چگونه زمان وقوع این اتفاق را محاسبه کند.

My wild guess is that it will happen after zero to two more breakthroughs

حدس چشم‌بسته من این است که این اتفاق بعد از صفر تا دو پیشرفت مهم

the size of transformers.

به بزرگی ترنسفورمرها رخ خواهد داد.

What happens if we build something smarter than us

چه اتفاقی می‌افتد اگر ما چیزی باهوش‌تر از خودمان بسازیم

that we understand that poorly?

که نتوانیم آن را به خوبی درک کنیم؟

Some people find it obvious that building something smarter than us

برخی افراد اینکه ساخت چیزی باهوش‌تر از خودمان که آن را درک نکنیم،

that we don't understand might go badly.

ممکن است تبعات بدی داشته باشد را بدیهی می‌دانند.

Others come in with a very wide range of hopeful thoughts

بقیه، با طیف وسیعی از افکار امیدوارانه، درباره اینکه چطور این قضیه ممکن است

about how it might possibly go well.

نتیجه مثبتی داشته باشد، وارد بحث می‌شوند.

Even if I had 20 minutes for this talk and months to prepare it,

حتی اگر ۲۰ دقیقه برای اجرای این سخنرانی و ماه‌ها برای آماده‌سازی آن وقت داشتم،

I would not be able to refute all the ways people find to imagine

نمی‌توانستم همه راه‌هایی که مردم برای تصور اینکه اوضاع ممکن است خوب پیش برود،

that things might go well.

پیدا می‌کنند را رد کنم.

But I will say that there is no standard scientific consensus

اما من می‌گویم که هیچ وفاق علمی متعارفی برای اینکه چطور اوضاع خوب پیش خواهد رفت،

for how things will go well.

وجود ندارد.

There is no hope that has been widely persuasive

هیچ امیدی که به طور وسیعی همگان را متقاعد کند و

در آزمایش شکاکانه موثق باقی بماند، وجود ندارد.

and stood up to skeptical examination.

There is nothing resembling a real engineering plan for us surviving

هیچ چیزی به مانند یک نقشه مهندسی واقعی برای بقای ما وجود ندارد

that I could critique.

که من بتوانم آن را نقد کنم.

This is not a good place in which to find ourselves.

این وضعیت خوبی نیست که خودمان را در آن بیابیم.

If I had more time,

اگر زمان بیشتری داشتم،

I'd try to tell you about the predictable reasons

سعی می‌کردم که به شما درمورد دلیل‌های قابل‌پیش‌بینی بگویم

why the current paradigm will not work

که چرا این پارادایم فعلی برای

to build a superintelligence that likes you

ساخت یک موجود فوق‌هوشمند که دوستتان دارد

or is friends with you, or that just follows orders.

یا با شما دوست است یا فقط دستورات را دنبال می‌کند، کار نخواهد کرد.

Why, if you press "thumbs up" when humans think that things went right

در مورد اینکه، اگر دکمه «موافقم» را

زمانی که انسان‌ها فکر می‌کنند اوضاع به خوبی پیش رفته

یا دکمه «مخالفم» را

or "thumbs down" when another AI system thinks that they went wrong,

زمانی که یک سیستم هوش مصنوعی دیگر فکر می‌کند که این‌طور نیست، بزنید،

you do not get a mind that wants nice things

شما ذهنی بدست نمی‌آورید که چیزهای خوب را به گونه‌ای کلی بخواهد

in a way that generalizes well outside the training distribution

که در خارج داده‌های آموزشی‌اش هم صدق کند

تا جایی که آن سیستم هوش مصنوعی از آموزش دهندگانش باهوش‌تر باشد.

to where the AI is smarter than the trainers.

You can search for "Yudkowsky list of lethalities" for more.

برای اطلاعات بیشتر، می‌توانید عبارت «فهرست موارد مرگبار یودکووسکی» را سرچ کنید.

(Laughter)

(خنده)

But to worry, you do not need to believe me

اما برای اینکه نگران شوید، نیازی نیست که حرفم را درباره

about exact predictions of exact disasters.

پیش‌بینی‌های دقیق فاجعه‌های خاص باور کنید.

You just need to expect that things are not going to work great

فقط کافی است که انتظار داشته باشید که اوضاع قرار نیست

on the first really serious, really critical try

در اولین تلاش جدی و مهم (برای حل موضوع)، خوب پیش برود

because an AI system smart enough to be truly dangerous

چون یک سیستم هوش مصنوعی که درحدی باهوش باشد که واقعاً خطرناک باشد،

was meaningfully different from AI systems stupider than that.

به طرز معناداری با سیستم‌های هوش مصنوعی کم‌هوش‌تر از آن متفاوت است.

My prediction is that this ends up with us facing down something smarter than us

پیش‌بینی من این است که این موضوع، به این منجر می‌شود که با چیزی باهوش‌تر از خودمان

that does not want what we want,

مواجه شویم که چیزی که ما می‌خواهیم را نمی‌خواهد،

that does not want anything we recognize as valuable or meaningful.

و هرچیزی که ما به عنوان ارزشمند یا معنادار می‌شناسیم را نمی‌خواهد.

من نمی‌توانم دقیقاً پیش‌بینی کنم که

I cannot predict exactly how a conflict between humanity and a smarter AI would go

یک درگیری بین بشر و یک هوش مصنوعی باهوش‌تر چگونه پیش خواهد رفت

for the same reason I can't predict exactly how you would lose a chess game

به همان دلیلی که نمی‌توانم دقیقاً پیش‌بینی کنم که چگونه شما می‌توانید یک بازی شطرنج

to one of the current top AI chess programs, let's say Stockfish.

با یکی از برترین برنامه‌های شطرنج هوش مصنوعی، مثل استاک‌فیش را ببازید.

If I could predict exactly where Stockfish could move,

اگر می‌توانستم دقیقاً پیش‌بینی کنم که استاک‌فیش کجا مهره‌اش را حرکت می‌دهد،

I could play chess that well myself.

خودم می‌توانستم به همان خوبی شطرنج بازی کنم.

من نمی‌توانم پیش‌بینی کنم که دقیقاً چگونه شکست خواهید خورد،

I can't predict exactly how you'll lose to Stockfish,

but I can predict who wins the game.

اما می‌توانم پیش‌بینی کنم که چه کسی بازی را می‌بَرد.

I do not expect something actually smart to attack us with marching robot armies

من انتظار چیزی هوشمند که با ارتشی از ربات‌های رژه‌رونده با چشم‌های درخشان قرمز

with glowing red eyes

به ما حمله کند

where there could be a fun movie about us fighting them.

که بتوان از جنگ ما با آن‌ها فیلمی مفرح ساخت، ندارم.

I expect an actually smarter and uncaring entity

من انتظار یک موجود هوشمندتر و بی‌رحم‌تر را دارم

will figure out strategies and technologies

که استراتژی‌ها و تکنولوژی‌هایی را پیدا خواهد کرد

that can kill us quickly and reliably and then kill us.

که می‌توانند ما را سریعاً و مطمئناً بکشند و بعد ما را خواهد کشت.

I am not saying that the problem of aligning superintelligence

من نمی‌گویم که مشکل تنظیم موجود فوق‌هوشمند

is unsolvable in principle.

اصولاً غیرقابل حل است.

I expect we could figure it out with unlimited time and unlimited retries,

من انتظار دارم که اگر ما وقت بی‌نهایت و امکان تلاش مجدد بی‌نهایت داشتیم،

which the usual process of science assumes that we have.

که فرآیند معمول علم فرض می‌کند داریم، می‌توانستیم آن را حل کنیم.

The problem here is the part where we don't get to say,

مشکل آنجاست که در این قضیه ما فرصت نخواهیم داشت که بگوییم:

“Ha ha, whoops, that sure didn’t work.

“هاها، آخ، راه حلمان کار نکرد.”

That clever idea that used to work on earlier systems

این ایده هوشمندانه که قبلاً روی سیستم‌های قبلی کار می‌کرد،

sure broke down when the AI got smarter, smarter than us.”

قطعاً از زمانی که هوش مصنوعیْ باهوش‌تر، باهوش‌تر از ما شد، از کار افتاد.

We do not get to learn from our mistakes and try again

ما فرصت نخواهیم داشت که از اشتباهاتمان درس بگیریم و مجدداً تلاش کنیم،

because everyone is already dead.

چون آن موقع دیگر همه مرده‌اند.

It is a large ask

این درخواست بزرگی است

to get an unprecedented scientific and engineering challenge

که یک چالش علمی و مهندسی بی‌سابقه را

correct on the first critical try.

در اولین تلاش جدی، به درستی حل کنیم.

Humanity is not approaching this issue with remotely

بشر هرگز با میزان جدیتی که مورد نیاز است،

the level of seriousness that would be required.

در حال رو به رو شدن با این مشکل نیست.

Some of the people leading these efforts

برخی از مردمی که این تلاش‌ها را رهبری می‌کنند،

have spent the last decade not denying

دهه گذشته را نه با انکار اینکه

ساخت یک موجود فوق‌هوشمند ممکن است همه را بکشد،

that creating a superintelligence might kill everyone,

بلکه با شوخی‌کردن درمورد آن سپری کرده‌اند.

but joking about it.

We are very far behind.

ما خیلی عقب هستیم.

This is not a gap we can overcome in six months,

این فاصله‌ای نیست که ما بتوانیم در ۶ ماه آن را از بین ببریم،

given a six-month moratorium.

با استمهال و توقف فعالیت ۶ ماهه.

If we actually try to do this in real life,

اگر ما در واقع تلاش کنیم که این کار را در واقعیت انجام دهیم،

we are all going to die.

همه ما قرار است بمیریم.

People say to me at this point, what's your ask?

در این نقطه مردم از من می‌پرسند، درخواست تو چیست؟

I do not have any realistic plan,

من هیچ نقشه واقع‌بینانه‌ای ندارم،

which is why I spent the last two decades

که به همین دلیل دو دهه گذشته را با تلاش و شکست خوردن

trying and failing to end up anywhere but here.

برای اینکه به هرجایی برسیم جز اینجا، گذرانده‌ام.

My best bad take is that we need an international coalition

بهترین نظر بدی که می‌توانم بدهم، این است که ما به یک ائتلاف بین‌المللی نیاز داریم

banning large AI training runs,

که تلاش‌های بزرگ آموزش هوش مصنوعی را تحریم کند،

including extreme and extraordinary measures

اقدامات شدید و غیرعادی‌ای انجام دهد برای اینکه این تحریم

to have that ban be actually and universally effective,

به طور واقعی و همگانی مؤثر باشد،

like tracking all GPU sales,

مانند ردیابی تمام خرید و فروش‌های کارت گرافیک‌،

monitoring all the data centers,

نظارت کردن بر همه دیتاسنترها،

being willing to risk a shooting conflict between nations

مایل بودن به درگیری مسلحانه بین ملت‌ها

in order to destroy an unmonitored data center

برای از بین بردن یک دیتاسنتر نظارت‌نشده در

in a non-signatory country.

کشوری که توافق‌نامه را امضا نکرده است.

I say this, not expecting that to actually happen.

من این را می‌گویم، در حالی که انتظار ندارم در واقعیت اتفاق بیفتد.

I say this expecting that we all just die.

من این را می‌گویم، در حالی که انتظار دارم که همه ما می‌میریم.

But it is not my place to just decide on my own

اما این جایگاه من نیست که خودم به تنهایی و بدون هشدار به کسی،

that humanity will choose to die,

تصمیم بگیرم که بشر انتخاب می‌کند که بمیرد.

to the point of not bothering to warn anyone.

I have heard that people outside the tech industry

من شنیده‌ام که افراد خارج صنعت تکنولوژی،

are getting this point faster than people inside it.

این نکته را سریع‌تر از افراد داخل این صنعت متوجه می‌شوند.

Maybe humanity wakes up one morning and decides to live.

شاید بشر روزی بیدار شود و تصمیم بگیرد که زنده بماند.

Thank you for coming to my brief TED talk.

متشکرم که به سخنرانی TED مختصر من آمدید.

(Laughter)

(خنده)

(Applause and cheers)

(تشویق)

Chris Anderson: So, Eliezer, thank you for coming and giving that.

کریس اندرسون: خب، الیزر، سپاسگزارم که آمدی و سخنرانی کردی.

It seems like what you're raising the alarm about is that like,

به نظر می‌آید که چیزی که داری درموردش هشدار می‌دهی این است که،

for this to happen, for an AI to basically destroy humanity,

برای اینکه یک هوش مصنوعی اساساً بشریت را نابود کند،

it has to break out, escape controls of the internet and, you know,

باید فرار کند، از نظارت اینترنت خارج شود

start commanding actual real-world resources.

و شروع به فرمان دادن به منابع دنیای واقعی بکند.

You say you can't predict how that will happen,

می‌گویی که نمی‌توانی پیش‌بینی کنی چگونه اتفاق خواهد افتاد،

but just paint one or two possibilities.

اما حداقل یک یا دو احتمال را توضیح بده.

Eliezer Yudkowsky: OK, so why is this hard?

الیزر یودکووسکی: باشه، حالا چرا این سخت است؟

اول، به خاطر اینکه تو نمی‌توانی حرکت بعدی یک برنامه شطرنج باهوش‌تر را

First, because you can't predict exactly where a smarter chess program will move.

دقیقاً پیش‌بینی کنی.

Maybe even more importantly than that,

و شاید حتی مهم‌تر از آن،

imagine sending the design for an air conditioner

تصور کن که نقشه طراحی یک تهویه‌کننده هوا را به قرن یازدهم بفرستی.

back to the 11th century.

Even if they -- if it’s enough detail for them to build it,

حتی اگر جزئیات کافی برای آن‌ها داشته باشد تا آن را بسازند،

they will be surprised when cold air comes out

وقتی که هوای سرد از آن بیرون می‌آید، آن‌ها شگفت‌زده خواهند شد؛

because the air conditioner will use the temperature-pressure relation

چون تهویه‌کننده هوا از ارتباط دما-فشار استفاده خواهد کرد

and they don't know about that law of nature.

و آن‌ها هنوز درمورد آن قانون طبیعت چیزی نمی‌دانند.

So if you want me to sketch what a superintelligence might do,

پس اگر می‌خواهی به طور خلاصه بگویم که یک موجود فوق‌هوشمند ممکن است چه کار کند،

I can go deeper and deeper into places

می‌توانم هرچه عمیق‌تر موقعیت‌هایی را شرح دهم

where we think there are predictable technological advancements

که ما فکر می‌کنیم پیشرفت‌های تکنولوژیِ قابل‌پیش‌بینی وجود دارند

that we haven't figured out yet.

که ما هنوز آن‌ها را کشف نکرده‌ایم.

And as I go deeper, it will get harder and harder to follow.

و هرچه عمیق‌تر توضیح بدهم، توجه کردن و درک آن سخت‌تر و سخت‌تر می‌شود.

It could be super persuasive.

این هوش‌مصنوعی می‌تواند به شدت ترغیب‌کننده باشد؛

That's relatively easy to understand.

که درک آن نسبتاً آسان است.

We do not understand exactly how the brain works,

ما دقیقاً نمی‌دانیم که مغز چگونه کار می‌کند،

so it's a great place to exploit laws of nature that we do not know about.

و این راه مناسبی برای سوء استفاده هوش مصنوعی از قوانینی از طبیعت و محیط

Rules of the environment,

که درموردشان چیزی نمی‌دانیم است.

invent new technologies beyond that.

و می‌تواند تکنولوژی‌هایی فراتر از آن را اختراع کند.

Can you build a synthetic virus that gives humans a cold

شما می‌توانید یک ویروس سنتزشده تولید کنید که باعث سرماخوردگی انسان‌ها می‌شود

and then a bit of neurological change and they're easier to persuade?

و بعد مقداری تغییرات عصبی در مغزشان می‌دهد که آن‌ها راحت‌تر متقاعد شوند؟

Can you build your own synthetic biology,

می‌توانید زیست‌شناسی ساختگی خودتان و

synthetic cyborgs?

ربات‌های ساختگی خودتان را بسازید؟

Can you blow straight past that

آیا می‌توانید از این هم فراتر بروید و

to covalently bonded equivalents of biology,

معادل‌هایی از زیست‌شناسی اما با پیوندهای کووالانسی خلق کنید

where instead of proteins that fold up and are held together by static cling,

که به جای اینکه پروتئین‌هایی باشند که تا خورده و توسط پیوند ساکن به هم وصل‌اند،

you've got things that go down much sharper potential energy gradients

چیزهایی داشته باشید که با شیب‌های بسیار تندتری به سمت

انرژی پتانسیل‌های پایین‌تر می‌روند و با هم پیوند برقرار کرده‌اند؟

and are bonded together?

People have done advanced design work about this sort of thing

بعضی‌ها طراحی‌های پیشرفته‌ای برای این موارد انجام داده‌اند

for artificial red blood cells that could hold 100 times as much oxygen

مثل گلبول‌های قرمز مصنوعی که می‌توانند ۱۰۰ برابر اکسیژن بیشتری نگه دارند،

if they were using tiny sapphire vessels to store the oxygen.

اگر از حامل‌های بسیار کوچک یاقوتی برای ذخیره اکسیژن استفاده بکنند.

There's lots and lots of room above biology,

فضای بسیار بزرگی فراتر از زیست‌شناسی وجود دارد

but it gets harder and harder to understand.

اما درکش سخت‌تر و سخت‌تر می‌شود.

CA: So what I hear you saying

ک.ا: پس چیزی که می‌گویی

is that these terrifying possibilities there

این است که این احتمالات وحشتناک وجود دارند

but your real guess is that AIs will work out something more devious than that.

اما حدس واقعی‌ات این است که هوش مصنوعی‌ها چیزی حیله‌گرانه‌تر از آن پیدا می‌کنند.

Is that really a likely pathway in your mind?

آیا این یک مسیر محتمل در ذهنت است؟

EY: Which part?

ا.ی: کدام قسمت؟

That they're smarter than I am? Absolutely.

این که آن‌ها از من باهوش‌ترند؟ قطعاً!

CA: Not that they're smarter,

ک.ا: نه اینکه باهوش‌ترند،

but why would they want to go in that direction?

اما چرا باید بخواهند که به آن سمت بروند؟

Like, AIs don't have our feelings of sort of envy and jealousy and anger

چون، هوش مصنوعی‌ها احساسات ما مثل حسادت و خشم و... را ندارند.

and so forth.

So why might they go in that direction?

پس چرا باید به آن سمت بروند؟

EY: Because it's convergently implied by almost any of the strange,

ا.ی: چون این به طور یکدست توسط تقریباً هرچیز عجیب و غیرقابل درکی

inscrutable things that they might end up wanting

که آن‌ها ممکن است ذاتاً بر اثر گرادیان کاهشی

as a result of gradient descent

on these "thumbs up" and "thumbs down" things internally.

در این «موافقم» و «مخالفم»، در نهایت بخواهند، مشهود است.

If all you want is to make tiny little molecular squiggles

اگر تمام چیزی که می‌خواهید این است که اشکال ریز مولکولی درست کنید

or that's like, one component of what you want,

یا حداقل این یک جزء از چیزی است که می‌خواهید،

اما جزئی است که هرگز اشباع نمی‌شود، و شما مقدار بیشتر و بیشتری از آن را می‌خواهید،

but it's a component that never saturates, you just want more and more of it,

the same way that we would want more and more galaxies filled with life

همانطور که ما می‌خواهیم کهکشان‌های بیشتر و بیشتری را با حیات پر کنیم

و مردم پس از آن تا ابد به خوبی و خوشی زندگی کنند.

and people living happily ever after.

Anything that just keeps going,

هرچیزی که هی ادامه پیدا کند،

you just want to use more and more material for that,

شما مواد خام بیشتر و بیشتری برای آن می‌خواهید،

that could kill everyone on Earth as a side effect.

که اثر جانبی آن می‌تواند این باشد که همه افراد کره زمین را بکشد.

It could kill us because it doesn't want us making other superintelligences

هوش مصنوعی شاید ما را بکشد چون نمی‌خواهد که ما موجودات فوق‌هوشمند دیگری بسازیم

to compete with it.

که با آن رقابت کند.

It could kill us because it's using up all the chemical energy on earth

شاید ما را بکشد چون دارد همه انرژی شیمیاییِ روی کره زمین را تمام می‌کند

and we contain some chemical potential energy.

و ما دارای مقداری انرژی پتانسیل شیمیایی هستیم.

CA: So some people in the AI world worry that your views are strong enough

ک.ا: پس برخی افراد که در حوزه هوش مصنوعی فعالیت می‌کنند، نگرانند که دیدگاه‌های تو

and they would say extreme enough

به اندازه‌ای قدرتمند و افراطی هستند

that you're willing to advocate extreme responses to it.

که تو حاضری از پاسخ‌های افراطی به آن دفاع کنی.

And therefore, they worry that you could be, you know,

و از این رو، نگرانند که تو بتوانی، از یک نظر،

in one sense, a very destructive figure.

شخص به شدت مخربی باشی.

Do you draw the line yourself in terms of the measures

آیا خودت حدودش را تعیین می‌کنی که ما باید چه اقداماتی را

that we should take to stop this happening?

انجام بدهیم تا جلوی این واقعه را بگیریم؟

Or is actually anything justifiable to stop

یا آیا درواقع هر کاری قابل توجیه است تا جلوی این موقعیت‌ها که

the scenarios you're talking about happening?

داری در مورد وقوعشان صحبت می‌کنی گرفته شود؟

EY: I don't think that "anything" works.

ا.ی: من فکر نمی‌کنم که «هر چیزی» موفقیت‌آمیز باشد.

I think that this takes state actors

من فکر می‌کنم که این وضعیت نیاز به کنشگران دولتی

and international agreements

و قراردادهای بین‌المللی باشد،

and all international agreements by their nature,

و همه قراردادهای بین‌المللی طبعاً و معمولاً در نهایت توسط زور

tend to ultimately be backed by force

on the signatory countries and on the non-signatory countries,

در کشورهای امضاکننده و غیرامضاکننده حمایت می‌شوند،

which is a more extreme measure.

که یک اقدام شدیدتری است.

I have not proposed that individuals run out and use violence,

من پیشنهاد نکرده‌ام که افراد بیرون بروند و از خشونت استفاده کنند،

and I think that the killer argument for that is that it would not work.

و فکر می‌کنم که استدلال نهایی برای آن این است که موفقیت‌آمیز نیست.

CA: Well, you are definitely not the only person to propose

ک.ا: خب، تو قطعاً تنها شخصی نیستی که پیشنهاد می‌کنی

that what we need is some kind of international reckoning here

که چیزی که ما به آن نیاز داریم یک برآورد بین‌المللی

درمورد اینکه چطور پیشرفت این را مدیریت کنیم، است.

on how to manage this going forward.

Thank you so much for coming here to TED, Eliezer.

خیلی متشکرم که به تد آمدی، الیزر.

(Applause)

(تشویق)