How to get empowered, not overpowered, by AI | Max Tegmark

المترجم: Dimah Eid المدقّق: Fatima Zahra El Hafa

After 13.8 billion years of cosmic history,

بعد 13,8 مليار سنة من تاريخ الكون،

our universe has woken up

استيقظ كوننا

and become aware of itself.

وأصبح مدركًا لذاته.

From a small blue planet,

من كوكب صغير أزرق،

tiny, conscious parts of our universe have begun gazing out into the cosmos

بدأت أجزاء صغيرة واعية من عالمنا تحدق بالكون

with telescopes,

باستخدام التلسكوبات،

discovering something humbling.

تكتشف شيئاً بتواضع.

We've discovered that our universe is vastly grander

لقد اكتشفنا أن كوننا أعظم بكثير

than our ancestors imagined

مما تصوره أسلافنا

and that life seems to be an almost imperceptibly small perturbation

وأن الحياة تبدو وكأنها اضطراب صغير غير محسوس

on an otherwise dead universe.

على كون ميت.

But we've also discovered something inspiring,

لكننا اكتشفنا أيضًا شيئا ملهمًا،

which is that the technology we're developing has the potential

وهو أن التكنولوجيا التي نطورها لها القدرة

to help life flourish like never before,

على مساعدة ازدهار الحياة بشكل غير مسبوق،

not just for centuries but for billions of years,

ليس لعدة قرون فقط ولكن لمليارات السنين

and not just on earth but throughout much of this amazing cosmos.

وليس على هذه الأرض فقط ولكن في أنحاء أخرى من هذا الكون المذهل.

I think of the earliest life as "Life 1.0"

شخصيًّا، أسمي بداية الحياة ب"الحياة 1.0"

because it was really dumb,

لأنها كانت غبية حقاً،

like bacteria, unable to learn anything during its lifetime.

مثل البكتيريا، غير قادرة على تعلم أي شيء خلال حياتها.

I think of us humans as "Life 2.0" because we can learn,

وأعتقد بأننا نحن البشر نمثل "الحياة 2.0" لأننا نستطيع التعلم،

which we in nerdy, geek speak,

وإذا ما تحدثنا عنه بهوس علمي

might think of as installing new software into our brains,

فقد ننظر له وكأنه تثبيت برمجية جديدة داخل عقولنا

like languages and job skills.

مثل اللغات ومهارات العمل.

"Life 3.0," which can design not only its software but also its hardware

"الحياة 3.0" والتي لا تصمم برمجياتها فحسب بل وأجزائها الرئيسية أيضًا

of course doesn't exist yet.

وهي بالطبع لا وجود لها حتى الآن.

But perhaps our technology has already made us "Life 2.1,"

لكن قد تكون التكنولوجيا الحالية قد صنعت لنا بالفعل "الحياة 2.1"

with our artificial knees, pacemakers and cochlear implants.

مع ركبنا الصناعية، وأجهزة تنظيم نبضات القلب والقواقع السمعية المزروعة.

So let's take a closer look at our relationship with technology, OK?

لذا لنمعن النظر في علاقتنا مع التكنولوجيا، حسنًا؟

As an example,

على سبيل المثال،

the Apollo 11 moon mission was both successful and inspiring,

بعثة أبولو 11 إلى القمر كانت ناجحة وملهمة في ذات الوقت

showing that when we humans use technology wisely,

مبينةً أنه عندما نستخدم نحن البشر التكنولوجيا بحكمة،

we can accomplish things that our ancestors could only dream of.

فإننا نستطيع إنجاز أشياء لم يستطع أسلافنا إلا الحلم بها.

But there's an even more inspiring journey

لكن توجد هناك رحلة أكثر إلهامًا

propelled by something more powerful than rocket engines,

مدفوعة بشيء أقوى من محركات الصواريخ

where the passengers aren't just three astronauts

حيث الركاب ليسوا مجرد ثلاثة من رواد الفضاء

but all of humanity.

بل البشرية جمعاء.

Let's talk about our collective journey into the future

دعونا نتحدث عن رحلتنا الجماعية نحو المستقبل

with artificial intelligence.

مع الذكاء الاصطناعي.

My friend Jaan Tallinn likes to point out that just as with rocketry,

يشير صديقي جان تالين إلى أنه كما هي الحال مع الصواريخ،

it's not enough to make our technology powerful.

ليس كافيًا أن نجعل التكنولوجيا لدينا أقوى.

We also have to figure out, if we're going to be really ambitious,

بل يجب علينا أن نعرف، هل سنكون حقًا طموحين

how to steer it

فيما يتعلق بتوجيهها

and where we want to go with it.

وإلى أين نريد الذهاب بها.

So let's talk about all three for artificial intelligence:

إذن لنتحدث عن هذه المحاور الثلاثة في مجال الذكاء الاصطناعي:

the power, the steering and the destination.

القوة والقيادة والوجهة.

Let's start with the power.

لنبدأ بالحديث عن القوة.

I define intelligence very inclusively --

أنا أعرّف الذكاء ضمنيًا

simply as our ability to accomplish complex goals,

ببساطة على أنه قدرتنا على إنجاز أهداف معقدة،

because I want to include both biological and artificial intelligence.

لأنني أريد أن أشمل كلا من الذكاء الحيوي والاصطناعي.

And I want to avoid the silly carbon-chauvinism idea

وأرغب بتجنب فكرة "الشوفينية الكربونية" السخيفة

that you can only be smart if you're made of meat.

بأنك لا تكون ذكيًا إلا إذا كنت مصنوعًا من لحم.

It's really amazing how the power of AI has grown recently.

إنه لمذهل حقًا كيف تطورت فكرة الذكاء الاصطناعي مؤخرًا.

Just think about it.

فكروا بالأمر فحسب.

Not long ago, robots couldn't walk.

حتى وقتٍ قريب، لم تكن الروبوتات قادرة على السير.

Now, they can do backflips.

الآن، تستطيع القفز متأرجحةً للخلف.

Not long ago,

حتى وقت قريب،

we didn't have self-driving cars.

لم نمتلك سيارات ذاتية القيادة.

Now, we have self-flying rockets.

الآن، لدينا صواريخ ذاتية التحليق.

Not long ago,

حتى وقت قريب،

AI couldn't do face recognition.

لم يكن الذكاء الاصطناعي قادرًا على التعرف على الوجوه.

Now, AI can generate fake faces

الآن، الذكاء الاصطناعي لديه القدرة على توليد وجوه مزيفة.

and simulate your face saying stuff that you never said.

ومحاكاة وجهك لقول أشياء لم تقلها أبدًا

Not long ago,

حتى وقت قريب،

كان الذكاء الاصطناعي عاجزًا عن هزيمتنا في لعبة "غو".

AI couldn't beat us at the game of Go.

Then, Google DeepMind's AlphaZero AI took 3,000 years of human Go games

ثم أَخَذَ ألفا زيرو من "جوجل ديب مايند" 3000 سنة من ألعاب "غو" التي لعبها البشر

and Go wisdom,

واستراتيجة اللعبة،

ignored it all and became the world's best player by just playing against itself.

وتجاهل ذلك كله، ليصبح أفضل لاعب في العالم فقط باللعب ضد نفسه.

And the most impressive feat here wasn't that it crushed human gamers,

والأكثر إثارة للإعجاب لم يكن سحقه للاعبين بشر،

but that it crushed human AI researchers

لكن حقيقة أنه هزم باحثين في الذكاء الاصطناعي

who had spent decades handcrafting game-playing software.

أمضوا عشرات السنين في تصميم برمجيات قادرة على اللعب.

And AlphaZero crushed human AI researchers not just in Go but even at chess,

ولم يسحق ألفا زيرو الباحثين في لعبة "غو" فحسب بل في الشطرنج أيضًا،

which we have been working on since 1950.

والتي كانوا يعملون عليها منذ عام 1950.

So all this amazing recent progress in AI really begs the question:

لهذا كل هذا التطور الحديث في الذكاء الاصطناعي يطرح التساؤل:

How far will it go?

إلى أي مدى سيصل هذا الذكاء؟

I like to think about this question

أنا أحب التفكير بهذا السؤال

in terms of this abstract landscape of tasks,

من منطلق هذا الملخص لتضاريس المهام،

where the elevation represents how hard it is for AI to do each task

حيث الارتفاع يمثل مدى صعوبة قيام الذكاء الاصطناعي بالمهمة

at human level,

بنفس المستوى البشري

and the sea level represents what AI can do today.

ويمثل مستوى البحر ما يستطيع الذكاء الاصطناعي فعله اليوم.

The sea level is rising as AI improves,

مستوى البحر يرتفع والذكاء الاصطناعي يتطور،

so there's a kind of global warming going on here in the task landscape.

لهذا يوجد نوع من الاحتباس الحراري يحدث هنا على مخطط تضاريس المهام.

And the obvious takeaway is to avoid careers at the waterfront --

والرسالة الواضحة هنا، هي تجنب الوظائف على الواجهة البحرية...

(Laughter)

(ضحك)

which will soon be automated and disrupted.

والتي ستصبح قريبا، وظائف آلية وغير متاحة.

But there's a much bigger question as well.

ولكن هناك أيضًا سؤال أكبر بكثير

How high will the water end up rising?

إلى أي مدى سترتفع المياه؟

Will it eventually rise to flood everything,

هل ستنتهي بإغراق كل شيء؟

matching human intelligence at all tasks.

وتوازي الذكاء البشري في كل المهام

This is the definition of artificial general intelligence --

هذا هو تعريف الذكاء الاصطناعي العام...

AGI,

أو ال(إيه جي آي)،

which has been the holy grail of AI research since its inception.

والذي يمثل الكأس المقدسة لأبحاث الذكاء الاصطناعي منذ نشأتها.

بحسب هذا التعريف الأشخاص الذين يقولون:

By this definition, people who say,

"Ah, there will always be jobs that humans can do better than machines,"

"آه، ستبقى هنالك دومًا تلك الأعمال التي يؤديها البشر أفضل من الآلات".

are simply saying that we'll never get AGI.

ببساطة يقولون إننا لن نحصل على الذكاء الاصطناعي العام.

Sure, we might still choose to have some human jobs

بالتأكيد، قد نختار الإبقاء على بعض الوظائف البشرية

or to give humans income and purpose with our jobs,

أو أن نمنح البشر الدخل والهدف من خلال الأعمال،

but AGI will in any case transform life as we know it

لكن الذكاء الاصطناعي العام على كل حال سوف يحول الحياة كما نعرفها

with humans no longer being the most intelligent.

إلى حياة حيث البشر ليسوا الأذكى.

Now, if the water level does reach AGI,

الآن، في حال وصل مستوى الماء إلى (إيه جي آي)

then further AI progress will be driven mainly not by humans but by AI,

فإن أي تقدم أكبر في الذكاء الاصطناعي لن يقوده البشر بل الذكاء الاصطناعي نفسه

which means that there's a possibility

مما يعني أن هنالك احتمال

that further AI progress could be way faster

بأن يصبح التقدم في الذكاء الاصطناعي أسرع بكثير

than the typical human research and development timescale of years,

من الأبحاث البشرية النموذجية والمقياس الزمني للتطور لسنوات،

raising the controversial possibility of an intelligence explosion

مثيرًا الاحتمالية المثيرة للجدل حول انفجار في مستوى الذكاء

where recursively self-improving AI

حيث الذكاء الاصطناعي المطور ذاتيًا بشكل متكرر

rapidly leaves human intelligence far behind,

يترك بسرعة الذكاء البشري وراءه بكثير،

creating what's known as superintelligence.

مبتكرًا ما يعرف بالذكاء الخارق.

Alright, reality check:

حسنا، لنتحقق من الواقع:

Are we going to get AGI any time soon?

هل سنحصل على (إيه جي آي) في أي وقت قريب؟

Some famous AI researchers, like Rodney Brooks,

بعض باحثي الذكاء الاصطناعي المشاهير مثل رودني بروكس

think it won't happen for hundreds of years.

يعتقدون بأن هذا لن يحدث لمئات السنين.

But others, like Google DeepMind founder Demis Hassabis,

لكن آخرين مثل مؤسس "جوجل ديب مايند" ديميس هاسابس

are more optimistic

أكثر تفاؤلا

and are working to try to make it happen much sooner.

ويعملون لجعلها تحدث في وقت أقرب بكثير.

And recent surveys have shown that most AI researchers

وإضافة إلى ذلك أظهرت دراسات أن أغلب باحثي الذكاء الاصطناعي

actually share Demis's optimism,

في الحقيقة يشاركون "ديميس" تفاؤله.

expecting that we will get AGI within decades,

متوقعين أننا سنحصل على الـ(إيه جي آي) في غضون عقود.

so within the lifetime of many of us,

أي خلال حياة العديد منا.

which begs the question -- and then what?

وهنا يطرح السؤال: ثم ماذا؟

What do we want the role of humans to be

ماذا نريد من البشر أن يفعلوا

if machines can do everything better and cheaper than us?

إذا استطاعت الآلات فعل كل شيء بشكل أفضل وأوفر منا؟

The way I see it, we face a choice.

أنا أرى بأننا أمام خيارين.

One option is to be complacent.

أحد الخيارات هو أن نكون راضين.

We can say, "Oh, let's just build machines that can do everything we can do

نستطيع أن نقول: "أوه، هيا لنبني آلات تستطيع عمل كل شيء نعمله

and not worry about the consequences.

ولا نقلق حول العواقب.

Come on, if we build technology that makes all humans obsolete,

إذا بنينا تكنولوجيا من شأنها جعل كل البشر عديمي الجدوى

what could possibly go wrong?"

ما العواقب التي يمكن أن تحدث؟"

(Laughter)

(ضحك)

But I think that would be embarrassingly lame.

ولكني أعتقد بأنه سيكون ضعفًا محرجًا.

I think we should be more ambitious -- in the spirit of TED.

أعتقد بأننا يجب أن نمتلك طموحًا أكبر، اقتداءً بTED.

Let's envision a truly inspiring high-tech future

دعونا نتصور مستقبلاً ملهمًا بتكنولوجيا عالية

and try to steer towards it.

ونحاول التوجه نحوه.

This brings us to the second part of our rocket metaphor: the steering.

هذا يأخذنا إلى الجزء الثاني من خطتنا الصاروخية: التوجيه.

We're making AI more powerful,

نحن نجعل الذكاء الاصطناعي أكثر قوة

but how can we steer towards a future

ولكن كيف يمكننا التوجه نحو المستقبل

where AI helps humanity flourish rather than flounder?

وجعل الذكاء الاصطناعي عونًا لازدهار البشرية عوضًا عن تعثرها؟

To help with this,

لتحقيق ذلك،

I cofounded the Future of Life Institute.

ساعدت ببناء مؤسسة "مستقبل الحياة"

It's a small nonprofit promoting beneficial technology use,

وهي جمعية خيرية لتعزيز استخدام التكنولوجيا المفيدة

and our goal is simply for the future of life to exist

وهدفنا ببساطة يتمثل في خلق مستقبل للحياة.

and to be as inspiring as possible.

وأن نكون ملهمين قدر الإمكان

You know, I love technology.

أتعلمون، أنا أحب التكنولوجيا.

Technology is why today is better than the Stone Age.

التكنولوجيا هي السبب في كون الحاضر أفضل من العصور الحجرية.

And I'm optimistic that we can create a really inspiring high-tech future ...

وأنا متفائل بأننا نستطيع ابتكار مستقبل تكنولوجي حديث مثير

if -- and this is a big if --

إذا...وهذا افتراض كبير...

if we win the wisdom race --

إذا كسبنا مسابقة الحكمة...

the race between the growing power of our technology

هذه المسابقة بين القوة النامية للتكنولوجيا

and the growing wisdom with which we manage it.

والحكمة النامية التي نديرها بها.

But this is going to require a change of strategy

ولكن هذا الفوز يتطلب تغييرًا في الاستراتيجية.

because our old strategy has been learning from mistakes.

لأن استراتيجيتنا القديمة مبنية على التعلم من الأخطاء.

We invented fire,

نحن اخترعنا النار،

screwed up a bunch of times --

أخفقنا عدة مرات...

invented the fire extinguisher.

ثم اخترعنا طفاية الحريق.

(Laughter)

(ضحك)

We invented the car, screwed up a bunch of times --

نحن اخترعنا السيارة، أخفقنا عدة مرات...

invented the traffic light, the seat belt and the airbag,

فاخترعنا إشارة المرور وحزام الأمان والوسادة الهوائية

but with more powerful technology like nuclear weapons and AGI,

ولكن مع تكنولوجيا أكثر قوة كالسلاح النووي والذكاء الاصطناعي،

learning from mistakes is a lousy strategy,

فالتعلم من الأخطاء استراتيجية سيئة،

don't you think?

أليس كذلك؟

(Laughter)

(ضحك)

It's much better to be proactive rather than reactive;

الأفضل هو أن تكون فاعلًا عوضًا عن كونك متفاعلًا،

plan ahead and get things right the first time

خطط مسبقًا وليكن كل شيء صحيحًا منذ المرة الأولى

because that might be the only time we'll get.

لأنها قد تكون الفرصة الوحيدة المتاحة لك.

But it is funny because sometimes people tell me,

ولكن الأمر مضحك لأن الناس يقولون لي في بعض الأحيان:

"Max, shhh, don't talk like that.

"ماكس، صه لا تتكلم هكذا.

That's Luddite scaremongering."

هذا ترهيب وتخويف أعداء التكنولوجيا".

But it's not scaremongering.

ولكنه ليس تخويفًا أو ترهيبًا.

It's what we at MIT call safety engineering.

إنه ما نطلق عليه في جامعة ماساتشوستس ب"الهندسة الآمنة".

Think about it:

فكروا بالأمر:

before NASA launched the Apollo 11 mission,

قبل أن تطلق ناسا مركبة أبولو 13،

they systematically thought through everything that could go wrong

فكروا بطريقة منظمة بكل خطأ محتمل حدوثه

when you put people on top of explosive fuel tanks

عندما تضع أشخاصًا على رأس خزانات وقود متفجرة

and launch them somewhere where no one could help them.

وترسلهم لمكان حيث لا يستطيع أحد مساعدتهم.

And there was a lot that could go wrong.

وكانت هناك الكثير من الأخطاء المحتملة.

Was that scaremongering?

هل كان ذلك تخويفًا وترهيبًا؟

No.

لا.

That's was precisely the safety engineering

لقد كان بالضبط "الهندسة الآمنة"

that ensured the success of the mission,

التي ضمنت نجاح المهمة.

and that is precisely the strategy I think we should take with AGI.

وهذه بالتحديد الاستراتيجية التي أعتقد بوجوب اتخاذها مع الذكاء الاصطناعي

Think through what can go wrong to make sure it goes right.

فكر بكل خطأ يحتمل أن يحدث لتتأكد من فعل الأمر بالشكل الصحيح.

So in this spirit, we've organized conferences,

وبهذا الفكر، نظمنا مؤتمرات

bringing together leading AI researchers and other thinkers

لجمع قادة باحثي الذكاء الاصطناعي والمفكرين الآخرين

to discuss how to grow this wisdom we need to keep AI beneficial.

لمناقشة كيفية تنمية هذه الفلسفة التي نحتاجها لجعل الذكاء الاصناعي مفيدًا.

Our last conference was in Asilomar, California last year

عُقد آخر مؤتمر السنة الماضية في أسيلمار، كالفورنيا

and produced this list of 23 principles

وقُدِّمت خلاله قائمة بثلاثة وعشرين مبدأ

which have since been signed by over 1,000 AI researchers

وقَّع عليها أكثر من ألف باحث في الذكاء الاصطناعي

and key industry leaders,

والقادة في هذه الصناعة.

and I want to tell you about three of these principles.

وأريد أن أخبركم عن ثلاثة من هذه المبادئ.

One is that we should avoid an arms race and lethal autonomous weapons.

أحدها هو أنه يجدر بنا تجنب سباق التسلح والأسلحة الذاتية القاتلة.

The idea here is that any science can be used for new ways of helping people

الفكرة هنا هو أن أي علم يمكن استخدامه كطرق جديدة في خدمة البشر،

or new ways of harming people.

أو كطرق جديدة في إيذاء البشر.

For example, biology and chemistry are much more likely to be used

على سبيل المثال: الأحياء والكيمياء تُستخدم عادةً

for new medicines or new cures than for new ways of killing people,

في العلاج والأدوية الجديدة أكثر من استخدامها في الطرق الجديدة لقتل البشر.

because biologists and chemists pushed hard --

لأن علماء الأحياء والكيمياء حاربوا بقوة

and successfully --

وبنجاح

for bans on biological and chemical weapons.

لحظر وإدانة الأسلحة الكيميائية والبيولوجية

And in the same spirit,

وبنفس الفكر،

most AI researchers want to stigmatize and ban lethal autonomous weapons.

يريد باحثو الذكاء الاصطناعي إدانة وحظر الأسلحة القاتلة الذاتية.

Another Asilomar AI principle

ومن مبادئ أسيلمار للذكاء الاصطناعي

is that we should mitigate AI-fueled income inequality.

هو وجوب تخفيف عدم المساواة في الدخل المرتبط بالذكاء الاصطناعي

I think that if we can grow the economic pie dramatically with AI

أعتقد بأنه إذا استطعنا تنمية الكعكة الاقتصادية بشكل كبير مع الذكاء الاصطناعي

and we still can't figure out how to divide this pie

وما زلنا لا نستطيع معرفة كيفية توزيع هذه الكعكة

so that everyone is better off,

بحيث يكون الجميع بحال أفضل،

then shame on us.

فعارٌ علينا!

(Applause)

(تصفيق)

Alright, now raise your hand if your computer has ever crashed.

حسنًا، الآن ارفعوا أيديكم في حال تعطل حاسوبكم أحد المرات.

(Laughter)

(ضحك)

Wow, that's a lot of hands.

واو، هذه أيدٍ كثيرة.

Well, then you'll appreciate this principle

حسنًا، إذن ستقدرون هذا المبدأ

that we should invest much more in AI safety research,

والذي يقتضي زيادة الاستثمار في أبحاث أمان الذكاء الاصطناعي،

because as we put AI in charge of even more decisions and infrastructure,

لأننا إذا جعلنا الذكاء الاصطناعي مسؤولًا عن البنية التحتية وعن قرارات أكثر،

we need to figure out how to transform today's buggy and hackable computers

سنحتاج لمعرفة كيفية نقل مركبات الحواسيب القابلة للاختراق اليوم

into robust AI systems that we can really trust,

إلى روبورتات ذكية بشكل نستطيع معه الثقة بها،

because otherwise,

لأنه بخلاف ذلك،

all this awesome new technology can malfunction and harm us,

فكل التكنولوجيا الجديدة المدهشة قد تتعطل وتؤذينا،

or get hacked and be turned against us.

أو تُخترَق وتُقلب ضدنا.

And this AI safety work has to include work on AI value alignment,

ونظام الأمان هذا يجب أن يشمل العمل على القيم المحايدة،

because the real threat from AGI isn't malice,

لأن التهديد الأكبر من الذكاء الاصطناعي العام ليس الإيذاء،

like in silly Hollywood movies,

كما في أفلام هوليوود التافهة،

but competence --

بل المنافسة...

AGI accomplishing goals that just aren't aligned with ours.

(إيه جي آي) يحقق أهدافًا لا تتماشى معنا.

For example, when we humans drove the West African black rhino extinct,

على سبيل المثال: عندما تسببنا نحن البشر بانقراض وحيد القرن بغرب أفريقيا،

we didn't do it because we were a bunch of evil rhinoceros haters, did we?

لم نفعلها لأننا كنا أشرار كارهين لوحيد القرن، أليس كذلك؟

We did it because we were smarter than them

لقد فعلنا ذلك لأننا أذكى منهم

and our goals weren't aligned with theirs.

وأهدافنا لم تتماشى مع أهدافهم.

But AGI is by definition smarter than us,

ولكن الذكاء الاصطناعي العام أذكى منا،

so to make sure that we don't put ourselves in the position of those rhinos

ولذلك لنتأكد بأننا لم نضع أنفسنا في موقف وحيدي القرن

if we create AGI,

عند صنعنا للذكاء الاصطناعي العام،

we need to figure out how to make machines understand our goals,

سنحتاج لمعرفة كيف نصنع آلات تفهم أهدافنا،

adopt our goals and retain our goals.

تتبنى أهدافنا وتحتفظ بها.

And whose goals should these be, anyway?

وأهداف من يجب أن تكون هذه الأهداف؟

Which goals should they be?

أي أهداف ستكون هي الأهداف المرغوبة؟

This brings us to the third part of our rocket metaphor: the destination.

هذا يأخذنا إلى الجزء الثالث وهو: الوجهة.

We're making AI more powerful,

نحن نجعل الذكاء الاصطناعي أكثر قوة،

trying to figure out how to steer it,

ونحاول أن نعرف كيف نوجهه،

but where do we want to go with it?

ولكن أين نريد التوجه به؟

This is the elephant in the room that almost nobody talks about --

هذا هو "الفيل الذي بالغرفة" الذي لا يريد أحد التحدث عنه...

not even here at TED --

حتى هنا في TED...

because we're so fixated on short-term AI challenges.

لأننا نركز اهتمامنا على تحديات الذكاء الاصطناعي قصيرة المدى.

Look, our species is trying to build AGI,

انظروا، أمثالنا يحاولون بناء الذكاء الاصطناعي العام

motivated by curiosity and economics,

يدفعهم لذلك حب الاستطلاع والربح

but what sort of future society are we hoping for if we succeed?

ولكن ما هو المجتمع المستقبلي الذي نريد بناءه إذا نجحنا؟

We did an opinion poll on this recently,

عملنا استطلاع رأي مؤخرًا بهذا الشأن،

and I was struck to see

وقد كنت مندهشًا لرؤية

that most people actually want us to build superintelligence:

أن غالبية الأشخاص أرادوا أن نبني الذكاء الخارق:

AI that's vastly smarter than us in all ways.

الذكاء الاصطناعي الذي يفوقنا ذكاءً بمراحل كثيرة.

What there was the greatest agreement on was that we should be ambitious

وكان هناك اتفاق عظيم في الرأي يقتضي أنه يجب علينا أن نكون طموحين

and help life spread into the cosmos,

ونساعد في نشر الحياة بالكون،

but there was much less agreement about who or what should be in charge.

ولكن كان هناك اتفاق أقل بكثير حول من سيكون مسؤولاً عنه.

And I was actually quite amused

وحقيقةً لقد كنت مستمتعًا

to see that there's some some people who want it to be just machines.

برؤية أن هناك عدد من الأشخاص أرادوا أن تكون الآلات فقط هي المسؤولة.

(Laughter)

(ضحك)

And there was total disagreement about what the role of humans should be,

وكان هناك اختلاف كبير في الآراء حول دور البشر المستقبلي،

even at the most basic level,

حتى في المستويات الأساسية،

so let's take a closer look at possible futures

لذلك دعونا نلقي نظرة على المستقبل المحتمل

that we might choose to steer toward, alright?

الذي قد نتجه نحوه، حسنًا؟

So don't get me wrong here.

لا تفهموني بشكل خاطئ.

I'm not talking about space travel,

لست أتحدث عن السفر عبر الفضاء،

merely about humanity's metaphorical journey into the future.

بل حول رحلة البشر المجازية تجاه المستقبل.

So one option that some of my AI colleagues like

أحد الخيارات والذي أعجب أحد زملائي

is to build superintelligence and keep it under human control,

يقتضي أن نبني الذكاء الخارق ونجعله تحت سيطرة البشر،

like an enslaved god,

كإله مستعبَد،

disconnected from the internet

بحيث يكون مفصولًا عن الإنترنت

and used to create unimaginable technology and wealth

ويستخدم لخلق تكنولوجيا وثروة هائلة

for whoever controls it.

لصالح من يديرها.

But Lord Acton warned us

ولكن لورد أكتون حذرنا

that power corrupts, and absolute power corrupts absolutely,

من أن السلطة قد تخلق الفساد والسلطة المطلقة ستخلق الفساد بلا شك،

so you might worry that maybe we humans just aren't smart enough,

لذلك قد يثير ذلك القلق حول عدم امتلاك البشر للذكاء الكافي،

or wise enough rather,

أو الحكمة الكافية،

to handle this much power.

للتحكم في هذه السلطة والقوة.

Also, aside from any moral qualms you might have

أيضًا بجانب تأنيب الضمير الذي قد تشعر به

about enslaving superior minds,

حول استعباد عقول خارقة،

you might worry that maybe the superintelligence could outsmart us,

يجب عليك أن تقلق حول إمكانية تفوّق الذكاء الصناعي الخارق علينا،

break out and take over.

ثم يستقل ويتولى الأمور.

But I also have colleagues who are fine with AI taking over

ولكن بعض زملائي متصالحون مع فكرة تولي الذكاء الصناعي القيادة

and even causing human extinction,

بل وحتى إمكانية تسببه بانقراض البشر،

as long as we feel the the AIs are our worthy descendants,

ما دمنا نشعر أن أنظمة الذكاء الاصطناعي هي ورثتنا الكفؤ،

like our children.

كأبنائنا.

But how would we know that the AIs have adopted our best values

ولكن كيف نعرف أن هذه الأنظمة تمتلك أفضل قيمنا

and aren't just unconscious zombies tricking us into anthropomorphizing them?

وليست مجرد زومبي غير واع يلاحقنا لتجسيده؟

Also, shouldn't those people who don't want human extinction

أيضًا، ألا يمتلك هؤلاء الذين لا يريدون فناء البشر

have a say in the matter, too?

رأيًا حول المسألة؟

Now, if you didn't like either of those two high-tech options,

الآن إذا لم تعجبك خيارات التكنولوجيا المتقدمة،

it's important to remember that low-tech is suicide

فمن المهم أن تتذكر بأن التكنولوجيا البسيطة انتحار

from a cosmic perspective,

من منطلق كوني،

because if we don't go far beyond today's technology,

لأنه إذا لم نتجاوز تكنولوجيا اليوم،

the question isn't whether humanity is going to go extinct,

فإن السؤال لن يكون حول إمكانية انقراض البشر،

merely whether we're going to get taken out

بل حول إمكانية إخراجنا من النظام الكوني

by the next killer asteroid, supervolcano

بواسطة الكويكبات القاتلة والبراكين الضخمة

or some other problem that better technology could have solved.

أو مشاكل أخرى تستطيع التكنولوجيا الحديثة معالجتها.

So, how about having our cake and eating it ...

لذلك ماذا عن الحصول على كعكتنا ثم تناولها

with AGI that's not enslaved

مع ذكاء اصطناعي خارق وغير مستعبد

but treats us well because its values are aligned with ours?

ولكن يعاملنا جيدًا لأن لديه قيمًا تتماشى مع قيمنا؟

This is the gist of what Eliezer Yudkowsky has called "friendly AI,"

هذا خلاصة ما كان يدعوه إيليزر يودكاوسكي بـ"الذكاء الاصطناعي اللطيف"

and if we can do this, it could be awesome.

وإذا استطعنا القيام بهذا الأمر فسيكون أمرًا رائعًا.

It could not only eliminate negative experiences like disease, poverty,

فلن يقضي على الأمور السلبية فقط كالأمراض والفقر

crime and other suffering,

والجرائم والمعاناة،

but it could also give us the freedom to choose

بل قد تعطينا حرية الاختيار

from a fantastic new diversity of positive experiences --

من تنوع جديد وعظيم لتجارب إيجابية...

basically making us the masters of our own destiny.

فتجعلنا ببساطة أسياد على مصائرنا.

So in summary,

خلاصة الأمر،

our situation with technology is complicated,

علاقتنا بالتكنولوجيا معقدة،

but the big picture is rather simple.

ولكن الصورة العامة بسيطة.

Most AI researchers expect AGI within decades,

يتنبأ غالبية الباحثين بحدوث الذكاء الاصطناعي الخارق خلال عقود،

and if we just bumble into this unprepared,

وإذا مشينا تجاه هذا الحدث بتخبط وعدم استعداد،

it will probably be the biggest mistake in human history --

سيكون أكبر خطأ نرتكبه في تاريخ البشرية...

let's face it.

دعونا نواجه الأمر.

It could enable brutal, global dictatorship

قد تسمح بظهور دكتاتورية وحشية عالميًا

with unprecedented inequality, surveillance and suffering,

مع عدم مساواة غير مسبوقة ورقابة ومعاناة،

and maybe even human extinction.

بل وربما يمتد الأمر لانقراض البشر.

But if we steer carefully,

ولكن إذا تحركنا بحذر،

we could end up in a fantastic future where everybody's better off:

قد ينتهي بنا الأمر في مستقبل رائع حيث يتحسن حال الجميع:

the poor are richer, the rich are richer,

يغتني الفقراء ويزداد الأغنياء ثراءً،

everybody is healthy and free to live out their dreams.

الجميع صحيون ويعيشون أحلامهم.

Now, hang on.

ولكن تمهلوا.

Do you folks want the future that's politically right or left?

هل تريدون أيها القوم مستقبلاً يساريًّا سياسيًا أم يمينيًّا؟

Do you want the pious society with strict moral rules,

هل تريدون مجتمعًا متدينًا بقواعد أخلاقية صارمة

or do you an hedonistic free-for-all,

أم تريدون حرية المتع والشهوات للجميع،

more like Burning Man 24/7?

كمهرجان الرجل المحترق؟

Do you want beautiful beaches, forests and lakes,

هل تريدون شواطئ جميلة وغابات وبحيرات،

or would you prefer to rearrange some of those atoms with the computers,

أم تفضلون إعادة ترتيب بعض تلك الذرات مع أجهزة الكمبيوتر،

enabling virtual experiences?

وتمكين الخبرات الافتراضية؟

With friendly AI, we could simply build all of these societies

مع الذكاء الاصطناعي الصديق نستطيع ببساطة بناء كل هذه المجتمعات

and give people the freedom to choose which one they want to live in

وإعطاء الأشخاص حرية اختيار أي منها للعيش فيه

because we would no longer be limited by our intelligence,

لأننا لن نعود محدودين بمقدار الذكاء الذي نمتلكه،

merely by the laws of physics.

بل بقوانين الفيزياء فقط.

So the resources and space for this would be astronomical --

ولذلك فإن الموارد والمساحة لهذا المشروع ستكون ضخمة...

literally.

فعليًا.

So here's our choice.

وسيكون هذا خيارنا.

We can either be complacent about our future,

إما أن نرضى بمستقبلنا،

taking as an article of blind faith

ونؤمن بشكل أعمى

that any new technology is guaranteed to be beneficial,

بأن أي تكنولوجيا جديدة لابد وأن تكون مفيدة

and just repeat that to ourselves as a mantra over and over and over again

ونكرر ذلك على أنفسنا، مرارًا وتكرارًا كتعويذة ما

as we drift like a rudderless ship towards our own obsolescence.

ونحن ننجرف كسفينة بلا دفة تجاه هلاكنا.

Or we can be ambitious --

أو نستطيع أن نكون طموحين...

thinking hard about how to steer our technology

ونفكر بعمق حول كيفية توجيه التكنولوجيا

and where we want to go with it

وأين نريد الذهاب بها

to create the age of amazement.

لخلق عصر مدهش.

We're all here to celebrate the age of amazement,

نحن هنا جميعًا لنحتفل بعصر الدهشة،

and I feel that its essence should lie in becoming not overpowered

وأشعر بأن جوهره يجب أن يكمن في عدم المبالغة بامتلاك القوة

but empowered by our technology.

وأن تكون القوة بواسطة التكنولوجيا.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)