Why AI Is Our Ultimate Test and Greatest Invitation | Tristan Harris | TED

المترجم: Walaa Mohammed

So I've always been a technologist.

لذلك كنت دائمًا تقنيًا.

And eight years ago, on this stage,

وقبل ثماني سنوات، على هذه المنصة،

I was warning about the problems of social media.

كنت أحذر من مشاكل وسائل التواصل الاجتماعي.

And I saw how a lack of clarity around the downsides of that technology,

ورأيت كيف أدى عدم الوضوح حول الجوانب السلبية لتلك التكنولوجيا،

and kind of an inability to really confront those consequences,

ونوع من عدم القدرة على مواجهة تلك العواقب حقًا،

led to a totally preventable societal catastrophe.

إلى كارثة مجتمعية يمكن الوقاية منها تمامًا.

And I'm here today because I don't want us to make that mistake with AI,

وأنا هنا اليوم لأنني لا أريد أن نرتكب هذا الخطأ مع الذكاء الاصطناعي،

and I want us to choose differently.

وأريد أن نختار بشكل مختلف.

So at TED, we're often here to dream about the possibles

لذلك في TED، غالبًا ما نكون هنا لنحلم بإمكانيات

of new technology.

التكنولوجيا الجديدة.

وكان من الواضح أن الممكن مع وسائل التواصل الاجتماعي

And the possible with social media

was obviously we're going to give everyone a voice,

هو إعطاء الجميع صوتًا،

democratize speech, help people connect with their friends.

وإضفاء الطابع الديمقراطي على الكلام، ومساعدة الناس على التواصل مع أصدقائهم.

But we don't talk about the probable,

لكننا لا نتحدث عن المحتمل،

what’s actually likely to happen due to the incentives,

وما الذي من المحتمل أن يحدث بالفعل بسبب الحوافز،

and how the business models of maximizing engagement

وكيف أن نماذج الأعمال لتعظيم المشاركة التي

I saw 10 years ago, would obviously lead

رأيتها قبل 10 سنوات، ستؤدي بوضوح

to rewarding doomscrolling, more addiction, more distraction.

إلى مكافأة التمرير، والمزيد من الإدمان، والمزيد من الإلهاء.

And that resulted in the most anxious and depressed generation of our lifetime.

وقد أدى ذلك إلى الجيل الأكثر قلقًا واكتئابًا في حياتنا.

Now it was interesting watching kind of how this happened,

الآن كان من الممتع مشاهدة كيفية حدوث ذلك،

because at first, I saw people kind of doubt these consequences.

لأنني في البداية، رأيت الناس يشكون نوعًا ما في هذه العواقب.

You know, we didn't really want to face it.

كما تعلمون، لم نكن نريد حقا مواجهة ذلك.

Then we said, well, maybe this is just a new moral panic.

ثم قلنا، حسنًا، ربما هذا مجرد ذعر أخلاقي جديد.

Maybe this is just a reflexive fear of new technology.

ربما يكون هذا مجرد خوف انعكاسي من التكنولوجيا الجديدة.

Then the data started rolling in.

ثم بدأت البيانات في الظهور.

And then we said, well, this is just inevitable.

ثم قلنا، حسنًا، هذا أمر لا مفر منه.

This is just what happens when you connect people on the internet.

هذا هو بالضبط ما يحدث عندما تقوم بتوصيل الأشخاص على الإنترنت.

But we had a chance to make a different choice

ولكن كانت لدينا فرصة لاتخاذ خيار مختلف

about the business models of engagement.

حول نماذج الأعمال للمشاركة.

And had we made that choice 10 years ago,

ولو قمنا بهذا الاختيار قبل 10 سنوات،

I want you to reimagine how different the world might have been

أريدك أن تعيد تصور مدى اختلاف العالم

if we had changed that incentive.

لو قمنا بتغيير هذا الحافز.

لذلك أنا هنا اليوم لأننا هنا للحديث عن الذكاء الاصطناعي،

So I'm here today because we're here to talk about AI,

and AI dwarfs the power

والذكاء الاصطناعي يقزم قوة

of all other technologies combined.

جميع التقنيات الأخرى مجتمعة.

Now why is that?

الآن لماذا هذا؟

Because if you make an advance in, say, biotech,

لأنك إذا أحرزت تقدمًا في مجال التكنولوجيا الحيوية،

that doesn't advance energy and rocketry.

على سبيل المثال، فلن يؤدي ذلك إلى تطوير الطاقة والصواريخ.

But if you make an advance in rocketry, that doesn’t advance biotech.

ولكن إذا حققت تقدمًا في مجال الصواريخ، فإن ذلك لن يؤدي إلى تطوير التكنولوجيا

But when you make an advance in intelligence, artificial intelligence,

الحيوية. ولكن عندما تحرز تقدمًا في الذكاء، الذكاء الاصطناعي،

that is generalized,

وهذا معمم،

intelligence is the basis for all scientific

فإن الذكاء هو الأساس لكل

and technological progress.

تقدم علمي وتكنولوجي.

And so you get an explosion of scientific and technical capability.

وهكذا تحصل على انفجار في القدرات العلمية والتقنية.

And that's why more money has gone into AI

ولهذا السبب تم إنفاق المزيد من الأموال

than any other technology.

على الذكاء الاصطناعي أكثر من أي تقنية أخرى.

A different way to think about it, as Dario Amodei says,

طريقة مختلفة للتفكير في الأمر، كما يقول داريو أمودي،

that AI is like a country full of geniuses in a data center.

أن الذكاء الاصطناعي يشبه بلدًا مليئًا بالعباقرة في مركز البيانات.

So imagine there's a map and a new country shows up on the world stage,

لذا تخيل أن هناك خريطة وستظهر دولة جديدة على المسرح العالمي،

and it has a million Nobel Prize-level geniuses in it.

وفيها مليون عبقري على مستوى جائزة نوبل.

Except they don't eat, they don't sleep, they don't complain,

إلا أنهم لا يأكلون، ولا ينامون، ولا يشتكون،

they work at superhuman speed

ويعملون بسرعة خارقة

and they'll work for less than minimum wage.

وسيعملون بأقل من الحد الأدنى للأجور.

That is a crazy amount of power.

هذا قدر مجنون من القوة.

To give an intuition, there was about, you know,

لإعطاء حدس، كان هناك، كما تعلمون،

on the order of 50 Nobel Prize-level scientists

بأمر من 50 عالمًا على مستوى جائزة نوبل

on the Manhattan Project,

في مشروع مانهاتن،

working for five-ish years.

يعملون لمدة خمس سنوات.

And if that could lead to this,

وإذا كان ذلك يمكن أن يؤدي إلى ذلك،

what could a million Nobel Prize-level scientists create,

فما الذي يمكن أن يخلقه مليون عالم حائز على جائزة نوبل،

working 24-7 at superhuman speed?

يعملون على مدار الساعة طوال أيام الأسبوع بسرعة خارقة؟

Now applied for good,

إذا طُبق الآن للأبد،

that could bring about a world of truly unimaginable abundance,

فقد يؤدي ذلك إلى عالم من الوفرة التي لا يمكن تصورها حقًا،

because suddenly, you get an explosion of benefits.

لأنه فجأة، تحصل على انفجار في الفوائد.

And we're already seeing many of these benefits land in our society

ونحن نرى بالفعل العديد من هذه الفوائد تصل إلى مجتمعنا

from new antibiotics, new drugs, new materials.

من المضادات الحيوية الجديدة والأدوية الجديدة والمواد الجديدة.

And this is the possible of AI.

وهذا هو احتمال الذكاء الاصطناعي.

Bringing about a world of abundance.

تحقيق عالم من الوفرة.

But what's the probable?

ولكن ما هو الاحتمال؟

Well, one way to think about the probable

حسنًا، إحدى الطرق للتفكير في الاحتمال

is how will AI's power get distributed in society?

هي كيف سيتم توزيع قوة الذكاء الاصطناعي في المجتمع؟

Imagine a two-by-two axis.

تخيل محورًا اثنين × اثنين.

And on the bottom, we have decentralization of power,

وفي الأسفل، لدينا لامركزية السلطة،

increasing the power of individuals in society.

مما يزيد من قوة الأفراد في المجتمع.

And the other is centralized power,

والآخر هو السلطة المركزية،

increasing the power of states and CEOs.

مما يزيد من قوة الدول والمديرين التنفيذيين.

You can think of this as the “let it rip” axis,

يمكنك التفكير في هذا على أنه محور «السماح له

and this is the "lock it down" axis.

بالتمزق»، وهذا هو محور «قفله».

So "let it rip" means we can open-source AI's benefits for everyone.

لذا فإن عبارة «let it rip» تعني أنه يمكننا فتح فوائد الذكاء الاصطناعي للجميع.

Every business gets the benefits of AI,

تحصل كل شركة على فوائد الذكاء الاصطناعي،

every scientific lab,

ويمكن لكل مختبر علمي،

every 16-year-old can go on GitHub,

وكل طفل يبلغ من العمر 16 عامًا الذهاب إلى GitHub،

every developing world country can get their own AI model

ويمكن لكل دولة من دول العالم النامي الحصول

trained on their own language and culture.

على نموذج الذكاء الاصطناعي الخاص بها مدربًا على لغتها وثقافتها.

But because that power is not bound with responsibility,

ولكن نظرًا لأن هذه القوة ليست مرتبطة بالمسؤولية،

it also means that you get a flood of deepfakes

فهذا يعني أيضًا أنك تحصل على طوفان من التزييف العميق

that are overwhelming our information environment.

الذي يطغى على بيئة المعلومات لدينا.

You increase people’s hacking abilities.

أنت تزيد من قدرات القرصنة لدى الأشخاص.

You enable people to do dangerous things with biology.

يمكنك تمكين الناس من القيام بأشياء خطيرة باستخدام علم الأحياء.

And we call this endgame attractor chaos.

ونسمي هذا الجاذب في نهاية اللعبة بالفوضى.

This is one of the probable outcomes when you decentralize.

هذه إحدى النتائج المحتملة عند تطبيق اللامركزية.

So in response to that you might say, well, let's do something else.

لذا ردًا على ذلك قد تقول، حسنًا، دعنا نفعل شيئًا آخر.

Let’s go over here, and have regulated AI control.

دعونا نذهب إلى هنا، ونظمنا التحكم في الذكاء الاصطناعي.

Let’s do this in a safe way, with a few players locking it down.

دعونا نفعل ذلك بطريقة آمنة، مع قيام عدد قليل من اللاعبين بإغلاقه.

But that has a different set of failure modes,

لكن هذا ينطوي على مجموعة مختلفة من أنماط الفشل،

of creating unprecedented concentrations of wealth and power

المتمثلة في خلق تركيزات غير مسبوقة من الثروة والسلطة

locked up into a few companies.

المحصورة في عدد قليل من الشركات.

One way to think about it is who would you trust

إحدى الطرق للتفكير في الأمر هي من تثق

to have a million times more power and wealth

به ليكون لديه قوة وثروة أكبر بمليون مرة

than any other actor in society?

من أي ممثل آخر في المجتمع؟

Any company?

أي شركة؟

Any government?

أي حكومة؟

Any individual?

أي فرد؟

And so one of those end games is dystopia.

وبالتالي فإن إحدى تلك الألعاب النهائية هي dystopia.

So these are two obviously undesirable probable outcomes of AI's roll out.

لذلك من الواضح أن هاتين نتيجتين محتملتين غير مرغوب فيهما لنشر الذكاء الاصطناعي.

And those who want to focus on the benefits of open source

وأولئك الذين يريدون التركيز على فوائد المصادر المفتوحة

don't want to think about the things that come from chaos.

لا يريدون التفكير في الأشياء التي تأتي من الفوضى.

وأولئك الذين يريدون التفكير في فوائد السلامة والتحكم المنظم

And those who want to think about the benefits of safety

and regulated AI control

في الذكاء الاصطناعي

don't want to think about dystopia.

لا يريدون التفكير في الواقع المرير.

And so obviously, these are both bad outcomes that no one wants.

ومن الواضح أن هاتين النتيجتين سيئتين لا يريدها أحد.

And we should seek something like a narrow path,

وعلينا أن نبحث عن شيء مثل المسار الضيق،

where power is matched with responsibility

حيث تتوافق القوة مع المسؤولية

at every level.

على كل مستوى.

Now that assumes that this power is controllable,

الآن هذا يفترض أن هذه القوة يمكن التحكم فيها،

because one of the unique things about AI

لأن أحد الأشياء الفريدة في الذكاء الاصطناعي

is that the benefit is it can think for itself and make autonomous decisions.

هو أن الفائدة هي أنه يمكنه التفكير بنفسه واتخاذ قرارات مستقلة.

That's one of the things that makes it so powerful.

هذا أحد الأشياء التي تجعلها قوية جدًا.

And I used to be very skeptical when friends of mine

وقد اعتدت أن أكون متشككًا جدًا عندما يتحدث أصدقائي

who are in the AI community

الذين هم في مجتمع الذكاء

talked about the idea of AI scheming or lying.

الاصطناعي عن فكرة مكيدة الذكاء الاصطناعي أو الكذب.

But unfortunately, in the last few months,

لكن لسوء الحظ، في الأشهر القليلة الماضية،

we are now seeing clear evidence

نرى الآن دليلًا واضحًا

of things that should be in the realm of science fiction

على أشياء يجب أن تكون في عالم الخيال العلمي تحدث

actually happening in real life.

بالفعل في الحياة الواقعية.

We're seeing clear evidence of many frontier AI models

نحن نرى دليلًا واضحًا على العديد من نماذج الذكاء الاصطناعي الرائدة

that will lie and scheme

التي ستكذب وتخطط

when they're told that they're about to be retrained or replaced

عندما يتم إخبارهم بأنهم على وشك إعادة تدريبهم أو استبدالهم

and find a way, maybe they should copy their own code

وإيجاد طريقة، ربما ينبغي عليهم نسخ التعليمات البرمجية

outside the system.

الخاصة بهم خارج النظام.

We're seeing AIs think that when they will lose a game,

نرى أن الذكاء الاصطناعي يعتقد أنه عندما يخسر مباراة،

that they will sometimes cheat in order to win the game.

فإنه يقوم أحيانًا بالغش من أجل الفوز باللعبة.

We're seeing AI models

نحن نرى نماذج الذكاء الاصطناعي

that are unexpectedly attempting to modify its own code

التي تحاول بشكل غيرىمتوقع تعديل التعليمات البرمجية الخاصة

to extend their run time.

بها لتمديد وقت تشغيلها.

So we don't just have a country of Nobel Prize geniuses in a data center.

لذلك ليس لدينا مجرد بلد من عباقرة جائزة نوبل في مركز البيانات.

We have a million deceptive,

لدينا مليون من العباقرة المخادعين

power-seeking and unstable geniuses in a data center.

الباحثين عن السلطة وغير المستقرين في مركز البيانات.

Now this shouldn’t make you very comfortable.

الآن هذا لا ينبغي أن يجعلك مرتاحًا جدًا.

You would think that with a technology this powerful and this uncontrollable,

قد تعتقد أنه مع تقنية بهذه القوة والتي لا يمكن السيطرة عليها،

that we would be releasing it with the most wisdom

سنطلقها بأكبر قدر من الحكمة

and the most discernment that we ever have of any technology.

والفطنة التي نمتلكها على الإطلاق من أي تقنية.

But we're currently caught in a race to roll out

لكننا عالقون حاليًا في سباق من أجل طرحه

because the incentives are

لأن الحوافز هي أنه

the more shortcuts you take to get market dominance

كلما زاد عدد الاختصارات التي تتخذها للسيطرة على السوق

or prove you have the latest capabilities,

أو إثبات أن لديك أحدث القدرات،

the more money you can raise,

زادت الأموال التي يمكنك جمعها،

the more ahead you are in the race.

كلما تقدمت في السباق.

And we're seeing whistleblowers at AI companies

ونحن نرى أن المخبرين في شركات الذكاء الاصطناعي

forfeit millions of dollars of stock options

يخسرون ملايين الدولارات من خيارات الأسهم

in order to warn the public about what's at stake

من أجل تحذير الجمهور بشأن ما هو على المحك

if we don't do something about it.

إذا لم نفعل شيئًا حيال ذلك.

Even DeepSeek’s recent success was in part based on capabilities

حتى نجاح DeepSeek الأخير كان يعتمد جزئيًا على القدرات

that it was optimizing for

التي تم تحسينها

by not actually focusing on protecting people

من خلال عدم التركيز فعليًا على حماية الأشخاص

from certain downsides.

من بعض الجوانب السلبية.

So just to summarize,

للتلخيص فقط،

we're currently releasing the most powerful, inscrutable,

نصدر حاليًا أقوى تقنية اخترعناها على الإطلاق وأكثرها

uncontrollable technology we've ever invented

غموضًا ولا يمكن السيطرة عليها

that's already demonstrating behaviors of self-preservation and deception

والتي تُظهر بالفعل سلوكيات الحفاظ على الذات والخداع

that we only saw in science fiction movies.

التي رأيناها فقط في أفلام الخيال العلمي.

We’re releasing it faster

نحن نطلقها بشكل أسرع

than we've released any other technology in history,

من أي تقنية أخرى في التاريخ،

and with under the maximum incentive to cut corners on safety.

وبأقل من الحد الأقصى من الحوافز لتقليص النفقات المتعلقة بالسلامة.

And we’re doing this so that we can get to utopia?

ونحن نفعل هذا حتى نتمكن من الوصول إلى اليوتوبيا؟

There's a word for what we're doing right now.

هناك كلمة لما نقوم به الآن.

This is insane.

هذا جنون.

This is insane.

هذا جنون.

Now how many people in this room feel comfortable with this outcome?

الآن كم عدد الأشخاص في هذه الغرفة الذين يشعرون بالراحة مع هذه النتيجة؟

How many of you feel uncomfortable with this outcome?

كم منكم يشعر بعدم الارتياح لهذه النتيجة؟

I see almost everyone's hands up.

أرى أيدي الجميع تقريبًا مرفوعة.

Just notice how you're feeling, for a moment, in your body.

فقط لاحظ ما تشعر به، للحظة، في جسمك.

Do you think that if you're someone who's in China or in France

هل تعتقد أنك إذا كنت شخصًا في الصين أو فرنسا

or in the Middle East,

أو في الشرق الأوسط،

and you're part of building AI,

وكنت جزءًا من بناء الذكاء الاصطناعي،

that if you were exposed to the same set of facts,

أنك إذا تعرضت لنفس مجموعة الحقائق،

do you think you would feel any differently than anyone in this room?

هل تعتقد أنك ستشعر بأي اختلاف عن أي شخص في هذه القاعة؟

There’s a universal human experience to something that is being threatened

هناك تجربة إنسانية عالمية لشيء مهدد بالطريقة

by the way that we're currently rolling this profound technology

التي ننشر بها حاليًا هذه التكنولوجيا العميقة

out into society.

في المجتمع.

So if this is crazy, why are we doing it?

لذا إذا كان هذا جنونًا، فلماذا نفعل ذلك؟

Because people believe it's inevitable.

لأن الناس يعتقدون أنه أمر لا مفر منه.

But is the current way that we're rolling out AI

ولكن هل الطريقة الحالية التي نطرح بها الذكاء

actually inevitable?

الاصطناعي حتمية بالفعل؟

If literally no one on Earth wanted this to happen,

إذا لم يرغب أحد على وجه الأرض حرفيًا في حدوث ذلك،

would the laws of physics push the AI out into society?

فهل ستدفع قوانين الفيزياء الذكاء الاصطناعي إلى المجتمع؟

There's a critical difference between believing it's inevitable,

هناك فرق جوهري بين الاعتقاد بأنه أمر لا مفر منه،

which is a self-fulfilling prophecy that you're fatalistic,

وهي نبوءة تحقق ذاتها بأنك قدري،

and standing from the place of

والوقوف من مكانك

it's really difficult to imagine how we would do something different.

من الصعب حقًا تخيل كيف سنفعل شيئًا مختلفًا.

But "it's really difficult,"

لكن «الأمر صعب حقًا»،

opens up a whole new space of choice

يفتح مجالًا جديدًا تمامًا للاختيار

than "it's inevitable."

من «إنه أمر لا مفر منه».

The path that we're taking, not AI.

المسار الذي نسلكه، وليس الذكاء الاصطناعي.

And so the ability for us to choose something else

وبالتالي فإن قدرتنا على اختيار

starts by stepping outside the self-fulfilling prophecy

شيء آخر تبدأ بالخروج من نبوءة الحتمية

of inevitability.

التي تتحقق ذاتيًا.

So what would it take to choose another path?

إذن ما الذي يتطلبه الأمر لاختيار مسار آخر؟

I think it would take two fundamental things.

أعتقد أن الأمر سيستغرق شيئين أساسيين.

First is that we have to agree that the current path is unacceptable,

الأول هو أننا يجب أن نتفق على أن المسار الحالي غير مقبول،

and the second is that we have to commit to find another path

والثاني هو أنه يتعين علينا الالتزام

in which we're still rolling out AI,

بإيجاد مسار آخر لا نزال نطرح

but with different incentives

فيه الذكاء الاصطناعي،

that are more discerning with foresight

ولكن مع حوافز مختلفة أكثر تميزًا

and where power is matched with responsibility.

مع البصيرة وحيث تتوافق القوة مع المسؤولية.

Thank you.

شكرًا لك.

(Applause)

(تصفيق)

So imagine this shared understanding, if the whole world had it.

لذا تخيل هذا الفهم المشترك، إذا كان العالم كله يمتلكه.

How different might that be?

كيف يمكن أن يكون ذلك مختلفًا؟

Well, first of all, let's imagine it goes away

حسنًا، أولًا وقبل كل شيء، دعونا نتخيل أنها ستختفي

and let's replace it with confusion about AI.

ودعونا نستبدلها بالارتباك حول الذكاء الاصطناعي.

Is it good? Is it bad?

هل هي جيدة؟ هل هي سيئة؟

I don't know, it seems complicated.

لا أعرف، يبدو الأمر معقدًا.

And in that world,

وفي هذا العالم،

the people building AI know that the world is confused.

يعرف الأشخاص الذين يبنون الذكاء الاصطناعي أن العالم مرتبك.

And they believe, well, it's inevitable,

ويعتقدون، حسنًا، أنه أمر لا مفر منه،

if I don't build it, someone else will.

إذا لم أقم ببنائه، فسيقوم شخص آخر ببنائه.

And they know that everyone else building AI also believes that.

وهم يعرفون أن كل شخص آخر يقوم ببناء الذكاء الاصطناعي يؤمن بذلك أيضًا.

And so what's the rational thing for them to do given those facts?

إذن ما هو الشيء المنطقي بالنسبة لهم في ضوء هذه الحقائق؟

It’s to race as fast as possible.

إنه السباق بأسرع ما يمكن.

And meanwhile to ignore the consequences

وفي الوقت نفسه تجاهل عواقب

of what might come from that,

ما قد يأتي من ذلك،

to look away from the downsides.

والابتعاد عن الجوانب السلبية.

But if you replace that confusion

ولكن إذا استبدلت هذا الارتباك

with global clarity

بالوضوح العالمي

that the current path is insane,

بأن المسار الحالي مجنون،

and that there is another path,

وأن هناك طريقًا آخر،

and you take the denial of what we don't want to look at,

وأخذت على عاتقك إنكار ما لا نريد أن ننظر إليه،

and through witnessing that so clearly,

ومن خلال مشاهدة ذلك بوضوح شديد،

we pop through the prophecy of self-fulfilling inevitability.

فإننا نتصفح نبوءة حتمية تحقق ذاتها.

And we realize that if everyone believes the default path is insane,

وندرك أنه إذا اعتقد الجميع أن المسار الافتراضي مجنون،

the rational choice is to coordinate, to find another path.

فإن الخيار العقلاني هو التنسيق وإيجاد مسار آخر.

And so clarity creates agency.

وبالتالي فإن الوضوح يخلق الوكالة.

If we can be crystal clear, we can choose another path,

إذا كان بإمكاننا أن نكون واضحين تمامًا، فيمكننا اختيار مسار آخر،

تمامًا كما يمكن أن نفعل مع وسائل التواصل الاجتماعي.

just as we could have with social media.

And in the past,

وفي الماضي،

in the face of seemingly inevitable arms races,

وفي مواجهة سباقات التسلح التي تبدو حتمية،

the race to do nuclear testing.

كان السباق لإجراء التجارب النووية.

Once we got clear about the downside risks of nuclear tests

بمجرد أن أوضحنا المخاطر السلبية للتجارب

and the world understood the science of that,

النووية وفهم العالم علم ذلك،

we created the Nuclear Test Ban Treaty,

أنشأنا معاهدة حظر التجارب النووية،

and a lot of people worked hard to create infrastructure like this

وعمل الكثير من الناس بجد لإنشاء بنية تحتية مثل هذه

to prevent that.

لمنع ذلك.

You could have said it was inevitable that germline editing,

كان بإمكانك القول إنه كان من المحتم أن يؤدي تحرير

to edit human genomes

السلالة الجرثومية

and to have supersoldiers and designer babies

وتحرير الجينوم البشري وإنجاب جنود خارقين

would set off an arms race between nations.

وأطفال مصممين إلى إطلاق سباق تسلح بين الدول.

Once the off-target effects of genome editing were made clear

بمجرد توضيح التأثيرات غير المستهدفة لتحرير

and the dangers were made clear,

الجينوم وتوضيح المخاطر،

we’ve coordinated on that, too.

قمنا بالتنسيق بشأن ذلك أيضًا.

You could have said that the ozone hole was just inevitable,

كان بإمكانك القول إن ثقب الأوزون كان أمرًا لا مفر منه،

and that we should just do nothing, and that we all perish as a species.

وأنه لا ينبغي لنا فعل أي شيء، وأننا جميعًا نهلك كنوع.

But that's not what we do.

لكن هذا ليس ما نفعله.

When we recognize a problem, we solve the problem.

عندما نتعرف على مشكلة، نقوم بحل المشكلة.

It's not inevitable.

هذا ليس حتميًا.

And so what would it take to illuminate this narrow path?

إذن ما الذي يتطلبه الأمر لإلقاء الضوء على هذا المسار الضيق؟

Well, it starts with common knowledge about frontier risks.

حسنًا، يبدأ الأمر بالمعرفة العامة حول المخاطر الحدودية.

If everybody building AI knew the latest understanding

إذا كان كل شخص يقوم ببناء الذكاء الاصطناعي يعرف أحدث فهم

about where these risks are arising from,

حول مصدر هذه المخاطر،

we would have much more chance of illuminating the contours of this path.

فستكون لدينا فرصة أكبر بكثير لإلقاء الضوء على ملامح هذا المسار.

And there's some very basic steps we can take to prevent chaos.

وهناك بعض الخطوات الأساسية للغاية التي يمكننا اتخاذها لمنع الفوضى.

Uncontroversial things like restricting AI companions for kids

أشياء غير مثيرة للجدل مثل تقييد رفقاء الذكاء الاصطناعي للأطفال

so that kids are not manipulated into taking their own lives.

حتى لا يتم التلاعب بالأطفال لاتخاذ حياتهم الخاصة.

Having basic things like product liability,

امتلاك أشياء أساسية مثل المسؤولية عن المنتج،

so if you are liable, as an AI developer, for certain harms,

لذلك إذا كنت مسؤولاً، كمطور للذكاء الاصطناعي، عن بعض الأضرار، فسيؤدي

that's going to create a more responsible innovation environment.

ذلك إلى إنشاء بيئة ابتكار أكثر مسؤولية.

You’ll release AI models that are more safe.

ستطلق نماذج الذكاء الاصطناعي الأكثر أمانًا.

And on the side of preventing dystopia,

وعلى جانب منع الديستوبيا،

for working hard to prevent ubiquitous technological surveillance

للعمل الجاد لمنع المراقبة التكنولوجية في كل مكان والحصول

and having stronger whistleblower protections

على حماية أقوى للمبلِّغين عن المخالفات

so that people don't need to sacrifice millions of dollars

حتى لا يحتاج الناس إلى التضحية بملايين الدولارات

in order to warn the world about what we need to know.

من أجل تحذير العالم بشأن ما نحتاج إلى معرفته.

And so we have a choice.

ولذا لدينا خيار.

Many of you may be feeling this looks hopeless.

قد يشعر الكثير منكم أن هذا يبدو يائسًا.

Or maybe Tristan is wrong.

أو ربما تريستان مخطئة.

Maybe, you know, the incentives are different.

ربما، كما تعلمون، الحوافز مختلفة.

Or maybe superintelligence will magically figure all this out,

أو ربما يكتشف الذكاء الخارق كل هذا بطريقة سحرية،

and it'll bring us to a better world.

وسيقودنا إلى عالم أفضل.

But don't fall into the trap of the same wishful thinking

لكن لا تقع في فخ نفس التفكير بالتمني والابتعاد

and turning away that caused us to deal with social media.

الذي دفعنا إلى التعامل مع وسائل التواصل الاجتماعي.

Your role in this is not to solve the whole problem.

دورك في هذا ليس حل المشكلة بأكملها.

But your role in this is to be part of the collective immune system.

لكن دورك في هذا هو أن تكون جزءًا من جهاز المناعة الجماعي.

That when you hear this wishful thinking

وذلك عندما تسمع هذا التفكير

or the logic of inevitability

بالتمني أو منطق الحتمية

and fatalism,

والقدرية،

to say that this is not inevitable,

أن تقول إن هذا ليس حتميًا،

and the best qualities of human nature

وأفضل صفات الطبيعة البشرية

is when we step up and make a choice

هو عندما نتقدم ونختار

about the future that we actually want

المستقبل الذي نريده

for the people and the world that we love.

بالفعل للأشخاص والعالم الذي نحبه.

There is no definition of wisdom,

لا يوجد تعريف للحكمة،

in any tradition,

في أي تقليد،

that does not involve restraint.

لا ينطوي على ضبط النفس.

Restraint is the central feature of what it means to be wise.

ضبط النفس هو السمة المركزية لما يعنيه أن تكون حكيمًا.

And AI is humanity's ultimate test

والذكاء الاصطناعي هو الاختبار النهائي للبشرية

and greatest invitation to step into our technological maturity.

وأكبر دعوة للدخول إلى مرحلة النضج التكنولوجي.

There is no room of adults working secretly

لا يوجد مكان للبالغين يعملون سرًا

to make sure that this turns out OK.

للتأكد من أن هذا سيكون جيدًا.

We are the adults.

نحن الكبار.

We have to be.

يجب أن نكون.

And I believe another choice is possible with AI

وأعتقد أن هناك خيارًا آخر ممكنًا مع الذكاء الاصطناعي

if we can commonly recognize what we have to do.

إذا تمكنا بشكل عام من التعرف على ما يتعين علينا القيام به.

And eight years from now,

وبعد ثماني سنوات من الآن،

I'd like to come back to this stage,

أود أن أعود إلى هذه المرحلة،

not to talk about more problems with technology,

ليس للحديث عن المزيد من المشاكل مع التكنولوجيا،

but to celebrate how we stepped up

ولكن للاحتفال بكيفية تقدمنا

and solved this one.

وحل هذه المشكلة.

Thank you.

شكرًا لكم.

(Applause and cheers)

(تصفيق وهتاف)