The Transformative Potential of AGI — and When It Might Arrive | Shane Legg and Chris Anderson | TED

المترجم: Hani Eldalees المدقّق: Walaa Mohammed

Chris Anderson: Shane, give us a snapshot of you growing up

كريس أندرسون: شين، أعطنا لمحة عن نشأتك

and what on Earth led you to get interested in artificial intelligence?

وما الذي دفعك إلى الاهتمام بالذكاء الاصطناعي؟

Shane Legg: Well, I got my first home computer on my 10th birthday,

شين ليج: حسنًا، حصلت على أول جهاز كمبيوتر منزلي في عيد ميلادي العاشر،

and I --

وكان هذا قبل الإنترنت وكل شيء.

this was before the internet and everything.

So you couldn't just go and surf the web and so on.

لذا لا لم يكن بإمكانك تصفح الويب وما إلى ذلك.

You had to actually make stuff yourself and program.

كان عليك صنع الأشياء بالفعل وبرمجتها بنفسك.

وهكذا بدأت البرمجة،

And so I started programming,

and I discovered that in this computer there was a world,

واكتشفت أنه في هذا الكمبيوتر هناك عالم،

I could create a world,

يمكنني إنشاء عالم،

I could create little agents that would run around

يمكنني إنشاء شخصيات صغيرة تركض وتطارد بعضها وما إلى ذلك.

and chase each other and do things and so on.

And I could sort of, bring this whole universe to life.

وكان يمكنني، نوعًا ما، أن أعيد هذا الكون كله إلى الحياة.

And there was sort of that spark of creativity that really captivated me

and sort of, I think that was really the seeds

وأعتقد أن هذا كان حقًا منبع اهتمامي

of my interest that later grew

into an interest in artificial intelligence.

الذي نما لاحقًا إلى الاهتمام بالذكاء الاصطناعي.

CA: Because in your standard education, you had some challenges there.

في تعليمك الاعتيادي، واجهت بعض التحديات هناك.

SL: Yeah, I was dyslexic as a child.

نعم، كنت أعاني من عسر القراءة عندما كنت طفلاً.

And so they were actually going to hold me back a year

ولذا كانوا في الواقع سيؤخرونني لمدة عام

when I was 10 years old,

عندما كنت في العاشرة من عمري،

and they sent me off to get my IQ tested to sort of,

وأرسلوني لإجراء اختبار الذكاء لتقييم مدى سوء المشكلة.

you know, assess how bad the problem was.

And they discovered I had an exceptionally high IQ.

واكتشفوا أن لدي معدل ذكاء مرتفع بشكل استثنائي.

And then they were a little bit confused about what was going on.

ثم شعروا بالارتباك قليلاً بشأن ما يجري.

And fortunately, at that time,

ولحسن الحظ، في ذلك الوقت،

there was somebody in the town I lived in

كان هناك شخص ما في المدينة التي عشت فيها

who knew how to test for dyslexia.

يعرف كيفية اختبار عسر القراءة.

And it turns out I wasn't actually of limited intelligence.

واتضح أنني لم أكن في الواقع ذا ذكاء محدود.

I was dyslexic, and that was the issue.

كنت أعاني من عسر القراءة، وكانت هذه هي المشكلة.

CA: You had reason from an early age to believe

كان لديك سبب منذ سن مبكرة للاعتقاد بأن افتراضاتنا القياسية حول الذكاء

that our standard assumptions about intelligence might be off a bit.

قد تكون خاطئة بعض الشيء.

SL: Well, I had reason, from an early age, to sometimes doubt authority.

حسنًا، كان لدي سبب منذ سن مبكرة للشك أحيانًا في السلطة.

(Laughter)

(ضحك)

You know, if the teacher thinks you're dumb, maybe it's not true.

كما تعلمون، إذا كان المعلم يعتقد أنك غبي، فربما هذا ليس صحيحًا.

Maybe there are other things going on.

ربما هناك أشياء أخرى تحدث.

But I think it also created in me an interest in intelligence

لكنني أعتقد أنه خلق في داخلي أيضًا اهتمامًا بالذكاء

when I sort of had that experience as a child.

عندما مررت بهذه التجربة عندما كنت طفلاً.

CA: So you're credited by many

ينسب إليك الكثيرون الفضل

as coining the term “artificial general intelligence,” AGI.

في صياغة مصطلح "الذكاء العام الاصطناعي" أو "AGI"

Tell us about 2001, how that happened.

أخبرنا عن عام 2001، كيف حدث ذلك.

SL: Yeah, so I was approached by someone called Ben Goertzel

نعم، اتصل بي شخص يدعى بن جورتزل الذي كنت أعمل معه بالفعل،

who I'd actually been working with,

and he was going to write a book,

وكان سيكتب كتابًا،

and he was thinking about a book on AI systems

كان يفكر في كتاب عن أنظمة الذكاء الاصطناعي سيكون أكثر عمومية وقدرة،

that would be much more general and capable,

rather than focusing on very narrow things.

بدلاً من التركيز على أشياء محدودة جدًا.

And he was thinking about a title for the book.

وكان يفكر في عنوان للكتاب.

لذا اقترحت عليه، إذا كنت مهتمًا بأنظمة عامة جدًا،

So I suggested to him, "If you're interested in very general systems,

أطلق عليها اسم "الذكاء العام الاصطناعي".

call it artificial general intelligence."

لذا، فقد وافق على ذلك.

And so he went with that.

And then him and various other people started using the term online

ثم بدأ هو والعديد من الأشخاص الآخرين في استخدام المصطلح عبر الإنترنت.

and the internet,

ثم أصبح نوعًا ما شائعًا.

and then it sort of became popularized from there.

اكتشفنا لاحقًا أن هناك شخصًا يدعى مايك جارود،

We later discovered there was someone called Mike Garrod,

نشر ورقة بحثية في مجلة تكنولوجيا النانو الأمنية في عام 1997.

who published a paper in a security nanotech journal in '97.

So he is actually the first person to have used the term.

لذا فهو في الواقع أول شخص يستخدم هذا المصطلح.

But it turns out he pretty much meant the same thing as us anyway.

ولكن اتضح أنه كان يعني إلى حد كبير نفس الشيء مثلنا على أي حال.

CA: It was kind of an idea whose time had come,

لقد كانت نوعاً ما فكرة قد جاء وقتها للتعرف على الإمكانات الموجودة.

to recognize the potential here.

I mean, you made an early prediction that many people thought was bonkers.

أعني، لقد قمت بتنبؤ مبكر اعتقد الكثير من الناس أنه مجنون.

What was that?

ماذا كان ذلك؟

SL: Well, in about 2001,

حسنًا، في عام 2001 تقريبًا،

a similar time to when I suggested this term artificial general intelligence,

وهو وقت مشابه للوقت الذي اقترحت فيه مصطلح الذكاء العام الاصطناعي،

I read a book by Ray Kurzweil, actually, "Age of Spiritual Machines,"

قرأت في الواقع كتابًا لراي كورزويل، "عصر الآلات الروحية"

and I concluded that he was fundamentally right,

وخلصت إلى أنه كان محقًا بشكل أساسي،

that computation was likely to grow exponentially for at least a few decades,

أن الحوسبة من المرجح أن تنمو بشكل كبير لبضعة عقود على الأقل،

and the amount of data in the world would grow exponentially

وأن كمية البيانات في العالم ستنمو بشكل كبير لبضعة عقود.

for a few decades.

And so I figured that if that was going to happen,

ولذا اكتشفت أنه إذا كان ذلك سيحدث،

then the value of extremely scalable algorithms

فإن قيمة الخوارزميات القابلة للتطوير بدرجة كبيرة

that could harness all this data and computation

والتي يمكنها تسخير كل هذه البيانات والحسابات ستكون عالية جدًا.

were going to be very high.

And then I also figured that in the mid 2020s,

ثم اكتشفت أيضًا أنه في منتصف عام 2020، سيكون من الممكن بعد ذلك،

it would be possible then,

if we had these highly scalable algorithms,

إذا كانت لدينا هذه الخوارزميات القابلة للتطوير بدرجة كبيرة،

to train artificial intelligence systems

تدريب أنظمة الذكاء الاصطناعي على بيانات أكثر الإنسان سوف تواجه في العمر.

on far more data than a human would experience in a lifetime.

And so as a result of that,

ونتيجة لذلك،

you can find it on my blog from about 2009

يمكنك العثور عليها على مدونتي منذ عام 2009 تقريبًا،

I think it's the first time I publicly talked about it,

وأعتقد أنها المرة الأولى التي أتحدث فيها علنًا عن ذلك،

I predicted a 50 percent chance of AGI by 2028.

وتوقعت فرصة بنسبة 50 بالمائة لـAGI بحلول عام 2028.

I still believe that today.

ما زلت أعتقد ذلك اليوم.

CA: That's still your date.

CA: لا يزال هذا هو موعدك.

How did you define AGI back then, and has your definition changed?

كيف قمت بتعريف الذكاء الاصطناعي العام في ذلك الوقت، وهل تغير تعريفك؟

SL: Yeah, I didn't have a particularly precise definition at the beginning.

SL: نعم، لم يكن لدي تعريف دقيق بشكل خاص في البداية.

It was really just an idea of systems that would just be far more general.

لقد كانت حقًا مجرد فكرة عن أنظمة ستكون أكثر عمومية بكثير.

So rather than just playing Go or chess or something,

لذا بدلاً من مجرد لعب Go أو الشطرنج أو ما شابه،

rather than actually be able to do many, many different things.

بدلاً من أن تكون قادرًا على القيام بالعديد من أشياء مختلفة.

The definition I use now is that it's a system

التعريف الذي أستخدمه الآن هو أنه نظام

that can do all the cognitive kinds of tasks

يمكنها القيام بجميع الأنواع المعرفية من المهام

that people can do, possibly more,

التي يمكن للناس القيام بها، وربما أكثر من ذلك،

but at least it can do the sorts of cognitive tasks

ولكن على الأقل يمكنها القيام بأنواع المهام المعرفية

that people can typically do.

التي يمكن للناس القيام بها عادةً.

CA: So talk about just the founding of DeepMind

CA: لذا تحدث فقط عن تأسيس DeepMind

and the interplay between you and your cofounders.

والتفاعل بينك وبين المؤسسين.

SL: Right. So I went to London to the place called the Gatsby Unit,

SL: صحيح. لذلك ذهبت إلى لندن إلى مكان يسمى وحدة غاتسبي،

which studies theoretical neuroscience and machine learning.

التي تدرس علم الأعصاب النظري والتعلم الآلي.

And I was interested in learning the relationships

وكنت مهتمًا بتعلم العلاقات

between what we understand about the brain

بين ما نفهمه عن الدماغ

and what we know from machine learning.

وما نعرفه من التعلم الآلي.

So that seemed like a really good place.

لذلك بدا هذا وكأنه مكان جيد حقًا.

And I met Demis Hassabis there.

وقابلت ديميس حسابيس هناك.

He had the same postdoc supervisor as me,

كان لديه نفس مشرف ما بعد الدكتوراة مثلي،

and we got talking.

وتحدثنا.

And he convinced me

وأقنعني

that it was the time to start a company then.

أن الوقت قد حان لبدء شركة في ذلك الوقت.

That was in 2009 we started talking.

كان ذلك في عام 2009 بدأنا الحديث.

And I was a little bit skeptical.

وكنت متشككًا بعض الشيء.

I thought AGI was still a bit too far away,

اعتقدت أن الذكاء الاصطناعي العام لا يزال بعيدًا جدًا،

but he thought the time was right, so we decided to go for it.

لكنه اعتقد أن الوقت قد حان، لذلك قررنا المضي قدمًا.

And then a friend of his was Mustafa Suleyman.

ثم كان صديق له مصطفى سليمان.

CA: And specifically, one of the goals of the company

CA: وعلى وجه التحديد، كان أحد أهداف الشركة

was to find a pathway to AGI?

إيجاد مسار إلى الذكاء الاصطناعي العام؟

SL: Absolutely.

SL: بالتأكيد.

On our first business plan that we were circulating

في خطة عملنا الأولى التي قمنا بتوزيعها

when we were looking for investors in 2010,

عندما كنا نبحث عن مستثمرين في عام 2010،

it had one sentence on the front cover and it said,

كانت تحتوي على جملة واحدة على الغلاف الأمامي تقول

"Build the world's first artificial general intelligence."

: «قم ببناء أول ذكاء اصطناعي عام في العالم».

So that was right in from the beginning.

لذلك كان ذلك صحيحًا منذ البداية.

CA: Even though you knew

CA: على الرغم من أنك تعرف

that building that AGI might actually have

أن بناء هذا الذكاء الاصطناعي العام قد يكون له بالفعل عواقب

apocalyptic consequences in some scenarios?

مروعة في بعض السيناريوهات؟

SL: Yeah.

SL: نعم.

So it's a deeply transformative technology.

لذا فهي تقنية تحويلية للغاية.

I believe it will happen.

أعتقد أن ذلك سيحدث.

I think that, you know,

أعتقد أنه، كما تعلمون،

these algorithms can be understood and they will be understood at the time.

يمكن فهم هذه الخوارزميات وسيتم فهمها في ذلك الوقت.

And I think that intelligence is fundamentally

وأعتقد أن الذكاء هو في الأساس

an incredibly valuable thing.

شيء قيم للغاية.

Everything around us at the moment -- the building we’re in,

كل شيء حولنا في الوقت الحالي -- المبنى الذي نحن

the words I’m using, the concepts we have, the technology around us --

فيه، الكلمات التي أستخدمها، المفاهيم التي لدينا، التكنولوجيا من حولنا -- كما

you know, all of these things are being affected by intelligence.

تعلمون، كل هذه الأشياء تتأثر بالذكاء.

So having intelligence in machines

لذا فإن امتلاك الذكاء في الآلات

is an incredibly valuable thing to develop.

يعد أمرًا قيمًا للغاية لتطويره.

And so I believe it is coming.

ولذا أعتقد أنه قادم.

Now when a very, very powerful technology arises,

الآن عندما تظهر تقنية قوية جدًا، يمكن أن تكون

there can be a range of different outcomes.

هناك مجموعة من النتائج المختلفة.

Things could go very, very well,

يمكن أن تسير الأمور بشكل جيد للغاية،

but there is a possibility things can go badly as well.

ولكن هناك احتمال أن تسوء الأمور أيضًا.

And that was something I was aware of also from about 20 years ago.

وكان هذا شيئًا كنت على دراية به أيضًا منذ حوالي 20 عامًا.

CA: So talk about, as DeepMind developed,

CA: لذا تحدث عن، مع تطور DeepMind،

was there a moment where you really felt,

هل كانت هناك لحظة شعرت فيها حقًا،

"My goodness, we're onto something unbelievably powerful?"

«يا إلهي، نحن بصدد شيء قوي بشكل لا يصدق؟»

Like, was it AlphaGo, that whole story, or what was the moment for you?

مثل، هل كانت AlphaGo، تلك القصة بأكملها، أو ما هي اللحظة المناسبة لك؟

SL: Yeah, there were many moments over the years.

SL: نعم، كانت هناك لحظات عديدة على مر السنين.

One was when we did the Atari games.

كان أحدهما عندما قمنا بألعاب أتاري.

Have you seen those videos

هل شاهدت مقاطع الفيديو هذه

where we had an algorithm that could learn to play multiple games

حيث كانت لدينا خوارزمية يمكنها تعلم لعب ألعاب متعددة

without being programmed for any specific game?

دون أن تتم برمجتها لأي لعبة معينة؟

There were some exciting moments there.

كانت هناك بعض اللحظات المثيرة هناك.

Go, of course, was a really exciting moment.

الذهاب، بالطبع، كانت لحظة مثيرة حقًا.

But I think the thing that's really captured my imagination,

لكنني أعتقد أن الشيء الذي استحوذ على مخيلتي حقًا،

a lot of people's imagination,

وهو خيال الكثير من الناس،

is the phenomenal scaling of language models in recent years.

هو التوسع الهائل لنماذج اللغة في السنوات الأخيرة.

I think we can see they're systems

أعتقد أننا نستطيع أن نرى أنها أنظمة

that really can start to do some meaningful fraction

يمكنها حقًا البدء في القيام بجزء ذي مغزى

of the cognitive tasks that people can do.

من المهام المعرفية التي يمكن للناس القيام بها.

CA: Now, you were working on those models,

CA: الآن، كنت تعمل على هذه النماذج،

but were you, to some extent, blindsided

ولكن هل صُدمت، إلى حد ما،

by OpenAI's, sort of, sudden unveiling of ChatGPT?

من كشف OpenAI المفاجئ نوعًا ما عن ChatGPT؟

SL: Right.

SL: صحيح.

We were working on them and you know,

كنا نعمل عليها وكما تعلمون،

the transformer model was invented in Google,

تم اختراع نموذج المحول في Google،

and we had teams who were building big transformer language models and so on.

وكان لدينا فرق تقوم ببناء نماذج لغة محولات كبيرة وما إلى ذلك.

CA: Google acquired DeepMind at some point in this journey.

CA: استحوذت Google على DeepMind في مرحلة ما من هذه الرحلة.

SL: Yeah, exactly.

SL: نعم، بالضبط.

And so what I didn't expect

ولذا فإن ما لم أتوقعه

was just how good a model could get training purely on text.

هو مدى جودة تدريب النموذج على النص فقط.

I thought you would need more multimodality.

اعتقدت أنك ستحتاج إلى المزيد من الوسائط المتعددة.

You'd need images, you'd need sound, you'd need video and things like that.

ستحتاج إلى صور، صوت، ستحتاج إلى فيديو وأشياء من هذا القبيل.

But due to the absolutely vast quantities of text,

ولكن نظرًا للكميات الهائلة من النصوص،

it can sort of compensate for these things to an extent.

يمكنها نوعًا ما التعويض عن هذه الأشياء إلى حد ما.

I still think you see aspects of this.

ما زلت أعتقد أنك ترى جوانب من هذا.

I think language models tend to be weak in areas

أعتقد أن نماذج اللغة تميل إلى أن تكون ضعيفة في المجالات

that are not easily expressed in text.

التي لا يمكن التعبير عنها بسهولة في النص.

But I don’t think this is a fundamental limitation.

لكنني لا أعتقد أن هذا قيد أساسي.

I think we're going to see these language models expanding into video

أعتقد أننا سنرى نماذج اللغة هذه تتوسع في الفيديو والصور

and images and sound and all these things,

والصوت وكل هذه الأشياء،

and these things will be overcome in time.

وسيتم التغلب على هذه الأشياء في الوقت المناسب.

CA: So talk to us, Shane,

لذا تحدث إلينا، شين،

about the things that you, at this moment,

عن الأشياء التي تشعر، في هذه اللحظة،

passionately feel that the world needs to be thinking about more cogently.

بشغف أن العالم بحاجة إلى التفكير فيها بشكل أكثر إقناعًا.

SL: Right.

SL: صحيح.

So I think that very, very powerful,

لذلك أعتقد أن الذكاء الاصطناعي القوي

very intelligent artificial intelligence is coming.

جدًا والذكي جدًا قادم.

I think that this is very, very likely.

أعتقد أن هذا أمر محتمل للغاية.

I don't think it's coming today.

لا أعتقد أنه سيأتي اليوم.

I don't think it's coming next year or the year after.

لا أعتقد أنه سيأتي العام المقبل أو العام الذي يليه.

It's probably a little bit further out than that.

ربما يكون الأمر أبعد قليلاً من ذلك.

CA: 2028?

السيارة: 2028؟

SL: 2028, that's a 50 percent chance.

س ل: 2028، هذه فرصة بنسبة 50 بالمئة.

So, you know, if it doesn't happen in 2028,

لذا، إذا لم يحدث ذلك في عام 2028،

I'm not going to be surprised, obviously.

فلن أتفاجأ، بالطبع.

CA: And when you say powerful,

CA: وعندما تقول قويًا،

I mean there's already powerful AI out there.

أعني أن هناك بالفعل ذكاءً اصطناعيًا قويًا.

But you're saying basically a version

لكنك تقول أساسًا أن نسخة

of artificial general intelligence is coming.

من الذكاء العام الاصطناعي قادمة.

SL: Yeah.

SL: نعم.

CA: So give us a picture of what that could look like.

CA: لذا أعطنا صورة لما يمكن أن يبدو عليه ذلك.

SL: Well, if you had an artificial general intelligence,

SL: حسنًا، إذا كان لديك ذكاء عام اصطناعي،

you could do all sorts of amazing things.

فيمكنك القيام بكل أنواع الأشياء المدهشة.

Just like human intelligence is able to do many, many amazing things.

تمامًا مثل الذكاء البشري قادر على القيام بالعديد من الأشياء المدهشة.

So it's not really about a specific thing,

لذا فإن الأمر لا يتعلق حقًا بشيء معين،

that's the whole point of the generality.

هذا هو بيت القصيد من العمومية.

But to give you one example,

ولكن لإعطائك مثالاً واحدًا،

we developed the system AlphaFold,

قمنا بتطوير نظام AlphaFold،

which will take a protein and compute, basically, the shape of that protein.

والذي سيأخذ بروتينًا ويحسب، بشكل أساسي، شكل ذلك البروتين.

And that enables you to do all sorts of research

وهذا يمكّنك من إجراء جميع أنواع

into understanding biological processes,

الأبحاث لفهم العمليات البيولوجية

developing medicines and all kinds of things like that.

وتطوير الأدوية وجميع أنواع الأشياء من هذا القبيل.

Now, if you had an AGI system,

إذا لديك نظام ذكاء اصطناعي،

instead of requiring what we had at DeepMind,

فبدلاً من طلب ما كان لدينا في DeepMind،

about roughly 30 world-class scientists

ما يقرب من 30 عالمًا من الطراز العالمي

working for about three years to develop that,

يعملون لمدة ثلاث سنوات تقريبًا لتطوير ذلك،

maybe you could develop that with just a team

ربما يمكنك تطوير ذلك مع فريق

of a handful of scientists in one year.

من حفنة من العلماء في عام واحد.

So imagine these, sort of, AlphaFold-level developments

لذا تخيل أن هذه التطورات على مستوى AlphaFold

taking place around the world on a regular basis.

تحدث في جميع أنحاء العالم على أساس منتظم.

This is the sort of thing that AGI could enable.

هذا هو نوع الشيء الذي يمكن لـ AGI تمكينه.

CA: So within months of AGI being with us, so to speak,

CA: لذلك في غضون أشهر من وجود الذكاء الاصطناعي معنا، إذا جاز التعبير،

it's quite possible that some of the scientific challenges

من المحتمل جدًا

that humans have wrestled with for decades, centuries, if you like,

أن تبدأ بعض التحديات العلمية التي واجهها البشر لعقود أو قرون، إذا أردت،

will start to tumble in rapid succession.

في التراجع في تتابع سريع.

SL: Yeah, I think it'll open up all sorts of amazing possibilities.

SL: نعم، أعتقد أنه سيفتح كل أنواع الاحتمالات المذهلة.

And it could be really a golden age of humanity

ويمكن أن يكون حقًا عصرًا ذهبيًا للبشرية

where human intelligence,

حيث يمكّننا الذكاء البشري،

which is aided and extended with machine intelligence,

المدعوم والموسع بالذكاء الآلي،

enables us to do all sorts of fantastic things

من القيام بكل أنواع الأشياء الرائعة

and solve problems that previously were just intractable.

وحل المشكلات التي كانت في السابق مستعصية على الحل.

CA: So let's come back to that.

CA: لذلك دعونا نعود إلى ذلك.

But I think you also,

لكنني أعتقد أنك أيضًا،

you're not like, an irredeemable optimist only,

لست مثل، متفائل لا يمكن إصلاحه فقط،

you see a potential for it to go very badly in a different direction.

ترى إمكانية أن تسير الأمور بشكل سيء للغاية في اتجاه مختلف.

Talk about what that pathway could look like.

تحدث عن الشكل الذي يمكن أن يبدو عليه هذا المسار.

SL: Well, yeah, I want to explain.

SL: حسنًا، نعم، أريد أن أشرح.

I don't believe the people

لا أصدق الأشخاص

who are sure that it's going to go very well,

الذين هم على يقين أن الأمور ستسير على ما يرام،

and I don't believe the people

ولا أصدق الأشخاص

who are sure that it’s going to go very, very badly.

الذين هم على يقين من أنها ستسير بشكل سيء للغاية.

Because what we’re talking about is an incredibly profound transition.

لأن ما نتحدث عنه هو انتقال عميق بشكل لا يصدق.

It's like the arrival of human intelligence in the world.

إنه مثل وصول الذكاء البشري إلى العالم.

This is another intelligence arriving in the world.

هذا ذكاء آخر يصل إلى العالم.

And so it is an incredibly deep transition,

وبالتالي فهو انتقال عميق بشكل لا يصدق،

and we do not fully understand all the implications

ونحن لا نفهم تمامًا جميع الآثار

and consequences of this.

والعواقب المترتبة على ذلك.

And so we can't be certain

ولذا لا يمكننا التأكد من

that it's going to be this, that or the other thing.

أنه سيكون هذا أو ذاك أو الشيء الآخر.

So we have to be open-minded about what may happen.

لذلك علينا أن نكون متفتحين بشأن ما قد يحدث.

I have some optimism because I think

لدي بعض التفاؤل لأنني أعتقد

that if you want to make a system safe,

أنه إذا كنت ترغب في جعل النظام آمنًا،

you need to understand a lot about that system.

فأنت بحاجة إلى فهم الكثير عن هذا النظام.

You can't make an airplane safe

لا يمكنك جعل الطائرة آمنة

if you don't know about how airplanes work.

إذا كنت لا تعرف كيفية عمل الطائرات.

So as we get closer to AGI,

لذلك مع اقترابنا من الذكاء الاصطناعي العام،

we will understand more and more about these systems,

سنفهم المزيد والمزيد عن هذه الأنظمة،

and we will see more ways to make these systems safe,

وسنرى المزيد من الطرق لجعل هذه الأنظمة آمنة، وإنشاء

make highly ethical AI systems.

أنظمة ذكاء اصطناعي أخلاقية للغاية.

But there are many things we don't understand about the future.

ولكن هناك العديد من الأشياء التي لا نفهمها عن المستقبل.

So I have to accept that there is a possibility that things may go badly

لذلك يجب أن أقبل أن هناك احتمال أن تسوء الأمور

because I don't know what's going to happen.

لأنني لا أعرف ما الذي سيحدث.

I can't know that about the future in such a big change.

لا أستطيع أن أعرف ذلك عن المستقبل في مثل هذا التغيير الكبير.

And even if the probability of something going bad is quite small,

وحتى لو كان احتمال حدوث شيء سيئ صغيرًا جدًا، يجب أن

we should take this extremely seriously.

نأخذ هذا الأمر على محمل الجد.

CA: Paint a scenario of what going bad could look like.

CA: ارسم سيناريو لما يمكن أن يبدو عليه الأمر السيئ.

SL: Well, it's hard to do

SL: حسنًا، من الصعب القيام بذلك

because you're talking about systems

لأنك تتحدث عن أنظمة يحتمل

that potentially have superhuman intelligence, right?

أن تمتلك ذكاءً خارقًا، أليس كذلك؟

So there are many ways in which things would go bad in the world.

لذلك هناك العديد من الطرق التي قد تسوء بها الأمور في العالم.

People sometimes point to, I don't know, engineered pathogens, right?

يشير الناس أحيانًا إلى، لا أعرف، مسببات الأمراض المهندسة، أليس كذلك؟

Maybe a superintelligence could design an engineered pathogen.

ربما يمكن للذكاء الخارق أن يصمم مسببًا هندسيًا.

It could be much more mundane things.

يمكن أن تكون أشياء أكثر دنيوية بكثير.

Maybe with AGI, you know,

ربما مع الذكاء الاصطناعي العام، كما تعلمون،

it gets used to destabilize democracy in the world,

يتم استخدامه لزعزعة استقرار الديمقراطية في العالم،

with, you know, propaganda or all sorts of other things like that.

مع، كما تعلمون، الدعاية أو كل أنواع الأشياء الأخرى من هذا القبيل.

We don't know --

لا نعرف -

CA: That one might already have happened.

كاليفورنيا: ربما حدث ذلك بالفعل.

SL: There might be happening a bit already.

SL: قد يحدث بعض الشيء بالفعل.

But, you know, there may be a lot more of this

ولكن، كما تعلمون، قد يكون هناك الكثير من هذا

if we have more powerful systems.

إذا كان لدينا أنظمة أكثر قوة.

So there are many ways in which societies can be destabilized.

هناك العديد من الطرق يمكن من خلالها زعزعة استقرار المجتمعات.

And you can see that in the history books.

ويمكنك أن ترى ذلك في كتب التاريخ.

CA: I mean, Shane, if you could have asked all humans,

أعني، شين، إذا كان بإمكانك أن تسأل جميع البشر، على

say, 15 years ago, OK, we can open a door here,

سبيل المثال، قبل 15 عامًا، حسنًا، يمكننا فتح باب هنا،

and opening this door could lead to the best-ever outcomes for humanity.

وفتح هذا الباب يمكن أن يؤدي إلى أفضل النتائج على الإطلاق للبشرية.

But there's also a meaningful chance,

ولكن هناك أيضًا فرصة ذات مغزى،

let's say it's more than five percent,

لنفترض أنها تزيد عن خمسة بالمائة،

that we could actually destroy our civilization.

أن نتمكن بالفعل من تدمير حضارتنا.

I mean, isn't there a chance that most people would have actually said,

أعني، أليس هناك احتمال أن يقول معظم الناس بالفعل،

"Don't you dare open that damn door.

«لا تجرؤ على فتح هذا الباب اللعين.

Let's wait."

دعونا ننتظر.»

SL: If I had a magic wand and I could slow things down,

SL: إذا كان لدي عصا سحرية واستطعت إبطاء الأمور،

I would use that magic wand, but I don't.

فسأستخدم تلك العصا السحرية، لكنني لا أملكها.

There are dozens of companies,

هناك العشرات من الشركات،

well, there's probably 10 companies in the world now

حسنًا، ربما هناك 10 شركات في العالم الآن

that can develop the most cutting-edge models, including, I think,

يمكنها تطوير أحدث النماذج، بما في ذلك، على ما أعتقد،

some national intelligence services who have secret projects doing this.

بعض أجهزة المخابرات الوطنية التي لديها مشاريع سرية تقوم بذلك.

And then there's, I don't know,

ثم هناك، لا أعرف،

dozens of companies that can develop something that's a generation behind.

عشرات الشركات التي يمكنها تطوير شيء يتخلف عنه جيل.

And remember, intelligence is incredibly valuable.

وتذكر أن الذكاء ذو قيمة لا تصدق.

It's incredibly useful.

إنه مفيد للغاية.

We're doing this

نحن نقوم بذلك

because we can see all kinds of value that can be created in this

لأنه يمكننا رؤية جميع أنواع القيمة التي يمكن إنشاؤها في هذا

for all sorts of reasons.

لجميع أنواع الأسباب.

How do you stop this process?

كيف يمكنك إيقاف هذه العملية؟

I don't see any realistic plan that I've heard of,

لا أرى أي خطة واقعية سمعت عنها

of stopping this process.

لوقف هذه العملية.

Maybe we can --

ربما يمكننا -

I think we should think about regulating things.

أعتقد أننا يجب أن نفكر في تنظيم الأشياء.

I think we should do things like this as we do with every powerful technology.

أعتقد أننا يجب أن نفعل أشياء كهذه كما نفعل مع كل تقنية قوية.

There's nothing special about AI here.

لا يوجد شيء مميز حول الذكاء الاصطناعي.

People talk about, oh, you know, how dare you talk about regulating this?

يتحدث الناس عن، أوه، كما تعلمون، كيف تجرؤ على الحديث عن تنظيم هذا؟

No, we regulate powerful technologies all the time in the interests of society.

لا، نحن ننظم التقنيات القوية طوال الوقت لصالح المجتمع.

And I think this is a very important thing that we should be looking at.

وأعتقد أن هذا أمر مهم للغاية يجب أن ننظر إليه.

CA: It's kind of the first time we have this superpowerful technology out there

CA: إنها المرة الأولى التي نمتلك فيها هذه التكنولوجيا فائقة القوة

that we literally don't understand in full how it works.

التي لا نفهم حرفيًا كيفية عملها بالكامل.

Is the most single, most important thing we must do, in your view,

هل الشيء الوحيد والأكثر أهمية الذي يجب علينا القيام به،

to understand, to understand better what on Earth is going on,

من وجهة نظرك، لفهم ما يجري على الأرض بشكل أفضل،

so that we least have a shot at pointing it in the right direction?

حتى لا تكون لدينا فرصة لتوجيهه في الاتجاه الصحيح؟

SL: There is a lot of energy behind capabilities at the moment

SL: هناك الكثير من الطاقة وراء القدرات في الوقت الحالي

because there's a lot of value in developing the capabilities.

لأن هناك الكثير من القيمة في تطوير القدرات.

I think we need to see a lot more energy going into actual science,

أعتقد أننا بحاجة إلى رؤية المزيد من الطاقة التي تذهب إلى العلوم الفعلية،

understanding how these networks work,

وفهم كيفية عمل الشبكات،

what they're doing, what they're not doing,

وما تفعل، وما لا تفعل،

where they're likely to fail,

وأين من المحتمل أن تفشل،

and understanding how we put these things together

وفهم كيفية تجميع هذه الأشياء معًا

so that we're able to find ways

حتى نتمكن من إيجاد طرق

to make these AGI systems profoundly ethical and safe.

لجعل أنظمة الذكاء الاصطناعي العام هذه أخلاقية وآمنة للغاية.

I believe it's possible.

أعتقد أن ذلك ممكن.

But we need to mobilize more people's minds and brains

لكننا نحتاج إلى تعبئة المزيد من عقول وعقول الناس

to finding these solutions

لإيجاد هذه الحلول

so that we end up in a future

حتى ينتهي بنا المطاف في مستقبل

where we have incredibly powerful machine intelligence

نمتلك فيه ذكاء آلي قوي للغاية

that's also profoundly ethical and safe,

وهو أيضًا أخلاقي وآمن للغاية،

and it enhances and extends humanity

ويعزز ويوسع البشرية

into, I think, a new golden period for humanity.

إلى، على ما أعتقد، فترة ذهبية جديدة للبشرية.

CA: Shane, thank you so much for sharing that vision

شين، شكرًا جزيلاً لك على مشاركة هذه الرؤية والقدوم إلى تيد.

and coming to TED.

(Applause)

(تصفيق)