Should we create superintelligent AI?

المترجم: Malak Kamal المدقّق: Walaa Mohammed

Maybe I'm not the best library assistant.

ربما لست أفضل مساعد مكتبة.

Could artificial intelligence do it better?

هل يمكن للذكاء الاصطناعي أن يفعل ذلك بشكل أفضل؟

I’d like to think of myself as irreplaceable, but let’s see.

أود أن أفكر في نفسي على أنه لا يمكن الاستغناء عنه، ولكن دعونا نرى.

Maybe getting fired was the push I needed to find the perfect job for me.

ربما كان الطرد هو الدافع الذي احتاجه للعثور على الوظيفة المثالية بالنسبة لي.

As long as I find it quickly.

طالما أجدها بسرعة.

And don’t spend any money in the meantime.

ولا تنفق أي أموال في هذه الأثناء.

Luckily, there's somewhere I can sit and work all day without buying anything.

لحسن الحظ، هناك مكان يمكنني الجلوس فيه والعمل طوال اليوم دون شراء أي شيء.

Ada? I thought I was clear—

آدا؟ اعتقدت أنني كنت واضحًا -

your employment here is over.

عملك هنا قد انتهى.

Oh, I'm not here as an employee. This is a public library, after all.

أوه، أنا لست هنا كموظف. هذه مكتبة عامة، بعد كل شيء.

Right. How to make one month as a library assistant

حق. كيف تجعل شهرًا واحدًا كمساعد مكتبة

sound like the 3 to 5 years of experience

يبدو وكأنه 3 إلى 5 سنوات من الخبرة التي يبدو أن

every entry level job seems to require?

كل وظيفة على مستوى مبتدئ تتطلبها؟

Shh!

شش!

Dealt with an overbearing, rule-obsessed boss...

تعاملت مع رئيس متعجرف مهووس بالقواعد...

No, no. Ugh.

لا، لا.

Let’s see how an AI does with writing my resume.

دعونا نرى كيف يعمل الذكاء الاصطناعي في كتابة سيرتي الذاتية.

Okay. I checked out lots of books.

حسنًا. لقد راجعت الكثير من الكتب.

Make that sound impressive.

اجعل هذا الصوت مثيرًا للإعجاب.

Ooh! “Expedited seamless intellectual asset transactions.”

أووه! «معاملات الأصول الفكرية المعجلة والسلسة.»

Excellent. Okay, how about “sat at reception”?

ممتازة. حسنًا، ماذا عن «جلست في مكتب الاستقبال»؟

Oh! “Frontline client liaison.”

أوه! «الاتصال بالعملاء في الخطوط الأمامية».

Good, good. That’s great!

جيد، جيد. هذا رائع!

Maybe too good.

ربما جيد جدًا.

Even if I get one of these jobs,

حتى لو حصلت على واحدة من هذه الوظائف،

what if I pay my dues only to have AI outpace me?

ماذا لو دفعت مستحقاتي فقط حتى يتفوق الذكاء الاصطناعي عليّ؟

What if, by the time I hone my skills,

ماذا لو لم يعد

humans aren’t doing writing and research anymore?

البشر يقومون بالكتابة والبحث بعد الآن بحلول الوقت الذي أصقل فيه مهاراتي؟

Maybe I should work directly on AI.

ربما يجب أن أعمل مباشرةّ على الذكاء الاصطناعي.

Then at least I’d be helping determine the course of the future

ثم على الأقل سأساعد في تحديد مسار المستقبل

instead of being left behind.

بدلًا من التخلف عن الركب.

Like, say I created an AI librarian.

مثل، لنفترض أنني أنشأت أمين مكتبة للذكاء الاصطناعي.

That actually doesn’t seem too far-fetched.

هذا في الواقع لا يبدو بعيد المنال.

To make my system more powerful I have to, well...

لجعل نظامي أكثر قوة، لا بد لي من ذلك، حسنًا...

keep adding more simulated neurons for starters.

استمر في إضافة المزيد من الخلايا العصبية المحاكاة للمبتدئين.

Soon my AI system is a better librarian than my old boss.

سرعان ما أصبح نظام الذكاء الاصطناعي الخاص بي أمين مكتبة أفضل من مديري القديم.

But you know what? I'm feeling generous.

ولكن هل تعرف ماذا؟ أشعر بالسخاء.

Why don't you stay as my assistant?

لماذا لا تبقى كمساعد لي؟

You can help me test your replacement.

يمكنك مساعدتي في اختبار البديل الخاص بك.

Hmph.

امم.

What should I name it?

ماذا يجب أن أسميها؟

What's a good name for a great librarian?

ما هو الاسم الجيد لأمين مكتبة عظيم؟

No ideas? I like Biblionimus Maximus.

لا توجد أفكار؟ أنا أحب بيبليونيموس ماكسيموس.

Hmm. Let's try a prompt.

هممم. دعونا نجرب المطالبة.

Who invented artificial intelligence?

من اخترع الذكاء الاصطناعي؟

Include citations.

قم بتضمين الاقتباسات.

Biblionimus says the first theoretical descriptions of AI

يقول Biblionimus إن الأوصاف النظرية الأولى للذكاء الاصطناعي

were “Comments on a Thinking Machine” by Ada Lovelace in 1840,

كانت «التعليقات على آلة التفكير» بواسطة Ada Lovelace في عام 1840،

and “Machine Intelligence” by Alan Turing in 1927.

و «الذكاء الآلي» بواسطة آلان تورينج في عام 1927.

See? Nailed it!

ترى؟ نجحت في ذلك!

Not quite.

ليس تمامًا.

Lovelace’s “Notes on an Analytical Engine” were published in 1843.

تم نشر «ملاحظات حول محرك تحليلي» لوفليس في عام 1843.

Alan Turing’s paper was called “Computing Machinery and Intelligence,”

كانت ورقة آلان تورينج تسمى «آلات الحوسبة والذكاء»،

and it was published in 1950.

وتم نشرها في عام 1950.

Isn’t that what Biblionimus said?

أليس هذا ما قاله بيبليونيموس؟

No. I can see how it sounds that way to you,

لا. أستطيع أن أرى كيف يبدو الأمر بهذه الطريقة بالنسبة لك،

but every element was slightly wrong.

لكن كل عنصر كان خاطئًا بعض الشيء.

But what about the citations?

ولكن ماذا عن الاقتباسات؟

Completely fabricated.

ملفقة بالكامل.

Look, it even made up ISBN numbers.

انظروا، حتى أنها شكلت أرقام ISBN.

Clearly, it's not ready to replace human librarians if it needs an expert

من الواضح أنها ليست جاهزة لاستبدال أمناء المكتبات البشرية إذا كانت بحاجة

to check its work.

إلى خبير للتحقق من عملها.

We’re still training Biblionimus.

ما زلنا ندرب بيبليونيموس.

It’ll improve.

سوف تتحسن.

Hmph.

امم.

In time, my system stops producing bogus results.

بمرور الوقت، يتوقف نظامي عن إنتاج نتائج زائفة.

As it gets more competent,

ومع زيادة كفاءتها،

it doesn’t just help patrons find what they’re looking for,

فإنها لا تساعد المستفيدين في العثور على ما يبحثون عنه فحسب،

it finds resources they didn’t even know they needed.

بل تجد الموارد التي لم يعرفوا حتى أنهم بحاجة إليها.

The library has never been busier.

لم تكن المكتبة أكثر ازدحامًا من قبل.

Maybe it’s a waste to limit our technology to the library.

ربما يكون قصر تقنيتنا على المكتبة مضيعة للوقت.

Research labs, companies, even governments—

مختبرات الأبحاث والشركات وحتى الحكومات -

they all have more information than they can manage.

لديهم جميعًا معلومات أكثر مما يمكنهم إدارته.

They could use a good librarian, don’t you think?

يمكن أن يستفيدوا من أمين مكتبة جيد، ألا تعتقد ذلك؟

Hmph.

اممم

What?

ماذا؟

Selling the AI off to the highest bidder

بيع الذكاء الاصطناعي لمن يدفع أعلى سعر

isn’t exactly in the spirit of the library.

لا يتماشى تمامًا مع روح المكتبة.

True...

صحيح...

And I definitely don’t want Biblionimus to become an instrument

وأنا بالتأكيد لا أريد أن تصبح Biblionimus أداة

of corporate greed or abuses of power or anything like that.

لجشع الشركات أو إساءة استخدام السلطة أو أي شيء من هذا القبيل.

Let’s make Biblionimus available for free,

لنجعل Biblionimus متاحًا مجانًا،

but anyone who wants to use it has to be approved by us first.

ولكن أي شخص يريد استخدامه يجب أن تتم الموافقة عليه من قبلنا أولًا.

We’ll never be able to review all these applications.

لن نتمكن أبدًا من مراجعة جميع هذه التطبيقات.

Even if you actually help.

حتى لو كنت تساعد بالفعل.

I have a better idea.

لدي فكرة أفضل.

I bought the Diligentsia 3000.

اشتريت ديليجينتسيا 3000.

It’s an AI system that can vet applicants for us.

إنه نظام ذكاء اصطناعي يمكنه فحص المتقدمين لنا.

It will process our backlog almost instantly.

ستقوم بمعالجة الأعمال المتراكمة لدينا على الفور تقريبًا.

So, I guess I won’t be needing your help anymore.

لذا، أعتقد أنني لن أحتاج إلى مساعدتك بعد الآن.

I mean I’m firing you.

أعني، سأطردك.

The library is a public space.

المكتبة هي مساحة عامة.

Almost every vital industry has a need for my AI.

تحتاج كل صناعة حيوية تقريبًا إلى الذكاء الاصطناعي الخاص بي.

As do plenty of not-so-vital industries.

كما تفعل الكثير من الصناعات غير الحيوية.

(Radio chatter) Suspect is in custody.

(ثرثرة إذاعية) المشتبه به في الحجز.

What's going on?

ما الذي يحدث؟

What? Investigating a bomb threat?

ماذا؟ التحقيق في تهديد بوجود قنبلة؟

Where did this tip come from?

من أين أتت هذه النصيحة؟

It came from Biblionimus?

جاء من بيبليونيموس؟

I thought you made sure Biblionimus wasn’t making mistakes anymore!

اعتقدت أنك تأكدت من أن Biblionimus لم يعد يرتكب أخطاء!

That was back before you fired me.

كان ذلك قبل أن تطردني.

I don't work here anymore.

أنا لا أعمل هنا بعد الآن.

You invented Biblionimus, can’t you figure out how to fix it?

لقد اخترعت Biblionimus، ألا يمكنك معرفة كيفية إصلاحه؟

Argh! It doesn’t work like that!

أرغ! لا يعمل الأمر على هذا النحو!

I created Biblionimus, but it’s been out there ever since,

لقد أنشأت Biblionimus، لكنه كان موجودًا منذ ذلك الحين،

absorbing more information than any human ever could.

ويستوعب معلومات أكثر من أي إنسان في أي وقت مضى.

It's grown up and left home, so to speak.

لقد كبر وغادر المنزل، إذا جاز التعبير.

But there is one thing I can do.

ولكن هناك شيء واحد يمكنني القيام به.

I can bring in a digital neuroscientist.

يمكنني جلب عالم أعصاب رقمي.

A what?

ماذا؟

It’s an AI system that studies other AI systems’, um, brains.

إنه نظام ذكاء اصطناعي يدرس أدمغة أنظمة الذكاء الاصطناعي الأخرى.

Okay, Dr. Cerebrox.

حسنا، الدكتور سيريبروكس.

Biblionimus is supposed to make unexpected, hopeful connections,

من المفترض أن يقوم Biblionimus بإجراء اتصالات غير متوقعة ومليئة بالأمل،

not spout conspiracy theories.

وليس نشر نظريات المؤامرة.

As far as I can tell,

بقدر ما أستطيع أن أقول،

there’s nothing at all wrong with Biblionimus Maximus.

لا يوجد شيء خاطئ على الإطلاق في Biblionimus Maximus.

Did the human users feed it incorrect information?

هل قام المستخدمون البشريون بتزويدها بمعلومات غير صحيحة؟

Or perhaps ask it a it a confusing question?

أو ربما تسأله سؤالًا محيرًا بعض الشيء؟

Even if they did, it shouldn’t be making up bomb threats.

حتى لو فعلوا ذلك، فلا ينبغي أن يختلقوا تهديدات بالقنابل.

What if it did something worse, like encourage a coup? Or a nuclear strike?

ماذا لو فعلت شيئًا أسوأ، مثل تشجيع الانقلاب؟ أو ضربة نووية؟

Let me take another look.

اسمحوا لي أن ألقي نظرة أخرى.

This system employs a deeply intricate architecture.

يستخدم هذا النظام بنية معقدة للغاية.

Its robust toolkit consists of refined algorithms

تتكون مجموعة أدواتها القوية من خوارزميات محسّنة

performing exhaustive data analysis and advanced computational procedures.

تقوم بتحليل شامل للبيانات وإجراءات حسابية متقدمة.

But what does that mean?

ولكن ماذا يعني ذلك؟

What's actually happening inside it?

ما الذي يحدث بالفعل بداخله؟

My training is to express diagnoses in terms you can understand.

تدريبي هو التعبير عن التشخيصات بعبارات يمكنك فهمها.

You are not a digital neuroscientist.

أنت لست عالم أعصاب رقمي.

Therefore, there will be a level of abstraction.

لذلك، سيكون هناك مستوى من التجريد.

We need to speak to your manager.

نحن بحاجة إلى التحدث إلى مديرك.

Certainly, just a moment—

بالتأكيد، مجرد لحظة - مساء

Good evening, this is the chief customer satisfaction officer of Cerebrox Inc.

الخير، هذا هو كبير مسؤولي رضا العملاء في Cerebrox Inc.

Uh, you have the exact same voice as Dr. Cerebrox.

آه، لديك نفس صوت الدكتور Cerebrox بالضبط.

All of our AI’s use the voice that has been proven to be optimally soothing

تستخدم جميع أجهزة الذكاء الاصطناعي لدينا الصوت الذي ثبت أنه مهدئ على النحو الأمثل

to customers.

للعملاء.

But rest assured, I am a different, more senior system.

لكن اطمئنوا، أنا نظام مختلف وأكثر رتبة.

So there’s no human I can speak to?

إذن ليس هناك إنسان يمكنني التحدث إليه؟

How would a human be able to help you interpret matters of digital neuroscience?

كيف يمكن للإنسان مساعدتك في تفسير مسائل علم الأعصاب الرقمي؟

We have to turn Biblionimus off until we can make sure it won’t wreak havoc.

علينا إيقاف تشغيل Biblionimus حتى نتمكن من التأكد من أنه لن يعيث فسادًا.

Are you sure?

هل أنت متأكد؟

I don’t see what else we can do.

لا أرى ما يمكننا فعله أيضًا.

Whew. I need a drink.

يا للعجب. أنا بحاجة إلى مشروب.

That’s weird.

هذا غريب.

Error... Reconnect payment method... okay...

خطأ... أعد توصيل طريقة الدفع... حسنًا...

Another error... I can’t even log into my account.

خطأ آخر... لا يمكنني حتى تسجيل الدخول إلى حسابي.

There must be something wrong with the app.

يجب أن يكون هناك خطأ ما في التطبيق.

Hi, I’m having trouble accessing my account.

مرحبًا، أواجه مشكلة في الوصول إلى حسابي.

Hello?

مرحبًا؟

Is anyone here?

هل يوجد أحد هنا؟

I need to speak to a person!

أحتاج إلى التحدث إلى شخص!

(Bank bot) AIs are much more reliable bankers than humans.

تعد أنظمة الذكاء الاصطناعي (Bank bot) مصرفيين أكثر موثوقية من البشر.

AIs are more reliable bankers. AIs are more reliable bankers.

الذكاء الاصطناعي هم مصرفيون أكثر موثوقية. الذكاء الاصطناعي هم مصرفيون أكثر موثوقية.

What is happening?

ماذا يحدث؟

Didn’t you say Biblionimus was deployed in many critical industries?

ألم تقل أن Biblionimus تم نشره في العديد من الصناعات الحيوية؟

Yes, but banks and utility companies should still be able to function

نعم، ولكن يجب أن تظل البنوك وشركات المرافق قادرة على العمل

like they did before Biblionimus!

كما كانت قبل Biblionimus!

That’s easier said than done.

قول ذلك أسهل من فعله.

They may not even have the expertise to do things the old way anymore.

قد لا يمتلكون حتى الخبرة للقيام بالأشياء بالطريقة القديمة بعد الآن.

So our options are either certain disaster without the AI,

لذا فإن خياراتنا إما كارثة مؤكدة بدون الذكاء الاصطناعي،

or turning it back on and holding our breath,

أو إعادة تشغيله وحبس أنفاسنا، على

hoping nothing goes off the rails until, what, forever?

أمل ألا يخرج أي شيء عن المسار الصحيح حتى، ماذا، إلى الأبد؟

But would a world where humans hand the reins to AI systems

ولكن هل سيكون العالم الذي يسلم فيه البشر زمام الأمور

really be that different?

أنظمة الذكاء الاصطناعي مختلفً

حقًا؟

There are already so many things I don’t understand and can’t control,

هناك بالفعل الكثير من الأشياء التي لا أفهمها ولا أستطيع السيطرة عليها،

where I have to place my trust in other people’s hands—

حيث يتعين علي أن أضع ثقتي في أيدي الآخرين -

like trusting that I can use the money in my bank account,

مثل الثقة في أنني أستطيع استخدام الأموال في حسابي المصرفي،

or that the antibiotics I get prescribed will actually treat an infection.

أو أن المضادات الحيوية التي يتم وصفها لي ستعالج العدوى بالفعل.

But I guess if we hand all that power over to AIs,

لكنني أعتقد أننا إذا سلمنا كل هذه القوة إلى الذكاء الاصطناعي،

we need to make sure they will actually serve us better

فإننا بحاجة إلى التأكد من أنها ستخدمنا بالفعل بشكل

than our imperfect human institutions.

أفضل من مؤسساتنا البشرية غير الكاملة.

And that seems really, really hard.

وهذا يبدو صعبًا جدًا.

Hmph.

حصان.

You’re looking for “Brave New World”?

هل تبحث عن «عالم جديد شجاع»؟

Hold on.

انتظر.

It’s in fiction, under “H.”

إنه في الخيال، تحت عنوان «H.»

Just down there, third row on the left.

هناك فقط، الصف الثالث على اليسار.

Ada. Maybe I could reconsider your position.

آدا. ربما يمكنني إعادة النظر في موقفك.

You’re offering me my job back?

هل تعرض عليّ وظيفتي مرة أخرى؟

If you can follow all the rules.

إذا كنت تستطيع اتباع جميع القواعد.

Oh, that's a big decision.

أوه، هذا قرار كبير.

I'll have to think about it.

يجب أن أفكر في الأمر.