How AI Could Hack Democracy | Lawrence Lessig | TED

المترجم: Tarig Abdalla Eltom المدقّق: Hani Eldalees

So on January 6, 2021

في 6 يناير 2021

my nation suffered a little bit of a democracy heart attack.

عانت أمتي من أزمة ديمقراطية

Thousands of Americans had been told that the election had been stolen,

عندما قيل لآلاف الأميركيين أن الانتخابات تم التلاعب بها،

and tens of thousands of them showed up

فظهر عشرات الآلاف منهم في الشوارع

because they believed the election had been stolen.

لأنهم صدقوا أن الانتخابات تم التلاعب بها،

And indeed, in polling immediately after January 6,

وفي الواقع، في استطلاعات للرأي أجريت مباشرة بعد السادس من يناير،

“The Washington Post” found 70 percent of Republicans believed

وجدت صحيفة “واشنطن بوست” أن 70% من الجمهوريين صدقوا

the election had been stolen,

أن الانتخابات تم التلاعب بها،

and a majority of college-educated Republicans believed

وكانت أغلبية الجمهوريين الحاصلين على تعليم جامعي على قناعة

the election had been stolen.

بأن الانتخابات تم التلاعب بها،.

That was their perception.

كان هذا تصورهم.

And I don't know what the right way to act on that perception is.

ولا أعلم ما هي الطريقة الصحيحة للتصرف بناء على هذا التصور،

They thought the right way was to defend

لقد اعتقدوا أنهم يدافعون

what they thought was a democracy stolen.

عن ديمقراطية تتعرض للاعتداء.

Now, these numbers were astonishing:

الأرقام التي كشف عنها الاستطلاع كانت مذهلة:

30 percent or two thirds of Republicans believing the election was stolen.

30 بالمائة أو ثلثا الجمهوريين صدقوا أن الانتخابات تم العبث بها.

But even more extraordinary are these numbers.

ولكن الأكثر غرابة هي هذه الأرقام.

The fact that in the three years since that astonishing event,

في السنوات الثلاث التي مرت منذ ذلك الحدث المذهل،

the numbers have not changed.

لم تتغير الأرقام.

The same number believe today that the election was stolen

يؤمن ذات العدد اليوم أن الانتخابات تم التلاعب بها

as believed it was stolen three years ago,

وهو ذات الاعتقاد منذ ثلاث سنوات،

despite the fact that we've had investigations

على الرغم من حقيقة أننا أجرينا تحقيقات في الأمر،

and overwhelming evidence that there was no fraud

ووصلنا إلى أدلة قاطعة تنفي وجود أي احتيال

sufficient to ever change even a single state.

يكفي لتغيير نتيجة ولاية واحدة

This is something new.

هذا شيء جديد .

When Richard Nixon went through the Watergate scandal,

عندما ظهرت فضيحة ووترجيت في عهد ريتشارد نيكسون،

as the news was being reported,

وبينما كانت أخبار الفضيحة تُذاع،

Nixon's popularity collapsed not just among Democrats,

انهارت شعبية نيكسون ليس فقط بين الديمقراطيين،

but among independents and Republicans.

ولكن أيضًا بين المستقلين والجمهوريين.

But we're at a stage where it doesn't matter what happens.

لكننا الآن في مرحلة لم يعد يهمنا فيها ما يحدث.

This is Donald Trump's popularity over the course of his administration.

هذه هي مؤشرات شعبية دونالد ترامب خلال فترة إدارته.

Nothing changes.

لا شيء يتغير.

The facts don't matter.

الحقائق لا تهم.

Now I think this truth should bother us a lot.

والآن أعتقد أن هذه الحقيقة يجب أن تزعجنا كثيرًا.

I think we need to develop a kind of paranoia

أعتقد أننا بحاجة إلى استشعار الخطر أكثر، إلى نوع من جنون الاضطهاد،

about what produces this reality.

حول ما يسبب هذه الظاهرة.

A particular paranoia, the paranoia of the hunted.

شعور أننا مطاردون أو مراقبون،

Think of the kids in "The Birds"

مثل شعور الأطفال في فيلم “ذا بيردز”

first realizing that those crows were attacking them,

أولاً، أدركوا أن تلك الغربان كانت تهاجمهم،

or "Black Mirror's" Metalheads,

أو ذوي الرؤوس المعدنية في فيلم “بلاك ميرور”،

when you see these creatures chasing and surrounding you.

عندما ترى هذه المخلوقات تطاردك وتحيط بك.

The point is, we need to recognize

ما أقصده هو أننا بحاجة إلى إدراك

that there is an intelligence out there to get us.

أنه يوجد ذكاء هناك، يحاول النيل منا

Because our perceptions,

لأن تصوراتنا،

our collective perceptions,

تصوراتنا الجماعية،

our collective misimpressions

انطباعاتنا الخاطئة الجماعية

are not accidental.

لم تكن حدثًا عارضًا،

They are expected, they are intended,

ما حدث كان متوقعًا. كان مقصودًا

they are the product of the thing.

هو نتائج “للشيء”

(Laughter)

(ضحك)

OK, I want to be careful introducing the thing.

حسنًا، سأكون حذرًا عندما أذكر هذا “الشيء“.

I'm going to talk a little bit about AI, but I'm not going to slag on AI.

سأتحدث قليلاً عن الذكاء الاصطناعي، ولكنني لن أسيء إليه.

I think AI is the most extraordinary technology

أعتقد أن الذكاء الاصطناعي هو أكثر التقنيات المدهشة،

humanity has ever even conceived of.

هو ما لم تتخيل البشرية إطلاقًا أنها قادرة على إنتاجه.

But I also think it has the potential to end humanity.

ولكنني أعتقد أيضًا أنه قد يؤدي أيضًا إلى القضاء على البشرية.

But I'm not going to slag on AI,

لكنني لن أهاجم الذكاء الاصطناعي،

because I'm pretty sure that our robot overlord

لأنني متأكد تمامًا من أن “سيدنا الروبوت”

is going to be listening to these TED talks someday,

سوف يستمع إلى محادثات TED هذه يومًا ما،

and I don't want to be on the wrong side of the overlord.

وأنا لا أريد أن يغضب مني سيدنا الروبوت!.

لذا فإن الذكاء الاصطناعي “أموره طيبة“!.

So AI is just fine.

I'm not going to talk about this AI first.

لن أتحدث عن هذا الذكاء الاصطناعي أولاً.

I want to instead put AI in a little bit of a perspective,

أريد بدلاً من ذلك أن أضعه في منظور مختلف قليلاً،

because I think that we're too obsessed with the new,

لأنني أعتقد أننا مهووسون جدًا بالجديد،

and we fail to recognize the significance of AI in the old.

ونحن نفشل في إدراك أهمية الذكاء الاصطناعي القديم.

We think about intelligence,

نحن نفكر في الذكاء،

and we're distinguishing between artificial and natural intelligence.

ونحن نفرق بين الذكاء الاصطناعي والذكاء الطبيعي.

And we, of course, as humans,

ونحن، بطبيعة الحال، كبشر،

claim pride of kingdom in the world of natural intelligence.

نزعم بأننا على قمة عالم الذكاء الطبيعي.

And then we build artificial intelligence.

ومن ثم نقوم ببناء الذكاء الاصطناعي.

It's intelligence that we make.

هو ذكاءٌ نصنعه نحن.

But here's the critical point.

وهنا تكمن نقطة دقيقة:

We have already, for a long time,

الواقع أننا عشنا مع أنظمة الذكاء الاصطناعي

lived with systems of artificial intelligence.

لفترات طويلة من الزمن

I don't mean digital AI,

لا أقصد هنا الذكاء الاصطناعي الرقمي،

I mean analog AI.

وإنما أقصد الذكاء الاصطناعي “التقليدي“.

Any entity or institution that we build with a purpose

أي كيان أو مؤسسة نبنيها لغرض ما

that acts instrumentally in the world is in this sense an AI.

أي شيء يعمل بشكل فعال في العالم فهو بهذا المعنى ذكاء اصطناعي.

It is an instrumentally rational entity that's mapping how it should behave,

فهو كيان عقلاني منظم يرسم خريطة لكيفية التصرف،

given the way the world evolves and responds to it.

نظراً للطريقة التي يتطور بها العالم ويستجيب لها.

So think about democracy as an AI.

لذا فكر في الديمقراطية باعتبارها ذكاءً اصطناعيًا.

It has institutions, elections, parliaments, constitutions

لديها مؤسسات وانتخابات وبرلمانات ودساتير

for the purpose of some collective ends.

من أجل تحقيق بعض الغايات الجماعية.

Our Constitution says it's for the common good.

يقول دستورنا أن الديمقراطية من أجل الصالح العام.

So the democracy in our Constitution is an analog artificial intelligence

لذا فإن الديمقراطية حسب دستورنا هي ذكاء اصطناعي تقليدي

devoted to the common good.

مخصص للصالح العام.

Or think about corporations as an AI.

أو فكر في الشركات باعتبارها ذكاءًا اصطناعيًا

They have institutions, boards, management, finance,

لديها مؤسسات ومجالس وإدارة وتمويل،

for the purpose of making money, or at least conceived of narrowly,

بغرض جني المال، لو نظرنا لها فقط من هذه الزاوية،

today, that’s the way it is.

اليوم، هكذا هو الحال.

There corporation is an analog intelligence devoted to maximizing

إن هذه الشركة عبارة عن ذكاء تقليدي مخصص لتحقيق أقصى ربحية

shareholder value.

لأسهم الشركة

These are AIs.

هذا الشركات “ذكاءات اصطناعية“.

They have purposes and objectives sometimes complementing each other.

تتكامل أهداف الشركة أحيانًا مع أهداف المجتمع،

So the purpose of a school bus company

كمثال: الغرض من شركة الحافلات المدرسية

complements the purpose of a school board

أنها تكمل غرض مجلس المدرسة،

to produce school bus transportation in a district.

في إنتاج حافلات النقل المدرسية في منطقة ما.

That's just beautiful.

وهذا جميل جدًا.

But sometimes they're competing.

لكن في بعض الأحيان تتقاطع الأهداف،

The purpose of a government and having a clean environment

بينما تهدف الحكومة إلى وجود بيئة نظيفة،

conflicts with the purpose of a coal company

فإن ذلك يتعارض مع غرض شركة الفحم،

designing to produce electricity

المصممة لإنتاج الكهرباء،

by spewing carbon and soot into the environment.

بوقود الفحم الذي يطلق الكربون والسخام في البيئة.

And when they conflict, we tell ourselves this happy story.

وعندما تتقاطع الأهداف، نحكي لأنفسنا هذه القصة السعيدة،

We tell ourselves the story that democracy is going to stand up

نطمئن أنفسنا أن الديمقراطية سوف تنهض

and discipline that evil corporation.

وتأدب تلك الشركة الشريرة الملوثة للبيئة،

To get the corporation to do the right thing,

لإجبارهاعلى الامتثال للوضع الصحيح،

to do the thing that's in the interest of all of us.

أن تفعل الشيء الذي هو في مصلحتنا جميعًا.

That's our happy story.

هذه قصتنا السعيدة

It's also a fantasy.

وطبعًا هي مجرد خيال.

Because at least in my country,

لأنه؛ على الأقل في بلدي،

corporations are more effective AIs than democracy.

الشركات هي أنظمة ذكاء اصطناعي أكثر فعالية من الديمقراطية.

Think about it a little bit like this.

فكر في الأمر بهذه الطريقة قليلا.

If we think about instrumental rationality along one axis of this graph

إذا فكرنا في العقلانية المنظّمة على أحد محاور هذا الرسم البياني

and time across the other,

والزمن عبر المحور الآخر،

humans, of course, are the first instrumentally rational entity

الإنسان، بطبيعة الحال، هو أول كيان عقلاني منظم

we care about, we're better than cows.

نحن نهتم بالعمل، نحن أفضل من الأبقار!.

Maybe not as good as ants, but the point is,

ربما لا نكون منظمين مثل النمل، ولكن القصد هو،

we're pretty good as individuals

أننا جيدون جدًا كأفراد

figuring out how to do things strategically.

نعرف كيف ندبر أمورنا بطريقة استراتيجية.

And then we built democracy to do that a little bit better,

وعليه قمنا ببناء الديمقراطية لتنظيم أمورنا بشكل أفضل قليلاً،

to act collectively for all of us.

ولنستطيع العمل بشكل جماعي، من أجلنا جميعا.

And that's a more instrumentally rational entity

وهذا هو الكيان الجماعي هو الأكثر عقلانية من الناحية العملية،

than we, individual humans, can be.

منا نحن البشر كأفراد متفرقين.

Then we created corporations.

ثم أنشأنا الشركات.

And it turns out, they have become, at least in corrupted political regimes —

وقد اتضح أن الشركات أصبحت، على الأقل في الأنظمة السياسية الفاسدة —

which, I’ll just submit, my political regime is —

والذي سأقوله فقط، هو أن نظامي السياسي هو —

better than democracy

أفضل من الديمقراطية

in bringing about their objective ends.

في تحقيق الأهداف الموضوعية لتلك الشركات.

Now, of course, in this system,

الآن، بالطبع، في هذا النظام،

each of these layers has an aspiration to control the higher layer.

كل طبقة من هذه الطبقات لديها طموح للسيطرة على الطبقة الأعلى.

So humans try to control democracy through elections.

لذلك يحاول البشر السيطرة على الديمقراطية من خلال الانتخابات.

Democracy tries to control corporations through regulation.

تحاول الديمقراطية السيطرة على الشركات من خلال التنظيم.

But the reality of control is, of course, a little bit different.

لكن الواقع بخصوص هذه السيطرة مختلف قليلًا

In the United States, corporations control democracy

في الولايات المتحدة، تسيطر الشركات على الديمقراطية

through the extraordinary amount of money they pour into elections,

من خلال المبالغ الهائلة من المال التي ينفقونها في الانتخابات،

making our representatives dependent not on us, but on them.

مما جعل النواب المنتخبين تابعين للشركات وليس لنا نحن.

And democracy then controls the humans

والديمقراطية تسيطر على البشر

من خلال التمثيل النيابي بالانتخاب،

by making representation,

not actually representation, corrupting representation.

ليس تمثيلًا فعليًا، بل هو تمثيل فاسد.

Now, this structure, this layer of higher order intelligence

الآن، هذا الهيكل، هذه الطبقة من الذكاء من الدرجة الأعلى

or instrumental rationality might evoke,

قد تذكرنا هذه العقلانية المنظمة،

for those of you who think about AI,

والحديث هنا عن الذكاء الاصطناعي،

a statement by the godfather of AI, Geoffrey Hinton.

قد تذكرنا بمقولة للأب الروحي للذكاء الاصطناعي، جيفري هينتون.

Hinton warns us,

حيث يحذرنا هينتون قائلًا:

"There are a few examples of a more intelligent thing

“هناك أمثلة لأشياء أكثر ذكاءً

being controlled by a less intelligent thing."

“تتحكم بها أشياء أقل ذكاءً.”

Or we could say,

أو يمكننا أن نقول،

a more instrumentally rational thing

أشياء أكثر تنظيمًا عقلانيًا،

being controlled by a less instrumentally rational thing.

يتم التحكم بها بواسطة أشياء أقل تنظيمًا عقلانيًا.

And that is consistent with this picture of AIs.

وهذا يتوافق مع صورة الذكاء الاصطناعي هذه.

And then we add digital AI into this mix.

وبعد ذلك نضيف الذكاء الاصطناعي الرقمي إلى هذا المزيج.

And here too, once again,

وهنا أيضا، مرة أخرى،

we have corporations attempting to control their digital AI.

لدينا شركات تحاول السيطرة على الذكاء الاصطناعي الرقمي الخاص بها.

But the reality of that control is not quite perfect.

لكن واقع هذه السيطرة ليس مثاليًا تماما.

Facebook, in September of 2017,

في فيسبوك، في سبتمبر 2017،

was revealed to have a term in their ad system

تم الكشف عن وجود مصطلح في نظام الإعلانات لفيسبوك

called "Jew Haters."

المصطلح هو “كارهو اليهود“.

You could buy ads targeting Jew haters.

فيمكنك شراء إعلانات تستهدف كارهي اليهود.

Now, nobody in Facebook created that category.

فئة كارهي اليهود هذه لم ينشئها أحد في فيسبوك

There was not a human in Facebook who decided

لم يكن ثمة إنسان في فيسبوك أصدر قرارًا بأن:

"We're going to start targeting Jew haters."

“سوف نسوق اعلانات لكارهي اليهود.”

Its AI created that category

هذه الفئة “خلقها” الذكاء الاصطناعي

because its AI figured Jew haters would be a profitable category

لأن الذكاء الاصطناعي لفيسبوك تصور أن كارهي اليهود سيكونون فئة مربحة

for them to begin to sell ads to,

لكي يبدأوا في بيع الإعلانات لهم،

and the company was, of course, embarrassed

شعرت الشركة بالحرج طبعًا،

that it turned out they didn't actually have control

لأنه تبين أنهم ليس لديهم سيطرة فعلية على الآلة

over the machine that ran their machines that run our lives.

التي تدير آلاتهم التي هي تدير حياتنا.

The real difference in this story, though,

الفرق الحقيقي في هذه القصة، مع ذلك،

is the extraordinary potential

هي الإمكانات الهائلة جدًا

of this instrumentally rational entity

لهذا الكيان العقلاني المنظّم،

versus us.

في مقابل إمكانياتنا البشرية.

This massively better instrumentally rational entity

هذا الكيان العقلاني المنظّم، والذي هو الأفضل على الإطلاق،

versus even corporations and certainly democracies,

مقابل إمكانيات الشركات والديمقراطيات بالتأكيد،

because it's going to be more efficient at achieving its objective than we are.

لأنه سيكون أكثر كفاءة في تحقيق أهدافه منّا نحن.

And here's where we cue the paranoia I began to seed

وهذا تحديدًا ما يجب أن يجعلنا نطلق العنان لجنون الاضطهاد،

because our collective perceptions, our collective misperceptions

لأن تصوراتنا الجماعية، وتصوراتنا الخاطئة الجماعية

are not accidental.

ليست عرضية.

They are expected, intended, the product of this AI.

بل مقصودة ومتوقعة كنتاجٍ لهذا الذكاء الاصطناعي.

We could think of it as the AI perception machine.

يمكننا أن نفكر فيه باعتباره آلة الإدراك بالذكاء الاصطناعي.

We are its targets.

نحن أهدافه.

Now, the first contact we had with this AI,

أول اتصال “تجربة” لنا مع هذا الذكاء الاصطناعي،

as Tristan Harris described it,

كما وصفه تريستان هاريس،

came from social media.

جاء من وسائل التواصل الاجتماعي.

Tristan Harris, who started the Center for Humane Technology,

تريستان هاريس، الذي أنشأ مركز التكنولوجيا الإنسانية،

cofounded it, famous in this extraordinary documentary,

وشارك في تأسيسه، واشتهر في هذا الفيلم الوثائقي الاستثنائي،

"The Social Dilemma,"

"المعضلة الاجتماعية"

before he was famous, he was just an engineer at Google.

قبل أن يصبح مشهورًا، كان مجرد مهندس في غوغل.

And at Google, he was focused on the science of attention

وفي غوغل، كان يركز على علم الانتباه،

using AI to engineer attention,

استخدام الذكاء الاصطناعي لهندسة الانتباه،

to overcome resistance,

للتغلب على المقاومة،

to increase human engagement with the platform

لزيادة التفاعل البشري مع منصة غوغل.

because engagement is the business model.

لأن التفاعل هو محور العمل التجاري لغوغل.

Compare this to, think of it as brain hacking.

قارن هذا بـ، فكر فيه باعتباره اختراقًا للعقل.

We could compare it to what we could call body hacking.

يمكننا مقارنته بما يمكن أن نسميه اختراق الجسم.

This is the exploiting of food science.

هذا هو استغلال علم الغذاء.

Scientists engineer food to exploit our evolution,

يقوم العلماء بهندسة الغذاء لاستغلال تطورنا،

our mix of salt, fat and sugar,

عبر مزيج من الملح والدهون والسكر،

to overcome the natural resistance

للتغلب على المقاومة الطبيعية

so you can't stop eating food.

لذلك لا يمكنك التوقف عن تناول الطعام.

So that they can sell food or sell, "food" more profitably.

لكي يتمكنوا من بيع الطعام أو بيع "الطعام" بشكل أكثر ربحية.

Brain hacking is the same, but focused on attention.

اختراق الدماغ مشابه لهذا، ولكن مع التركيز على “الانتباه“.

It's exploiting evolution.

فهو يستغل التطور.

The fact that we have an irrational response to random rewards,

إن حقيقة أن لدينا استجابة غير عقلانية للمكافآت العشوائية،

or can't stop consuming bottomless pits of content

أو لا يمكن التوقف عن استهلاك كميات لا حصر لها من المحتوى

with the aim to increase engagement,

بهدف زيادة التفاعل،

to sell more ads.

لبيع المزيد من الإعلانات.

And it just so happens, too bad for us,

نعم يفعلون ذلك بنا. وهو أمر سيئ جدًا،

that we engage more

كلما تفاعلنا أكثر،

the more extreme, the more polarizing,

زاد التطرف، زاد الانقسام،

the more hate-filled this content is.

كلما زادت الكراهية في هذا المحتوى.

So that is what we're fed by these AIs.

وهذا ما تغذيه عندنا هذه الذكاءات الاصطناعية.

With the consequence

والنتيجة،

that we produce a people more polarized and ignorant and angry

أننا ننتج شعبًا أكثر انقسامًا وجهالة وغضبًا،

than at any time in democracy's history in America

أكثر من أي وقت مضى في تاريخ الديمقراطية في أمريكا،

since the Civil War

منذ الحرب الأهلية.

and democracy is thereby weakened.

وبالتالي تضعف الديمقراطية.

They give us what we want.

إنهم يعطوننا ما نريد.

What we want makes us into this.

ما نريده هو الذي يجعلنا نصل إلى هذا.

OK, but recognize something really critically important.

حسنًا، ولكن يجب أن ندرك شيئًا مهمًا للغاية.

This is not because AI is so strong.

لا يرجع هذا إلى أن الذكاء الاصطناعي قوي جدًا.

It's because we are so weak.

بل لأننا ضعفاء جداً.

Here's Tristan Harris describing this.

وهنا تريستان هاريس يصف هذا الأمر.

(Video) "We're all looking out for the moment

(فيديو) “نحن جميعًا نترقب اللحظة،

when technology would overwhelm human strengths and intelligence.

التي تتغلب فيها التكنولوجيا على قوة الإنسان وذكائه.

When is it going to cross the singularity,

متى سيتغلب منفردًا على البشر كلهم،

replace our jobs,

ويستولى على وظائفهم،

be smarter than humans?

ويكون أذكى منهم..

But there's this much earlier moment

ولكن هناك لحظة أسبق بكثير من هذه،

when technology exceeds and overwhelms human weaknesses.

وهي عندما تتفوق التكنولوجيا وتتغلب على نقاط الضعف البشرية.

This point being crossed is at the root of addiction, polarization,

إن تمكنت من ذلك، فيمكنها استغلالها لجرّنا إلى الإدمان، الانقسامات،

radicalization, outrage-ification, vanity-ification, the entire thing.

التطرف، والغضب، والغرور، كل هذا.

This is overpowering human nature.

ليكون أسوأ استغلال للطبيعة البشرية،

And this is checkmate on humanity."

ولتكون هذه “الضربة القاضية” للبشرية.”

Lawrence Lessig: So Tristan’s point is we’re always focused

لورانس ليسيج: لذا فإن وجهة نظر تريستان هي أننا نركز دائمًا

on this corner, when AGI comes,

في هذه الزاوية، عندما يأتي AGI،

when it's super intelligent,

عندما يكون فائق الذكاء،

when it's more intelligent than any of us.

عندما يكون أكثر ذكاءً من أي واحد منا.

And that's what we now fear.

وأن هذا ما نخشاه الآن.

Whether we will get there in three years or 20 years,

سواء كنا سنصل إلى هناك في غضون ثلاث سنوات أو عشرين عامًا،

what will happen then?

ما الذي سيحدث عندها..

But his point is, it's actually this place

لكن وجهة نظره هي أن هذه النقطة،

that we must begin to worry,

هي حيث يجب أن نبدأ بالقلق،

because at this place, it can overcome our weaknesses.

لأنه في هذه الحالة، يمكنه التغلب على نقاط ضعفنا.

"The Social Dilemma"

فيلم “المعضلة الاجتماعية” أشار إلى جوانب الضعف فينا كأفراد،

was about the individual weaknesses we have,

not to be able to turn away from our phones,

عدم القدرة على الابتعاد عن هواتفنا،

or to convince our children to turn away from their phones.

أو لإقناع أطفالنا بالابتعاد عن هواتفهم.

But I want you to see that there's also a collective human weakness.

ولكن أريدكم أن تروا أن هناك أيضًا ضعفًا إنسانيًا جماعيًا.

That this technology drives us to disable our capacity to act collectively

أن هذه التكنولوجيا تعطل قدرتنا على العمل الجماعي

in ways that any of us would want.

بكل أشكاله

So we are surrounded individually by these metalheads,

لذا فنحن كأفراد محاطون بذوي الرؤوس المعدنية هؤلاء،

and we are also surrounded as a people

ونحن أيضًا محاصرون كشعب

by these metalheads

بذوي الرؤوس المعدنية هؤلاء

long before AGI is anywhere on the horizon.

قبل وقت طويل من ظهور الذكاء الاصطناعي العام في الأفق.

It overwhelms us.

إنه يغلبنا.

AI gets us to do what it seeks,

الذكاء الاصطناعي يجعلنا نفعل ما يسعى إليه،

which is engagement,

وهو التفاعل،

and we get democracy hacked in return.

وما نحصل عليه نحن في المقابل هو اختراق الديمقراطية

Now, if the first contact that we had gave us that,

إن كان اتصالنا الأوليّ مع الذكاء الاصطناعي جلب كل هذه السلبيات،

if social media circa 2020 gave us that,

ما تسببت فيه وسائل التواصل الاجتماعي في عام 2020،

what's this second contact with AI going to produce?

ماذا سيجلب لنا اتصالنا الثاني مع الذكاء الاصطناعي؟

When AI is capable, not just in figuring out how to target you

عندما يكون الذكاء الاصطناعي قادراً، ليس فقط على معرفة كيف يستهدفك،

with the content it knows will elicit the most reaction

مستخدمًا المحتوى الذي يعرف أنه سيثير أكبر قدر من ردود الفعل،

and engagement from you,

والتفاعل من جانبك،

but can create content

ولكن أيضًا عندما يتمكن من إنشاء محتوىً،

that it knows will react or get you to engage more directly,

يعرف أنه سوف يثير ردة فعلك أو يجعلك تتفاعل معه بشكل أكبر،

whether true or false,

سواء كان صحيحا أو خطأ،

whether slanderous or not.

سواء كان افتراءً أم لا.

What does that contact do?

ماذا ستكون نتيجة ذلك الاتصال؟

I so hate the writers of "Game of Thrones"

أنا أكره مؤلفي مسلسل “صراع العروش” كثيرًا

because their last season,

لأنهم في الموسم الأخير،

they so completely ruined the whole series.

“خربطوا” المسلسل كله!.

(Laughter and applause)

(ضحك وتصفيق)

We can't use memes from "Game of Thrones" anymore.

لا نستطيع استخدام ميمات من “صراع العروش” بعد الآن.

But if we could, I would say winter is coming, friends,

لكن لو استطعنا، فسأقول إن الشتاء قادم، يا أصدقائي،

I'm just going to say it anyway.

سأقولها على أية حال.

Winter is coming, friends.

الشتاء قادم يا أصدقائي.

And these AIs are the source that we have to worry about.

وهذه الذكاءات الاصطناعية هي المصدر الذي يجب أن نقلق بشأنه.

So then, what is to be done?

إذن، ماذا ينبغي أن نفعل؟

Well, you know, if there's a flood, what you do is you turn around and run.

حسنًا، كما تعلم، إذا كان هناك فيضان، فإن ما يجب عليك فعله هو أن تستدير وتركض.

You move.

أن تتحرك.

You move to higher ground or protected ground.

وتنتقل إلى أرض مرتفعة أو أرض محمية.

You find a way to insulate democracy

وفي موضوعنا هذا أن تجد طريقة لحماية الديمقراطية،

or to shelter democracy from AI's force

حمايتها من قوة الذكاء الاصطناعي

or from AI's harmful force.

تحديدًا من القوة الضارة للذكاء الاصطناعي.

And, you know, the law does this in America with juries.

و كما تعلمون فإن القانون في أمريكا يفعل هذا من خلال هيئات المحلفين،

We have juries.

لدينا هيئات محلفين،

They deliberate,

يتداولون بشأن القضية،

but they are protected in the types of information

ولديهم حصانة بشأن أنواع المعلومات،

that they're allowed to hear or talk about or deliberate upon,

التي يُسمح لهم بالاستماع أو التحدث أو التداول بشأنها،

because we know we need to protect them

لأننا نعلم أننا بحاجة لحمايتهم

if they're to reach a judgment that is just.

حتى يصلوا بمداولاتهم إلى حكم عادل.

And democracy reformers, especially across Europe,

والمصلحون الديمقراطيون، وخاصة في مختلف أنحاء أوروبا،

are trying to do this right now.

يحاولون القيام بذلك الآن.

Reformers building citizen assemblies,

هؤلاء المصلحون يبنون جمعيات مدنية،

across Europe mainly, in Japan as well.

في جميع أنحاء أوروبا، وفي اليابان أيضًا.

And the citizen assemblies are these random, representative,

والجمعيات المدنية هذه جمعيات متفرقة، مستنيرة تشجع الحوار،

informed and deliberative bodies

تنشط دفاعًا عن قضايا بعينها،

that take on particular democratic questions

قضايا ديمقراطية معينة،

and address them in a way that could be protected

وتحاول معالجة تلك القضايا بشكل يحميها،

from this corruption of the AI.

من هذا الفساد في الذكاء الاصطناعي.

So Iceland was able to craft a constitution out of a process like this.

تمكنت أيسلندا من صياغة دستورها من خلال عملية كهذه.

Ireland was able to approve gay marriage and deregulation of abortion

وتمكنت أيرلندا من الموافقة على زواج المثليين

وإلغاء القيود التنظيمية على الإجهاض من خلال عملية مثل هذه.

through a process like this.

France has addressed climate change

فرنسا تعالج بهذه الطريقة قضية تغير المناخ.

and also end-of-life decisions.

وكذلك القرارات المتعلقة بإنهاء الحياة.

And across Germany there are many of these entities

وفي جميع أنحاء ألمانيا يوجد العديد من هذه الكيانات،

that are boiling up to find ways for a different democratic voice,

وهي في حالة غليان لايجاد صوت ديمقراطي مختلف،

to find voice.

للعثور على صوت.

But here's the point.

الشاهد هنا،

These are extraordinarily hopeful and exciting, no doubt.

هذه الكيانات بلا شك مليئة بالأمل والإثارة بشكل غير عادي،

But they are not just a good idea.

ولكنها أكثر من مجرد فكرة جيدة.

They are existential for democracy.

أهميتها من أهمية الديمقراطية.

They are security for democracy.

إنها الأمن للديمقراطية.

They are a way to protect us from this AI hacking

إنها طريقة لحمايتنا من اختراق الذكاء الاصطناعي

that steers against a public will.

الذي يتعارض مع الإرادة الجماعية للناس.

This is change not just to make democracy better,

هذا التغيير ليس فقط لتحسين الديمقراطية،

a tweak to just make it a little bit more democratic.

ولا مجرد تعديل لجعلها أكثر ديمقراطية قليلاً.

It's a change to let democracy survive,

إنه تغيير لإبقاء الديمقراطية على قيد الحياة،

given what we know technology will become.

نظراً لما نعرفه عن الأضرار المحتملة للتكنولوجيا

This is a terrifying moment.

هذه لحظة مرعبة.

It's an exhilarating moment.

إنها لحظة فارقة.

Long before superintelligence, long before AGI threatens us,

قبل وقت طويل من ظهور الذكاء الفائق،

وقبل وقت طويل من تهديد الذكاء الاصطناعي العام لنا،

a different AI threatens us.

يوجد ذكاء اصطناعي آخر يهددنا.

But there is something to do while we still can do something.

يجب أن نفعل شيئًا، طالما لا يزال بإمكاننا أن نفعل.

We should know enough now

أصبحنا نعرف يقينًا،

to know we can't trust democracy just now.

أنه لا يمكننا الوثوق بالديمقراطية الآن.

We should see that we still have time to build something different.

علينا أن ندرك أنه لدينا الوقت لبناء شيء مختلف.

We should act with the love that makes anything possible,

يجب أن نعمل بالحب، الذي يجعل كل شيء ممكنًا،

not because we know we will succeed.

ليس لأننا نعلم أننا سننجح.

I'm pretty sure we won't.

أنا متأكد تمامًا أننا لن ننجح!.

But because this is what love means.

ولكن لأن هذا هو معنى الحب.

You do whatever you can,

افعل كل ما بوسعك،

whatever the odds, for your children,

مهما كانت الصعوبات، من أجل أطفالك،

for your family, for your country, for humanity

من أجل عائلتك، من أجل بلدك، من أجل الإنسانية

while there is still time,

طالما لا يزال عندنا وقت،

while our robot overlord is still just a sci-fi fantasy.

وطالما أن “سيدنا الروبوت” لا يزال مجرد خيال علمي.

Thank you very much.

شكراً جزيلاً.

(Applause)

(تصفيق)