How AI and Democracy Can Fix Each Other | Divya Siddarth | TED

المترجم: gaith Takrity المدقّق: Hani Eldalees

Recently I told someone my work is on democracy and technology.

أخبرت شخصًا مؤخرًا أن عملي يتعلق بالديمقراطية والتكنولوجيا.

He turned to me and said,

التفت إلي وقال:

“Wow...

«واو...

I’m sorry.”

أنا آسفة.»

(Laughter)

(ضحك)

But I love my work.

لكني أحب عملي.

I know that we can build a world

أعلم أنه يمكننا بناء عالم

where technological marvels are directed towards people's benefit,

حيث يتم توجيه الأعاجيب التكنولوجية نحو منفعة الناس،

using their input.

باستخدام مدخلاتهم.

We have gotten so used to seeing democracy as a problem to be solved.

لقد اعتدنا على رؤية الديمقراطية كمشكلة يجب حلها.

But I see democracy as a solution,

لكني أرى الديمقراطية كحل

not as a problem.

وليس كمشكلة.

Democracy was once a radical political project,

كانت الديمقراطية ذات يوم مشروعًا سياسيًا جذريًا، وهي

itself a cutting-edge social technology,

نفسها تقنية اجتماعية متطورة،

a new way to answer the very question we are faced with now,

وطريقة جديدة للإجابة على السؤال الذي نواجهه الآن،

in the era of artificial intelligence:

في عصر الذكاء الاصطناعي:

how do we use our capabilities to live well together?

كيف نستخدم قدراتنا للعيش معًا بشكل جيد؟

We are told that transformative technologies like AI are too complicated,

يُقال لنا أن التقنيات التحويلية مثل الذكاء الاصطناعي معقدة للغاية

or too risky

أو محفوفة بالمخاطر

or too important to be governed democratically.

أو مهمة جدًا بحيث لا يمكن إدارتها بشكل ديمقراطي.

But this is precisely why they must be.

ولكن هذا هو بالضبط سبب وجوب ذلك.

If existing democracy is unequal to the task,

إذا كانت الديمقراطية القائمة غير متكافئة مع المهمة،

our job is not to give up on it.

فإن مهمتنا ليست التخلي عنها.

Our job is to evolve it.

مهمتنا هي تطويره.

And to use technology as an asset to help us do so.

واستخدام التكنولوجيا كأصل لمساعدتنا على القيام بذلك.

Still, I understand his doubts.

ومع ذلك، أفهم شكوكه.

I never meant to build my life around new forms of democracy.

لم أقصد أبدًا بناء حياتي حول أشكال جديدة من الديمقراطية.

I started out just really believing in the power of science.

لقد بدأت أؤمن حقًا بقوة العلم.

I was modifying DNA in my kitchen at 12,

كنت أقوم بتعديل الحمض النووي في مطبخي في سن 12،

and when I got to Stanford as a computational biology major,

وعندما وصلت إلى ستانفورد كمتخصص في علم الأحياء الحسابي،

I was converted to a new belief -- technology.

تحولت إلى اعتقاد جديد - التكنولوجيا.

I truly believed in the power of tech to change the world.

لقد آمنت حقًا بقوة التكنولوجيا لتغيير العالم.

Maybe, like many of you.

ربما، مثل العديد منكم.

But I saw that the technologies that really made a difference

لكنني رأيت أن التقنيات التي أحدثت فرقًا حقًا هي تلك التي

were the ones that were built with and for the collective.

تم بناؤها مع المجموعة ومن أجلها.

Not the billions of dollars

ليست مليارات الدولارات التي

pumped into the 19th addiction-fueling social app.

يتم ضخها في التطبيق الاجتماعي التاسع عشر الذي يغذي الإدمان.

But the projects that combine creating something truly new

لكن المشاريع التي تجمع بين إنشاء شيء جديد

with building in ways for people to access,

حقًا والبناء بطرق تمكن الناس من الوصول إليه

benefit from and direct it.

والاستفادة منه وتوجيهه.

Instead of social media, think of the internet.

بدلاً من وسائل التواصل الاجتماعي، فكر في الإنترنت.

Built with public resources on open standards.

تم بناؤه باستخدام الموارد العامة وفقًا للمعايير المفتوحة.

This is what brought me to democracy.

هذا ما أوصلني إلى الديمقراطية.

Technology expands what we are capable of.

تعمل التكنولوجيا على توسيع ما نحن قادرون عليه.

Democracy is how we decide what to do with that capability.

الديمقراطية هي الطريقة التي نقرر بها ما يجب القيام به بهذه القدرة.

Since then, I've worked on using democracy as a solution

منذ ذلك الحين، عملت على استخدام الديمقراطية كحل

in India, the US, the UK, Taiwan.

في الهند والولايات المتحدة والمملكة المتحدة وتايوان.

I've worked alongside incredible collaborators

لقد عملت جنبًا إلى جنب مع متعاونين

to use democracy to help solve COVID,

رائعين لاستخدام الديمقراطية للمساعدة في حل كوفيد،

to help solve data rights.

للمساعدة في حل حقوق البيانات.

And as I'll tell you today,

وكما سأخبرك اليوم،

to help solve AI governance with policymakers around the world

للمساعدة في حل حوكمة الذكاء الاصطناعي مع صانعي السياسات في جميع أنحاء العالم

and cutting-edge technology companies like OpenAI and Anthropic.

وشركات التكنولوجيا المتطورة مثل OpenAI و Anthropic.

How?

كيف؟

By recognizing that democracy is still in its infancy.

من خلال الاعتراف بأن الديمقراطية لا تزال في مهدها.

It is an early form of collective intelligence,

إنه شكل مبكر من الذكاء الجماعي،

a way to put together decentralized input from diverse sources

وهو طريقة لتجميع المدخلات اللامركزية من مصادر متنوعة

and produce decisions that are better than the sum of their parts.

وإنتاج قرارات أفضل من مجموع أجزائها.

That’s why, when my fantastic cofounder Saffron Huang and I

لهذا السبب، عندما تركت أنا وشريك مؤسستي الرائع سافرون هوانغ

left our jobs at Google DeepMind and Microsoft

وظائفنا في جوجل وديب ميند و ميكروسوفت

to build new democratic governance models for transformative tech,

لبناء نماذج حوكمة ديمقراطية جديدة للتكنولوجيا التحويلية،

I named our nonprofit the Collective Intelligence Project,

أطلقت على مؤسستنا غير الربحية اسم مشروع الذكاء الجماعي،

as a nod to the ever-evolving project of building collective intelligence

كإشارة إلى المشروع المتطور باستمرار لبناء الذكاء الجماعي من

for collective flourishing.

أجل الازدهار الجماعي.

Since then we've done just that,

منذ ذلك الحين قمنا بذلك،

building new collective intelligence models to direct artificial intelligence,

ببناء نماذج ذكاء جماعي جديدة لتوجيه الذكاء الاصطناعي،

to run democratic processes.

لإدارة العمليات الديمقراطية.

And we've incorporated the voices of thousands of people into AI governance.

وقمنا بدمج أصوات الآلاف من الأشخاص في حوكمة الذكاء الاصطناعي.

Here are a few of the things we've learned.

فيما يلي بعض الأشياء التي تعلمناها.

First, people are willing and able to have difficult,

أولاً، الناس مستعدون وقادرون على إجراء محادثات صعبة

complex conversations on nuanced topics.

ومعقدة حول مواضيع دقيقة.

When we asked people about the risks of AI they were most concerned about,

عندما سألنا الناس عن مخاطر الذكاء الاصطناعي التي كانوا أكثر قلقًا بشأنها،

they didn't reach for easy answers.

لم يصلوا إلى إجابات سهلة.

Out of more than 100 risks put forward,

من بين أكثر من 100 خطر تم طرحه،

the top-cited one: overreliance on systems we don't understand.

كان الخطر الأكثر ذكرًا: الاعتماد المفرط على أنظمة لا نفهمها.

We talked to people across the country,

تحدثنا إلى الناس في جميع أنحاء البلاد،

from a veteran in the Midwest to a young teacher in the South.

من المخضرم في الغرب الأوسط إلى المعلم الشاب في الجنوب.

People were excited about the possibilities of this technology,

كان الناس متحمسين لإمكانيات هذه التكنولوجيا،

but there were specific things they wanted to understand

ولكن كانت هناك أشياء محددة أرادوا فهمها

about what models were capable of before seeing them deployed in the world.

حول النماذج التي كانت قادرة عليها قبل رؤيتها منتشرة في العالم.

A lot more reasonable than many of the policy conversations that we're in.

أكثر منطقية بكثير من العديد من محادثات السياسة التي نحن فيها.

And importantly, we saw very little of the polarization

والأهم من ذلك، أننا رأينا القليل جدًا من الاستقطاب الذي

we're always hearing about.

نسمع عنه دائمًا.

On average, just a few divisive statements

في المتوسط، مجرد عدد قليل من البيانات المثيرة للانقسام

for hundreds of consensus statements.

لمئات البيانات التوافقية.

Even on the contentious issues of the day,

حتى في القضايا الخلافية الحالية،

like free speech or race and gender,

مثل حرية التعبير أو العرق والجنس،

we saw far more agreement than disagreement.

رأينا اتفاقًا أكثر بكثير من الخلاف.

Almost three quarters of people agree that AI should protect free speech.

يتفق تقريباً ثلاثة أرباع الناس على أن AI يجب أن يحمي حرية التعبير.

Ninety percent agree that AI should not be racist or sexist.

يوافق تسعون بالمائة أن اAI يجب ألا يكون عنصريًا أو متحيزًا جنسيًا.

Only around 50 percent think that AI should be funny though,

يعتقد حوالي 50 بالمائة فقط أن AI يجب أن يكون مضحكًا،

so they are still contentious issues out there.

لذلك لا تزال هناك قضايا مثيرة للجدل.

These last statistics

هذه الإحصائيات الأخيرة

are from our collective constitution project with Anthropic,

هي من مشروع الدستور الجماعي الخاص بنا مع Anthropic،

where we retrained one of the world's most powerful language models

حيث قمنا بإعادة تدريب أحد أقوى النماذج اللغوية في العالم

on principles written by 1,000 representative Americans.

على المبادئ التي كتبها 1000 ممثل أمريكي.

Not AI developers or regulators or researchers at elite universities.

ليس مطوري الذكاء الاصطناعي أو المنظمين أو الباحثين في جامعات النخبة.

We built on a way of training AI

لقد بنينا على طريقة لتدريب AI

that relies on a written set of principles or a constitution,

تعتمد على مجموعة مكتوبة من المبادئ أو الدستور،

we asked ordinary people to cowrite this constitution,

وطلبنا من الناس العاديين المشاركة في كتابة هذا الدستور،

we compared it to a model that researchers had come up with.

وقمنا بمقارنته بالنموذج الذي توصل إليه الباحثون.

When we started this project, I wasn't sure what to expect.

عندما بدأنا هذا المشروع، لم أكن متأكدًا مما أتوقعه.

Maybe the naysayers were right.

ربما كان الرافضون على حق.

AI is complicated.

الذكاء الاصطناعي معقد.

Maybe people wouldn't understand what we were asking them.

ربما لن يفهم الناس ما كنا نطلبه منهم.

Maybe we'd end up with something awful.

ربما سينتهي بنا الأمر بشيء فظيع.

But the people’s model, trained on the cowritten constitution,

لكن نموذج الناس، الذي تم تدريبه على الدستور المكتوب بشكل

was just as capable and more fair

مشترك، كان قادرًا

than the model the researchers had come up with.

وأكثر عدلاً من النموذج الذي توصل إليه الباحثون.

People with little to no experience in AI

كان أداء الأشخاص الذين لديهم خبرة قليلة أو معدومة في

did better than researchers, who work on this full-time,

الذكاء الاصطناعي أفضل من الباحثين، الذين يعملون على هذا بدوام كامل،

in building a fairer chatbot.

في بناء روبوت محادثة أكثر عدلاً.

Maybe I shouldn't have been surprised.

ربما لم يكن ينبغي أن أتفاجأ.

As one of our participants from another process said,

وكما قال أحد المشاركين في عملية أخرى:

"They may be experts in AI, but I have eight grandchildren.

«قد يكونون خبراء في الذكاء الاصطناعي، ولكن لدي ثمانية أحفاد.

I know how to pick good values."

أعرف كيفية اختيار القيم الجيدة».

If technology expands what we are capable of

إذا كانت التكنولوجيا توسع ما نحن قادرون عليه

and democracy is how we decide what to do with that capability,

والديمقراطية هي الطريقة التي نقرر بها ما يجب القيام به بهذه القدرة،

here is early evidence that democracy can do a good job deciding.

فإليك دليل مبكر على أن الديمقراطية يمكن أن تقوم بعمل جيد في اتخاذ القرار.

Of course, these processes aren't enough.

بالطبع، هذه العمليات ليست كافية.

Collective intelligence requires a broader reimagining of technology

يتطلب الذكاء الجماعي إعادة تصور أوسع للتكنولوجيا

and democracy.

والديمقراطية.

That’s why we’re also working on co-ownership models

لهذا السبب نعمل أيضًا على نماذج الملكية المشتركة

for the data that AI is built on -- which, after all, belongs to all of us --

للبيانات التي بني عليها AI - والتي، في النهاية، تنتمي إلينا جميعًا -

and using AI itself to create new and better decision-making processes.

ونستخدم الذكاء الاصطناعي نفسه لإنشاء عمليات صنع قرار جديدة وأفضل.

Taking advantage of the things

الاستفادة من ما يمكن لنماذج اللغة القيام بها ولا يستطيع البشر القيام بها،

that language models can do that humans can’t,

like processing huge amounts of text input.

مثل معالجة كميات هائلة من إدخال النص.

Our work in Taiwan has been an incredible test bed for all of this.

لقد كان عملنا في تايوان بمثابة اختبار رائع لكل هذا.

Along with Minister Audrey Tang and the Ministry of Digital Affairs,

جنبًا إلى جنب مع الوزيرة أودري تانغ ووزارة الشؤون الرقمية،

we are working on processes to ask Taiwan's millions of citizens

نعمل على عمليات لسؤال الملايين من مواطني تايوان

what they actually want to see as a future with AI.

عما يريدون بالفعل رؤيته كمستقبل مع الذكاء الاصطناعي.

And using that input not just to legislate,

واستخدام هذه المدخلات ليس فقط للتشريع،

but to build.

ولكن للبناء.

Because one thing that has already come out of these processes

لأن الشيء الوحيد الذي نتج بالفعل عن هذه العمليات

is that people are truly excited about a public option for AI,

هو أن الناس متحمسون حقًا للخيار العام للذكاء الاصطناعي،

one that is built on shared public data that is reliably safe,

وهو خيار مبني على البيانات العامة المشتركة الآمنة بشكل موثوق،

that allows communities to access, benefit from

والتي تسمح للمجتمعات بالوصول إليها والاستفادة منها

and adjust it to their needs.

وتعديلها وفقًا لاحتياجاتهم.

This is what the world of technology could look like.

هذا ما يمكن أن يبدو عليه عالم التكنولوجيا.

Steered by the many for the many.

يتم توجيهها من قبل الكثيرين من أجل الكثيرين.

I often find that we accept unnecessary trade-offs

غالبًا ما أجد أننا نقبل المقايضات غير الضرورية

when it comes to transformative tech.

عندما يتعلق الأمر بالتكنولوجيا التحويلية.

We are told that we might need to sacrifice democracy

قيل لنا أننا قد نحتاج إلى التضحية بالديمقراطية من

for the sake of technological progress.

أجل التقدم التكنولوجي.

We have no choice but to concentrate power to keep ourselves safe

ليس لدينا خيار سوى تركيز القوة للحفاظ على أنفسنا في مأمن

from possible risks.

من المخاطر المحتملة.

This is wrong.

هذا خطأ.

It is impossible to have any one of these things --

ومن المستحيل تحقيق أي من هذه الأشياء -

progress, safety or democratic participation --

التقدم أو السلامة أو المشاركة الديمقراطية -

without the others.

بدون الآخرين.

If we resign ourselves to only two of the three,

إذا استسلمنا لاثنتين فقط من الثلاثة، فسوف ينتهي

we will end up with either centralized control or chaos.

بنا الأمر إما بالسيطرة المركزية أو الفوضى.

Either a few people get to decide or no one does.

إما أن يقرر عدد قليل من الناس أو لا أحد يفعل ذلك.

These are both terrible outcomes,

هذه نتائج رهيبة على حد سواء،

and our work shows that there is another way.

ويظهر عملنا أن هناك طريقة أخرى.

Each of our projects advanced progress,

أدى كل مشروع من مشاريعنا إلى تعزيز التقدم

safety and democratic participation

والسلامة والمشاركة الديمقراطية

by building cutting-edge democratic AI models,

من خلال بناء نماذج الذكاء الاصطناعي الديمقراطية المتطورة،

by using public expertise as a way to understand diffuse risks

واستخدام الخبرة العامة كوسيلة لفهم المخاطر المنتشرة

and by imagining co-ownership models for the digital commons.

وتخيل نماذج الملكية المشتركة للمشاعات الرقمية.

We are so far from the best collective intelligence systems we could have.

نحن بعيدون جدًا عن أفضل أنظمة الذكاء الجماعي التي يمكن أن نمتلكها.

If we started over on building a decision-making process for the world,

إذا بدأنا من جديد في بناء عملية صنع القرار للعالم،

what would we choose?

فماذا سنختار؟

Maybe we'd be better at separating financial power from political power.

ربما سنكون أفضل في فصل القوة المالية عن السلطة السياسية.

Maybe we'd create thousands of new models of corporations

ربما سننشئ آلاف النماذج الجديدة للشركات

or bureaucracies.

أو البيروقراطيات.

Maybe we'd build in the voices of natural elements

ربما سنبني أصوات العناصر الطبيعية

or future generations.

أو الأجيال القادمة.

Here's a secret.

هنا سر.

In some ways, we are always starting from scratch.

في بعض النواحي، نبدأ دائمًا من الصفر.

New technologies usher in new paradigms

تستهل التقنيات الجديدة نماذج جديدة يمكن

that can come with new collective intelligence systems.

أن تأتي مع أنظمة الذكاء الجماعي الجديدة.

We can create new ways of living well together

يمكننا إنشاء طرق جديدة للعيش بشكل جيد معًا

if we use these brief openings for change.

إذا استخدمنا هذه الفتحات القصيرة للتغيير.

The story of technology and democracy is far from over.

إن قصة التكنولوجيا والديمقراطية لم تنته بعد.

It doesn't have to be this way.

لا يجب أن يكون الأمر بهذه الطريقة.

Things could be unimaginably better.

يمكن أن تكون الأمور أفضل بشكل لا يمكن تصوره.

As the Indian author Arundhati Roy once said,

وكما قالت الكاتبة الهندية أرونداتي روي ذات مرة

"Another world is not only possible,

: «عالم آخر ليس ممكنًا فحسب، بل

she is on her way.

إنها في طريقها.

On a quiet day, I can hear her breathing."

في يوم هادئ، يمكنني سماع أنفاسها».

I can hear our new world breathing.

أستطيع سماع عالمنا الجديد يتنفس.

One in which we shift the systems we have

نظام نحول فيه الأنظمة التي لدينا

towards using the solution of democracy to build the worlds we want to see.

نحو استخدام حل الديمقراطية لبناء العوالم التي نريد رؤيتها.

The future is up to us.

المستقبل متروك لنا.

We have a world to win.

لدينا عالم للفوز به.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)