How AI and Democracy Can Fix Each Other | Divya Siddarth | TED

Translator: Mohammad Badsar Reviewer: Sadegh Vahdati Nia

Recently I told someone my work is on democracy and technology.

اخیراً به یکی گفتم کار من در مورد دموکراسی و فناوری است.

He turned to me and said,

او به من گفت،

“Wow...

«واو ...

I’m sorry.”

متأسفم.»

(Laughter)

(خنده)

But I love my work.

ولی من عاشق کارم هستم.

I know that we can build a world

می‌دانم که می‌توانیم جهانی بسازیم

where technological marvels are directed towards people's benefit,

که در آن شگفتی‌های فناوری با استفاده از ورودی اطلاعات مردم

using their input.

در خدمت منفعت مردم باشند.

We have gotten so used to seeing democracy as a problem to be solved.

عادت کرده‌ایم به اینکه دموکراسی مسئله‌ای است که باید حل شود.

But I see democracy as a solution,

اما من دموکراسی را راه حل می‌بینم،

not as a problem.

نه مسئله.

Democracy was once a radical political project,

زمانی دموکراسی یک پروژه سیاسی سخت بود،

itself a cutting-edge social technology,

خود دموکراسی یک فناوری به روز اجتماعی است،

a new way to answer the very question we are faced with now,

روش جدیدی برای پاسخ به سوالی که الآن با آن مواجه هستیم،

in the era of artificial intelligence:

در عصر هوش مصنوعی:

how do we use our capabilities to live well together?

چگونه از قابلیت‌هایمان برای زندگی خوب کنار یکدیگر بهره ببریم؟

We are told that transformative technologies like AI are too complicated,

به ما گفته شده که فناوری‌های تحول‌ساز مثل هوش مصنوعی خیلی پیچیده هستند،

or too risky

یا خیلی خطرآفرین

or too important to be governed democratically.

یا خیلی مهمتر از اینکه بتوان به صورت دموکراتیک مدیریتشان نمود.

But this is precisely why they must be.

اما این دقیقاً دلیل چنین موضوعی است.

If existing democracy is unequal to the task,

اگر دموکراسی موجود برای انجام این کار ناتراز است،

our job is not to give up on it.

کار ما این نیست که از آن دست بکشیم.

Our job is to evolve it.

کار ما کامل کردن آن است.

And to use technology as an asset to help us do so.

و استفاده از فناوری به عنوان سرمایه‌ای که به ما کمک کند.

Still, I understand his doubts.

همچنان شکاکیت وی را درک می‌کنم.

I never meant to build my life around new forms of democracy.

من هرگز منظورم این نبود که زندگی خود را حول اشکال جدیدی از دموکراسی بسازم.

I started out just really believing in the power of science.

من داشتم واقعاً به قدرت علم باورمند می‌شدم.

I was modifying DNA in my kitchen at 12,

من در ۱۲ سالگی درون آشپزخانه دی‌ان‌ای را اصلاح می‌کردم،

and when I got to Stanford as a computational biology major,

و هنگامی که در رشته زیست‌شناسی محاسباتی وارد استنفورد شدم،

I was converted to a new belief -- technology.

من عقیده‌ام را به فناوری تغییر دادم.

I truly believed in the power of tech to change the world.

من واقعاً به قدرت فناوری برای تغییر جهان باور داشتم.

Maybe, like many of you.

شاید مثل خیلی از شما.

But I saw that the technologies that really made a difference

اما می‌بینم که فناوری‌هایی که واقعاً تحول ایجاد کرده‌اند

were the ones that were built with and for the collective.

آنهایی بودند که توسط و برای جمع ساخته شده بودند.

Not the billions of dollars

نه میلیارد دلار پولی

pumped into the 19th addiction-fueling social app.

که به نوزدهمین رسانه اجتماعی اعتیادآور تزریق شد.

But the projects that combine creating something truly new

بلکه پروژه‌هایی که خلق چیزهای واقعاً جدید را ترکیب می‌کنند

with building in ways for people to access,

با استفاده از روش‌هایی برای دسترسی مردم،

benefit from and direct it.

که هم از آن نفع ببرند و هم آن را هدایت کنند.

Instead of social media, think of the internet.

به جای رسانه‌های اجتماعی به اینترنت فکر کنید

Built with public resources on open standards.

که توسط منابع عمومی و بر اساس استانداردهای باز ساخته شد.

This is what brought me to democracy.

این چیزی است که من را به دموکراسی رساند.

Technology expands what we are capable of.

فناوری قابلیت‌های ما را توسعه می‌دهد.

Democracy is how we decide what to do with that capability.

دموکراسی به ما می‌گوید که با این قابلیت‌ها چه کار کنیم.

Since then, I've worked on using democracy as a solution

از آن زمان روی استفاده از دموکراسی به عنوان راه حل

in India, the US, the UK, Taiwan.

در هند، آمریکا و تایوان کار کرده‌ام.

I've worked alongside incredible collaborators

من در کنار همکارانی شگفت‌انگیز کار کرده‌ام

to use democracy to help solve COVID,

تا از دموکراسی برای کمک به حل مسئله کووید استفاده کنم

to help solve data rights.

تا مسئله حقوق داده را حل کنیم.

And as I'll tell you today,

و چنان که امروز خواهم گفت،

to help solve AI governance with policymakers around the world

برای کمک به حل مسئله مدیریت هوش مصنوعی توسط سیاست‌گذاران و شرکت‌های پیشرو فناور

and cutting-edge technology companies like OpenAI and Anthropic.

در سراسر جهان مثل اوپن‌ای‌آی و آنتروپیک.

How?

چگونه؟

By recognizing that democracy is still in its infancy.

با فهم اینکه دموکراسی همچنان در شرایط تخیل است.

It is an early form of collective intelligence,

شکلی ابتدایی است از هوش جمعی،

a way to put together decentralized input from diverse sources

روشی است برای تجمیع ورودی‌های پراکنده از منابع مختلف

and produce decisions that are better than the sum of their parts.

و تولید تصمیماتی که از جمع اجزای آن بهتر است.

That’s why, when my fantastic cofounder Saffron Huang and I

به همین خاطر است که وقتی همکار عالی من سافرون هوانگ و خودم

left our jobs at Google DeepMind and Microsoft

کارمان را در گوگل دیپ‌مایند و مایکروسافت رها کردیم

to build new democratic governance models for transformative tech,

تا مدل‌های مدیریتی جدید و دموکراتیک برای فناوری تحول‌ساز را بسازیم

I named our nonprofit the Collective Intelligence Project,

من نام موسسه غیر انتفاعی‌مان را پروژه هوش جمعی گذاشتم،

as a nod to the ever-evolving project of building collective intelligence

اشاره‌ای به پروژه‌ای همیشه در حال تکامل برای ساخت هوش جمعی

for collective flourishing.

برای شکوفایی جمعی.

Since then we've done just that,

از آن زمان فقط این کار را کرده‌ایم،

building new collective intelligence models to direct artificial intelligence,

ساخت مدل‌های هوش جمعی برای فرمان به هوش مصنوعی

to run democratic processes.

برای اجرای فرآیندهای دموکراتیک.

And we've incorporated the voices of thousands of people into AI governance.

و ما صداهای هزاران نفر را در حکمرانی هوش مصنوعی ادغام کرده‌ایم.

Here are a few of the things we've learned.

چیزهایی که یاد گرفته‌ایم از این قرار است.

First, people are willing and able to have difficult,

اولاً افراد هم تمایل دارند و هم می‌توانند گفتگوهای پیچیده‌ای

complex conversations on nuanced topics.

حول موضوعات ظریف انجام دهند.

When we asked people about the risks of AI they were most concerned about,

وقتی به افراد در مورد خطرات هوش مصنوعی می‌گوییم بسیار به آن توجه می‌کنند،

they didn't reach for easy answers.

آنها به دنبال پاسخ‌های ساده نبودند.

Out of more than 100 risks put forward,

از بیش از ۱۰۰ مخاطره پیشنهاد شده،

the top-cited one: overreliance on systems we don't understand.

مورد اول این بود: اتکای بیش از حد بر سیستم‌هایی که آنها را درک نمی‌کنیم.

We talked to people across the country,

با افراد از نقاط مختلف کشور صحبت کردیم،

from a veteran in the Midwest to a young teacher in the South.

از یک کهنه سرباز در غرب میانه تا یک معلم جوان در جنوب.

People were excited about the possibilities of this technology,

مردم از امکانات این فناوری هیجان زده بودند،

but there were specific things they wanted to understand

اما موارد خاصی بود که می‌خواستند درک کنند

about what models were capable of before seeing them deployed in the world.

در مورد اینکه مدل‌ها قبل از اینکه جهانی شدن آن‌ها را ببینیم چه قابلیت‌هایی دارند.

A lot more reasonable than many of the policy conversations that we're in.

بسیار منطقی‌تر از بسیاری از گفتگوهای سیاسی که درگیرشان هستیم.

And importantly, we saw very little of the polarization

و مهمتر اینکه سوگیری که زیاد در مورش می‌شنویم

we're always hearing about.

بسیار کمتر دیدیم.

On average, just a few divisive statements

به طور متوسط، فقط چند جمله تفرقه‌آمیز

for hundreds of consensus statements.

از میان صدها جملات اتحادآمیز.

Even on the contentious issues of the day,

حتی در مورد موضوعات مورد اختلاف روز،

like free speech or race and gender,

مثل آزادی بیان یا نژاد و جنسیت،

we saw far more agreement than disagreement.

توافق بسیار بیشتر از عدم توافق بود.

Almost three quarters of people agree that AI should protect free speech.

تقریباً سه چهارم افراد موافق هستند که هوش مصنوعی باید از آزادی بیان حمایت کند.

Ninety percent agree that AI should not be racist or sexist.

نود درصد موافقند که هوش مصنوعی نباید نژادپرست یا جنسیت‌زده باشد.

Only around 50 percent think that AI should be funny though,

فقط ۵۰ درصد فکر می‌کنند که هوش مصنوعی باید سرگرم‌کننده باشد،

so they are still contentious issues out there.

خوب همچنان موضوعات اختلافی وجود دارند.

These last statistics

این آخرین آمارها

are from our collective constitution project with Anthropic,

از قانون اساسی جمعی ما در همکاری با آنتروپیک است،

where we retrained one of the world's most powerful language models

که در آنجا ما یکی از قویترین مدل‌های زبانی را داریم

on principles written by 1,000 representative Americans.

که بر اساسی استوار است که توسط هزار آمریکایی نماینده تدوین شده است.

Not AI developers or regulators or researchers at elite universities.

نه توسعه‌دهندگان هوش مصنوعی یا تنظیم‌کنندگان یا محققین دانشگاه‌های برتر.

We built on a way of training AI

ما روشی ایجاد کردیم برای آموزش هوش مصنوعی

that relies on a written set of principles or a constitution,

که بر اساس یک دسته نوشته از اصول یا قانون اساسی تکیه دارد،

we asked ordinary people to cowrite this constitution,

از افراد عادی خواستیم در تدوین این اصول شرکت کنند،

we compared it to a model that researchers had come up with.

ما این را با مدلی که توسط محققین تدوین شده بود مقایسه کردیم.

When we started this project, I wasn't sure what to expect.

وقتی این پروژه را شروع کردیم مطمئن نبودم چه خواهد شد.

Maybe the naysayers were right.

ممکن است منتقدان راست گفته باشند.

AI is complicated.

هوش مصنوعی پیچیده است.

Maybe people wouldn't understand what we were asking them.

شاید افراد نمی‌توانستند سوالات ما را درک کنند.

Maybe we'd end up with something awful.

شاید به نتیجه وحشتناکی ختم می‌شد.

But the people’s model, trained on the cowritten constitution,

اما مدل مردمی، آموزش دیده توسط اصول نوشته شده توسط مردم،

was just as capable and more fair

به همان اندازه قابلیت داشت و منصفانه‌تر بود

than the model the researchers had come up with.

از مدلی که محققین تهیه کرده بودند.

People with little to no experience in AI

افرادی با تجربه اندک یا هیچ تجربه در مورد هوش مصنوعی

did better than researchers, who work on this full-time,

از محققینی که تمام‌وقت روی آن کار می‌کردند

in building a fairer chatbot.

در ساخت ربات گفتگوی منصف‌تر بهتر عمل کردند.

Maybe I shouldn't have been surprised.

شاید نباید شگفت‌زده می‌شدم.

As one of our participants from another process said,

چون یکی از شرکت‌کنندگان در یک فرآیند دیگر گفت،

"They may be experts in AI, but I have eight grandchildren.

«آن‌ها شاید در هوش مصنوعی استاد باشند ولی من هشت نوه دارم.

I know how to pick good values."

می‌دانم ارزش‌های درست را چگونه انتخاب کنم.»

If technology expands what we are capable of

اگر فناوری تا جایی که می‌توانیم توسعه یابد

and democracy is how we decide what to do with that capability,

و دموکراسی فرآیندی است که چگونه باید از قابلیت فناوری بهره ببریم،

here is early evidence that democracy can do a good job deciding.

این یک شاهد اولیه است که نشان می‌دهد دموکراسی در تصمیم‌گیری خوب عمل می‌کند.

Of course, these processes aren't enough.

البته که این فرآیندها کافی نیستند.

Collective intelligence requires a broader reimagining of technology

هوش جمعی نیازمند بازنمایی گسترده‌تر از فناوری

and democracy.

و دموکراسی است.

That’s why we’re also working on co-ownership models

به همین دلیل ما هم داریم روی مدل‌های چند مالکیتی کار می‌کنیم

for the data that AI is built on -- which, after all, belongs to all of us --

برای داده‌هایی که هوش مصنوعی با آن ساخته می‌شود -- که در نهایت مال همه ماست --

and using AI itself to create new and better decision-making processes.

و استفاده از خود هوش مصنوعی برای خلق فرآیندهای تصمیم‌سازی جدید و بهتر.

Taking advantage of the things

با بهره‌گیری از اینها

that language models can do that humans can’t,

که مدل‌های زبانی می‌توانند و انسان نمی‌تواند،

like processing huge amounts of text input.

مثل فرآوری حجم عظیمی از متن ورودی.

Our work in Taiwan has been an incredible test bed for all of this.

کار ما در تایوان بستر آزمایشی عالی برای همه اینها بوده است.

Along with Minister Audrey Tang and the Ministry of Digital Affairs,

به همراه وزیر آدری تانگ و وزارت امور دیجیتال،

we are working on processes to ask Taiwan's millions of citizens

داریم روی فرآیندهایی کار می‌کنیم تا از میلیون‌ها شهروند تایوان بپرسیم

what they actually want to see as a future with AI.

که واقعاً آینده با هوش مصنوعی را چگونه تصور می‌کنند.

And using that input not just to legislate,

و استفاده از این ورودی نه فقط برای قانون‌گذاری

but to build.

بلکه برای ساخت.

Because one thing that has already come out of these processes

چون یکی از چیزهایی که پیشاپیش از این فرآیندها حاصل می‌شود

is that people are truly excited about a public option for AI,

این است که مردم واقعا در مورد انتخاب عمومی برای هوش مصنوعی هیجان‌زده هستند،

one that is built on shared public data that is reliably safe,

یکی اینکه چون بر داده‌های اشتراکی عمومی بنا شده پس ایمن و قابل اعتماد است،

that allows communities to access, benefit from

که به جوامع فرصت دسترسی و انتفاع و تنظیم آن

and adjust it to their needs.

بر اساس نیازهای‎شان را می‌دهد.

This is what the world of technology could look like.

این است شکلی که جهان فناوری می‌تواند داشته باشد.

Steered by the many for the many.

جهت‌گیری توسط بسیار و برای بسیار.

I often find that we accept unnecessary trade-offs

اغلب ما در مورد فناوری‌های تحول‌ساز

when it comes to transformative tech.

مبادلات غیرضروری را می‌پذیریم.

We are told that we might need to sacrifice democracy

به ما می‌گویند شاید باید دموکراسی را برای پیشرفت فناوری

for the sake of technological progress.

فدا کنیم.

We have no choice but to concentrate power to keep ourselves safe

هیچ انتخابی نداریم مگر اینکه توان خود را برای حفظ خودمان

from possible risks.

از خطرات احتمالی متمرکز کنیم.

This is wrong.

این غلط است.

It is impossible to have any one of these things --

غیر ممکن است هیچ یک از این چیزها را داشته باشیم --

progress, safety or democratic participation --

پیشرفت، امنیت یا مشارکت دموکراتیک --

without the others.

بدون دیگران.

If we resign ourselves to only two of the three,

اگر خود را فقط به دو مورد از سه مورد تسلیم کنیم،

we will end up with either centralized control or chaos.

به کنترل متمرکز یا هرج و مرج خواهیم رسید.

Either a few people get to decide or no one does.

چه اینکه افراد کمی تصمیم بگیرند یا هیچ کس تصمیم نگیرد.

These are both terrible outcomes,

هر دو نتایج وحشتناکی هستند،

and our work shows that there is another way.

و کار ما نشان داد که راه دیگری هست.

Each of our projects advanced progress,

هر یک از پروژه‌های ما پیشرفت،

safety and democratic participation

امنیت و مشارکت دموکراتیک را توسعه داد

by building cutting-edge democratic AI models,

با ساخت مدل‌های هوش مصنوعی نوین،

by using public expertise as a way to understand diffuse risks

با استفاده از تخصص عموم به عنوان راهی برای درک و کاهش خطرات

and by imagining co-ownership models for the digital commons.

و با تصور مدل‌های چندمالکیتی برای میراث دیجیتالی مشترک.

We are so far from the best collective intelligence systems we could have.

از بهترین سیستم‌های هوش جمعی که می‌توان داشت خیلی فاصله داریم.

If we started over on building a decision-making process for the world,

اگر شروع کنیم به ساخت یک فرآیند تصمیم‌سازی برای جهان،

what would we choose?

چه را انتخاب می‌کنیم؟

Maybe we'd be better at separating financial power from political power.

شاید بهتر باشد قدرت مالی را از قدرت سیاسی تفکیک کنیم.

Maybe we'd create thousands of new models of corporations

شاید هزاران مدل جدید از شرکت‌ها

or bureaucracies.

یا امور اداری خلق کنیم.

Maybe we'd build in the voices of natural elements

شاید ما صداهای اجزای طبیعی

or future generations.

یا نسل‌های آینده را در آن ببینیم.

Here's a secret.

یک راز هست.

In some ways, we are always starting from scratch.

به نوعی ما همیشه اول از بیس شروع می‌کنیم.

New technologies usher in new paradigms

فناوری‌های جدید، پارادایم‌(الگو)های جدیدی را به ارمغان می‌آورند

that can come with new collective intelligence systems.

که می‌تواند سیستم‌های هوش جمعی جدید را نتیجه دهد.

We can create new ways of living well together

می‌توانیم روش‌های جدیدی برای زندگی کنار یکدیگر خلق کنیم

if we use these brief openings for change.

اگر از این ایده‌های مختصر برای تغییر بهره ببریم.

The story of technology and democracy is far from over.

داستان فناوری و دموکراسی هنوز ادامه دارد.

It doesn't have to be this way.

نباید اینگونه باشد.

Things could be unimaginably better.

اوضاع می‌تواند بسیار بهتر باشد.

As the Indian author Arundhati Roy once said,

همانگونه که نویسنده هندی، آرونداتی روی، می‌گوید:

"Another world is not only possible,

«جهانی دیگر نه تنها ممکن است،

she is on her way.

بلکه در راه است.

On a quiet day, I can hear her breathing."

در یک روزِ ساکت(بی‌سروصدا) می‌توانم صدای نفس آن را بشنوم.»

I can hear our new world breathing.

می‌توانم تنفس جهان جدیدمان را بشنوم.

One in which we shift the systems we have

جهانی که در آن سیستم‌هایی که داریم را به سوی استفاده از

towards using the solution of democracy to build the worlds we want to see.

راه‌حل‌های دموکراتیک برای ساخت جهانی که می‌خواهیم ببینیم سوق می‌دهیم.

The future is up to us.

آینده به ما بستگی دارد.

We have a world to win.

جهانی داریم برای پیروزی.

Thank you.

متشکرم.

(Applause)

(تشویق)