How AI and Democracy Can Fix Each Other | Divya Siddarth | TED

Translator: Nhàn Katherine Reviewer: Nguyen Hue

Recently I told someone my work is on democracy and technology.

Gần đây tôi nói với vài người

công việc của tôi là về dân chủ và công nghệ.

He turned to me and said,

Anh quay sang tôi và nói:

“Wow...

“Wow...

I’m sorry.”

Tôi xin lỗi.”

(Laughter)

(Tiếng cười)

But I love my work.

Nhưng tôi yêu công việc của mình.

I know that we can build a world

Tôi biết rằng chúng ta có thể xây dựng một thế giới

where technological marvels are directed towards people's benefit,

nơi những điều kỳ diệu của công nghệ hướng tới lợi ích của con người,

using their input.

bằng cách sử dụng dữ liệu vào họ.

We have gotten so used to seeing democracy as a problem to be solved.

Chúng ta đã quá quen với việc coi dân chủ là một vấn đề cần giải quyết.

But I see democracy as a solution,

Nhưng tôi thì thấy dân chủ là một giải pháp

not as a problem.

không phải là một vấn đề.

Democracy was once a radical political project,

Dân chủ đã từng là một dự án chính trị cấp tiến,

itself a cutting-edge social technology,

chính nó là 1 công nghệ xã hội tiên tiến,

a new way to answer the very question we are faced with now,

một cách mới để trả lời chính câu hỏi mà chúng ta đang phải đối mặt bây giờ,

in the era of artificial intelligence:

trong kỷ nguyên trí tuệ nhân tạo:

how do we use our capabilities to live well together?

Làm thế nào ta sử dụng khả năng của mình để sống tốt với nhau?

We are told that transformative technologies like AI are too complicated,

Ta được cho biết các công nghệ biến đổi như AI quá phức tạp,

or too risky

hoặc quá rủi ro

or too important to be governed democratically.

hoặc quá quan trọng để được quản lý một cách dân chủ.

But this is precisely why they must be.

Lý do chính xác nó cần phải vậy như sau.

If existing democracy is unequal to the task,

Nếu nền dân chủ hiện tại không làm tròn được nhiệm vụ,

our job is not to give up on it.

thì việc của ta không phải là từ bỏ nó.

Our job is to evolve it.

Việc của chúng ta là tiến hóa nó.

And to use technology as an asset to help us do so.

Và sử dụng công nghệ như một tài sản để giúp chúng ta làm điều đó.

Still, I understand his doubts.

Nhưng, tôi hiểu những nghi ngại của anh ấy

I never meant to build my life around new forms of democracy.

Tôi chưa bao giờ có ý sống đời mình với các hình thức dân chủ mới.

I started out just really believing in the power of science.

Tôi bắt đầu chỉ thực sự tin tưởng vào sức mạnh của khoa học.

I was modifying DNA in my kitchen at 12,

Tôi biến đổi DNA trong bếp năm 12 tuổi,

and when I got to Stanford as a computational biology major,

và khi tôi đến Stanford với chuyên ngành sinh học tính toán,

I was converted to a new belief -- technology.

tôi đã chuyển đổi sang một niềm tin mới - công nghệ.

I truly believed in the power of tech to change the world.

Tôi thực sự tin vào sức mạnh của công nghệ để thay đổi thế giới.

Maybe, like many of you.

Có lẽ, giống nhiều các bạn,

But I saw that the technologies that really made a difference

Tôi thấy rằng những công nghệ thực sự tạo ra sự khác biệt

were the ones that were built with and for the collective.

là thứ được xây bởi cộng đồng và phục vụ cho cộng đồng.

Not the billions of dollars

Không phải là thứ hàng tỉ đô

pumped into the 19th addiction-fueling social app.

bơm vào ứng dụng xã hội gây nghiện thứ 19.

But the projects that combine creating something truly new

Mà là các dự án kết hợp giữa tạo ra một cái gì đó thực sự mới

with building in ways for people to access,

với việc xây dựng theo những cách để mọi người tiếp cận,

benefit from and direct it.

hưởng lợi từ đó và chỉ đạo nó.

Instead of social media, think of the internet.

Thay vì mạng xã hội, hãy nghĩ đến Internet.

Built with public resources on open standards.

Được xây dựng với các nguồn lực công cộng trên các tiêu chuẩn mở.

This is what brought me to democracy.

Đó là điều đã đưa tôi đến với nền dân chủ.

Technology expands what we are capable of.

Công nghệ mở rộng khả năng của chúng ta.

Democracy is how we decide what to do with that capability.

Dân chủ là cách chúng ta quyết định phải làm gì với khả năng đó.

Since then, I've worked on using democracy as a solution

Kể từ đó, tôi đã làm việc dựa vào việc dùng dân chủ như một giải pháp

in India, the US, the UK, Taiwan.

ở Ấn Độ, Mỹ, Anh, Đài Loan.

I've worked alongside incredible collaborators

Tôi làm cùng những người cộng tác tuyệt vời

to use democracy to help solve COVID,

sử dụng dân chủ để giúp giải quyết COVID,

to help solve data rights.

giúp giải quyết quyền dữ liệu.

And as I'll tell you today,

Như tôi sẽ nói với bạn hôm nay,

to help solve AI governance with policymakers around the world

để giải quyết việc quản lý AI với các nhà lập pháp khắp thế giới

and cutting-edge technology companies like OpenAI and Anthropic.

và các công ty công nghệ tiên tiến như OpenAI và Anthropic.

How?

Làm thế nào?

By recognizing that democracy is still in its infancy.

Bằng cách nhận ra rằng dân chủ vẫn còn ở giai đoạn sơ khai.

It is an early form of collective intelligence,

Đó là một hình thức ban đầu của trí tuệ tập thể,

a way to put together decentralized input from diverse sources

một cách để kết hợp đầu vào phi tập trung từ các nguồn đa dạng

and produce decisions that are better than the sum of their parts.

và đưa ra các quyết định tốt hơn tổng các bộ phận của chúng.

That’s why, when my fantastic cofounder Saffron Huang and I

Đó là lý do, khi người đồng sáng lập tuyệt vời

left our jobs at Google DeepMind and Microsoft

Saffron Huang và tôi bỏ việc ở Google DeepMind và Microsoft

to build new democratic governance models for transformative tech,

để xây dựng các mô hình quản trị dân chủ mới cho công nghệ biến đổi,

I named our nonprofit the Collective Intelligence Project,

tôi đặt tên cho tổ chức phi lợi nhuận của chúng tôi là Dự án Trí tuệ Tập thể,

as a nod to the ever-evolving project of building collective intelligence

như sự nhất trí cho dự án luôn phát triển việc xây dựng trí tuệ tập thể

for collective flourishing.

vì sự hưng thịnh chung.

Since then we've done just that,

Từ đó, chúng tôi làm như vậy,

building new collective intelligence models to direct artificial intelligence,

xây dựng các mô hình trí tuệ tập thể mới để chỉ đạo trí tuệ nhân tạo,

to run democratic processes.

để điều hành các quá trình dân chủ.

And we've incorporated the voices of thousands of people into AI governance.

Và chúng tôi đã kết hợp tiếng nói của hàng ngàn người vào quản trị AI.

Here are a few of the things we've learned.

Đây là vài điều tôi đã học được.

First, people are willing and able to have difficult,

Đầu tiên, mọi người sẵn sàng và có khả năng

có những cuộc trò chuyện khó khăn, phức tạp về các chủ đề sắc thái.

complex conversations on nuanced topics.

When we asked people about the risks of AI they were most concerned about,

Khi chúng tôi hỏi mọi người về những rủi ro của AI mà họ lo ngại nhất,

they didn't reach for easy answers.

họ đã không tìm ra câu trả lời dễ dàng.

Out of more than 100 risks put forward,

Trong hơn 100 rủi ro được đưa ra,

the top-cited one: overreliance on systems we don't understand.

điều chung nhất là: phụ thuộc quá mức vào các hệ thống mà chúng ta không hiểu.

We talked to people across the country,

Chúng tôi nói chuyện khắp cả nước

from a veteran in the Midwest to a young teacher in the South.

từ một cựu chiến binh ở Trung Tây đến một giáo viên trẻ ở miền Nam.

People were excited about the possibilities of this technology,

Mọi người rất hào hứng về khả năng của công nghệ này,

but there were specific things they wanted to understand

nhưng có những điều cụ thể mà họ muốn hiểu

about what models were capable of before seeing them deployed in the world.

mô hình nào có khả năng trước khi thấy chúng được triển khai trên thế giới.

A lot more reasonable than many of the policy conversations that we're in.

Có lý hơn nhiều so với nhiều cuộc trò chuyện về chính sách

mà chúng tôi tham gia

And importantly, we saw very little of the polarization

Và quan trọng, chúng tôi thấy rất ít sự phân cực

we're always hearing about.

mà chúng tôi thường nghe nói đến.

On average, just a few divisive statements

Trung bình, chỉ có một vài tuyên bố gây chia rẽ

for hundreds of consensus statements.

so với hàng trăm tuyên bố đồng thuận.

Even on the contentious issues of the day,

Ngay cả về các vấn đề gây tranh cãi,

like free speech or race and gender,

như tự do ngôn luận, chủng tộc và giới tính,

we saw far more agreement than disagreement.

chúng tôi thấy đồng thuận hơn nhiều so với bất đồng.

Almost three quarters of people agree that AI should protect free speech.

Gần ba phần tư số người đồng ý rằng AI nên bảo vệ quyền tự do ngôn luận.

Ninety percent agree that AI should not be racist or sexist.

90% đồng ý rằng AI không nên phân biệt chủng tộc hoặc giới tính.

Only around 50 percent think that AI should be funny though,

Tuy nhiên, chỉ có khoảng 50% nghĩ rằng AI nên hài hước,

so they are still contentious issues out there.

nên chúng vẫn là điều gây tranh cãi ngoài kia.

These last statistics

Những thống kê cuối cùng này

are from our collective constitution project with Anthropic,

là từ dự án hiến pháp tập thể của chúng tôi với Anthropic,

where we retrained one of the world's most powerful language models

nơi tái đào tạo 1 trong những mô hình ngôn ngữ mạnh nhất thế giới

on principles written by 1,000 representative Americans.

trên các nguyên tắc được viết bởi 1.000 người Mỹ đại diện.

Not AI developers or regulators or researchers at elite universities.

Không phải người phát triển AI, nhà quản lý, nghiên cứu

ở các đại học ưu tú

We built on a way of training AI

Chúng tôi xây 1 cách đào tạo AI

that relies on a written set of principles or a constitution,

dựa trên một bộ nguyên tắc bằng văn bản hoặc hiến pháp,

we asked ordinary people to cowrite this constitution,

chúng tôi mời dân thường cùng viết nên hiến pháp này,

we compared it to a model that researchers had come up with.

rồi so sánh nó với 1 mô hình của các nhà nghiên cứu làm.

When we started this project, I wasn't sure what to expect.

Khi chúng tôi bắt đầu dự án này, tôi không chắc điều gì sẽ xảy ra.

Maybe the naysayers were right.

Có lẽ những người phản đối đã đúng.

AI is complicated.

AI rất phức tạp.

Maybe people wouldn't understand what we were asking them.

Có lẽ mọi người không hiểu những gì chúng tôi hỏi họ.

Maybe we'd end up with something awful.

Có thể kết cục sẽ là thứ khủng khiếp.

But the people’s model, trained on the cowritten constitution,

Nhưng mô hình của người dân, được đào tạo dựa trên hiến pháp dân viết,

was just as capable and more fair

vẫn có khả năng tương đương và công bằng hơn

than the model the researchers had come up with.

so với mô hình mà các nhà nghiên cứu đã đưa ra.

People with little to no experience in AI

Những người ít hoặc không có kinh nghiệm về AI

did better than researchers, who work on this full-time,

đã làm tốt hơn các nhà nghiên cứu, những người làm việc toàn thời gian này,

in building a fairer chatbot.

trong việc tạo một chatbot công bằng hơn.

Maybe I shouldn't have been surprised.

Có lẽ tôi không nên ngạc nhiên.

As one of our participants from another process said,

Như 1 trong những thành viên của quy trình khác đã nói,

"They may be experts in AI, but I have eight grandchildren.

“Họ có thể là chuyên gia về AI, nhưng tôi có tám đứa cháu.

I know how to pick good values."

Tôi biết cách chọn những giá trị tốt”.

If technology expands what we are capable of

Nếu công nghệ mở rộng những gì chúng ta có khả năng

and democracy is how we decide what to do with that capability,

và dân chủ là cách chúng ta quyết định phải làm gì với khả năng đó,

here is early evidence that democracy can do a good job deciding.

thì đây là bằng chứng ban đầu cho thấy nền dân chủ có thể ra quyết định tốt.

Of course, these processes aren't enough.

Tất nhiên, những quy trình này chưa đủ.

Collective intelligence requires a broader reimagining of technology

Trí tuệ tập thể cần sự tái định hình rộng hơn về công nghệ

and democracy.

và dân chủ.

That’s why we’re also working on co-ownership models

Đó là lý do chúng tôi còn làm việc về các mô hình đồng sở hữu

for the data that AI is built on -- which, after all, belongs to all of us --

về dữ liệu mà xây dựng nên AI -- thứ mà, rõ ràng, thuộc về tất cả chúng ta

and using AI itself to create new and better decision-making processes.

và sử dụng chính AI để tạo ra

các quy trình ra quyết định mới và tốt hơn.

Taking advantage of the things

Tận dụng những điều mà

that language models can do that humans can’t,

các mô hình ngôn ngữ có thể, con người không thể

like processing huge amounts of text input.

như xử lý một lượng lớn đầu vào văn bản.

Our work in Taiwan has been an incredible test bed for all of this.

Việc của chúng tôi ở Đài Loan là 1 bài test tuyệt vời cho tất cả

Along with Minister Audrey Tang and the Ministry of Digital Affairs,

Cùng với Bộ trưởng Audrey Tang và Bộ Các vấn đề Kỹ thuật số,

we are working on processes to ask Taiwan's millions of citizens

chúng tôi đang nghiên cứu các quy trình để hỏi hàng triệu công dân

what they actually want to see as a future with AI.

Đài Loan họ thực sự muốn xem tương lai với AI như thế nào.

And using that input not just to legislate,

Và sử dụng đầu vào đó không chỉ để lập pháp,

but to build.

mà còn để xây dựng.

Because one thing that has already come out of these processes

Bởi vì một điều đã xuất hiện từ các quy trình này

is that people are truly excited about a public option for AI,

là mọi người thực sự hào hứng với một lựa chọn công khai cho AI,

one that is built on shared public data that is reliably safe,

thứ được xây trên dự liệu cộng đồng chung thứ chắc chắn an toàn,

that allows communities to access, benefit from

cho phép cộng đồng truy cập, hưởng lợi

and adjust it to their needs.

và điều chỉnh nó theo nhu cầu.

This is what the world of technology could look like.

Đây là cách thế giới công nghệ có thể là.

Steered by the many for the many.

Được chèo lái bởi nhiều nhiều người.

I often find that we accept unnecessary trade-offs

Tôi thường thấy rằng chúng ta chấp nhận những đánh đổi không cần thiết

when it comes to transformative tech.

khi nói đến công nghệ biến đổi.

We are told that we might need to sacrifice democracy

Chúng ta được cho biết rằng chúng ta có thể cần phải hy sinh dân chủ

for the sake of technological progress.

vì lợi ích của tiến bộ công nghệ.

We have no choice but to concentrate power to keep ourselves safe

Ta không còn lựa chọn nào ngoài việc tập trung sức mạnh để giữ mình an toàn

from possible risks.

khỏi những rủi ro có thể.

This is wrong.

Điều này là sai.

It is impossible to have any one of these things --

Thật bất khả thi để có bất cứ điều gì trong đó như

progress, safety or democratic participation --

tiến bộ, an toàn hay sự tham gia dân chủ -

without the others.

mà không có những thứ khác.

If we resign ourselves to only two of the three,

Nếu chúng ta từ bỏ chỉ 2 hay 3 điều thôi,

we will end up with either centralized control or chaos.

chúng ta kết cục sẽ chịu hoặc quyền kiểm soát tập trung, hoặc hỗn độn

Either a few people get to decide or no one does.

Hoặc là một vài người quyết định hoặc không ai quyết định.

These are both terrible outcomes,

Đây đều là những kết quả tồi tệ,

and our work shows that there is another way.

và công việc của chúng tôi cho thấy rằng có một cách khác.

Each of our projects advanced progress,

Mỗi dự án đều nâng cao tiến độ

safety and democratic participation

an toàn và sự tham gia dân chủ

by building cutting-edge democratic AI models,

bằng cách xây dựng các mô hình AI dân chủ tiên tiến,

by using public expertise as a way to understand diffuse risks

bằng cách sử dụng chuyên môn công cộng như một cách để hiểu các rủi ro lan tỏa

and by imagining co-ownership models for the digital commons.

và bằng cách tưởng tượng các mô hình đồng sở hữu cho chung kỹ thuật số.

We are so far from the best collective intelligence systems we could have.

Chúng ta còn khá xa với những hệ thống trí tuệ tập thể tốt nhất từng có

If we started over on building a decision-making process for the world,

Nếu ta bắt đầu xây dựng một quá trình ra quyết định cho thế giới,

what would we choose?

ta sẽ chọn gì?

Maybe we'd be better at separating financial power from political power.

Có lẽ sẽ tốt hơn nên tách

quyền lực tài chính khỏi quyền lực chính trị.

Maybe we'd create thousands of new models of corporations

Có lẽ chúng ta sẽ tạo ra hàng ngàn mô hình mới cho các tập đoàn

or bureaucracies.

hoặc tổ chức quan liêu.

Maybe we'd build in the voices of natural elements

Có lẽ chúng ta sẽ xây dựng tiếng nói của các yếu tố tự nhiên

or future generations.

hoặc các thế hệ tương lai.

Here's a secret.

Đây là một bí mật.

In some ways, we are always starting from scratch.

Theo một số cách, chúng tôi luôn bắt đầu từ đầu.

New technologies usher in new paradigms

Các công nghệ mới mở ra các mô hình mới

that can come with new collective intelligence systems.

có thể đi cùng với các hệ thống trí tuệ tập thể mới.

We can create new ways of living well together

Chúng ta có thể tạo ra những cách sống tốt đẹp mới với nhau

if we use these brief openings for change.

nếu ta sử dụng những cách mở đầu ngắn gọn để thay đổi

The story of technology and democracy is far from over.

Câu chuyện về công nghệ và dân chủ còn lâu mới xong.

It doesn't have to be this way.

Nó không cần phải như thế này.

Things could be unimaginably better.

Việc có thể tốt hơn 1 cách không tưởng

As the Indian author Arundhati Roy once said,

Như tác giả Ấn Độ Arundhati Roy đã từng nói:

"Another world is not only possible,

“Một thế giới khác không chỉ có thể,

she is on her way.

mà còn theo cách của nó.

On a quiet day, I can hear her breathing."

Vào 1 ngày tĩnh lặng, ta có thể nghe hơi thở của nàng”

I can hear our new world breathing.

Tôi có thể nghe thấy thế giới mới của chúng ta thở.

One in which we shift the systems we have

Thế giới nơi ta chuyển dịch các hệ thống mình có

towards using the solution of democracy to build the worlds we want to see.

theo hướng sử dụng giải pháp dân chủ để xây dựng thế giới mà chúng ta muốn thấy.

The future is up to us.

Tương lai là tùy thuộc vào ta.

We have a world to win.

Ta có một thế giới để chiến thắng.

Thank you.

Xin cảm ơn.

(Applause)

(Tiếng vỗ tay)