Your Right to Repair AI Systems | Rumman Chowdhury | TED

Translator: Lập Nguyễn Reviewer: Quỳnh Phương Flora

I want to tell you a story

Tôi muốn kể cho bạn nghe một câu chuyện

about artificial intelligence and farmers.

về trí tuệ nhân tạo và nông dân.

Now, what a strange combination, right?

Bây giờ, thật là một sự kết hợp kỳ lạ, phải không?

Two topics could not sound more different from each other.

Hai chủ đề nghe có vẻ không khác nhau hơn.

But did you know that modern farming actually involves a lot of technology?

Nhưng bạn có biết là nông nghiệp hiện đại thực sự liên quan đến rất nhiều công nghệ?

So computer vision is used to predict crop yields.

Vì vậy, thị giác máy tính được sử dụng để dự đoán năng suất cây trồng.

And artificial intelligence is used to find,

Và trí tuệ nhân tạo được sử dụng để tìm,

identify and get rid of insects.

xác định và loại bỏ côn trùng.

Predictive analytics helps figure out extreme weather conditions

Phân tích dự đoán giúp tìm ra các điều kiện thời tiết khắc nghiệt

like drought or hurricanes.

như hạn hán hoặc bão.

But this technology is also alienating to farmers.

Nhưng công nghệ này cũng xa lạ với nông dân.

And this all came to a head in 2017

Và tất cả điều này đã đạt đến đỉnh điểm vào năm 2017

with the tractor company John Deere when they introduced smart tractors.

với công ty máy kéo John Deere khi họ giới thiệu máy kéo thông minh.

So before then, if a farmer's tractor broke,

Vì vậy, trước đó, nếu máy kéo của nông dân bị hỏng,

they could just repair it themselves or take it to a mechanic.

họ có thể tự sửa chữa nó hoặc đưa nó đến một thợ cơ khí.

Well, the company actually made it illegal

Vâng, công ty đã cho việc nông dân sửa

for farmers to fix their own equipment.

chữa thiết bị của họ là bất hợp pháp.

You had to use a licensed technician

Bạn phải có giấy phép kỹ thuật

and farmers would have to wait for weeks

và nông dân sẽ phải đợi nhiều tuần

while their crops rot and pests took over.

trong khi cây trồng của họ bị thối rữa và sâu bệnh xâm chiếm.

So they took matters into their own hands.

Vì vậy, họ đã tự mình giải quyết vấn đề.

Some of them learned to program,

Một số người họ đã học lập trình

and they worked with hackers to create patches to repair their own systems.

và họ đã làm việc với tin tặc để tạo ra các bản vá để sửa chữa hệ thống.

In 2022,

Vào năm 2022,

at one of the largest hacker conferences in the world, DEFCON,

tại một trong những hội nghị tin tặc lớn nhất thế giới, DEFCON,

a hacker named Sick Codes and his team

một hacker tên là Sick Codes và nhóm của anh ta đã chỉ

showed everybody how to break into a John Deere tractor,

cho mọi người cách đột nhập vào máy kéo John Deere,

showing that, first of all, the technology was vulnerable,

cho thấy rằng, trước hết, công nghệ này dễ bị tổn thương,

but also that you can and should own your own equipment.

nhưng bạn cũng có thể và nên sở hữu thiết bị của riêng mình.

To be clear, this is illegal,

Nói rõ ràng, điều này là bất hợp pháp,

but there are people trying to change that.

nhưng có những người đang cố gắng thay đổi điều đó.

Now that movement is called the “right to repair.”

Bây giờ phong trào đó được gọi là “quyền sửa chữa”.

The right to repair goes something like this.

Quyền sửa chữa giống như thế này.

If you own a piece of technology,

Nếu bạn sở hữu một công nghệ,

it could be a tractor, a smart toothbrush,

đó có thể là máy kéo, bàn chải đánh răng thông minh,

a washing machine,

máy giặt,

you should have the right to repair it if it breaks.

bạn nên có quyền sửa chữa nó nếu nó bị hỏng.

So why am I telling you this story?

Vậy tại sao tôi lại kể cho bạn chuyện này?

The right to repair needs to extend to artificial intelligence.

Quyền sửa chữa cần mở rộng sang trí tuệ nhân tạo.

Now it seems like every week

Giờ đây, dường như mỗi tuần đều

there is a new and mind-blowing innovation in AI.

có một sự đổi mới và đáng kinh ngạc trong AI.

But did you know that public confidence is actually declining?

Nhưng bạn có biết rằng niềm tin của công chúng đang thực sự giảm sút?

A recent Pew poll showed that more Americans are concerned

Một cuộc thăm dò gần đây của Pew cho thấy nhiều người Mỹ quan tâm

than they are excited about the technology.

hơn là họ hào hứng về công nghệ này.

This is echoed throughout the world.

Điều này được gây tiếng vang trên toàn thế giới.

The World Risk Poll shows

Cuộc thăm dò của World Risk

that respondents from Central and South America and Africa

cho thấy những người được hỏi từ Trung, Nam Mỹ và Châu Phi

all said that they felt AI would lead to more harm than good for their people.

đều nói rằng họ cảm thấy AI sẽ có hại hơn là có lợi đối với con người.

As a social scientist and an AI developer,

Là một nhà khoa học xã hội và một nhà phát triển AI,

this frustrates me.

điều này làm tôi thất vọng.

I'm a tech optimist

Tôi là một người lạc quan về kỹ thuật

because I truly believe this technology can lead to good.

vì tôi thực sự tin rằng công nghệ này có thể dẫn đến điều tốt đẹp.

So what's the disconnect?

Vậy cái ngắt kết nối là gì?

Well, I've talked to hundreds of people over the last few years.

Tôi đã nói chuyện với hàng trăm người trong vài năm qua.

Architects and scientists, journalists and photographers,

Các kiến trúc sư, nhà khoa học, nhà báo và nhiếp ảnh gia,

ride-share drivers and doctors,

tài xế và bác sĩ chia sẻ xe,

and they all say the same thing.

và tất cả họ đều nói cùng một điều.

People feel like an afterthought.

Mọi người cảm thấy như một suy nghĩ sau cùng

They all know that their data is harvested often without their permission

Họ đều biết rằng dữ liệu của họ được thu thập thường xuyên một cách trái phép

to create these sophisticated systems.

để tạo ra các hệ thống tinh vi này.

They know that these systems are determining their life opportunities.

Họ biết rằng những hệ thống này đang xác định cơ hội sống của họ.

They also know that nobody ever bothered to ask them

Họ cũng biết rằng không ai bận tâm đến việc hỏi họ

nên xây dựng hệ thống như thế nào,

how the system should be built,

and they certainly have no idea where to go if something goes wrong.

và họ chắc chắn không biết phải đi đâu nếu có sự cố xảy ra.

We may not own AI systems,

Chúng ta không sở hữu các hệ thống AI,

but they are slowly dominating our lives.

nhưng chúng đang dần thống trị cuộc sống của chúng ta.

We need a better feedback loop

Chúng ta cần một vòng lặp phản hồi tốt hơn

between the people who are making these systems,

giữa những người đang tạo ra các hệ thống này,

and the people who are best determined to tell us

và những người quyết tâm nhất cho chúng ta biết

how these AI systems should interact in their world.

các hệ thống AI này nên tương tác như thế nào trong thế giới của họ.

One step towards this is a process called red teaming.

Một bước hướng tới điều này là một quá trình được gọi là Red Teaming.

Now, red teaming is a practice that was started in the military,

Giờ đây, nhóm đỏ là một thực hành được bắt đầu trong quân đội,

and it's used in cybersecurity.

và nó được sử dụng trong an ninh mạng.

In a traditional red-teaming exercise,

Trong một cuộc tập trận đồng đội đỏ truyền thống,

external experts are brought in to break into a system,

bên ngoài được đưa vào để đột nhập vào một hệ thống,

sort of like what Sick Codes did with tractors, but legal.

giống như những gì Sick Codes đã làm với máy kéo, nhưng hợp pháp.

So red teaming acts as a way of testing your defenses

nên việc hồng quân hoạt động như một cách để kiểm tra khả năng phòng thủ của bạn

and when you can figure out where something will go wrong,

và khi bạn có thể tìm ra điều gì đó sẽ xảy ra sai sót

you can figure out how to fix it.

bạn có thể tìm ra cách khắc phục nó.

But when AI systems go rogue,

Nhưng khi các hệ thống AI trở nên tồi tệ,

it's more than just a hacker breaking in.

đó không chỉ là một tin tặc đột nhập.

The model could malfunction or misrepresent reality.

Mô hình có thể bị trục trặc hoặc trình bày sai thực tế.

So, for example, not too long ago,

Vì vậy, ví dụ, cách đây không lâu,

we saw an AI system attempting diversity

chúng ta đã thấy một hệ thống AI cố gắng đa dạng

by showing historically inaccurate photos.

bằng cách hiển thị những bức ảnh không chính xác trong lịch sử.

Anybody with a basic understanding of Western history

Bất cứ ai có hiểu biết cơ bản về lịch sử phương Tây đều

could have told you that neither the Founding Fathers

có thể nói với bạn rằng cả những người sáng lập và những người

nor Nazi-era soldiers would have been Black.

những người lính thời Đức Quốc xã đều không phải Da đen.

In that case, who qualifies as an expert?

Trong trường hợp đó, ai đủ điều kiện làm chuyên gia?

You.

Là bạn.

I'm working with thousands of people all around the world

Tôi đang làm việc với hàng ngàn người trên khắp thế giới

on large and small red-teaming exercises,

trong các bài tập nhóm nhỏ và lớn, và thông qua đó,

and through them we found and fixed mistakes in AI models.

chúng tôi đã tìm thấy và sửa lỗi trong các mô hình AI.

We also work with some of the biggest tech companies in the world:

Chúng tôi cũng làm việc với một số công ty công nghệ lớn nhất trên thế giới:

OpenAI, Meta, Anthropic, Google.

OpenAI, Meta, Anthropic, Google.

And through this, we've made models work better for more people.

Và thông qua điều này, chúng tôi làm ra những mô hình tốt hơn cho mọi người

Here's a bit of what we've learned.

Đây là một chút những gì chúng tôi đã học được.

We partnered with the Royal Society in London to do a scientific,

Chúng tôi đã hợp tác với Hiệp hội Hoàng gia London để thực hiện một nghiên cứu,

mis- and disinformation event with disease scientists.

thiếu và sai lệch thông tin với các nhà khoa học về bệnh tật.

What these scientists found

Những nhà khoa học này tìm thấy

is that AI models actually had a lot of protections

là các mô hình AI thực sự có rất nhiều biện pháp bảo vệ

against COVID misinformation.

chống lại thông tin sai lệch COVID.

But for other diseases like measles, mumps and the flu,

Nhưng đối với các bệnh khác như sởi, quai bị và cúm,

the same protections didn't apply.

các biện pháp bảo vệ tương tự không được áp dụng.

We reported these changes,

Chúng tôi ghi lại những thay đổi,

they’re fixed and now we are all better protected

chúng đã được sửa chữa và bây giờ chúng ta đều được bảo vệ

against scientific mis- and disinformation.

tốt hơn trước thông tin sai lệch và sai lệch khoa học.

We did a really similar exercise with architects at Autodesk University,

Chúng tôi đã thực hiện một bài tập giống với các kiến trúc sư tại Đại học Autodesk,

and we asked them a simple question:

và chúng tôi đã hỏi một câu đơn giản:

Will AI put them out of a job?

Liệu AI có khiến họ nghỉ việc không?

Or more specifically,

Hay cụ thể hơn,

could they imagine a modern AI system

họ có thể tưởng tượng một hệ thống AI hiện đại

that would be able to design the specs of a modern art museum?

có thể thiết kế kính của một bảo tàng nghệ thuật hiện đại không?

The answer, resoundingly, was no.

Câu trả lời, vang dội, là không.

Here's why, architects do more than just draw buildings.

Đây là lý do tại sao, các kiến trúc sư làm nhiều việc hơn là chỉ vẽ các tòa nhà.

They have to understand physics and material science.

Họ phải hiểu vật lý và khoa học vật liệu.

They have to know building codes,

Họ phải biết các quy tắc xây dựng,

and they have to do that

và họ phải làm điều đó

while making something that evokes emotion.

trong khi tạo ra một cái gì đó gợi lên cảm xúc.

What the architects wanted was an AI system

Những gì các kiến trúc sư muốn là một hệ thống AI

that interacted with them, that would give them feedback,

tương tác với họ, sẽ cung cấp cho họ phản hồi,

maybe proactively offer design recommendations.

có thể chủ động đưa ra các đề xuất thiết kế.

And today's AI systems, not quite there yet.

Và hệ thống AI ngày nay, vẫn chưa hoàn toàn ở đó.

But those are technical problems.

Nhưng đó là những vấn đề kỹ thuật.

People building AI are incredibly smart,

Những người xây dựng AI cực kỳ thông minh,

and maybe they could solve all that in a few years.

và có lẽ họ có thể giải quyết tất cả những điều đó trong một vài năm.

But that wasn't their biggest concern.

Nhưng đó không phải là mối quan tâm lớn nhất.

Their biggest concern was trust.

Mối quan tâm lớn nhất của họ là sự tin tưởng.

Now architects are liable if something goes wrong with their buildings.

Các kiến trúc sư phải chịu trách nhiệm nếu có sự cố xảy ra với tòa nhà của họ.

They could lose their license,

Họ có thể mất giấy phép,

they could be fined, they could even go to prison.

họ có thể bị phạt, thậm chí họ có thể đi tù.

And failures can happen in a million different ways.

Và thất bại có thể xảy ra theo một triệu cách khác nhau.

For example, exit doors that open the wrong way,

Ví dụ, cửa ra vào mở sai đường,

leading to people being crushed in an evacuation crisis,

dẫn đến người dân bị nghiền nát trong một cuộc khủng hoảng sơ tán,

or broken glass raining down onto pedestrians in the street

hoặc kính vỡ đổ xuống người đi bộ trên đường

because the wind blows too hard and shatters windows.

vì gió thổi quá mạnh và làm vỡ cửa sổ.

So why would an architect trust an AI system with their job,

Vậy tại sao một kiến trúc sư lại tin tưởng vào một hệ thống AI với công việc của họ,

with their literal freedom,

với sự tự do theo nghĩa đen của họ,

if they couldn't go in and fix a mistake if they found it?

nếu họ không thể vào và sửa lỗi nếu họ tìm thấy nó?

So we need to figure out these problems today, and I'll tell you why.

Vì vậy, chúng ta cần tìm ra những vấn đề ngày hôm nay và tôi sẽ nói bạn biết lý do.

The next wave of artificial intelligence systems, called agentic AI,

Làn sóng tiếp theo của các hệ thống trí tuệ nhân tạo, được gọi là AI đại lý,

is a true tipping point

là một điểm bùng phát thực sự

between whether or not we retain human agency,

giữa việc chúng ta có giữ quyền tự quyết của con người hay không,

or whether or not AI systems make our decisions for us.

hoặc liệu các hệ thống AI có đưa ra quyết định cho chúng ta hay không.

Imagine an AI agent as kind of like a personal assistant.

Hãy tưởng tượng một nhân viên AI giống như một trợ lý cá nhân.

So, for example, a medical agent might determine

Vì vậy, ví dụ, một nhân viên y tế có thể xác định

whether or not your family needs doctor's appointments,

xem gia đình bạn có cần cuộc hẹn với bác sĩ hay không,

it might refill prescription medications, or in case of an emergency,

họ có thể bổ sung thuốc theo toa hoặc trong trường hợp khẩn cấp,

send medical records to the hospital.

gửi hồ sơ y tế đến bệnh viện.

But AI agents can't and won't exist

Nhưng các nhân viên AI không thể và sẽ không tồn tại

unless we have a true right to repair.

trừ khi chúng ta có quyền sửa chữa thực sự.

What parent would trust their child's health to an AI system

Cha mẹ nào sẽ tin tưởng sức khỏe của con mình vào hệ thống AI

unless you could run some basic diagnostics?

trừ khi bạn có thể chạy một số chẩn đoán cơ bản?

What professional would trust an AI system with job decisions,

Chuyên gia nào sẽ tin tưởng vào một hệ thống AI với các quyết định công việc,

unless you could retrain it the way you might a junior employee?

trừ khi bạn có thể đào tạo lại nó theo cách bạn có thể là một nhân viên cấp dưới?

Bây giờ, quyền sửa chữa có thể trông giống như thế này.

Now, a right to repair might look something like this.

Bạn có thể có một bảng chẩn đoán

You could have a diagnostics board

where you run basic tests that you design,

nơi bạn chạy các bài kiểm tra cơ bản mà bạn thiết kế

and if something's wrong, you could report it to the company

và nếu có gì đó không ổn, bạn có thể báo cáo nó cho công ty

và nghe lại khi nó được sửa chữa.

and hear back when it's fixed.

Or you could work with third parties like ethical hackers

Hoặc bạn có thể làm việc với các bên thứ ba như tin tặc có đạo đức,

who make patches for systems like we do today.

những người tạo ra bản vá giống với chúng ta làm ngày nay.

You can download them and use them to improve your system

Bạn có thể tải chúng xuống và sử dụng để cải thiện hệ thống

the way you want it to be improved.

theo cách bạn muốn nó được cải thiện.

Or you could be like these intrepid farmers and learn to program

Hoặc bạn có thể giống như những nông dân gan dạ này và học cách lập trình

and fine-tune your own systems.

và tinh chỉnh hệ thống của riêng bạn.

We won't achieve the promised benefits of artificial intelligence

Chúng ta sẽ không đạt được những lợi ích hứa hẹn của trí tuệ nhân tạo

unless we figure out how to bring people into the development process.

trừ khi chúng ta tìm ra cách đưa mọi người vào quá trình phát triển.

I've dedicated my career to responsible AI,

Tôi đã cống hiến sự nghiệp của mình cho AI có trách nhiệm,

and in that field we ask the question,

và trong lĩnh vực đó, chúng tôi đặt câu hỏi,

what can companies build to ensure that people trust AI?

các công ty có thể xây dựng gì để đảm bảo rằng mọi người tin tưởng AI?

Now, through these red-teaming exercises, and by talking to you,

Bây giờ, qua những bài tập đồng đội đỏ này, và bằng cách nói chuyện với bạn,

I've come to realize that we've been asking the wrong question all along.

tôi đã nhận ra rằng chúng tôi đã hỏi sai câu hỏi từ đầu.

What we should have been asking is what tools can we build

Điều mà chúng ta nên hỏi là chúng ta có thể xây dựng những công cụ nào

so people can make AI beneficial for them?

để mọi người có thể làm cho AI có lợi cho họ?

Technologists can't do it alone.

Các nhà công nghệ không thể làm điều đó một mình.

We can only do it with you.

Chúng tôi chỉ có thể làm điều đó với bạn.

Thank you.

Cảm ơn các bạn.

(Applause)

(Vỗ tay)