AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

Translator: Phương Uyên Reviewer: Thanh Pham

So I've been an AI researcher for over a decade.

Tôi đã là một nhà nghiên cứu AI trong hơn một thập kỷ.

And a couple of months ago, I got the weirdest email of my career.

Vài tháng trước, tôi nhận được email kỳ lạ nhất trong sự nghiệp.

A random stranger wrote to me

Một người lạ đã viết thư cho tôi

saying that my work in AI is going to end humanity.

nói rằng công việc AI của tôi sẽ kết liễu nhân loại.

Now I get it, AI, it's so hot right now.

Giờ tôi hiểu rồi, AI hiện đang là chủ đề nóng hổi.

(Laughter)

(Tiếng cười)

It's in the headlines pretty much every day,

Nó xuất hiện trên các tiêu đề hàng ngày,

sometimes because of really cool things

đôi khi vì những điều thực sự thú vị

like discovering new molecules for medicine

như khám phá ra các phân tử mới cho y học

or that dope Pope in the white puffer coat.

hay hình ảnh Giáo hoàng mặc áo khoác phao.

But other times the headlines have been really dark,

Nhưng có khi khác thì các tiêu đề thật sự khá u ám,

like that chatbot telling that guy that he should divorce his wife

chẳng hạn như chatbot nói với một anh chàng rằng anh ta nên ly dị vợ

or that AI meal planner app proposing a crowd pleasing recipe

hay ứng dụng lập kế hoạch bữa ăn AI đề ra công thức làm hài lòng đám đông

featuring chlorine gas.

lại có chứa khí clo.

And in the background,

Và trong bối cảnh,

we've heard a lot of talk about doomsday scenarios,

chúng ta đã nghe nhiều người nói về ngày tận thế,

existential risk and the singularity,

rủi ro hiện sinh và điểm kỳ dị,

with letters being written and events being organized

với các bức thư được viết và các sự kiện được tổ chức

to make sure that doesn't happen.

để đảm bảo điều đó không xảy ra.

Now I'm a researcher who studies AI's impacts on society,

Hiện tại tôi là một nhà nghiên cứu về tác động của AI đối với xã hội,

and I don't know what's going to happen in 10 or 20 years,

tôi không biết điều gì sẽ xảy ra trong 10 hoặc 20 năm nữa,

and nobody really does.

và không ai thực sự biết.

But what I do know is that there's some pretty nasty things going on right now,

Nhưng những gì tôi biết là có một số điều khá khó chịu đang diễn ra ngay bây giờ,

because AI doesn't exist in a vacuum.

bởi vì AI chẳng tự dưng mà xuất hiện.

It is part of society, and it has impacts on people and the planet.

Nó là một phần của xã hội, và có tác động đến con người và hành tinh.

AI models can contribute to climate change.

Các mô hình AI có thể góp phần vào biến đổi khí hậu.

Their training data uses art and books created by artists

Dữ liệu đào tạo của chúng sử dụng tác phẩm và đầu sách do các nghệ sĩ

and authors without their consent.

và tác giả mà không có sự cho phép.

And its deployment can discriminate against entire communities.

Và việc triển khai nó có thể phân biệt đối xử với toàn bộ cộng đồng.

But we need to start tracking its impacts.

Nhưng chúng ta cần theo dõi tác động của nó.

We need to start being transparent and disclosing them and creating tools

Chúng ta cần bắt đầu minh bạch về chúng, tạo ra các công cụ

so that people understand AI better,

để mọi người hiểu AI tốt hơn,

so that hopefully future generations of AI models

mong rằng các thế hệ mô hình AI trong tương lai

are going to be more trustworthy, sustainable,

sẽ đáng tin cậy hơn, bền vững hơn,

maybe less likely to kill us, if that's what you're into.

có thể giảm khả năng hủy diệt ta, nếu đó là điều bạn muốn.

But let's start with sustainability,

Nhưng hãy bắt đầu với tính bền vững,

because that cloud that AI models live on is actually made out of metal, plastic,

bởi vì các mô hình hoạt động của AI thực sự được làm từ kim loại, nhựa

and powered by vast amounts of energy.

và được cung cấp một nguồn năng lượng khổng lồ.

And each time you query an AI model, it comes with a cost to the planet.

Và mỗi khi bạn truy vấn một mô hình AI, hành tinh sẽ phải trả một cái giá.

Last year, I was part of the BigScience initiative,

Năm ngoái, tôi là một phần của sáng kiến BigScience,

which brought together a thousand researchers

quy tụ hàng ngàn nhà nghiên cứu

from all over the world to create Bloom,

từ khắp nơi trên thế giới để tạo ra Bloom,

the first open large language model, like ChatGPT,

mô hình ngôn ngữ mở rộng đầu tiên, như ChatGPT,

but with an emphasis on ethics, transparency and consent.

nhưng tập trung vào đạo đức, minh bạch và tán thành.

And the study I led that looked at Bloom's environmental impacts

Nghiên cứu mà tôi dẫn dắt xem xét tác động môi trường của Bloom

found that just training it used as much energy

cho thấy rằng chỉ cần huấn luyện nó mà đã tiêu tốn năng lượng

as 30 homes in a whole year

bằng 30 ngôi nhà trong cả năm

and emitted 25 tons of carbon dioxide,

và thải ra 25 tấn carbon dioxide,

which is like driving your car five times around the planet

bằng với bạn lái xe năm lần vòng quanh hành tinh

just so somebody can use this model to tell a knock-knock joke.

chỉ để ai đó có thể dùng mô hình này để nói một câu đùa.

And this might not seem like a lot,

Mà điều này có vẻ không nhiều,

but other similar large language models,

nhưng các mô hình ngôn ngữ lớn tương tự khác,

like GPT-3,

như GPT-3,

emit 20 times more carbon.

thải ra gấp 20 lần khí carbon.

But the thing is, tech companies aren't measuring this stuff.

Nhưng vấn đề là các công ty công nghệ không cân đo thứ này.

They're not disclosing it.

Họ không tiết lộ nó.

And so this is probably only the tip of the iceberg,

Vì vậy đây hẳn chỉ là phần nổi của tảng băng trôi,

even if it is a melting one.

cho dù là một tảng băng tan.

And in recent years we've seen AI models balloon in size

Mà trong những năm gần đây, ta đã thấy các mô hình AI có kích thước khổng lồ

because the current trend in AI is "bigger is better."

vì xu hướng hiện tại của AI là “càng lớn càng tốt”.

But please don't get me started on why that's the case.

Nhưng xin đừng bắt tôi phải giải thích tại sao lại như vậy

In any case, we've seen large language models in particular

Ở mọi trường hợp, ta đã thấy các mô hình ngôn ngữ lớn nói riêng

grow 2,000 times in size over the last five years.

tăng kích thước gấp 2.000 lần trong năm năm qua.

And of course, their environmental costs are rising as well.

Và tất nhiên, chi phí môi trường của chúng cũng đang tăng lên.

The most recent work I led, found that switching out a smaller,

Dự án gần nhất mà tôi dẫn dắt đã tìm ra việc chuyển đổi một mô hình nhỏ hơn,

more efficient model for a larger language model

hiệu quả hơn cho một mô hình ngôn ngữ lớn hơn

emits 14 times more carbon for the same task.

thải ra lượng carbon gấp 14 lần cho cùng một nhiệm vụ.

Like telling that knock-knock joke.

Giống như nói câu đùa đó.

And as we're putting in these models into cell phones and search engines

Khi ta đưa các mô hình này vào điện thoại di động và công cụ tìm kiếm,

and smart fridges and speakers,

tủ lạnh nhỏ và loa thông minh,

the environmental costs are really piling up quickly.

chi phí môi trường thực sự đang tăng lên nhanh chóng.

So instead of focusing on some future existential risks,

Do đó thay vì tập trung vào một số rủi ro tồn tại trong tương lai,

let's talk about current tangible impacts

hãy nói về các tác động hữu hình hiện tại

and tools we can create to measure and mitigate these impacts.

và các công cụ chúng ta có thể tạo ra để đo lường và giảm thiểu tác động này.

I helped create CodeCarbon,

Tôi đã giúp tạo ra CodeCarbon,

a tool that runs in parallel to AI training code

một công cụ chạy song song với mã đào tạo AI

that estimates the amount of energy it consumes

ước tính năng lượng nó tiêu thụ

and the amount of carbon it emits.

và lượng carbon mà nó thải ra.

And using a tool like this can help us make informed choices,

Dùng công cụ này có thể giúp ta đưa ra lựa chọn sáng suốt,

like choosing one model over the other because it's more sustainable,

như chọn mô hình này thay vì mô hình khác vì nó bền vững hơn

or deploying AI models on renewable energy,

hoặc triển khai các mô hình Ai về năng lượng tái tạo,

which can drastically reduce their emissions.

có thể giảm đáng kể lượng khí thải của chúng.

But let's talk about other things

Nhưng hãy nói về những thứ khác

because there's other impacts of AI apart from sustainability.

vì có những tác động khác của AI ngoài tính bền vững.

For example, it's been really hard for artists and authors

Ví dụ, thật khó để các nghệ sĩ và tác giả

to prove that their life's work has been used for training AI models

chứng minh rằng tác phẩm cả đời của họ đã bị dùng cho đào tạo các mô hình AI

without their consent.

mà không có sự cho phép.

And if you want to sue someone, you tend to need proof, right?

Mà nếu muốn kiện ai đó, bạn sẽ cần bằng chứng phải không?

So Spawning.ai, an organization that was founded by artists,

Vì vậy, Spawning.ai, một tổ chức được thành lập bởi các nghệ sĩ,

created this really cool tool called “Have I Been Trained?”

đã tạo ra công cụ vô cùng tuyệt vời có tên “Tôi được đào tạo chưa?”

And it lets you search these massive data sets

Nó cho phép bạn tìm kiếm các tập dữ liệu khổng lồ

to see what they have on you.

để xem chúng có gì về bạn.

Now, I admit it, I was curious.

Tôi thừa nhận là tôi đã tò mò.

I searched LAION-5B,

Tôi đã tìm kiếm LAION-5B,

which is this huge data set of images and text,

đó là bộ dữ liệu khổng lồ gồm hình ảnh và văn bản,

to see if any images of me were in there.

để xem có bất kỳ hình ảnh nào của tôi trong đó không.

Now those two first images,

Hai hình ảnh đầu tiên trong đó

that's me from events I've spoken at.

là tôi trong các sự kiện tôi đã diễn thuyết.

But the rest of the images, none of those are me.

Nhưng còn lại thì không ai trong số đó là tôi.

They're probably of other women named Sasha

Có lẽ của mấy người phụ nữ tên Sasha khác,

who put photographs of themselves up on the internet.

những người đã đưa ảnh của họ lên internet.

And this can probably explain why,

Điều này có thể lý giải vì sao,

when I query an image generation model

khi tôi truy vấn một mô hình tạo ảnh

to generate a photograph of a woman named Sasha,

để tạo ra một bức ảnh của người phụ nữ tên Sasha,

more often than not I get images of bikini models.

tôi thường nhận được hình của những người mẫu bikini.

Sometimes they have two arms,

Đôi khi họ có hai cánh tay,

sometimes they have three arms,

đôi khi lại có ba cánh tay,

but they rarely have any clothes on.

nhưng họ hiếm khi mặc quần áo.

And while it can be interesting for people like you and me

Mặc dù những người như bạn và tôi có thể thấy thú vị

to search these data sets,

khi tìm kiếm những bộ dữ liệu này,

for artists like Karla Ortiz,

đối với các nghệ sĩ như Karla Ortiz,

this provides crucial evidence that her life's work, her artwork,

nó cung cấp bằng chứng quan trọng rằng công việc, tác phẩm cả đời của cô ấy

was used for training AI models without her consent,

bị lấy để đào tạo các mô hình AI mà không có sự đồng ý của cô,

and she and two artists used this as evidence

cô và hai nghệ sĩ đã sử dụng nó làm chứng cứ

to file a class action lawsuit against AI companies

để nộp đơn kiện tập thể chống lại các công ty AI

for copyright infringement.

vì vi phạm bản quyền.

And most recently --

Và gần đây nhất --

(Applause)

(Tiếng vỗ tay)

And most recently Spawning.ai partnered up with Hugging Face,

Gần đây nhất Spawning.ai đã hợp tác với Hugging Face,

the company where I work at,

công ty tôi làm việc

to create opt-in and opt-out mechanisms for creating these data sets.

xây dựng cơ chế chọn và loại để tạo các bộ dữ liệu này.

Because artwork created by humans shouldn’t be an all-you-can-eat buffet

Vì tác phẩm nghệ thuật con người tạo ra không nên là một bữa tiệc buffet

for training AI language models.

để đào tạo các mô hình ngôn ngữ AI.

(Applause)

(Tiếng vỗ tay)

The very last thing I want to talk about is bias.

Điều cuối cùng tôi muốn nói đến là sự thiên vị.

You probably hear about this a lot.

Bạn có thể nghe về điều này rất nhiều.

Formally speaking, it's when AI models encode patterns and beliefs

Nói nghiêm túc, đó là khi các mô hình AI mã hóa các mô hình và niềm tin

that can represent stereotypes or racism and sexism.

có thể đại diện cho định kiến, phân biệt chủng tộc hay giới tính.

One of my heroes, Dr. Joy Buolamwini, experienced this firsthand

Một trong những anh hùng của tôi, Ts. Joy Buolamwini đã trải qua

when she realized that AI systems wouldn't even detect her face

khi cô nhận ra hệ thống AI thậm chí không nhận dạng khuôn mặt cô

unless she was wearing a white-colored mask.

trừ khi cô ấy đeo mặt nạ màu trắng.

Digging deeper, she found that common facial recognition systems

Tìm hiểu sâu hơn, cô nhận thấy rằng các hệ thống nhận diện

were vastly worse for women of color compared to white men.

phụ nữ da màu tệ hơn đàn ông da trắng rất nhiều.

And when biased models like this are deployed in law enforcement settings,

Khi những mô hình thiên vị thế này được triển khai trong cơ sở thực thi pháp luật,

this can result in false accusations, even wrongful imprisonment,

nó có thể dẫn đến những cáo buộc sai trái, thậm chí là bỏ tù oan,

which we've seen happen to multiple people in recent months.

điều mà ta đã chứng kiến nhiều người trải qua trong những tháng gần đây.

For example, Porcha Woodruff was wrongfully accused of carjacking

Ví dụ, Porcha Woodruff bị buộc tội cướp xe

at eight months pregnant

khi mang thai tám tháng

because an AI system wrongfully identified her.

vì hệ thống AI đã nhận dạng sai cô.

But sadly, these systems are black boxes,

Đáng buồn, hệ thống này là hộp đen mà

and even their creators can't say exactly why they work the way they do.

ngay cả người tạo ra chúng cũng không thể nói chính xác lý do chúng hoạt động vậy.

And for example, for image generation systems,

Mà ví dụ với các hệ thống tạo hình ảnh,

if they're used in contexts like generating a forensic sketch

nếu chúng được dùng trong các bối cảnh như tạo ra một bản phác thảo pháp y

based on a description of a perpetrator,

dựa trên mô tả của thủ phạm,

they take all those biases and they spit them back out

chúng sẽ lấy tất cả những thành kiến đó và đưa ra

for terms like dangerous criminal, terrorists or gang member,

các thuật ngữ như tội phạm nguy hiểm, khủng bố hay thành viên băng đảng,

which of course is super dangerous

tất nhiên là cực kỳ nguy hiểm

when these tools are deployed in society.

khi những công cụ này được triển khai trong xã hội.

And so in order to understand these tools better,

Và để hiểu rõ hơn về các công cụ này,

I created this tool called the Stable Bias Explorer,

tôi đã tạo ra công cụ có tên là Stable Bias Explorer,

which lets you explore the bias of image generation models

cho phép bạn khám phá sự thiên vị của các mô hình tạo hình ảnh

through the lens of professions.

qua lăng kính của các ngành nghề.

So try to picture a scientist in your mind.

Hãy cố gắng hình dung một nhà khoa học trong đầu bạn.

Don't look at me.

Đừng nhìn tôi.

What do you see?

Bạn thấy gì?

A lot of the same thing, right?

Rất nhiều thứ giống nhau nhỉ?

Men in glasses and lab coats.

Đàn ông đeo kính và khoác áo thí nghiệm.

And none of them look like me.

Và không ai trong số họ giống tôi.

And the thing is,

Và vấn đề là

is that we looked at all these different image generation models

ta đã xem xét tất cả các mô hình tạo hình ảnh khác nhau

and found a lot of the same thing:

và tìm thấy nhiều điểm chung:

significant representation of whiteness and masculinity

minh chứng quan trọng cho da trắng và tính nam

across all 150 professions that we looked at,

trong 150 ngành nghề mà chúng tôi đã xem xét,

even if compared to the real world,

dù là so sánh với thế giới thực,

the US Labor Bureau of Statistics.

theo Cục Thống kê Lao động Hoa Kỳ.

These models show lawyers as men,

Những mô hình này cho thấy luật sư nam

and CEOs as men, almost 100 percent of the time,

và CEO là đàn ông, vào hầu hết thời gian,

even though we all know not all of them are white and male.

dù chúng ta đều biết không phải tất cả đều da trắng và nam giới.

And sadly, my tool hasn't been used to write legislation yet.

Đáng buồn thay, công cụ của tôi vẫn chưa được sử dụng để viết luật.

But I recently presented it at a UN event about gender bias

Gần đây tôi đã nói về nó tại một sự kiện của Liên Hợp Quốc về sự thiên vị giới tính

as an example of how we can make tools for people from all walks of life,

như một ví dụ về cách ta có thể tạo ra công cụ từ mọi tầng lớp xã hội,

even those who don't know how to code,

ngay cả những người không biết lập trình,

to engage with and better understand AI because we use professions,

để tương tác và hiểu rõ hơn về Ai vì chúng ta vận dụng chuyên môn,

but you can use any terms that are of interest to you.

hay bạn có thể sử dụng bất kỳ thuật ngữ nào mà bạn quan tâm.

And as these models are being deployed,

Và khi những mô hình này được triển khai,

are being woven into the very fabric of our societies,

được đan xen vào chính cấu trúc xã hội của chúng ta,

our cell phones, our social media feeds,

điện thoại di động, mạng xã hội của ta,

even our justice systems and our economies have AI in them.

thậm chí cả hệ thống tư pháp và nền kinh tế của chúng ta đều có AI.

And it's really important that AI stays accessible

Và điều thực sự quan trọng là AI luôn có thể truy cập

so that we know both how it works and when it doesn't work.

để chúng ta biết cả cách nó hoạt động và khi không hoạt động.

And there's no single solution for really complex things like bias

Và không có giải pháp duy nhất cho những vấn đề thực sự phức tạp như thiên vị

or copyright or climate change.

bản quyền hoặc biến đổi khí hậu.

But by creating tools to measure AI's impact,

Nhưng nhờ vào tạo ra công cụ để đo lường tác động của AI,

we can start getting an idea of how bad they are

chúng ta có thể bắt đầu có ý tưởng về mức độ tồi tệ của chúng

and start addressing them as we go.

và bắt đầu giải quyết chúng dần.

Start creating guardrails to protect society and the planet.

Bắt đầu tạo lan can để bảo vệ xã hội và hành tinh.

And once we have this information,

Và một khi chúng ta có thông tin này,

companies can use it in order to say,

các công ty có thể sử dụng nó để nói,

OK, we're going to choose this model because it's more sustainable,

OK, chúng ta sẽ chọn mô hình này vì nó bền vững hơn,

this model because it respects copyright.

mô hình này vì nó tôn trọng bản quyền.

Legislators who really need information to write laws,

Các nhà lập pháp thực sự cần thông tin để viết luật,

can use these tools to develop new regulation mechanisms

có thể sử dụng các công cụ này để phát triển các cơ chế quy định

or governance for AI as it gets deployed into society.

hoặc luật lệ mới cho AI khi nó được triển khai vào xã hội.

And users like you and me can use this information

Người dùng như bạn và tôi có thể dùng thông tin

to choose AI models that we can trust,

để chọn các mô hình AI mà chúng ta có thể tin tưởng,

not to misrepresent us and not to misuse our data.

không làm sai lệch ta hay lạm dụng dữ liệu của ta.

But what did I reply to that email

Tôi đã trả lời email

that said that my work is going to destroy humanity?

nói rằng công việc của tôi sẽ hủy diệt nhân loại thế nào?

I said that focusing on AI's future existential risks

Tôi đã nói rằng tập trung vào các rủi ro tồn tại trong tương lai của AI

is a distraction from its current,

là sự phân tâm khỏi những tác động

very tangible impacts

hiện tại, rất hữu hình của nó

and the work we should be doing right now, or even yesterday,

và việc chúng ta nên làm ngay bây giờ hoặc thậm chí ngày hôm qua,

for reducing these impacts.

để giảm những tác động này.

Because yes, AI is moving quickly, but it's not a done deal.

Bởi vì AI phát triển nhanh, nhưng nó vẫn chưa hoàn chỉnh.

We're building the road as we walk it,

Ta vừa kiến tạo, vừa bước lên phía trước,

and we can collectively decide what direction we want to go in together.

và ta có thể cùng nhau quyết định hướng chúng ta muốn đi tới.

Thank you.

Cảm ơn mọi người.

(Applause)

(Tiếng vỗ tay)