How deepfakes undermine truth and threaten democracy | Danielle Citron

Reviewer: 24 Anh

[Bài nói chuyện này có chứa nội dung người lớn]

Rana Ayyub là một nhà báo ở Ấn Độ

[This talk contains mature content]

đã vạch trần các vụ tham nhũng nhà nước

và vi phạm nhân quyền.

Rana Ayyub is a journalist in India

Qua nhiều năm,

cô đã quen với những lời đả kích và tranh cãi về công việc của mình.

whose work has exposed government corruption

Nhưng không gì giúp cô lường trước chuyện mà cô phải đối mặt hồi tháng 4 năm 2018.

and human rights violations.

And over the years,

she's gotten used to vitriol and controversy around her work.

Cô ấy đang ngồi trong quán cà phê cùng bạn thì lần đầu nhìn thấy nó:

But none of it could have prepared her for what she faced in April 2018.

một đoạn video dài 2 phút 20 giây với hình ảnh cô đang làm “chuyện ấy”.

She was sitting in a café with a friend when she first saw it:

Và cô ấy đã không thể tin vào mắt mình.

a two-minute, 20-second video of her engaged in a sex act.

Cô chưa bao giờ quay cảnh nhạy cảm.

Nhưng không may, hàng ngàn người

And she couldn't believe her eyes.

sẽ tin đó là cô ấy.

She had never made a sex video.

Tôi đã phỏng vấn cô Ayyub khoảng ba tháng trước,

But unfortunately, thousands upon thousands of people

về cuốn sách của tôi về quyền riêng tư tình dục.

would believe it was her.

Tôi là giáo sư luật, luật sư và người ủng hộ quyền công dân.

I interviewed Ms. Ayyub about three months ago,

Vì vậy, thật khó chịu khi biết rằng hiện nay,

in connection with my book on sexual privacy.

I'm a law professor, lawyer and civil rights advocate.

luật pháp ít giúp ích được cho cô ấy.

Và khi chúng tôi nói chuyện,

So it's incredibly frustrating knowing that right now,

cô giải thích lẽ ra mình nên lường trước sẽ có đoạn video nhạy cảm giả.

law could do very little to help her.

Cô nói: “Sau cùng, tình dục vẫn thường được dùng để hạ bệ và bôi nhọ phụ nữ,

And as we talked,

she explained that she should have seen the fake sex video coming.

đặc biệt là những người phụ nữ thiểu số,

và nhất là những người phụ nữ thiểu số dám thách thức đàn ông quyền lực”,

She said, "After all, sex is so often used to demean and to shame women,

như điều cô đã làm.

especially minority women,

Đoạn video nhạy cảm giả mạo lan truyền rộng rãi chỉ trong 48 giờ.

and especially minority women who dare to challenge powerful men,"

Tất cả các tài khoản trực tuyến của cô tràn ngập ảnh chụp màn hình của video,

as she had in her work.

The fake sex video went viral in 48 hours.

với những lời đe dọa chết chóc và hiếp dâm

cùng lời lẽ chỉ trích về đức tin Hồi giáo của cô.

All of her online accounts were flooded with screenshots of the video,

Các bài đăng trực tuyến gợi ý rằng cô ấy “sẵn sàng” làm “chuyện ấy”.

with graphic rape and death threats

Và cô bị người ta tọc mạch,

and with slurs about her Muslim faith.

có nghĩa là địa chỉ nhà và số điện thoại cá nhân

Online posts suggested that she was "available" for sex.

bị phát tán khắp internet.

Video này được chia sẻ hơn 40.000 lần.

And she was doxed,

which means that her home address and her cell phone number

Khi ai đó là mục tiêu tấn công của cộng đồng mạng,

were spread across the internet.

The video was shared more than 40,000 times.

tác hại sẽ cực kỳ lớn.

Cuộc sống của Rana Ayyub bị đảo lộn.

Now, when someone is targeted with this kind of cybermob attack,

Trong nhiều tuần, cô hầu như không thể ăn hay nói chuyện.

the harm is profound.

Cô dừng viết và đóng cửa tất cả tài khoản mạng xã hội của mình,

Rana Ayyub's life was turned upside down.

mà bạn biết đấy, đó là một việc khó khăn đối với một nhà báo.

For weeks, she could hardly eat or speak.

Và cô ấy sợ đi ra khỏi nhà.

She stopped writing and closed all of her social media accounts,

Sẽ ra sao nếu những người đăng bài biến lời đe dọa thành thật?

which is, you know, a tough thing to do when you're a journalist.

Hội đồng Nhân quyền Liên Hợp Quốc xác nhận cô ấy không điên.

And she was afraid to go outside her family's home.

What if the posters made good on their threats?

Họ đã đưa ra một tuyên bố công khai rằng họ lo lắng về sự an toàn của cô.

The UN Council on Human Rights confirmed that she wasn't being crazy.

Những gì Rana Ayyub phải đối mặt là công nghệ deepfake:

It issued a public statement saying that they were worried about her safety.

công nghệ học máy

có khả năng thao túng hoặc ngụy tạo bản ghi âm và video

What Rana Ayyub faced was a deepfake:

để thể hiện con người làm hoặc nói những điều

machine-learning technology

mà họ chưa từng làm hoặc nói.

that manipulates or fabricates audio and video recordings

Công nghệ deepfake trông chân thật và thực tế, nhưng không phải vậy;

to show people doing and saying things

tất cả đều là giả dối.

that they never did or said.

Mặc dù công nghệ này vẫn đang phát triển cùng với sự phức tạp,

Deepfakes appear authentic and realistic, but they're not;

nó có mặt ở khắp mọi nơi.

they're total falsehoods.

Giờ, sự chú ý gần đây nhất tới công nghệ deepfake đang nổi lên,

Although the technology is still developing in its sophistication,

khi có quá nhiều thứ trực tuyến

có nội dung khiêu dâm.

it is widely available.

Đầu năm 2018,

Now, the most recent attention to deepfakes arose,

ai đó đăng một công cụ lên Reddit

as so many things do online,

cho phép người dùng ghép khuôn mặt vào video khiêu dâm.

with pornography.

In early 2018,

Và sau đó là một chuỗi các video khiêu dâm giả

someone posted a tool on Reddit

có mặt những ngôi sao nữ mà mọi người yêu thích.

to allow users to insert faces into porn videos.

Ngày nay, bạn có thể lên YouTube

And what followed was a cascade of fake porn videos

và tìm thấy vô số các hướng dẫn từng bước

featuring people's favorite female celebrities.

để tạo công nghệ deepfake trên ứng dụng máy tính để bàn của bạn.

And today, you can go on YouTube and pull up countless tutorials

Và chẳng mấy chốc, ta cũng có thể thao tác trên điện thoại di động.

with step-by-step instructions

on how to make a deepfake on your desktop application.

Đó là sự kết hợp giữa một số điểm yếu cơ bản nhất của con người

And soon we may be even able to make them on our cell phones.

và các công cụ mạng

có khả năng biến deepfake thành vũ khí.

Now, it's the interaction of some of our most basic human frailties

Hãy để tôi giải thích.

Là con người, ta có phản ứng bản năng với âm thanh và video.

and network tools

that can turn deepfakes into weapons.

Ta tin chúng là thật,

So let me explain.

với quan niệm rằng dĩ nhiên bạn có thể tin

As human beings, we have a visceral reaction to audio and video.

điều mà mắt thấy, tai nghe.

Và chính cơ chế đó

We believe they're true,

có thể phá hoại nhận thức chung của chúng ta về sự thật.

on the notion that of course you can believe

what your eyes and ears are telling you.

Dù ta tin rằng deepfake là thật, sự thật lại không phải vậy.

And it's that mechanism

Và ta thường bị thu hút bởi thứ nhạy cảm và khiêu khích.

that might undermine our shared sense of reality.

Although we believe deepfakes to be true, they're not.

Chúng ta có xu hướng tin và chia sẻ thông tin

tiêu cực và lạ thường.

And we're attracted to the salacious, the provocative.

Các nhà nghiên cứu khám phá ra rằng tin vịt lan truyền nhanh hơn gấp mười lần

We tend to believe and to share information

so với những câu chuyện chính xác.

that's negative and novel.

And researchers have found that online hoaxes spread 10 times faster

Ta cũng bị lôi cuốn bởi thông tin

trùng khớp với quan điểm của chúng ta.

than accurate stories.

Các nhà tâm lý học gọi xu hướng đó là “thiên kiến xác nhận.”

Now, we're also drawn to information

Và các nền tảng truyền thông xã hội siêu dung nạp xu hướng ấy,

that aligns with our viewpoints.

Psychologists call that tendency "confirmation bias."

bằng cách cho phép ta chia sẻ liên tục và rộng rãi những thông tin

And social media platforms supercharge that tendency,

phù hợp với quan điểm của mình.

Công nghệ deepfake có khả năng gây ra tác hại cá nhân và xã hội nghiêm trọng.

by allowing us to instantly and widely share information

that accords with our viewpoints.

Hãy tưởng tượng một sản phẩm deepfake

Now, deepfakes have the potential to cause grave individual and societal harm.

chiếu cảnh những người lính Mỹ ở Afganistan đốt Kinh Koran.

Bạn có thể tưởng tượng được rằng deepfake đó sẽ kích động bạo lực

So, imagine a deepfake

that shows American soldiers in Afganistan burning a Koran.

chống lại những người lính.

Và sẽ ra sao nếu ngay ngày hôm sau,

You can imagine that that deepfake would provoke violence

có một sản phẩm deepfake khác xuất hiện,

cho thấy một lãnh đạo Hồi giáo có uy thế ở London

against those soldiers.

And what if the very next day

kêu gọi tấn công những người lính kia?

there's another deepfake that drops,

Chúng ta có thể chứng kiến bạo lực và bất ổn dân sự,

that shows a well-known imam based in London

không chỉ ở Afganistan và Vương quốc Anh,

praising the attack on those soldiers?

mà còn trên toàn thế giới.

We might see violence and civil unrest,

Bạn có thể bảo tôi,

"Thôi nào, Danielle, xa vời quá."

not only in Afganistan and the United Kingdom,

Nhưng không đâu.

Chúng ta đã thấy sự giả dối lan rộng

but across the globe.

trên WhatsApp và các dịch vụ nhắn tin trực tuyến khác

And you might say to me,

"Come on, Danielle, that's far-fetched."

dẫn đến bạo lực chống lại nhóm người dân tộc thiểu số.

But it's not.

Và đó mới chỉ là văn bản -

We've seen falsehoods spread

hãy tưởng tượng nếu đó là video.

on WhatsApp and other online message services

lead to violence against ethnic minorities.

Deepfake có khả năng ăn mòn niềm tin của chúng ta

And that was just text --

imagine if it were video.

về các thể chế dân chủ.

Now, deepfakes have the potential to corrode the trust that we have

Hãy tưởng tượng đêm trước một cuộc bầu cử.

Có một sản phẩm deepfake cho thấy một ứng cử viên của Đảng chủ chốt

in democratic institutions.

bị ốm nặng.

Sản phẩm deepkfake có thể làm chuyển hướng cuộc bầu cử

So, imagine the night before an election.

There's a deepfake showing one of the major party candidates

và làm lung lay cảm nhận của ta rằng cuộc bầu cử hợp pháp.

gravely sick.

Hãy tưởng tượng nếu đêm trước đợt chào bán lần đầu ra công chúng

The deepfake could tip the election

and shake our sense that elections are legitimate.

của một ngân hàng toàn cầu lớn,

có một sản phẩm deepfake cho thấy CEO của ngân hàng

Imagine if the night before an initial public offering

phun ra những thuyết âm mưu khi đang say.

of a major global bank,

Deepfake có thể làm IPO thất bại,

there was a deepfake showing the bank's CEO

và tệ hơn, làm lung lay cảm nhận của ta rằng thị trường tài chính ổn định.

drunkenly spouting conspiracy theories.

The deepfake could tank the IPO,

Vậy là, deepfakes có thể khai thác và phóng đại

and worse, shake our sense that financial markets are stable.

sự ngờ vực sâu thẳm mà ta vốn có

với các chính trị gia, chủ doanh nghiệp

So deepfakes can exploit and magnify the deep distrust that we already have

và những người đứng đầu có ảnh hưởng khác.

Chúng tìm kiếm người xem sẵn sàng tin chúng.

in politicians, business leaders and other influential leaders.

Và việc theo đuổi sự thật cũng nằm ở ranh giới mong manh.

They find an audience primed to believe them.

Các nhà khoa học công nghệ tiên liệu rằng với những tiến bộ của AI,

sớm muộn cũng sẽ khó khăn, hoặc nếu không muốn nói là bất khả thi

And the pursuit of truth is on the line as well.

để chỉ ra điểm khác biệt giữa video thật và giả.

Technologists expect that with advances in AI,

soon it may be difficult if not impossible

Vậy làm thế nào để sự thật trỗi dậy trong thời kỳ đầy rẫy ý tưởng deepfake?

to tell the difference between a real video and a fake one.

Chúng ta sẽ tiếp tục con đường ít kháng cự nhất

So how can the truth emerge in a deepfake-ridden marketplace of ideas?

và tin những gì chúng ta muốn tin,

sự thật bị phớt lờ ư?

Will we just proceed along the path of least resistance

Và có thể ta không chỉ tin vào sự giả dối,

mà còn có thể bắt đầu không tin vào sự thật.

and believe what we want to believe,

truth be damned?

Ta đã từng thấy mọi người viện dẫn hiện tượng deepfake

And not only might we believe the fakery,

để gieo rắc nghi ngờ về bằng chứng thật liên quan tới việc làm sai trái của họ.

we might start disbelieving the truth.

We've already seen people invoke the phenomenon of deepfakes

Ta đã nghe các chính trị gia nói về những bình luận đáng lo ngại của họ,

to cast doubt on real evidence of their wrongdoing.

"Thôi nào, đó là tin giả.

We've heard politicians say of audio of their disturbing comments,

Bạn không thể tin vào điều mắt thấy, tai nghe.”

Và đó là rủi ro

"Come on, that's fake news.

mà giáo sư Robert Chesney và tôi gọi là “lợi tức của kẻ nói dối”:

You can't believe what your eyes and ears are telling you."

nguy cơ kẻ nói dối sẽ viện dẫn deepfake

And it's that risk

that professor Robert Chesney and I call the "liar's dividend":

để thoát khỏi trách nhiệm từ hành vi sai trái của họ.

Vậy, ta phải cắt giảm công việc cho chính ta, không nghi ngờ gì.

the risk that liars will invoke deepfakes

Và chúng ta sẽ cần một giải pháp chủ động

to escape accountability for their wrongdoing.

từ các công ty công nghệ, nhà lập pháp,

So we've got our work cut out for us, there's no doubt about it.

bên thực thi pháp luật và truyền thông.

And we're going to need a proactive solution

Và ta sẽ cần sự phục hồi mang tính xã hội ở mức độ hợp lý.

from tech companies, from lawmakers,

Bây giờ, chúng ta đang tham gia một cuộc trò chuyện rất công khai

law enforcers and the media.

And we're going to need a healthy dose of societal resilience.

về trách nhiệm của các công ty công nghệ.

Và lời khuyên của tôi cho các nền tảng truyền thông xã hội

So now, we're right now engaged in a very public conversation

là thay đổi điều khoản dịch vụ của họ và các hướng dẫn cộng đồng

about the responsibility of tech companies.

sang cấm những sản phẩm deepfake gây hại.

And my advice to social media platforms

Quyết tâm ấy, điều sẽ đòi hỏi sự đánh giácủa con người,

has been to change their terms of service and community guidelines

và nó rất đắt đỏ.

to ban deepfakes that cause harm.

Nhưng ta cần con người

That determination, that's going to require human judgment,

nhìn vào nội dung và bối cảnh của deepfake

and it's expensive.

để xác định nó có phải là sự mạo danh gây hại

But we need human beings

hay là sản phẩm trào phúng, nghệ thuật hoặc giáo dục có giá trị.

to look at the content and context of a deepfake

to figure out if it is a harmful impersonation

Vậy còn pháp luật thì sao?

or instead, if it's valuable satire, art or education.

Pháp luật là nhà giáo dục của chúng ta.

Nó dạy cho chúng ta cái gì có hại và cái gì sai.

So now, what about the law?

Nó định hình hành vi cần răn đe bằng cách trừng phạt kẻ vi phạm

Law is our educator.

It teaches us about what's harmful and what's wrong.

và đảm bảo biện pháp khắc phục dành cho nạn nhân.

Ngay bây giờ, pháp luật chưa thể đối đầu được với deepfake.

And it shapes behavior it deters by punishing perpetrators

Trên toàn thế giới,

and securing remedies for victims.

chúng ta thiếu các quy định chặt chẽ

Right now, law is not up to the challenge of deepfakes.

được thiết kế để giải quyết những vụ mạo danh kỹ thuật số

xâm phạm quyền riêng tư tình dục cá nhân,

Across the globe,

we lack well-tailored laws

hủy hoại danh tiếng

và gây ra tổn thương về mặt cảm xúc.

that would be designed to tackle digital impersonations

Chuyện xảy ra với Rana Ayyub ngày càng trở nên phổ biến.

that invade sexual privacy,

that damage reputations

Khi cô ấy tìm đến pháp luật ở Delhi,

and that cause emotional distress.

người ta bảo cô chuyện này vô phương cứu chữa.

What happened to Rana Ayyub is increasingly commonplace.

Và sự thật đáng buồn là điều đó cũng đúng

ở cả Hoa Kỳ và châu Âu.

Yet, when she went to law enforcement in Delhi,

she was told nothing could be done.

Vậy là ta có một lỗ hổng pháp lý cần phải được lấp đầy.

And the sad truth is that the same would be true

Đồng nghiệp là Tiến sĩ Mary Anne Franks và tôi

in the United States and in Europe.

đang làm việc với nhà lập pháp Hoa Kỳ

So we have a legal vacuum that needs to be filled.

để đưa ra quy định cấm các vụ mạo danh kỹ thuật số gây hại

My colleague Dr. Mary Anne Franks and I are working with US lawmakers

tương đương với ăn cắp danh tính.

Và chúng tôi đã thấy những động thái tương tự

to devise legislation that would ban harmful digital impersonations

ở Iceland, Vương quốc Anh và Úc.

that are tantamount to identity theft.

Nhưng dĩ nhiên, đó chỉ là một phần nhỏ của bài toán về quy định pháp luật.

And we've seen similar moves

in Iceland, the UK and Australia.

Tôi hiểu luật pháp không phải là phương thuốc chữa bách bệnh, nhỉ?

Đó chỉ là dụng cụ đã cùn.

But of course, that's just a small piece of the regulatory puzzle.

Ta phải sử dụng nó khôn ngoan.

Nó cũng có một số trở ngại thực tế.

Now, I know law is not a cure-all. Right?

Bạn không thể áp dụng luật với kẻ mà bạn không thể xác định danh tính và tìm thấy.

It's a blunt instrument.

And we've got to use it wisely.

It also has some practical impediments.

Và nếu thủ phạm sống bên ngoài quốc gia

You can't leverage law against people you can't identify and find.

mà nạn nhân sinh sống,

có lẽ bạn không thể gắng sức đưa kẻ đó tới tòa án địa phương

And if a perpetrator lives outside the country

để đối mặt với công lý.

Và vì vậy chúng ta sẽ cần sự hưởng ứng có quốc tế phối hợp.

where a victim lives,

then you may not be able to insist

that the perpetrator come into local courts

Giáo dục cũng là một phần của sự hưởng ứng của chúng ta.

to face justice.

And so we're going to need a coordinated international response.

Những người thực thi pháp luật sẽ không thi hành luật

mà họ không biết

Education has to be part of our response as well.

và nêu lên vấn đề mà họ không hiểu.

Law enforcers are not going to enforce laws

Trong nghiên cứu về việc rình rập trên mạng,

tôi thấy rằng việc thực thi pháp luật thiếu bước đào tạo

they don't know about

and proffer problems they don't understand.

để nhận thức những điều luật liên quan

In my research on cyberstalking,

và vấn đề lạm dụng trực tuyến.

I found that law enforcement lacked the training

Và thường họ nói với nạn nhân,

“Tắt máy tính đi. Mặc kệ nó. Nó sẽ biến mất.”

to understand the laws available to them

and the problem of online abuse.

Và ta đã thấy điều đó trong vụ việc của Rana Ayyub.

And so often they told victims,

Người ta nói với cô: “Thôi nào, cô đang làm quá vấn đề này lên đấy.

"Just turn your computer off. Ignore it. It'll go away."

Phái nam làm vậy là lẽ thường mà.”

And we saw that in Rana Ayyub's case.

Và vì thế chúng ta cần kết hợp quy định pháp luật mới

She was told, "Come on, you're making such a big deal about this.

với nỗ lực trong đào tạo.

It's boys being boys."

Và giáo dục cũng phải được các phương tiện truyền thông hướng đến.

And so we need to pair new legislation with efforts at training.

Nhà báo cần được giáo dục về hiện tượng deepfake

để họ không khuếch đại và truyền bá chúng.

And education has to be aimed on the media as well.

Đây là phần mà tất cả chúng ta đều liên quan.

Journalists need educating about the phenomenon of deepfakes

Mỗi người trong chúng ta đều cần giáo dục.

so they don't amplify and spread them.

Chúng ta bấm vào, chia sẻ, thích và thậm chí còn chẳng nghĩ ngợi về nó.

And this is the part where we're all involved.

Each and every one of us needs educating.

Ta cần phải làm tốt hơn.

Ta cần nhận biết sự giả dối tốt hơn.

We click, we share, we like, and we don't even think about it.

We need to do better.

Vì vậy, khi chúng ta nghiên cứu những giải pháp này,

We need far better radar for fakery.

sẽ có rất nhiều đau khổ xảy ra xung quanh.

Rana Ayyub vẫn đang vật lộn với hậu quả.

So as we're working through these solutions,

Cô ấy vẫn không cảm thấy thoải mái thể hiện bản thân ngoài đời và trên mạng.

there's going to be a lot of suffering to go around.

Và như cô ấy nói với tôi,

Rana Ayyub is still wrestling with the fallout.

cô ấy vẫn cảm thấy như có hàng ngàn đôi mắt nhìn cơ thể trần trụi của cô,

She still doesn't feel free to express herself on- and offline.

mặc dù, theo đúng nghĩa, cô biết đó không phải là cơ thể mình.

And as she told me,

she still feels like there are thousands of eyes on her naked body,

Và cô ấy thường xuyên bị hoảng loạn,

đặc biệt là khi một người mà cô ấy không quen biết chụp ảnh cô.

even though, intellectually, she knows it wasn't her body.

“Điều gì sẽ xảy ra nếu họ tạo ra sản phẩm deepfake khác?“, cô tự nhủ.

And she has frequent panic attacks,

especially when someone she doesn't know tries to take her picture.

Và vì lợi ích của những người như Rana Ayyub

"What if they're going to make another deepfake?" she thinks to herself.

và nền dân chủ của chúng ta,

chúng ta cần hành động ngay bây giờ.

Cảm ơn các bạn.

And so for the sake of individuals like Rana Ayyub

(Tiếng vỗ tay)

and the sake of our democracy,

we need to do something right now.

Thank you.

(Applause)