How a Deepfake Almost Ruined My Political Career | Cara Hunter | TED

Translator: Nhàn Katherine Reviewer: Nguyen Hue

This talk contains mature language

Bài nói chuyện này có ngôn ngữ người lớn

“You’re a little whore,

“Mày là con điếm,

and we've all seen your little video."

chúng tao đều đã xem video của mày.”

That was the text message that was sent to me in April of 2022.

Đó là tin nhắn được gửi cho tôi vào tháng 4 năm 2022.

I'm sitting in my grandmother's living room

Tôi đang ngồi trong phòng khách nhà bà

in what is her 90th birthday,

vào ngày sinh nhật 90 tuổi của bà

surrounded by family and friends

gia đình và bạn bè xung quanh

as my phone blows up with messages from strangers

khi điện thoại của tôi nổ tung với tin nhắn từ những người lạ

right across the country

trên khắp đất nước

who say they have seen a video of me

nói rằng họ đã xem video tôi

engaging in hardcore pornographic activity with a man.

có hoạt động khiêu dâm hạng nặng với một người đàn ông.

I knew this was impossible.

Tôi biết điều này là không thể.

With just three weeks out from my election,

Chỉ ba tuần trước cuộc bầu cử,

I felt as though my career was crumbling before my very eyes.

tôi cảm thấy như thể sự nghiệp của mình đang nát vụn ngay trước mắt.

My heart pounded,

Tim tôi đập thình thịch

my mind raced, sweat beaded on my skin.

tâm trí hoảng loạn, mồ hôi đầm đìa.

And then I watched the video, and my worst fear was realized.

Sau đó tôi xem video, và nỗi sợ hãi tồi tệ nhất của tôi đã được nhận ra.

Although this woman in the video was not me,

Mặc dù người phụ nữ này trong video không phải là tôi,

she looked exactly like me.

nhưng cô ấy trông giống hệt tôi.

Impossibly like me.

Giống không tưởng.

Eerily like me.

Giống tôi kỳ lạ.

I had so many questions running through my mind.

Có nhiều câu hỏi chạy trong tâm trí tôi.

Was this AI?

Đây có phải là AI?

Was it not?

Hay là không?

Who made this?

Ai đã làm cái này?

How did they make it?

Làm thế nào họ làm được?

Why did they make it?

Tại sao họ lại làm được?

So I did what anyone would do,

Nên tôi đã làm điều ai cũng sẽ làm,

and I approached my local police service to ask for advice, for guidance.

tôi đến sở cảnh sát địa phương xin tham vấn và hướng dẫn.

And really, where did I go from there?

Và thực sự, tôi đã đi đâu từ đó?

But they informed me that they wouldn't have the cybercrime technology to assist,

Nhưng họ nói họ không có công nghệ tội phạm mạng để giúp tôi,

to find out where this video came from.

để tìm ra video này đến từ đâu.

And it was from that moment I knew that I was on my own.

Từ lúc đó tôi đã biết rằng tôi chỉ có 1 mình.

Now to set the stage, as you can probably tell,

Bây giờ để chuẩn bị, như bạn có thể biết,

I’m from Ireland,

tôi đến từ Ireland,

and to be exact, I'm from Northern Ireland,

và chính xác hơn, tôi đến từ Bắc Ireland,

which is an even smaller place.

một nơi thậm chí còn nhỏ hơn.

We have just 1.8 million people,

Chúng tôi chỉ có 1,8 triệu người,

very similar to the size of Vienna.

rất giống với quy mô của Vienna.

So you can imagine a rumor of this sinister nature,

Vì vậy, bạn có thể tưởng tượng một tin đồn nguy hiểm này,

particularly in the world of politics, can go very far, very fast.

đặc biệt là trong giới chính trị, có thể đi rất xa, rất nhanh.

And that old saying, “seeing is believing” began to haunt me.

Và câu nói cũ, “thấy mới tin” bắt đầu ám ảnh tôi.

And in the weeks leading up to my election,

Trong những tuần trước cuộc bầu cử của tôi,

this video, this false video,

video giả mạo này,

was shared thousands and thousands of times across WhatsApp.

được chia sẻ hàng ngàn và hàng ngàn lần trên WhatsApp.

And attached to this video was photos of me at work,

Và đính kèm với video này là những bức ảnh chụp tôi tại nơi làm việc,

smiling, campaigning,

đang cười, vận động chiến dịch,

building a sense of trust with my constituents.

tạo dựng niềm tin với người ủng hộ tôi.

And as the weeks went on,

Khi hàng tuần trôi qua

messages flooded in faster and faster,

các tin nhắn tràn vào ngày càng nhanh hơn,

and they were of a very vile and sexual nature.

rất hèn hạ và khiêu dục

Ding!

Đinh!

"We've all seen your little video."

“Chúng tao xem video của mày rồi”

Ding!

Đinh!

"You should be ashamed of yourself."

“Mày nên thấy nhục về mình đấy”

Ding!

Đinh!

"Ah, now I see how you got your position in politics."

“À, giờ tao đã hiểu làm sao mày có chỗ đứng chính trị nhé”

It was very difficult.

Rất khó khăn.

And having been in politics since the age of 23,

Tôi tham gia chính trị từ năm 23 tuổi,

and at this point I've been in it for about four to five years,

tại thời điểm đó, tôi đã trải qua được 5 năm

and I'm from Northern Ireland, which is a post-conflict society,

tôi đến từ Bắc Ireland, một xã hội hậu xung đột,

still very deeply divided.

vẫn còn chia rẽ rất sâu sắc.

So I anticipated challenges,

Tôi đã đoán trước thử thách

I anticipated disagreements,

đã lường trước những bất đồng,

I even anticipated attacks, is politics after all.

tôi thậm chí đoán các vụ tấn công đều từ là do chính trị.

But what I did not anticipate was this moment.

Nhưng điều tôi không lường trước được là khoảnh khắc này.

This was different.

Nó khác lắm.

This was the moment where misogyny meets the misuse of technology,

Là thời điểm sự coi thường phụ nữ dựa vào lạm dụng công nghệ,

and even had the potential to impact the outcome of a democratic election.

và thậm chí có khả năng tác động đến kết quả của một cuộc bầu cử dân chủ.

And the sad thing for me was this lie became so far spread,

Và điều đáng buồn đối với tôi là sự dối trá này đã lan truyền quá xa,

so far, so fast,

quá xa, quá nhanh,

that even my own family started to believe it.

đến nỗi ngay cả gia đình tôi cũng bắt đầu tin vào điều đó.

Some would say that they'd heard it at a golf club,

Vài người nói họ đã nghe tin từ câu lạc bộ golf

others would say they heard it at the bar,

những người khác nói rằng họ nghe thấy từ quán bar,

and of course, some even said they heard it in a locker room.

và tất nhiên, một số thậm chí còn nói rằng họ nghe thấy nó trong phòng thay đồ.

A really good example of how far this went

Một ví dụ điển hình về việc nó đi xa đến mức nào

was people that I knew my entire life

là có những người mà tôi biết cả đời

would pass me in the street without whispering a word.

băng qua tôi trên đường chẳng nói chẳng rằng.

People like school teachers,

Như các giáo viên ở trường,

people I had a sense of trust with

người mà tôi có cảm giác tin tưởng

and, you know, an affinity with.

và, bạn biết đấy, thân thiết.

And that was really hard.

Thực sự rất khó khăn.

It felt like overnight I was wearing a scarlet letter.

Cảm giác như tôi mặc lên bộ đồ kỳ thị chỉ qua 1 đêm.

And as things moved on

Khi mọi thứ tiếp diễn

and were about two, three weeks out from the election,

và khoảng hai, ba tuần nữa là đến cuộc bầu cử,

I kept receiving messages, and it got wider and wider.

tôi tiếp tục nhận được tin nhắn, và nó ngày lan rộng hơn.

It was global.

Ra toàn cầu.

Not only was I receiving messages from Dublin and from London,

Tôi không chỉ nhận được tin nhắn từ Dublin và London,

but I was also receiving messages from Massachusetts, Manhattan,

mà còn nhận được tin nhắn từ Massachusetts, Manhattan,

and I was getting so many follows on my political social media,

từ rất nhiều người theo dõi tôi trên mạng xã hội chính trị của mình,

predominantly from men hungry for more of this scandal.

chủ yếu từ những người đàn ông thèm khát nhiều thông tin hơn nữa.

And this intersection of online harms impacting my real life

Sự gặp gỡ những mối nguy hại online này mà tác động đến cuộc đời thực của tôi

was something I found utterly strange and surreal.

là điều tôi thấy hoàn toàn kỳ lạ và siêu thực.

Nó đến mức tôi được nhận ra trên phố

But it got to the point where I was recognized on the street

and approached by a stranger who asked me for a sexual favor.

bởi một người lạ tiếp cận mình yêu cầu quan hệ tình dục.

And it was just, for me, it was like in the blink of an eye,

Như thế với tôi, chỉ trong chớp mắt

everything had just changed,

mọi thứ đã thay đổi,

and it was utterly humiliating.

hoàn toàn sỉ nhục.

I didn't want to leave the house,

Tôi không muốn rời khỏi nhà,

and I had turned notifications off in my phone

và tôi đã tắt thông báo trong điện thoại của mình

just so I could kind of catch my breath,

chỉ để có thể bắt được hơi thở.

but this wasn't ideal in the lead up, of course, to an election.

nhưng điều này chẳng hay ho cho một cuộc bầu cử sắp tới.

And for me, I think that was the purpose of this false video, was to do just that.

Với mình, tôi nghĩ đó chính là mục đích của video giả mạo này, để tôi làm điều đó.

But what hurt the most for me

Nhưng điều đau đớn nhất đối với tôi

was sitting down my father

là phải ngồi xuống cùng cha

and having to explain to him this strange, surreal situation.

giải thích cho ông hiểu tình huống kỳ lạ, không thực này.

My father is an Irishman,

Cha tôi là một người Ireland,

completely disconnected from tech,

hoàn toàn không biết gì về công nghệ

and so having to explain

nên phải giải thích

this horrific situation was an entire fabrication

việc khủng khiếp này là sự bịa đặt hoàn toàn

was very hard to do.

là rất khó khăn.

This was this strange moment

Đây là khoảnh khắc kỳ lạ

where the online world met my life, my reality.

khi thế giới trực tuyến gặp cuộc đời thật của tôi.

Not only having the impact to ruin my reputation,

Nó không chỉ hủy hoại danh tiếng của tôi

but have the capacity to change the outcome

mà còn có khả năng thay đổi kết quả

of a democratic election.

của một cuộc bầu cử dân chủ.

And, you know,

Bạn biết đấy

for years I spent so much time building trust with my constituents.

tôi đã dành rất nhiều thời gian để xây dựng lòng tin với các cử tri của mình.

I mean, we all know how much people like politicians.

Chúng ta đều biết mọi người thích các chính trị gia đến mức nào.

You know, we’re as likeable as the tax man.

Chúng tôi cũng dễ mến như người nộp thuế

So for me, it was hard.

Vì vậy, đối với tôi, nó thật khó khăn.

It was really hard

Nó thực sự khó khăn

because it was years of hard work.

vì tôi đã làm việc chăm chỉ nhiều năm

Tôi rất đam mê công việc,

You know, I’m so passionate about my job,

and this video, this complete falsehood,

và video này, hoàn toàn giả mạo này,

had the ability to just undermine years of hard work in mere seconds.

có khả năng xóa sổ nhiều năm chăm chỉ của tôi chỉ trong vài giây.

But instead of succumbing entirely to victimhood,

Nhưng thay vì khuất phục hoàn toàn trở thành nạn nhân

I ask myself today,

tôi tự hỏi mình,

you know, where do we go from here?

Chúng ta sẽ đi đến đâu từ đây?

And how can AI evolve to prevent something like this happening again?

Làm cách nào AI ngăn chặn được những điều tương tự xảy ra lần nữa?

Not only has it happened to me,

Nó không chỉ đã xảy ra với tôi,

but we want to future-proof and ensure that this doesn't happen

chúng tôi muốn đảm bảo rằng tương lai nó không xảy ra

to the women of tomorrow.

với phụ nữ sau này.

How can we, you and I, people who care about people,

Làm thế nào chúng ta, bạn và tôi, những người quan tâm đến mọi người,

ensure that this is a tech for good?

đảm bảo rằng đây là một công nghệ hữu ích?

How can we, the policymakers, the creators, the consumers,

Làm thế nào chúng ta, những nhà làm chính sách,

người sáng tạo, người tiêu dùng,

ensure we regulate AI and things like social media,

đảm bảo rằng ta quản lý AI và những thứ như mạng xã hội

putting humans and humanity at the center of artificial intelligence?

đặt con người và nhân loại vào trung tâm của trí tuệ nhân tạo?

AI can change the world.

AI có thể thay đổi thế giới.

In fact, as we've heard today, it already has.

Thực tế, như ta đã biết ngày này, nó đã làm được vậy.

In a matter of seconds,

Chỉ trong vài giây,

people who speak completely different languages

con người nói những ngôn ngữ hoàn toàn khác nhau

can connect and understand one another.

có thể kết nối và hiểu nhau.

And we've even seen the Pope as a style icon in a puffer jacket.

Thậm chí ta còn thấy Giáo Hoàng như 1 biểu tưởng phong cách trong áo phao

So some really important uses right there.

Có những tính năng rất quan trọng.

But then in my case as well,

Nhưng với trường hợp của tôi

we can also see how it is weaponized against the truth.

ta còn thấy nó được vũ khí hóa chống lại sự thật

And good examples of this would be art that appears like reality,

Những ví dụ điển hình là nghệ thuật nhìn giống như thực,

AI-generated reviews unfairly boosting certain products

Những review được tạo ra từ AI quảng bá không lành mạnh cho các sản phẩm

and things like chatbot propaganda.

và những thứ như tin nhắn chatbot.

And then, politically speaking,

Xét về mặt chính trị,

we've seen over the years deepfakes of Nancy Pelosi slurring,

nhiều năm qua, chúng ta đã xem

gương mặt giả mạo của Nancy Pelosi lắp bắp,

Joe Biden cursing

Joe Biden chửi thề

and even President Zelensky

và thậm chí cả Tổng thống Zelensky

asking his soldiers to surrender their weapons.

yêu cầu binh lính của mình giao nộp vũ khí của họ.

So when AI is used like this, to manipulate,

Vì vậy, khi AI được sử dụng như thế này, để thao túng,

it can be a threat to our democracy.

nó có thể là mối đe dọa đối với nền dân chủ của chúng ta.

And the tech is becoming so advanced

Và công nghệ đang trở nên quá tiên tiến

that it's hard to differentiate fact from fiction.

đến mức khó phân biệt thực tế với hư cấu.

So how does AI interfere with politics?

AI can thiệp vào chính trị như thế nào?

And for us as politicians, what should we be worried about?

Và đối với chúng tôi là các chính trị gia, chúng tôi nên lo lắng về điều gì?

Could truth and democracy become shattered by AI?

Liệu sự thật và dân chủ có bị AI làm cho tan tành?

Has it already?

Hay nó đã làm rồi?

Well, to dive a little deeper here,

Để đi sâu hơn một chút ở đây,

I think firstly we need to talk about the concept of truth.

tôi nghĩ trước tiên chúng ta cần nói về khái niệm sự thật.

Without truth, democracy collapses.

Không có sự thật, nền dân chủ sụp đổ.

Truth allows us to make informed decisions,

Sự thật cho phép chúng ta đưa ra quyết định sáng suốt,

it enables us to hold leaders accountable, which is very important.

nó cho phép chúng ta buộc các nhà lãnh đạo chịu trách nhiệm, điều này rất quan trọng.

And it also allows us, as political representatives,

Và nó cũng cho phép chúng ta, với tư cách là đại diện chính trị,

to create a sense of trust with our citizens and our constituents.

tạo ra cảm giác tin tưởng với công dân và cử tri của chúng ta.

But without that truth,

Nhưng nếu không có sự thật đó,

democracy is vulnerable to misinformation,

dân chủ tổn thương vì thông tin sai lệch

manipulation, and, of course, corruption.

sự thao túng và dĩ nhiên cả tham nhũng.

When AI erodes truth,

Khi AI làm xói mòn sự thật,

it erodes trust,

nó làm xói mòn niềm tin,

and it undermines our democracy.

và nó làm suy yếu nền dân chủ.

And for me, in my experience with a deepfake,

Đối với tôi, trong kinh nghiệm của tôi với deepfake,

I've seen what a fantastic distortion tool that deepfakes really are.

tôi đã thấy một công cụ biến dạng tuyệt vời như deepfake thực sự có.

So how can we safeguard democracy from this ever-advancing technology?

Làm thế nào ta có thể bảo vệ nền dân chủ khỏi công nghệ ngày càng phát triển này?

It's becoming ever harder to distinguish between real and synthetic content.

Ngày càng khó phân biệt giữa nội dung thực và tổng hợp.

And politically, what role does AI play in the future?

Về mặt chính trị, AI đóng vai trò gì trong tương lai?

And I can't talk about politics without talking about media as well.

Tôi không thể nói về chính trị mà không nói về truyền thông.

They're undeniably linked, they're intertwined.

Chúng liên kết không thể phủ nhận, chúng đan xen.

And I think journalism has its own battle here as well.

Tôi nghĩ rằng báo chí cũng có một cuộc chiến riêng ở đây.

From AI algorithms boosting articles unfairly

Từ thuật toán AI thúc đẩy các bài viết nhanh chóng

to clickbait headlines,

đến tiêu đề câu khách,

and then also moments where they can manipulate the public as well.

và sau đó là những khoảnh khắc mà chúng cũng có thể thao túng công chúng.

But politically speaking,

Nhưng về mặt chính trị,

we've seen AI-tailored political messaging

chúng ta đã thấy thông điệp chính trị phù hợp với AI

influencing voters,

ảnh hưởng đến cử tri,

we’ve seen it adding to existing bias.

chúng ta đã thấy nó làm tăng thêm thành kiến hiện có.

And definitely I think we all have that aunt that’s on Facebook

Tôi nghĩ chắc tất cả chúng ta đều có người dì dùng Facebook

and kind of believes anything.

mà tin bất cứ điều gì.

So for me, as a politician,

Vậy với tôi, là chính trị gia,

I think it's really important we dive a little deeper

tôi nghĩ thứ thực sự quan trọng là ta đào sâu hơn nữa

into the relationship of AI, journalism and media.

vào mối quan hệ giữa AI, báo chí và truyền thông.

But it also puts us at risk

Nhưng nó cũng đặt chúng ta vào nguy cơ

of creating a more divided and reactionary society,

tạo ra một xã hội bị chia rẽ và manh động hơn,

because falsehoods can create a lot of reaction.

bởi vì sự giả dối có thể tạo ra rất nhiều phản ứng.

And for myself, coming from Northern Ireland,

Đối với bản thân tôi, đến từ Bắc Ireland,

which is that post-conflict society,

đó là xã hội hậu xung đột,

I do have concerns about how it could shape our political landscape

tôi có những lo ngại về cách nó có thể định hình bối cảnh chính trị của chúng ta

and other places across the globe.

và những nơi khác trên toàn cầu.

Sadly, this deepfake video

Đáng buồn thay, video deepfake này

is not the only instance of me having experienced abuse with AI.

không phải chỉ tôi bị AI lạm dụng

Just six months ago,

Chỉ sáu tháng trước,

I received 15 deepfake images of myself in lingerie

tôi đã nhận được 15 hình ảnh deepfake của mình trong bộ đồ lót ren

posing provocatively.

tạo dáng khiêu khích.

And I thought to myself, here we go again.

Tôi tự nhủ, lại bắt đầu rồi.

And you know, I spoke with some other female politicians.

Bạn biết đấy, tôi đã nói chuyện với một số nữ chính trị gia khác.

Thankfully, where I represent, we have more women getting into politics.

Rất may, nơi tôi đại diện, chúng tôi có nhiều phụ nữ tham gia chính trị.

But I had a really good conversation with them,

Tôi có một cuộc trò chuyện thực sự tốt với họ,

and it’s around, if this is happening to you now,

nó ở mọi nơi, nếu nó diễn ra với bạn bây giờ,

what happens to me tomorrow?

gì sẽ xảy ra với tôi vào ngày mai?

And I think this really strikes at the heart of the climate of fear

Tôi nghĩ điều này thực sự đánh vào tâm điển của nỗi sợ

that AI can create for those in public life.

mà AI có thể tạo ra cho những người của công chúng.

And I don't blame women.

Tôi không đổ lỗi phụ nữ.

It's very sad.

Nó rất buồn.

I don't blame women for not wanting to get into politics

Tôi không đổ lỗi phụ nữ vì không muốn tham gia chính trị

when they see this kind of technology come forward,

khi họ thấy kiểu công nghệ này xuất hiện,

so that's so important that we safeguard it.

nên nó quan trọng đến mức chúng ta phải bảo vệ nó.

What also concerned me was the position of elderly voters

Điều cũng khiến tôi lo lắng là vị trí của cử tri cao tuổi

and perhaps their media literacy,

có lẽ kiến thức truyền thông của họ

their comprehension of this technology.

sự hiểu biết của họ về công nghệ này.

People who don't use the internet,

Những người không sử dụng internet,

who perhaps are not aware of AI and its many, many uses.

những người có lẽ không biết về AI và rất nhiều công dụng của nó.

So that was really concerning as well.

Vậy điều đó cũng thực sự đáng quan tâm.

But it doesn't have to be this way.

Nó không nhất thiết phải thế này.

We can be part of the change.

Ta có thể là 1 phần của sự thay đổi.

For me and my video,

Đối với tôi và video của tôi,

I still don't know, to this day, who did this.

tôi vẫn không biết, cho đến ngày nay, ai đã làm điều này.

I can imagine why they did it, but I don't know who did it.

Tôi có thể tưởng tượng tại sao họ, nhưng tôi không biết ai đã làm.

And sadly for me and for across the globe,

Đáng buồn cho tôi và trên toàn thế giới,

it still wouldn't be considered a crime.

nó vẫn sẽ không được coi là một tội ác.

So from being the enemy of fair, transparent,

Vì vậy, từ việc trở thành kẻ thù của chính trị công bằng,

good-natured politics,

minh bạch, tử tế,

to warfare, to international interference,

đến chiến tranh, đến can thiệp quốc tế,

despite its beauty and its potential,

bất chấp vẻ đẹp và tiềm năng của nó,

AI is still a cause for concern.

AI vẫn là một nguyên nhân đáng lo ngại.

But it doesn't have to be this way.

Nhưng nó không nhất thiết phải thế này.

I feel passionately that AI can be a humanistic technology

Tôi cảm thấy say mê rằng AI có thể là một công nghệ nhân văn

with human values

với các giá trị nhân văn

that complements the lives that we live

giúp cuộc sống của chúng ta

to make us the very best versions of ourselves.

giúp chúng ta trở thành phiên bản tốt nhất của chính mình.

But to do that,

Nhưng để làm được điều đó,

I think we need to embed ethics into this technology,

tôi nghĩ chúng ta cần đưa đạo đức vào công nghệ này,

to eliminate bias, to install empathy

để loại bỏ sự đình kiến, tạo sự đồng cảm

and make sure it is aligned with human values and human principles.

và đảm bảo nó phù hợp với các giá trị con người và nguyên tắc nhân văn.

Who knows, our democracy could depend on it.

Ai biết được, nền dân chủ của chúng ta có thể phụ thuộc vào nó.

And today I know we have some of the brightest minds in this room.

Và hôm nay tôi biết chúng ta có một số bộ óc thông minh nhất trong căn phòng này.

I heard some of the talks earlier, and I'm certain of that.

Tôi đã nghe vài cuộc nói chuyện trước đó, và tôi chắc chắn về điều đó.

And I know each and every one of you have weight on your shoulders

Tôi biết mỗi người trong các bạn đều có trọng trách trên vai

when looking to the future.

khi hướng tới tương lai.

But I also know each and every one of you want to see this tech for good.

Nhưng tôi cũng biết tất cả các bạn đều muốn thấy công nghệ này theo cách tốt đẹp

And what gives me hope

Điều này cho tôi hy vọng

is witnessing the movement right across the globe

là chứng kiến phong trào khắp toàn cầu

to see this hard journey begin,

ngắm cuộc hành trình khó khăn này bắt đầu

to regulate this ever-advancing technology,

để điều chỉnh công nghệ ngày càng tiến bộ này,

which can be used for bad or for good.

thứ được dùng cho việc tốt hoặc xấu.

But perhaps we, each and every one of us in this room,

Có lẽ chúng ta, mỗi người trong chúng ta trong căn phòng này,

can be part of finding the solution.

có thể là 1 phần tìm ra giải pháp.

(Applause)

(Vỗ tay)