How a Deepfake Almost Ruined My Political Career | Cara Hunter | TED

Fordító: Peter Pallos Lektor: Reka Lorinczy

This talk contains mature language

Az előadás durva nyelvezetű.

“You’re a little whore,

„Te egy kis kurva vagy,

and we've all seen your little video."

és mindenki látta a rólad szóló videót.”

That was the text message that was sent to me in April of 2022.

Ezt a szöveges üzenetet kaptam 2022 áprilisában.

I'm sitting in my grandmother's living room

Nagymamám 90. születésnapján a nappalijában ültem,

in what is her 90th birthday,

körülöttem a család és barátaink,

surrounded by family and friends

miközben telefonomat idegenektől érkező üzenetek árasztották el

as my phone blows up with messages from strangers

az egész országból.

right across the country

Közölték, hogy videót láttak,

who say they have seen a video of me

amelyen egy férfival kemény pornójelenetet adok elő.

engaging in hardcore pornographic activity with a man.

I knew this was impossible.

Tudtam, hogy ez lehetetlen.

With just three weeks out from my election,

Megválasztásomig mindössze három hét volt hátra,

I felt as though my career was crumbling before my very eyes.

és úgy éreztem, mintha páyafutásom a szemem láttára omlana össze.

My heart pounded,

Szívem hevesen kalapált, agyam pörgött,

my mind raced, sweat beaded on my skin.

bőrömön verejték gyöngyözött.

And then I watched the video, and my worst fear was realized.

A videót megnézve legszörnyűbb félelmem igazolódott be.

Although this woman in the video was not me,

Bár a nő a videóban nem én voltam,

she looked exactly like me.

pont úgy nézett ki, mint én.

Impossibly like me.

A megszólalásig rám hasonlított.

Eerily like me.

Kísértetiesen hasonlított rám.

I had so many questions running through my mind.

Annyi kérdés járt az agyamban!

Was this AI?

MI-vel készült?

Was it not?

Vagy nem azzal?

Who made this?

Ki készítette?

How did they make it?

Hogy sikerült?

Why did they make it?

Miért csinálták?

So I did what anyone would do,

Azt tettem, amit bárki tenne:

and I approached my local police service to ask for advice, for guidance.

tanácsért, útmutatásért a helyi rendőrséghez fordultam.

And really, where did I go from there?

Hová mehettem volna?

But they informed me that they wouldn't have the cybercrime technology to assist,

De közölték, hogy nem áll rendelkezésükre a kiberbűnözés elleni technológia,

to find out where this video came from.

amellyel kideríthetnék, honnan származik a videó.

And it was from that moment I knew that I was on my own.

Ettől kezdve tudtam, hogy csak magamra számíthatok.

Now to set the stage, as you can probably tell,

Már valószínűleg rájöttek,

I’m from Ireland,

hogy Írországból származom,

and to be exact, I'm from Northern Ireland,

pontosabban még kisebb helyről,

which is an even smaller place.

Észak-Írországból.

We have just 1.8 million people,

Mindössze 1,8 millió lakosunk van,

very similar to the size of Vienna.

kb. annyi, mint Bécsnek.

So you can imagine a rumor of this sinister nature,

Tehát el lehet képzelni, hogy ilyen aljas pletyka,

particularly in the world of politics, can go very far, very fast.

kiváltképp a politika világában, hamar és messzire eljuthat.

And that old saying, “seeing is believing” began to haunt me.

A régi mondás, hogy „látni annyi, mint elhinni”, kísérteni kezdett.

And in the weeks leading up to my election,

A választásom előtti hetekben a hamis videót

this video, this false video,

was shared thousands and thousands of times across WhatsApp.

a WhatsApp-on sok ezerszer osztották meg.

And attached to this video was photos of me at work,

A videóhoz képeket csatoltak, amelyeken dolgozom, mosolygok,

smiling, campaigning,

kampányolok,

building a sense of trust with my constituents.

és bizalmat keltek a választóimban.

And as the weeks went on,

Ahogy teltek-múltak a hetek,

messages flooded in faster and faster,

az aljas és szexuális jellegű üzenetek

and they were of a very vile and sexual nature.

egyre gyorsabban áradtak.

Ding!

Puff!

"We've all seen your little video."

„Mindenki látta a kis videódat.”

Ding!

Puff!

"You should be ashamed of yourself."

„Szégyelld magad!”

Ding!

Puff!

"Ah, now I see how you got your position in politics."

„Most már látom, hogyan tettél szert politikai pozíciódra.”

It was very difficult.

Letaglózó volt.

And having been in politics since the age of 23,

Mivel 23 éves korom óta dolgozom a politikában,

and at this point I've been in it for about four to five years,

négy-öt éve voltam mostani szerepemben,

and I'm from Northern Ireland, which is a post-conflict society,

és észak-írországi vagyok, amely konfliktus utáni társadalom,

still very deeply divided.

és még mindig mélyen megosztott,

So I anticipated challenges,

ezért megpróbáltatásokra,

I anticipated disagreements,

nézeteltérésekre,

sőt még támadásokra is számítottam.

I even anticipated attacks, is politics after all.

Ilyen a politika.

But what I did not anticipate was this moment.

De erre nem számítottam!

This was different.

Ez másmilyen.

This was the moment where misogyny meets the misuse of technology,

A nőgyűlölet ekkor találkozott a technológiával való visszaéléssel,

and even had the potential to impact the outcome of a democratic election.

és még a demokratikus választások eredményét is befolyásolhatta.

And the sad thing for me was this lie became so far spread,

Elkeserített, hogy a hazugság

olyan messzire és gyorsan terjedt,

so far, so fast,

that even my own family started to believe it.

hogy még családom is kezdte elhinni.

Some would say that they'd heard it at a golf club,

Egyesek szerint a golfklubban hallották,

others would say they heard it at the bar,

mások szerint a kocsmában,

and of course, some even said they heard it in a locker room.

volt, aki szerint az öltözőben.

A really good example of how far this went

Remek példa rá,

was people that I knew my entire life

hogy némely régi ismerősöm milyen mélyre jutott:

would pass me in the street without whispering a word.

szótlanul elosontak mellettem az utcán.

People like school teachers,

Tanárok,

people I had a sense of trust with

akikben bíztam,

and, you know, an affinity with.

és rokonszenvesnek találtam.

And that was really hard.

Nehéz volt elviselni.

It felt like overnight I was wearing a scarlet letter.

Olyan volt, mintha hirtelen megbélyegeztek volna.

And as things moved on

Ahogy a dolgok haladtak,

and were about two, three weeks out from the election,

és két-három hét volt hátra a választásig, egyre csak jöttek az üzenetek,

I kept receiving messages, and it got wider and wider.

és a számuk egyre csak nőtt.

It was global.

Az egész világból.

Not only was I receiving messages from Dublin and from London,

Nem csak Dublinból és Londonból,

but I was also receiving messages from Massachusetts, Manhattan,

hanem Massachusettsből, Manhattanből is,

and I was getting so many follows on my political social media,

és rengeteg követést kaptam politikai közösségi médiámban,

predominantly from men hungry for more of this scandal.

főleg még több botrányra éhes férfiaktól.

And this intersection of online harms impacting my real life

Az életemre ható online ártalmakat

was something I found utterly strange and surreal.

teljesen furcsának és szürreálisnak találtam.

But it got to the point where I was recognized on the street

De odáig fajult a dolog, hogy felismertek az utcán,

and approached by a stranger who asked me for a sexual favor.

és egy vadidegen szexuális szívességet kért tőlem.

And it was just, for me, it was like in the blink of an eye,

Egy szempillantás alatt

everything had just changed,

mintha minden megváltozott volna.

and it was utterly humiliating.

Teljességgel megalázó volt.

I didn't want to leave the house,

Nem akartam kilépni a házból,

and I had turned notifications off in my phone

és telefonomban kikapcsoltam az értesítéseket,

just so I could kind of catch my breath,

csak hogy lélegzethez jussak,

but this wasn't ideal in the lead up, of course, to an election.

bár ez persze nem volt ideális a választások előtt.

And for me, I think that was the purpose of this false video, was to do just that.

Azt hiszem, a hamis videónak épp ez volt a célja.

But what hurt the most for me

De az fájt a legjobban,

was sitting down my father

hogy apámnak meg kellett magyaráznom

and having to explain to him this strange, surreal situation.

ezt a furcsa, szürreális helyzetet.

My father is an Irishman,

Apám ír,

completely disconnected from tech,

teljesen el van szakadva a technológiától,

and so having to explain

így igen nehéz volt megértetnem vele

this horrific situation was an entire fabrication

ezt a szörnyű koholmányt.

was very hard to do.

This was this strange moment

Ebben a furcsa pillanatban

where the online world met my life, my reality.

az online világ találkozott az életemmel, a valóságommal.

Not only having the impact to ruin my reputation,

Nemcsak hírnevemet teszi tönkre,

but have the capacity to change the outcome

hanem a demokratikus választások kimenetelét is

of a democratic election.

képes megváltoztatni.

And, you know,

Annyi évet töltöttem

for years I spent so much time building trust with my constituents.

választóim bizalmának kivívásával!

I mean, we all know how much people like politicians.

Tudjuk, hogy a politikusokat pont annyira szeretik,

You know, we’re as likeable as the tax man.

mint az adóellenőröket.

So for me, it was hard.

Gyötrelmesen nehéz volt,

It was really hard

borzasztóan nehéz,

because it was years of hard work.

mert évekig tartó kemény munka állt mögöttem.

You know, I’m so passionate about my job,

Szenvedélyem a munkám,

and this video, this complete falsehood,

és a hamis videó képes volt

had the ability to just undermine years of hard work in mere seconds.

pillanatok alatt aláásni évekig tartó kemény munkámat.

But instead of succumbing entirely to victimhood,

De ahelyett, hogy teljesen áldozattá váltam volna,

I ask myself today,

azt kérdezem magamtól:

you know, where do we go from here?

hogyan tovább?

And how can AI evolve to prevent something like this happening again?

Hogyan akadályozhatja meg az MI, hogy ilyesmi megismétlődjön?

Not only has it happened to me,

Ilyen nem csak velem történt meg.

but we want to future-proof and ensure that this doesn't happen

El akarjuk érni, hogy a jövőben más nőkkel

ilyen ne fordulhasson elő.

to the women of tomorrow.

How can we, you and I, people who care about people,

Hogyan biztosíthatjuk mi, akik másokkal törődünk,

ensure that this is a tech for good?

hogy ez jó technológia legyen?

How can we, the policymakers, the creators, the consumers,

Hogyan tudjuk mi: döntéshozók, alkotók, fogyasztók

ensure we regulate AI and things like social media,

szabályozni az MI-t és a közösségi médiát,

putting humans and humanity at the center of artificial intelligence?

és az embereket és az emberiséget helyezni az MI középpontjába?

AI can change the world.

Az MI megváltoztatja a világot.

In fact, as we've heard today, it already has.

Amint azt ma hallottuk, már megtette.

In a matter of seconds,

Néhány pillanat alatt

people who speak completely different languages

a teljesen más nyelveket beszélők

can connect and understand one another.

kapcsolatba léphetnek és megérthetik egymást.

And we've even seen the Pope as a style icon in a puffer jacket.

Még a pápát is láttuk mint divatikont tolldzsekiben.

So some really important uses right there.

Tehát van pár igazán fontos felhasználás.

But then in my case as well,

De az én esetemben is láthatjuk,

we can also see how it is weaponized against the truth.

hogyan fenekednek az igazság ellen.

And good examples of this would be art that appears like reality,

Jó példa erre a valóságnak tűnő művészet,

AI-generated reviews unfairly boosting certain products

az egyes termékeket tisztességtelenül reklámozó, MI kreálta értékelések,

and things like chatbot propaganda.

és a chatbot propaganda.

And then, politically speaking,

A politikában láttunk az évek során mély hamisítványokat:

we've seen over the years deepfakes of Nancy Pelosi slurring,

Nancy Pelosit szitkozódni,

Joe Biden cursing

Joe Bident káromkodni,

and even President Zelensky

sőt Zelenszkijt arra kérni katonáit,

asking his soldiers to surrender their weapons.

hogy tegyék le a fegyvert.

So when AI is used like this, to manipulate,

Mikor az MI-vel így manipulálnak,

it can be a threat to our democracy.

az demokráciánkat veszélyezteti.

And the tech is becoming so advanced

A technológia már annyira fejlett,

that it's hard to differentiate fact from fiction.

hogy nehéz a tényeket a koholmányoktól megkülönböztetni.

So how does AI interfere with politics?

Hogyan avatkozik bele az MI a politikába?

And for us as politicians, what should we be worried about?

Nekünk, politikusoknak, mi miatt kell nyugtalankodnunk?

Could truth and democracy become shattered by AI?

Tönkreteheti-e az igazságot és a demokráciát az MI?

Has it already?

Vagy már tönkre is tette?

Well, to dive a little deeper here,

Egy kissé mélyebbre kell merüljek.

I think firstly we need to talk about the concept of truth.

Először az igazság fogalmát kell megvizsgálnunk.

Without truth, democracy collapses.

Igazság nélkül a demokrácia összeomlik.

Truth allows us to make informed decisions,

Az igazságból kiindulva hozhatunk csak megalapozott döntéseket,

it enables us to hold leaders accountable, which is very important.

általa vonhatjuk felelősségre vezetőinket, ami rettentően fontos.

And it also allows us, as political representatives,

Ez teszi lehetővé nekünk mint politikai képviselőknek,

to create a sense of trust with our citizens and our constituents.

hogy elnyerjük polgáraink és választóink bizalmát.

But without that truth,

De igazság nélkül

democracy is vulnerable to misinformation,

a demokrácia ki van szolgáltatva a félrevezetésnek,

manipulation, and, of course, corruption.

a manipulációnak és persze a korrupciónak.

When AI erodes truth,

Amikor az MI lerombolja az igazságot,

it erodes trust,

tönkreteszi a bizalmat,

and it undermines our democracy.

és aláássa demokráciánkat is,

And for me, in my experience with a deepfake,

tapasztaltam, hogy az aljas hamisítás

I've seen what a fantastic distortion tool that deepfakes really are.

milyen alávaló torzító eszköz.

So how can we safeguard democracy from this ever-advancing technology?

Hogyan védhetjük meg a demokráciát ettől a folyton fejlődő technológiától?

It's becoming ever harder to distinguish between real and synthetic content.

Egyre nehezebb megkülönböztetni a valódi és a koholt tartalmat.

And politically, what role does AI play in the future?

Politikailag milyen szerepet játszik az MI a jövőben?

And I can't talk about politics without talking about media as well.

A politikáról szólva a médiáról is beszélnünk kell.

They're undeniably linked, they're intertwined.

Tagadhatatlanul összefonódnak egymással.

And I think journalism has its own battle here as well.

Az újságírásnak itt is megvan a maga harca.

From AI algorithms boosting articles unfairly

Az MI algoritmusoktól kezdve cikkek tisztességtelen reklámozásán át

to clickbait headlines,

kattintásvadász főcímekig

and then also moments where they can manipulate the public as well.

s a nyilvánosság manipulálásáig bezárólag.

But politically speaking,

De politikai szempontból látható,

we've seen AI-tailored political messaging

hogy az MI-vel készült politikai üzenetek

influencing voters,

befolyásolják a szavazókat,

we’ve seen it adding to existing bias.

ami még inkább növeli az elfogultságot.

And definitely I think we all have that aunt that’s on Facebook

Bizonyosan mindannyiunknak van

and kind of believes anything.

nénikénk a Facebookon, aki mindent elhisz.

So for me, as a politician,

Politikusként nekem fontos,

I think it's really important we dive a little deeper

hogy egy kissé jobban elmélyüljünk

into the relationship of AI, journalism and media.

az MI, az újságírás és a média kapcsolatában.

But it also puts us at risk

De ezzel azt is kockáztatjuk,

of creating a more divided and reactionary society,

hogy még megosztottabb és reakciósabb társadalmat hozunk létre,

because falsehoods can create a lot of reaction.

mert a hazugságok sok reakciót válthatnak ki.

And for myself, coming from Northern Ireland,

Nekem mint észak-írországinak

which is that post-conflict society,

vagyis konfliktus utáni társadalomból származónak,

I do have concerns about how it could shape our political landscape

aggodalmaim vannak, hogy ez miként alakítja politikai helyzetünket

and other places across the globe.

és más helyeket világszerte.

Sadly, this deepfake video

Nem ez a hamisított videó az egyetlen példa rá,

is not the only instance of me having experienced abuse with AI.

hogy visszaélést tapasztaltam az MI-vel.

Just six months ago,

Alig hat hónapja

I received 15 deepfake images of myself in lingerie

15 hamisított képet kaptam magamról fehérneműben.

posing provocatively.

Kihívóan pózolok rajtuk.

And I thought to myself, here we go again.

Már megint itt tartunk!

And you know, I spoke with some other female politicians.

Beszéltem pár politikusnővel.

Thankfully, where I represent, we have more women getting into politics.

Körzetemben szerencsére sok nő vállal politikai szerepet.

But I had a really good conversation with them,

Jót beszélgettem velük:

and it’s around, if this is happening to you now,

ha most ez történik velünk,

what happens to me tomorrow?

mi lesz velünk holnap?

And I think this really strikes at the heart of the climate of fear

A félelem légkörét teremti meg,

that AI can create for those in public life.

hogy a közéletben dolgozókról az MI ilyeneket képes létrehozni.

And I don't blame women.

Nem a nőket hibáztatom.

It's very sad.

Nagyon szomorú.

I don't blame women for not wanting to get into politics

Nem hibáztatom őket azért, hogy nem akarnak politizálni,

when they see this kind of technology come forward,

amikor effajta technológiát látnak,

so that's so important that we safeguard it.

amely annyira fontos, hogy megóvjuk.

What also concerned me was the position of elderly voters

Engem is aggaszt az idős szavazók álláspontja

and perhaps their media literacy,

és talán médiaműveltségük,

their comprehension of this technology.

a technológia-ismerete.

People who don't use the internet,

Akik nem használják az internetet,

who perhaps are not aware of AI and its many, many uses.

akik talán az MI-vel és sok-sok felhasználásával nincsenek tisztában.

So that was really concerning as well.

Ez is ijesztő volt.

But it doesn't have to be this way.

De ennek nem kell így lennie.

We can be part of the change.

Változtathatunk.

For me and my video,

Mind a mai napig fogalmam sincs,

I still don't know, to this day, who did this.

ki hamisította rólam azt a videót.

I can imagine why they did it, but I don't know who did it.

Sejtem, miért tette, de nem tudom, hogy ki.

And sadly for me and for across the globe,

Sajnos számomra és az egész világ számára

it still wouldn't be considered a crime.

ez nem tekinthető bűncselekménynek.

So from being the enemy of fair, transparent,

A tisztességes, átlátható, jóindulatú politika ellenségétől a háborúig,

good-natured politics,

a nemzetközi beavatkozásig,

to warfare, to international interference,

szépsége és lehetőségei ellenére

despite its beauty and its potential,

az MI továbbra is aggodalomra ad okot.

AI is still a cause for concern.

But it doesn't have to be this way.

De ennek nem kell így lennie.

I feel passionately that AI can be a humanistic technology

Szenvedélyesen hiszem,

hogy az MI emberi értékű humanista technológia lehet,

with human values

that complements the lives that we live

amely teljessé teszi életünket,

to make us the very best versions of ourselves.

hogy önmagunk legjobb változatává váljunk.

But to do that,

De ehhez az etikát be kell illesztenünk a technológiába,

I think we need to embed ethics into this technology,

meg kell szüntetnünk az elfogultságot,

to eliminate bias, to install empathy

szükség van az empátiára, és gondoskodnunk kell arról,

and make sure it is aligned with human values and human principles.

hogy összhangban legyen az emberi értékekkel és elvekkel.

Who knows, our democracy could depend on it.

Talán demokráciánk függhet tőle.

And today I know we have some of the brightest minds in this room.

Tudom, hogy a legfényesebb elmék vannak a teremben.

I heard some of the talks earlier, and I'm certain of that.

Korábbi beszélgetések alapján ebben biztos vagyok.

And I know each and every one of you have weight on your shoulders

Tudom, hogy mindannyiójuk vállán nagy a teher,

when looking to the future.

amikor a jövőbe tekintenek.

But I also know each and every one of you want to see this tech for good.

De azt is, hogy mindenki szeretné, ha az MI-technológiát jóra használnák.

And what gives me hope

Reménnyel tölt el

is witnessing the movement right across the globe

a mozgalom szemtanújának lenni világszerte,

to see this hard journey begin,

hogy megkezdődjön a folyamat,

to regulate this ever-advancing technology,

amely szabályozza ezt az állandóan fejlődő technológiát,

which can be used for bad or for good.

amely rosszra vagy jóra is használható.

But perhaps we, each and every one of us in this room,

De talán mi mindannyian ebben a teremben

can be part of finding the solution.

részesei lehetünk a megoldás megtalálásának.

(Applause)

(Taps)