How a Deepfake Almost Ruined My Political Career | Cara Hunter | TED

Traduttore: Silvia Monti Revisore: Agnese Giacomelli

This talk contains mature language

Questo discorso contiene linguaggio per adulti

“You’re a little whore,

“Sei una puttanella

and we've all seen your little video."

e abbiamo visto tutti il tuo video”.

That was the text message that was sent to me in April of 2022.

Questo è il messaggio che ho ricevuto nell’aprile del 2022.

I'm sitting in my grandmother's living room

Sono seduta nel salotto di mia nonna

in what is her 90th birthday,

nel giorno del suo novantesimo compleanno,

surrounded by family and friends

circondata da famigliari e amici

as my phone blows up with messages from strangers

mentre il mio telefono viene inondato di messaggi di sconosciuti

right across the country

in tutto il Paese

who say they have seen a video of me

che sostengono di aver visto un video

engaging in hardcore pornographic activity with a man.

in cui mi diletto in attività pornografiche con un uomo.

I knew this was impossible.

Sapevo che era impossibile.

With just three weeks out from my election,

A sole tre settimane dalla mia elezione

I felt as though my career was crumbling before my very eyes.

mi sentivo come se la mia carriera stesse crollando davanti ai miei occhi.

My heart pounded,

Il cuore mi batteva all'impazzata,

my mind raced, sweat beaded on my skin.

la mia mente correva, il sudore mi imperlava la pelle.

And then I watched the video, and my worst fear was realized.

Poi ho guardato il video e la mia paura peggiore si è avverata.

Although this woman in the video was not me,

Anche se la donna nel video non ero io,

she looked exactly like me.

era esattamente simile a me.

Incredibilmente simile a me.

Impossibly like me.

Eerily like me.

Inquietantemente simile a me.

I had so many questions running through my mind.

Avevo così tante domande che mi passavano per la testa.

Was this AI?

Era stato fatto con l’IA?

Was it not?

Oppure no?

Who made this?

Chi lo aveva fatto?

How did they make it?

Come lo avevano fatto?

Why did they make it?

Perché l’avevano fatto?

So I did what anyone would do,

Quindi ho fatto quello che avrebbe fatto chiunque

and I approached my local police service to ask for advice, for guidance.

e ho contattato il servizio di polizia locale per chiedere assistenza

And really, where did I go from there?

e per capire come muovermi.

But they informed me that they wouldn't have the cybercrime technology to assist,

Ma mi hanno informato che non disponevano della tecnologia informatica necessaria

to find out where this video came from.

per scoprire da dove provenisse il video.

And it was from that moment I knew that I was on my own.

È stato da quel momento che ho capito di essere sola.

Now to set the stage, as you can probably tell,

Per darvi un’idea del contesto, come avrete capito vengo dall’Irlanda.

I’m from Ireland,

and to be exact, I'm from Northern Ireland,

Dall’Irlanda del Nord per la precisione,

which is an even smaller place.

che è una dimensione ancora più piccola.

We have just 1.8 million people,

Ci vivono solo 1,8 milioni di persone.

very similar to the size of Vienna.

Siamo all’incirca quanti gli abitanti di Vienna.

So you can imagine a rumor of this sinister nature,

Quindi potete immaginare come un pettegolezzo del genere,

particularly in the world of politics, can go very far, very fast.

particolarmente nel mondo della politica, possa diffondersi molto velocemente.

And that old saying, “seeing is believing” began to haunt me.

E il vecchio detto “vedere per credere” ha iniziato a perseguitarmi.

Le settimane prima della mia elezione

And in the weeks leading up to my election,

this video, this false video,

questo video, questo video fake,

was shared thousands and thousands of times across WhatsApp.

è stato condiviso migliaia e migliaia di volte su WhatsApp

And attached to this video was photos of me at work,

insieme a fotografie di me al lavoro,

mentre sorridevo, facevo campagna elettorale

smiling, campaigning,

building a sense of trust with my constituents.

e creavo un senso di fiducia nei miei elettori.

And as the weeks went on,

Con il passare delle settimane,

i messaggi arrivavano sempre più velocemente

messages flooded in faster and faster,

and they were of a very vile and sexual nature.

ed erano di natura molto vile e sessuale.

Ding!

Ding!

"We've all seen your little video."

“Abbiamo visto tutti il tuo video”.

Ding!

Ding!

“Dovresti vergognarti di te stessa”.

"You should be ashamed of yourself."

Ding!

Ding!

"Ah, now I see how you got your position in politics."

“Ah, ora capisco come hai ottenuto la tua posizione in politica”.

It was very difficult.

È stata molto dura.

And having been in politics since the age of 23,

Faccio politica da quando avevo 23 anni

and at this point I've been in it for about four to five years,

quindi all’epoca avevo circa quattro o cinque anni di esperienza.

and I'm from Northern Ireland, which is a post-conflict society,

Vengo dall’Irlanda del Nord, che è una società post-bellica

still very deeply divided.

ancora profondamente divisa.

So I anticipated challenges,

Quindi avevo messo in conto le sfide,

I anticipated disagreements,

avevo messo in conto i disaccordi,

I even anticipated attacks, is politics after all.

avevo persino messo in conto gli attacchi perché dopotutto è politica.

But what I did not anticipate was this moment.

Ma ciò che non avevo messo in conto era questo momento.

This was different.

Questo era diverso.

In quel momento,

This was the moment where misogyny meets the misuse of technology,

la misoginia aveva incontrato l’uso improprio della tecnologia

and even had the potential to impact the outcome of a democratic election.

e poteva persino influire sull’esito di un’elezione democratica.

And the sad thing for me was this lie became so far spread,

La cosa triste è che questa menzogna si è diffusa così tanto,

so far, so fast,

così velocemente,

that even my own family started to believe it.

che persino la mia famiglia ha iniziato a crederci.

Some would say that they'd heard it at a golf club,

Alcuni hanno detto di averlo sentito in un circolo di golf,

others would say they heard it at the bar,

altri di averlo sentito al bar

e naturalmente alcuni hanno persino detto di averlo sentito in uno spogliatoio.

and of course, some even said they heard it in a locker room.

A really good example of how far this went

Per farvi capire quanto si fosse diffuso,

was people that I knew my entire life

persone che conoscevo da una vita

would pass me in the street without whispering a word.

mi incrociavano per strada senza salutarmi.

People like school teachers,

Persone come insegnanti,

people I had a sense of trust with

persone con cui condividevo un senso di fiducia e di affinità.

and, you know, an affinity with.

And that was really hard.

È stato davvero difficile.

It felt like overnight I was wearing a scarlet letter.

Era come se tutto d’un tratto fossi stata marchiata con una lettera scarlatta.

And as things moved on

E col passare del tempo,

and were about two, three weeks out from the election,

a circa due o tre settimane dalle elezioni,

I kept receiving messages, and it got wider and wider.

continuavo a ricevere messaggi da persone da tutto il mondo.

It was global.

Not only was I receiving messages from Dublin and from London,

Non solo ricevevo messaggi da Dublino e da Londra,

but I was also receiving messages from Massachusetts, Manhattan,

ma ricevevo anche messaggi dal Massachusetts e da Manhattan.

and I was getting so many follows on my political social media,

Avevo moltissimi nuovi follower sui miei profili social professionali,

predominantly from men hungry for more of this scandal.

principalmente da uomini che volevano saperne di più su questo scandalo.

And this intersection of online harms impacting my real life

L’impatto che ha avuto quanto accadeva online sulla mia vita reale

was something I found utterly strange and surreal.

è stato qualcosa che ho trovato assolutamente strano e surreale.

But it got to the point where I was recognized on the street

Siamo arrivati a un punto in cui sono stata riconosciuta per strada

and approached by a stranger who asked me for a sexual favor.

e avvicinata da uno sconosciuto che mi ha chiesto un favore sessuale.

And it was just, for me, it was like in the blink of an eye,

In un batter d’occhio,

everything had just changed,

tutto era cambiato.

and it was utterly humiliating.

È stato umiliante.

I didn't want to leave the house,

Non volevo uscire di casa

and I had turned notifications off in my phone

e avevo disattivato le notifiche sul mio telefono

just so I could kind of catch my breath,

solo per riprendere fiato,

but this wasn't ideal in the lead up, of course, to an election.

ma non era l’ideale in vista delle elezioni.

And for me, I think that was the purpose of this false video, was to do just that.

Penso che fosse proprio questo lo scopo di questo video fake.

But what hurt the most for me

Ma la cosa che mi ha fatto più male

was sitting down my father

è stata vedere mio padre

and having to explain to him this strange, surreal situation.

e dovergli spiegare questa situazione strana e surreale.

My father is an Irishman,

Mio padre è un irlandese

completely disconnected from tech,

completamente disconnesso dalla tecnologia

and so having to explain

quindi dover spiegare

this horrific situation was an entire fabrication

che questa situazione orribile altro non era che un montaggio

was very hard to do.

è stato molto difficile.

This was this strange moment

Questo è stato lo strano momento

in cui il mondo online ha incontrato la mia vita, la mia realtà.

where the online world met my life, my reality.

Not only having the impact to ruin my reputation,

Non aveva solo il potenziale di rovinare la mia reputazione,

but have the capacity to change the outcome

ma anche quello di cambiare l’esito

of a democratic election.

di un'elezione democratica.

And, you know,

Sapete,

for years I spent so much time building trust with my constituents.

per anni ho passato così tanto tempo a creare fiducia nei miei elettori.

I mean, we all know how much people like politicians.

Voglio dire, sappiamo tutti quanto alla gente piacciano i politici.

You know, we’re as likeable as the tax man.

Siamo simpatici quanto il fisco.

Quindi per me è stato difficile.

So for me, it was hard.

It was really hard

È stato davvero difficile, perché sono stati anni di duro lavoro.

because it was years of hard work.

You know, I’m so passionate about my job,

Mi appassiona il mio lavoro

and this video, this complete falsehood,

e questo video, una totale falsità,

had the ability to just undermine years of hard work in mere seconds.

aveva la capacità di minare anni di duro lavoro in pochi secondi.

But instead of succumbing entirely to victimhood,

Ma invece di soccombere completamente al vittimismo,

I ask myself today,

oggi mi domando:

you know, where do we go from here?

“Che cosa ci aspetta ora?”

And how can AI evolve to prevent something like this happening again?

E come può evolversi l’IA

per evitare che qualcosa del genere accada di nuovo?

Not only has it happened to me,

Non solo è successo a me,

but we want to future-proof and ensure that this doesn't happen

ma vogliamo assicurarci che ciò non accada più in futuro

to the women of tomorrow.

alle donne di domani.

Come possiamo noi, voi e io, persone che hanno a cuore le persone,

How can we, you and I, people who care about people,

ensure that this is a tech for good?

assicurarci che questa tecnologia faccia del bene?

How can we, the policymakers, the creators, the consumers,

Come possiamo noi, responsabili politici, creatori e consumatori,

ensure we regulate AI and things like social media,

assicurarci di regolamentare l’IA e i social media,

putting humans and humanity at the center of artificial intelligence?

mettendo gli umani e l'umanità al centro dell'intelligenza artificiale?

AI can change the world.

L'IA può cambiare il mondo.

In effetti, come sappiamo, è già successo.

In fact, as we've heard today, it already has.

In a matter of seconds,

In pochi secondi,

people who speak completely different languages

persone che parlano lingue completamente diverse

can connect and understand one another.

possono entrare in contatto e comprendersi.

And we've even seen the Pope as a style icon in a puffer jacket.

E abbiamo persino visto il Papa come un’icona di stile con un piumino.

So some really important uses right there.

Ecco alcuni usi davvero importanti.

But then in my case as well,

Ma anche nel mio caso,

we can also see how it is weaponized against the truth.

possiamo anche vedere come viene usata come arma contro la verità.

And good examples of this would be art that appears like reality,

Esempi di ciò potrebbero essere l’arte che appare come realtà,

AI-generated reviews unfairly boosting certain products

recensioni generate dall’IA per promuovere slealmente prodotti

and things like chatbot propaganda.

e la propaganda dei chatbot.

And then, politically speaking,

E poi, politicamente parlando,

we've seen over the years deepfakes of Nancy Pelosi slurring,

abbiamo visto negli anni dei deepfake di Nancy Pelosi che farnetica,

Joe Biden cursing

Joe Biden che impreca

e persino il Presidente Zelensky

and even President Zelensky

asking his soldiers to surrender their weapons.

che chiede ai suoi soldati di consegnare le armi.

So when AI is used like this, to manipulate,

Quindi, quando l’IA viene usata in questo modo, per manipolare,

it can be a threat to our democracy.

può essere una minaccia per la nostra democrazia.

And the tech is becoming so advanced

E la tecnologia sta diventando così avanzata

that it's hard to differentiate fact from fiction.

che è difficile distinguere la realtà dalla finzione.

So how does AI interfere with politics?

Quindi, in che modo l’IA interferisce con la politica?

And for us as politicians, what should we be worried about?

E noi politici, di cosa dovremmo preoccuparci?

Could truth and democracy become shattered by AI?

La verità e la democrazia potrebbero essere distrutte dall'IA?

Has it already?

È già successo?

Well, to dive a little deeper here,

Per approfondire un po’

I think firstly we need to talk about the concept of truth.

penso che prima dobbiamo parlare del concetto di verità.

Without truth, democracy collapses.

Senza verità, la democrazia crolla.

Truth allows us to make informed decisions,

La verità ci consente di prendere decisioni informate,

it enables us to hold leaders accountable, which is very important.

ci consente di ritenere i leader responsabili,

il che è molto importante.

And it also allows us, as political representatives,

Inoltre ci consente, in qualità di rappresentanti politici,

to create a sense of trust with our citizens and our constituents.

di creare un senso di fiducia nei cittadini e negli elettori.

Ma senza questa verità

But without that truth,

democracy is vulnerable to misinformation,

la democrazia è vulnerabile alla disinformazione,

alla manipolazione e, ovviamente, alla corruzione.

manipulation, and, of course, corruption.

When AI erodes truth,

Quando l’intelligenza artificiale erode la verità,

it erodes trust,

erode la fiducia

and it undermines our democracy.

e mina la nostra democrazia.

And for me, in my experience with a deepfake,

Nella mia esperienza con un deepfake,

I've seen what a fantastic distortion tool that deepfakes really are.

ho visto quale fantastico strumento di distorsione siano realmente i deepfake.

So how can we safeguard democracy from this ever-advancing technology?

Quindi come possiamo salvaguardare la democrazia

da questa tecnologia in continua evoluzione?

It's becoming ever harder to distinguish between real and synthetic content.

Sta diventando sempre più difficile

distinguere tra contenuti reali e artificiali.

And politically, what role does AI play in the future?

E politicamente, che ruolo avrà l’IA in futuro?

And I can't talk about politics without talking about media as well.

Non posso parlare di politica senza parlare anche dei media.

They're undeniably linked, they're intertwined.

Sono innegabilmente connessi, sono legati tra loro.

And I think journalism has its own battle here as well.

Penso che anche qui il giornalismo abbia la sua battaglia.

From AI algorithms boosting articles unfairly

Dagli algoritmi di IA che promuovono ingiustamente gli articoli

to clickbait headlines,

ai titoli clickbait

and then also moments where they can manipulate the public as well.

a momenti in cui possono manipolare anche il pubblico.

But politically speaking,

Ma dal punto di vista politico

we've seen AI-tailored political messaging

abbiamo visto messaggi politici personalizzati creati dall’IA

influencing voters,

influenzare gli elettori

we’ve seen it adding to existing bias.

e aumentare i pregiudizi esistenti.

Abbiamo tutti quella zia che crede a qualsiasi cosa legga su Facebook.

And definitely I think we all have that aunt that’s on Facebook

and kind of believes anything.

So for me, as a politician,

Quindi, come politica,

I think it's really important we dive a little deeper

penso che sia davvero importante approfondire

into the relationship of AI, journalism and media.

il legame tra l’IA, il giornalismo e i media.

But it also puts us at risk

Ma questo ci sottopone anche al rischio

of creating a more divided and reactionary society,

di creare una società più divisa e reazionaria,

because falsehoods can create a lot of reaction.

perché le menzogne possono scatenare molte reazioni.

And for myself, coming from Northern Ireland,

Venendo dall’Irlanda del Nord,

which is that post-conflict society,

che è una società postbellica,

I do have concerns about how it could shape our political landscape

mi preoccupa come questo potrebbe plasmare il nostro panorama politico

and other places across the globe.

e altri luoghi in tutto il mondo.

Sadly, this deepfake video

Purtroppo questo deepfake

is not the only instance of me having experienced abuse with AI.

non è l’unico caso in cui ho subito abusi con l’intelligenza artificiale.

Just six months ago,

Solo sei mesi fa

ho ricevuto 15 immagini deepfake di me stessa in lingerie

I received 15 deepfake images of myself in lingerie

posing provocatively.

in pose provocatorie.

And I thought to myself, here we go again.

E ho pensato tra me e me: “Ci risiamo”.

And you know, I spoke with some other female politicians.

Ho parlato con altre politiche.

Thankfully, where I represent, we have more women getting into politics.

Per fortuna, dove rappresento abbiamo più donne che entrano in politica.

But I had a really good conversation with them,

Ho avuto un’ottima conversazione con loro

and it’s around, if this is happening to you now,

e ci siamo chieste: “Se sta succedendo a te adesso,

what happens to me tomorrow?

cosa succederà a me domani?”

And I think this really strikes at the heart of the climate of fear

E penso che questo colpisca davvero il cuore del clima di paura

that AI can create for those in public life.

che l'IA può creare per chi è coinvolto nella vita pubblica.

And I don't blame women.

E non do la colpa alle donne.

It's very sad.

È molto triste ma non biasimo le donne che non vogliono entrare in politica

I don't blame women for not wanting to get into politics

when they see this kind of technology come forward,

quando vedono questo tipo di tecnologia,

so that's so important that we safeguard it.

quindi è importante che la salvaguardiamo.

What also concerned me was the position of elderly voters

Ciò che mi preoccupava era anche la posizione degli elettori anziani

and perhaps their media literacy,

e la loro alfabetizzazione mediatica,

la loro comprensione di questa tecnologia.

their comprehension of this technology.

People who don't use the internet,

Persone che non usano Internet,

who perhaps are not aware of AI and its many, many uses.

che forse non sono a conoscenza dell'IA e dei suoi moltissimi usi.

So that was really concerning as well.

Quindi anche questo era davvero preoccupante.

Ma non deve essere per forza così.

But it doesn't have to be this way.

We can be part of the change.

Possiamo essere parte del cambiamento.

For me and my video,

Ancora oggi non so chi sia l’autore del mio video.

I still don't know, to this day, who did this.

I can imagine why they did it, but I don't know who did it.

Posso immaginare perché l’abbia fatto, ma non so chi l’abbia fatto.

And sadly for me and for across the globe,

E purtroppo per me e per tutto il mondo,

it still wouldn't be considered a crime.

non è ancora considerato un crimine.

So from being the enemy of fair, transparent,

Quindi, dall’essere nemica di una politica equa, trasparente e affidabile,

good-natured politics,

to warfare, to international interference,

alla guerra, all’interferenza internazionale,

nonostante la sua bellezza e il suo potenziale,

despite its beauty and its potential,

AI is still a cause for concern.

l’IA è ancora motivo di preoccupazione.

But it doesn't have to be this way.

Ma non deve essere per forza così.

I feel passionately that AI can be a humanistic technology

Sento fermamente che l’IA possa essere una tecnologia umanistica

con valori umani

with human values

that complements the lives that we live

che integra le vite che viviamo

to make us the very best versions of ourselves.

per renderci la versione migliore di noi stessi.

But to do that,

Ma per farlo,

I think we need to embed ethics into this technology,

penso che dobbiamo incorporare l’etica in questa tecnologia,

to eliminate bias, to install empathy

eliminare i pregiudizi, instillare empatia

and make sure it is aligned with human values and human principles.

e assicurarci che sia in linea con i valori e i principi umani.

Who knows, our democracy could depend on it.

Chissà... la nostra democrazia potrebbe dipendere da questo.

And today I know we have some of the brightest minds in this room.

E so che ci sono alcune delle menti più brillanti qui oggi.

I heard some of the talks earlier, and I'm certain of that.

Ho sentito alcuni interventi prima e ne sono certa.

And I know each and every one of you have weight on your shoulders

So che ognuno di voi ha un peso sulle spalle

when looking to the future.

quando guarda al futuro.

But I also know each and every one of you want to see this tech for good.

Ma so anche che ognuno di voi vuole vedere questa tecnologia fare del bene.

And what gives me hope

E ciò che mi dà speranza

is witnessing the movement right across the globe

è assistere al movimento in tutto il mondo

to see this hard journey begin,

per vedere l’inizio di questo difficile viaggio,

to regulate this ever-advancing technology,

per regolamentare questa tecnologia in continua evoluzione,

which can be used for bad or for good.

che può essere usata per fare del male o per fare del bene.

But perhaps we, each and every one of us in this room,

Magari ognuno di noi in questa stanza

can be part of finding the solution.

può contribuire alla ricerca della soluzione.

(Applause)

(Applausi)