How a Deepfake Almost Ruined My Political Career | Cara Hunter | TED

Traducteur: Claire Ghyselen Relecteur: eric vautier

This talk contains mature language

“You’re a little whore,

« Sale pute !

and we've all seen your little video."

On a tous vu ta petite vidéo. »

That was the text message that was sent to me in April of 2022.

C’est le message que l’on m’a envoyé en avril 2022.

I'm sitting in my grandmother's living room

J’étais assise dans le salon chez ma grand-mère,

in what is her 90th birthday,

on fêtait son 90e anniversaire,

surrounded by family and friends

avec la famille et les amis.

as my phone blows up with messages from strangers

Et mon téléphone s’allume avec des messages d’inconnus

right across the country

de l’autre côté du pays

who say they have seen a video of me

qui affirment avoir vu une vidéo de moi

engaging in hardcore pornographic activity with a man.

en train d’avoir une activité pornographique hardcore avec un homme.

I knew this was impossible.

Je savais que c’était impossible.

With just three weeks out from my election,

À trois semaines des élections,

I felt as though my career was crumbling before my very eyes.

j’ai cru que ma carrière s’effondrait devant mes yeux.

My heart pounded,

Mon cœur battait la chamade,

my mind raced, sweat beaded on my skin.

mon cerveau s’emballait, j’avais des sueurs froides.

And then I watched the video, and my worst fear was realized.

Et quand j’ai vu la vidéo, j’ai su que mes pires cauchemars se réalisaient.

Although this woman in the video was not me,

Même si cette femme dans la vidéo n’était pas moi,

she looked exactly like me.

c’était ma copie conforme.

Impossibly like me.

C’était impossible, mais c’était moi.

Eerily like me.

C’était fantomatique.

I had so many questions running through my mind.

Les questions se bousculaient dans mon esprit.

Was this AI?

Est-ce une IA ?

Was it not?

Ou pas ?

Who made this?

Qui a créé cette vidéo ?

How did they make it?

Comment ?

Why did they make it?

Pourquoi ?

So I did what anyone would do,

Alors, j’ai fait ce que n’importe qui aurait fait :

and I approached my local police service to ask for advice, for guidance.

j’ai contacté le commissariat du quartier pour demander conseil.

And really, where did I go from there?

Et que se passa-t-il ?

But they informed me that they wouldn't have the cybercrime technology to assist,

La police me dit qu’elle ne pourrait pas faire appel à la brigade cybercriminalité

to find out where this video came from.

pour découvrir le coupable de cette vidéo.

And it was from that moment I knew that I was on my own.

C’est à cet instant que j’ai su que je ne pourrais compter que sur moi-même.

Now to set the stage, as you can probably tell,

Vous l’avez entendu à mon accent,

I’m from Ireland,

je suis irlandaise,

and to be exact, I'm from Northern Ireland,

je viens d’Irlande du Nord, pour être précise.

which is an even smaller place.

C’est encore plus étriqué.

We have just 1.8 million people,

1,8 million d’habitants,

very similar to the size of Vienna.

environ la même population que Vienne.

So you can imagine a rumor of this sinister nature,

Vous imaginez aisément que de telles rumeurs sinistres,

particularly in the world of politics, can go very far, very fast.

surtout dans le monde de la politique, peuvent avoir un impact très important.

And that old saying, “seeing is believing” began to haunt me.

J’étais tourmentée par le vieux dicton que voir c’est croire.

And in the weeks leading up to my election,

Et pendant les dernières semaines avant les élections,

this video, this false video,

cette fausse vidéo

was shared thousands and thousands of times across WhatsApp.

fut partagée des milliers et des milliers de fois sur WhatsApp,

And attached to this video was photos of me at work,

avec une photo de moi au bureau,

smiling, campaigning,

souriante, en train de faire campagne

building a sense of trust with my constituents.

et de développer des liens de confiance avec mes électeurs.

And as the weeks went on,

Les semaines passaient

messages flooded in faster and faster,

et les messages étaient de plus en plus nombreux,

and they were of a very vile and sexual nature.

tous de nature nauséabonde et sexuelle.

Ding!

Ding !

"We've all seen your little video."

« On a tous vu ta petite vidéo. »

Ding!

Ding !

"You should be ashamed of yourself."

« Quelle honte ! »

Ding!

Ding !

"Ah, now I see how you got your position in politics."

« Voilà ta promotion canapé en politique ! »

It was very difficult.

C’était très douloureux.

And having been in politics since the age of 23,

Je fais de la politique depuis mes 23 ans

and at this point I've been in it for about four to five years,

et cela faisait alors cinq ans que j’en avais fait mon métier.

and I'm from Northern Ireland, which is a post-conflict society,

Je viens d’Irlande du Nord, une société qui a connu les conflits

still very deeply divided.

et qui reste très profondément divisée.

So I anticipated challenges,

Et donc, j’avais anticipé les confrontations,

I anticipated disagreements,

les désaccords,

I even anticipated attacks, is politics after all.

les attaques, car c’est ça, le monde de la politique.

But what I did not anticipate was this moment.

Mais je n’avais jamais prévu ce moment.

This was different.

C’était autre chose.

This was the moment where misogyny meets the misuse of technology,

C’est le moment de rencontre entre la misogynie et l’abus des technologies,

and even had the potential to impact the outcome of a democratic election.

quand cela a le pouvoir d’influencer les résultats d’une élection démocratique.

And the sad thing for me was this lie became so far spread,

Le plus malheureux pour moi, c’est ce que ce mensonge s’est diffusé

so far, so fast,

si vite et si loin

that even my own family started to believe it.

que même ma propre famille a commencé à le croire.

Some would say that they'd heard it at a golf club,

Certains me dirent qu’ils en ont entendu parler au club de golf,

others would say they heard it at the bar,

d’autres au bar,

and of course, some even said they heard it in a locker room.

et bien sûr, on en a aussi parlé dans les vestiaires.

A really good example of how far this went

Pour illustrer combien cela a été loin,

was people that I knew my entire life

des gens que j’avais connus toute ma vie

would pass me in the street without whispering a word.

détournaient le regard et passaient leur chemin sans un mot.

People like school teachers,

Mes professeurs,

people I had a sense of trust with

des personnes en qui j’avais confiance et avec lesquelles j’avais des affinités.

and, you know, an affinity with.

And that was really hard.

Ce fut très douloureux.

It felt like overnight I was wearing a scarlet letter.

J’avais l’impression qu’on m’avait tondu le crâne.

And as things moved on

Le temps passait,

and were about two, three weeks out from the election,

il ne resta plus que deux ou trois semaines avant les élections.

I kept receiving messages, and it got wider and wider.

Mais je recevais encore des messages, venus de plus en plus loin,

It was global.

du monde entier.

Not only was I receiving messages from Dublin and from London,

Pas seulement de Dublin ou Londres,

but I was also receiving messages from Massachusetts, Manhattan,

mais aussi du Massachussetts, de Manhattan.

and I was getting so many follows on my political social media,

J’avais de plus en plus de followers sur mes réseaux sociaux professionnels,

predominantly from men hungry for more of this scandal.

principalement des hommes alléchés à l’idée d’en savoir plus sur ce scandale.

And this intersection of online harms impacting my real life

Le télescopage avec cette malveillance en ligne influença ma vraie vie,

was something I found utterly strange and surreal.

ce qui me sembla si étrange et irréel.

But it got to the point where I was recognized on the street

Mais on me reconnaissait dans la rue désormais

and approached by a stranger who asked me for a sexual favor.

et des inconnus m’abordaient pour me demander des faveurs sexuelles.

And it was just, for me, it was like in the blink of an eye,

En un clin d’œil,

everything had just changed,

tout mon monde avait changé.

and it was utterly humiliating.

C’était profondément humiliant.

I didn't want to leave the house,

Je ne voulais plus sortir de la maison,

and I had turned notifications off in my phone

j’avais coupé les notifications de mon téléphone,

just so I could kind of catch my breath,

simplement pour pouvoir un peu respirer.

but this wasn't ideal in the lead up, of course, to an election.

Mais ce n’était évidemment pas idéal quand on est en campagne électorale.

And for me, I think that was the purpose of this false video, was to do just that.

Je suis convaincue que c’était ça, le but de cette fausse vidéo.

But what hurt the most for me

Mais le plus douloureux

was sitting down my father

fut de devoir prendre le temps avec mon père

and having to explain to him this strange, surreal situation.

pour lui expliquer cette situation ubuesque et irréelle.

My father is an Irishman,

Mon père est irlandais,

completely disconnected from tech,

complètement étranger à la technologie,

and so having to explain

et devoir lui expliquer

this horrific situation was an entire fabrication

que cette situation horrible est une falsification

was very hard to do.

fut très pénible.

This was this strange moment

Ce fut un moment étrange

where the online world met my life, my reality.

d’intersection entre le monde numérique et ma vraie vie, ma réalité.

Not only having the impact to ruin my reputation,

Il n’y a pas que l’impact désastreux sur ma réputation,

but have the capacity to change the outcome

mais il y a le potentiel de changer le résultat d’une élection démocratique.

of a democratic election.

And, you know,

Vous savez,

for years I spent so much time building trust with my constituents.

je développais une relation de confiance avec mes électeurs depuis des années.

I mean, we all know how much people like politicians.

Je suis consciente de l’amour que les hommes et femmes politiques suscitent.

You know, we’re as likeable as the tax man.

Autant que le contrôleur fiscal.

So for me, it was hard.

Cette histoire m’affecta d’autant plus,

It was really hard

because it was years of hard work.

qu’elle ruinait des années de dur travail.

You know, I’m so passionate about my job,

J’adore mon métier,

and this video, this complete falsehood,

or cette vidéo, cette supercherie,

had the ability to just undermine years of hard work in mere seconds.

était capable de détruire toutes ces années d’effort en quelques secondes.

But instead of succumbing entirely to victimhood,

Mais je ne veux pas être une victime.

I ask myself today,

Et aujourd’hui, je me demande que faire de cette expérience.

you know, where do we go from here?

And how can AI evolve to prevent something like this happening again?

Comment faire évoluer l’IA pour empêcher de telles choses à l’avenir ?

Not only has it happened to me,

Il n’y a pas que moi,

but we want to future-proof and ensure that this doesn't happen

je souhaite un avenir sans danger et garantir que cela n’arrive plus

to the women of tomorrow.

à d’autres femmes, demain.

How can we, you and I, people who care about people,

Comment pouvons-nous, vous, moi, tous ceux qui font attention à autrui,

ensure that this is a tech for good?

veiller à ce que ces technologies agissent pour le meilleur ?

How can we, the policymakers, the creators, the consumers,

Comment pouvons-nous, les politiques, les créateurs, les consommateurs,

ensure we regulate AI and things like social media,

veiller à réguler une IA et toutes les plateformes numériques,

putting humans and humanity at the center of artificial intelligence?

en mettant les humains et l’humanité au cœur de l’IA ?

AI can change the world.

L’IA peut transformer le monde.

In fact, as we've heard today, it already has.

Et en fait, c’est déjà fait.

In a matter of seconds,

En quelques secondes,

people who speak completely different languages

des personnes qui parlent des langues différentes

can connect and understand one another.

peuvent se connecter et se comprendre.

And we've even seen the Pope as a style icon in a puffer jacket.

On a tous vu le Pape en roi de la mode avec sa doudoune blanche.

So some really important uses right there.

Ce sont des utilisations importantes.

But then in my case as well,

Et dans mon cas,

we can also see how it is weaponized against the truth.

on voit aussi comment ce dispositif devient une arme contre la vérité.

And good examples of this would be art that appears like reality,

Des exemples : l’art qui semble être réalité,

AI-generated reviews unfairly boosting certain products

des critiques générées par une IA pour promouvoir certains produits injustement

and things like chatbot propaganda.

ou des chatbots de propagande.

And then, politically speaking,

En politique,

we've seen over the years deepfakes of Nancy Pelosi slurring,

on a tous vu ces dernières années

des deepfakes de Nancy Pelosi qui cherche ses mots,

Joe Biden cursing

de Joe Biden qui jure,

and even President Zelensky

du Président Zelensky

asking his soldiers to surrender their weapons.

qui exhorte ses soldats de rendre les armes.

So when AI is used like this, to manipulate,

Alors, quand on utilise l’IA pour manipuler,

it can be a threat to our democracy.

elle devient une arme contre notre démocratie.

And the tech is becoming so advanced

La technologie est si avancée

that it's hard to differentiate fact from fiction.

que c’est très difficile de distinguer les faits de la fiction.

So how does AI interfere with politics?

Comment l’IA interfère-t-elle avec la politique ?

And for us as politicians, what should we be worried about?

Et de quoi les hommes et femmes politiques devraient-ils s’inquiéter ?

Could truth and democracy become shattered by AI?

L’IA pourrait-elle faire exploser la vérité et la démocratie ?

Has it already?

N’est-ce pas déjà arrivé ?

Well, to dive a little deeper here,

Pour creuser ce sujet,

I think firstly we need to talk about the concept of truth.

commençons par parler du concept de la vérité.

Without truth, democracy collapses.

Sans vérité, la démocratie s’effondre.

Truth allows us to make informed decisions,

La vérité nous permet de prendre des décisions informées.

it enables us to hold leaders accountable, which is very important.

Elle nous permet de demander des comptes à nos dirigeants, c’est important.

And it also allows us, as political representatives,

Et elle nous permet aussi, en tant qu’hommes et femmes politiques,

to create a sense of trust with our citizens and our constituents.

de développer un sentiment de confiance avec nos citoyens et électeurs.

But without that truth,

Mais sans cette vérité,

democracy is vulnerable to misinformation,

la démocratie est vulnérable à la désinformation,

manipulation, and, of course, corruption.

à la manipulation et bien sûr, à la corruption.

When AI erodes truth,

Quand l’IA érode la vérité,

it erodes trust,

elle érode la confiance

and it undermines our democracy.

et elle sape notre démocratie.

And for me, in my experience with a deepfake,

Et mon expérience personnelle des deepfakes

I've seen what a fantastic distortion tool that deepfakes really are.

m’a ouvert les yeux sur les dispositifs de distorsion qu’ils représentent.

So how can we safeguard democracy from this ever-advancing technology?

Alors, comment protéger nos démocraties de cette technologie si avancée ?

It's becoming ever harder to distinguish between real and synthetic content.

C’est encore plus difficile aujourd’hui de distinguer le vrai du synthétique.

And politically, what role does AI play in the future?

Et en politique, quel sera le rôle de l’IA à l’avenir ?

And I can't talk about politics without talking about media as well.

On ne peut pas séparer la politique des médias.

They're undeniably linked, they're intertwined.

Les deux sont assurément liés, interconnectés.

And I think journalism has its own battle here as well.

Je crois que le journalisme est face à sa propre bataille.

From AI algorithms boosting articles unfairly

Des algorithmes qui font la promotion de certains articles injustement,

to clickbait headlines,

aux titres pièges à clics,

and then also moments where they can manipulate the public as well.

et à tous ces moments où l’on peut manipuler le public.

But politically speaking,

En politique,

we've seen AI-tailored political messaging

on a vu des messages politiques créés par des IA

influencing voters,

qui influencent les électeurs,

we’ve seen it adding to existing bias.

et qui ajoutent de nouveaux biais à ceux qui existent déjà.

And definitely I think we all have that aunt that’s on Facebook

C’est un fait aussi que nous avons tous une tante sur Facebook

and kind of believes anything.

qui gobe tout.

So for me, as a politician,

Alors, en tant que femme politique,

I think it's really important we dive a little deeper

je pense que c’est essentiel de réfléchir plus

into the relationship of AI, journalism and media.

à la relation entre les IA, le journalisme et les médias.

But it also puts us at risk

Cela nous met aussi au péril

of creating a more divided and reactionary society,

de créer une société plus polarisée, plus réactionnaire,

because falsehoods can create a lot of reaction.

parce que les falsifications génèrent beaucoup de réactions.

And for myself, coming from Northern Ireland,

Et moi, qui vient d’Irlande du nord,

which is that post-conflict society,

une société qui a connu le conflit,

I do have concerns about how it could shape our political landscape

je m’inquiète comment cela pourrait façonner le paysage politique

and other places across the globe.

chez nous et ailleurs dans le monde.

Sadly, this deepfake video

Hélas, cette vidéo deepfake

is not the only instance of me having experienced abuse with AI.

n’est pas le seul usage abusif des IA que je connaisse.

Just six months ago,

Il y a six mois,

I received 15 deepfake images of myself in lingerie

j’ai reçu 15 photos truquées de moi en lingerie

posing provocatively.

posant de façon provocante.

And I thought to myself, here we go again.

Je me suis dit : « Ça recommence ! »

And you know, I spoke with some other female politicians.

J’ai parlé de cela avec d’autres femmes politiques.

Thankfully, where I represent, we have more women getting into politics.

Heureusement que nous sommes de plus en plus nombreuses.

But I had a really good conversation with them,

Nous avons eu des échanges fructueux

and it’s around, if this is happening to you now,

autour des dangers de demain si ceci nous arrive aujourd’hui.

what happens to me tomorrow?

And I think this really strikes at the heart of the climate of fear

Ce débat est, j’en suis convaincue, au cœur du climat de peur

that AI can create for those in public life.

que l’IA peut susciter chez les élus.

And I don't blame women.

Je comprends les femmes, hélas.

It's very sad.

I don't blame women for not wanting to get into politics

Comment pourrais-je leur reprocher de ne pas vouloir entrer en politique

when they see this kind of technology come forward,

avec les dangers de ces technologies.

so that's so important that we safeguard it.

Voilà pourquoi il faut les réguler.

What also concerned me was the position of elderly voters

Je suis aussi inquiète de la position des électeurs plus âgés,

and perhaps their media literacy,

de leur éducation aux médias,

their comprehension of this technology.

de leur compréhension de ces technologies.

People who don't use the internet,

Les personnes qui n’utilisent pas Internet,

who perhaps are not aware of AI and its many, many uses.

qui ne sont pas conscients de l’IA et de ces très très nombreux usages.

So that was really concerning as well.

C’est une vraie source d’inquiétude.

But it doesn't have to be this way.

Mais les choses peuvent évoluer.

We can be part of the change.

On peut faire partie de ce changement.

For me and my video,

Quant à moi,

I still don't know, to this day, who did this.

je ne sais toujours pas qui a commis cette vidéo.

I can imagine why they did it, but I don't know who did it.

Je peux imaginer leurs raisons, mais j’ignore qui a fait ça.

And sadly for me and for across the globe,

Et malheureusement pour moi, et beaucoup d’autres dans le monde,

it still wouldn't be considered a crime.

cet acte n’est toujours pas considéré comme un crime.

So from being the enemy of fair, transparent,

Donc, en tant que dispositif utilisé par les ennemis d’une vie politique

good-natured politics,

juste, transparente et positive,

to warfare, to international interference,

mus par une volonté belliqueuse et d’interférer internationalement,

despite its beauty and its potential,

l’IA reste une technologie inquiétante en dépit de sa beauté et de son potentiel.

AI is still a cause for concern.

But it doesn't have to be this way.

Mais cela peut changer.

I feel passionately that AI can be a humanistic technology

Je suis profondément convaincue que l’IA peut être une technologie humaniste,

with human values

faite de valeurs humanistes

that complements the lives that we live

qui vient enrichir nos vies

to make us the very best versions of ourselves.

et nous aide à devenir une meilleure version de nous-mêmes.

But to do that,

Mais pour y parvenir,

I think we need to embed ethics into this technology,

nous devons penser à intégrer l’éthique dans la technologie,

to eliminate bias, to install empathy

pour éliminer les biais, installer de l’empathie

and make sure it is aligned with human values and human principles.

et veiller à l’aligner avec des valeurs et des principes humanistes.

Who knows, our democracy could depend on it.

Qui sait ? Nos démocraties pourraient en dépendre.

And today I know we have some of the brightest minds in this room.

Ce public réunit les plus grands esprits -

I heard some of the talks earlier, and I'm certain of that.

j’ai écouté les autres talk de ce TED, et j’en suis convaincue.

And I know each and every one of you have weight on your shoulders

Je sais que chacun d’entre vous porte le poids des responsabilités

when looking to the future.

vis-à-vis de l’avenir

But I also know each and every one of you want to see this tech for good.

et que nous souhaitons tous que l’IA existe pour un monde meilleur.

And what gives me hope

Je forge de grands espoirs

is witnessing the movement right across the globe

quand je vois le mouvement mondial

to see this hard journey begin,

en faveur de ce cheminement difficile,

to regulate this ever-advancing technology,

pour réguler cette technologie qui ne cesse d’évoluer,

which can be used for bad or for good.

et qui peut être utilisée pour le meilleur comme pour le pire.

But perhaps we, each and every one of us in this room,

Et nous tous, chacun de nous, ici,

can be part of finding the solution.

pouvons faire partie de la solution.

(Applause)

(Applaudissements)