How a Deepfake Almost Ruined My Political Career | Cara Hunter | TED

Traductor: Sebastian Betti

This talk contains mature language

[Esta charla contiene lenguaje para adultos]

“You’re a little whore,

«Eres una putita

and we've all seen your little video."

y todos hemos visto tu videíto».

Ese fue el mensaje de texto que me enviaron en abril de 2022.

That was the text message that was sent to me in April of 2022.

I'm sitting in my grandmother's living room

Estoy sentada en la sala de estar de mi abuela

in what is her 90th birthday,

cuando cumple 90 años,

surrounded by family and friends

rodeada de familiares y amigos

as my phone blows up with messages from strangers

mientras mi teléfono explota con mensajes de desconocidos

right across the country

de todo el país

que dicen haber visto un video en el que

who say they have seen a video of me

engaging in hardcore pornographic activity with a man.

participé en actividades pornográficas intensas con un hombre.

I knew this was impossible.

Sabía que esto era imposible.

With just three weeks out from my election,

Cuando faltaban solo tres semanas para mi elección,

I felt as though my career was crumbling before my very eyes.

sentí que mi carrera se estaba desmoronando ante mis propios ojos.

My heart pounded,

Mi corazón latía con fuerza,

my mind raced, sweat beaded on my skin.

mi mente se aceleraba y el sudor recorría mi piel.

And then I watched the video, and my worst fear was realized.

Luego vi el video y mi peor temor se hizo realidad.

Although this woman in the video was not me,

Aunque la mujer del vídeo no era yo,

she looked exactly like me.

se parecía exactamente a mí.

Impossibly like me.

Imposible, pero se parecía.

Eerily like me.

Extrañamente era como yo.

I had so many questions running through my mind.

Tenía muchas preguntas en la cabeza.

Was this AI?

¿Era IA?

Was it not?

¿No lo era?

Who made this?

¿Quién lo hizo?

How did they make it?

¿Cómo lo hicieron?

Why did they make it?

¿Por qué lo hicieron?

So I did what anyone would do,

Así que hice lo que haría cualquiera,

and I approached my local police service to ask for advice, for guidance.

y me acerqué al servicio de policía local para pedir consejo, orientación.

And really, where did I go from there?

Y realmente, ¿a dónde fui a partir de ahí?

But they informed me that they wouldn't have the cybercrime technology to assist,

Pero me dijeron que no dispondrían de la tecnología informática necesaria

to find out where this video came from.

para averiguar de dónde venía este vídeo.

And it was from that moment I knew that I was on my own.

Y fue a partir de ese momento que supe que estaba sola.

Ahora, para sentar las bases, como probablemente puedan ver,

Now to set the stage, as you can probably tell,

I’m from Ireland,

soy de Irlanda

and to be exact, I'm from Northern Ireland,

y, para ser exactos, soy de Irlanda del Norte,

which is an even smaller place.

que es un lugar aún más pequeño.

We have just 1.8 million people,

Solo tenemos 1,8 millones de personas,

very similar to the size of Vienna.

un tamaño muy similar al de Viena.

So you can imagine a rumor of this sinister nature,

Así que pueden imaginarse que un rumor de esta naturaleza siniestra,

particularly in the world of politics, can go very far, very fast.

sobre todo en el mundo de la política, puede llegar muy lejos, muy rápido.

And that old saying, “seeing is believing” began to haunt me.

Y ese viejo refrán, «ver para creer», empezó a obsesionarme.

And in the weeks leading up to my election,

Y en las semanas previas a mi elección,

this video, this false video,

este vídeo, este vídeo falso,

was shared thousands and thousands of times across WhatsApp.

se compartió miles y miles de veces en WhatsApp.

And attached to this video was photos of me at work,

Y en este vídeo había fotos mías trabajando,

smiling, campaigning,

sonriendo, haciendo campaña

building a sense of trust with my constituents.

y creando un sentimiento de confianza con mis electores.

And as the weeks went on,

Y conforme pasaban las semanas,

messages flooded in faster and faster,

los mensajes llegaban cada vez más rápido,

and they were of a very vile and sexual nature.

y eran de una naturaleza muy vil y sexual.

Ding!

¡Muere!

"We've all seen your little video."

«Todos hemos visto tu videíto».

Ding!

¡Ding!

"You should be ashamed of yourself."

«Deberías avergonzarte».

Ding!

¡Ding!

"Ah, now I see how you got your position in politics."

«Ah, ahora veo cómo obtuviste tu posición en la política».

It was very difficult.

Era muy difícil.

And having been in politics since the age of 23,

Me dedico a la política desde los 23 años,

and at this point I've been in it for about four to five years,

y en este momento llevo entre 4 y 5 años en ella,

y soy de Irlanda del Norte, una sociedad que ha salido de un conflicto

and I'm from Northern Ireland, which is a post-conflict society,

still very deeply divided.

y que todavía está profundamente dividida.

So I anticipated challenges,

Así que anticipé los desafíos,

I anticipated disagreements,

anticipé los desacuerdos,

I even anticipated attacks, is politics after all.

incluso anticipé los ataques; al fin y al cabo, es política.

But what I did not anticipate was this moment.

Pero lo que no esperaba era este momento.

This was different.

Este era diferente.

This was the moment where misogyny meets the misuse of technology,

Este fue el momento en el que la misoginia se unió al uso indebido de la tecnología,

and even had the potential to impact the outcome of a democratic election.

e incluso tuvo el potencial de afectar el resultado de una elección democrática.

And the sad thing for me was this lie became so far spread,

Y lo triste para mí fue que esta mentira se difundió tanto,

so far, so fast,

tan lejos y tan rápido,

that even my own family started to believe it.

que incluso mi propia familia empezó a creerla.

Some would say that they'd heard it at a golf club,

Algunos decían que lo escucharon en un club de golf,

others would say they heard it at the bar,

otros que lo escucharon en el bar

and of course, some even said they heard it in a locker room.

y, por supuesto, algunos incluso dijeron que lo escucharon en un vestuario.

A really good example of how far this went

Un muy buen ejemplo de lo lejos que llegó

was people that I knew my entire life

fue que la gente que conocí de toda la vida

would pass me in the street without whispering a word.

se cruzaba conmigo en la calle sin susurrar una palabra.

Personas como los profesores de escuela,

People like school teachers,

people I had a sense of trust with

personas con las que tenía confianza

and, you know, an affinity with.

y con las que sentía afinidad.

And that was really hard.

Y eso fue muy difícil.

It felt like overnight I was wearing a scarlet letter.

De la noche a la mañana sentí que llevaba puesta una letra escarlata.

And as things moved on

Y conforme avanzaban las cosas

and were about two, three weeks out from the election,

y faltaban dos o tres semanas para las elecciones,

I kept receiving messages, and it got wider and wider.

seguí recibiendo mensajes, y todo se amplificó.

It was global.

Era global.

Not only was I receiving messages from Dublin and from London,

No solo recibía mensajes de Dublín y Londres,

but I was also receiving messages from Massachusetts, Manhattan,

sino que también recibía mensajes de Massachusetts y Manhattan,

and I was getting so many follows on my political social media,

y tenía muchísimos seguidores en mis redes sociales políticas,

predominantly from men hungry for more of this scandal.

sobre todo de hombres ávidos de seguir con este escándalo.

And this intersection of online harms impacting my real life

Y esta intersección de daños en Internet que afectan a mi vida real

was something I found utterly strange and surreal.

fue algo que me pareció absolutamente extraño y surrealista.

But it got to the point where I was recognized on the street

Pero llegué al punto en que me reconocieron en la calle

and approached by a stranger who asked me for a sexual favor.

y se me acercó un extraño que me pidió un favor sexual.

And it was just, for me, it was like in the blink of an eye,

Y fue que, para mí, fue como si en un abrir y cerrar de ojos

everything had just changed,

todo hubiera cambiado, y fue absolutamente humillante.

and it was utterly humiliating.

I didn't want to leave the house,

No quería salir de casa

y había desactivado las notificaciones del teléfono

and I had turned notifications off in my phone

para poder recuperar el aliento,

just so I could kind of catch my breath,

pero esto no era lo ideal

but this wasn't ideal in the lead up, of course, to an election.

en vísperas, por supuesto, de las elecciones.

And for me, I think that was the purpose of this false video, was to do just that.

Creo que ese era el propósito de este vídeo falso:

hacer precisamente eso.

But what hurt the most for me

Pero lo que más me dolió fue sentar a mi padre

was sitting down my father

and having to explain to him this strange, surreal situation.

y tener que explicarle esta situación extraña y surrealista.

My father is an Irishman,

Mi padre es irlandés,

está completamente desconectado de la tecnología,

completely disconnected from tech,

por lo que tener que explicarle

and so having to explain

que esta situación horrible fue un invento total,

this horrific situation was an entire fabrication

was very hard to do.

eso fue algo muy difícil.

This was this strange moment

Fue un momento extraño en el que el mundo de Internet

where the online world met my life, my reality.

se unió a mi vida, a mi realidad.

Not only having the impact to ruin my reputation,

No solo tiene el impacto de arruinar mi reputación,

but have the capacity to change the outcome

sino que también puede cambiar el resultado

of a democratic election.

de una elección democrática.

And, you know,

Y, ya saben,

for years I spent so much time building trust with my constituents.

durante años dediqué mucho tiempo a fomentar la confianza de mis electores.

I mean, we all know how much people like politicians.

Es decir, todos sabemos lo mucho que le gustan los políticos a la gente.

You know, we’re as likeable as the tax man.

Somos tan simpáticos como el recaudador de impuestos.

So for me, it was hard.

Así que para mí, fue difícil.

It was really hard

Fue muy difícil

because it was years of hard work.

porque fueron años de arduo trabajo.

You know, I’m so passionate about my job,

Me apasiona mi trabajo,

and this video, this complete falsehood,

y este vídeo, esta completa falsedad,

had the ability to just undermine years of hard work in mere seconds.

podía socavar años de arduo trabajo en cuestión de segundos.

But instead of succumbing entirely to victimhood,

Pero en lugar de sucumbir por completo a la victimización,

I ask myself today,

hoy me pregunto,

you know, where do we go from here?

¿a dónde vamos a partir de ahora?

And how can AI evolve to prevent something like this happening again?

¿Cómo puede evolucionar la IA para evitar que algo así vuelva a ocurrir?

Not only has it happened to me,

No solo me ha ocurrido a mí,

sino que queremos prepararnos para el futuro

but we want to future-proof and ensure that this doesn't happen

y asegurarnos de que esto no les suceda

to the women of tomorrow.

a las mujeres del mañana.

How can we, you and I, people who care about people,

¿Cómo podemos nosotros, tú y yo, personas que nos preocupamos por las personas,

ensure that this is a tech for good?

asegurarnos de que se trata de una tecnología para siempre?

How can we, the policymakers, the creators, the consumers,

¿Cómo podemos nosotros, los responsables políticos,

los creadores y los consumidores,

ensure we regulate AI and things like social media,

garantizar que regulamos la IA y las redes sociales,

putting humans and humanity at the center of artificial intelligence?

poniendo a los seres humanos y a la humanidad en el centro de la IA?

AI can change the world.

La IA puede cambiar el mundo.

In fact, as we've heard today, it already has.

De hecho, como hemos escuchado hoy, ya lo ha hecho.

In a matter of seconds,

En cuestión de segundos,

people who speak completely different languages

las personas que hablan idiomas completamente diferentes

can connect and understand one another.

pueden conectarse y entenderse entre sí.

And we've even seen the Pope as a style icon in a puffer jacket.

E incluso hemos visto al Papa

como un ícono de estilo con una chaqueta acolchada.

So some really important uses right there.

Así que ahí están algunos usos realmente importantes.

But then in my case as well,

Pero también en mi caso,

we can also see how it is weaponized against the truth.

podemos ver cómo se utiliza como arma contra la verdad.

And good examples of this would be art that appears like reality,

Y buenos ejemplos de ello serían el arte que parece real, las reseñas

AI-generated reviews unfairly boosting certain products

generadas por la IA que promocionan injustamente ciertos productos

and things like chatbot propaganda.

y cosas como la propaganda de los chatbots.

And then, politically speaking,

Además, desde el punto de vista político,

we've seen over the years deepfakes of Nancy Pelosi slurring,

hemos visto a lo largo de los años imágenes falsas

de Nancy Pelosi balbucenado,

Joe Biden cursing

de Joe Biden maldiciendo

e incluso del presidente Zelensky

and even President Zelensky

asking his soldiers to surrender their weapons.

pidiendo a sus soldados que depongan las armas.

So when AI is used like this, to manipulate,

Por lo tanto, cuando la IA se usa de esta manera, para manipular,

it can be a threat to our democracy.

puede ser una amenaza para nuestra democracia.

And the tech is becoming so advanced

Y la tecnología se está volviendo tan avanzada

that it's hard to differentiate fact from fiction.

que es difícil diferenciar la realidad de la ficción.

So how does AI interfere with politics?

Entonces, ¿cómo interfiere la IA en la política?

And for us as politicians, what should we be worried about?

Y para nosotros, como políticos, ¿qué debería preocuparnos?

Could truth and democracy become shattered by AI?

¿La IA podría destruir la verdad y la democracia?

Has it already?

¿Ya lo ha hecho?

Well, to dive a little deeper here,

Bueno, para profundizar un poco más aquí,

I think firstly we need to talk about the concept of truth.

creo que primero tenemos que hablar sobre el concepto de verdad.

Without truth, democracy collapses.

Sin la verdad, la democracia se derrumba.

Truth allows us to make informed decisions,

La verdad nos permite tomar decisiones informadas,

it enables us to hold leaders accountable, which is very important.

nos permite hacer que los líderes rindan cuentas, lo cual es muy importante.

And it also allows us, as political representatives,

Y también nos permite, como representantes políticos,

to create a sense of trust with our citizens and our constituents.

crear un sentimiento de confianza entre nuestros ciudadanos y electores.

But without that truth,

Pero sin esa verdad,

democracy is vulnerable to misinformation,

la democracia es vulnerable a la desinformación,

manipulation, and, of course, corruption.

la manipulación y, por supuesto, la corrupción.

When AI erodes truth,

Cuando la IA erosiona la verdad,

it erodes trust,

erosiona la confianza

and it undermines our democracy.

y socava nuestra democracia.

And for me, in my experience with a deepfake,

Y en mi caso, en mi experiencia con los deepfake,

I've seen what a fantastic distortion tool that deepfakes really are.

he visto la fantástica herramienta de distorsión

que son en realidad los deepfakes.

So how can we safeguard democracy from this ever-advancing technology?

¿Cómo podemos proteger la democracia

frente a esta tecnología cada vez más avanzada?

It's becoming ever harder to distinguish between real and synthetic content.

Cada vez es más difícil distinguir entre contenido real y sintético.

And politically, what role does AI play in the future?

Y desde el punto de vista político, ¿qué papel desempeña la IA en el futuro?

And I can't talk about politics without talking about media as well.

Y no puedo hablar de política sin hablar también de los medios.

They're undeniably linked, they're intertwined.

Están innegablemente vinculados, están entrelazados.

And I think journalism has its own battle here as well.

Y creo que el periodismo también tiene su propia batalla aquí.

Desde algoritmos de IA que promocionan artículos injustamente

From AI algorithms boosting articles unfairly

to clickbait headlines,

hasta titulares que provocan clics,

and then also moments where they can manipulate the public as well.

pasando por momentos en los que también pueden manipular al público.

Sin embargo, desde el punto de vista político,

But politically speaking,

we've seen AI-tailored political messaging

hemos visto cómo los mensajes políticos diseñados por la IA

influencing voters,

influyen en los votantes

we’ve seen it adding to existing bias.

hemos visto que esto aumenta el sesgo existente.

Y definitivamente creo que todos tenemos esa tía que está en Facebook

And definitely I think we all have that aunt that’s on Facebook

and kind of believes anything.

y se cree cualquier cosa.

So for me, as a politician,

Así que para mí, como político,

I think it's really important we dive a little deeper

creo que es muy importante que profundicemos un poco más

into the relationship of AI, journalism and media.

en la relación entre la IA, el periodismo y los medios de comunicación.

But it also puts us at risk

Pero también nos pone en riesgo

of creating a more divided and reactionary society,

de crear una sociedad más dividida y reaccionaria,

because falsehoods can create a lot of reaction.

porque las falsedades pueden generar mucha reacción.

And for myself, coming from Northern Ireland,

En cuanto a mí, al venir de Irlanda del Norte,

which is that post-conflict society,

que es esa sociedad que ha salido de un conflicto,

I do have concerns about how it could shape our political landscape

me preocupa la forma en que esto podría moldear nuestro panorama político

and other places across the globe.

y otros lugares del mundo.

Sadly, this deepfake video

Lamentablemente, este vídeo de deepfake

is not the only instance of me having experienced abuse with AI.

no es el único caso en el que he sufrido abusos con la IA.

Just six months ago,

Hace solo seis meses,

I received 15 deepfake images of myself in lingerie

recibí 15 imágenes deepfake de mí misma en lencería

posing provocatively.

posando de manera provocativa.

And I thought to myself, here we go again.

Y pensé para mis adentros: aquí vamos otra vez.

And you know, I spoke with some other female politicians.

Y ya saben, hablé con otras mujeres políticas.

Thankfully, where I represent, we have more women getting into politics.

Afortunadamente, en los lugares donde represento,

hay más mujeres que se dedican a la política.

But I had a really good conversation with them,

Pero tuve una conversación muy buena con ellas,

and it’s around, if this is happening to you now,

y es que si esto te está pasando a ti ahora,

what happens to me tomorrow?

¿qué me pasará a mí mañana?

And I think this really strikes at the heart of the climate of fear

Y creo que esto realmente atenta contra el núcleo del clima de miedo

that AI can create for those in public life.

que la IA puede crear en quienes participan en la vida pública.

Y no culpo a las mujeres.

And I don't blame women.

It's very sad.

Es muy triste.

I don't blame women for not wanting to get into politics

No culpo a las mujeres por no querer entrar en la política

when they see this kind of technology come forward,

cuando ven que este tipo de tecnología se presenta,

so that's so important that we safeguard it.

por eso es tan importante que la protejamos.

What also concerned me was the position of elderly voters

Lo que también me preocupaba era la posición de los votantes de edad avanzada

y, quizás, su conocimiento de los medios

and perhaps their media literacy,

their comprehension of this technology.

y su comprensión de esta tecnología.

People who don't use the internet,

Personas que no usan Internet,

who perhaps are not aware of AI and its many, many uses.

que quizás no conozcan la IA y sus muchos, muchos usos.

So that was really concerning as well.

Así que eso también fue muy preocupante.

But it doesn't have to be this way.

Pero no tiene por qué ser así.

We can be part of the change.

Podemos ser parte del cambio.

For me and my video,

En cuanto a mí y a mi vídeo,

I still don't know, to this day, who did this.

todavía no sé, hasta el día de hoy, quién hizo esto.

I can imagine why they did it, but I don't know who did it.

Me imagino por qué lo hicieron, pero no sé quién lo hizo.

And sadly for me and for across the globe,

Y lamentablemente para mí y para todo el mundo,

it still wouldn't be considered a crime.

todavía no se consideraría un delito.

So from being the enemy of fair, transparent,

Por eso, la IA sigue siendo motivo de preocupación,

good-natured politics,

ya sea enemiga de una política justa, transparente y bondadosa,

to warfare, to international interference,

despite its beauty and its potential,

pasando por la guerra y la interferencia internacional,

AI is still a cause for concern.

a pesar de su belleza y su potencial.

But it doesn't have to be this way.

Pero no tiene por qué ser así.

I feel passionately that AI can be a humanistic technology

Creo apasionadamente que la IA puede ser una tecnología humanista

with human values

con valores humanos

that complements the lives that we live

que complemente las vidas que vivimos

to make us the very best versions of ourselves.

para convertirnos en las mejores versiones de nosotros mismos.

But to do that,

Pero para ello,

I think we need to embed ethics into this technology,

creo que necesitamos integrar la ética en esta tecnología,

to eliminate bias, to install empathy

eliminar los prejuicios, fomentar la empatía

and make sure it is aligned with human values and human principles.

y asegurarnos de que está alineada con los valores y principios humanos.

Who knows, our democracy could depend on it.

Quién sabe, nuestra democracia podría depender de ello.

And today I know we have some of the brightest minds in this room.

Y hoy sé que tenemos algunas de las mentes más brillantes en esta sala.

I heard some of the talks earlier, and I'm certain of that.

Escuché algunas de las conversaciones antes, y estoy segura de ello.

And I know each and every one of you have weight on your shoulders

Sé que todos y cada uno de vosotros tenéis un peso sobre los hombros

when looking to the future.

cuando miráis hacia el futuro.

But I also know each and every one of you want to see this tech for good.

Pero también sé que todos y cada uno quiere ver esta tecnología para siempre.

And what gives me hope

Y lo que me da esperanza

is witnessing the movement right across the globe

es presenciar el movimiento que se extiende por todo el mundo

to see this hard journey begin,

para que comience este arduo viaje,

to regulate this ever-advancing technology,

para regular esta tecnología cada vez más avanzada,

which can be used for bad or for good.

que puede usarse para bien o para mal.

But perhaps we, each and every one of us in this room,

Pero quizás nosotros, todos y cada uno de los presentes en esta sala,

can be part of finding the solution.

podamos ser parte de la búsqueda de la solución.

(Applause)

(Aplausos)