How a Deepfake Almost Ruined My Political Career | Cara Hunter | TED

תרגום: zeeva livshitz

This talk contains mature language

השיחה הזו מכילה שפה בוגרת

“You’re a little whore,

"את זונה קטנה,

and we've all seen your little video."

וכולנו ראינו את הסרטון הקטן שלך."

That was the text message that was sent to me in April of 2022.

זו הייתה הודעת הטקסט שנשלחה אלי באפריל 2022.

I'm sitting in my grandmother's living room

אני יושבת בסלון של סבתי

in what is her 90th birthday,

ביום הולדתה ה -90,

surrounded by family and friends

מוקפת במשפחה וחברים

as my phone blows up with messages from strangers

כשהטלפון שלי מתפוצץ בהודעות של זרים

right across the country

ברחבי הארץ

who say they have seen a video of me

שאומרים שהם ראו סרטון שבו אני

engaging in hardcore pornographic activity with a man.

עוסקת בפעילות פורנוגרפית קשה עם גבר.

I knew this was impossible.

ידעתי שזה בלתי אפשרי.

With just three weeks out from my election,

לאחר שלושה שבועות בלבד מהבחירות שלי,

I felt as though my career was crumbling before my very eyes.

הרגשתי כאילו הקריירה שלי מתפוררת לנגד עיניי.

My heart pounded,

לבי דפק,

my mind raced, sweat beaded on my skin.

מוחי התרוצץ, זיעה התפשטה על עורי.

And then I watched the video, and my worst fear was realized.

ואז צפיתי בסרטון, והפחד הגרוע ביותר שלי התממש.

Although this woman in the video was not me,

למרות שהאישה הזו בסרטון לא הייתה אני,

she looked exactly like me.

היא נראתה בדיוק כמוני.

Impossibly like me.

באופן בלתי אפשרי כמוני.

Eerily like me.

באופן מפחיד כמוני.

I had so many questions running through my mind.

היו לי כל כך הרבה שאלות שעברו במוחי.

Was this AI?

האם זה היה AI?

Was it not?

זה לא היה?

Who made this?

מי עשה את זה?

How did they make it?

איך הם הצליחו לעשות את זה?

Why did they make it?

למה הם עשו את זה?

So I did what anyone would do,

אז עשיתי מה שכל אחד היה עושה,

and I approached my local police service to ask for advice, for guidance.

ופניתי לשירות המשטרה המקומי שלי כדי לבקש עצה, להדרכה.

And really, where did I go from there?

ובאמת, לאן הלכתי משם?

But they informed me that they wouldn't have the cybercrime technology to assist,

אבל הם הודיעו לי שלא תהיה להם טכנולוגיית פשעי הסייבר שתסייע,

to find out where this video came from.

כדי לגלות מאיפה הסרטון הזה הגיע.

And it was from that moment I knew that I was on my own.

ומאותו הרגע ידעתי שאני לבד.

עכשיו כדי להכין את הבמה, כפי שאתם בוודאי יכולים לדעת,

Now to set the stage, as you can probably tell,

I’m from Ireland,

אני מאירלנד,

and to be exact, I'm from Northern Ireland,

וליתר דיוק, אני מצפון אירלנד,

which is an even smaller place.

שהיא מקום קטן עוד יותר.

We have just 1.8 million people,

יש לנו רק 1.8 מיליון אנשים,

very similar to the size of Vienna.

דומה מאוד לגודל וינה.

So you can imagine a rumor of this sinister nature,

אז אתם יכולים לדמיין ששמועה בעלת אופי מרושע זה,

particularly in the world of politics, can go very far, very fast.

במיוחד בעולם הפוליטיקה, יכולה להגיע רחוק מאוד, מהר מאוד.

And that old saying, “seeing is believing” began to haunt me.

והאמרה הישנה ההיא, "לראות זה להאמין" החלה לרדוף אותי.

And in the weeks leading up to my election,

ובשבועות שקדמו לבחירתי,

this video, this false video,

הסרטון הזה, סרטון השקר הזה,

was shared thousands and thousands of times across WhatsApp.

שותף אלפי ואלפי פעמים בוואטסאפ.

And attached to this video was photos of me at work,

ולסרטון הזה היו מצורפות תמונות שלי בעבודה,

smiling, campaigning,

מחייכת, עושה קמפיין,

building a sense of trust with my constituents.

בונה תחושת אמון עם הבוחרים שלי.

And as the weeks went on,

וככל שחלפו השבועות,

messages flooded in faster and faster,

המסרים הציפו מהר יותר ויותר,

and they were of a very vile and sexual nature.

והם היו בעלי אופי מאוד מרושע ומיני.

Ding!

דינג!

"We've all seen your little video."

"כולנו ראינו את הסרטון הקטן שלך."

Ding!

דינג!

"You should be ashamed of yourself."

“את צריכה להתבייש בעצמך.”

Ding!

דינג!

"Ah, now I see how you got your position in politics."

"אה, עכשיו אני רואה איך קיבלת את עמדתך בפוליטיקה."

It was very difficult.

זה היה קשה מאוד.

And having been in politics since the age of 23,

ואחרי שהייתי בפוליטיקה מגיל 23,

and at this point I've been in it for about four to five years,

ובשלב הזה אני עוסקת בה כארבע עד חמש שנים,

and I'm from Northern Ireland, which is a post-conflict society,

ואני מצפון אירלנד, שהיא חברה שלאחר-סכסוך,

still very deeply divided.

עדיין מפוצלת מאוד.

So I anticipated challenges,

אז ציפיתי לאתגרים,

I anticipated disagreements,

ציפיתי לחילוקי דעות,

I even anticipated attacks, is politics after all.

אפילו ציפיתי להתקפות, זו פוליטיקה אחרי הכל.

But what I did not anticipate was this moment.

אבל מה שלא ציפיתי היה הרגע הזה.

This was different.

זה היה שונה.

This was the moment where misogyny meets the misuse of technology,

זה היה הרגע בו שנאת נשים פוגשת שימוש לרעה בטכנולוגיה,

and even had the potential to impact the outcome of a democratic election.

ואף היה לה פוטנציאל להשפיע על תוצאות הבחירות הדמוקרטיות.

And the sad thing for me was this lie became so far spread,

והדבר העצוב עבורי היה שהשקר הזה התפשט

so far, so fast,

כל כך רחוק, כל כך מהר,

that even my own family started to believe it.

שאפילו המשפחה שלי התחילה להאמין בזה.

Some would say that they'd heard it at a golf club,

יש שיגידו ששמעו את זה במועדון גולף,

others would say they heard it at the bar,

אחרים היו אומרים שהם שמעו את זה בבר,

and of course, some even said they heard it in a locker room.

וכמובן, חלקם אפילו אמרו שהם שמעו את זה בחדר ההלבשה.

A really good example of how far this went

דוגמה טובה מאוד לכמה רחוק זה הלך

was people that I knew my entire life

היו אנשים שהיכרתי שכל חיי

would pass me in the street without whispering a word.

יעברו אותי ברחוב בלי ללחוש מילה.

People like school teachers,

אנשים כמו מורים בבית ספר,

people I had a sense of trust with

אנשים שהייתה לי תחושת אמון איתם,

and, you know, an affinity with.

ואתם יודעים, זיקה איתם.

And that was really hard.

וזה היה ממש קשה.

It felt like overnight I was wearing a scarlet letter.

זה הרגיש כאילו בן לילה אני לובשת מכתב ארגמן.

And as things moved on

וככל שהדברים התקדמו

and were about two, three weeks out from the election,

והיו בערך שבועיים, שלושה שבועות מהבחירות,

I kept receiving messages, and it got wider and wider.

המשכתי לקבל הודעות, וזה נהיה רחב יותר ויותר.

It was global.

זה היה גלובלי.

Not only was I receiving messages from Dublin and from London,

לא רק שקיבלתי הודעות מדבלין ומלונדון,

but I was also receiving messages from Massachusetts, Manhattan,

אלא גם קיבלתי הודעות ממסצ’וסטס, מנהטן,

and I was getting so many follows on my political social media,

וקיבלתי כל כך הרבה עוקבים ברשתות החברתיות הפוליטיות שלי,

predominantly from men hungry for more of this scandal.

בעיקר מגברים רעבים ליותר מהשערורייה הזו.

And this intersection of online harms impacting my real life

והצומת הזה של נזקים מקוונים שהשפיעו על חיי האמיתיים

was something I found utterly strange and surreal.

היה משהו שמצאתי מוזר וסוריאליסטי לחלוטין.

But it got to the point where I was recognized on the street

אבל זה הגיע לנקודה שבה זיהו אותי ברחוב

and approached by a stranger who asked me for a sexual favor.

ופנה אליו זר שביקש ממני טובה מינית.

And it was just, for me, it was like in the blink of an eye,

וזה היה פשוט, בשבילי, זה היה כאילו כהרף עין,

everything had just changed,

הכל פשוט השתנה,

and it was utterly humiliating.

וזה היה משפיל לחלוטין.

I didn't want to leave the house,

לא רציתי לעזוב את הבית,

and I had turned notifications off in my phone

וכיביתי את ההתראות בטלפון שלי

just so I could kind of catch my breath,

רק כדי שאוכל להחזיר את נשימתי,

but this wasn't ideal in the lead up, of course, to an election.

אבל זה לא היה אידיאלי לקראת הבחירות, כמובן.

And for me, I think that was the purpose of this false video, was to do just that.

ובשבילי, אני חושבת שזו הייתה המטרה של הסרטון השקרי הזה, לעשות בדיוק את זה.

But what hurt the most for me

אבל מה שהכי כאב לי

was sitting down my father

היה להושיב את אבי

and having to explain to him this strange, surreal situation.

והייתי צריכה להסביר לו את המצב המוזר והסוריאליסטי הזה.

My father is an Irishman,

אבי הוא אירי,

completely disconnected from tech,

מנותק לחלוטין מהטכנולוגיה,

and so having to explain

ולכן הצורך להסביר

this horrific situation was an entire fabrication

את המצב הנורא הזה היה פבריקציה שלמה

was very hard to do.

היה קשה מאוד לעשות.

This was this strange moment

זה היה הרגע המוזר הזה

where the online world met my life, my reality.

שבו העולם המקוון פגש את חיי, את המציאות שלי.

Not only having the impact to ruin my reputation,

לא רק שיש לו את ההשפעה להרוס את המוניטין שלי,

but have the capacity to change the outcome

אלא שיש לו את היכולת לשנות את תוצאות

of a democratic election.

הבחירות הדמוקרטיות.

And, you know,

ואתם יודעים,

for years I spent so much time building trust with my constituents.

במשך שנים ביליתי כל כך הרבה זמן בבניית אמון עם הבוחרים שלי.

I mean, we all know how much people like politicians.

כולנו יודעים כמה אנשים אוהבים פוליטיקאים.

You know, we’re as likeable as the tax man.

אתם יודעים, אנחנו חביבים כמו איש המס.

So for me, it was hard.

אז בשבילי, זה היה קשה.

It was really hard

זה היה ממש קשה

because it was years of hard work.

כי היו שנים של עבודה קשה.

You know, I’m so passionate about my job,

אתם יודעים, אני כל כך נלהבת מהעבודה שלי,

and this video, this complete falsehood,

ולסרטון הזה, השקר המוחלט הזה,

had the ability to just undermine years of hard work in mere seconds.

היתה יכולת פשוט לערער שנים של עבודה קשה תוך שניות ספורות.

But instead of succumbing entirely to victimhood,

אבל במקום להיכנע לחלוטין לקורבנות,

I ask myself today,

אני שואלת את עצמי היום,

you know, where do we go from here?

אתם יודעים, לאן אנחנו הולכים מכאן?

And how can AI evolve to prevent something like this happening again?

ואיך AI יכול להתפתח כדי למנוע מדבר כזה לקרות שוב?

Not only has it happened to me,

לא רק שזה קרה לי,

but we want to future-proof and ensure that this doesn't happen

אלא שאנחנו רוצים להבטיח את העתיד ולהבטיח שזה לא יקרה

to the women of tomorrow.

לנשים של מחר.

How can we, you and I, people who care about people,

איך אנחנו, אתם ואני, אנשים שאכפת להם מאנשים,

ensure that this is a tech for good?

יכולים להבטיח שזו טכנולוגיה לתמיד?

How can we, the policymakers, the creators, the consumers,

איך אנחנו, קובעי המדיניות, היוצרים, הצרכנים,

ensure we regulate AI and things like social media,

יכולים להבטיח שאנחנו מסדירים את הבינה המלאכותית ודברים כמו מדיה חברתית,

putting humans and humanity at the center of artificial intelligence?

לשים את בני האדם והאנושות במרכז הבינה המלאכותית?

AI can change the world.

AI יכולה לשנות את העולם.

In fact, as we've heard today, it already has.

למעשה, כפי ששמענו היום, זה כבר קרה.

In a matter of seconds,

תוך שניות,

people who speak completely different languages

אנשים שמדברים שפות שונות לחלוטין

can connect and understand one another.

יכולים להתחבר ולהבין זה את זה.

And we've even seen the Pope as a style icon in a puffer jacket.

ואפילו ראינו את האפיפיור כסמל סגנון במעיל מתנפח.

So some really important uses right there.

אז כמה שימושים חשובים באמת שם.

But then in my case as well,

אבל אז גם במקרה שלי,

we can also see how it is weaponized against the truth.

אנחנו יכולים גם לראות איך זה נשק כנגד האמת.

And good examples of this would be art that appears like reality,

ודוגמאות טובות לכך הן אמנות שנראית כמו מציאות,

AI-generated reviews unfairly boosting certain products

ביקורות שנוצרו בבינה מלאכותית המגבירות בצורה לא הוגנת מוצרים מסוימים

and things like chatbot propaganda.

ודברים כמו תעמולת צ'אטבוט.

And then, politically speaking,

ואז, מבחינה פוליטית,

we've seen over the years deepfakes of Nancy Pelosi slurring,

ראינו במהלך השנים זיופים עמוקים של ננסי פלוסי,

Joe Biden cursing

ג’ו ביידן מקלל

and even President Zelensky

ואפילו הנשיא זלנסקי

asking his soldiers to surrender their weapons.

מבקש מחייליו למסור את נשקיהם.

So when AI is used like this, to manipulate,

אז כשמשתמשים בבינה מלאכותית כך, כדי לתמרן,

it can be a threat to our democracy.

זה יכול להוות איום על הדמוקרטיה שלנו.

And the tech is becoming so advanced

והטכנולוגיה נעשית כל כך מתקדמת

that it's hard to differentiate fact from fiction.

שקשה להבדיל בין עובדה לבדיון.

So how does AI interfere with politics?

אז איך AI מפריעה לפוליטיקה?

And for us as politicians, what should we be worried about?

ובשבילנו כפוליטיקאים, ממה עלינו לדאוג?

Could truth and democracy become shattered by AI?

האם אמת ודמוקרטיה יכולות להתנפץ על ידי AI?

Has it already?

האם זה כבר?

Well, to dive a little deeper here,

ובכן, כדי לצלול קצת יותר עמוק כאן,

I think firstly we need to talk about the concept of truth.

אני חושבת שקודם כל עלינו לדבר על מושג האמת.

Without truth, democracy collapses.

ללא אמת, הדמוקרטיה מתמוטטת.

Truth allows us to make informed decisions,

האמת מאפשרת לנו לקבל החלטות מושכלות,

it enables us to hold leaders accountable, which is very important.

היא מאפשרת לנו לתת דין וחשבון למנהיגים, וזה מאוד חשוב.

And it also allows us, as political representatives,

וזה גם מאפשר לנו, כנציגים פוליטיים,

to create a sense of trust with our citizens and our constituents.

ליצור תחושת אמון עם אזרחינו ובוחריינו.

But without that truth,

אך ללא אמת זו,

democracy is vulnerable to misinformation,

הדמוקרטיה חשופה למידע מוטעה,

manipulation, and, of course, corruption.

מניפולציות וכמובן שחיתות.

When AI erodes truth,

כאשר בינה מלאכותית שוחקת את האמת,

it erodes trust,

היא שוחקת את האמון

and it undermines our democracy.

והיא מערערת את הדמוקרטיה שלנו.

And for me, in my experience with a deepfake,

ובשבילי, מניסיוני עם דיפ-פייק,

I've seen what a fantastic distortion tool that deepfakes really are.

ראיתי איזה כלי עיוות פנטסטי שדיפ-פייקים הם באמת.

So how can we safeguard democracy from this ever-advancing technology?

אז איך נוכל להגן על הדמוקרטיה מהטכנולוגיה המתקדמת כל הזמן הזה?

It's becoming ever harder to distinguish between real and synthetic content.

זה נהיה קשה יותר להבחין בין תוכן אמיתי לסינתטי.

And politically, what role does AI play in the future?

ופוליטית, איזה תפקיד ממלאת AI בעתיד?

And I can't talk about politics without talking about media as well.

אני לא יכולה לדבר על פוליטיקה בלי לדבר גם על התקשורת.

They're undeniably linked, they're intertwined.

הם קשורים ללא ספק, הם שזורים זה בזה.

And I think journalism has its own battle here as well.

ואני חושבת שלעיתונות יש כאן גם קרב משלה.

From AI algorithms boosting articles unfairly

מאלגוריתמי AI המגבירים מאמרים בצורה לא הוגנת

to clickbait headlines,

לכותרות קְלִיקְבֵּיְט,

and then also moments where they can manipulate the public as well.

ואז גם רגעים שבהם הם יכולים לתמרן גם את הציבור.

But politically speaking,

אבל מבחינה פוליטית,

we've seen AI-tailored political messaging

ראינו הודעות פוליטיות מותאמות לבינה מלאכותית

influencing voters,

משפיעות על הבוחרים,

we’ve seen it adding to existing bias.

ראינו את זה מוסיף להטיה הקיימת.

And definitely I think we all have that aunt that’s on Facebook

ובהחלט אני חושבת שלכולנו יש את הדודה הזו שנמצאת בפייסבוק

and kind of believes anything.

ומאמינה בכל דבר.

So for me, as a politician,

אז בשבילי, כפוליטיקאית,

I think it's really important we dive a little deeper

אני חושבת שזה באמת חשוב שנצלול קצת יותר עמוק

into the relationship of AI, journalism and media.

לתוך מערכת היחסים של בינה מלאכותית, עיתונאות ומדיה.

But it also puts us at risk

אבל זה גם מעמיד אותנו בסיכון

of creating a more divided and reactionary society,

של יצירת חברה מפוצלת וריאקציונית יותר,

because falsehoods can create a lot of reaction.

מכיוון ששקר יכול ליצור הרבה תגובות.

And for myself, coming from Northern Ireland,

ולעצמי, באתי מצפון אירלנד,

which is that post-conflict society,

שהיא אותה חברה שלאחר הסכסוך,

I do have concerns about how it could shape our political landscape

יש לי חששות לגבי איך היא יכולה לעצב את הנוף הפוליטי שלנו

and other places across the globe.

ומקומות אחרים ברחבי העולם.

Sadly, this deepfake video

למרבה הצער,סרטון הדיפ-פייק הזה

is not the only instance of me having experienced abuse with AI.

הוא לא המקרה היחיד שבו חוויתי התעללות עם AI.

Just six months ago,

רק לפני חצי שנה,

I received 15 deepfake images of myself in lingerie

קיבלתי 15 תמונות דיפ-פייקיות של עצמי בהלבשה תחתונה

posing provocatively.

שמתייצבת באופן פרובוקטיבי.

And I thought to myself, here we go again.

וחשבתי לעצמי, הנה אנחנו מתחילים שוב.

And you know, I spoke with some other female politicians.

ואתם יודעים, דיברתי עם כמה פוליטיקאיות אחרות.

Thankfully, where I represent, we have more women getting into politics.

למרבה המזל, במקום שאני מייצגת, יש לנו יותר נשים שנכנסות לפוליטיקה.

But I had a really good conversation with them,

אבל הייתה לי שיחה ממש טובה איתם,

and it’s around, if this is happening to you now,

וזה מסביב, אם זה קורה לך עכשיו,

what happens to me tomorrow?

מה יקרה לי מחר?

And I think this really strikes at the heart of the climate of fear

ואני חושבת שזה באמת פוגע בלב אקלים הפחד

that AI can create for those in public life.

שהבינה המלאכותית יכולה ליצור עבור אלה בחיים הציבוריים.

And I don't blame women.

ואני לא מאשימה נשים.

It's very sad.

זה מאוד עצוב.

I don't blame women for not wanting to get into politics

אני לא מאשימה נשים שלא רוצות להיכנס לפוליטיקה

when they see this kind of technology come forward,

כשהן רואות טכנולוגיה מסוג זה מתפתחת,

so that's so important that we safeguard it.

אז זה כל כך חשוב שנגן עליה.

What also concerned me was the position of elderly voters

מה שהדאיג אותי היה גם עמדתם של הבוחרים המבוגרים

and perhaps their media literacy,

ואולי אוריינות המדיה שלהם,

their comprehension of this technology.

הבנתם את הטכנולוגיה הזו.

People who don't use the internet,

אנשים שאינם משתמשים באינטרנט,

who perhaps are not aware of AI and its many, many uses.

שאולי אינם מודעים ל- AI ולשימושים הרבים מאוד שלה.

So that was really concerning as well.

אז זה היה ממש מדאיג גם כן.

But it doesn't have to be this way.

אבל זה לא חייב להיות ככה.

We can be part of the change.

אנחנו יכולים להיות חלק מהשינוי.

For me and my video,

מבחינתי והסרטון שלי,

I still don't know, to this day, who did this.

אני עדיין לא יודעת, עד היום, מי עשה את זה.

I can imagine why they did it, but I don't know who did it.

אני יכולה לדמיין למה הם עשו את זה, אבל אני לא יודעת מי עשה את זה.

And sadly for me and for across the globe,

ולמרבה הצער עבורי ועבור כל העולם,

it still wouldn't be considered a crime.

זה עדיין לא ייחשב לפשע.

So from being the enemy of fair, transparent,

אז מהיותה האויב של פוליטיקה הוגנת, שקופה

good-natured politics,

וטובה,

to warfare, to international interference,

ועד לוחמה, להתערבות בינלאומית,

despite its beauty and its potential,

למרות היופי והפוטנציאל שלה,

AI is still a cause for concern.

בינה מלאכותית עדיין מהווה סיבה לדאגה.

But it doesn't have to be this way.

אבל זה לא חייב להיות ככה.

I feel passionately that AI can be a humanistic technology

אני מרגישה בלהט ש- AI יכולה להיות טכנולוגיה הומניסטית

with human values

עם ערכים אנושיים

that complements the lives that we live

שמשלימה את החיים שאנו חיים

to make us the very best versions of ourselves.

כדי להפוך אותנו לגרסאות הטובות ביותר של עצמנו.

But to do that,

אבל כדי לעשות זאת,

I think we need to embed ethics into this technology,

אני חושבת שאנחנו צריכים להטמיע אתיקה בטכנולוגיה הזו,

to eliminate bias, to install empathy

לחסל הטיה, להתקין אמפתיה

and make sure it is aligned with human values and human principles.

ולוודא שהיא תואמת לערכים אנושיים ועקרונות אנושיים.

Who knows, our democracy could depend on it.

מי יודע, הדמוקרטיה שלנו יכולה להיות תלויה בזה.

And today I know we have some of the brightest minds in this room.

והיום אני יודעת שיש לנו כמה מהמוחות המבריקים בחדר הזה.

I heard some of the talks earlier, and I'm certain of that.

שמעתי כמה מהשיחות מוקדם יותר, ואני בטוחה בזה.

And I know each and every one of you have weight on your shoulders

ואני יודעת שלכל אחד ואחד מכם יש משקל על הכתפיים

when looking to the future.

כשמסתכלים על העתיד.

But I also know each and every one of you want to see this tech for good.

אבל אני גם יודעת שכל אחד ואחד מכם רוצה לראות את הטכנולוגיה הזו לתמיד.

And what gives me hope

ומה שנותן לי תקווה

is witnessing the movement right across the globe

הוא לראות את התנועה ברחבי העולם

to see this hard journey begin,

כדי לראות את המסע הקשה הזה מתחיל,

to regulate this ever-advancing technology,

כדי להסדיר את הטכנולוגיה המתקדמת הזו,

which can be used for bad or for good.

שיכולה לשמש לרע או לטוב.

But perhaps we, each and every one of us in this room,

אבל אולי אנחנו, כל אחד ואחד מאיתנו בחדר הזה,

can be part of finding the solution.

יכולים להיות חלק ממציאת הפתרון.

(Applause)

(מחיאות כפיים)