How we can eliminate child sexual abuse material from the internet | Julie Cordua

תרגום: Atalya Nir עריכה: Michal Shargil Ben Sira

[This talk contains mature content]

[הרצאה זו כוללת תכנים למבוגרים בלבד]

Five years ago,

לפני חמש שנים

I received a phone call that would change my life.

קיבלתי שיחת טלפון ששינתה את חיי.

I remember so vividly that day.

אני זוכרת את היום ההוא בצורה כה ברורה.

It was about this time of year,

זה היה בערך בתקופה זו של השנה

and I was sitting in my office.

וישבתי במשרד שלי.

I remember the sun streaming through the window.

אני זוכרת את השמש מאירה מבעד לחלון.

And my phone rang.

והטלפון שלי צלצל.

And I picked it up,

ועניתי,

and it was two federal agents, asking for my help

ועל הקו היו שני סוכנים פדרליים, שביקשו את עזרתי

in identifying a little girl

בזיהוי ילדה קטנה

featured in hundreds of child sexual abuse images they had found online.

שמופיעה במאות תמונות שהם מצאו ברשת הכוללות התעללות מינית בילדות וילדים.

They had just started working the case,

הם רק החלו לעבוד על התיק,

but what they knew

אבל מה שהם כבר ידעו

was that her abuse had been broadcast to the world for years

זה שההתעללות בילדה משודרת לכל העולם מזה שנים

on dark web sites dedicated to the sexual abuse of children.

באתרי "הרשת האפלה" המוקדשים להתעללות מינית בילדות וילדים.

And her abuser was incredibly technologically sophisticated:

והמתעלל הוא אדם מאוד מתוחכם מבחינה טכנולוגית:

new images and new videos every few weeks,

תמונות חדשות וסרטוני וידיאו חדשים עלו כל כמה שבועות,

but very few clues as to who she was

אבל מעט מאוד רמזים אודות זהותה

or where she was.

או מיקומה.

And so they called us,

אז הם התקשרו אלינו,

because they had heard we were a new nonprofit

כי הם שמעו שאנחנו עמותה חדשה

building technology to fight child sexual abuse.

המפתחת טכנולוגיה למאבק בהתעללות מינית בילדות וילדים.

But we were only two years old,

אבל היינו רק בני שנתיים,

and we had only worked on child sex trafficking.

ועסקנו רק בנושא סחר בילדות וילדים למטרות מין.

And I had to tell them

ונאלצתי להגיד להם

we had nothing.

שאין לנו איך לעזור.

We had nothing that could help them stop this abuse.

אין לנו אף כלי שיוכל לסייע להם לעצור את ההתעללות הזאת.

It took those agents another year

לקח לסוכנים האלו שנה נוספת

to ultimately find that child.

לאתר לבסוף את הילדה.

And by the time she was rescued,

ועד הרגע שבו היא חולצה,

hundreds of images and videos documenting her rape had gone viral,

מאות תמונות וסרטונים המתעדים מעשי אונס שהיא עברה כבר הפכו ויראליים

from the dark web

מ"הרשת האפלה"

to peer-to-peer networks, private chat rooms

אל רשתות עמית-לעמית, אל חדרי צ'אט פרטיים

and to the websites you and I use

ואל אתרים שאתם ואני משתמשים בהם

every single day.

מדי יום ביומו.

And today, as she struggles to recover,

והיום, בעודה מנסה להתאושש,

she lives with the fact that thousands around the world

היא חיה עם העובדה שאלפים ברחבי העולם כולו

continue to watch her abuse.

ממשיכים לצפות בהתעללות בה.

I have come to learn in the last five years

במהלך חמש השנים האחרונות גיליתי

that this case is far from unique.

שמקרה זה הוא ממש לא מקרה ייחודי.

How did we get here as a society?

איך הגענו למצב הזה כחברה?

In the late 1980s, child pornography --

בשנות ה-80 המאוחרות, פורנוגרפיית ילדים --

or what it actually is, child sexual abuse material --

או מה שהיא באמת: חומרים של התעללות מינית בילדות וילדים,

was nearly eliminated.

כמעט ונעלמו מהעולם.

New laws and increased prosecutions made it simply too risky

חוקים חדשים ומספר גובר של תביעות הפכו את המסחר בחומרים דרך הדואר

to trade it through the mail.

לדבר מסוכן מדי.

And then came the internet, and the market exploded.

ואז הגיע האינטרנט, והשוק הוצף.

The amount of content in circulation today

כמות החומרים המופצים כיום

is massive and growing.

היא עצומה והיא הולכת וגדלה.

This is a truly global problem,

זוהי בעיה גלובאלית אמיתית,

but if we just look at the US:

אבל אם נבחן רק את ארצות הברית:

in the US alone last year,

בשנה שעברה, רק בארצות הברית

more than 45 million images and videos of child sexual abuse material

יותר מ-45 מיליון תמונות וסרטונים הכוללים חומרים של התעללות מינית בילדות וילדים

were reported to the National Center for Missing and Exploited Children,

דווחו למרכז הלאומי לילדים נעדרים והחווים ניצול.

and that is nearly double the amount the year prior.

זו כמות כמעט כפולה ביחס לשנה הקודמת.

And the details behind these numbers are hard to contemplate,

הפרטים מאחורי המספרים הללו קשים לעיכול,

with more than 60 percent of the images featuring children younger than 12,

ביותר מ-60 אחוז מהתמונות מופיעות ומופיעים ילדות וילדים מתחת לגיל 12,

and most of them including extreme acts of sexual violence.

ורובן כוללות מעשי אלימות מינית קיצונית.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

מתעללים זוכים לעידוד בחדרי צ'אט המוקדשים להתעללות בילדות וילדים

where they gain rank and notoriety

שם הם זוכים לדירוג ופרסום

with more abuse and more victims.

ככל שהם מבצעים יותר התעללות ביותר קורבנות.

In this market,

בשוק הזה,

the currency has become the content itself.

המטבע הנסחר הוא התוכן עצמו.

It's clear that abusers have been quick to leverage new technologies,

ניכר כי המתעללים מיהרו לרתום לרשותם טכנולוגיות חדשות

but our response as a society has not.

אבל תגובתנו כחברה לא עשתה זאת.

These abusers don't read user agreements of websites,

המתעללים לא קוראים תנאי שימוש באתרים,

and the content doesn't honor geographic boundaries.

והתוכן בהם לא מציית לגבולות גיאוגרפיים.

And they win when we look at one piece of the puzzle at a time,

והם מנצחים כשאנחנו מתבוננים רק בחלק אחד של הפאזל בכל פעם,

which is exactly how our response today is designed.

וכך בדיוק התגובה שלנו כיום מתנהלת.

Law enforcement works in one jurisdiction.

רשויות החוק עובדות בתחום שיפוט אחד.

Companies look at just their platform.

חברות מסתכלות רק על הפלטפורמה שלהן,

And whatever data they learn along the way

ואת הנתונים שהן לומדות בדרך

is rarely shared.

הן כמעט אף פעם לא חולקות.

It is so clear that this disconnected approach is not working.

ברור כשמש שגישה מנותקת זו לא עובדת.

We have to redesign our response to this epidemic

אנחנו מוכרחים לתכנן מחדש את המענה שלנו למגיפה הזו

for the digital age.

כך שיתאים לעידן הדיגיטלי.

And that's exactly what we're doing at Thorn.

וזה בדיוק מה שאנחנו עושים ב"ת'ורן".

We're building the technology to connect these dots,

אנחנו בונים את הטכנולוגיה שתקשר בין כל הנקודות,

to arm everyone on the front lines --

שתחמש כראוי את אלו העומדים בחזית --

law enforcement, NGOs and companies --

רשויות חוק, מלכ"רים וחברות --

with the tools they need to ultimately eliminate

בכלים הדרושים על מנת להכחיד באופן סופי

child sexual abuse material from the internet.

חומרים הכוללים התעללות מינית בילדות וילדים מעל גבי הרשת.

Let's talk for a minute --

בואו נדבר רגע --

(Applause)

(מחיאות כפיים)

Thank you.

תודה רבה.

(Applause)

(מחיאות כפיים)

Let's talk for a minute about what those dots are.

בואו נדבר רגע על הנקודות הללו.

As you can imagine, this content is horrific.

כפי שאתם יכולים לתאר, התוכן הזה הוא מחריד.

If you don't have to look at it, you don't want to look at it.

אם אתם לא חייבים לצפות בו, אתם לא רוצים לצפות בו.

And so, most companies or law enforcement agencies

ולכן כל חברה או סוכנות אכיפת חוק

that have this content

שברשותה תוכן כזה

can translate every file into a unique string of numbers.

יכולה לתרגם כל קובץ למחרוזת ייחודית של מספרים.

This is called a "hash."

זה נקרא Hash (בליל או ערבול בעברית).

It's essentially a fingerprint

זוהי למעשה טביעת אצבע

for each file or each video.

של כל קובץ או כל סרטון.

And what this allows them to do is use the information in investigations

הדבר מאפשר להן להשתמש במידע במהלך חקירות

or for a company to remove the content from their platform,

או מאפשר לחברות להסיר את התוכן מהפלטפורמה שלהן

without having to relook at every image and every video each time.

מבלי שיהיה צורך להתבונן בכל תמונה או סרטון בכל פעם.

The problem today, though,

אולם הבעיה היום

is that there are hundreds of millions of these hashes

היא שקיימות מאות מליוני פונקציות של בלילים (hash) כאלו

sitting in siloed databases all around the world.

המאוחסנות במסדי נתונים נפרדים בכל רחבי העולם.

In a silo,

במסד נתונים מבודד,

it might work for the one agency that has control over it,

הדבר אולי מסייע לסוכנות המסוימת ששולטת בו,

but not connecting this data means we don't know how many are unique.

אבל אם לא מקשרים את כל הנתונים, אנו לא יודעים אילו מהם ייחודיים.

We don't know which ones represent children who have already been rescued

אנחנו לא יודעים אילו מהם מתייחסות לילדות וילדים שכבר חולצו

or need to be identified still.

או לכאלו שצריך עוד לזהות.

So our first, most basic premise is that all of this data

נקודת המוצא הבסיסית והראשונה שלנו היא שכל הנתונים הללו

must be connected.

צריכים להיות מקושרים.

There are two ways where this data, combined with software on a global scale,

ישנן שתי דרכים שבאמצעותן לנתונים האלה, בשילוב תוכנה גלובאלית,

can have transformative impact in this space.

עשויה להיות השפעה שתשנה את התמונה בתחום הזה.

The first is with law enforcement:

הדרך הראשונה היא דרך רשויות אכיפת החוק:

helping them identify new victims faster,

לסייע להם לזהות קורבנות חדשים באופן מהיר יותר,

stopping abuse

לעצור התעללות

and stopping those producing this content.

ולעצור את אלו שמייצרים את התוכן הזה.

The second is with companies:

הדרך השנייה היא באמצעות חברות:

using it as clues to identify the hundreds of millions of files

להשתמש בזה כרמזים שיאפשרו זיהוי של מאות מיליוני הקבצים

in circulation today,

הנמצאים כיום בתפוצה,

pulling it down

להסיר אותם,

and then stopping the upload of new material before it ever goes viral.

ואז לעצור את העלאתם של חומרים חדשים עוד לפני שהם הופכים לויראליים.

Four years ago,

לפני ארבע שנים,

when that case ended,

כשהתיק ההוא הסתיים,

our team sat there, and we just felt this, um ...

הצוות שלנו ישב שם, וכולנו הרגשנו מעין...

... deep sense of failure, is the way I can put it,

תחושת כישלון עמוקה. כך ניתן לנסח זאת.

because we watched that whole year

כי התבוננו מהצד במשך השנה ההיא

while they looked for her.

בזמן שהם חיפשו אחריה,

And we saw every place in the investigation

וראינו כל נקודה במהלך החקירה

where, if the technology would have existed,

שבה, אם היתה קיימת הטכנולוגיה,

they would have found her faster.

הם היו מצליחים למצוא אותה מהר יותר.

And so we walked away from that

כך שהתרחקנו מהאירוע

and we went and we did the only thing we knew how to do:

ופנינו לעשות את הדבר היחיד שאנחנו יודעים לעשות:

we began to build software.

התחלנו לפתח תוכנה.

So we've started with law enforcement.

התחלנו עם רשויות החוק.

Our dream was an alarm bell on the desks of officers all around the world

החלום שלנו היה להתקין פעמון אזהרה על שולחן העבודה של שוטרים בכל רחבי העולם

so that if anyone dare post a new victim online,

כך שברגע שמישהו יעז לפרסם קורבן חדש באינטרנט,

someone would start looking for them immediately.

מישהו יתחיל לחפש אותו או אותה באופן מיידי.

I obviously can't talk about the details of that software,

אני כמובן לא יכולה למסור פרטים אודות התוכנה עצמה,

but today it's at work in 38 countries,

אבל כיום היא פועלת ב-38 ארצות,

having reduced the time it takes to get to a child

והיא הפחיתה את הזמן שנדרש כדי לאתר ילד או ילדה

by more than 65 percent.

ביותר מ-65 אחוזים.

(Applause)

(מחיאות כפיים)

And now we're embarking on that second horizon:

וכעת אנו פותחים במסע אל עבר האופק השני:

building the software to help companies identify and remove this content.

פיתוח תוכנה שתסייע לחברות לזהות ולהסיר את התוכן הזה.

Let's talk for a minute about these companies.

בואו נדבר רגע על החברות האלה.

So, I told you -- 45 million images and videos in the US alone last year.

כפי שסיפרתי לכם, מדובר ב-45 מיליון תמונות וסרטונים בארצות הברית לבדה בשנה האחרונה.

Those come from just 12 companies.

הם מגיעים מ-12 חברות בלבד.

Twelve companies, 45 million files of child sexual abuse material.

12 חברות, 45 מיליון קבצים הכוללים חומרים של התעללות בילדות וילדים.

These come from those companies that have the money

הם מגיעים מהחברות שיש להן כסף

to build the infrastructure that it takes to pull this content down.

בשביל לבנות את התשתית הנדרשת לצורך הסרת התוכן הזה.

But there are hundreds of other companies,

אך יש מאות חברות אחרות,

small- to medium-size companies around the world,

חברות קטנות או בינוניות בכל רחבי העולם,

that need to do this work,

שצריכות לבצע את העבודה הזו,

but they either: 1) can't imagine that their platform would be used for abuse,

אבל או שהן לא מסוגלות לדמיין שהפלטפורמה שלהן עלולה לשמש לצורכי התעללות,

or 2) don't have the money to spend on something that is not driving revenue.

או שאין ברשותן מספיק כסף להוציא על משהו שאינו מניב רווחים.

So we went ahead and built it for them,

אז אנחנו בנינו זאת עבורם.

and this system now gets smarter with the more companies that participate.

והמערכת הזו הולכת ונהיית חכמה יותר, ככל שמשתתפות בה יותר חברות.

Let me give you an example.

אני אתן לכם דוגמה.

Our first partner, Imgur -- if you haven't heard of this company,

השותפה הרשונה שלנו, אימג'ר -- אם טרם שמעתם על החברה הזו,

it's one of the most visited websites in the US --

זהו אחד מהאתרים עם מספר המבקרים הרב ביותר בארצות הברית --

millions of pieces of user-generated content uploaded every single day,

מיליוני יחידות תוכן המיוצר על ידי משתמשים מועלות לשם בכל יום,

in a mission to make the internet a more fun place.

במטרה להפוך את האינטרנט למקום מהנה יותר.

They partnered with us first.

הם היו הראשונים לחבור איתנו.

Within 20 minutes of going live on our system,

בתוך 20 דקות מרגע שעלתה המערכת שלנו לאוויר

someone tried to upload a known piece of abuse material.

מישהו ניסע להעלות חומר מוכר הכולל התעללות.

They were able to stop it, they pull it down,

הם הצליחו לעצור את זה, הם הסירו את התוכן,

they report it to the National Center for Missing and Exploited Children.

הם דיווחו על זה למרכז הלאומי לילדות ולילדים נעדרות והחוות ניצול.

But they went a step further,

אבל הם הלכו צעד נוסף,

and they went and inspected the account of the person who had uploaded it.

הם בחנו את החשבון של מי שהעלה את התוכן.

Hundreds more pieces of child sexual abuse material

מאות חומרים נוספים של התעללות בילדות וילדים

that we had never seen.

שלא ראינו קודם.

And this is where we start to see exponential impact.

וכאן אנו מתחילים לראות השפעה אקספוננציאלית.

We pull that material down,

אנו מסירים את החומרים,

it gets reported to the National Center for Missing and Exploited Children

הם מדווחים למרכז הלאומי לילדות ולילדים נעדרות ונעדרים והחווים ניצול,

and then those hashes go back into the system

ואז פונקציות הערבול (ה-Hash) הללו מוזנות למערכת

and benefit every other company on it.

ומסייעות לכל חברה אחרת המחוברת למערכת.

And when the millions of hashes we have lead to millions more and, in real time,

וכשמיליון פונקציות הערבול שלנו יובילו למיליון נוספים, בזמן אמת,

companies around the world are identifying and pulling this content down,

חברות בכל העולם יזהו ויסירו את התוכן הזה

we will have dramatically increased the speed at which we are removing

אנחנו נגביר בצורה דרמטית את המהירות שבה ניתן להסיר

child sexual abuse material from the internet around the world.

חומרי התעללות מינית בילדות וילדים מעל רשת האינטרנט בכל רחבי העולם.

(Applause)

(מחיאות כפיים)

But this is why it can't just be about software and data,

אבל זו בדיוק הסיבה שבגינה העניין הוא לא רק תוכנה ונתונים,

it has to be about scale.

המיקוד חייב להיות על ההיקפים.

We have to activate thousands of officers,

אנחנו צריכים להשמיש אלפי נציגי חוק,

hundreds of companies around the world

מאות חברות ברחבי העולם.

if technology will allow us to outrun the perpetrators

רק כך הטכנולוגיה תאפשר לנו להשיג את העבריינים

and dismantle the communities that are normalizing child sexual abuse

ולפרק את הקהילות שהופכות התעללות מינית בילדות וילדים למשהו שגרתי

around the world today.

בכל רחבי העולם כיום.

And the time to do this is now.

והזמן לעשות זאת הוא עכשיו.

We can no longer say we don't know the impact this is having on our children.

איננו רשאים יותר להגיד שאיננו מזהים את ההשפעה שיש לכך על ילדינו וילדותינו.

The first generation of children whose abuse has gone viral

הדור הראשון של הילדות והילדים שההתעללות בהם הפכה לויראלית

are now young adults.

הם עכשיו נשים וגברים צעירות וצעירים.

The Canadian Centre for Child Protection

המרכז הקנדי להגנת הילדה והילד

just did a recent study of these young adults

ערך לאחרונה מחקר על הצעירות והצעירים הללו

to understand the unique trauma they try to recover from,

כדי להבין את הטראומה הייחודית שממנה הן והם מנסות ומנסים להתאושש,

knowing that their abuse lives on.

כשהן יודעות והם יודעים שההתעללות שעברו ממשיכה להיות מופצת.

Eighty percent of these young adults have thought about suicide.

יותר מ-80% מהצעירות והצעירים הללו שקלו להתאבד.

More than 60 percent have attempted suicide.

יותר מ-60% ניסו להתאבד.

And most of them live with the fear every single day

רובן/ם חיות/ים בפחד מדי יום ביומו

that as they walk down the street or they interview for a job

שבזמן שהן/ם הולכות/ים ברחוב או נמצאות/ים בראיון עבודה

or they go to school

או הולכות/ים לבית הספר

or they meet someone online,

או פוגשות/ים מישהו באינטרנט

that that person has seen their abuse.

שאותו אדם כבר צפה בהתעללות בהן/ם.

And the reality came true for more than 30 percent of them.

והמציאות הזו התממשה עבור יותר מ-30% מהן/ם.

They had been recognized from their abuse material online.

מישהו זיהה אותן/ם מההתעללות שעברו שהופצה באינטרנט.

This is not going to be easy,

זה לא עומד להיות קל,

but it is not impossible.

אבל זה לא בלתי-אפשרי.

Now it's going to take the will,

עכשיו יידרש רק כוח רצון,

the will of our society

כוח הרצון של החברה שלנו,

to look at something that is really hard to look at,

להתבונן במשהו שמאוד קשה להביט בו,

to take something out of the darkness

להוציא משהו מתוך האפלה,

so these kids have a voice;

כדי לתת קול לילדות ולילדים האלו.

the will of companies to take action and make sure that their platforms

כוח הרצון של חברות לנקוט צעדים על מנת לוודא שהפלטפורמות שלהן

are not complicit in the abuse of a child;

אינן שותפות להתעללות בילדות וילדים.

the will of governments to invest with their law enforcement

כוח הרצון של ממשלות להשקיע ברשויות אכיפת החוק שלהן

for the tools they need to investigate a digital first crime,

ולהעניק להן את המשאבים הנחוצים על מנת לחקור פשעים דיגיטליים,

even when the victims cannot speak for themselves.

גם כאשר הקורבנות לא מסוגלות ומסוגלים לדבר בשם עצמן/ם.

This audacious commitment is part of that will.

המחויבות הנועזת הזו היא חלק מכוח-הרצון הזה.

It's a declaration of war against one of humanity's darkest evils.

זו היא הכרזת מלחמה על אחד ממעשי הרשע האפלים ביותר של האנושות.

But what I hang on to

אבל מה שמחזיק אותי

is that it's actually an investment in a future

זה שלמעשה מדובר בהשקעה בעתיד

where every child can simply be a kid.

שבו כל ילדה וילד יוכלו פשוט להיות ילדות/ים.

Thank you.

תודה רבה.

(Applause)

(מחיאות כפיים)