How we can eliminate child sexual abuse material from the internet | Julie Cordua

المترجم: Shimaa Nabil المدقّق: Riyad Almubarak

[This talk contains mature content]

(يحتوي هذا الحديث على محتوى للبالغين)

Five years ago,

منذ خمسة أعوام،

I received a phone call that would change my life.

تلقيت مكالمة هاتفية غيرت حياتي.

I remember so vividly that day.

أتذكر هذا اليوم بوضوح شديد.

It was about this time of year,

كان في مثل هذا الوقت من السنة،

and I was sitting in my office.

وكنت جالسة في مكتبي.

I remember the sun streaming through the window.

أتذكر انسياب أشعة الشمس من النافذة،

And my phone rang.

عندما رن هاتفي.

And I picked it up,

أجبت،

and it was two federal agents, asking for my help

وكان اثنان من العملاء الفيدراليين، يطلبون مساعدتي

in identifying a little girl

في التعرف على فتاة صغيرة

featured in hundreds of child sexual abuse images they had found online.

ظهرت في مئات من صور الاعتداء الجنسي على الأطفال التي وجدوها عبر الإنترنت.

They had just started working the case,

كانوا قد بدأوا لتوهم العمل في القضية

but what they knew

لكن ما وجدوه

was that her abuse had been broadcast to the world for years

أن استغلالها كان يذاع للعالم لسنوات

on dark web sites dedicated to the sexual abuse of children.

على مواقع الإنترنت المظلمة المخصصة للاستغلال الجنسي للأطفال.

And her abuser was incredibly technologically sophisticated:

وأن المعتدي عليها يجيد استخدام التكنولوجيا:

new images and new videos every few weeks,

صور وأفلام جديدة كل بضعة أسابيع،

but very few clues as to who she was

ولا يوجد أي معلومات عن هويتها

or where she was.

أو أين كانت.

And so they called us,

لذلك استدعونا،

because they had heard we were a new nonprofit

لأنهم عرفوا أننا منظمة غير ربحية جديدة

building technology to fight child sexual abuse.

نصنع تقنيات لمحاربة الاستغلال الجنسي.

But we were only two years old,

لكننا بدأنا منذ عامين فقط،

and we had only worked on child sex trafficking.

وكنا قد عملنا فقط في قضايا الإتجار الجنسي بالأطفال.

And I had to tell them

وكان علي أن أخبرهم

we had nothing.

بأننا لا نملك فعل شيء.

We had nothing that could help them stop this abuse.

لم يكن لدينا شيء يمكن أن يساعدهم على وقف هذا الاعتداء.

It took those agents another year

استغرق العملاء عامًا آخر

to ultimately find that child.

ليجدوا تلك الطفلة في النهاية.

And by the time she was rescued,

وفي الوقت الذي تم إنقاذها به،

hundreds of images and videos documenting her rape had gone viral,

كانت قد نُشرت المئات من الصور والأفلام التي توثق اغتصابها،

from the dark web

من الإنترنت المظلم

to peer-to-peer networks, private chat rooms

إلى شبكات النظراء، وغرف الدردشة الخاصة

and to the websites you and I use

وإلى مواقع نستخدمها جميعاً،

every single day.

يومياً.

And today, as she struggles to recover,

واليوم، بينما تكافح للتعافي،

she lives with the fact that thousands around the world

تواجه حقيقة أن الآلاف حول العالم

continue to watch her abuse.

مازالوا يشاهدون الإساءة لها.

I have come to learn in the last five years

تعلمت في آخر خمس سنوات

that this case is far from unique.

أن هذه القضية ليست فريدة.

How did we get here as a society?

فكيف وصل المجتمع إلى هذا الحد؟

In the late 1980s, child pornography --

في أواخر الثمانينيات، كانت مواد الأطفال الإباحية

or what it actually is, child sexual abuse material --

أو ما هو حقاً مواد استغلال جنسي للأطفال..

was nearly eliminated.

مُنعت تقريباً.

New laws and increased prosecutions made it simply too risky

قوانين جديدة وزيادة في الملاحقات القضائية جعلته ببساطة خطير للغاية

to trade it through the mail.

للمتاجرة به عبر البريد.

And then came the internet, and the market exploded.

ثم ظهر الإنترنت وانفجر السوق

The amount of content in circulation today

كمية المحتوى المتداول اليوم

is massive and growing.

ضخمة ولازالت تتزايد.

This is a truly global problem,

إنها حقاً مشكلة عالمية،

but if we just look at the US:

لكن إذا نظرنا للولايات المتحدة:

in the US alone last year,

في الولايات المتحدة فقط العام السابق،

more than 45 million images and videos of child sexual abuse material

أكثر من 45 مليون صورة وفيلم لمواد الاستغلال الجنسي للأطفال

were reported to the National Center for Missing and Exploited Children,

تم الإبلاغ عنهم للمركز القومي للأطفال المفقودين والمستغليين،

and that is nearly double the amount the year prior.

وهو تقريباً ضعف كمية العام الذي يسبقه.

And the details behind these numbers are hard to contemplate,

والتفاصيل وراء تلك الأرقام من الصعب تصورها،

with more than 60 percent of the images featuring children younger than 12,

لأكثر من 60% من الصور المعروضة لأطفال أقل من 12 سنة،

and most of them including extreme acts of sexual violence.

ومعظمها يتضمن أعمال متطرفة للعنف الجنسي.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

المعتدون يمرحون على غرف الدردشة المخصصة لاستغلال الأطفال.

where they gain rank and notoriety

حيث يحصلون على المكانة وسوء السمعة

with more abuse and more victims.

بالمزيد من الاستغلال والضحايا.

In this market,

في هذا المجال،

the currency has become the content itself.

أصبحت العملة هي المحتوى نفسه.

It's clear that abusers have been quick to leverage new technologies,

من الواضح أن المعتدين يستفيدون من التكنولوجيا الجديدة بسرعة

but our response as a society has not.

لكن استجابتنا كمجتمع لم تكن بذات السرعة.

These abusers don't read user agreements of websites,

لا يقرأ هؤلاء المعتدون اتفاقيات المستخدم للمواقع،

and the content doesn't honor geographic boundaries.

والمُحتوى لا يحترم الحدود الجغرافية.

And they win when we look at one piece of the puzzle at a time,

كما أنهم ينتصرون في كل مرة ننظر لقطعة من اللغز،

which is exactly how our response today is designed.

وهو بالضبط كيف تم تصميم ردنا اليوم.

Law enforcement works in one jurisdiction.

إنفاذ القانون يعمل في ولاية قضائية واحدة.

Companies look at just their platform.

والشركات تنظر إلى منصاتها فقط.

And whatever data they learn along the way

وأياً كانت البيانات التي يتلقونها

is rarely shared.

نادراً ما يشاركونها.

It is so clear that this disconnected approach is not working.

من الواضح أن هذا النهج الانعزالي لا يعمل.

We have to redesign our response to this epidemic

علينا أن نعيد تصميم استجابتنا لهذا الوباء

for the digital age.

في العصر الرقمي.

And that's exactly what we're doing at Thorn.

وهذا هو ما نفعله في ثورن Thorn.

We're building the technology to connect these dots,

حيث نبني التقنية التي ستصل هذه النقاط ببعضها،

to arm everyone on the front lines --

لتسليح كل من هم في المواجهة --

law enforcement, NGOs and companies --

من قوات إنفاذ القانون والمنظمات غير الحكومية والشركات..

with the tools they need to ultimately eliminate

بالأدوات التي يحتاجون إليها ليمنعوا تمامًا

child sexual abuse material from the internet.

مواد الاعتداء الجنسي على الأطفال من الإنترنت.

Let's talk for a minute --

لنتحدث لدقيقة...

(Applause)

(تصفيق)

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)

Let's talk for a minute about what those dots are.

لنتحدث لدقيقة عن ماهية هذه النقاط.

As you can imagine, this content is horrific.

كما يمكنكم أن تتخيلو، هذا المُحتوى مُروع.

If you don't have to look at it, you don't want to look at it.

إن لم تكن مضطرًا لرؤيته فلن تود ذلك.

And so, most companies or law enforcement agencies

لذلك، معظم الشركات أو وكالات إنفاذ القانون

that have this content

الذين يملكون هذا المُحتوى

can translate every file into a unique string of numbers.

يمكنهم ترجمة كل ملف إلى تسلسل فريد من الأرقام.

This is called a "hash."

يُدعى ذلك "التجزئة".

It's essentially a fingerprint

وهي بالأساس بصمة فريدة

for each file or each video.

لكل ملف أو فيديو.

And what this allows them to do is use the information in investigations

ويسمح هذا لهم باستخدام المعلومات في التحقيق

or for a company to remove the content from their platform,

أو يسمح للشركات بمحو المحتوى من منصاتهم،

without having to relook at every image and every video each time.

دون الحاجة إلى رؤية كل صورة وفيديو في كل مرة.

The problem today, though,

وعلى الرغم من ذلك، فالمشكلة حاليًا،

is that there are hundreds of millions of these hashes

هي وجود المئات أو الملايين من هذه التجزئات

sitting in siloed databases all around the world.

موجودة في قواعد بيانات مخزنة في كل بقاع الأرض.

In a silo,

في صوامع،

it might work for the one agency that has control over it,

قد تعمل لصالح وكالة واحدة لديها السيطرة عليها جميعاً،

but not connecting this data means we don't know how many are unique.

ولكن عدم ربط هذه البيانات يعني أننا لا نعرف عدد الفريدة منها.

We don't know which ones represent children who have already been rescued

نحن لا نعلم كم منها تُمثل أطفالاً تم إنقاذهم بالفعل

or need to be identified still.

أو لازال الطفل بحاجة إلى تعريف.

So our first, most basic premise is that all of this data

لذلك الفرضية الأساسية والأولى لدينا هي أن جميع هذه البيانات

must be connected.

لابد أن تكون مترابطة.

There are two ways where this data, combined with software on a global scale,

هناك طريقتان حيث تترابط هذه البيانات مع برنامج عالمي،

can have transformative impact in this space.

من الممكن أن يكون له أثر تحويلي في هذا الفضاء.

The first is with law enforcement:

الأول مع قوات تطبيق القانون:

helping them identify new victims faster,

حيث يساعدهم في التعرف على الضحايا بشكل أسرع،

stopping abuse

وإيقاف سوء المعاملة

and stopping those producing this content.

وإيقاف إنتاج هذا المحتوى.

The second is with companies:

الثاني مع الشركات:

using it as clues to identify the hundreds of millions of files

يتم استخدامه كدليل لتحديد مئات الملايين من الملفات

in circulation today,

المتداولة اليوم،

pulling it down

سحبها

and then stopping the upload of new material before it ever goes viral.

ومن ثم إيقاف تحميل مواد جديدة قبل أن تنتشر.

Four years ago,

من أربع سنوات مضت،

when that case ended,

عنما انتهت تلك القضية،

our team sat there, and we just felt this, um ...

مكث فريقنا هناك، وشعرنا فقط بـ...

... deep sense of failure, is the way I can put it,

كيف يمكنني وصف أحاسيسنا، شعور عميق بالفشل إن أمكنني القول،

because we watched that whole year

لأننا شاهدنا ذلك العام بأكمله

while they looked for her.

في حين كانوا يبحثون عنها.

And we saw every place in the investigation

ورأينا جميع الأماكن في التحقيق

where, if the technology would have existed,

حيث لو تواجدت التكنولوجيا،

they would have found her faster.

لوجدوها بشكل أسرع.

And so we walked away from that

وهكذا ابتعدنا عن ذلك

and we went and we did the only thing we knew how to do:

وقمنا بفعل الشيء الوحيد الذي عرفنا فعله:

we began to build software.

بدأنا في بناء برنامج.

So we've started with law enforcement.

لذلك بدأنا مع تطبيق القانون.

Our dream was an alarm bell on the desks of officers all around the world

كان حلمنا جرس إنذار على مكاتب الضباط في جميع أنحاء العالم

so that if anyone dare post a new victim online,

بحيث إن تجرأ شخص آخر على وضع ضحية جديدة على الإنترنت،

someone would start looking for them immediately.

سيبدأ شخص ما بالبحث عنها على الفور.

I obviously can't talk about the details of that software,

من الواضح أنني لا أستطيع التحدث عن تفاصيل هذا البرنامج،

but today it's at work in 38 countries,

لكنه اليوم يعمل في 38 دولة،

having reduced the time it takes to get to a child

قام بتقليص الوقت الذي يستغرقه للوصول إلى الطفل

by more than 65 percent.

بأكثر من 65%.

(Applause)

(تصفيق)

And now we're embarking on that second horizon:

ونحن الآن نبدأ في ذلك الأفق الثاني:

building the software to help companies identify and remove this content.

بناء برنامج يساعد الشركات للتعرف وإزالة هذا المحتوى.

Let's talk for a minute about these companies.

دعونا نتحدث لدقيقة عن هذه الشركات.

So, I told you -- 45 million images and videos in the US alone last year.

أخبرتكم، يوجد 45 مليون صورة وفيديو في الولايات المتحدة العام الماضي فقط.

Those come from just 12 companies.

من 12 شركة فقط.

Twelve companies, 45 million files of child sexual abuse material.

12 شركة، 45 مليون ملفًا من مواد الاعتداء الجنسي على الأطفال.

These come from those companies that have the money

يأتون من هذه الشركات التي تملك المال

to build the infrastructure that it takes to pull this content down.

لبناء قاعدة لسحب هذا المحتوى.

But there are hundreds of other companies,

لكن يوجد مئات من الشركات الأخرى،

small- to medium-size companies around the world,

شركات صغيرة لمتوسطة حول العالم،

that need to do this work,

التي تحتاج لعمل هذا،

but they either: 1) can't imagine that their platform would be used for abuse,

لكنهم إما: 1- لا يتخيلون استخدام منصتهم للعنف،

or 2) don't have the money to spend on something that is not driving revenue.

أو 2- لا يملكون المال لتوفيره في شيء لا يؤدي لزيادة الإيرادات.

So we went ahead and built it for them,

لذلك قمنا ببناء ذلك لهم،

and this system now gets smarter with the more companies that participate.

وأصبح هذا النظام الآن أذكى بمشاركة شركات أكثر.

Let me give you an example.

سأعطيكم مثالًا.

Our first partner, Imgur -- if you haven't heard of this company,

شريكنا الأول، إميجور -- إذا لم تكن سمعت عنها،

it's one of the most visited websites in the US --

أكثر المواقع الإلكترونية التي يتم زيارتها في الولايات المتحدة --

millions of pieces of user-generated content uploaded every single day,

يُرفع عليها ملايين من المحتوى الناتج عن المستخدمين كل يوم،

in a mission to make the internet a more fun place.

هدفه جعل الإنترنت مكانًا للمرح أكثر.

They partnered with us first.

عقدوا شراكة معنا أولاً.

Within 20 minutes of going live on our system,

في خلال عشرون دقيقة للبث المباشر على نظامنا،

someone tried to upload a known piece of abuse material.

حاول شخص ما رفع قطعة معروفة من المواد المسيئة.

They were able to stop it, they pull it down,

كانوا قادرين على وقفه، قاموا بسحبه،

they report it to the National Center for Missing and Exploited Children.

قاموا بتبليغ المركز الوطني للأطفال المفقودين والمستغلين.

But they went a step further,

لكنهم ذهبوا إلى أبعد من ذلك،

and they went and inspected the account of the person who had uploaded it.

قاموا بفحص حساب الشخص الذي قام برفع هذا المحتوى.

Hundreds more pieces of child sexual abuse material

مئات أخرى من القطع الخاصة بمواد الإساءة الجنسية للأطفال

that we had never seen.

لم نعد نراها.

And this is where we start to see exponential impact.

وهنا حيث بدأنا نرى تأثيرًا متسارعًا.

We pull that material down,

نقوم بسحب هذه المادة،

it gets reported to the National Center for Missing and Exploited Children

التي يتم التبليغ عنها للمركز الوطني للأطفال المفقودين والمستغلين

and then those hashes go back into the system

وتعود هذه التجزئات إلى النظام

and benefit every other company on it.

وتستفيد منها الشركات الأخرى.

And when the millions of hashes we have lead to millions more and, in real time,

وتقود هذه الملايين من التجزئات التي لدينا إلى ملايين أخرى وفي الوقت الحقيقي،

companies around the world are identifying and pulling this content down,

تتعرف عليها شركات حول العالم وتقوم بسحب المحتوى،

we will have dramatically increased the speed at which we are removing

سيكون لدينا زيادة كبيرة للسرعة التي نزيل بها

child sexual abuse material from the internet around the world.

المواد الجنسية المسيئة للأطفال من الإنترنت حول العالم.

(Applause)

(تصفيق)

But this is why it can't just be about software and data,

لكن هذا سبب أنه لا يمكن أن يكون عن برامج أو بيانات فقط،

it has to be about scale.

يجب أن يكون حول المدى.

We have to activate thousands of officers,

يجب علينا تشغيل آلاف من الموظفين،

hundreds of companies around the world

مئات من الشركات حول العالم

if technology will allow us to outrun the perpetrators

إذا كانت التكنولوجيا ستسمح لنا بالتفوق على الجناة

and dismantle the communities that are normalizing child sexual abuse

وتفكيك المجتمعات التي تُطبع الاعتداء الجنسي على الأطفال

around the world today.

حول العالم الآن.

And the time to do this is now.

والوقت لفعل هذا الآن.

We can no longer say we don't know the impact this is having on our children.

لا نستطيع قول أننا لا نعلم تأثير هذا على أطفالنا.

The first generation of children whose abuse has gone viral

الجيل الأول من الأطفال الذين تمت الإساءة لهم بصورة واسعة

are now young adults.

صاروا بالغين الآن.

The Canadian Centre for Child Protection

قام المركز الكندي لحماية الأطفال

just did a recent study of these young adults

بعمل دراسة حديثة على هؤلاء البالغين

to understand the unique trauma they try to recover from,

لفهم الصدمات التي يحاولون التعافي منها،

knowing that their abuse lives on.

بمعرفة سوء المعاملة الذي يتعرضون له.

Eighty percent of these young adults have thought about suicide.

فكر %80 من هؤلاء البالغين بالانتحار.

More than 60 percent have attempted suicide.

حاول أكثر من 80% الانتحار.

And most of them live with the fear every single day

ويعيش معظمهم في خوف كل يوم

that as they walk down the street or they interview for a job

عندما يسيرون في الشارع أو يذهبون لمقابلة عمل

or they go to school

أو يذهبون إلى المدرسة

or they meet someone online,

أو يقابلون شخصًا على الإنترنت،

that that person has seen their abuse.

وقد شاهد ذلك الشخص الإساءة لهم.

And the reality came true for more than 30 percent of them.

والواقع أصبح حقيقة لأكثر من 30% منهم.

They had been recognized from their abuse material online.

تم التعرف عليهم من مواد الإساءة على الإنترنت.

This is not going to be easy,

هذا لن يكون سهلًا،

but it is not impossible.

لكنه غير مستحيل.

Now it's going to take the will,

سيكون هناك إرادة،

the will of our society

إرادة مجتمعنا

to look at something that is really hard to look at,

للنظر إلى شيء صعب النظر إليه،

to take something out of the darkness

لأخذ شيء خارج الظلام

so these kids have a voice;

ليكون لدى الأطفال صوتًا؛

the will of companies to take action and make sure that their platforms

إرادة الشركات لأخذ موقف والتأكد من أن منصاتها

are not complicit in the abuse of a child;

غير متواطئة للإساءة للطفل؛

the will of governments to invest with their law enforcement

إرادة الحكومة للاستثمار لتنفيذ القانون

for the tools they need to investigate a digital first crime,

للأدوات التي يحتاجونها للتحقيق في أول جريمة رقمية،

even when the victims cannot speak for themselves.

حتى لو لم يستطع الضحايا التكلم بأنفسهم.

This audacious commitment is part of that will.

وهذا الالتزام الجريء جزء من هذه الإرادة.

It's a declaration of war against one of humanity's darkest evils.

إنه إعلان حرب ضد واحدة من أحلك شرور البشرية.

But what I hang on to

ولكن ما تشبثت به

is that it's actually an investment in a future

أنه في الواقع استثمار في المستقبل

where every child can simply be a kid.

حيث يمكن لكل طفل أن يكون مجرد طفل.

Thank you.

شكراً لكم.

(Applause)

(تصفيق)