How we can eliminate child sexual abuse material from the internet | Julie Cordua

Переводчик: Ksenija Kirilova Редактор: Natalia Ost

[This talk contains mature content]

[Данное выступление не рекомендуется к просмотру лицам, не достигшим 18 лет]

Five years ago,

Пять лет назад

I received a phone call that would change my life.

я получила звонок, изменивший мою жизнь.

I remember so vividly that day.

Я ясно помню тот день.

It was about this time of year,

Как раз в это время года,

and I was sitting in my office.

я была у себя в офисе.

I remember the sun streaming through the window.

Помню, что за окном светило солнце.

And my phone rang.

И тут зазвонил телефон.

And I picked it up,

Я подняла трубку.

and it was two federal agents, asking for my help

Агенты ФБР просили опознать девочку,

in identifying a little girl

одну из сотни, использованных в съёмке

featured in hundreds of child sexual abuse images they had found online.

детского порно, опубликованного в интернете.

They had just started working the case,

Начав расследование, они уже знали,

but what they knew

что видео, где её насиловали,

was that her abuse had been broadcast to the world for years

годами транслировалось миру в даркнете,

on dark web sites dedicated to the sexual abuse of children.

на сайтах, посвящённых детскому порно.

And her abuser was incredibly technologically sophisticated:

Её насильник был технически подкован:

new images and new videos every few weeks,

контент появлялся раз в несколько недель,

but very few clues as to who she was

было мало зацепок касательно того, кто она

or where she was.

и где она.

And so they called us,

Они обратились к нам,

because they had heard we were a new nonprofit

потому что слышали о нашей технологии,

building technology to fight child sexual abuse.

помогающей бороться с насилием над детьми.

But we were only two years old,

Но мы работали всего два года,

and we had only worked on child sex trafficking.

боролись с продажей детей в секс-рабство.

And I had to tell them

И мне надо было сказать им,

we had nothing.

что нам нечем им помочь.

We had nothing that could help them stop this abuse.

Мы не можем остановить насилие.

It took those agents another year

Агентам потребовался год,

to ultimately find that child.

чтобы найти этого ребёнка.

And by the time she was rescued,

К тому времени, сотни видео и фото,

hundreds of images and videos documenting her rape had gone viral,

на которых её насилуют, стали вирусными.

from the dark web

Из даркнета они попали

to peer-to-peer networks, private chat rooms

в одноранговые сети, закрытые чаты

and to the websites you and I use

и на сайты, которые мы с вами

every single day.

используем каждый день.

And today, as she struggles to recover,

По сей день, пытаясь восстановиться,

she lives with the fact that thousands around the world

она знает, что тысячи людей по всему миру

continue to watch her abuse.

продолжают смотреть те видео.

I have come to learn in the last five years

За последние пять лет я убедилась,

that this case is far from unique.

что этот случай не единственный.

How did we get here as a society?

Как мы, общество, скатились до такого?

In the late 1980s, child pornography --

В конце 80-х годов детское порно,

or what it actually is, child sexual abuse material --

а в сущности материалы, на которых зафиксировано насилие над детьми,

was nearly eliminated.

было практически ликвидировано.

New laws and increased prosecutions made it simply too risky

Новые законы и ужесточение наказания

сделали слишком рискованной продажу таких материалов по почте.

to trade it through the mail.

And then came the internet, and the market exploded.

После появления интернета рынок взорвался.

The amount of content in circulation today

Огромное количество контента,

is massive and growing.

который есть в обороте, только растёт.

This is a truly global problem,

Это поистине глобальная проблема.

but if we just look at the US:

Только в США за последний год

in the US alone last year,

более 45 миллионов изображений

more than 45 million images and videos of child sexual abuse material

и видео детского порно поступило

were reported to the National Center for Missing and Exploited Children,

в центр поиска эксплуатируемых детей.

and that is nearly double the amount the year prior.

Это в два раза больше, чем в прошлом году.

And the details behind these numbers are hard to contemplate,

За этими числами трудно увидеть главное —

with more than 60 percent of the images featuring children younger than 12,

на 60% фото — дети до 12 лет,

and most of them including extreme acts of sexual violence.

и это жестокие акты сексуального насилия.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

В таких чатах подбадривают насильников,

where they gain rank and notoriety

которые с каждой новой жертвой

with more abuse and more victims.

получают больше званий и славы.

In this market,

Валютой на таком рынке

the currency has become the content itself.

становится сам контент.

It's clear that abusers have been quick to leverage new technologies,

Насильники осваивают новые технологии,

but our response as a society has not.

чего нельзя сказать о нашем обществе.

These abusers don't read user agreements of websites,

Насильники не читают лицензии,

and the content doesn't honor geographic boundaries.

а у контента нет географических границ.

And they win when we look at one piece of the puzzle at a time,

Они впереди нас, в то время как мы сосредоточены на чём-то одном.

which is exactly how our response today is designed.

И эта вся наша ответная реакция.

Law enforcement works in one jurisdiction.

У органов правопорядка своя юрисдикция.

Companies look at just their platform.

Компании смотрят только на свою платформу.

And whatever data they learn along the way

Любые данные, которые они получают,

is rarely shared.

не распространяются.

It is so clear that this disconnected approach is not working.

Очевидно же, что такой подход не работает.

We have to redesign our response to this epidemic

Надо изменить подход к борьбе

с этой эпидемией цифровой эры.

for the digital age.

And that's exactly what we're doing at Thorn.

Над этим мы работаем у себя в Thorn.

We're building the technology to connect these dots,

Создаём технологию, соединяющую точки,

to arm everyone on the front lines --

вооружающую всех на передовой позиции —

law enforcement, NGOs and companies --

органы правопорядка, общественные организации, компании —

with the tools they need to ultimately eliminate

необходимыми инструментами для того,

чтобы покончить с детским порно.

child sexual abuse material from the internet.

Let's talk for a minute --

Давайте немного поговорим.

(Applause)

(Аплодисменты)

Thank you.

Спасибо.

(Applause)

(Аплодисменты)

Let's talk for a minute about what those dots are.

Давайте поговорим о том, что это за точки.

As you can imagine, this content is horrific.

Как вы понимаете, этот контент ужасен.

If you don't have to look at it, you don't want to look at it.

Без необходимости его не смотрят.

And so, most companies or law enforcement agencies

Многие компании или органы правопорядка,

that have this content

имеющие такой контент,

can translate every file into a unique string of numbers.

конвертируют каждый файл в уникальный код,

This is called a "hash."

который называется хеш-кодом.

It's essentially a fingerprint

Это как отпечаток пальца

for each file or each video.

для каждого фото и видео,

And what this allows them to do is use the information in investigations

который помогает в расследованиях

or for a company to remove the content from their platform,

или удалении такого контента с платформы

without having to relook at every image and every video each time.

без необходимости смотреть материал.

The problem today, though,

Проблема заключается в том,

is that there are hundreds of millions of these hashes

что миллионы таких хеш-кодов существуют

sitting in siloed databases all around the world.

в закрытых базах данных по всему миру.

In a silo,

Одно агенство

it might work for the one agency that has control over it,

с доступом к хранилищу, может работать,

but not connecting this data means we don't know how many are unique.

но неизвестно, какие коды уникальны.

We don't know which ones represent children who have already been rescued

Неизвестно, какие дети нуждаются в помощи,

or need to be identified still.

а какие — уже спасены.

So our first, most basic premise is that all of this data

Наше предложение заключается в том,

что все эти данные должны быть связаны.

must be connected.

There are two ways where this data, combined with software on a global scale,

Есть два способа, как эти данные, в сочетании с программным обеспечением

can have transformative impact in this space.

могут повлиять на интернет.

The first is with law enforcement:

Первый — сотрудничество с органами правопорядка.

helping them identify new victims faster,

Помогать им быстрее опознавать новых жертв,

stopping abuse

пресекать насилие,

and stopping those producing this content.

препятствовать созданию такого контента.

The second is with companies:

Второй — сотрудничать с компаниями,

using it as clues to identify the hundreds of millions of files

используя ключ для идентификации файлов,

in circulation today,

которые распространяются сегодня,

pulling it down

удалять,

and then stopping the upload of new material before it ever goes viral.

останавливать загрузку новых материалов то того, как они станут вирусными.

Four years ago,

Четыре года назад,

when that case ended,

когда дело раскрыли,

our team sat there, and we just felt this, um ...

наша команда была там,

... deep sense of failure, is the way I can put it,

мы знали, что проиграли,

because we watched that whole year

потому что весь год наблюдали за тем,

while they looked for her.

как её искали.

And we saw every place in the investigation

Мы понимали,

where, if the technology would have existed,

что, если бы технология существовала,

they would have found her faster.

они бы нашли её быстрее.

And so we walked away from that

И поэтому мы сделали то,

and we went and we did the only thing we knew how to do:

что считали единственным верным решением —

we began to build software.

начали создавать программное обеспечение.

So we've started with law enforcement.

Мы начали с правоохранительных органов.

Our dream was an alarm bell on the desks of officers all around the world

Хотели создать сигнал для полиции во всём мире,

so that if anyone dare post a new victim online,

чтобы при опубликовании поста с жертвой,

someone would start looking for them immediately.

её начали немедленно искать.

I obviously can't talk about the details of that software,

Я не могу говорить о деталях ПО,

but today it's at work in 38 countries,

но оно работает в 38 странах,

having reduced the time it takes to get to a child

и помогает сократить время поисков ребёнка

by more than 65 percent.

на 65 процентов.

(Applause)

(Аплодисменты)

And now we're embarking on that second horizon:

Наша новая задача — создать ПО,

building the software to help companies identify and remove this content.

чтобы помочь компаниям определять и удалять такой контент.

Let's talk for a minute about these companies.

Давайте поговорим о таких компаниях.

So, I told you -- 45 million images and videos in the US alone last year.

Как я уже говорила, только в США за прошлый год

было зафиксировано 45 миллионов фото и видео.

Those come from just 12 companies.

Эти материалы принадлежат лишь 12 компаниям.

Twelve companies, 45 million files of child sexual abuse material.

12 компаний, 45 миллионов файлов детского порно.

These come from those companies that have the money

И это те компании, у которых есть деньги

to build the infrastructure that it takes to pull this content down.

на программы, удаляющие такой контент.

But there are hundreds of other companies,

Но существуют сотни других компаний —

small- to medium-size companies around the world,

от маленьких до средних по всему миру,

that need to do this work,

but they either: 1) can't imagine that their platform would be used for abuse,

но они либо не знают, что их платформы

используют для распространения порно,

or 2) don't have the money to spend on something that is not driving revenue.

либо не тратят на это деньги, поскольку это не приносит прибыль.

So we went ahead and built it for them,

Мы создали ПО для них,

and this system now gets smarter with the more companies that participate.

и теперь система «умнеет» с количеством компаний-участников.

Let me give you an example.

Например,

Our first partner, Imgur -- if you haven't heard of this company,

наш первый клиент — компания Imgur,

it's one of the most visited websites in the US --

один из самых популярных сайтов в США,

millions of pieces of user-generated content uploaded every single day,

куда каждый день загружаются тонны контента,

in a mission to make the internet a more fun place.

чтобы сделать интернет веселее.

They partnered with us first.

Они первыми стали сотрудничать с нами.

Within 20 minutes of going live on our system,

За 20 минут использования нашей системы,

someone tried to upload a known piece of abuse material.

кто-то хотел загрузить файл, имеющийся в базе.

They were able to stop it, they pull it down,

Они смогли пресечь загрузку материала

they report it to the National Center for Missing and Exploited Children.

и сообщить в центр поиска эксплуатируемых детей.

But they went a step further,

Они пошли дальше

and they went and inspected the account of the person who had uploaded it.

и проверили аккаунт того человека.

Hundreds more pieces of child sexual abuse material

И там они обнаружили множество новых материалов

that we had never seen.

с сексуальным насилием над детьми.

And this is where we start to see exponential impact.

И вот тут мы видим эффект.

We pull that material down,

Мы изъяли этот материал,

it gets reported to the National Center for Missing and Exploited Children

передали его в центр поиска эксплуатируемых детей,

and then those hashes go back into the system

и все эти хеш-коды попали в систему

and benefit every other company on it.

и принесли пользу другим компаниям.

And when the millions of hashes we have lead to millions more and, in real time,

Пока хеш-коды приводят к другим

companies around the world are identifying and pulling this content down,

в реальном времени, помогая компаниям,

we will have dramatically increased the speed at which we are removing

мы увеличиваем скорость удаления материалов,

child sexual abuse material from the internet around the world.

содержащих сексуальное насилие над детьми.

(Applause)

(Аплодисменты)

But this is why it can't just be about software and data,

Именно поэтому дело здесь не только в программном обеспечении и данных,

it has to be about scale.

но главным образом в масштабах охвата.

We have to activate thousands of officers,

Мы должны привлечь тысячи полицейских,

hundreds of companies around the world

сотни компаний по всему миру,

if technology will allow us to outrun the perpetrators

если технологии позволят нам обойти преступников

and dismantle the communities that are normalizing child sexual abuse

и ликвидировать те сообщества по всему миру,

где насилие над детьми — норма.

around the world today.

And the time to do this is now.

И это надо делать сейчас.

We can no longer say we don't know the impact this is having on our children.

Потому что мы знаем, как это влияет на наших детей.

The first generation of children whose abuse has gone viral

Дети, чьи порно видео стали вирусными,

are now young adults.

сейчас — молодые люди.

The Canadian Centre for Child Protection

Канадский центр защиты детей провёл исследование,

just did a recent study of these young adults

в котором участвовали эти молодые люди,

to understand the unique trauma they try to recover from,

чтобы понять, как они пытаются оправиться от травмы,

knowing that their abuse lives on.

зная, что их изнасилование есть в сети.

Eighty percent of these young adults have thought about suicide.

80% этих молодых людей думали о самоубийстве.

More than 60 percent have attempted suicide.

Более 60% пытались покончить с собой.

And most of them live with the fear every single day

Многие из них каждый день живут в страхе,

that as they walk down the street or they interview for a job

что на улице, или на собеседовании,

or they go to school

или по пути в школу,

or they meet someone online,

или при общении в интернете,

that that person has seen their abuse.

они встречают тех, кто мог видеть материалы с насилием над ними.

And the reality came true for more than 30 percent of them.

И в 30% случаев они правы.

They had been recognized from their abuse material online.

Их узнавали из-за тех материалов.

This is not going to be easy,

Это нелегко,

but it is not impossible.

но возможно.

Now it's going to take the will,

Теперь всё зависит от желания,

the will of our society

желания общества

to look at something that is really hard to look at,

взглянуть в глаза страху,

to take something out of the darkness

извлечь что-то из темноты на свет,

so these kids have a voice;

чтобы у этих детей было право голоса.

the will of companies to take action and make sure that their platforms

Нужно желание компаний знать, что их платформы

are not complicit in the abuse of a child;

не связаны с насилием над детьми.

the will of governments to invest with their law enforcement

Желание государств инвестировать в органы правопорядка,

for the tools they need to investigate a digital first crime,

для расследования преступлений в интернете,

even when the victims cannot speak for themselves.

даже если жертва не рассказывает об этом.

This audacious commitment is part of that will.

Эта решимость — часть этого желания.

It's a declaration of war against one of humanity's darkest evils.

Это объявление войны человеческому злу.

But what I hang on to

Я цепляюсь за мысль,

is that it's actually an investment in a future

что всё это — вклад в будущее,

where every child can simply be a kid.

где ребёнок — это просто ребёнок.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)