How you can help transform the internet into a place of trust | Claire Wardle

Переводчик: Yulia Alexeychuk Редактор: Yulia Kallistratova

No matter who you are or where you live,

Неважно, кто вы и где вы живёте,

I'm guessing that you have at least one relative

я думаю, что у вас есть хотя бы один родственник,

that likes to forward those emails.

который любит рассылать те самые сообщения.

You know the ones I'm talking about --

Вы понимаете, какие я имею в виду —

the ones with dubious claims or conspiracy videos.

те самые со спорными заявлениями и видео о теориях заговора.

And you've probably already muted them on Facebook

И, возможно, вы уже скрыли их публикации в Facebook

for sharing social posts like this one.

из-за постов, которыми они делятся.

It's an image of a banana

Здесь изображён банан,

with a strange red cross running through the center.

в центре которого странное красное пятно.

And the text around it is warning people

И текст над ним предупреждает людей,

not to eat fruits that look like this,

чтобы они не ели подобного рода фрукты,

suggesting they've been injected with blood

предполагая, что в них впрыснули кровь,

contaminated with the HIV virus.

заражённую ВИЧ-инфекцией.

And the social share message above it simply says,

И сверху в репосте просто написано:

"Please forward to save lives."

«Разошлите всем, чтобы спасти жизни».

Now, fact-checkers have been debunking this one for years,

Фактчекеры развенчивают этот слух уже годами,

but it's one of those rumors that just won't die.

но он из тех, что просто так не забываются.

A zombie rumor.

Зомби-слух.

And, of course, it's entirely false.

И, конечно же, он совершенно ложный.

It might be tempting to laugh at an example like this, to say,

И, может быть, сложно не засмеяться над подобным примером:

"Well, who would believe this, anyway?"

«Ну кто в такое поверит?»

But the reason it's a zombie rumor

Но слух этот зомбирует потому,

is because it taps into people's deepest fears about their own safety

что пробуждает самые потаённые страхи людей за свою безопасность

and that of the people they love.

и безопасность тех, кого они любят.

And if you spend as enough time as I have looking at misinformation,

А если вы прочитаете так же много ложной информации, как и я,

you know that this is just one example of many

вы увидите, что это лишь один пример из многих,

that taps into people's deepest fears and vulnerabilities.

что пробуждают самые потаённые страхи и слабости людей.

Every day, across the world, we see scores of new memes on Instagram

Каждый день по всему миру публикуются всё новые и новые посты в Instagram,

encouraging parents not to vaccinate their children.

которые призывают родителей не делать прививки своим детям.

We see new videos on YouTube explaining that climate change is a hoax.

А в новых видео на Youtube объясняют, что изменения климата — это «утка».

And across all platforms, we see endless posts designed to demonize others

И на всех платформах мы видим бесконечные посты, оскорбляющие других

on the basis of their race, religion or sexuality.

по признаку их расы, религии или сексуальной ориентации.

Welcome to one of the central challenges of our time.

Представляю вам одну из ключевых задач нашего времени.

How can we maintain an internet with freedom of expression at the core,

Как мы можем сохранить в основе интернета свободу слова

while also ensuring that the content that's being disseminated

и при этом сделать так, чтобы распространяемый контент

doesn't cause irreparable harms to our democracies, our communities

не причинял непоправимый вред нашей демократии, нашему обществу

and to our physical and mental well-being?

и нашему физическому и душевному благополучию?

Because we live in the information age,

Поскольку мы живём в век информации,

yet the central currency upon which we all depend -- information --

основная валюта, от которой все мы зависим, — информация —

is no longer deemed entirely trustworthy

больше не считается в полной мере надёжной,

and, at times, can appear downright dangerous.

а порой она может быть просто опасной.

This is thanks in part to the runaway growth of social sharing platforms

Отчасти это благодаря стремительному росту обмена в соцсетях,

that allow us to scroll through,

который позволяет нам пролистывать

where lies and facts sit side by side,

ленту, где ложь и правда стоят бок о бок,

but with none of the traditional signals of trustworthiness.

без единого привычного признака надёжности.

And goodness -- our language around this is horribly muddled.

И о боже — наш язык в этой теме ужасно запутан.

People are still obsessed with the phrase "fake news,"

Люди одержимы этой фразой «фейковые новости»,

despite the fact that it's extraordinarily unhelpful

несмотря на то, что она абсолютно бесполезная

and used to describe a number of things that are actually very different:

и обозначает несколько понятий, которые на самом деле сильно различаются:

lies, rumors, hoaxes, conspiracies, propaganda.

ложь, слухи, «утки», заговоры, пропаганда.

And I really wish we could stop using a phrase

И я бы хотела, чтобы мы перестали использовать фразу,

that's been co-opted by politicians right around the world,

которую применяют политики по всему миру,

from the left and the right,

от левых до правых,

used as a weapon to attack a free and independent press.

в качестве оружия против свободной и независимой прессы.

(Applause)

(Аплодисменты)

Because we need our professional news media now more than ever.

Ведь сейчас мы нуждаемся в наших профессиональных СМИ как никогда.

And besides, most of this content doesn't even masquerade as news.

И кроме того, бóльшую часть контента не маскируют под новости.

It's memes, videos, social posts.

Это мемы, видео, посты.

And most of it is not fake; it's misleading.

И бóльшая часть из них не фейк; они просто вводят нас в заблуждение.

We tend to fixate on what's true or false.

Мы привыкли заострять внимание на том, что верно или неверно.

But the biggest concern is actually the weaponization of context.

Но самая большая проблема — это применение контекста в качестве оружия.

Because the most effective disinformation

Потому что самой эффективной

has always been that which has a kernel of truth to it.

дезинформацией всегда была та, в которой есть доля правды.

Let's take this example from London, from March 2017,

Возьмём вот этот пример из Лондона, март 2017 года,

a tweet that circulated widely

твит, широко распространённый

in the aftermath of a terrorist incident on Westminster Bridge.

вследствие теракта на Вестминстерском мосту.

This is a genuine image, not fake.

Это настоящая фотография, не фейк.

The woman who appears in the photograph was interviewed afterwards,

Потом у женщины с этой фотографии взяли интервью,

and she explained that she was utterly traumatized.

и она объяснила, что была глубоко шокирована.

She was on the phone to a loved one,

По телефону она говорила с близкими

and she wasn't looking at the victim out of respect.

и не смотрела на жертву из уважения.

But it still was circulated widely with this Islamophobic framing,

Но этот твит по-прежнему распространяли в исламофобском ключе

with multiple hashtags, including: #BanIslam.

с множеством хэштегов, включая #BanIslam («Запретить ислам»).

Now, if you worked at Twitter, what would you do?

Если бы вы работали в Твиттере, что бы вы сделали?

Would you take that down, or would you leave it up?

Вы бы его удалили или оставили?

My gut reaction, my emotional reaction, is to take this down.

Моей инстинктивной, эмоциональной реакцией было бы удалить это.

I hate the framing of this image.

Я против того, в каком ключе это представлено.

But freedom of expression is a human right,

Но свобода слова — это право человека,

and if we start taking down speech that makes us feel uncomfortable,

и если мы начнём удалять высказывания, от которых нам некомфортно,

we're in trouble.

то мы окажемся в беде.

And this might look like a clear-cut case,

И этот случай может показаться очевидным,

but, actually, most speech isn't.

но чаще всего это не так.

These lines are incredibly difficult to draw.

И границы невероятно сложно провести.

What's a well-meaning decision by one person

То, что для одного человека решение во благо,

is outright censorship to the next.

для другого — явная цензура.

What we now know is that this account, Texas Lone Star,

Мы знаем, что аккаунт Texas Lone Star

was part of a wider Russian disinformation campaign,

был частью более широкой российской кампании по дезинформации,

one that has since been taken down.

который после этого был удалён.

Would that change your view?

Изменило бы это ваш взгляд?

It would mine,

Мой бы изменило,

because now it's a case of a coordinated campaign

потому что теперь это случай намеренной кампании

to sow discord.

с целью сеять распри.

And for those of you who'd like to think

А те из вас, кому хотелось бы думать,

that artificial intelligence will solve all of our problems,

что искусственный интеллект решит все наши проблемы,

I think we can agree that we're a long way away

думаю, вы согласитесь, что нам ещё далеко

from AI that's able to make sense of posts like this.

до ИИ, который бы смог осмыслить подобные посты.

So I'd like to explain three interlocking issues

Я хотела бы объяснить три взаимосвязанных аспекта,

that make this so complex

которые всё это сильно усложняют,

and then think about some ways we can consider these challenges.

и затем поразмышлять о том, как мы можем эти задачи решить.

First, we just don't have a rational relationship to information,

Во-первых, у нас нет рациональных взаимоотношений с информацией,

we have an emotional one.

а есть лишь эмоциональные.

It's just not true that more facts will make everything OK,

И большее количество фактов ситуацию не улучшит,

because the algorithms that determine what content we see,

ведь алгоритмы, которые определяют контент в нашей ленте, —

well, they're designed to reward our emotional responses.

что ж, они призваны поощрять наши эмоциональные порывы.

And when we're fearful,

А когда мы напуганы,

oversimplified narratives, conspiratorial explanations

поверхностная информация, объяснения заговоров

and language that demonizes others is far more effective.

и уничижающие других слова более чем эффективны.

And besides, many of these companies,

Кроме того, у многих из этих компаний

their business model is attached to attention,

бизнес-модель связана с вниманием,

which means these algorithms will always be skewed towards emotion.

что означает: эти алгоритмы всегда будут склоняться в сторону эмоций.

Second, most of the speech I'm talking about here is legal.

Во-вторых, бóльшая часть высказываний, о которых я говорю, законны.

It would be a different matter

И было бы совсем другое дело,

if I was talking about child sexual abuse imagery

если бы я говорила о растлении детей

or content that incites violence.

или о контенте, провоцирующем насилие.

It can be perfectly legal to post an outright lie.

Публиковать откровенную ложь может быть совершенно законно.

But people keep talking about taking down "problematic" or "harmful" content,

Но люди продолжают говорить об удалении «проблемного» или «вредоносного» контента,

but with no clear definition of what they mean by that,

причём не давая чёткого определения тому, о чём говорят,

including Mark Zuckerberg,

включая Марка Цукерберга,

who recently called for global regulation to moderate speech.

который недавно призывал разработать единые правила регулирования сети.

And my concern is that we're seeing governments

И я обеспокоена тем, что у нас на глазах

right around the world

государства по всему миру

rolling out hasty policy decisions

принимают поспешные политические решения,

that might actually trigger much more serious consequences

которые могут повлечь намного более серьёзные последствия

when it comes to our speech.

в отношении свободы слова.

And even if we could decide which speech to take up or take down,

И даже если бы мы могли решить, какое высказывание удалить или оставить,

we've never had so much speech.

у нас никогда их не было в таком количестве.

Every second, millions of pieces of content

Каждую секунду люди со всего мира

are uploaded by people right around the world

загружают миллионы единиц контента

in different languages,

на разных языках,

drawing on thousands of different cultural contexts.

относящихся к тысячам разных культурных контекстов.

We've simply never had effective mechanisms

У нас просто никогда не было эффективных механизмов

to moderate speech at this scale,

проверки постов в таком масштабе,

whether powered by humans or by technology.

с которыми бы справились люди или технологии.

And third, these companies -- Google, Twitter, Facebook, WhatsApp --

И в-третьих, эти компании — Google, Twitter, Facebook, WhatsApp —

they're part of a wider information ecosystem.

являются частью более широкой информационной экосистемы.

We like to lay all the blame at their feet, but the truth is,

Мы любим возлагать всю вину на них, но правда в том,

the mass media and elected officials can also play an equal role

что СМИ и депутаты могут играть такую же роль

in amplifying rumors and conspiracies when they want to.

в распространении слухов и заговоров, когда они этого захотят.

As can we, when we mindlessly forward divisive or misleading content

Как и мы, когда бездумно рассылаем спорный или недостоверный контент

without trying.

без особых усилий.

We're adding to the pollution.

Мы способствуем засорению.

I know we're all looking for an easy fix.

Я знаю, что все мы ищем простое решение.

But there just isn't one.

Но такого нет.

Any solution will have to be rolled out at a massive scale, internet scale,

Любое решение должно применяться глобально в масштабе интернета,

and yes, the platforms, they're used to operating at that level.

и да, эти платформы привыкли действовать на этом уровне.

But can and should we allow them to fix these problems?

Но можем ли и должны ли мы позволять им решать эти проблемы?

They're certainly trying.

Они, безусловно, стараются.

But most of us would agree that, actually, we don't want global corporations

Но большинство из нас согласится, мы не хотим, чтобы всемирные корпорации

to be the guardians of truth and fairness online.

стояли на страже правды и справедливости в сети.

And I also think the platforms would agree with that.

И я также думаю, что платформы с этим согласятся.

And at the moment, they're marking their own homework.

И в настоящий момент они выполняют своё домашнее задание.

They like to tell us

Они любят говорить нам,

that the interventions they're rolling out are working,

что изменения, которые они проводят, работают,

but because they write their own transparency reports,

но они пишут собственные отчёты о прозрачности,

there's no way for us to independently verify what's actually happening.

и у нас нет возможности самим проверить, как обстоят дела в действительности.

(Applause)

(Аплодисменты)

And let's also be clear that most of the changes we see

И будем честны, бóльшую часть изменений мы видим

only happen after journalists undertake an investigation

лишь после того, как журналисты предпринимают расследование

and find evidence of bias

и находят доказательства

or content that breaks their community guidelines.

предвзятости или контент, нарушающий правила их платформы.

So yes, these companies have to play a really important role in this process,

Так что да, эти компании должны сыграть очень важную роль в этом процессе,

but they can't control it.

но они не должны им управлять.

So what about governments?

Что насчёт государств?

Many people believe that global regulation is our last hope

Многие верят, что единое регулирование — наша последняя надежда

in terms of cleaning up our information ecosystem.

в рамках очищения нашей информационной экосистемы.

But what I see are lawmakers who are struggling to keep up to date

Но что я вижу, так это законотворцев, пытающихся идти в ногу

with the rapid changes in technology.

с быстрым развитием технологий.

And worse, they're working in the dark,

И что хуже, они работают вслепую,

because they don't have access to data

потому что у них нет доступа к данным,

to understand what's happening on these platforms.

чтобы понять, что происходит на этих платформах.

And anyway, which governments would we trust to do this?

К тому же, каким государствам мы бы доверились в этом вопросе?

We need a global response, not a national one.

Нам нужно действовать на мировом уровне, а не национальном.

So the missing link is us.

Так что недостающее звено — это мы.

It's those people who use these technologies every day.

Те люди, что используют эти технологии каждый день.

Can we design a new infrastructure to support quality information?

Можем ли мы создать новую инфраструктуру, чтобы защитить качественную информацию?

Well, I believe we can,

Что ж, я верю в это,

and I've got a few ideas about what we might be able to actually do.

и у меня есть несколько идей о том, что мы могли бы сделать.

So firstly, if we're serious about bringing the public into this,

Во-первых, если мы всерьёз хотим вовлечь в это общественность,

can we take some inspiration from Wikipedia?

почему бы не взять пример с Википедии?

They've shown us what's possible.

Они показали нам, что возможно.

Yes, it's not perfect,

Да, она не идеальна,

but they've demonstrated that with the right structures,

но они показали, что с правильными структурами,

with a global outlook and lots and lots of transparency,

глобальным видением и высокой степенью прозрачности

you can build something that will earn the trust of most people.

можно создать то, что заслужит доверие многих людей.

Because we have to find a way to tap into the collective wisdom

Ведь мы должны найти способ проникнуть в коллективную мудрость

and experience of all users.

и опыт всех пользователей.

This is particularly the case for women, people of color

Особенно это актуально для женщин, «цветных» людей

and underrepresented groups.

и недопредставленных групп.

Because guess what?

Потому что знаете что?

They are experts when it comes to hate and disinformation,

Они эксперты по части ненависти и дезинформации,

because they have been the targets of these campaigns for so long.

потому что они так долго были мишенями этих кампаний.

And over the years, they've been raising flags,

И в течение этих лет они поднимали флаги,

and they haven't been listened to.

но никто их не слушал.

This has got to change.

Это должно измениться.

So could we build a Wikipedia for trust?

Так смогли бы мы создать Википедию, основанную на доверии?

Could we find a way that users can actually provide insights?

Смогли бы мы найти способ, чтобы пользователи могли предлагать идеи?

They could offer insights around difficult content-moderation decisions.

Они могли бы предлагать идеи по сложным решениям в модерации контента.

They could provide feedback

Они могли бы давать отклик,

when platforms decide they want to roll out new changes.

когда платформы решат, что хотят внести новые изменения.

Second, people's experiences with the information is personalized.

Во-вторых, у людей индивидуальные отношения с информацией.

My Facebook news feed is very different to yours.

Моя лента в Facebook сильно отличается от вашей.

Your YouTube recommendations are very different to mine.

Ваши рекомендации в Youtube сильно отличаются от моих.

That makes it impossible for us to actually examine

Из-за этого мы не можем по-настоящему проверить,

what information people are seeing.

какую информацию видят люди.

So could we imagine

Но что если бы мы

developing some kind of centralized open repository for anonymized data,

разработали что-то вроде централизованной открытой базы анонимных данных

with privacy and ethical concerns built in?

с сохранением конфиденциальности и соблюдением этики?

Because imagine what we would learn

Ведь представьте, что мы узнали бы,

if we built out a global network of concerned citizens

создай мы всемирную сеть заинтересованных граждан,

who wanted to donate their social data to science.

желающих пожертвовать свои социальные данные науке.

Because we actually know very little

Ведь на самом деле мы мало знаем

about the long-term consequences of hate and disinformation

о долгосрочных последствиях ненависти и дезинформации

on people's attitudes and behaviors.

в отношениях и поведении людей.

And what we do know,

А то, что нам известно,

most of that has been carried out in the US,

по большей части исследовано в США,

despite the fact that this is a global problem.

несмотря на то, что это всемирная проблема.

We need to work on that, too.

Нам тоже нужно работать над этим.

And third,

И в-третьих,

can we find a way to connect the dots?

можно ли найти способ связать всё это воедино?

No one sector, let alone nonprofit, start-up or government,

Ни один сектор, тем более некоммерческий, стартап или государство,

is going to solve this.

не решат эту проблему.

But there are very smart people right around the world

Но по всему миру находятся очень умные люди,

working on these challenges,

работающие над этим,

from newsrooms, civil society, academia, activist groups.

из редакций, гражданского общества, академии, групп активистов.

And you can see some of them here.

Некоторых из них вы видите здесь.

Some are building out indicators of content credibility.

Одни определяют факторы надёжности контента.

Others are fact-checking,

Другие проверяют факты,

so that false claims, videos and images can be down-ranked by the platforms.

чтобы платформы могли снизить охват ложных утверждений, видео и картинок.

A nonprofit I helped to found, First Draft,

НКО First Draft, которую я помогла основать,

is working with normally competitive newsrooms around the world

работает с конкурентноспособными редакциями по всему миру,

to help them build out investigative, collaborative programs.

чтобы помочь им создать исследовательские коллективные программы.

And Danny Hillis, a software architect,

И Дэнни Хиллис, разработчик структуры ПО,

is designing a new system called The Underlay,

работает над новой системой The Underlay,

which will be a record of all public statements of fact

которая будет содержать записи всех публичных утверждений

connected to their sources,

с указанием их источника,

so that people and algorithms can better judge what is credible.

так люди и алгоритмы смогут лучше оценить, чему можно доверять.

And educators around the world are testing different techniques

А эксперты по образованию во всём мире тестируют разные методы,

for finding ways to make people critical of the content they consume.

чтобы научить людей критически относиться к потребляемому контенту.

All of these efforts are wonderful, but they're working in silos,

Все эти усилия чудесны, но они действуют разрозненно,

and many of them are woefully underfunded.

и многие из них крайне мало финансируются.

There are also hundreds of very smart people

К тому же есть сотни очень умных людей,

working inside these companies,

работающих внутри этих компаний,

but again, these efforts can feel disjointed,

но опять же, эти усилия разрозненны,

because they're actually developing different solutions to the same problems.

потому что по сути они предлагают разные решения для одной и той же проблемы.

How can we find a way to bring people together

Как нам найти способ собрать людей вместе

in one physical location for days or weeks at a time,

в одном физическом пространстве на дни и недели за раз,

so they can actually tackle these problems together

чтобы они могли решать эти проблемы вместе,

but from their different perspectives?

но с разных точек зрения?

So can we do this?

Так можем ли мы это сделать?

Can we build out a coordinated, ambitious response,

Можем ли мы создать совместное перспективное решение,

one that matches the scale and the complexity of the problem?

которое бы соотносилось с масштабом и сложностью проблемы?

I really think we can.

Я думаю, что мы можем.

Together, let's rebuild our information commons.

Давайте вместе изменим нашу общую информационную систему.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)