Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

翻訳: Kumi Kaku 校正: Natsuhiko Mizutani

Around five years ago,

5年ほど前に 私は突然 気付きました

it struck me that I was losing the ability

自分は 考え方の違う人と

to engage with people who aren't like-minded.

付き合う能力を失ってきている と

The idea of discussing hot-button issues with my fellow Americans

微妙な問題について アメリカ人同士で 議論しようと考えたときの

was starting to give me more heartburn

胸焼けのような感覚が

than the times that I engaged with suspected extremists overseas.

海外で過激派と思われる集団と 関わったときよりもひどくなり始めていました

It was starting to leave me feeling more embittered and frustrated.

後味の悪さと苛立ちが 強く残るようになったのです

And so just like that,

そう気付いた途端に

I shifted my entire focus

私の関心は

from global national security threats

国家安全保障上の国際的な脅威から

to trying to understand what was causing this push

国内の二極化圧力の原因を理解することへと

towards extreme polarization at home.

すっかり変わりました

As a former CIA officer and diplomat

私は かつて CIA職員や外交官として

who spent years working on counterextremism issues,

過激思想の問題への対策に 年月を費やしてきましたが

I started to fear that this was becoming a far greater threat to our democracy

私たちの民主主義にとっては この二極化が 海外のどの敵よりも

than any foreign adversary.

遥かに重大な脅威になると 恐れるようになりました

And so I started digging in,

そこで これを深く掘り下げ

and I started speaking out,

公の場で声を上げ始めたところ

which eventually led me to being hired at Facebook

それをきっかけにある時 フェイスブックで働くことになり

and ultimately brought me here today

さらに結果的に 今ここを訪れて

to continue warning you about how these platforms

皆さんに これらのプラットフォームが

are manipulating and radicalizing so many of us

いかに多くの人々を操り 過激化させているか 警告をお伝えし

and to talk about how to reclaim our public square.

開かれた議論の場を いかに取り戻すか お話ししようとしています

I was a foreign service officer in Kenya

私は外交官としてケニアで働きました

just a few years after the September 11 attacks,

同時多発テロ事件の ほんの数年後のことです

and I led what some call "hearts and minds" campaigns

またソマリア国境沿いで 「ハートと心」の作戦と呼ばれる

along the Somalia border.

活動を指揮していました

A big part of my job was to build trust with communities

主な任務は 過激派の影響が 最も及びやすいとされる地域で

deemed the most susceptible to extremist messaging.

現地との信頼関係を築くことでした

I spent hours drinking tea with outspoken anti-Western clerics

西洋ぎらいの無遠慮な聖職者たちと 何時間も お茶を共にしたことも

and even dialogued with some suspected terrorists,

テロリストとおぼしき人物と 対話したこともあります

and while many of these engagements began with mutual suspicion,

やりとりの多くは 相互不信から始まりましたが

I don't recall any of them resulting in shouting or insults,

怒号や侮辱の応酬で 終わった記憶はまったくなく

and in some case we even worked together on areas of mutual interest.

利害の一致する分野で 共同作業をしたことさえありました

The most powerful tools we had were to simply listen, learn

私たちの持っていた最強のツールは 相手の話をひたすら聞き 学び

and build empathy.

気持ちを通わせるというものでした

This is the essence of hearts and minds work,

これが「ハートと心」の活動の本質です

because what I found again and again is that what most people wanted

というのも 私が何度も経験したように ほとんどの人々が望むのは

was to feel heard, validated and respected.

自分の声が届き 認められ 尊重されていると感じることだったからです

And I believe that's what most of us want.

私たちの大半も 同じことを望むはずです

So what I see happening online today is especially heartbreaking

それで 今のネットで見られる事態には 胸の張りさける思いがしますし

and a much harder problem to tackle.

遥かに対策の難しい問題とも 感じられるのです

We are being manipulated by the current information ecosystem

私たちは 現在の情報システムの 生態系に操られており

entrenching so many of us so far into absolutism

余りにも多くの人が 極端な思想に染め上げられて

that compromise has become a dirty word.

妥協という言葉も禁句に なってしまいました

Because right now,

というのも 現在

social media companies like Facebook

フェイスブックなどの ソーシャルメディアの収益源が

profit off of segmenting us and feeding us personalized content

私たちを分類した上で

偏見を正当化し悪用するような 個人化コンテンツを送り付けることだからです

that both validates and exploits our biases.

Their bottom line depends on provoking a strong emotion

彼らの最終損益を左右するのは 強い感情を掻き立てて

to keep us engaged,

投稿や共有を続けさせることなので

often incentivizing the most inflammatory and polarizing voices,

最も扇動的で極端な意見を 奨励することとなりがちで

to the point where finding common ground no longer feels possible.

結果的に お互いの共通点を探すことも 不可能と感じるほどになりました

And despite a growing chorus of people crying out for the platforms to change,

また そんなプラットフォームの 変更を求める声がどんなに増えても

it's clear they will not do enough on their own.

企業が自ら十分な対策を 講じないのは明らかです

So governments must define the responsibility

そこで政府は こうしたビジネスモデルから

for the real-world harms being caused by these business models

実生活に及ぼされる悪影響についての 責任を明確にして

and impose real costs on the damaging effects

私たちの公衆衛生や 開かれた議論の場や 民主主義に与えた損害に関する

they're having to our public health, our public square and our democracy.

全ての費用を払わせなければなりません

But unfortunately, this won't happen in time for the US presidential election,

ただ残念ながら それも 米大統領選には間に合わないでしょう

so I am continuing to raise this alarm,

それで 私は警告を発し続けています

because even if one day we do have strong rules in place,

なぜなら いつか強い規制が 実現したとしても

it will take all of us to fix this.

解決には私たち全員の力が 必要だからです

When I started shifting my focus from threats abroad

自分の関心が 海外の脅威から

to the breakdown in civil discourse at home,

国内の社会的な対話の崩壊へと 移ったとき

I wondered if we could repurpose some of these hearts and minds campaigns

私は「ハートと心」の作戦の一部が 私たちの分断の修復にも

to help heal our divides.

転用できるのでは と考えました

Our more than 200-year experiment with democracy works

200年以上かけて培った 民主主義が 成果をあげている大きな理由は

in large part because we are able to openly and passionately

私たちは 熱い 開かれた議論を通じて

debate our ideas for the best solutions.

最良の解決策を見出すことができるからです

But while I still deeply believe

ただ 私は直接会って得られる

in the power of face-to-face civil discourse,

相互理解の力を 今でも深く信奉する一方

it just cannot compete

それだけでは

with the polarizing effects and scale of social media right now.

現在のソーシャルメディアの二極化効果と 規模には 太刀打ちできないと考えます

The people who are sucked down these rabbit holes

ソーシャルメディアの暴力という アリ地獄に呑み込まれた人々を

of social media outrage

often feel far harder to break of their ideological mindsets

観念的な思考から解放するのは かつての不安定地域での活動よりも

than those vulnerable communities I worked with ever were.

遥かに難しいと感じることも よくあります

So when Facebook called me in 2018

そこで2018年に フェイスブックからの電話で

and offered me this role

選挙における政治広告を 適正に運営する責任者という

heading its elections integrity operations for political advertising,

役割を提示されたときには

I felt I had to say yes.

これは受けねば と思いました

I had no illusions that I would fix it all,

自分が全て解決しようなどという 幻想はなかったものの

but when offered the opportunity

船の針路をより良い方向へと

to help steer the ship in a better direction,

導くことを手伝う機会が与えられるというなら

I had to at least try.

断る手はありませんでした

I didn't work directly on polarization,

業務で二極化を直接扱いは しませんでしたが

but I did look at which issues were the most divisive in our society

この社会を分断する 一番の問題が何なのか

and therefore the most exploitable in elections interference efforts,

またそれ故に 選挙妨害に 一番弱い部分がどこなのかには着目しました

which was Russia's tactic ahead of 2016.

そこを ロシアが2016年の選挙で 戦略的に攻めたからです

So I started by asking questions.

まずは疑問点を挙げてみました

I wanted to understand the underlying systemic issues

こんな事態の発生を許した

that were allowing all of this to happen,

システム上の問題点を理解した上で

in order to figure out how to fix it.

解決方法を見つけたかったのです

Now I still do believe in the power of the internet

私は今でもインターネットには より多くの意見を

to bring more voices to the table,

引き出す力があると信じていますが

but despite their stated goal of building community,

コミュニティの構築という 公に掲げた目標にもかかわらず

the largest social media companies as currently constructed

現在 築き上げられた 巨大ソーシャルメディア企業は

are antithetical to the concept of reasoned discourse.

理性ある対話という概念とは 真逆の存在です

There's no way to reward listening,

人の話に耳を傾けることに報いたり

to encourage civil debate

開かれた議論を促したり

and to protect people who sincerely want to ask questions

真摯に質問したい人々を保護したりする 手段が全くありません

in a business where optimizing engagement and user growth

このビジネスでは ユーザ関与の最適化とユーザの増加が

are the two most important metrics for success.

成功のために最も重要な ２つの指標になっているからです

There's no incentive to help people slow down,

人々が関与する前に 一旦落ち着かせて

to build in enough friction that people have to stop,

立ち止まらせるような 干渉機能を設けて

recognize their emotional reaction to something,

何かに感情的な反応を していると気付かせ

and question their own assumptions before engaging.

憶測を自省させるような試みへの 動機付けはありません

The unfortunate reality is:

不幸な現実があります

lies are more engaging online than truth,

オンラインでは 真実よりも嘘の方が興味をそそり

and salaciousness beats out wonky, fact-based reasoning

わいせつな話題が 真面目で事実に基づく論理を追いやります

in a world optimized for frictionless virality.

それが干渉なく拡散をすることに 最適化された世界なのです

As long as algorithms' goals are to keep us engaged,

アルゴリズムの目的が 私たちに 関与を続けさせることである限り

they will continue to feed us the poison that plays to our worst instincts

彼らは 最悪の本能や 人間の弱点を引き付ける毒薬を

and human weaknesses.

私たちに送り続けるでしょう

And yes, anger, mistrust,

確かに 怒り 不信

the culture of fear, hatred:

恐れの文化 憎しみ

none of this is new in America.

どれも アメリカでは 目新しいことではありません

But in recent years, social media has harnessed all of that

でも 近年 ソーシャルメディアが これら全てに付け入って

and, as I see it, dramatically tipped the scales.

劇的に局面を変えたと 私は考えます

And Facebook knows it.

そしてフェイスブックも それを知っています

A recent "Wall Street Journal" article

『ウォールストリート・ジャーナル』誌の 最近の記事で

exposed an internal Facebook presentation from 2018

フェイスブックの 2018年の社内報告が暴露されました

that specifically points to the companies' own algorithms

その報告は 自社のアルゴリズムが

for growing extremist groups' presence on their platform

フェイスブック上の 過激派グループの存在感を強め

and for polarizing their users.

ユーザの二極化を招くと 特定していました

But keeping us engaged is how they make their money.

でも 私たちに関与を続けさせるのは 彼らの金儲けの手段です

The modern information environment is crystallized around profiling us

現代の情報環境は徹底的に 私たちの属性を抽出し

and then segmenting us into more and more narrow categories

それを 細かいカテゴリーへと 細分化し続けて

to perfect this personalization process.

個人化プロセスを突き詰めます

We're then bombarded with information confirming our views,

それが済むと 人々の見解を追認し 偏見を助長し

reinforcing our biases,

自分が何かに帰属していると 感じさせるような情報が

and making us feel like we belong to something.

大量に送り付けられます

These are the same tactics we would see terrorist recruiters

これらはテロリストのスカウトが

無防備な若者に対して 使うのと同じ手口です

using on vulnerable youth,

albeit in smaller, more localized ways before social media,

ソーシャルメディア以前は 小規模で地域別に行われていましたが

with the ultimate goal of persuading their behavior.

相手の行動を変えさせるという 最終目標は同じです

Unfortunately, I was never empowered by Facebook to have an actual impact.

残念ながら 私はフェイスブックを 変える程の力は与えられませんでした

In fact, on my second day, my title and job description were changed

実際 ２日目には 肩書と 職務の内容が変更されて

and I was cut out of decision-making meetings.

意思決定をする会議からも 外されてしまいました

My biggest efforts,

政治広告から ニセ情報や投票妨害を 排除するための計画の策定に

trying to build plans

to combat disinformation and voter suppression in political ads,

私は一番力を注ぎましたが

were rejected.

提案は却下されました

And so I lasted just shy of six months.

結局 私が働いたのはわずか半年弱です

But here is my biggest takeaway from my time there.

ただ そこで働いたことで 得られた一番の気づきは次のことです

There are thousands of people at Facebook

フェイスブックの社内では

who are passionately working on a product

何千人もの人が

that they truly believe makes the world a better place,

より良い世界を作ると心から信じる機能に 情熱的に取り組んでいます

but as long as the company continues to merely tinker around the margins

しかし会社がこのまま コンテンツの指針や調停機能について

of content policy and moderation,

枝葉をいじくり回すだけで

as opposed to considering

仕組み全体の設計と収益の上げ方を 見直さない限り

how the entire machine is designed and monetized,

they will never truly address how the platform is contributing

このプラットフォームがもたらしている 憎しみや分断や過激化への

to hatred, division and radicalization.

真の対策は決して実現しないでしょう

And that's the one conversation I never heard happen during my time there,

そして 私の在籍中に そんな話は 全く耳にしませんでした

because that would require fundamentally accepting

なぜなら そのとき求められるのは 自ら構築したものが

that the thing you built might not be the best thing for society

社会にとっては最善でないかもしれないと 認めることであり

and agreeing to alter the entire product and profit model.

全ての機能と収益モデルの変更に 同意することに他ならないからです

So what can we do about this?

では私たちには何ができるでしょうか？

I'm not saying that social media bears the sole responsibility

私はソーシャルメディアのみに 今の事態の責任があると

for the state that we're in today.

言っているのではありません

Clearly, we have deep-seated societal issues that we need to solve.

明らかに 私たちは解決すべき 根深い社会問題を抱えています

But Facebook's response, that it is just a mirror to society,

でも これが社会を映す鏡に過ぎないという フェイスブックの回答は

is a convenient attempt to deflect any responsibility

全ての責任を免れようとする 体のいい方便であって

from the way their platform is amplifying harmful content

自社のプラットフォームが 有害なコンテンツを増幅して

and pushing some users towards extreme views.

一部ユーザを過激思想に駆り立てていることは 省みていません

And Facebook could, if they wanted to,

しかも フェイスブックはその気があれば

fix some of this.

一部を解決できるのです

They could stop amplifying and recommending the conspiracy theorists,

陰謀論者やヘイトグループや ニセ情報を広める人たちの発言を

the hate groups, the purveyors of disinformation

広めたり お勧めするのは やめることができます

and, yes, in some cases even our president.

そう ときには大統領の発言もです

They could stop using the same personalization techniques

政治的発言を広めるのに スニーカー販売と同じ

to deliver political rhetoric that they use to sell us sneakers.

個人化テクニックを使うのも やめることができます

They could retrain their algorithms

アルゴリズムを再学習させて

to focus on a metric other than engagement,

ユーザの関与以外の指標に 焦点を当てることも

and they could build in guardrails to stop certain content from going viral

ある種のコンテンツが チェックの前に拡散しないように

before being reviewed.

防御壁を設けることもできます

And they could do all of this

そして これら全てを行うのに

without becoming what they call the arbiters of truth.

彼らが言う「真実の決定者」に なる必要はありません

But they've made it clear that they will not go far enough

しかし自ら明言したとおり 彼らは強制されなければ

to do the right thing without being forced to,

正しい方向に踏み出すことは ないでしょう

and, to be frank, why should they?

正直なところ その必要がありますか？

The markets keep rewarding them, and they're not breaking the law.

市場の評価は高く 法律を犯している訳でもありません

Because as it stands,

なぜなら 今のところ

there are no US laws compelling Facebook, or any social media company,

米国の法律では フェイスブックを含む いかなるソーシャルメディア企業も

to protect our public square,

開かれた議論の場や民主主義 それに選挙すら保護する義務がないのです

our democracy

and even our elections.

開かれた議論の場や民主主義 それに選挙すら保護する義務がないのです

We have ceded the decision-making on what rules to write and what to enforce

私たちは どんなことを制限し 何を強制するかという意思決定を

to the CEOs of for-profit internet companies.

利益重視のネット企業の CEOたちにゆだねてしまっています

Is this what we want?

私たち こんなものが欲しいのでしょうか？

A post-truth world where toxicity and tribalism

有害情報や部族主義が 架け橋や総意形成に勝るような

trump bridge-building and consensus-seeking?

真実を見失った世界が？

I do remain optimistic that we still have more in common with each other

私は今でも 自分たちのお互いの共通点は

than the current media and online environment portray,

今のメディアやオンライン環境が 描くよりも多いと楽観しています

and I do believe that having more perspective surface

また より多面的な物の見方が

makes for a more robust and inclusive democracy.

より堅固で開かれた民主主義を 作り上げると 信じています

But not the way it's happening right now.

でもそれは 現在とは違う形のものです

And it bears emphasizing, I do not want to kill off these companies.

強調しますが 私はこうした企業を 葬り去りたい訳ではありません

I just want them held to a certain level of accountability,

ただ 社会の他のメンバーと同じように ある程度の責任を

just like the rest of society.

果たしてもらいたいだけなのです

It is time for our governments to step up and do their jobs

今こそ政府が立ち上がって 国民生活を守るという

of protecting our citizenry.

職務を果たす時です

And while there isn't one magical piece of legislation

魔法のように ひとつで全てを解決する

that will fix this all,

法律ができるとは思いませんが

I do believe that governments can and must find the balance

政府が言論の自由を守りながら 企業に社会的影響の責任を取らせるような

between protecting free speech

うまいバランスを見出すことは

and holding these platforms accountable for their effects on society.

可能であり 必要であると信じています

And they could do so in part by insisting on actual transparency

しかも 政府は 透明性を強く要求することで ある程度はそれが実現できます

around how these recommendation engines are working,

透明化が必要なのは 推奨エンジンの働き方と

around how the curation, amplification and targeting are happening.

まとめサービス 増幅 そして ターゲティングのやり方に関してです

You see, I want these companies held accountable

お察しのように 私が企業に 責任を取らせたいのは

not for if an individual posts misinformation

一個人が流した虚偽の情報とか 極端な表現についてではなく

or extreme rhetoric,

but for how their recommendation engines spread it,

彼らの推奨エンジンが その投稿を拡散させるやり方や

how their algorithms are steering people towards it,

彼らのアルゴリズムが 人々をその投稿に誘導するやり方や

and how their tools are used to target people with it.

彼らのツールがその投稿を ターゲティングする方法に対してです

I tried to make change from within Facebook and failed,

私はフェイスブックの内部から 変革を試みて失敗しました

and so I've been using my voice again for the past few years

ですから ここ数年は 再び自分の声を使って

to continue sounding this alarm

警告を発し続けながら

and hopefully inspire more people to demand this accountability.

これに触発されて 責任を追及する声が さらに高まることを願っています

My message to you is simple:

私から皆さんへのメッセージはシンプルです

pressure your government representatives

地元の議員に圧力を掛けて

to step up and stop ceding our public square to for-profit interests.

開かれた議論の場を 営利団体に 明け渡すのを止めさせるのです

Help educate your friends and family

友人や家族にも 皆がオンラインで

about how they're being manipulated online.

いかに操られているかを 教えてあげてください

Push yourselves to engage with people who aren't like-minded.

考え方の違う人たちとも 付き合う努力をしてください

Make this issue a priority.

この問題を優先して扱ってください

We need a whole-society approach to fix this.

これを解決するには 社会全体の取り組みが必要です

And my message to the leaders of my former employer Facebook is this:

ここからは 以前の雇用主である フェイスブック首脳陣へのメッセージです

right now, people are using your tools exactly as they were designed

現在は 人々が貴社のツールを 設計されたとおりに使い

to sow hatred, division and distrust,

憎しみや分断や不信が生み出されています

and you're not just allowing it, you are enabling it.

それを許しているだけでなく それを可能にしているのが貴社なのです

And yes, there are lots of great stories

確かに 世界中で貴社のプラットフォームの

of positive things happening on your platform around the globe,

良い面が発揮された 素晴らしい話も沢山あります

but that doesn't make any of this OK.

だからと言って この問題が 帳消しになる訳ではありません

And it's only getting worse as we're heading into our election,

我が国の選挙が 近付くにつれ 事態は悪化するばかりですし

and even more concerning,

さらに心配もあります

face our biggest potential crisis yet,

選挙結果が信用されず 暴力が発生すれば

if the results aren't trusted, and if violence breaks out.

最大の危機が訪れる可能性があるのです

So when in 2021 you once again say, "We know we have to do better,"

ですから2021年に貴社が 「改善の余地があるのは確かだ」などと

I want you to remember this moment,

繰り返すなら 今この時を 思い出して頂きたいと思います

because it's no longer just a few outlier voices.

これはもはや 単なる少数意見では ないのですから

Civil rights leaders, academics,

市民権運動のリーダーや 学界や

journalists, advertisers, your own employees,

ジャーナリストや 広告主や 貴社自身の社員たちが

are shouting from the rooftops

声高に叫んでいます

that your policies and your business practices

貴社の方針とビジネスのやり方が

are harming people and democracy.

人々と民主主義を傷つけていると

You own your decisions,

決定権は貴社にありますが

but you can no longer say that you couldn't have seen it coming.

想定外だったと言うことは もうできません

Thank you.

ありがとうございました