How we can build AI to help humans, not hurt us | Margaret Mitchell

校正: Masaki Yanagishita

I work on helping computers communicate about the world around us.

コンピュータが 私たちの周りの世界について 情報交換する研究をしています

There are a lot of ways to do this,

やり方はたくさんありますが

and I like to focus on helping computers

中でも私が力を入れているのは

to talk about what they see and understand.

コンピュータが見て 理解したものを 語らせることです

Given a scene like this,

こんなシーンがあると

a modern computer-vision algorithm

最近のコンピュータビジョンの アルゴリズムは

can tell you that there's a woman and there's a dog.

女性と犬が映っていて

It can tell you that the woman is smiling.

女性が笑顔だ と教えてくれます

It might even be able to tell you that the dog is incredibly cute.

またその犬がとてもかわいいとも 教えてくれるかもしれません

I work on this problem

私はこの研究にあたって

thinking about how humans understand and process the world.

人間がどのように世界を理解し 処理するのか考えます

The thoughts, memories and stories

このようなシーンを見た時に

that a scene like this might evoke for humans.

人間が引き起こす 思考や記憶、物語などです

All the interconnections of related situations.

関係するシチュエーションのすべてを お互いにつなぎ合わせることです

Maybe you've seen a dog like this one before,

みなさんもこれまでに こんな犬を見たことがあるでしょう

or you've spent time running on a beach like this one,

こんなビーチで 走ったことがあるかもしれません

and that further evokes thoughts and memories of a past vacation,

休暇のときに考えたことや記憶

past times to the beach,

ビーチで過ごした時間

times spent running around with other dogs.

別の犬と走り回った思い出なども 思い起こしたかもしれません

One of my guiding principles is that by helping computers to understand

私の基本理念の一つは

what it's like to have these experiences,

このような経験の意味を コンピュータに理解させたり

to understand what we share and believe and feel,

私たちが共有し 信じ 感じたものを 理解させたりすることで

then we're in a great position to start evolving computer technology

私たち自身の経験を補完する方向に コンピュータ技術を進化させるという

in a way that's complementary with our own experiences.

重要な役割を担うということです

So, digging more deeply into this,

さらに深堀りしていきましょう

a few years ago I began working on helping computers to generate human-like stories

数年前 私はある研究を始めました 一連の画像からコンピュータに

from sequences of images.

人間らしい物語を作らせる試みです

So, one day,

ある日のこと

I was working with my computer to ask it what it thought about a trip to Australia.

オーストラリア旅行のことを考えるよう コンピュータに尋ねました

It took a look at the pictures, and it saw a koala.

画像の中から コアラを見つけました

It didn't know what the koala was,

コアラが何なのか コンピュータは知りません

but it said it thought it was an interesting-looking creature.

でも「コアラが 面白い外見の動物だ」 と言ったのです

Then I shared with it a sequence of images about a house burning down.

また 家が焼け落ちる一連の画像を 見せたこともありました

It took a look at the images and it said,

それを見てコンピュータはこう言いました

"This is an amazing view! This is spectacular!"

「これはすごい光景だ！壮観だ！」

It sent chills down my spine.

私の背筋が凍りました

It saw a horrible, life-changing and life-destroying event

コンピュータが見たものは 命の危険を 伴うような恐ろしい出来事ですが

and thought it was something positive.

何か良いことのように 解釈しているのです

I realized that it recognized the contrast,

画像からコントラストや

the reds, the yellows,

赤や黄色を認識し

and thought it was something worth remarking on positively.

なにか良いことと解釈するに値すると 思ったのです

And part of why it was doing this

そしてコンピュータがそう思ったのは

was because most of the images I had given it

与えた画像のほとんどが 肯定的なものだったせいもあるでしょう

were positive images.

That's because people tend to share positive images

実際 私たちが自分の経験を 人に話すときは

when they talk about their experiences.

肯定的な画像を共有しようとしますよね

When was the last time you saw a selfie at a funeral?

お葬式での自撮り写真なんか 見たことがありますか？

I realized that, as I worked on improving AI

AIの研究をしていて 気づいたことがあります

task by task, dataset by dataset,

数々の課題やデータセットを扱う中で

that I was creating massive gaps,

コンピュータが理解できるものの中に

holes and blind spots in what it could understand.

大きな飛躍 欠落 盲点を 生み出していました

And while doing so,

またその過程で

I was encoding all kinds of biases.

あらゆる種類の先入観を 埋め込んでいました

Biases that reflect a limited viewpoint,

限定された観点による先入観

limited to a single dataset --

単一のデータセットによる先入観

biases that can reflect human biases found in the data,

データ中の 人間の先入観を 反映することもあります

such as prejudice and stereotyping.

偏見や固定観念などです

I thought back to the evolution of the technology

私をその日まで導いた

that brought me to where I was that day --

テクノロジーの進化を振り返ってみました

how the first color images

初めての カラー画像の色合いは

were calibrated against a white woman's skin,

白人女性の皮膚の色を基準に 調整されていました

meaning that color photography was biased against black faces.

黒人の顔は 基準から外れるという意味です

And that same bias, that same blind spot

また 同様の先入観や盲点が

continued well into the '90s.

90年代に入ってもずっと続きました

And the same blind spot continues even today

同じような盲点が今日までも 続いていて

in how well we can recognize different people's faces

異なる人間の顔を いかに区別して 認識するかを研究する

in facial recognition technology.

顔認識技術の分野に見られます

I though about the state of the art in research today,

今日の研究の最先端について思うのは

where we tend to limit our thinking to one dataset and one problem.

１つのデータセット １つの課題に 考えを限定しがちで

And that in doing so, we were creating more blind spots and biases

そのせいで さらに盲点や 先入観を生み出し

that the AI could further amplify.

AIがさらにそれを 増幅する可能性があることです

I realized then that we had to think deeply

だから当時私たちは 今研究しているテクノロジーが

about how the technology we work on today looks in five years, in 10 years.

5年後 10年後にどう見えているかを 深く考えなければならないと思いました

Humans evolve slowly, with time to correct for issues

人間はゆっくり進化し その間に 人間同士の関係や

in the interaction of humans and their environment.

周囲の環境について 問題を是正する時間があります

In contrast, artificial intelligence is evolving at an incredibly fast rate.

一方 人工知能は 信じられないほどの速さで 進化しています

And that means that it really matters

だから私たちは なおさら

that we think about this carefully right now --

今すぐ このことを慎重に検討し

that we reflect on our own blind spots,

私たち自身の盲点や先入観について

our own biases,

よく考えなければなりません

and think about how that's informing the technology we're creating

また それらが私たちのテクノロジーに どのように情報を供与するかを考え

and discuss what the technology of today will mean for tomorrow.

今日のテクノロジーが 明日どのような 意味を持つのか議論しなければなりません

CEOs and scientists have weighed in on what they think

企業のトップや科学者は 自分たちの考えた

the artificial intelligence technology of the future will be.

来るべき未来の人工知能技術に 力を注いできました

Stephen Hawking warns that

スティーブン・ホーキングは

"Artificial intelligence could end mankind."

「人工知能が人類を滅ぼす可能性がある」と 警鐘を鳴らしています

Elon Musk warns that it's an existential risk

イーロン・マスクは 人工知能を

and one of the greatest risks that we face as a civilization.

私たちの文明が直面する 存亡に関わる 最大級の脅威だと警告します

Bill Gates has made the point,

ビル・ゲイツも

"I don't understand why people aren't more concerned."

「なぜ皆が心配しないのか 理解できない」と指摘しています

But these views --

しかしそれらの見方は

they're part of the story.

ほんの一部の意見です

The math, the models,

数学やモデルなど

the basic building blocks of artificial intelligence

人工知能の基本的な構成要素は

are something that we call access and all work with.

誰でもアクセスして 利用できるものです

We have open-source tools for machine learning and intelligence

機械学習・人工知能向けの オープンソース・ツールがあり

that we can contribute to.

私たちが貢献することもできます

And beyond that, we can share our experience.

さらに個人の経験も共有できます

We can share our experiences with technology and how it concerns us

技術についての経験や それがどのように自分たちに関係し

and how it excites us.

興奮させるかを共有できます

We can discuss what we love.

大好きなものについて 意見交換ができます

We can communicate with foresight

技術的な側面のうち

about the aspects of technology that could be more beneficial

時間が経つにつれて 次第に有益になる面や 問題を生み出す面について

or could be more problematic over time.

私たちは展望を持って 話し合うことができます

If we all focus on opening up the discussion on AI

もし私たち皆が未来への展望をもって AIに関する議論の輪を

with foresight towards the future,

広げることに注目すれば

this will help create a general conversation and awareness

現在のAIはどのようなものか

about what AI is now,

これからどのようになりえるのか

what it can become

そして自分たちに最適な 最終結果を得るために

and all the things that we need to do

しなければならないことについて

in order to enable that outcome that best suits us.

一般的な議論や認識が高まるでしょう

We already see and know this in the technology that we use today.

私たちは このことを 現在のテクノロジーを見て知っています

We use smart phones and digital assistants and Roombas.

スマートフォン、デジタルアシスタント そして「ルンバ」などです

Are they evil?

それらは悪でしょうか？

Maybe sometimes.

時にはそうかもしれません

Are they beneficial?

では有益なものでしょうか？

Yes, they're that, too.

そうともいえます

And they're not all the same.

そして すべてが同じではありません

And there you already see a light shining on what the future holds.

また 未来に輝くものが すでに見えます

The future continues on from what we build and create right now.

私たちが今作り上げているものが 未来へと続きます

We set into motion that domino effect

AIの進化の道すじを切り開く

that carves out AI's evolutionary path.

ドミノ効果を作動させます

In our time right now, we shape the AI of tomorrow.

今この時 私たちは明日のAIを 形作っているのです

Technology that immerses us in augmented realities

過去の世界を 拡張現実として蘇らせ

bringing to life past worlds.

人間を夢中にさせる技術

Technology that helps people to share their experiences

また コミュニケーションが難しい時でも

when they have difficulty communicating.

経験を共有するのに役立つ技術もあります

Technology built on understanding the streaming visual worlds

常に変化する「ストリーミング」の性質を持つ 視覚世界の理解を基礎にした技術は

used as technology for self-driving cars.

自動運転車に使われます

Technology built on understanding images and generating language,

画像を理解し 言葉を生み出す技術は

evolving into technology that helps people who are visually impaired

視覚障害者が 視覚世界にアクセスすることを

be better able to access the visual world.

支援する技術へと進化しています

And we also see how technology can lead to problems.

同時に そうした技術が引き起こす 問題もあります

We have technology today

現在 ヒト生来の身体的な特徴

that analyzes physical characteristics we're born with --

たとえば 皮膚の色や 顔の外見などを

such as the color of our skin or the look of our face --

解析する技術があり

in order to determine whether or not we might be criminals or terrorists.

それで 犯罪者やテロリストかどうかを 識別しようとします

We have technology that crunches through our data,

ローンの承認審査のために

even data relating to our gender or our race,

性別や人種に関わるデータまで含めて

in order to determine whether or not we might get a loan.

大量のデータを処理する技術があります

All that we see now

現在私たちが見ているものは

is a snapshot in the evolution of artificial intelligence.

進化し続けるAIの 一瞬をとらえたものにすぎません

Because where we are right now,

なぜなら 私たちは 今まさに

is within a moment of that evolution.

AI進化の途上にあるからです

That means that what we do now will affect what happens down the line

つまり 私たちが今やったことが 将来起こることに

and in the future.

影響するということです

If we want AI to evolve in a way that helps humans,

もし人間に役立つよう AIを進化させたいなら

then we need to define the goals and strategies

今 ゴールと戦略を明確にして

that enable that path now.

道筋をつけなければなりません

What I'd like to see is something that fits well with humans,

私が期待するのは

with our culture and with the environment.

人間やその文化 そして環境に よくなじむAIです

Technology that aids and assists those of us with neurological conditions

神経疾患などの障害を抱えていても 誰もが同じように

or other disabilities

やりがいを感じて生きることを

in order to make life equally challenging for everyone.

補助してくれる技術です

Technology that works

その人の属性や 皮膚の色によらず

regardless of your demographics or the color of your skin.

うまく機能する技術です

And so today, what I focus on is the technology for tomorrow

そして今日 私がお話ししてきたのは 明日へ そして10年後へと

and for 10 years from now.

つながる技術です

AI can turn out in many different ways.

AIは 様々な方向に進む可能性がありますが

But in this case,

それらは 目的地のない

it isn't a self-driving car without any destination.

自動運転車ではありません

This is the car that we are driving.

まさに私たちが運転している車なのです

We choose when to speed up and when to slow down.

いつ加速するか ブレーキを踏むか

We choose if we need to make a turn.

いつ曲がるか それを私たちが選ぶのです

We choose what the AI of the future will be.

そして 未来のAIがどうなるかについても 私たちが選ぶのです

There's a vast playing field

AIがなれるものの可能性は広大です

of all the things that artificial intelligence can become.

It will become many things.

いろいろなものに発展するでしょう

And it's up to us now,

どうなるかは私たち次第です

in order to figure out what we need to put in place

どうか考えてみてください AIのもたらすものが

to make sure the outcomes of artificial intelligence

私たちすべてにとって よりよいものになるよう

are the ones that will be better for all of us.

今何をすべきかを

Thank you.

ありがとうございました

(Applause)

(拍手)