What Is an AI Anyway? | Mustafa Suleyman | TED

翻訳: Yasushi Aoki 校正: Takako Ramsden

I want to tell you what I see coming.

今後起こると私が考えていることを お話ししましょう

I've been lucky enough to be working on AI for almost 15 years now.

幸運にも私は 15年近くも ＡＩに携わってきましたが

Back when I started, to describe it as fringe would be an understatement.

始めた当時は ＡＩは主流でないどころか

Researchers would say, “No, no, we’re only working on machine learning.”

「私のはただの機械学習ですよ」 と研究者は言っていたくらいで

Because working on AI was seen as way too out there.

ＡＩをやっていると言うと まともに相手にされませんでした

2010年当時は

In 2010, just the very mention of the phrase “AGI,”

汎用人工知能（AGI）という 言葉を口にするだけで

artificial general intelligence,

would get you some seriously strange looks

変な顔をされ

and even a cold shoulder.

冷たくあしらわれたものです

"You're actually building AGI?" people would say.

「AGIを作っているってマジ？」

"Isn't that something out of science fiction?"

「それってSFの中の 話じゃないの？」

People thought it was 50 years away or 100 years away,

仮に可能だったとしても

50年か100年先のことだと 思われていたのです

if it was even possible at all.

Talk of AI was, I guess, kind of embarrassing.

ＡＩの話をするのは 恥ずかしいことで

People generally thought we were weird.

変なやつだと思われたものです

And I guess in some ways we kind of were.

ある意味当たっていましたが

It wasn't long, though, before AI started beating humans

しかしその後 ほどなく

機械には無理だと思われていた 様々なタスクで

at a whole range of tasks

that people previously thought were way out of reach.

ＡＩが人間に勝るようになりました

Understanding images,

画像認識

translating languages,

翻訳

transcribing speech,

音声の文字起こし

playing Go and chess

碁やチェスの対局

and even diagnosing diseases.

病気の診断さえも

People started waking up to the fact

ＡＩが起こす大きな変化に 気付き始めた人々が

that AI was going to have an enormous impact,

and they were rightly asking technologists like me

私のようなＡＩ分野の人間に

some pretty tough questions.

難しい質問をするようになりました

Is it true that AI is going to solve the climate crisis?

ＡＩは気候危機の問題を 解決するのか？

Will it make personalized education available to everyone?

すべての人への個別教育が 可能になるのか？

Does it mean we'll all get universal basic income

みんなベーシックインカムをもらえて

働かずにすむようになるのか？

and we won't have to work anymore?

Should I be afraid?

ＡＩを恐れるべきなのか？

What does it mean for weapons and war?

兵器や戦争には どう影響するのか？

And of course, will China win?

中国が勝つのか？

Are we in a race?

米国は競えているのか？

Are we headed for a mass misinformation apocalypse?

大量ニセ情報地獄が やってくるのか？

All good questions.

どれも良い質問ですが

But it was actually a simpler

私を悩ませていたのは

and much more kind of fundamental question that left me puzzled.

もっと単純で 根本的な疑問でした

One that actually gets to the very heart of my work every day.

私の日々の仕事の 核心に関わることです

One morning over breakfast,

ある日 朝食のときに

my six-year-old nephew Caspian was playing with Pi,

６歳の甥のカスピアンが ＰｉというＡＩで遊んでいました

the AI I created at my last company, Inflection.

私が前の職場の Inflection社で作ったものです

With a mouthful of scrambled eggs,

スクランブルエッグを 頬張りながら

he looked at me plain in the face and said,

私をまっすぐ見ると 甥は聞きました

"But Mustafa, what is an AI anyway?"

「おじさん ＡＩって何？」

He's such a sincere and curious and optimistic little guy.

甥は純真で好奇心の強い 明るい子で

He'd been talking to Pi about how cool it would be if one day in the future,

よくＰｉを相手に話していました

将来 動物園に 恐竜を見に行ったり

he could visit dinosaurs at the zoo.

家で無限にチョコを作ったりできたら どんなに素敵かと

And how he could make infinite amounts of chocolate at home.

And why Pi couldn’t yet play I Spy.

なのになぜ Ｐｉには モノ当てゲームができないのかと

"Well," I said, "it's a clever piece of software

「Ｐｉは賢いソフトウェアで

that's read most of the text on the open internet,

ネット上の文章なら 大概読んでいるから

and it can talk to you about anything you want."

どんなことでも話せるんだよ」

"Right.

「だから人間みたいなものだよね？」

So like a person then?"

I was stumped.

私は答えに詰まり

Genuinely left scratching my head.

頭をかきました

All my boring stock answers came rushing through my mind.

つまらない定番の答えが 頭をよぎりました

"No, but AI is just another general-purpose technology,

「ＡＩは印刷術や蒸気機関のような 単なる汎用技術だよ

like printing or steam."

It will be a tool that will augment us

人間の力を増強し

and make us smarter and more productive.

より賢く生産的に してくれるツールで

And when it gets better over time,

進歩すればいつか

it'll be like an all-knowing oracle

何でも知っていて

that will help us solve grand scientific challenges."

科学的難問の解決さえ助けてくれる 存在になるだろう」

You know, all of these responses started to feel, I guess,

そういう答え方は どこか無難で

a little bit defensive.

逃げているように 感じられました

And actually better suited to a policy seminar

真剣な６歳児に 朝食の席で言うよりは

than breakfast with a no-nonsense six-year-old.

政策セミナーで 聞きそうなことだと

"Why am I hesitating?" I thought to myself.

「なんで自分は 尻込みしているんだろう？」

You know, let's be honest.

正直になりましょう

My nephew was asking me a simple question

私たちＡＩ分野の人間が あまり直視しない単純な疑問を

that those of us in AI just don't confront often enough.

甥は聞いているのです

What is it that we are actually creating?

私たちが作っているものは いったい何なのか？

What does it mean to make something totally new,

過去の発明とは根本的に異なる まったく新しいものを

fundamentally different to any invention that we have known before?

生み出すというのは どういうことなのか？

It is clear that we are at an inflection point

人類の歴史における変曲点に 我々がいるのは明らかです

in the history of humanity.

On our current trajectory,

我々の進む道は 何かの出現へと 向かっていますが

we're headed towards the emergence of something

that we are all struggling to describe,

それをうまく言い表すのが難しく

and yet we cannot control what we don't understand.

理解できないものは コントロールもできません

And so the metaphors,

負の側面を抑えながら ＡＩを最大限に活かすには

the mental models,

the names, these all matter

if we’re to get the most out of AI whilst limiting its potential downsides.

メタファーや メンタルモデルや 名前 といったものが重要になります

As someone who embraces the possibilities of this technology,

この技術の可能性を信じつつ

but who's also always cared deeply about its ethics,

倫理の問題についても 常に注意を払っている人間として

we should, I think,

我々の作っているものが何なのか

be able to easily describe what it is we are building.

６歳児でもわかるように 簡単に説明できるべきだと考えています

And that includes the six-year-olds.

So it's in that spirit that I offer up today the following metaphor

そういう観点で 今がどういう時なのか把握できるよう

for helping us to try to grapple with what this moment really is.

今日はひとつメタファーを 提示しようと思います

I think AI should best be understood

ＡＩは新種の電子生物のようなものと 考えるのが

as something like a new digital species.

一番わかりやすいと思います

Now, don't take this too literally,

あまり文字通りに 取ってほしくありませんが

but I predict that we'll come to see them as digital companions,

人生全般にわたる相棒となる デジタルコンパニオンとして

new partners in the journeys of all our lives.

人々はＡＩを見るようになると 私は予想しています

Whether you think we’re on a 10-, 20- or 30-year path here,

10年20年 あるいは 30年後かわかりませんが

this is, in my view, the most accurate and most fundamentally honest way

今後 起きることを 正確で 率直に言うとしたら

of describing what's actually coming.

そうなるというのが 私の見方です

And above all, it enables everybody to prepare for

何よりも このように考えておけば 将来をイメージしやすく

and shape what comes next.

みんな心構えが できるでしょう

Now I totally get, this is a strong claim,

ただし これは強い主張なので

and I'm going to explain to everyone as best I can why I'm making it.

なぜそう考えるのかを できるだけ明確に説明します

But first, let me just try to set the context.

最初に文脈を明らかにしましょう

From the very first microscopic organisms,

数十億年前に地球で

life on Earth stretches back billions of years.

最初の微生物が現れて以来

Over that time, life evolved and diversified.

生物は進化し 多様化してきました

Then a few million years ago, something began to shift.

そして数百万年前に 何かが変わり始めました

After countless cycles of growth and adaptation,

数しれぬ成長と適応を 繰り返した後

one of life’s branches began using tools, and that branch grew into us.

ある系統の生物が 道具を使うようになり

それが人類へと繋がりました

We went on to produce a mesmerizing variety of tools,

人類は驚くほど多様な道具を 作り出していきました

at first slowly and then with astonishing speed,

はじめはゆっくりと やがてものすごいスピードで

we went from stone axes and fire

石斧や火から言語や文字

to language, writing and eventually industrial technologies.

果ては産業技術まで

One invention unleashed a thousand more.

一つの発明が 千の新たな発明に繋がり

And in time, we became homo technologicus.

やがて人類は 「ホモ・テクノロジカス」となりました

Around 80 years ago,

そして80年ほど前に

another new branch of technology began.

新たな系統のテクノロジーが 現れました

With the invention of computers,

コンピューターの発明により

we quickly jumped from the first mainframes and transistors

初期のメインフレームやトランジスターから 現在のスマートフォンやVRゴーグルまで

to today's smartphones and virtual-reality headsets.

技術が飛躍的に進みます

Information, knowledge, communication, computation.

情報 知識 コミュニケーション 計算

In this revolution,

この革命により

かつてない爆発的創造が起きました

creation has exploded like never before.

And now a new wave is upon us.

そして今新たな波が 押し寄せています

Artificial intelligence.

人工知能です

These waves of history are clearly speeding up,

歴史の波は明らかに 速くなっていて

as each one is amplified and accelerated by the last.

それぞれの波が 次の波を 増幅し加速させています

And if you look back,

振り返って見れば

it's clear that we are in the fastest

人類が かつてない速く大きな 波の中にいるのは明らかでしょう

and most consequential wave ever.

The journeys of humanity and technology are now deeply intertwined.

人類とテクノロジーの歩みは 今や深く絡み合っています

In just 18 months,

たった１年半で 10億を超える人々が

over a billion people have used large language models.

大規模言語モデルを 使うようになりました

We've witnessed one landmark event after another.

いくつもの歴史的出来事を 目の当たりにしています

Just a few years ago, people said that AI would never be creative.

ほんの数年前まで ＡＩには 創造的なことは無理だと言われていました

And yet AI now feels like an endless river of creativity,

それが今や ＡＩは 創造性の限りない川のように感じられ

making poetry and images and music and video that stretch the imagination.

想像力を押し広げるような 詩や画像や音楽や映像を作り出しています

People said it would never be empathetic.

ＡＩが共感することはないと 言われていましたが

And yet today, millions of people enjoy meaningful conversations with AIs,

今では多くの人々が ＡＩと意味のある会話を楽しみ

talking about their hopes and dreams

自分の希望や夢について話し

and helping them work through difficult emotional challenges.

感情的な問題を乗り越える 助けを得ています

AIs can now drive cars,

ＡＩは今や自動車を運転し

manage energy grids

電力網を管理し

and even invent new molecules.

新たな分子の設計さえ しています

Just a few years ago, each of these was impossible.

ほんの数年前には どれも不可能なことでした

And all of this is turbocharged by spiraling exponentials of data

そしてそのすべてが

データと計算の爆発的増強により 加速しています

and computation.

Last year, Inflection 2.5, our last model,

昨年私たちが出した最新のＡＩモデル Inflection 2.5は

used five billion times more computation

ほんの10年前にAtariのレトロゲームを クリアしたDeepMind AI よりも

than the DeepMind AI that beat the old-school Atari games

50億倍以上の計算能力があります

just over 10 years ago.

That's nine orders of magnitude more computation.

能力が９桁も違うのです

10x per year,

年に10倍という進歩が 10年近く続いています

every year for almost a decade.

Over the same time, the size of these models has grown

同時期にモデルの規模も 大きくなりました

from first tens of millions of parameters to then billions of parameters,

数千万パラメータから 数十億パラメータとなり

and very soon, tens of trillions of parameters.

じきに数十兆パラメータになるでしょう

If someone did nothing but read 24 hours a day for their entire life,

人間が生涯をかけ １日24時間ひたすら読書したなら

they'd consume eight billion words.

80億語読むことになります

And of course, that's a lot of words.

もちろんこれは ものすごい量ですが

But today, the most advanced AIs consume more than eight trillion words

現在の最先端のＡＩは

１ヶ月の学習で ８兆語を読み込みます

in a single month of training.

And all of this is set to continue.

そしてこの成長は続いていきます

The long arc of technological history is now in an extraordinary new phase.

長いテクノロジーの歴史は ものすごい新たな段階に来ているのです

So what does this mean in practice?

これが実際に意味することは 何でしょう？

Well, just as the internet gave us the browser

インターネットが ブラウザを生み

and the smartphone gave us apps,

スマートフォンが アプリを生んだように

the cloud-based supercomputer is ushering in a new era

クラウドベースの スーパーコンピューターは

どこにでもＡＩがある 新たな時代を開きます

of ubiquitous AIs.

Everything will soon be represented by a conversational interface.

あらゆることが会話型インタフェースで できるようになるでしょう

Or, to put it another way, a personal AI.

言い換えるなら 「パーソナルＡＩ」です

And these AIs will be infinitely knowledgeable,

ＡＩの知識量は際限がなく

and soon they'll be factually accurate and reliable.

やがて正確性や信頼性も 獲得するでしょう

They'll have near-perfect IQ.

ＡＩは ほぼ完璧なＩＱを 持っていますが

They’ll also have exceptional EQ.

同時に類まれなＥＱも 備えるでしょう

They’ll be kind, supportive, empathetic.

優しく 頼もしく 寄り添ってくれるＡＩです

These elements on their own would be transformational.

このようなＡＩの進化は 社会に変化をもたらすでしょう

Just imagine if everybody had a personalized tutor in their pocket

誰もがポケットに 個人教師を持ち

and access to low-cost medical advice.

健康上のアドバイスだって 安く得られます

A lawyer and a doctor,

弁護士や 医者や 事業戦略家や 指南役が

a business strategist and coach --

all in your pocket 24 hours a day.

ポケットの中にいて 24時間対応してくれます

But things really start to change when they develop what I call AQ,

でも本当の変化が現れるのは

私がＡＱ（行為能力）と呼ぶものを ＡＩが備えるようになった時です

their “actions quotient.”

This is their ability to actually get stuff done

電子的世界と物質的世界において

in the digital and physical world.

物事を成し遂げる能力です

And before long, it won't just be people that have AIs.

また ＡＩを持つのは 人間だけではなくなるでしょう

Strange as it may sound, every organization,

奇妙に聞こえるかもしれませんが

中小企業からNPOや政府に至るまで あらゆる組織が

from small business to nonprofit to national government,

each will have their own.

独自のＡＩを 持つようになるでしょう

Every town, building and object

あらゆる町や建物や物が

will be represented by a unique interactive persona.

固有の対話型キャラクターを 備えるようになります

And these won't just be mechanistic assistants.

それは単なる機械的な アシスタントではなく

They'll be companions, confidants,

伴侶 親友 同僚 仲間 パートナーとなる

colleagues, friends and partners,

as varied and unique as we all are.

多様で個性的な 人間のような存在です

At this point, AIs will convincingly imitate humans at most tasks.

ＡＩは多くのタスクにおいて 人間そっくりにふるまい

And we'll feel this at the most intimate of scales.

とても親密な相手と 感じられるでしょう

An AI organizing a community get-together for an elderly neighbor.

ＡＩが近所のお年寄りのための 集まりを催し

A sympathetic expert helping you make sense of a difficult diagnosis.

親身な専門家として難しい病気の 理解を助けてくれます

But we'll also feel it at the largest scales.

大きなスケールでも 存在感を増すでしょう

Accelerating scientific discovery,

科学的発見を加速させ

autonomous cars on the roads,

自動運転車やドローンが 当たり前になり

drones in the skies.

They'll both order the takeout and run the power station.

テイクアウトの注文受けから 発電所の運転までこなします

They’ll interact with us and, of course, with each other.

人間とも他のＡＩとも やり取りするようになり

They'll speak every language,

あらゆる言語を話し

take in every pattern of sensor data,

あらゆるセンサーデータや

sights, sounds,

情景 音声など

streams and streams of information,

膨大な情報を読み取ります

far surpassing what any one of us could consume in a thousand lifetimes.

1,000回の人生をかけても 人間には処理しきれない量です

So what is this?

これは何なのか？

What are these AIs?

ＡＩとは何者なのか？

If we are to prioritize safety above all else,

安全性を何よりも優先しながら

この新たな波が 常に人類を支え 人間の能力を拡大するようにしたい

to ensure that this new wave always serves and amplifies humanity,

then we need to find the right metaphors for what this might become.

そのためには 未来のＡＩを表す 適切なメタファーが必要です

For years, we in the AI community, and I specifically,

長年 私を含め ＡＩ分野の人間は

have had a tendency to refer to this as just tools.

ＡＩを単なるツールだと 言ってきましたが

But that doesn't really capture what's actually happening here.

それでは今の状況を 捉えることはできません

AIs are clearly more dynamic,

ＡＩは もっとダイナミックで

more ambiguous, more integrated

曖昧かつ 統合されたもので

and more emergent than mere tools,

意外性があり

完全に人間の制御下にある 単なるツールとは違っています

which are entirely subject to human control.

So to contain this wave,

この波を囲い込み

to put human agency at its center

主体としての人間を 中心に置きながら

and to mitigate the inevitable unintended consequences

避けられない不測の事態を 緩和するためには

that are likely to arise,

we should start to think about them as we might a new kind of digital species.

ＡＩを新種の電子生物として 考える必要があるでしょう

Now it's just an analogy,

これはただのアナロジーで 文字通りの意味ではなく

it's not a literal description, and it's not perfect.

完璧なものでもありません

For a start, they clearly aren't biological in any traditional sense,

通常の意味での 生物ではありませんが

but just pause for a moment

少し立ち止まって

and really think about what they already do.

その「生き物」がすでにしていることを 考えてみましょう

They communicate in our languages.

人間の言葉で コミュニケーションします

They see what we see.

我々と同じものを見ています

They consume unimaginably large amounts of information.

想像し難いほど大量の情報を 吸収します

They have memory.

記憶があり

They have personality.

個性があり

They have creativity.

創造性があります

They can even reason to some extent and formulate rudimentary plans.

ある程度の理性があり 大まかなプランを作る能力もあります

They can act autonomously if we allow them.

自律的に行動させることも可能です

And they do all this at levels of sophistication

我々の知る 単なるツールとは 比較にならない

that is far beyond anything that we've ever known from a mere tool.

はるかに高いレベルの 賢さを備えています

And so saying AI is mainly about the math or the code

ＡＩが 数学やコードで できたものだと言うのは

is like saying we humans are mainly about carbon and water.

人間を 炭素と水でできたものだと 言うようなものです

It's true, but it completely misses the point.

間違ってはいませんが 要点を外しています

And yes, I get it, this is a super arresting thought

これはとても興味深い考え方 というだけでなく

but I honestly think this frame helps sharpen our focus on the critical issues.

重要な問題の焦点を はっきりさせてくれると思います

What are the risks?

リスクは何なのか？

What are the boundaries that we need to impose?

どんな境界を 設ける必要があるのか？

What kind of AI do we want to build or allow to be built?

どんなＡＩを作りたいのか あるいは 作ることを許すのか？

This is a story that's still unfolding.

これは今も展開中の話です

Nothing should be accepted as a given.

何事もそのまま 受け入れるのではなく

We all must choose what we create.

何を作るのか 皆で選ぶ必要があります

What AIs we bring into the world, or not.

どんなＡＩを世に出すのか あるいは出さないのか

These are the questions for all of us here today,

これは今日ここにいる人 すべてにとって

and all of us alive at this moment.

今生きている人 すべてにとっての問題です

For me, the benefits of this technology are stunningly obvious,

私にとって この技術の利点は 極めて明白で

and they inspire my life's work every single day.

日々私のライフワークへの 刺激になっていますが

But quite frankly, they'll speak for themselves.

率直に言ってそれは 自ずと明らかになるでしょう

Over the years, I've never shied away from highlighting risks

一方で私は ずっと リスクにも光を当て

and talking about downsides.

負の面について 語ってきました

Thinking in this way helps us focus on the huge challenges

リスクも含めた考え方によって

我々みんなの前にある巨大な問題に 集中できるようになります

that lie ahead for all of us.

But let's be clear.

ただはっきり言っておきたいのは

There is no path to progress

テクノロジーを捨てて 進歩の道はないということ

where we leave technology behind.

The prize for all of civilization is immense.

文明社会全体に対し その恩恵は膨大です

We need solutions in health care and education, to our climate crisis.

医療や教育や気候危機のための 解決策が必要です

And if AI delivers just a fraction of its potential,

ＡＩの持つ可能性の一部でも 実現されたなら

the next decade is going to be the most productive in human history.

この先10年は人類史上 最も生産的な時代となるでしょう

Here's another way to think about it.

別の考え方をしてみましょう

In the past,

過去において経済的成長を もたらしたものには

unlocking economic growth often came with huge downsides.

大きな負の側面がありました

The economy expanded as people discovered new continents

新大陸が発見され 新たな開拓地が得られたことで

and opened up new frontiers.

経済が発展しましたが

But they colonized populations at the same time.

同時に植民地化が進みました

We built factories,

工場が作られましたが

but they were grim and dangerous places to work.

働くには陰気で 危険な場所でした

We struck oil,

石油が掘り当てられましたが

but we polluted the planet.

地球が汚染されることになりました

Now because we are still designing and building AI,

我々はＡＩを設計し 構築する途上にあり

we have the potential and opportunity to do it better,

ずっと良いものにしていける 機会や可能性があります

radically better.

And today, we're not discovering a new continent

私たちは新大陸を発見して 資源を荒らしているわけではなく

and plundering its resources.

We're building one from scratch.

一から作っているのです

Sometimes people say that data or chips are the 21st century’s new oil,

データやマイクロチップは 21世紀の石油だと言う人がいますが

but that's totally the wrong image.

間違ったイメージだと思います

AI is to the mind

精神にとってのＡＩは

what nuclear fusion is to energy.

エネルギーにとっての 核融合みたいなものです

Limitless, abundant,

豊かで 限りがなく

world-changing.

世界を変えるものです

And AI really is different,

ＡＩとは全く新しいもので

and that means we have to think about it creatively and honestly.

だからこそ 創造的かつ率直に 考える必要があります

We have to push our analogies and our metaphors

今後起こることに対応できるよう

to the very limits

アナロジーやメタファーを 極限まで押し進める必要があります

to be able to grapple with what's coming.

Because this is not just another invention.

ＡＩは単なる一個の 発明品ではなく

AI is itself an infinite inventor.

それ自体が際限のない 発明者なのです

And yes, this is exciting and promising and concerning

同時にエキサイティングで 有望で 心配の種で 興味の尽きないものです

and intriguing all at once.

To be quite honest, it's pretty surreal.

率直に言って 不思議にさえ感じます

But step back,

一歩下がって

see it on the long view of glacial time,

氷河時代のような 長い時間軸で捉えれば

and these really are the very most appropriate metaphors that we have today.

私たちにとって最も適切な メタファーが得られるでしょう

Since the beginning of life on Earth,

地球が始まった時から

we've been evolving, changing

私たちは進化し 変化し

and then creating everything around us in our human world today.

今日の人間世界の あらゆるものを 生み出してきました

And AI isn't something outside of this story.

ＡＩも例外ではありません

In fact, it's the very opposite.

むしろ逆です

It's the whole of everything that we have created,

ＡＩは 私たちが生み出してきた すべてのものを

distilled down into something that we can all interact with

やり取りができて役立つ形に まとめたものなのです

and benefit from.

It's a reflection of humanity across time,

人類の歴史の反映であり

and in this sense,

その意味では 新種のものではありません

it isn't a new species at all.

This is where the metaphors end.

メタファーは ここまでです

Here's what I'll tell Caspian next time he asks.

今度甥に聞かれたら こう答えるつもりです

AI isn't separate.

ＡＩは人間と離れた存在ではなく

AI isn't even in some senses, new.

ある意味 新しいものでもない

AI is us.

ＡＩは私たちみんなだということ

It's all of us.

And this is perhaps the most promising and vital thing of all

これは最も有望で 重要なものであり

that even a six-year-old can get a sense for.

６歳児でさえ それを感じ取れるくらいです

As we build out AI,

ＡＩを構築する上で

we can and must reflect all that is good,

反映できるもの 反映すべきものは

良いもののすべて

all that we love,

愛するものすべて

all that is special about humanity:

人間に特有のものの すべてです

our empathy, our kindness,

共感力に 優しさ 好奇心 創造性

our curiosity and our creativity.

This, I would argue, is the greatest challenge of the 21st century,

これは21世紀における 人類最大の挑戦ですが

but also the most wonderful,

それはまた私たちみんなにとって

inspiring and hopeful opportunity for all of us.

素晴らしく 刺激的で 希望にあふれる 機会でもあるのです

Thank you.

ありがとうございました

(Applause)

（拍手）

Chris Anderson: Thank you Mustafa.

（クリス・アンダーソン） ありがとうございました

It's an amazing vision and a super powerful metaphor.

見事なビジョンと とても力強いメタファーでした

You're in an amazing position right now.

あなたは今すごい立場にあります

I mean, you were connected at the hip

OpenAIが生み出す 素晴らしい成果に関わりつつ

to the amazing work happening at OpenAI.

You’re going to have resources made available,

膨大なリソースを動かせます

there are reports of these giant new data centers,

新たな巨大データセンター建設や 1,000億ドル規模の投資の報道もあります

100 billion dollars invested and so forth.

And a new species can emerge from it.

新種の生物がまた そこから生まれるかもしれませんね

I mean, in your book,

あなたの著書では

you did, as well as painting an incredible optimistic vision,

すごく楽観的なビジョンを 描き出すと同時に

you were super eloquent on the dangers of AI.

ＡＩの危険性についても 語られています

And I'm just curious, from the view that you have now,

ご自身の現在の考えでは

what is it that most keeps you up at night?

夜眠れないくらいの 大きな懸念は何ですか？

Mustafa Suleyman: I think the great risk is that we get stuck

（ムスタファ・スレイマン） 最大の危険は

悲観的忌避の罠にはまること だと思います

in what I call the pessimism aversion trap.

You know, we have to have the courage to confront

最大限の恩恵を享受するために

the potential of dark scenarios

潜在的危険のある筋書きに立ち向かう 勇気を持つ必要があります

in order to get the most out of all the benefits that we see.

So the good news is that if you look at the last two or three years,

幸いなのは この２、３年を見ても

there have been very, very few downsides, right?

マイナス面というのは ごくわずかだったということです

It’s very hard to say explicitly what harm an LLM has caused.

大規模言語モデルにより生じた害について 明言するのは難しいでしょう

But that doesn’t mean that that’s what the trajectory is going to be

ただ今後10年もそうなるとは 言い切れません

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

そのため ある種の機能には 注意を払う必要があり

take for example, autonomy.

ひとつは自律性です

Autonomy is very obviously a threshold

自律性を持たせることで 社会へのリスクが増すので

over which we increase risk in our society.

And it's something that we should step towards very, very closely.

すごく注意して進める 必要があります

The other would be something like recursive self-improvement.

もうひとつは再帰的自己改善です

If you allow the model to independently self-improve,

ＡＩモデルが 自分で自分のコードを更新し 自己改善したり

update its own code,

explore an environment without oversight, and, you know,

人間による監督なしで 周りの世界を探索して

without a human in control to change how it operates,

人間による制御なしに 挙動を変えていくとしたら

that would obviously be more dangerous.

当然危険性は高くなります

But I think that we're still some way away from that.

ただ それまでには まだ時間があり

その問題に直面するのは 5〜10年は先になるでしょうが

I think it's still a good five to 10 years before we have to really confront that.

But it's time to start talking about it now.

議論し始めてよい時期だと 思います

（クリス） 電子生物は 生物学的な種とは異なり

CA: A digital species, unlike any biological species,

can replicate not in nine months,

９ヶ月ではなく ９ナノ秒で繁殖し

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

自己の複製を無数に生成し

all of which have more power than we have in many ways.

多くの面で人間よりも強力です

I mean, the possibility for unintended consequences seems pretty immense.

予期せぬ結果が生じる可能性は すごく大きいと思えます

And isn't it true that if a problem happens,

問題が起きる時には １時間で起きうるという話は

it could happen in an hour?

本当でしょうか？

MS: No.

（ムスタファ） いいえ

That is really not true.

そういうわけではありません

I think there's no evidence to suggest that.

それを示すような証拠は ないと思います

And I think that, you know,

「知能爆発」と呼ばれているもの だと思いますが

that’s often referred to as the “intelligence explosion.”

And I think it is a theoretical, hypothetical maybe

理論的・仮説的可能性として

that we're all kind of curious to explore,

興味深くはあっても

but there's no evidence that we're anywhere near anything like that.

そのようなことが近く起きうる証拠は 何もありません

And I think it's very important that we choose our words super carefully.

言葉は慎重に 選ばねばなりません

Because you're right, that's one of the weaknesses of the species framing,

種のメタファーの弱点の一つは おっしゃる通り

that we will design the capability for self-replication into it

自己複製の能力を考えがち ということでしょう

if people choose to do that.

And I would actually argue that we should not,

それは危険性の高い 能力の一つで

that would be one of the dangerous capabilities

ＡＩを設計する際に 組み込むべきではないと思います

that we should step back from, right?

So there's no chance that this will "emerge" accidentally.

自己複製の能力は 偶然「発現」するわけではなく

I really think that's a very low probability.

偶然生じる可能性は とても低いでしょう

It will happen if engineers deliberately design those capabilities in.

そういう能力を 意図的に組み込むか

And if they don't take enough efforts to deliberately design them out.

意図して除く努力を怠るとしたら 起きうるということで

And so this is the point of being explicit

はじめから安全性を意図した 設計にすることを明確にし

and transparent about trying to introduce safety by design very early on.

透明化することが大切です

CA: Thank you, your vision of humanity injecting into this new thing

（クリス）人類が ＡＩという この新しいものに

人間の最善の部分を取り入れ

the best parts of ourselves,

avoiding all those weird, biological, freaky,

時により人間が見せる 奇妙でおぞましい 生物的傾向を避けるというのは

horrible tendencies that we can have in certain circumstances,

I mean, that is a very inspiring vision.

素晴らしいビジョンだと思います

And thank you so much for coming here and sharing it at TED.

TEDに来てお話しいただき ありがとうございました

Thank you, good luck.

期待しています

(Applause)

(拍手)