Is AI the most important technology of the century?

翻訳: Nao Okazaki 校正: Tomoyuki Suzuki

What's the most important century in human history?

歴史上 最も重要な世紀とは？

Some might argue it’s a period of extensive military campaigning,

アレクサンダー大王による 軍事作戦が行われ

like Alexander the Great’s in the 300s BCE,

政治や文化的な境界線が変更された ―

which reshaped political and cultural borders.

紀元前300年代という人もいれば

Others might cite the emergence of a major religion,

主要な宗教である イスラム教が創始 成文化され

such as Islam in the 7th century,

国境を越えて

which codified and spread values across such borders.

その価値観が広まった ７世紀という人もいます

Or perhaps it’s the Industrial Revolution of the 1700s

もしくは産業革命が起きた 1700年代はどうでしょうか？

that transformed global commerce

産業革命は商業の在り方を

and redefined humanity's relationship with labor.

世界的な規模で変革し 人類と労働の関係を再定義しました

Whatever the answer, it seems like any century vying for that top spot

どの答えにしても 最重要世紀を狙う候補はいずれも

is at a moment of great change—

大きな変化が起きた時 ―

when the actions of our ancestors shifted humanity’s trajectory

つまり 先祖の行動に変化が起き その後の世紀に向けて

for centuries to come.

人類が歩む軌跡に変化が起きた時代です

So if this is our metric, is it possible that right now—

それが基準ならば まさに今こそ ―

this century— is the most important one yet?

今世紀こそ 最も重要だと 言えるでしょうか？

The 21st century has already proven to be a period of rapid technological growth.

21世紀は 既に急速な技術革新を 成し遂げています

Phones and computers have accelerated the pace of life.

電話やコンピュータは 人生のスピードを速めました

And we’re likely on the cusp of developing new transformative technologies,

また 変革を起こすような新技術が 登場しようとしています

like advanced artificial intelligence,

例えば 進化した人工知能など

that could entirely change the way people live.

人の生き方を大きく変える可能性を秘めた 新技術の登場です

Meanwhile, many technologies we already have

一方で 既にある技術の多くは

contribute to humanity’s unprecedented levels of existential risk—

過去最悪のレベルで 人類の存続を脅かしています

that’s the risk of our species going extinct

つまり 人類を絶滅させたり

or experiencing some kind of disaster that permanently limits

大災害が引き起こされることにより

humanity’s ability to grow and thrive.

人類の成長と繁栄が 恒久的に制限されるリスクです

The invention of the atomic bomb marked a major rise in existential risk,

原子爆弾の発明は 人類存続に対する最たるリスクであり

and since then we’ve only increased the odds against us.

それ以来 絶滅のリスクは 高まる一方です

It’s profoundly difficult to estimate the odds

人類の崩壊が 今世紀中に起こる確率を

of an existential collapse occurring this century.

推定することは 極めて困難です

Very rough guesses put the risk of existential catastrophe

核の冬や気候変動による大惨事は

due to nuclear winter and climate change at around 0.1%,

おおよそ0.1%の確率で起きると 見積もられており

with the odds of a pandemic causing the same kind of collapse

パンデミックにより 同様の惨事が起こる確率は

at a frightening 3%.

なんと３％と見積もられています

Given that any of these disasters could mean the end of life as we know it,

いずれの惨事も 今あるような世界の 終わりを意味するのならば

these aren’t exactly small figures,

決して低い確率とはいえません

And it’s possible this century could see the rise of new technologies

今世紀中に 存在リスクを 更に高めるような新技術が

that introduce more existential risks.

生み出されるかもしれません

AI experts have a wide range of estimates regarding

汎用人工知能の出現時期については

when artificial general intelligence will emerge,

AIの専門家によって 大きなばらつきがありますが

but according to some surveys, many believe it could happen this century.

いくつかの調査によると 多くの専門家は 今世紀だと考えています

Currently, we have relatively narrow forms of artificial intelligence,

現在は AIは 限定的な機能しかもたず

which are designed to do specific tasks like play chess or recognize faces.

“チェス”や “顔認識”といった 特定のタスクを行うように設計されています

Even narrow AIs that do creative work are limited to their singular specialty.

クリエイティブなAIでさえ 専門外のことはできません

But artificial general intelligences, or AGIs,

しかし AGIと呼ばれる汎用人工知能は

would be able to adapt to and perform any number of tasks,

複数の課題に適応し 作業をこなすことが可能になり

quickly outpacing their human counterparts.

迅速に人間を 超えていくことでしょう

There are a huge variety of guesses about what AGI could look like,

AGIの外形や 人類が別の意識体と

and what it would mean for humanity to share the Earth

地球上で共生することの 意味については

with another sentient entity.

様々な予測があります

AGIs might help us achieve our goals,

AGIは私たちの目的達成のために 役立つかもしれませんし

they might regard us as inconsequential,

私たちを つまらぬ者とみなしたり

or, they might see us as an obstacle to swiftly remove.

邪魔者として さっさと 排除したりするかもしれません

So in terms of existential risk,

ですから 人類の存続のためには

it's imperative the values of this new technology align with our own.

この新技術の価値を 上手く利用していかねばなりません

This is an incredibly difficult philosophical and engineering challenge

これは 多くの繊細で緻密な 設計が求められる ―

that will require a lot of delicate, thoughtful work.

哲学的にも工学的にも大変な難題です

Yet, even if we succeed, AGI could still lead to another complicated outcome.

例え成功しても AGIは 別の問題を生じさせる可能性があります

Let’s imagine an AGI emerges with deep respect for human life

人類を深く尊重し

and a desire to solve all humanity’s troubles.

人類の諸課題の解決に努める AIの登場を想像してみましょう

But to avoid becoming misaligned,

人の目的と整合的で あろうとするばかりに

it's been developed to be incredibly rigid about its beliefs.

その信念に対し 極めて厳格であるように作られます

If these machines became the dominant power on Earth,

この機械が地球を支配すれば

their strict values might become hegemonic,

厳格な価値観が支配的になり

locking humanity into one ideology that would be incredibly resistant to change.

人類は一つの価値観に縛られ 変化は許されなくなるかもしれません

History has taught us that no matter how enlightened

私たちが歴史から学んできたことは 自分たちの文明が

a civilization thinks they are,

いかに啓蒙的だと信じていても

they are rarely up to the moral standards of later generations.

後世の倫理観に及ぶことは 滅多にないということです

And this kind of value lock in could permanently distort or constrain

このように一つの価値観に固定してしまうと 人類の道徳観の成長を

humanity’s moral growth.

恒久的に捻じ曲げ 抑制するかもしれません

There's a ton of uncertainty around AGI,

AGIには まだ多くの不確実性があり

and it’s profoundly difficult to predict how any existential risks

存続の危機が次の世紀に どのように展開するか

will play out over the next century.

予測することは非常に困難です

It’s also possible that new, more pressing concerns

このような議論も 新たな深刻な問題が生じることで

might render these risks moot.

無意味になるかもしれません

But even if we can't definitively say that ours is the most important century,

しかし 今が最も重要な世紀だと 断言できなくても

it still seems like the decisions we make might have a major impact

それでもなお 私たちの選択は 人類の未来に大きな影響を

on humanity’s future.

及ぼすように思われます

So maybe we should all live like the future depends on us—

だから 未来は私たち次第だと思って 生きていくべきなのでしょう

because actually, it just might.

実際 そうなのかも しれないのですから