How AI Could Save (Not Destroy) Education | Sal Khan | TED

翻訳: Yasushi Aoki 校正: Kazunori Akashi

So anyone who's been paying attention for the last few months

この数ヶ月 注意していたなら

has been seeing headlines like this,

こんな見出しを 目にしたことでしょう

especially in education.

特に教育関連で

The thesis has been:

曰く

students are going to be using ChatGPT and other forms of AI

生徒はChatGPTや その他のＡＩツールを使って

to cheat, do their assignments.

宿題でズルをし

They’re not going to learn.

何も学ばなくなり

And it’s going to completely undermine education as we know it.

教育は台無しになるだろうと

Now, what I'm going to argue today

私が今日お話ししたいのは

is not only are there ways to mitigate all of that,

適切な策を講じたなら

if we put the right guardrails, we do the right things,

そのような問題は 緩和しうるということ

we can mitigate it.

But I think we're at the cusp of using AI

さらには 教育における かつてなく素晴らしい変化が

for probably the biggest positive transformation

ＡＩにより もたらされようと しているということです

that education has ever seen.

And the way we're going to do that

それは地球上の すべての生徒たちに

is by giving every student on the planet

an artificially intelligent but amazing personal tutor.

ＡＩという優れた 個人教師を与え

And we're going to give every teacher on the planet an amazing,

また地球上の すべての教師たちに

素晴らしいＡＩの補助教員を 付けることで実現されます

artificially intelligent teaching assistant.

And just to appreciate how big of a deal it would be

すべての子供に 個人教師を付けるのが

to give everyone a personal tutor,

いかに大きなことか 理解するために

I show you this clip

このスライドに示した

from Benjamin Bloom’s 1984 2 sigma study,

1984年にベンジャミン・ ブルームが報告した

or he called it the “2 sigma problem.”

「２シグマ問題」について 説明しましょう

The 2 sigma comes from two standard deviation,

２シグマというのは

標準偏差の２倍 (2σ) ということです

sigma, the symbol for standard deviation.

And he had good data that showed that look, a normal distribution,

従来の教育では

生徒の成績は

that's the one that you see in the traditional bell curve

自然に画面中央の 釣鐘曲線のようになりますが

right in the middle, that's how the world kind of sorts itself out,

that if you were to give personal 1-to-1 to tutoring for students,

生徒に個人教師を付けると

then you could actually get a distribution that looks like that right.

右端のような 分布になるのです

It says tutorial 1-to-1 with the asterisks,

like, that right distribution,

標準偏差の２倍分の 改善が見られます

a two standard-deviation improvement.

Just to put that in plain language,

これを普通の言葉で言うと

that could take your average student and turn them into an exceptional student.

平均的な生徒が 飛び抜けて優秀になり

It can take your below-average student

平均以下の生徒が

and turn them into an above-average student.

平均以上になる ということです

Now the reason why he framed it as a problem, was he said,

ブルームがなぜこれを 「問題」と呼んだかというと

well, this is all good,

学校のような集団指導で それがいかに実現できるのか

but how do you actually scale group instruction this way?

分からなかったからです

How do you actually give it to everyone in an economic way?

生徒全員に個人教師を付けることが どうすれば経済的に可能になるのか？

What I'm about to show you is I think the first moves towards doing that.

これからお話しするのは そのための最初の一手です

Obviously, we've been trying to approximate it in some way

カーン・アカデミーでは それに近いことができないものかと

at Khan Academy for over a decade now,

10年以上取り組んできましたが

but I think we're at the cusp of accelerating it dramatically.

それが今 劇的に 加速しようとしています

I'm going to show you the early stages of what our AI,

私たちの初期段階のＡＩの 「カーンミーゴ」に

which we call Khanmigo,

what it can now do

現在どんなことができ

and maybe a little bit of where it is actually going.

どういうことを目指しているのか お見せします

So this right over here is a traditional exercise

これは従来の練習問題で

皆さんやお子さんがカーン・アカデミーで ご覧になったことがあるかもしれません

that you or many of your children might have seen on Khan Academy.

But what's new is that little bot thing at the right.

新しいのは右下にあるボットです

And we'll start by seeing one of the very important safeguards,

安全策の一環として 対話は記録され

which is the conversation is recorded and viewable by your teacher.

教師が確認できるように なっており

It’s moderated actually by a second AI.

第２のＡＩによって チェックされています

And also it does not tell you the answer.

また これは答えを直接 教えたりはしません

It is not a cheating tool.

生徒が 「答えを教えて」と言うと

When the student says, "Tell me the answer,"

ＡＩが言います 「私がご案内します

it says, "I'm your tutor.

What do you think is the next step for solving the problem?"

この問題を解く次のステップは 何だと思いますか？」

生徒が間違ったときは—

Now, if the student makes a mistake, and this will surprise people

大規模言語モデルは数学が苦手だと 思っている皆さんは驚くかもしれませんが

who think large language models are not good at mathematics,

notice, not only does it notice the mistake,

間違いに気付くだけでなく

it asks the student to explain their reasoning,

どういう考え方をしたのか 生徒に尋ねます

but it's actually doing what I would say,

これは並の教師なら しないような

not just even an average tutor would do, but an excellent tutor would do.

優れた教師がする であろうことです

It’s able to divine what is probably the misconception in that student’s mind,

生徒が考え違いをしている ところを見つけられるのです

that they probably didn’t use the distributive property.

どうも分配法則を 理解していないようだと

Remember, we need to distribute the negative two

ここで -2 は括弧の中の 9 と 2m の 両方にかける必要があります

to both the nine and the 2m inside of the parentheses.

This to me is a very, very, very big deal.

どこで間違ったか分かることが すごく大切なのは

And it's not just in math.

数学に限ったこと ではありません

This is a computer programming exercise on Khan Academy,

こちらはカーン・アカデミーの プログラミングの練習問題で

where the student needs to make the clouds part.

２つの雲を左右に分けよ というものです

And so we can see the student starts defining a variable, left X minus minus.

生徒は変数を定義し leftX--とやっていますが

It only made the left cloud part.

左の雲しか動きません

But then they can ask Khanmigo, what’s going on?

生徒はカーンミーゴに 聞くことができます

Why is only the left cloud moving?

なぜ左の雲しか 動かないのか？

And it understands the code.

カーンミーゴは プログラムを理解でき

It knows all the context of what the student is doing,

生徒のやろうとしていることを 知っていて

and it understands that those ellipses are there to draw clouds,

あの楕円で雲を描いているのだと 理解しています

which I think is kind of mind-blowing.

結構すごいことだと 思いますが

And it says, "To make the right cloud move as well,

そしてアドバイスします 「右の雲も動かしたいなら

try adding a line of code inside the draw function

フレームごとに 1 ピクセルずつ 変数 rightX を増やすコードを

that increments the right X variable by one pixel in each frame."

描画関数に 追加してみて」

Now, this one is maybe even more amazing because we have a lot of math teachers.

これが特に素晴らしいのは 数学の先生ならたくさんいますが

We've all been trying to teach the world to code,

世界中でプログラミング教育を 進めようとしているのに

but there aren't a lot of computing teachers out there.

プログラミングの先生が あまりいないからです

And what you just saw, even when I'm tutoring my kids,

私が自分の子供たちに プログラミングを教える場合でさえ

when they're learning to code,

これほど素早く上手くは 手助けできないでしょう

I can't help them this well, this fast,

this is really going to be a super tutor.

これは本当に すごい先生なんです

And it's not just exercises.

練習問題に限りません

It understands what you're watching.

生徒が見ている動画の 背景も理解していて

It understands the context of your video.

It can answer the age-old question, “Why do I need to learn this?”

「なんでこんなの学ばなきゃいけないの？」 という昔ながらの疑問にも答えられ

And it asks Socratically, "Well, what do you care about?"

ソクラテスのように尋ねます 「君が関心あることは何？」

And let's say the student says, "I want to be a professional athlete."

生徒が例えば「プロの運動選手に なること」だと言ったなら

And it says, "Well, learning about the size of cells,

「この動画では細胞の 大きさについて学ぶけど

which is what this video is,

that could be really useful for understanding nutrition

それは栄養とか体の機能について理解する上で とても役に立つんだ」と

and how your body works, etc."

教えてくれます

It can answer questions, it can quiz you,

疑問に答え 質問を投げかけ

it can connect it to other ideas,

他の知識に結び付けてくれ

you can now ask as many questions of a video

生徒は動画に関して いくらでも質問することができます

as you could ever dream of.

(Applause)

(拍手)

Another big shortage out there,

もうひとつ 不足しているものですが

私の行った高校では

I remember the high school I went to,

the student-to-guidance counselor ratio was about 200 or 300 to one.

進路指導者は生徒２、３百人に １人しかいませんでした

多くの国では さらにひどいでしょう

A lot of the country, it's worse than that.

We can use Khanmigo to give every student a guidance counselor,

カーンミーゴを使って 生徒のひとりひとりに

学習やキャリアや人生のコーチを 付けてやることができます

academic coach, career coach, life coach,

which is exactly what you see right over here.

画面に出ているのがそうです

And we launched this with the GPT-4 launch.

私たちはこれを GPT-4に合わせて公開しました

We have a few thousand people on this.

取り組んでいる人が 数千人います

これは作り物のデモではなく

This isn't a fake demo,

this is really it in action.

実際に稼働しているものです

And then there is, you know,

さらに難しいこと

things that I think it would have been even harder,

人間の教師にも 簡単ではない

it would have been a little science fiction to do

ちょっとＳＦじみたことも 試みています

with even a traditional tutor.

私たちはアリゾナ州立大学と一緒に

We run an online high school with Arizona State University

カーン・ワールド・スクールという オンラインの高校を運営していて

called Khan World School,

and we have a student who attends that online school, based in India.

そこにインドから学んでいる 生徒がいます

Her name's Saanvi.

サンヴィという子ですが

And she was doing a report on "The Great Gatsby."

『グレート・ギャツビー』の 感想文を書いていました

And when she was reading "The Great Gatsby,"

小説の中で ジェイ・ギャツビーは

Jay Gatsby keeps looking at the green light off into the distance.

遠くの緑の灯りを よく見つめていて

And she's like, "Why does he do that?"

なぜなのか彼女は 疑問に思いました

She did some web searches, and people have obviously studied this

ネットで調べてみて

その象徴性について 書いている人も見つけましたが

and commented about the symbolism of that,

but none of it was really resonating with her.

彼女にはピンときませんでした

それからカーンミーゴを通じて

And then she realized that she had Khanmigo

and that she could talk to Jay Gatsby himself.

ジェイ・ギャツビー氏自身に 聞けばいいと気づきました

And so, "Ah, splendid choice, old sport.

「ああ 素晴らしい選択だね 友よ

I am now Jay Gatsby, the enigmatic millionaire

私はジェイ・ギャツビー

フィッツジェラルドの名作の中の 謎めいた億万長者だ」

from F. Scott Fitzgerald’s classic.”

And so, "Why do you keep staring at the green light?"

「なぜいつも緑の灯りを見つめて いるんですか？」と彼女が聞くと

"Ah, the green light, old sport.

「緑の灯りのことか 友よ

It's a symbol of my dreams and desires, you see.

あれは私の夢や欲求の象徴でね

It's situated at the end of Daisy Buchanan's dock

私の邸からは湾の対岸になる デイジー・ブキャナンのドックにあるんだが

across the bay from my mansion.

I gaze at it longingly as it represents my yearning for the past

それを見つめているのは 過去への憧憬と

and my hope to reunite with Daisy, the love of my life."

生涯焦がれ続けるデイジーと 再び一緒になる希望を表しているんだ」

And what was cool is, Saanvi then said, “I had this long conversation,”

素敵なのは その後サンヴィが

「ギャツビーさん 長々お時間を取らせて すいませんでした」と言ったことで

she called him “Mr. Gatsby,”

and at the end she actually apologized for taking his time,

which I thought was very polite of her.

とても礼儀正しいですよね (笑)

But you can imagine this unlocks learning literature, learning ...

これが文学などの学習をいかに変えるか 想像できるでしょう

You could talk to historical figures.

歴史上の人物とだって話せるし

We're even probably going to add an activity

例えばミシシッピ川なんかとも 会話できるようにしたいと思っています

you can talk to like, the Mississippi River.

It brings things to life in ways that really were science fiction

半年か１年前には ＳＦの世界の話でしかなかったことが

even six months or a year ago.

実現できるのです

Students can get into debates with the AI.

ＡＩと討論することもできます

And we’ve got this here is the student debating

この例は「学生の借金返済義務を 政府は免除すべきか」という議論で

whether we should cancel student debt.

The student is against canceling student debt,

生徒は免除には反対していて

and we've gotten very clear feedback.

それに対して明快な意見を もらっています

We started running it at Khan World School in our lab school that we have,

私たちのモデル校である カーン・ラボ・スクールで

これの運用を始めましたが

Khan Lab School.

生徒たちは言っています

The students, the high school students especially,

they're saying "This is amazing to be able to fine-tune my arguments

「人の目を気にせず 議論を磨けるのは

素晴らしいです

without fearing judgment.

教室での授業にも

It makes me that much more confident

to go into the classroom and really participate."

前より自信を持って 参加できるようになりました」

And we all know that Socratic dialogue debate is a great way to learn,

ソクラテス的な対話が 優れた学びの方法だと分かっていても

but frankly, it's not out there for most students.

それを手にできない生徒が たくさんいます

But now it can be accessible to hopefully everyone.

それが今 みんなの手に 届くものになったのです

A lot of the narrative, we saw that in the headlines, has been,

あとニュースの見出しで よく見るのは

"It's going to do the writing for kids.

「ＡＩが子供の代わりに書き

Kids are not going to learn to write."

子供に書く力が付かない」 ということですが

But we are showing that there's ways that the AI doesn't write for you,

ＡＩが代わりに書くのではなく

ＡＩと一緒に書けるんだと 私たちは示しています

it writes with you.

So this is a little thing,

私の８歳の息子は これに夢中です

and my eight year old is addicted to this,

and he's not a kid that really liked writing before,

元々書くのが好きな子では ありませんでした

but you can say,

「ホラー小説を書きたい」と言うと

“I want to write a horror story,”

and it says, "Ooh, a horror story, how spine-tingling and thrilling.

「ホラー小説だって！ そりゃ背筋が凍りそうだ

Let's dive into the world of eerie shadows and chilling mysteries."

よし 不気味な影とゾッとする謎の世界に 一緒に飛び込もう」と応じ

And this is an activity where the student will write two sentences,

生徒とＡＩで ２文ずつ 交互に書いていきます

and then the AI will write two sentences.

And so they collaborate together on a story.

協力して物語を 作り上げるのです

The student writes, "Beatrice was a misunderstood ghost.

生徒は「ベアトリスは 誤解されている幽霊です

She wanted to make friends but kept scaring them by accident."

友達を作りたいと思っていますが うっかり怖がらせてしまうのです」と書き

And the AI says, "Poor Beatrice, a lonely spirit yearning for companionship.

ＡＩが「可哀想なベアトリス — 仲間を求める孤独な魂

One day she stumbled upon an old abandoned mansion," etc.

ある日彼女は古い打ち捨てられた邸宅に やってきました」と書くという具合に

I encourage you all to hopefully one day try this.

皆さんにも一度 試してみてほしいと思います

This is surprisingly fun.

これがビックリするくらい 楽しいんです

Now to even more directly hit this use case.

さらに直接的な例を お見せしましょう

And what I'm about to show you,

ここまでお見せしたものは

everything I showed you so far

すでにカーンミーゴに 組み込まれているものですが

is actually already part of Khanmigo, and what I’m about to show you,

これからお見せするのは

we haven't shown to anyone yet, this is a prototype.

まだ誰にも見せていない 開発中のもので

We hope to be able to launch it in the next few months,

今後数ヶ月内に 公開したいと思っています

生成ＡＩを 直接使ったもので

but this is to directly use AI, use generative AI,

to not undermine English and language arts

国語教育を損なうのでなく 強化します

but to actually enhance it in ways

that we couldn't have even conceived of even a year ago.

１年前には 思いも付かなかったものです

This is reading comprehension.

これは読解問題で

The students reading Steve Jobs's famous speech at Stanford.

スティーブ・ジョブズの有名な スタンフォード大でのスピーチを読みます

And then as they get to certain points,

読み進めていくと 問いが出てきます

they can click on that little question.

And the AI will then Socratically, almost like an oral exam,

ＡＩがソクラテスや 口頭試問かのように

ask the student about things.

文章の一部を ハイライトして

And the AI can highlight parts of the passage.

生徒に問いかけてきます

Why did the author use that word?

なぜ著者はこの言葉を 使ったのか？

What was their intent?

その意図は何か？

Does it back up their argument?

それは主張を裏付けているか？

They can start to do stuff that once again,

このレベルまで 深く掘り下げられる

we never had the capability to give everyone a tutor,

個人教師や文章コーチを すべての人に提供することは

everyone a writing coach to actually dig in to reading at this level.

以前にはできなかったことです

And you could go on the other side of it.

これとは逆に 文章コーチとなって

And we have whole work flows that helps them write,

生徒が書いていくのを 手助けするワークフローもあります

helps them be a writing coach, draw an outline.

But once a student actually constructs a draft,

ここで生徒は 草稿を書くのですが

and this is where they're constructing a draft,

they can ask for feedback once again,

ＡＩを優れた文章コーチとして

意見を求めることができます

as you would expect from a good writing coach.

In this case, the student will say, let's say,

「自分の論拠は主張を裏付けている？」と 生徒は尋ねています

"Does my evidence support my claim?"

And then the AI, not only is able to give feedback,

ＡＩは単にフィードバックを 与えるだけでなく

but it's able to highlight certain parts of the passage and says,

文章の一部をハイライトしながら

"On this passage, this doesn't quite support your claim,"

「この部分はあなたの主張の 裏付けになっていません」と言い

but once again, Socratically says, "Can you tell us why?"

ソクラテスのように尋ねます 「なぜだか分かりますか？」

So it's pulling the student, making them a better writer,

生徒がより良い書き手になるよう導き

giving them far more feedback

これまでもらったことがないような 細かいフィードバックを与えます

than they've ever been able to actually get before.

And we think this is going to dramatically accelerate writing, not hurt it.

これによって生徒の書く能力は 劇的に改善するでしょう

Now, everything I've talked about so far is for the student.

ここまでは生徒向けのものでしたが

But we think this could be equally as powerful for the teacher

これは教師にとっても 強力な道具となり

to drive more personalized education and frankly

個々の生徒に合った指導ができ

save time and energy for themselves and for their students.

教師も生徒も 時間や労力を 節約できるようになるでしょう

So this is an American history exercise on Khan Academy.

これはカーン・アカデミーの アメリカ史の練習問題で

It's a question about the Spanish-American War.

米西戦争について 質問しています

And at first it's in student mode.

生徒向けのモードでは

And if you say, “Tell me the answer,” it’s not going to tell the answer.

「答えを教えて」と言っても 答え自体を教えることはなく

指導モードになります

It's going to go into tutoring mode.

But that little toggle which teachers have access to,

教師の場合なら

教師モードに 切り替えることで

they can turn student mode off and then it goes into teacher mode.

教師向け指導ガイドを 見られるようになります

And what this does is it turns into --

You could view it as a teacher's guide on steroids.

Not only can it explain the answer,

答えを説明するだけでなく

it can explain how you might want to teach it.

どう教えると良いかも解説して

It can help prepare the teacher for that material.

教師の授業準備を支援し

It can help them create lesson plans, as you could see doing right there.

指導計画を立てる 手助けをします

It'll eventually help them create progress reports

さらには進捗管理や

成績を付ける 手助けもします

and help them, eventually, grade.

So once again, teachers spend about half their time

教師は時間の半分を

そういった準備や 指導計画に費やしており

with this type of activity, lesson planning.

その労力を減らすことで

All of that energy can go back to them

生徒とのやり取りに もっと時間を使えるようになります

or go back to human interactions with their actual students.

(Applause)

(拍手)

So, you know, one point I want to make.

ひとつ明確にしておきたい ことがあります

These large language models are so powerful,

大規模言語モデルは とても強力なので

there's a temptation to say like, well,

みんなそれを ただウェブサイトに 載せるようになり

all these people are just going to slap them onto their websites,

and it kind of turns the applications themselves into commodities.

どのアプリも似たようなものになると 思いがちです

And what I've got to tell you

それだからこそ

is that’s one of the reasons why I didn’t sleep for two weeks

去年の８月にGPT-4に 初めて触れたとき

when I first had access to GPT-4 back in August.

私は２週間眠れませんでした

But we quickly realized that to actually make it magical,

でもカーンミーゴでご覧いただいたような 魔法のようなものを実現するには

I think what you saw with Khanmigo a little bit,

it didn't interact with you the way that you see ChatGPT interacting.

ChatGPTとは違ったやり方が 必要だと気づきました

It was a little bit more magical, it was more Socratic,

魔法のような ソクラテスみたいな存在となり

it was clearly much better at math

数学にも優れていなければ なりません

than what most people are used to thinking.

And the reason is,

それを実現するために

there was a lot of work behind the scenes to make that happen.

裏側で多くのことをしてきました

And I could go through the whole list of everything we've been working on,

魔法のようなものにしようと この６、７ヶ月 私たちが取り組んできたあらゆることを

many, many people for over six, seven months to make it feel magical.

ひとつひとつご紹介しても いいのですが

But perhaps the most intellectually interesting one

中でも知的に 最も興味深い気づきは—

is we realized, and this was an idea from an OpenAI researcher,

これは OpenAI 研究者の アイデアなんですが—

that we could dramatically improve its ability in math

ＡＩが話す前に 考えられるようにすれば

and its ability in tutoring

数学の能力や指導する能力を 劇的に改善できるということです

if we allow the AI to think before it speaks.

So if you're tutoring someone

誰かを教えるとき

and you immediately just start talking before you assess their math,

その人の数学能力を評価せずに いきなり教え始めたら

you might not get it right.

効果的にはできないでしょう

But if you construct thoughts for yourself,

まずは考えをまとめます

and what you see on the right there is an actual AI thought,

右側はＡＩの思考で

ＡＩが自分のために生成し 生徒には見せないものです

something that it generates for itself but it does not share with the student.

then its accuracy went up dramatically,

そうすると正確さが 劇的に向上して

and its ability to be a world-class tutor went up dramatically.

優秀な教師になることができます

And you can see it's talking to itself here.

ここでＡＩの独り言を 見られます

It says, "The student got a different answer than I did,

「生徒の答えが 自分とは違っているが

but do not tell them they made a mistake.

間違っているとは言わずに

Instead, ask them to explain how they got to that step."

どういう手順を踏んだのか 聞いてみよう」

So I'll just finish off, hopefully,

ここまでお見せしてきたのは

私たちが取り組んでいるものの 半分であり

you know, what I’ve just shown you is just half of what we are working on,

and we think this is just the very tip of the iceberg

今後可能になっていくことの ごく一部に過ぎません

of where this can actually go.

And I'm pretty convinced, which I wouldn't have been even a year ago,

ほんの１年前には 考えてもいなかったことですが

that we together have a chance of addressing the 2 sigma problem

みんなの力で２シグマ問題を ２シグマのチャンスに変え

and turning it into a 2 sigma opportunity,

dramatically accelerating education as we know it.

教育を劇的に 加速できるはずです

Now, just to take a step back at a meta level,

振り返って見ると 今日のセッションでは

obviously we heard a lot today, the debates on either side.

ＡＩについて ２つの立場から 色々な議論がありました

There's folks who take a more pessimistic view of AI,

ＡＩに対して悲観的な 見方をする人々は

they say this is scary,

ＡＩは恐ろしいものだと

there's all these dystopian scenarios,

ディストピア的な シナリオを予想し

we maybe want to slow down, we want to pause.

ＡＩ研究を遅らせるか 止めるかすべきだと言い

On the other side, there are the more optimistic folks

他方では 楽観的な人々がいて

that say, well, we've gone through inflection points before,

産業革命のような 歴史的な転換点なら以前にもあり

we've gone through the Industrial Revolution.

It was scary, but it all kind of worked out.

一見恐ろしく見えても 結局はうまく行ったと言います

And what I'd argue right now

これはどっちが正しい という話ではないと思うし

is I don't think this is like a flip of a coin

or this is something where we'll just have to,

ただ成り行きを見守ろう という話でもないと思います

like, wait and see which way it turns out.

I think everyone here and beyond,

この決断には みんなが積極的に関わるべきです

we are active participants in this decision.

I'm pretty convinced that the first line of reasoning

最初に立場を決めてしまったなら

is actually almost a self-fulfilling prophecy,

まさにそのせいで 望まないことが現実化するかもしれません

that if we act with fear and if we say,

もし恐れに動かされ

"Hey, we've just got to stop doing this stuff,"

「これは止めなきゃいけない」 と言うなら

what's really going to happen is the rule followers might pause,

規則に従う人たちは 止めたりスローダウンしたりするでしょうが

might slow down,

but the rule breakers, as Alexandr [Wang] mentioned,

アレグザンダー・ワンが言うように

the totalitarian governments, the criminal organizations,

ルールに従わない人々 全体主義政府や犯罪組織などは

they're only going to accelerate.

研究を加速させるでしょう

And that leads to what I am pretty convinced is the dystopian state,

すると良い人々が悪い連中よりも 劣ったＡＩを持つことになるという

which is the good actors have worse AIs than the bad actors.

ディストピア的状況になります

But I'll also, you know, talk to the optimists a little bit.

楽観的な人たちにも ひとこと言うと

I don't think that means that,

「そんなにピリピリしないで

oh, yeah, then we should just relax and just hope for the best.

ただ上手くいくことを祈ろう」 というのもまた

That might not happen either.

良くありません

I think all of us together have to fight like hell

私たちみんなが全力で 力を合わせて

to make sure that we put the guardrails,

安全策を講じ

we put in -- when the problems arise --

問題が起きた時には 適切な規制を設けるべきでしょう

reasonable regulations.

But we fight like hell for the positive use cases.

でも良い活用法の工夫にも 力を尽くすべきです

Because very close to my heart,

可能性のある良い使い道 というのもたくさんあり

and obviously there's many potential positive use cases,

中でも最も強力で 詩的でさえある ＡＩの使い道は

but perhaps the most powerful use case

and perhaps the most poetic use case is if AI, artificial intelligence,

人間の知性 人間の可能性 人間の理想を

can be used to enhance HI, human intelligence,

human potential and human purpose.

高めるということなのです

Thank you.

ありがとうございました

(Applause)

(拍手)