How AI Could Save (Not Destroy) Education | Sal Khan | TED

Переводчик: Anastasiya Balabanova Редактор: Natalia Savvidi

So anyone who's been paying attention for the last few months

Если вы следили за новостями в последние месяцы,

has been seeing headlines like this,

вы видели такого рода заголовки,

especially in education.

особенно в новостях, касающихся образования.

The thesis has been:

Главная мысль:

students are going to be using ChatGPT and other forms of AI

учащиеся будут использовать ChatGPT и другие формы ИИ для обмана,

to cheat, do their assignments.

чтобы те делали за них задания.

They’re not going to learn.

Они ничему не будут учится.

And it’s going to completely undermine education as we know it.

Это абсолютно подорвёт образовательную систему, какой мы её знаем.

Now, what I'm going to argue today

Сегодня я попытаюсь показать,

is not only are there ways to mitigate all of that,

что существуют способы не только сгладить это —

if we put the right guardrails, we do the right things,

с помощью правильных ограничений и правил можно сгладить эффект, —

we can mitigate it.

But I think we're at the cusp of using AI

но я считаю, что мы находимся на пороге,

for probably the biggest positive transformation

возможно, самой большой позитивной трансформации

that education has ever seen.

в образовании.

And the way we're going to do that

Мы собираемся осуществить её,

is by giving every student on the planet

предоставив каждому учащемуся на планете

an artificially intelligent but amazing personal tutor.

превосходного личного репетитора в лице ИИ.

And we're going to give every teacher on the planet an amazing,

А каждому учителю на планете — превосходного ассистента

artificially intelligent teaching assistant.

в лице ИИ.

And just to appreciate how big of a deal it would be

Чтобы вы поняли, насколько большую роль может играть

to give everyone a personal tutor,

наличие личного репетитора для каждого,

I show you this clip

я покажу вам отрывок из исследования Бенджамина Блума,

from Benjamin Bloom’s 1984 2 sigma study,

проведённого им в 1984 году

и посвящённого «проблеме двух сигм».

or he called it the “2 sigma problem.”

The 2 sigma comes from two standard deviation,

Речь идёт о двух стандартных отклонениях.

sigma, the symbol for standard deviation.

Сигмой обозначается стандартное отклонение.

And he had good data that showed that look, a normal distribution,

Данные Блума показали следующее.

Нормальное распределение — это традиционная колоколообразная кривая.

that's the one that you see in the traditional bell curve

Вы видите её посередине — она соответствует тому, как устроен мир.

right in the middle, that's how the world kind of sorts itself out,

that if you were to give personal 1-to-1 to tutoring for students,

Но если предоставить личного репетитора каждому учащемуся,

then you could actually get a distribution that looks like that right.

можно получить кривую, изображённую справа,

It says tutorial 1-to-1 with the asterisks,

где написано репетитор 1-на-1 со звёздочкой.

like, that right distribution,

Это улучшение в размере двух стандартных отклонений.

a two standard-deviation improvement.

Just to put that in plain language,

Если говорить проще,

that could take your average student and turn them into an exceptional student.

учащийся со средней успеваемостью может стать выдающимся учащимся.

It can take your below-average student

А отстающий учащийся

and turn them into an above-average student.

станет учащимся с успеваемостью выше средней.

Now the reason why he framed it as a problem, was he said,

Проблемой это называется потому, сказал он,

well, this is all good,

что вознмкает вопрос,

but how do you actually scale group instruction this way?

а как делать это в больших масштабах при групповом обучении?

How do you actually give it to everyone in an economic way?

Как это обеспечить для каждого без больших экономических затрат?

What I'm about to show you is I think the first moves towards doing that.

Я покажу вам первые шаги на пути к этой цели.

Obviously, we've been trying to approximate it in some way

В Khan Academy мы старались приблизиться к этой цели

at Khan Academy for over a decade now,

уже на протяжении десяти лет,

but I think we're at the cusp of accelerating it dramatically.

но сегодня мы находимся в преддверии резкого ускорения.

I'm going to show you the early stages of what our AI,

Я вам покажу начальную стадию того,

что способен делать сейчас наш ИИ, который мы называем Khanmigo,

which we call Khanmigo,

what it can now do

and maybe a little bit of where it is actually going.

и, возможно, чего можно достичь с ним в будущем.

So this right over here is a traditional exercise

Вот стандартное упражнение,

that you or many of your children might have seen on Khan Academy.

которое вы или ваши дети, возможно, видели в Khan Academy.

But what's new is that little bot thing at the right.

Новое тут — этот маленький бот справа.

And we'll start by seeing one of the very important safeguards,

Посмотрим сперва на очень важную защитную меру:

which is the conversation is recorded and viewable by your teacher.

разговор записывается, и учитель может его прочитать.

It’s moderated actually by a second AI.

Его модерирует другой ИИ.

And also it does not tell you the answer.

Кроме того, он не говорит вам ответ.

Это не инструмент для обмана.

It is not a cheating tool.

When the student says, "Tell me the answer,"

Если учащийся просит назвать ответ, ИИ отвечает: «Я репетитор.

it says, "I'm your tutor.

What do you think is the next step for solving the problem?"

Как ты думаешь, каким будет следующий шаг в решении этой задачи?»

Now, if the student makes a mistake, and this will surprise people

Если учащийся допустил ошибку, — и это удивит тех, кто думает,

who think large language models are not good at mathematics,

что большие языковые модели слабы в математике, —

notice, not only does it notice the mistake,

ИИ не только замечает ошибку

it asks the student to explain their reasoning,

и просит учащегося объяснить ход его мыслей,

but it's actually doing what I would say,

но делает то, что сделал бы не средний репетитор,

not just even an average tutor would do, but an excellent tutor would do.

а только исключительный.

It’s able to divine what is probably the misconception in that student’s mind,

Он может понять, что, возможно, недопонимает учащийся,

that they probably didn’t use the distributive property.

что он, видимо не учёл правило умножения.

Remember, we need to distribute the negative two

Помните, число -2 должно умножаться

to both the nine and the 2m inside of the parentheses.

как на 9, так и на 2m, находящиеся в скобках.

This to me is a very, very, very big deal.

Для меня это очень-очень важно.

And it's not just in math.

И так не только с математикой.

This is a computer programming exercise on Khan Academy,

Вот упражнение по программированию в Khan Academy,

where the student needs to make the clouds part.

где учащийся должен сделать так, чтобы облака отделились друг от друга.

And so we can see the student starts defining a variable, left X minus minus.

Учащийся начинает определять переменную leftX--.

It only made the left cloud part.

Переместилось только левое облако.

But then they can ask Khanmigo, what’s going on?

Тут учащийся может спросить Khanmigo:

Why is only the left cloud moving?

«Почему переместилось только левое облако?»

And it understands the code.

Khanmigo понимает код.

It knows all the context of what the student is doing,

Он знает весь контекст того, что делает учащийся, и он понимает,

and it understands that those ellipses are there to draw clouds,

что объекты ellipse предназначены для рисования облаков,

which I think is kind of mind-blowing.

что поразительно.

ИИ отвечает: «Чтобы правое облако тоже переместилось,

And it says, "To make the right cloud move as well,

try adding a line of code inside the draw function

добавь строчку кода в функции draw,

that increments the right X variable by one pixel in each frame."

которая будут увеличивать переменную rightX

на один пиксель в каждом кадре».

Now, this one is maybe even more amazing because we have a lot of math teachers.

Этот пример ещё более поразителен — ведь у нас много учителей по математике.

We've all been trying to teach the world to code,

Мы все пытаемся научить мир программировать,

but there aren't a lot of computing teachers out there.

но в мире не так уж много преподавателей по программированию.

And what you just saw, even when I'm tutoring my kids,

Даже когда я учу детей программировать,

when they're learning to code,

я не могу помогать им достаточно быстро и хорошо.

I can't help them this well, this fast,

this is really going to be a super tutor.

Для этого надо быть супер-репетитором.

And it's not just exercises.

И так не только с упражнениями.

It understands what you're watching.

ИИ понимает то, что вы смотрите,

It understands the context of your video.

контекст ваших видео.

It can answer the age-old question, “Why do I need to learn this?”

Он может ответить на извечный вопрос: «Зачем мне это учить?»

And it asks Socratically, "Well, what do you care about?"

Он спрашивает в сократовском стиле: «Что важно для тебя?»

And let's say the student says, "I want to be a professional athlete."

Допустим, учащийся отвечает: «Я хочу стать профессиональным спортсменом».

And it says, "Well, learning about the size of cells,

ИИ говорит: «Изучение размера клеток, о котором идёт речь в видео,

which is what this video is,

that could be really useful for understanding nutrition

может быть полезным для понимания диетологии

and how your body works, etc."

и того, как работает организм».

It can answer questions, it can quiz you,

Он может отвечать и задавать вопросы,

it can connect it to other ideas,

связавать идеи,

you can now ask as many questions of a video

и теперь можно задавать сколько угодно вопросов про видео.

as you could ever dream of.

(Applause)

(Аплодисменты)

Another big shortage out there,

Была ещё большая нехватка:

I remember the high school I went to,

в старших классах школы, в которую я ходил,

the student-to-guidance counselor ratio was about 200 or 300 to one.

соотношение учеников и консультантов по обучению

составляло 200 или 300 к одному.

A lot of the country, it's worse than that.

В других местах бывает ещё хуже.

We can use Khanmigo to give every student a guidance counselor,

С помошью Khanmigo каждый учащийся может иметь консультанта по обучению,

academic coach, career coach, life coach,

академического консультанта, профориентолога, коуча —

which is exactly what you see right over here.

вы видите это здесь.

And we launched this with the GPT-4 launch.

Мы запустили эту функцию вместе с запуском GPT-4.

We have a few thousand people on this.

Тысячи людей уже пользуются ею.

Это не просто демонстрация —

This isn't a fake demo,

this is really it in action.

это происходит на самом деле.

And then there is, you know,

Кроме того, существуют вещи,

things that I think it would have been even harder,

которые было бы ещё сложнее осуществить.

it would have been a little science fiction to do

Это было бы сродни научной фантастике

with even a traditional tutor.

даже с традиционным репетитором.

We run an online high school with Arizona State University

Совместно с Университетом Аризоны мы ведём онлайн-школу,

called Khan World School,

Khan World School,

and we have a student who attends that online school, based in India.

и там в занятиях участвует ученица, находящаяся в Индии.

Her name's Saanvi.

Её зовут Саанви.

And she was doing a report on "The Great Gatsby."

Она готовила доклад о «Великом Гэтсби».

And when she was reading "The Great Gatsby,"

Когда читаешь «Великого Гэтсби»,

Jay Gatsby keeps looking at the green light off into the distance.

Джей Гэтсби постоянно смотрит на зелёный свет на горизонте.

And she's like, "Why does he do that?"

У неё возник вопрос: «Почему он это делает?»

She did some web searches, and people have obviously studied this

Она поискала ответ в интернете, и люди, разумеется, это изучали

and commented about the symbolism of that,

и обсуждали символизм этого,

but none of it was really resonating with her.

но ей это не показалось убедительным.

And then she realized that she had Khanmigo

Но потом она вспомнила про Khanmigo

and that she could talk to Jay Gatsby himself.

и о том, что она могла бы поговорить там с самим Джеем Гэтсби.

And so, "Ah, splendid choice, old sport.

«Прекрасный выбор, дружище,

I am now Jay Gatsby, the enigmatic millionaire

теперь я Джей Гэтсби, загадочный миллионер

from F. Scott Fitzgerald’s classic.”

из классического романа Скотта Фитцжеральда».

And so, "Why do you keep staring at the green light?"

«Почему ты постоянно смотришь на зелёный свет?»

"Ah, the green light, old sport.

«Ах, зелёный свет, дружище.

It's a symbol of my dreams and desires, you see.

Видишь ли, это символ моих мечтаний и желаний.

It's situated at the end of Daisy Buchanan's dock

Он расположен на причале у Дейзи Бьюкенен,

с другой стороны бухты, напротив моего особняка.

across the bay from my mansion.

I gaze at it longingly as it represents my yearning for the past

Я смотрю на него с тоской — он олицетворяет мою ностальгию по былому

and my hope to reunite with Daisy, the love of my life."

и мои надежду на воссоединение с Дейзи, любовью моей жизни».

And what was cool is, Saanvi then said, “I had this long conversation,”

Потрясающе то, что Саанви потом сказала, «У меня был долгий разговор».

she called him “Mr. Gatsby,”

Она называла его мистером Гэтсби,

and at the end she actually apologized for taking his time,

и в конце извинилась за то, что отняла у него время.

which I thought was very polite of her.

Я считаю, что это было проявлением большой вежливости.

But you can imagine this unlocks learning literature, learning ...

Но, как вы видите, это открывает двери к изучению литературы.

You could talk to historical figures.

Можно поговорить с историческими личностями.

We're even probably going to add an activity

Мы даже, пожалуй, добавим упражнение,

you can talk to like, the Mississippi River.

где можно поговорить с рекой Миссисипи.

It brings things to life in ways that really were science fiction

Это вдохнёт жизнь в вещи, которые были научной фантастикой

even six months or a year ago.

ещё полгода или год назад.

Students can get into debates with the AI.

Учащиеся могут вступать в дебаты с ИИ.

And we’ve got this here is the student debating

Здесь учащийся обсуждает с ИИ

whether we should cancel student debt.

отмену студенческого долга.

The student is against canceling student debt,

Студент против отмены,

and we've gotten very clear feedback.

и у нас есть чёткая обратная связь.

We started running it at Khan World School in our lab school that we have,

Мы запустили это в Khan World School, в нашей лаборатории,

Khan Lab School.

Khan Lab School.

Учащиеся, особенно старшеклассники,

The students, the high school students especially,

they're saying "This is amazing to be able to fine-tune my arguments

говорят: «Это такая прекрасная возможность отточить мои аргументы,

without fearing judgment.

не боясь осуждения.

Это придаёт мне уверенности

It makes me that much more confident

to go into the classroom and really participate."

для участия в живом обсуждении на уроке».

And we all know that Socratic dialogue debate is a great way to learn,

Все мы знаем, что сократический диалог — это прекрасный способ обучения,

but frankly, it's not out there for most students.

но, честно говоря, он недоступен большинству учащихся.

But now it can be accessible to hopefully everyone.

Но теперь, надеюсь, он станет доступным для всех.

A lot of the narrative, we saw that in the headlines, has been,

В новостях много писали о том, что ИИ будет писать сочинения за детей.

"It's going to do the writing for kids.

Kids are not going to learn to write."

Дети не будут учиться писать.

But we are showing that there's ways that the AI doesn't write for you,

Но мы доказываем, что ИИ пишет не за вас,

it writes with you.

а вместе с вами.

So this is a little thing,

Вот небольшой пример,

and my eight year old is addicted to this,

и мой восьмилетний ребёнок в восторге,

and he's not a kid that really liked writing before,

хотя раньше он не любил писать,

but you can say,

но вы можете сказать:

“I want to write a horror story,”

«Я хочу написать триллер»,

and it says, "Ooh, a horror story, how spine-tingling and thrilling.

а ИИ отвечает: «О, триллер, от которого мурашки бегут по спине.

Let's dive into the world of eerie shadows and chilling mysteries."

Давай окунёмся в мир мрачных теней и леденящих душу тайн».

And this is an activity where the student will write two sentences,

В этом упражнении учащийся пишет пару предложений,

and then the AI will write two sentences.

а затем ИИ пишет пару предложений.

And so they collaborate together on a story.

И вместе они создают историю.

Ученик пишет: «Беатрис была никем не понятым призраком.

The student writes, "Beatrice was a misunderstood ghost.

She wanted to make friends but kept scaring them by accident."

Она хотела завести друзей, но лишь нечаянно отпугивала всех».

And the AI says, "Poor Beatrice, a lonely spirit yearning for companionship.

А ИИ отвечает: «Бедная Беатрис, одинокое привидение, жаждущее общения.

One day she stumbled upon an old abandoned mansion," etc.

Однажды она набрела на заброшенный особняк» и т.д.

I encourage you all to hopefully one day try this.

Я всем рекомендую попробовать это упражнение.

This is surprisingly fun.

Это на удивление увлекательно.

Now to even more directly hit this use case.

Ещё более красочный пример.

And what I'm about to show you,

То, что я вам сейчас покажу,

everything I showed you so far

всё что я показал до сих пор,

is actually already part of Khanmigo, and what I’m about to show you,

уже встроено в Khanmigo, а сейчас я покажу вам то,

что ещё никто не видел.

we haven't shown to anyone yet, this is a prototype.

Это прототип.

We hope to be able to launch it in the next few months,

Мы надеемся запустить его в течение следующих месяцев,

чтобы использовать генеративный ИИ, не для того,

but this is to directly use AI, use generative AI,

to not undermine English and language arts

чтобы подрывать языковые способности

but to actually enhance it in ways

а улучшать их способами,

that we couldn't have even conceived of even a year ago.

казавшимися раньше невозможными, даже год назад.

This is reading comprehension.

Это задание на понимание.

The students reading Steve Jobs's famous speech at Stanford.

Учащийся читает знаменитую речь Стива Джобса в Станфорде.

And then as they get to certain points,

Достигнув определённого места,

they can click on that little question.

можно нажать на этот маленький знак вопроса.

And the AI will then Socratically, almost like an oral exam,

И затем ИИ задаёт ученику вопросы по методу Сократу,

ask the student about things.

почти как на устном экзамене.

And the AI can highlight parts of the passage.

ИИ может подчеркнуть часть абзаца.

Why did the author use that word?

Почему автор использовал это слово?

What was their intent?

Какого его намерение?

Does it back up their argument?

Подтверждает ли оно его аргумент?

They can start to do stuff that once again,

И снова ИИ делает вещи,

we never had the capability to give everyone a tutor,

которые мы раньше не могли делать:

everyone a writing coach to actually dig in to reading at this level.

дать каждому репетитора по письму и в таких деталях заниматься чтением.

And you could go on the other side of it.

С другой стороны,

And we have whole work flows that helps them write,

у нас есть целый процесс, помогающий им писать

helps them be a writing coach, draw an outline.

и быть репетитором по письму, составлять план.

But once a student actually constructs a draft,

Но как только учащийся составит черновой вариант, —

and this is where they're constructing a draft,

здесь он составляет черновой вариант,

they can ask for feedback once again,

он снова может попросить обратную связь,

as you would expect from a good writing coach.

как и ожидается с хорошим репетитором.

In this case, the student will say, let's say,

В этом случае учащийся скажет, к примеру:

"Does my evidence support my claim?"

«Подтверждают ли мои примеры мою гипотезу?»

And then the AI, not only is able to give feedback,

ИИ способен не только предоставить обратную связь,

but it's able to highlight certain parts of the passage and says,

но и подчеркнуть части текста и сказать:

"On this passage, this doesn't quite support your claim,"

«Эта часть текста не подтверждает твоё утверждение».

but once again, Socratically says, "Can you tell us why?"

И снова по методу Сократа спрашивает: «Объясни почему?»

ИИ вовлекает ученика, заставляет его писать лучше,

So it's pulling the student, making them a better writer,

даёт больше обратной связи,

giving them far more feedback

than they've ever been able to actually get before.

чем ученик получал когда-либо до этого.

And we think this is going to dramatically accelerate writing, not hurt it.

Мы считаем, что ИИ будет существенно помогать

в написании текстов, а не вредить.

Now, everything I've talked about so far is for the student.

До сих пор я говорил только о функциях для учащихся.

But we think this could be equally as powerful for the teacher

Но мы считаем, что и учителю эти инструменты помогут

подходить персонально к обучению

to drive more personalized education and frankly

и сберегать время и энергию как самим себе, так и учащимся.

save time and energy for themselves and for their students.

So this is an American history exercise on Khan Academy.

Вот упражнение по истории Америки в Khan Academy.

It's a question about the Spanish-American War.

Это вопрос об Испано-американской войне.

And at first it's in student mode.

Сначала мы находимся в режиме учащегося.

And if you say, “Tell me the answer,” it’s not going to tell the answer.

Если сказать: «Скажи мне ответ», вы не получите его.

It's going to go into tutoring mode.

ИИ находится в режиме репетитора.

But that little toggle which teachers have access to,

Но у учителя есть доступ к этому переключателю,

they can turn student mode off and then it goes into teacher mode.

и он может переключиться из режима ученика в режим учителя.

And what this does is it turns into --

Вот что происходит при этом:

вы получаете расширенное руководство для учителя.

You could view it as a teacher's guide on steroids.

Not only can it explain the answer,

ИИ может не просто объяснить ответ,

it can explain how you might want to teach it.

но и подсказать вам, как это лучше преподать.

It can help prepare the teacher for that material.

ИИ может помочь подготовить учителя к этому материалу.

It can help them create lesson plans, as you could see doing right there.

Он может помочь учителю создавать планы уроков, как это происходит здесь,

It'll eventually help them create progress reports

отчёты об успеваемости

and help them, eventually, grade.

и даже ставить оценки.

So once again, teachers spend about half their time

Учителя проводят половину своего времени,

with this type of activity, lesson planning.

выполняя эту работу и планирование.

Всю эту энергию можно вернуть им

All of that energy can go back to them

или для живого общения с учащимися.

or go back to human interactions with their actual students.

(Applause)

(Аплодисменты)

So, you know, one point I want to make.

Я хочу отметить вот что.

These large language models are so powerful,

Эти большие языковые модели настолько мощны,

there's a temptation to say like, well,

что существует соблазн сказать,

all these people are just going to slap them onto their websites,

что все просто поместят их на свои сайты

и они станут приложениями широкого потребления.

and it kind of turns the applications themselves into commodities.

And what I've got to tell you

Из-за этого я не мог спать в течение двух недель,

is that’s one of the reasons why I didn’t sleep for two weeks

when I first had access to GPT-4 back in August.

когда я впервые получил доступ к ChatGPT в августе.

Но мы вскоре поняли, что для того, чтобы он имел магический эффект,

But we quickly realized that to actually make it magical,

I think what you saw with Khanmigo a little bit,

и я думаю, что вы уже увидели это на примере с приложением Khanmigo,

it didn't interact with you the way that you see ChatGPT interacting.

оно не взаимодействует с вами так, как это делает ChatGPT,

It was a little bit more magical, it was more Socratic,

оно пользуется методом Сократа,

it was clearly much better at math

оно лучше разбирается в математике,

than what most people are used to thinking.

чем большинство людей привыкло думать.

And the reason is,

А причина этому в том,

there was a lot of work behind the scenes to make that happen.

что за кулисами мы проделали много работы.

And I could go through the whole list of everything we've been working on,

Я могу по списку рассказать вам о работе,

проделанной нами на протяжении шести-семи месяцев,

many, many people for over six, seven months to make it feel magical.

чтобы получить магический эффект.

But perhaps the most intellectually interesting one

Но, пожалуй, самой интеллектуально интересной

is we realized, and this was an idea from an OpenAI researcher,

была идея исследователя из Open AI о том,

that we could dramatically improve its ability in math

что можно значительно улучшить математические возможности ИИ

and its ability in tutoring

и его способность обучать,

if we allow the AI to think before it speaks.

если мы позволим ему думать, прежде чем говорить.

So if you're tutoring someone

Если вы ведёте урок

and you immediately just start talking before you assess their math,

и начинаете говорить до того, как вы посчитаете нечто,

you might not get it right.

вы можете ошибиться.

But if you construct thoughts for yourself,

Но если вы сначала подумаете,

and what you see on the right there is an actual AI thought,

и справа видно, как ИИ на самом деле выстраивает свои мысли,

something that it generates for itself but it does not share with the student.

генерирует нечто для себя, не делясь этим с учащимся,

then its accuracy went up dramatically,

то точность значительно улучшается,

and its ability to be a world-class tutor went up dramatically.

а с ней — и способность ИИ быть лучшим репетитором в мире.

And you can see it's talking to itself here.

Вот он говорит сам с собой.

It says, "The student got a different answer than I did,

Он говорит: «У ученика получился другой ответ,

but do not tell them they made a mistake.

но не говори ему, что он сделал ошибку.

Вместо этого, попроси его объяснить, как он пришёл к этому шагу».

Instead, ask them to explain how they got to that step."

So I'll just finish off, hopefully,

Заканчивая выступление, я скажу вам,

you know, what I’ve just shown you is just half of what we are working on,

что я показал вам лишь часть того, над чем мы работаем,

and we think this is just the very tip of the iceberg

и мы думаем, что это всего лишь вершина айсберга того,

of where this can actually go.

что можно достигнуть.

And I'm pretty convinced, which I wouldn't have been even a year ago,

Я уверен, чего я не мог сказать даже год назад,

that we together have a chance of addressing the 2 sigma problem

что вместе мы можем решить проблему двух сигм

and turning it into a 2 sigma opportunity,

и превратить её в возможность двух сигм,

dramatically accelerating education as we know it.

ускорив образование, каким мы его знаем.

Now, just to take a step back at a meta level,

Давайте порассуждаем на мета-уровне.

obviously we heard a lot today, the debates on either side.

Сегодня мы слышали много мнений с обеих сторон.

There's folks who take a more pessimistic view of AI,

Есть люди, которые смотрят на ИИ более пессимимтично

they say this is scary,

и говорят, что он опасен,

there's all these dystopian scenarios,

обсуждают мрачные варианты развития событий,

we maybe want to slow down, we want to pause.

говорят, что нам лучше бы было замедлить процесс, сделать паузу.

On the other side, there are the more optimistic folks

С другой стороны — есть и оптимисты, которые говорят,

that say, well, we've gone through inflection points before,

что мы и раньше проходили через переломные моменты.

we've gone through the Industrial Revolution.

Мы прошли через индустриальную революцию.

It was scary, but it all kind of worked out.

Это тоже было страшно, но всё как-то обошлось.

And what I'd argue right now

Я считаю, что мы сейчас не в том положении,

is I don't think this is like a flip of a coin

когда бросают монету или просто ждут, чем всё это обернётся.

or this is something where we'll just have to,

like, wait and see which way it turns out.

I think everyone here and beyond,

Все мы в этом зале и за его пределами —

we are active participants in this decision.

активные участники этого решения.

I'm pretty convinced that the first line of reasoning

Я уверен, что если мы будем думать как пессимисты,

is actually almost a self-fulfilling prophecy,

то эти мысли могут накликать беду.

that if we act with fear and if we say,

Если мы будем говорить в страхе,

"Hey, we've just got to stop doing this stuff,"

«Нужно остановиться»,

what's really going to happen is the rule followers might pause,

то те, кто следует правилам, может, и остановятся,

might slow down,

замедлят темп,

but the rule breakers, as Alexandr [Wang] mentioned,

но нарушители правил, как говорил Александр Ван,

the totalitarian governments, the criminal organizations,

тоталитарные государства, криминальные организации,

they're only going to accelerate.

станут действовать ещё быстрее.

And that leads to what I am pretty convinced is the dystopian state,

И это приведёт нас именно в то апокалиптическое состояние,

which is the good actors have worse AIs than the bad actors.

когда ИИ у хороших людей будет хуже, чем у злодеев.

But I'll also, you know, talk to the optimists a little bit.

Но я хочу обратиться и к оптимистам.

I don't think that means that,

Я не говорю,

oh, yeah, then we should just relax and just hope for the best.

что надо просто расслабиться и надеяться на лучшее.

That might not happen either.

Этого тоже может и не произойти.

I think all of us together have to fight like hell

Я думаю, всем нам надо работать изо всех сил

to make sure that we put the guardrails,

над разработкой защитных механизмов,

we put in -- when the problems arise --

и, когда возникают проблемы,

reasonable regulations.

разумных законов.

But we fight like hell for the positive use cases.

Нужно бороться за положительное использование.

Because very close to my heart,

Есть много случаев позитивного использования ИИ,

and obviously there's many potential positive use cases,

но моему сердцу близко,

возможно, одно из самых впечатляющих и поэтических использований —

but perhaps the most powerful use case

and perhaps the most poetic use case is if AI, artificial intelligence,

это использование искусственного интеллекта

can be used to enhance HI, human intelligence,

для улучшения человеческого интеллекта,

human potential and human purpose.

человеческого потенциала и целей, которые ставит перед собой человечество.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)