What Is an AI Anyway? | Mustafa Suleyman | TED

Переводчик: Elena McDonnell Редактор: Yulia Kallistratova

I want to tell you what I see coming.

Я хочу рассказать вам о том, каким я вижу будущее.

I've been lucky enough to be working on AI for almost 15 years now.

Мне посчастливилось работать в сфере ИИ уже почти 15 лет.

Back when I started, to describe it as fringe would be an understatement.

В самом начале моей карьеры его нельзя было назвать даже маргинальным.

Researchers would say, “No, no, we’re only working on machine learning.”

Исследователи говорили: «Ну нет, мы работаем только над машинным обучением».

Because working on AI was seen as way too out there.

Потому что работа с ИИ считалась чистым сумасбродством.

In 2010, just the very mention of the phrase “AGI,”

В 2010 году одно лишь упоминание УИИ,

artificial general intelligence,

универсального искусственного интеллекта,

would get you some seriously strange looks

обращало на вас косые

and even a cold shoulder.

или даже враждебные взгляды.

"You're actually building AGI?" people would say.

«Вы на самом деле создаете УИИ?» — спрашивали нас.

"Isn't that something out of science fiction?"

«Разве это не из области научной фантастики?»

People thought it was 50 years away or 100 years away,

Все думали, что это далеко в будущем — 50 или даже 100 лет,

if it was even possible at all.

если вообще возможно.

Talk of AI was, I guess, kind of embarrassing.

Разговоры об искусственном интеллекте считались чем-то зазорным.

People generally thought we were weird.

Нас считали чудаковатыми.

And I guess in some ways we kind of were.

Пожалуй, в некотором смысле так и было.

It wasn't long, though, before AI started beating humans

Однако вскоре ИИ начал превосходить людей

at a whole range of tasks

в решении целого ряда задач,

that people previously thought were way out of reach.

которые раньше считались недоступными.

Understanding images,

Восприятие изображений,

translating languages,

перевод с одного языка на другой,

transcribing speech,

транскрибация речи,

playing Go and chess

игра в го и шахматы

and even diagnosing diseases.

и даже диагностика заболеваний.

People started waking up to the fact

Люди начали осознавать,

that AI was going to have an enormous impact,

что ИИ вскоре будет иметь огромное значение,

and they were rightly asking technologists like me

и стали справедливо задавать таким специалистам, как я,

some pretty tough questions.

довольно сложные вопросы.

Is it true that AI is going to solve the climate crisis?

Правда ли, что ИИ поможет нам решить климатический кризис?

Will it make personalized education available to everyone?

Сможет ли он предоставить каждому персонализированное образование?

Does it mean we'll all get universal basic income

Означает ли это, что у всех будет безусловный базовый доход

and we won't have to work anymore?

и нам больше не придётся работать?

Should I be afraid?

Есть ли основания для опасений?

What does it mean for weapons and war?

Как это повлияет на оружие и войны?

And of course, will China win?

И, конечно, победит ли Китай?

Are we in a race?

Это гонка?

Are we headed for a mass misinformation apocalypse?

Ждёт ли нас массовый дезинформационный апокалипсис?

All good questions.

Это отличные вопросы.

But it was actually a simpler

Но, к моему удивлению, меня сильнее озадачил

and much more kind of fundamental question that left me puzzled.

гораздо более простой и более фундаментальный вопрос.

One that actually gets to the very heart of my work every day.

Этот вопрос касается самой сути моей ежедневной работы.

One morning over breakfast,

Однажды утром за завтраком

my six-year-old nephew Caspian was playing with Pi,

мой шестилетний племянник Каспиан играл с Pi —

the AI I created at my last company, Inflection.

ИИ, который я создал в своей предыдущей компании Inflection.

With a mouthful of scrambled eggs,

Жуя яичницу,

he looked at me plain in the face and said,

он посмотрел мне прямо в глаза и спросил:

"But Mustafa, what is an AI anyway?"

«Мустафа, а что вообще такое искусственный интеллект?»

He's such a sincere and curious and optimistic little guy.

Он такой искренний, любопытный и оптимистичный парень.

He'd been talking to Pi about how cool it would be if one day in the future,

Он говорил с Pi о том, как было бы здорово, если бы в будущем

he could visit dinosaurs at the zoo.

в зоопарке жили бы динозавры.

And how he could make infinite amounts of chocolate at home.

И как он мог бы приготовить дома бесконечное количество шоколада.

And why Pi couldn’t yet play I Spy.

И почему Pi до сих пор не умеет играть в I Spy.

"Well," I said, "it's a clever piece of software

«Ну, — сказал я, — это умная программа,

that's read most of the text on the open internet,

которая прочитала почти весь текст в открытом Интернете

and it can talk to you about anything you want."

и может говорить с тобой о чём угодно».

"Right.

«Понятно.

So like a person then?"

То есть как человек?»

I was stumped.

Я был в тупике.

Genuinely left scratching my head.

По-настоящему ошарашен.

All my boring stock answers came rushing through my mind.

В голове роились все мои скучные и стандартные ответы.

"No, but AI is just another general-purpose technology,

«Нет, но ИИ — это ещё одна технология общего назначения,

like printing or steam."

так же как печать или паровой двигатель.

It will be a tool that will augment us

Это будет инструмент, который улучшит нас,

and make us smarter and more productive.

сделает нас умнее и продуктивнее.

And when it gets better over time,

А когда со временем ИИ станет лучше,

it'll be like an all-knowing oracle

он будет словно всезнающим оракулом,

that will help us solve grand scientific challenges."

который поможет нам решать важные научные проблемы».

You know, all of these responses started to feel, I guess,

Но, знаете, все эти ответы стали казаться мне

a little bit defensive.

больше похожими на оправдания.

И более подходящими для семинара по вопросам политики,

And actually better suited to a policy seminar

than breakfast with a no-nonsense six-year-old.

чем для завтрака с трезвомыслящим шестилеткой.

"Why am I hesitating?" I thought to myself.

«Почему я сомневаюсь?» — думал я.

You know, let's be honest.

Знаете, давайте начистоту.

My nephew was asking me a simple question

Племянник задал мне простой вопрос,

that those of us in AI just don't confront often enough.

над которым те из нас, кто работает с ИИ, недостаточно часто задумываются.

What is it that we are actually creating?

Что мы на самом деле создаём?

What does it mean to make something totally new,

Что значит создать нечто совершенно новое,

fundamentally different to any invention that we have known before?

кардинально отличающееся от всех известных нам ранее изобретений?

It is clear that we are at an inflection point

Очевидно, что в истории человечества

in the history of humanity.

наступил переломный момент.

On our current trajectory,

На нынешней траектории развития

we're headed towards the emergence of something

мы движемся к появлению чего-то,

that we are all struggling to describe,

что никто из нас так и не может описать,

and yet we cannot control what we don't understand.

но ведь невозможно контролировать то, чего мы не понимаем.

And so the metaphors,

Поэтому метафоры,

the mental models,

ментальные модели,

the names, these all matter

названия — всё это важно,

если мы хотим извлечь из ИИ максимальную пользу

if we’re to get the most out of AI whilst limiting its potential downsides.

и при этом ограничить его потенциальные минусы.

As someone who embraces the possibilities of this technology,

Как человек, понимающий возможности этой технологии,

but who's also always cared deeply about its ethics,

но при этом всегда уделяющий большое внимание этике, я считаю,

we should, I think,

что мы должны

be able to easily describe what it is we are building.

уметь объяснять простыми словами, что именно мы создаём.

And that includes the six-year-olds.

В том числе и шестилетним детям.

So it's in that spirit that I offer up today the following metaphor

Именно поэтому я хочу использовать сегодня следующую метафору,

for helping us to try to grapple with what this moment really is.

которая поможет нам разобраться в том, что происходит на данный момент.

I think AI should best be understood

Думаю, мы должны воспринимать ИИ

as something like a new digital species.

как нечто вроде нового цифрового биотипа.

Now, don't take this too literally,

Не стоит смотреть на это слишком буквально,

but I predict that we'll come to see them as digital companions,

но я полагаю, что мы станем считать его своим цифровым компаньоном,

new partners in the journeys of all our lives.

новым партнёром на нашем жизненном пути.

Whether you think we’re on a 10-, 20- or 30-year path here,

Вне зависимости от того, произойдёт ли это в течение следующих 10, 20 или 30 лет,

this is, in my view, the most accurate and most fundamentally honest way

на мой взгляд, это самое точное и принципиально честное

of describing what's actually coming.

описание того, что нас ждёт.

And above all, it enables everybody to prepare for

И самое главное, оно позволяет каждому подготовиться к будущему

and shape what comes next.

и принять участие в его формировании.

Now I totally get, this is a strong claim,

Я прекрасно понимаю, что это серьёзное заявление,

and I'm going to explain to everyone as best I can why I'm making it.

и я постараюсь подробно объяснить, почему я так считаю.

But first, let me just try to set the context.

Но сначала я попытаюсь описать контекст.

From the very first microscopic organisms,

Начиная с самых первых микроорганизмов,

life on Earth stretches back billions of years.

жизнь на Земле насчитывает миллиарды лет.

Over that time, life evolved and diversified.

Всё это время жизнь развивалась и изменялась.

Then a few million years ago, something began to shift.

Затем, несколько миллионов лет назад, произошёл некоторый сдвиг.

After countless cycles of growth and adaptation,

После бесчисленных циклов роста и адаптации

one of life’s branches began using tools, and that branch grew into us.

одна из ветвей жизни начала использовать инструменты, и в итоге породила нас.

We went on to produce a mesmerizing variety of tools,

Мы создали неимоверное разнообразие инструментов.

at first slowly and then with astonishing speed,

Сначала медленно, а затем с поразительной скоростью

we went from stone axes and fire

мы перешли от каменных топоров и огня

to language, writing and eventually industrial technologies.

к языку, письму и, наконец, промышленным технологиям.

One invention unleashed a thousand more.

Одно изобретение давало толчок ещё тысяче.

And in time, we became homo technologicus.

И в какой-то момент мы стали человеком технологическим.

Around 80 years ago,

Около 80 лет назад

another new branch of technology began.

сформировалась ещё одна новая отрасль технологий.

With the invention of computers,

С изобретением компьютеров

we quickly jumped from the first mainframes and transistors

мы быстро перешли от первых мейнфреймов и транзисторов

to today's smartphones and virtual-reality headsets.

к современным смартфонам и гарнитурам виртуальной реальности.

Information, knowledge, communication, computation.

Информация, знания, коммуникации, вычисления.

In this revolution,

В ходе этой революции

creation has exploded like never before.

творчество стало стремительно расти, как никогда раньше.

And now a new wave is upon us.

А теперь нас ждёт новая волна.

Artificial intelligence.

Искусственный интеллект.

These waves of history are clearly speeding up,

Очевидно, что эти исторические волны накатывают всё быстрее,

as each one is amplified and accelerated by the last.

поскольку каждая из них усиливается и ускоряется предыдущей.

And if you look back,

Оглянувшись назад,

it's clear that we are in the fastest

мы видим, что переживаем самую быструю

and most consequential wave ever.

и значимую волну за всю историю.

The journeys of humanity and technology are now deeply intertwined.

Пути человечества и технологий теперь тесно переплетены.

In just 18 months,

Всего за 18 месяцев

over a billion people have used large language models.

более миллиарда человек использовали большие языковые модели.

We've witnessed one landmark event after another.

Мы становились свидетелями одного знаменательного события за другим.

Just a few years ago, people said that AI would never be creative.

Лишь несколько лет назад все считали, что ИИ никогда не будет креативным.

And yet AI now feels like an endless river of creativity,

Но сейчас ИИ — это неиссякаемый поток творческих способностей,

making poetry and images and music and video that stretch the imagination.

создающих поэзию, картины, музыку и видео, расширяющие границы воображения.

People said it would never be empathetic.

Все считали, что ИИ никогда не испытает эмпатии.

And yet today, millions of people enjoy meaningful conversations with AIs,

Но сегодня миллионы людей с удовольствием беседуют с ИИ,

talking about their hopes and dreams

рассказывая о своих надеждах и мечтах,

and helping them work through difficult emotional challenges.

и ИИ помогает им справиться с серьёзными эмоциональными проблемами.

AIs can now drive cars,

Теперь ИИ может водить машину,

manage energy grids

управлять энергосетями

and even invent new molecules.

и даже изобретать новые молекулы.

Just a few years ago, each of these was impossible.

Всего несколько лет назад это было невозможно.

And all of this is turbocharged by spiraling exponentials of data

И всё это подстёгивается растущими в геометрической прогрессии данными

and computation.

и вычислениями.

Last year, Inflection 2.5, our last model,

В прошлом году наша новейшая модель Inflection 2.5

used five billion times more computation

использовала в пять миллиардов раз больше вычислительных ресурсов,

than the DeepMind AI that beat the old-school Atari games

чем DeepMind, который прошёл все старые игры Atari

just over 10 years ago.

чуть более 10 лет назад.

That's nine orders of magnitude more computation.

Это в миллиард раз больше вычислений.

10x per year,

То есть в 10 раз больше в год,

every year for almost a decade.

каждый год в течение почти 10 лет.

Over the same time, the size of these models has grown

За тот же период времени размер этих моделей вырос

from first tens of millions of parameters to then billions of parameters,

с десятков миллионов параметров сначала до миллиардов,

and very soon, tens of trillions of parameters.

а вскоре и десятков триллионов параметров.

If someone did nothing but read 24 hours a day for their entire life,

Если бы кто-то всю жизнь только читал — 24 часа в сутки —

they'd consume eight billion words.

этот человек прочитал бы около восьми миллиардов слов.

And of course, that's a lot of words.

Это, конечно, огромное количество текста.

But today, the most advanced AIs consume more than eight trillion words

Но сегодня самые продвинутые ИИ потребляют более восьми триллионов слов

in a single month of training.

всего лишь за месяц обучения.

And all of this is set to continue.

И всё это будет продолжаться.

The long arc of technological history is now in an extraordinary new phase.

История технологий вступила в необычайно новую фазу.

So what does this mean in practice?

Но что же это значит для нас?

Well, just as the internet gave us the browser

Так же, как Интернет привёл к появлению браузера,

and the smartphone gave us apps,

а смартфон — приложений,

the cloud-based supercomputer is ushering in a new era

облачный суперкомпьютер открывает новую эру

of ubiquitous AIs.

вездесущего искусственного интеллекта.

Everything will soon be represented by a conversational interface.

Скоро всё будет представлено в виде диалогового интерфейса.

Or, to put it another way, a personal AI.

Иными словами, это будет персональный ИИ.

And these AIs will be infinitely knowledgeable,

Этот ИИ будет обладать бесконечными знаниями,

and soon they'll be factually accurate and reliable.

и вскоре он станет точным и надёжным.

They'll have near-perfect IQ.

У него будет почти идеальный IQ,

They’ll also have exceptional EQ.

а также исключительный EQ.

They’ll be kind, supportive, empathetic.

Он будет добр, отзывчив, сможет сопереживать.

These elements on their own would be transformational.

Уже только эти элементы будут революционными.

Just imagine if everybody had a personalized tutor in their pocket

Представьте себе, что у каждого в кармане будет персональный репетитор

and access to low-cost medical advice.

и доступ к медицинским консультациям по доступной цене.

A lawyer and a doctor,

Юрист и врач,

a business strategist and coach --

бизнес-стратег и тренер —

all in your pocket 24 hours a day.

всё это в вашем кармане 24 часа в сутки.

But things really start to change when they develop what I call AQ,

Но всё начнёт по-настоящему меняться, когда у ИИ появится то,

their “actions quotient.”

что я называю «коэффициентом действий».

This is their ability to actually get stuff done

Это способность реально выполнять задачи

in the digital and physical world.

в цифровом и физическом мире.

And before long, it won't just be people that have AIs.

И вскоре у ИИ будут не только индивидуальные пользователи.

Strange as it may sound, every organization,

Как бы странно это ни звучало, но у каждой группы —

от малого бизнеса до некоммерческих организаций и федеральных правительств —

from small business to nonprofit to national government,

each will have their own.

будет свой ИИ.

Every town, building and object

Каждый город, здание и объект

will be represented by a unique interactive persona.

будут представлены уникальным интерактивным персонажем.

And these won't just be mechanistic assistants.

И это будут не просто механистические помощники.

They'll be companions, confidants,

Они будут компаньонами, доверенными лицами,

colleagues, friends and partners,

коллегами, друзьями и партнерами,

as varied and unique as we all are.

такими же разнообразными и уникальными, как и все мы.

At this point, AIs will convincingly imitate humans at most tasks.

На этой стадии ИИ будет убедительно подражать человеку

при выполнении большинства задач.

And we'll feel this at the most intimate of scales.

И мы почувствуем это на очень личном уровне.

An AI organizing a community get-together for an elderly neighbor.

ИИ, организующий сбор жильцов для пожилого соседа.

A sympathetic expert helping you make sense of a difficult diagnosis.

Понимающий эксперт, помогающий вам разобраться в пугающем диагнозе.

But we'll also feel it at the largest scales.

Но мы также почувствуем это и в самых широких масштабах.

Accelerating scientific discovery,

Ускорение научных открытий,

autonomous cars on the roads,

беспилотные автомобили на дорогах,

drones in the skies.

дроны в небе.

They'll both order the takeout and run the power station.

ИИ будет заказывать еду на вынос и управлять электростанциями.

They’ll interact with us and, of course, with each other.

Различные ИИ будут общаться с нами и, несомненно, друг с другом.

They'll speak every language,

Они будут говорить на всех языках,

take in every pattern of sensor data,

воспринимать все данные датчиков,

sights, sounds,

изображения, звуки

streams and streams of information,

и огромные потоки информации,

far surpassing what any one of us could consume in a thousand lifetimes.

значительно превосходящие то, что любой из нас мог бы осмыслить за тысячу жизней.

So what is this?

Так что же это такое?

What are these AIs?

Чем является искусственный интеллект?

If we are to prioritize safety above all else,

Если мы хотим поставить безопасность превыше всего,

to ensure that this new wave always serves and amplifies humanity,

чтобы эта новая волна всегда служила человечеству и приносила ему пользу,

then we need to find the right metaphors for what this might become.

нам необходимо найти правильные метафоры для описания будущего.

For years, we in the AI community, and I specifically,

В течение многих лет сообщество ИИ в целом и я в частности

have had a tendency to refer to this as just tools.

имели тенденцию считать ИИ просто инструментом.

But that doesn't really capture what's actually happening here.

Но это не совсем соответствует тому, что происходит на самом деле.

AIs are clearly more dynamic,

Очевидно, что ИИ более динамичен,

more ambiguous, more integrated

неоднозначен, интегрирован

and more emergent than mere tools,

и более стихиен,

which are entirely subject to human control.

чем обычные инструменты, полностью контролируемые человеком.

So to contain this wave,

Поэтому, чтобы обуздать эту волну,

to put human agency at its center

сделать её центром человеческой свободы действий

and to mitigate the inevitable unintended consequences

и смягчить неизбежные непредвиденные последствия,

that are likely to arise,

которые могут возникнуть,

we should start to think about them as we might a new kind of digital species.

нам следует начать думать о ИИ как о новом цифровом биотипе.

Now it's just an analogy,

Оговорюсь, что это просто аналогия,

it's not a literal description, and it's not perfect.

а не буквальное описание, и она не идеальна.

For a start, they clearly aren't biological in any traditional sense,

Для начала скажу, что ИИ явно не является биологическим в традиционном смысле слова,

but just pause for a moment

но задумайтесь на минуту

and really think about what they already do.

и взгляните на то, что он уже способен сделать.

They communicate in our languages.

Он общается на наших языках.

They see what we see.

Он видит то же, что и мы.

They consume unimaginably large amounts of information.

Он потребляет невообразимо большие объемы информации.

They have memory.

У него есть память.

They have personality.

Он обладает индивидуальностью.

They have creativity.

У него есть творческий потенциал.

They can even reason to some extent and formulate rudimentary plans.

Он может в некоторой степени рассуждать и формулировать элементарные планы.

They can act autonomously if we allow them.

Он может действовать автономно, если мы ему позволим.

And they do all this at levels of sophistication

И всё это он делает на уровне сложности,

that is far beyond anything that we've ever known from a mere tool.

намного превосходящем тот, что мы когда-либо получали от инструмента.

And so saying AI is mainly about the math or the code

Таким образом, сказать, что ИИ — это в основном математика или код,

is like saying we humans are mainly about carbon and water.

это всё равно что сказать, что мы, люди, в основном являемся углеродом и водой.

It's true, but it completely misses the point.

Это правда, но суть здесь совершенно упускается из виду.

And yes, I get it, this is a super arresting thought

Да, я понимаю, это достаточно шокирующая идея,

but I honestly think this frame helps sharpen our focus on the critical issues.

но я действительно считаю, что такая интерпретация

поможет нам сосредоточиться на важных вопросах.

What are the risks?

В чём заключаются риски?

What are the boundaries that we need to impose?

Какие границы мы должны установить?

What kind of AI do we want to build or allow to be built?

Какой ИИ мы хотим или позволим создать?

This is a story that's still unfolding.

Мы всё ещё пишем эту историю.

Nothing should be accepted as a given.

Мы не должны ничего воспринимать как данность.

We all must choose what we create.

Мы все должны решить, что мы создаём.

What AIs we bring into the world, or not.

Какой ИИ мы приносим в мир, а какой нет.

These are the questions for all of us here today,

Эти вопросы я задаю и всем присутствующим здесь сегодня,

and all of us alive at this moment.

и всему населению мира на сегодняшний день.

For me, the benefits of this technology are stunningly obvious,

Для меня преимущества этой технологии потрясающе очевидны,

and they inspire my life's work every single day.

и они вдохновляют меня на работу каждый день.

But quite frankly, they'll speak for themselves.

Но, честно говоря, преимущества и необязательно оговаривать.

Over the years, I've never shied away from highlighting risks

На протяжении многих лет я всегда подчеркивал риски

and talking about downsides.

и говорил о недостатках ИИ.

Thinking in this way helps us focus on the huge challenges

Подобное мышление помогает нам сосредоточиться на огромных задачах,

that lie ahead for all of us.

стоящих перед всеми нами.

But let's be clear.

Но давайте внесём ясность.

There is no path to progress

Мы не сможем достичь прогресса,

where we leave technology behind.

если оставим технологии позади.

The prize for all of civilization is immense.

Их значение для всего человечества слишком велико.

Нам нужны решения в области здравоохранения,

We need solutions in health care and education, to our climate crisis.

образования и климатического кризиса.

And if AI delivers just a fraction of its potential,

И если ИИ реализует хотя бы малую часть своего потенциала,

the next decade is going to be the most productive in human history.

следующее десятилетие станет самым продуктивным в истории человечества.

Here's another way to think about it.

Вот ещё один способ взглянуть на это.

In the past,

В прошлом

unlocking economic growth often came with huge downsides.

экономический рост часто сопровождался негативными сторонами.

The economy expanded as people discovered new continents

Экономика росла по мере того, как люди открывали новые континенты

and opened up new frontiers.

и достигали новых рубежей.

But they colonized populations at the same time.

Но в то же время они колонизировали коренное население.

We built factories,

Мы строили заводы,

but they were grim and dangerous places to work.

но работа на них была мрачной и опасной.

We struck oil,

Мы добывали нефть,

but we polluted the planet.

но загрязняли планету.

Now because we are still designing and building AI,

Сейчас, когда мы всё ещё разрабатываем и создаём ИИ,

we have the potential and opportunity to do it better,

у нас есть потенциал и возможность сделать это лучше,

radically better.

радикально лучше.

And today, we're not discovering a new continent

И сегодня мы не открываем новый континент

and plundering its resources.

и разграбляем его ресурсы.

We're building one from scratch.

Мы создаём его с нуля.

Sometimes people say that data or chips are the 21st century’s new oil,

Иногда говорят, что данные или чипы — это новая нефть XXI века,

but that's totally the wrong image.

но это совершенно неверное представление.

AI is to the mind

ИИ по отношению к разуму —

what nuclear fusion is to energy.

это то же, что ядерный синтез по отношению к энергии.

Limitless, abundant,

Он безграничен, избыточен,

world-changing.

революционен.

And AI really is different,

И это действительно что-то совершенное новое,

and that means we have to think about it creatively and honestly.

а значит, что мы должны подойти к нему творчески и честно.

We have to push our analogies and our metaphors

Мы должны довести свои сравнения и метафоры

to the very limits

до абсолютного предела,

to be able to grapple with what's coming.

чтобы постичь то, что нас ждёт.

Because this is not just another invention.

Потому что это не просто очередное изобретение.

AI is itself an infinite inventor.

Сам по себе ИИ — бесконечный изобретатель.

And yes, this is exciting and promising and concerning

И да, это одновременно имеет огромный потенциал,

and intriguing all at once.

настораживает и интригует.

To be quite honest, it's pretty surreal.

Честно говоря, это довольно сюрреалистично.

But step back,

Но давайте вернёмся назад

see it on the long view of glacial time,

и взглянем на ледниковое время в перспективе,

and these really are the very most appropriate metaphors that we have today.

и на сегодня это действительно самые подходящие метафоры.

Since the beginning of life on Earth,

С самого начала жизни на Земле

we've been evolving, changing

мы эволюционировали, менялись,

and then creating everything around us in our human world today.

а затем создавали всё, что окружает нас в современном мире.

And AI isn't something outside of this story.

ИИ не находится где-то за пределами этой истории.

In fact, it's the very opposite.

Совсем наоборот.

It's the whole of everything that we have created,

Это сумма всего, что мы создали,

distilled down into something that we can all interact with

сжатая до некой формы, с которой мы можем взаимодействовать,

and benefit from.

извлекая из этого пользу.

It's a reflection of humanity across time,

Это отражение истории человечества,

and in this sense,

и в этом смысле

it isn't a new species at all.

это совсем не новый биотип.

This is where the metaphors end.

На этом метафоры заканчиваются.

Here's what I'll tell Caspian next time he asks.

Вот что я скажу Каспиану в следующий раз, когда он задаст мне этот вопрос.

AI isn't separate.

ИИ — это не что-то отдельное от нас.

AI isn't even in some senses, new.

ИИ даже в каком-то смысле не что-то новое.

AI is us.

ИИ — это мы.

It's all of us.

Это все мы.

And this is perhaps the most promising and vital thing of all

И это, пожалуй, самое многообещающее и самое важное из всех определений,

that even a six-year-old can get a sense for.

которое может понять даже шестилетний ребёнок.

As we build out AI,

Создавая ИИ,

we can and must reflect all that is good,

мы можем и должны воплощать в нём все хорошее,

all that we love,

всё, что мы любим,

all that is special about humanity:

всё, что делает нас людьми:

our empathy, our kindness,

сочувствие, доброту,

our curiosity and our creativity.

любопытство и креативность.

This, I would argue, is the greatest challenge of the 21st century,

Я бы сказал, что это величайший вызов XXI века,

but also the most wonderful,

а также самая прекрасная,

inspiring and hopeful opportunity for all of us.

вдохновляющая и обнадёживающая возможность для всех нас.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)

Chris Anderson: Thank you Mustafa.

Крис Андерсон: Спасибо, Мустафа.

It's an amazing vision and a super powerful metaphor.

Это потрясающее видение и сверхмощная метафора.

You're in an amazing position right now.

Сейчас вы в прекрасном положении.

I mean, you were connected at the hip

Вы были неотъемлемой частью

to the amazing work happening at OpenAI.

потрясающей работы, выполняемой в OpenAI.

You’re going to have resources made available,

Вам будут предоставлены ресурсы,

there are reports of these giant new data centers,

нам рассказывают об огромных новых центрах обработки данных,

100 billion dollars invested and so forth.

в которые было вложено 100 миллиардов долларов и так далее.

And a new species can emerge from it.

И в результате этого может появиться новый вид.

I mean, in your book,

В своей книге

you did, as well as painting an incredible optimistic vision,

вы не только изложили невероятный оптимистичный взгляд,

you were super eloquent on the dangers of AI.

но и очень убедительно рассказали об опасностях ИИ.

And I'm just curious, from the view that you have now,

И мне интересно: что, на ваш взгляд,

what is it that most keeps you up at night?

больше всего не даёт вам спать по ночам?

Mustafa Suleyman: I think the great risk is that we get stuck

Мустафа Сулейман: Думаю, велик риск того, что мы попадём

in what I call the pessimism aversion trap.

в так называемую ловушку неприятия пессимизма.

You know, we have to have the courage to confront

Знаете, нам нужно набраться смелости противостоять

the potential of dark scenarios

потенциальным страшным исходам,

in order to get the most out of all the benefits that we see.

чтобы максимально использовать все преимущества, которые мы видим.

So the good news is that if you look at the last two or three years,

Хорошая новость состоит в том, что если посмотреть на последние два-три года,

there have been very, very few downsides, right?

недостатков было очень и очень мало, верно?

It’s very hard to say explicitly what harm an LLM has caused.

Очень сложно сказать, какой вред причинили LLM.

But that doesn’t mean that that’s what the trajectory is going to be

Но это не значит, что именно таким будет развитие событий

over the next 10 years.

в ближайшие 10 лет.

So I think if you pay attention to a few specific capabilities,

Я думаю, что если обратить внимание на несколько конкретных возможностей,

take for example, autonomy.

например на автономность,

Autonomy is very obviously a threshold

совершенно очевидно, что автономность — это порог,

over which we increase risk in our society.

при пересечении которого мы повышаем риск для общества.

And it's something that we should step towards very, very closely.

И к этому мы должны подойти очень и очень внимательно.

The other would be something like recursive self-improvement.

Другая возможность — что-то вроде рекурсивного самосовершенствования.

If you allow the model to independently self-improve,

Если мы позволим модели самостоятельно совершенствоваться,

update its own code,

обновлять свой код,

explore an environment without oversight, and, you know,

исследовать окружающую среду без контроля и вмешательства

without a human in control to change how it operates,

со стороны человека, который мог бы изменить её работу,

that would obviously be more dangerous.

это, естественно, будет гораздо опаснее.

But I think that we're still some way away from that.

Но я думаю, что до этого ещё далеко.

I think it's still a good five to 10 years before we have to really confront that.

Думаю, ещё 5–10 лет, прежде чем мы по настоящему столкнёмся с этим.

But it's time to start talking about it now.

Но начать говорить об этом нужно уже сейчас.

CA: A digital species, unlike any biological species,

КА: Цифровой биотип, в отличие от нас,

can replicate not in nine months,

может размножаться не за девять месяцев,

but in nine nanoseconds,

а за девять наносекунд,

and produce an indefinite number of copies of itself,

и создавать неограниченное количество копий самого себя,

all of which have more power than we have in many ways.

и все они во многих отношениях обладают бóльшими способностями, чем мы.

I mean, the possibility for unintended consequences seems pretty immense.

Иными словами, вероятность непредвиденных последствий очень велика.

And isn't it true that if a problem happens,

Разве это не значит, что если проблема возможна,

it could happen in an hour?

то она может возникнуть уже через час?

MS: No.

МС: Нет.

That is really not true.

На самом деле это не так.

I think there's no evidence to suggest that.

Тому нет никаких доказательств.

And I think that, you know,

И я думаю,

that’s often referred to as the “intelligence explosion.”

что это то, что часто называют «взрывоподобным развитием ИИ».

And I think it is a theoretical, hypothetical maybe

Я думаю, что это теоретическая или гипотетическая возможность,

that we're all kind of curious to explore,

которую нам всем интересно исследовать,

but there's no evidence that we're anywhere near anything like that.

но нет никаких доказательств того, что мы близки к чему-то подобному.

And I think it's very important that we choose our words super carefully.

И я думаю, что очень важно тщательно подбирать слова.

Because you're right, that's one of the weaknesses of the species framing,

Потому что вы правы, это одна из слабых сторон метафоры биотипа:

that we will design the capability for self-replication into it

что мы наделим ИИ способностью саморепликации,

if people choose to do that.

если так решим.

And I would actually argue that we should not,

Однако я считаю, что нам не следует этого делать,

that would be one of the dangerous capabilities

ведь это одна из опасных возможностей,

that we should step back from, right?

от которой следует отказаться, верно?

So there's no chance that this will "emerge" accidentally.

Поэтому нет никаких шансов, что это «возникнет» случайно.

I really think that's a very low probability.

Я уверен, что вероятность этого очень низка.

It will happen if engineers deliberately design those capabilities in.

Это произойдёт, если инженеры преднамеренно разработают эти возможности

And if they don't take enough efforts to deliberately design them out.

и не приложат усилия для того, чтобы не наделять ими ИИ.

And so this is the point of being explicit

Поэтому смысл в том, чтобы честно

and transparent about trying to introduce safety by design very early on.

и открыто пытаться внедрить безопасность на самых ранних этапах.

CA: Thank you, your vision of humanity injecting into this new thing

КА: Спасибо, ваше видение того, как человечество вкладывает в это новое

the best parts of ourselves,

всё лучшее, что есть в нас,

avoiding all those weird, biological, freaky,

избегая всех тех странных, биологических, извращённых,

horrible tendencies that we can have in certain circumstances,

ужасных тенденций, которые могут возникать в некоторых обстоятельствах, —

I mean, that is a very inspiring vision.

по-моему, очень вдохновляющий взгляд.

And thank you so much for coming here and sharing it at TED.

И большое спасибо за то, что вы поделились им со сцены TED.

Thank you, good luck.

Спасибо, удачи.

(Applause)

(Аплодисменты)