Jeff Dean: AI isn't as smart as you think -- but it could be | TED

Переводчик: Elena Malykh Редактор: Olga Mansurova

Hi, I'm Jeff.

Привет, меня зовут Джефф.

I lead AI Research and Health at Google.

Я веду исследования в Google в сфере ИИ и здоровья.

I joined Google more than 20 years ago,

В Google я пришёл более 20 лет назад,

when we were all wedged into a tiny office space,

тогда нас всех втиснули в крошечный офис,

above what's now a T-Mobile store in downtown Palo Alto.

над нынешним магазином T-Мobile в центре Пало Альто.

I've seen a lot of computing transformations in that time,

За это время я видел много вычислительных трансформаций,

and in the last decade, we've seen AI be able to do tremendous things.

и в последние 10 лет мы поняли, что ИИ может делать потрясающие вещи.

But we're still doing it all wrong in many ways.

Но мы всё ещё многое делаем не так.

That's what I want to talk to you about today.

Вот об этом я и хочу сейчас с вами поговорить.

But first, let's talk about what AI can do.

Но сначала посмотрим, что же ИИ может делать.

So in the last decade, we've seen tremendous progress

За последнее десятилетие мы увидели огромный прогресс в том,

in how AI can help computers see, understand language,

как искусственный интеллект может помочь компьютерам определить и понять язык,

understand speech better than ever before.

понять речь лучше, чем когда-либо.

Things that we couldn't do before, now we can do.

Что раньше мы не могли делать, теперь мы можем.

If you think about computer vision alone,

Если вы думаете только о компьютерном зрении,

just in the last 10 years,

то только за последние 10 лет

computers have effectively developed the ability to see;

компьютеры значительно развили свою способность видеть:

10 years ago, they couldn't see, now they can see.

ещё 10 лет назад они этого не умели, а сейчас могут.

You can imagine this has had a transformative effect

Можете себе представить, насколько это преобразило

on what we can do with computers.

нашу работу с компьютерами.

So let's look at a couple of the great applications

Возьмём для примера пару замечательных приложений,

enabled by these capabilities.

обладающих этими способностями.

We can better predict flooding, keep everyone safe,

Можно уберечь людей, точнее предсказывая наводнения

using machine learning.

с помощью машинного обучения.

We can translate over 100 languages so we all can communicate better,

Можно переводить на 100 языков и более, чтобы лучше общаться,

and better predict and diagnose disease,

диагностировать и предугадывать болезни,

where everyone gets the treatment that they need.

давая пациентам необходимое лечение.

So let's look at two key components

Теперь рассмотрим два ключевых момента,

that underlie the progress in AI systems today.

лежащих в основе прогресса современных систем ИИ.

The first is neural networks,

Первый — это нейросети,

a breakthrough approach to solving some of these difficult problems

революционный подход к решению некоторых сложных проблем,

that has really shone in the last 15 years.

который так ярко проявился за последние 15 лет.

But they're not a new idea.

Но их идея далеко не новая.

And the second is computational power.

Второй — это вычислительная мощность.

It actually takes a lot of computational power

Требуется очень много вычислительной мощности,

to make neural networks able to really sing,

чтобы нейросети могли по-настоящему петь,

and in the last 15 years, we’ve been able to halve that,

и за последние 15 лет мы смогли этого добиться,

and that's partly what's enabled all this progress.

и отчасти поэтому прогресс стал возможным.

But at the same time, I think we're doing several things wrong,

Но в то же время я думаю, что в каких-то вещах мы ошибаемся,

and that's what I want to talk to you about

собственно об этом я и хочу поговорить

at the end of the talk.

в конце нашей беседы.

First, a bit of a history lesson.

Для начала немного истории.

So for decades,

Десятилетиями,

almost since the very beginning of computing,

почти с самого начала машинных вычислений,

people have wanted to be able to build computers

люди хотели создать компьютеры,

that could see, understand language, understand speech.

которые могли бы видеть, понимать языки и человеческую речь.

The earliest approaches to this, generally,

Для первых попыток было характерно

people were trying to hand-code all the algorithms

ручное кодирование всех алгоритмов,

that you need to accomplish those difficult tasks,

необходимых для решения этих сложных задач,

and it just turned out to not work very well.

и оказалось, что это не очень хорошо работает.

But in the last 15 years, a single approach

Но за последние 15 лет благодаря одному методу

unexpectedly advanced all these different problem spaces all at once:

неожиданно мы продвинулись во всех проблемных областях:

neural networks.

это искусственные нейросети.

So neural networks are not a new idea.

Нейронные сети — не новая идея.

They're kind of loosely based

В какой-то степени

on some of the properties that are in real neural systems.

они основаны на некоторых свойствах реальных нейросистем.

And many of the ideas behind neural networks

И многие идеи создания нейронных сетей

have been around since the 1960s and 70s.

начали появляться в 1960-е и 1970-е годы.

A neural network is what it sounds like,

Нейросеть — это что-то вроде

a series of interconnected artificial neurons

серии взаимосвязанных искусственных нейронов,

that loosely emulate the properties of your real neurons.

которые приблизительно имитируют свойства настоящих нейронов.

An individual neuron in one of these systems

Отдельный нейрон в одной из таких серий

has a set of inputs,

имеет набор входов,

each with an associated weight,

каждый с соответствующим весом,

and the output of a neuron

а выход нейрона

is a function of those inputs multiplied by those weights.

представляет функция этих входов, умноженных на вес каждого.

So pretty simple,

В общем, всё несложно,

and lots and lots of these work together to learn complicated things.

и их множества работают вместе для обучения сложным вещам.

So how do we actually learn in a neural network?

Так как же мы на самом деле обучаем в нейросети?

It turns out the learning process

Получается, что процесс обучения

consists of repeatedly making tiny little adjustments

состоит из повторяющихся крошечных корректировок

to the weight values,

весовых значений,

strengthening the influence of some things,

усиливающих влияние одних вещей,

weakening the influence of others.

и ослабляющих другие.

By driving the overall system towards desired behaviors,

Путём ориентации всей системы на желаемое поведение

these systems can be trained to do really complicated things,

серии можно натренировать так, чтобы они делали сложные вещи,

like translate from one language to another,

такие, например, как перевод с одного языка на другой,

detect what kind of objects are in a photo,

определение типа объектов на фотографии

all kinds of complicated things.

и другие сложные задания.

I first got interested in neural networks

Впервые я заинтересовался нейросетями

when I took a class on them as an undergraduate in 1990.

в 1990 году, когда взял по ним спецкурс, ещё будучи студентом.

At that time,

Уже тогда

neural networks showed impressive results on tiny problems,

нейросети показали впечатляющие результаты в решении мелких проблем,

but they really couldn't scale to do real-world important tasks.

но они не могли достичь того масштаба, чтобы решать жизненно важные задачи.

But I was super excited.

Но мой восторг не знал границ.

(Laughter)

(Смех)

I felt maybe we just needed more compute power.

Может, требовались лишь более мощные компьютеры.

And the University of Minnesota had a 32-processor machine.

В университете Миннесоты была 32-процессорная машина.

I thought, "With more compute power,

И я подумал: «Имея бо́льшую мощность,

boy, we could really make neural networks really sing."

дружище, мы реально сможем заставить нейросети петь».

So I decided to do a senior thesis on parallel training of neural networks,

И решил написать дипломную работу по параллельной тренировке нейросетей

the idea of using processors in a computer or in a computer system

с идеей использовать процессоры компьютера или системы компьютеров

to all work toward the same task,

для работы над одной и той же задачей

that of training neural networks.

тренировки нейросетей.

32 processors, wow,

Круто, 32 процессора,

we’ve got to be able to do great things with this.

мы просто свернём горы!

But I was wrong.

Но я был неправ.

Turns out we needed about a million times as much computational power

Оказалось, что нам нужна мощность в миллион раз бо́льшая,

as we had in 1990

чем была в 1990 году,

before we could actually get neural networks to do impressive things.

для создания нейросетей, способных делать потрясающие вещи.

But starting around 2005,

Но начиная примерно с 2005 года,

thanks to the computing progress of Moore's law,

благодаря прогрессу в вычислениях и закону Мура,

we actually started to have that much computing power,

у нас появилось достаточно вычислительных мощностей,

and researchers in a few universities around the world started to see success

и учёные в ряде университетов по всему миру стали видеть успехи

in using neural networks for a wide variety of different kinds of tasks.

в использовании нейросетей для решения разных видов задач.

I and a few others at Google heard about some of these successes,

Я и ещё несколько человек в Google слышали о некоторых из этих успехов,

and we decided to start a project to train very large neural networks.

и мы решили начать проект по обучению очень больших нейросетей.

One system that we trained,

Одну из систем

we trained with 10 million randomly selected frames

мы обучали на 10 миллионах произвольно выбранных фрагментов

from YouTube videos.

из видео на Youtube.

The system developed the capability

Эта система развивала способность

to recognize all kinds of different objects.

распознавать все виды разных объектов.

And it being YouTube, of course,

И конечно, на видео Youtube

it developed the ability to recognize cats.

она развивала своё умение распознавать кошек.

YouTube is full of cats.

На Youtube полно кошек.

(Laughter)

(Смех)

But what made that so remarkable

Но в этом замечательно именно то,

is that the system was never told what a cat was.

что системе никто не говорил, что такое кошка.

So using just patterns in data,

Итак, используя только образы в данных,

the system honed in on the concept of a cat all on its own.

система совершенствовала свою концепцию кошки.

All of this occurred at the beginning of a decade-long string of successes,

Всё это произошло в начале десятилетней полосы успехов

of using neural networks for a huge variety of tasks,

использования нейросетей в массе самых разных задач

at Google and elsewhere.

в Google и помимо него.

Many of the things you use every day,

Многими вещами мы пользуемся ежедневно:

things like better speech recognition for your phone,

улучшенным распознаванием речи для ваших телефонов,

improved understanding of queries and documents

более глубоким пониманием запросов и документов

for better search quality,

для лучшего поиска,

better understanding of geographic information to improve maps,

лучшим восприятием географической информации для улучшения карт

and so on.

и так далее.

Around that time,

Примерно тогда же

we also got excited about how we could build hardware that was better tailored

мы пришли в восторг от того, что смогли лучше подготовить компьютер

to the kinds of computations neural networks wanted to do.

к вычислительным задачам нейросетей.

Neural network computations have two special properties.

Вычисления в нейросетях отличают два особых свойства.

The first is they're very tolerant of reduced precision.

Во-первых, они очень терпимы к пониженной точности.

Couple of significant digits, you don't need six or seven.

Пара главных цифр вместо шести-семи.

And the second is that all the algorithms are generally composed

И во-вторых, все алгоритмы в основном состоят

of different sequences of matrix and vector operations.

из различных последовательностей матричных и векторных операций.

So if you can build a computer

И если вы можете создать компьютер,

that is really good at low-precision matrix and vector operations

который годится для низкоточных матричных и векторных операций,

but can't do much else,

но не делает другое,

that's going to be great for neural-network computation,

он отлично подойдёт для вычислений в нейросетях,

even though you can't use it for a lot of other things.

даже если вы не используете его для массы других вещей.

And if you build such things, people will find amazing uses for them.

И если вы создадите такие вещи, люди найдут им интересное применение.

This is the first one we built, TPU v1.

Для начала мы создали вот это, TPU v1.

"TPU" stands for Tensor Processing Unit.

TPU означает «тензорный процессор».

These have been used for many years behind every Google search,

Они использовались многие годы в каждом поиске Google:

for translation,

для переводов,

in the DeepMind AlphaGo matches,

в матчах по DeepMind AlphaGo,

so Lee Sedol and Ke Jie maybe didn't realize,

так что Ли Седол и Ке Дзе, возможно, не понимали,

but they were competing against racks of TPU cards.

но они играли против стеллажей карт TPU.

And we've built a bunch of subsequent versions of TPUs

Мы создали кучу следующих версий TPU,

that are even better and more exciting.

ещё лучше и интереснее.

But despite all these successes,

Но, несмотря на эти успехи,

I think we're still doing many things wrong,

думаю, что мы до сих пор делаем много ошибок,

and I'll tell you about three key things we're doing wrong,

и я вам расскажу о трёх главных из них

and how we'll fix them.

и как их исправить.

The first is that most neural networks today

Первая в том, что большинство нейросетей

are trained to do one thing, and one thing only.

сегодня учат выполнять лишь одну задачу.

You train it for a particular task that you might care deeply about,

Вы обучаете нейросеть для той задачи, которая вас очень интересует,

but it's a pretty heavyweight activity.

но это довольно-таки трудоёмко.

You need to curate a data set,

Нужно следить за набором данных,

you need to decide what network architecture you'll use

выбрать сетевую архитектуру

for this problem,

для решения проблемы,

you need to initialize the weights with random values,

нужно инициализировать веса со случайными значениями,

apply lots of computation to make adjustments to the weights.

применять множество расчётов для корректировки весов.

And at the end, if you’re lucky, you end up with a model

И в конце, если вам повезёт, у вас получится модель,

that is really good at that task you care about.

которая идеально подходит для вашей задачи.

But if you do this over and over,

Но если вы повторяете это снова,

you end up with thousands of separate models,

то в итоге приходите к тысячам отдельных моделей,

each perhaps very capable,

каждая из которых может быть

but separate for all the different tasks you care about.

очень хорошей, но только для каждой отдельной вашей задачи.

But think about how people learn.

А как же учатся люди?

In the last year, many of us have picked up a bunch of new skills.

В прошлом году многие из нас овладели целым набором новых навыков.

I've been honing my gardening skills,

Я совершенствовал себя в садоводстве,

experimenting with vertical hydroponic gardening.

пробуя вертикальные гидропонные системы.

To do that, I didn't need to relearn everything I already knew about plants.

Чтобы сделать это, я не должен был повторять всё, что я знаю о растениях.

I was able to know how to put a plant in a hole,

Мне достаточно было узнать, как посадить растение в вырытую ямку,

how to pour water, that plants need sun,

как поливать, что растениям нужно солнце,

and leverage that in learning this new skill.

и использовать это, обучаясь новым навыкам.

Computers can work the same way, but they don’t today.

Компьютеры могут работать так же, но сейчас этого не происходит.

If you train a neural network from scratch,

Если вы обучаете нейросеть с нуля,

it's effectively like forgetting your entire education

практически это как забыть о своём образовании,

every time you try to do something new.

каждый раз начиная что-то новое.

That’s crazy, right?

Ведь это безумие?

So instead, I think we can and should be training

Вместо этого, я думаю, мы можем и должны обучать

multitask models that can do thousands or millions of different tasks.

мультизадачные модели, которые могут решать тысячи или миллионы разных задач.

Each part of that model would specialize in different kinds of things.

Каждая часть этой модели отвечала бы за разные вещи.

And then, if we have a model that can do a thousand things,

И если у нас есть модель, делающая тысячу вещей,

and the thousand and first thing comes along,

и появляется тысяча первая,

we can leverage the expertise we already have

мы можем использовать имеющийся опыт

in the related kinds of things

в соответствующих вещах,

so that we can more quickly be able to do this new task,

поэтому мы сможем решить эту новую задачу быстрее,

just like you, if you're confronted with some new problem,

как и вы, когда вы сталкиваетесь с какой-то новой задачей,

you quickly identify the 17 things you already know

вы быстро определяете 17 вещей, которые уже знаете

that are going to be helpful in solving that problem.

и которые могут помочь в её решении.

Second problem is that most of our models today

Вторая проблема в том, что большинство наших моделей

deal with only a single modality of data --

рассматривают только один тип данных:

with images, or text or speech,

либо изображения, либо текст, либо речь,

but not all of these all at once.

но не все сразу.

But think about how you go about the world.

Но задумайтесь о вашей жизни в этом мире.

You're continuously using all your senses

Вы всегда используете весь свой разум и чувства,

to learn from, react to,

чтобы что-то узнавать, как-то реагировать,

figure out what actions you want to take in the world.

понимать, что вам необходимо сделать.

Makes a lot more sense to do that,

В этом есть намного больше смысла,

and we can build models in the same way.

и мы можем точно так же построить модели.

We can build models that take in these different modalities of input data,

Мы можем построить модели, воспринимающие эти разные типы входных данных:

text, images, speech,

текст, изображения, речь,

but then fuse them together,

но потом слить их вместе так,

so that regardless of whether the model sees the word "leopard,"

чтобы независимо от того, видит ли модель слово «леопард»,

sees a video of a leopard or hears someone say the word "leopard,"

или видео с леопардом, или слышит слово «леопард»,

the same response is triggered inside the model:

внутри этой модели ответ был бы одним и тем же:

the concept of a leopard

понятие о леопарде,

can deal with different kinds of input data,

связанное с разными типами входных данных,

even nonhuman inputs, like genetic sequences,

даже с не человеческими, например, генетическими рядами,

3D clouds of points, as well as images, text and video.

трёхмерными облаками точек, как и с изображениями, текстом и видео.

The third problem is that today's models are dense.

Третья проблема в том, что современные модели очень насыщенные.

There's a single model,

Это единая модель,

the model is fully activated for every task,

полностью активированная для каждого задания,

for every example that we want to accomplish,

каждого типа поставленной задачи,

whether that's a really simple or a really complicated thing.

от простейшей до самой сложной.

This, too, is unlike how our own brains work.

К тому же это непохоже на то, как работает наш мозг.

Different parts of our brains are good at different things,

Разные части нашего мозга отвечают за разные вещи,

and we're continuously calling upon the pieces of them

и мы постоянно вызываем определённые его участки,

that are relevant for the task at hand.

которые соответствуют текущей задаче.

For example, nervously watching a garbage truck

К примеру, когда вы нервничаете из-за мусоровоза,

back up towards your car,

пятящегося назад к вашей машине,

the part of your brain that thinks about Shakespearean sonnets

та часть вашего мозга, которая думает о сонетах Шекспира,

is probably inactive.

скорее всего, неактивна.

(Laughter)

(Смех)

AI models can work the same way.

Модели ИИ могут работать именно так.

Instead of a dense model,

Вместо насыщенной модели

we can have one that is sparsely activated.

можно создать такую, которая слабо активирована.

So for particular different tasks, we call upon different parts of the model.

Для выполнения разных частных задач мы вызываем разные части модели.

During training, the model can also learn which parts are good at which things,

В процессе обучения модель узнаёт, какие части для каких задач подходят,

to continuously identify what parts it wants to call upon

чтобы постоянно определять, к каким частям ей обратиться,

in order to accomplish a new task.

чтобы выполнить новое задание.

The advantage of this is we can have a very high-capacity model,

Преимущество в том, что у нас будет модель с очень высокой ёмкостью,

but it's very efficient,

но она очень эффективна,

because we're only calling upon the parts that we need

так как мы вызываем лишь те части, которые нам нужны

for any given task.

для любой искомой задачи.

So fixing these three things, I think,

Думаю, что исправление этих трёх моментов

will lead to a more powerful AI system:

приведёт к созданию более мощной системы ИИ:

instead of thousands of separate models,

вместо тысяч разрозненных моделей

train a handful of general-purpose models

обучать немногие модели общего назначения,

that can do thousands or millions of things.

способные делать тысячи или миллионы вещей.

Instead of dealing with single modalities,

Вместо работы с отдельными типами

deal with all modalities,

работать со всеми типами

and be able to fuse them together.

и уметь сочетать их вместе.

And instead of dense models, use sparse, high-capacity models,

И вместо сжатых моделей использовать разреженные модели большой ёмкости,

where we call upon the relevant bits as we need them.

где вызывать при необходимости соответствующие её части.

We've been building a system that enables these kinds of approaches,

Мы строим систему, которая сделает возможными подобные подходы,

and we’ve been calling the system “Pathways.”

систему под названием «Пути».

So the idea is this model will be able to do

Идея в том, что эта модель будет в состоянии выполнять

thousands or millions of different tasks,

тысячи или миллионы разных задач,

and then, we can incrementally add new tasks,

затем мы сможем по шагам добавлять новые задачи,

and it can deal with all modalities at once,

и она сможет работать сразу со всеми типами,

and then incrementally learn new tasks as needed

а потом постепенно научится выполнять новые нужные задачи

and call upon the relevant bits of the model

и вызывать соответствующие части модели

for different examples or tasks.

для разных примеров или задач.

And we're pretty excited about this,

Нас это очень волнует,

we think this is going to be a step forward

и мы считаем, что это будет шагом вперёд

in how we build AI systems.

в построении систем ИИ.

But I also wanted to touch on responsible AI.

Но я также хочу затронуть вопрос об ответственном ИИ.

We clearly need to make sure that this vision of powerful AI systems

Нам определённо нужна уверенность, что понимание силы систем ИИ

benefits everyone.

принесёт пользу каждому.

These kinds of models raise important new questions

Такого рода модели поднимают новые важные вопросы

about how do we build them with fairness,

о том, как нам сделать их справедливыми,

interpretability, privacy and security,

понятными, приватными и безопасными

for all users in mind.

для всех пользователей.

For example, if we're going to train these models

Например, если мы хотим тренировать эти модели

on thousands or millions of tasks,

на тысячах или миллионах задач,

we'll need to be able to train them on large amounts of data.

мы должны уметь их тренировать на больших объёмах данных.

And we need to make sure that data is thoughtfully collected

И быть уверенными в том, что эти данные продуманно собраны

and is representative of different communities and situations

и представляют различные сообщества и ситуации

all around the world.

по всему миру.

And data concerns are only one aspect of responsible AI.

Проблема данных — это только один аспект ответственного ИИ.

We have a lot of work to do here.

Нам ещё многое предстоит сделать.

So in 2018, Google published this set of AI principles

И в 2018 году Google опубликовал список принципов ИИ,

by which we think about developing these kinds of technology.

лежащих в основе наших идей о развитии таких технологий.

And these have helped guide us in how we do research in this space,

Эти принципы помогли нам направить наши исследования в эту область,

how we use AI in our products.

как использовать ИИ в наших продуктах.

And I think it's a really helpful and important framing

И я думаю, что эти принципы очень полезны и важны для нас

for how to think about these deep and complex questions

в подходе к таким глубоким и сложным вопросам о том,

about how we should be using AI in society.

как мы должны использовать ИИ в нашем обществе.

We continue to update these as we learn more.

Мы продолжаем их обновлять по мере накопления новых знаний.

Many of these kinds of principles are active areas of research --

Многие из этих принципов являются активными областями исследований,

super important area.

чрезвычайно важными областями.

Moving from single-purpose systems that kind of recognize patterns in data

Переход от одноцелевых систем типа распознавания закономерностей в данных

to these kinds of general-purpose intelligent systems

к общецелевым интеллектуальным системам

that have a deeper understanding of the world

с более глубоким пониманием нашего мира

will really enable us to tackle

поможет нам взяться за решение

some of the greatest problems humanity faces.

некоторых величайших проблем человечества.

For example,

Например,

we’ll be able to diagnose more disease;

мы сможем диагностировать больше болезней;

we'll be able to engineer better medicines

сможем создать лучшие лекарства,

by infusing these models with knowledge of chemistry and physics;

включив в эти модели знания по химии и физике;

we'll be able to advance educational systems

сможем развивать системы образования,

by providing more individualized tutoring

сделав обучение людей более индивидуальным,

to help people learn in new and better ways;

чтобы помочь им учиться лучше и по-новому;

we’ll be able to tackle really complicated issues,

мы сможем заняться такими сложными проблемами,

like climate change,

как изменение климата

and perhaps engineering of clean energy solutions.

и, возможно, работой над чистыми источниками энергии.

So really, all of these kinds of systems

И конечно, всем этим типам систем

are going to be requiring the multidisciplinary expertise

потребуется мультидисциплинарная экспертиза

of people all over the world.

от людей во всём мире.

So connecting AI with whatever field you are in,

Таким образом связывая ИИ с любой сферой вашей деятельности

in order to make progress.

для общего прогресса.

So I've seen a lot of advances in computing,

Я вижу много достижений в вычислительной технике

and how computing, over the past decades,

и как она за последние десятилетия

has really helped millions of people better understand the world around them.

помогла миллионам людей лучше понять окружающий мир.

And AI today has the potential to help billions of people.

Сегодня ИИ обладает потенциалом, чтобы помочь миллионам людей.

We truly live in exciting times.

Мы живём поистине в волнующее время.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)

Chris Anderson: Thank you so much.

Крис Андерсон: Большое спасибо.

I want to follow up on a couple things.

Я только хочу кое-что прояснить.

This is what I heard.

Это то, что я услышал.

Most people's traditional picture of AI

Большинство людей традиционно представляют ИИ так:

is that computers recognize a pattern of information,

компьютеры распознают некий пример информации,

and with a bit of machine learning,

и, получив немного машинного обучения,

they can get really good at that, better than humans.

они могут в этом преуспеть больше, чем люди.

What you're saying is those patterns

Вы хотите сказать, что эти примеры

are no longer the atoms that AI is working with,

больше не атомы, с которыми работает ИИ,

that it's much richer-layered concepts

а более многослойные понятия,

that can include all manners of types of things

которые могут включать в себя все разновидности вещей,

that go to make up a leopard, for example.

с помощью которых распознаётся, например, леопард.

So what could that lead to?

К чему же это может привести?

Give me an example of when that AI is working,

Приведите мне пример работы ИИ,

what do you picture happening in the world

что, по-вашему, произойдёт в мире

in the next five or 10 years that excites you?

в ближайшие 10 лет, что вас волнует?

Jeff Dean: I think the grand challenge in AI

Джефф Дин: Я думаю, что очень важная проблема в ИИ

is how do you generalize from a set of tasks

в том, как вы обобщите переход от набора задач,

you already know how to do

которые знаете, как решить,

to new tasks,

к новым задачам

as easily and effortlessly as possible.

как можно легче и быстрее.

And the current approach of training separate models for everything

И нынешний подход к тренировке отдельных моделей на всех видах

means you need lots of data about that particular problem,

означает, что вам нужно множество данных о частной проблеме,

because you're effectively trying to learn everything

потому что вы пытаетесь эффективно узнать всё

about the world and that problem, from nothing.

о мире и об этой проблеме, из ничего.

But if you can build these systems

Но если вы построите эти системы,

that already are infused with how to do thousands and millions of tasks,

которые уже знают, как делать тысячи и миллионы заданий,

then you can effectively teach them to do a new thing

то вы сможете эффективно обучить их чему-то новому

with relatively few examples.

на немногих примерах.

So I think that's the real hope,

Думаю, что на самом деле есть надежда,

that you could then have a system where you just give it five examples

что мы сможем получить систему, где достаточно лишь пяти примеров,

of something you care about,

важных для нас,

and it learns to do that new task.

и она научится делать новое задание.

CA: You can do a form of self-supervised learning

КА: Вы создадите форму самостоятельного обучения,

that is based on remarkably little seeding.

для которого нужно на удивление мало.

JD: Yeah, as opposed to needing 10,000 or 100,000 examples

ДД: Да, по сравнению с теми 10 000 или 100 000 образцов,

to figure everything in the world out.

необходимых для понимания мира.

CA: Aren't there kind of terrifying unintended consequences

КА: Не вызовет ли это ужасные непредвиденные последствия,

possible, from that?

возможно ли это?

JD: I think it depends on how you apply these systems.

ДД: Это зависит от того, как вы примените эти системы.

It's very clear that AI can be a powerful system for good,

Совершенно ясно, что ИИ может быть мощной системой для хороших дел

or if you apply it in ways that are not so great,

или, если вы используете его не во благо,

it can be a negative consequence.

последствия могут быть отрицательными.

So I think that's why it's important to have a set of principles

Вот почему я думаю о том, как важно иметь набор принципов

by which you look at potential uses of AI

для рассмотрения возможного использования ИИ

and really are careful and thoughtful about how you consider applications.

и быть благоразумным и предусмотрительным в вопросах его применения.

CA: One of the things people worry most about

КА: Один из наиболее волнующих людей вопросов

is that, if AI is so good at learning from the world as it is,

заключается в том, что если ИИ так хорошо учится у реального мира,

it's going to carry forward into the future

то он перенесёт в будущее те аспекты мира, какие есть,

aspects of the world as it is that actually aren't right, right now.

которые на самом деле неправильны, именно сейчас.

And there's obviously been a huge controversy about that

Как раз по этому поводу была большая дискуссия

recently at Google.

недавно в Google.

Some of those principles of AI development,

С некоторыми принципами развития ИИ

you've been challenged that you're not actually holding to them.

у вас были проблемы именно в том, что вы их не придерживаетесь.

Not really interested to hear about comments on a specific case,

Меня не интересуют комментарии по поводу конкретного случая,

but ... are you really committed?

но... вы действительно им следуете?

How do we know that you are committed to these principles?

Как понять, что вы привержены этим принципам?

Is that just PR, or is that real, at the heart of your day-to-day?

Это просто пиар, или суть вашей повседневной жизни?

JD: No, that is absolutely real.

ДД: Нет, это на самом деле.

Like, we have literally hundreds of people

Например, у нас буквально сотни людей

working on many of these related research issues,

работают над многими из этих вопросов,

because many of those things are research topics

так как многие из принципов сами по себе являются

in their own right.

темами исследований.

How do you take data from the real world,

Как взять данные из реального мира,

that is the world as it is, not as we would like it to be,

мира, каков он есть, а не того, каким мы хотели бы его увидеть,

and how do you then use that to train a machine-learning model

использовать их для тренировки модели машинного обучения

and adapt the data bit of the scene

и адаптировать конкретный элемент данных

or augment the data with additional data

или добавить дополнительные данные так,

so that it can better reflect the values we want the system to have,

чтобы она лучше воспроизводила значения, которые мы хотим иметь,

not the values that it sees in the world?

а не те, которые она видит в реальности?

CA: But you work for Google,

КА: Но вы работаете для Google,

Google is funding the research.

Google спонсирует это научное исследование.

How do we know that the main values that this AI will build

Откуда мы знаем, что главные ценности, которые этот ИИ создаст,

are for the world,

будут для всего мира,

and not, for example, to maximize the profitability of an ad model?

а не для максимизации прибыли рекламной модели?

When you know everything there is to know about human attention,

Когда ты знаешь всё, что нужно знать о человеческом внимании,

you're going to know so much

ты узнаёшь многое

about the little wriggly, weird, dark parts of us.

о самых потаённых тёмных уголках нашего сознания.

In your group, are there rules about how you hold off,

Есть ли в вашей группе правила о том, как вам удержаться,

church-state wall between a sort of commercial push,

есть ли церковно-государственная стена против коммерческого давления

"You must do it for this purpose,"

типа «Ты должен делать это»,

so that you can inspire your engineers and so forth,

и вы можете вдохновить ваших инженеров и других

to do this for the world, for all of us.

делать это для людей, для нас всех?

JD: Yeah, our research group does collaborate

ДД: Да, наша группа как раз сотрудничает

with a number of groups across Google,

с рядом групп помимо Google,

including the Ads group, the Search group, the Maps group,

включая группы Ads, Search, Maps,

so we do have some collaboration, but also a lot of basic research

и есть ряд совместных, а также много фундаментальных исследований,

that we publish openly.

мы их открыто публикуем.

We've published more than 1,000 papers last year

В прошлом году мы опубликовали более 1000 статей

in different topics, including the ones you discussed,

на разные темы, включая те, которые мы уже обсуждали:

about fairness, interpretability of the machine-learning models,

о справедливости, интерпретируемости моделей машинного обучения,

things that are super important,

вещах чрезвычайно важных,

and we need to advance the state of the art in this

и нам нужно повышать уровень развития в этой сфере,

in order to continue to make progress

чтобы продолжать добиваться прогресса

to make sure these models are developed safely and responsibly.

и быть уверенными в безопасности и надёжности этих моделей.

CA: It feels like we're at a time when people are concerned

КА: Такое ощущение, что мы живём во время, когда людей заботит

about the power of the big tech companies,

мощь больших высокотехнологичных компаний,

and it's almost, if there was ever a moment to really show the world

и хорошо, если бы наступил момент реально показать миру,

that this is being done to make a better future,

что это делается для лучшего будущего,

that is actually key to Google's future,

что это главное и для компании Google,

as well as all of ours.

как и для всех нас.

JD: Indeed.

ДД: Именно так.

CA: It's very good to hear you come and say that, Jeff.

КА: Очень здорово услышать вас здесь, Джефф.

Thank you so much for coming here to TED.

Большое спасибо, что пришли на TED.

JD: Thank you.

ДД: Спасибо.

(Applause)

(Аплодисменты)