How we can build AI to help humans, not hurt us | Margaret Mitchell

Переводчик: Maria Rigert Редактор: Yulia Kallistratova

I work on helping computers communicate about the world around us.

Моя работа — помогать компьютерам делать сообщения об окружающем мире.

There are a lot of ways to do this,

Есть много способов сделать это,

and I like to focus on helping computers

но мне нравится помогать компьютерам

to talk about what they see and understand.

рассказывать о том, что они видят и понимают.

Given a scene like this,

Например, на этой картинке

a modern computer-vision algorithm

современный алгоритм компьютерного видения

can tell you that there's a woman and there's a dog.

может распознать, что это — женщина, а это — собака.

It can tell you that the woman is smiling.

Он может сказать, что женщина улыбается.

It might even be able to tell you that the dog is incredibly cute.

Он даже способен сказать, что собака необыкновенно милая.

I work on this problem

Я работаю над этим,

thinking about how humans understand and process the world.

думая о том, как люди понимают и обрабатывают данные о мире.

The thoughts, memories and stories

Какие мысли, воспоминания и истории

that a scene like this might evoke for humans.

может пробуждать в людях такая вот картинка.

All the interconnections of related situations.

Всё, что связано с подобными ситуациями.

Maybe you've seen a dog like this one before,

Возможно, вы видели похожую собаку раньше

or you've spent time running on a beach like this one,

или проводили время, так же бегая по пляжу,

and that further evokes thoughts and memories of a past vacation,

и это, в свою очередь, вызывает мысли и воспоминания о прошедшем отпуске,

past times to the beach,

о времени, проведённом на пляже,

times spent running around with other dogs.

или времени, когда вы бегали где-то с другой собакой.

One of my guiding principles is that by helping computers to understand

Один из моих главных принципов — это помочь компьютерам понять,

what it's like to have these experiences,

что значит иметь подобный опыт,

to understand what we share and believe and feel,

понять, чем мы делимся, во что верим и что чувствуем,

then we're in a great position to start evolving computer technology

потому что тогда мы будем готовы начать вовлекать компьютерные технологии

in a way that's complementary with our own experiences.

в процессы, дополняющие наш собственный опыт.

So, digging more deeply into this,

Если копнуть глубже,

a few years ago I began working on helping computers to generate human-like stories

несколько лет назад я начала помогать компьютерам писать рассказы

from sequences of images.

на основе цепочки изображений.

So, one day,

И однажды

I was working with my computer to ask it what it thought about a trip to Australia.

в ходе работы я спросила компьютер, что он думает о поездке в Австралию.

It took a look at the pictures, and it saw a koala.

Он взглянул на картинки и увидел коалу.

It didn't know what the koala was,

Он не знал, что такое коала,

but it said it thought it was an interesting-looking creature.

но сказал, что считает её любопытным созданием.

Then I shared with it a sequence of images about a house burning down.

Затем я поделилась с ним цепочкой изображений о горящих домах.

It took a look at the images and it said,

Он посмотрел на картинки и сказал:

"This is an amazing view! This is spectacular!"

«Удивительный вид! Потрясающе!»

It sent chills down my spine.

У меня по спине побежали мурашки.

It saw a horrible, life-changing and life-destroying event

Он смотрел на ужасное, разрушающее жизни событие

and thought it was something positive.

и думал, что это нечто положительное.

I realized that it recognized the contrast,

Я поняла, что он распознал контрасты,

the reds, the yellows,

оттенки красного и жёлтого

and thought it was something worth remarking on positively.

и подумал, что это заслуживает позитивной оценки.

And part of why it was doing this

Отчасти он сделал это,

was because most of the images I had given it

потому что большинство изображений, которые я давала ему,

were positive images.

были позитивными.

That's because people tend to share positive images

Потому что люди склонны делиться позитивными изображениями,

when they talk about their experiences.

когда рассказывают о своём опыте.

When was the last time you saw a selfie at a funeral?

Когда вы в последний раз видели селфи на похоронах?

I realized that, as I worked on improving AI

Я осознала, что, совершенствуя искусственный интеллект,

task by task, dataset by dataset,

задачу за задачей, массив данных за массивом,

that I was creating massive gaps,

я создала огромные бреши,

holes and blind spots in what it could understand.

дыры и слепые пятна в том, что он мог понимать.

And while doing so,

И делая это,

I was encoding all kinds of biases.

я закодировала все возможные виды предубеждений.

Biases that reflect a limited viewpoint,

Предубеждений, отражающих ограниченное видение,

limited to a single dataset --

ограниченное единым набором данных.

biases that can reflect human biases found in the data,

Пробелы, которые отражают человеческие предубеждения, закодированные в данных,

such as prejudice and stereotyping.

такие как предвзятость и стереотипы.

I thought back to the evolution of the technology

Я подумала об эволюции технологий,

that brought me to where I was that day --

которая привела меня к тому, где я оказалась тогда, —

how the first color images

как первые цветные фотографии

were calibrated against a white woman's skin,

были откалиброваны по коже белых женщин,

meaning that color photography was biased against black faces.

а значит, цветные фотографии были не приспособлены к тёмным лицам.

And that same bias, that same blind spot

И это же предубеждение, это же слепое пятно

continued well into the '90s.

продолжалось и в 90-е.

And the same blind spot continues even today

И это же слепое пятно мы имеем и сегодня

in how well we can recognize different people's faces

в том, насколько хорошо мы можем узнавать разнообразные человеческие лица

in facial recognition technology.

в технологии распознавания лиц.

I though about the state of the art in research today,

Я думала о новейших исследованиях,

where we tend to limit our thinking to one dataset and one problem.

где мы склонны ограничивать свое мышление одним набором данных и одной проблемой.

And that in doing so, we were creating more blind spots and biases

И делая это, мы создавали всё больше слепых пятен и предубеждений,

that the AI could further amplify.

которые ИИ смог развить дальше.

I realized then that we had to think deeply

Я поняла, что нужно больше думать о том,

about how the technology we work on today looks in five years, in 10 years.

как технологии, с которыми мы работаем сегодня, будут выглядеть через 5 и 10 лет.

Humans evolve slowly, with time to correct for issues

Человечество эволюционирует медленно, со временем исправляя проблемы

in the interaction of humans and their environment.

во взаимодействии людей и окружающей среды.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Искусственный интеллект, напротив, эволюционирует с невероятной скоростью.

And that means that it really matters

И значит, действительно важно

that we think about this carefully right now --

внимательно подумать прямо сейчас,

that we reflect on our own blind spots,

что мы прячем в своих слепых пятнах,

our own biases,

в своих предубеждениях,

and think about how that's informing the technology we're creating

как это отражается на технологиях, которые мы создаём,

and discuss what the technology of today will mean for tomorrow.

и обсудить, что технологии настоящего будут значить для будущего.

CEOs and scientists have weighed in on what they think

Топ-менеджеры и учёные всего мира говорят о том,

the artificial intelligence technology of the future will be.

каким по их мнению будет искусственный интеллект в будущем.

Stephen Hawking warns that

Стивен Хокинг предостерегает:

"Artificial intelligence could end mankind."

«ИИ может положить конец человечеству».

Elon Musk warns that it's an existential risk

Илон Маск предупреждает, что это один из величайших

and one of the greatest risks that we face as a civilization.

экзистенциальных рисков, с которым когда-либо сталкивалась наша цивилизация.

Bill Gates has made the point,

Билл Гейтс недоумевает:

"I don't understand why people aren't more concerned."

«Я не понимаю, почему люди не обеспокоены».

But these views --

Но эти мнения —

they're part of the story.

это только часть истории.

The math, the models,

Математика, модели,

the basic building blocks of artificial intelligence

основополагающие кирпичики искусственного интеллекта —

are something that we call access and all work with.

это то, что мы зовём доступом и с чем работаем.

We have open-source tools for machine learning and intelligence

У нас есть инструменты с открытым кодом для машинного обучения и интеллекта,

that we can contribute to.

которыми мы готовы делиться.

And beyond that, we can share our experience.

И кроме того, мы можем делиться своим опытом.

We can share our experiences with technology and how it concerns us

Делиться своими знаниями о технологиях, и как это нас беспокоит,

and how it excites us.

и как это нас волнует.

We can discuss what we love.

Мы можем обсуждать, что мы любим.

We can communicate with foresight

Мы можем общаться, предугадывая,

about the aspects of technology that could be more beneficial

какие аспекты технологий могут стать со временем самыми полезными,

or could be more problematic over time.

а какие — наиболее сомнительными.

If we all focus on opening up the discussion on AI

Если мы все сосредоточимся на открытом диалоге об ИИ

with foresight towards the future,

в перспективе будущего,

this will help create a general conversation and awareness

это поможет создать атмосферу общей осведомлённости

about what AI is now,

о том, что ИИ представляет собой сейчас,

what it can become

чем может стать

and all the things that we need to do

и обо всём, что мы должны сделать,

in order to enable that outcome that best suits us.

чтобы результат лучше всего нам подходил.

We already see and know this in the technology that we use today.

Мы уже видим и знаем всё это о технологиях, используемых сегодня.

We use smart phones and digital assistants and Roombas.

Мы используем смартфоны, электронные помощники, роботы-пылесосы.

Are they evil?

Разве они — зло?

Maybe sometimes.

Может быть, иногда.

Are they beneficial?

Они полезны?

Yes, they're that, too.

Безусловно.

And they're not all the same.

И все они разные.

And there you already see a light shining on what the future holds.

И в них вы уже видите луч света, освещающий наше будущее.

The future continues on from what we build and create right now.

Будущее начинается в том, что мы создаём и строим прямо сейчас.

We set into motion that domino effect

Мы запускаем тот эффект домино,

that carves out AI's evolutionary path.

который определит путь развития ИИ.

In our time right now, we shape the AI of tomorrow.

В нашем настоящем мы задаем форму ИИ будущего.

Technology that immerses us in augmented realities

Технологии, которые погружают нас в дополненные реальности,

bringing to life past worlds.

возвращают к жизни прошлые миры.

Technology that helps people to share their experiences

Технологии, которые помогают людям делиться опытом,

when they have difficulty communicating.

когда они испытывают трудности в общении.

Technology built on understanding the streaming visual worlds

Технологии, основанные на понимании потоковых визуальных миров,

used as technology for self-driving cars.

используются для самоуправляемых машин.

Technology built on understanding images and generating language,

Технологии, основанные на понимании изображений и искусственных языков,

evolving into technology that helps people who are visually impaired

превращаются в технологии, которые помогают слабовидящим людям

be better able to access the visual world.

получать доступ к визуальному миру.

And we also see how technology can lead to problems.

Но мы также видим, как технологии могут привести к проблемам.

We have technology today

Сегодня у нас есть технологии,

that analyzes physical characteristics we're born with --

которые анализируют наши врождённые физические характеристики —

such as the color of our skin or the look of our face --

такие как цвет кожи или черты лица —

in order to determine whether or not we might be criminals or terrorists.

чтобы определить, можем ли мы быть преступниками или террористами.

We have technology that crunches through our data,

У нас есть технологии, анализирующие данные о нас,

even data relating to our gender or our race,

даже такие данные как пол или раса,

in order to determine whether or not we might get a loan.

чтобы определить, можем ли мы получить кредит.

All that we see now

Всё, что мы видим сейчас,

is a snapshot in the evolution of artificial intelligence.

это лишь один кадр из эволюции искусственного интеллекта.

Because where we are right now,

Потому что то, где мы сейчас, —

is within a moment of that evolution.

это всего лишь момент этой эволюции.

That means that what we do now will affect what happens down the line

Это означает, что всё, что мы делаем сегодня, окажет влияние

and in the future.

на наше будущее.

If we want AI to evolve in a way that helps humans,

Если мы хотим, чтобы ИИ развивался для помощи человеку,

then we need to define the goals and strategies

значит, мы должны определить цели и стратегии,

that enable that path now.

которые зададут этот путь сейчас.

What I'd like to see is something that fits well with humans,

Я бы хотела видеть что-то, что хорошо подходит людям,

with our culture and with the environment.

соотносится с нашей культурой и окружением.

Technology that aids and assists those of us with neurological conditions

Технологии, которые помогают тем из нас, кто страдает неврологическими

or other disabilities

или другими заболеваниями,

in order to make life equally challenging for everyone.

чтобы сделать жизнь одинаково трудной для всех.

Technology that works

Технологии, работающие

regardless of your demographics or the color of your skin.

независимо от вашего цвета кожи или демографических характеристик.

And so today, what I focus on is the technology for tomorrow

Сегодня я сосредоточена на технологиях, которые будут с нами завтра

and for 10 years from now.

и через 10 лет.

AI can turn out in many different ways.

ИИ может стать чем угодно.

But in this case,

Но в данном случае

it isn't a self-driving car without any destination.

это не самоуправляемая машина без конечного пункта назначения.

This is the car that we are driving.

Этой машиной управляем мы.

We choose when to speed up and when to slow down.

Мы выбираем, когда следует ускориться, а когда замедлиться.

We choose if we need to make a turn.

Мы выбираем, когда нам нужно повернуть.

We choose what the AI of the future will be.

Мы выбираем, каким будет ИИ будущего.

There's a vast playing field

Есть бесчисленное множество

of all the things that artificial intelligence can become.

вещей, которыми может стать искусственный интеллект.

It will become many things.

И он станет множеством вещей.

And it's up to us now,

И наша задача сегодня —

in order to figure out what we need to put in place

выяснить, что именно мы должны вложить в ИИ,

to make sure the outcomes of artificial intelligence

чтобы полученные результаты

are the ones that will be better for all of us.

стали самыми лучшими для всех нас.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)