How we can build AI to help humans, not hurt us | Margaret Mitchell

Перекладач: Anita Pokydanets Утверджено: Olga Krykun

I work on helping computers communicate about the world around us.

Я допомагаю комп'ютерам розповідати про світ навколо.

There are a lot of ways to do this,

Є багато способів зробити це.

and I like to focus on helping computers

Я розповім, як допомогти їм

to talk about what they see and understand.

говорити про те, що вони бачать і розуміють.

Given a scene like this,

Отримавши таке зображення,

a modern computer-vision algorithm

сучасний алгоритм комп'ютерного бачення

can tell you that there's a woman and there's a dog.

скаже, що це жінка й собака.

It can tell you that the woman is smiling.

Може сказати, що жінка посміхається.

It might even be able to tell you that the dog is incredibly cute.

І, можливо, навіть - що собака неймовірно милий.

I work on this problem

Працюючи над цим,

thinking about how humans understand and process the world.

я думаю, як люди розуміють і сприймають світ.

The thoughts, memories and stories

Думки, спогади й історії,

that a scene like this might evoke for humans.

які ця картина викликає в людей.

All the interconnections of related situations.

Усі взаємозв'язки в подібних ситуаціях.

Maybe you've seen a dog like this one before,

Можливо, ви вже бачили схожого собаку раніше,

or you've spent time running on a beach like this one,

чи вже бували на такому пляжі,

and that further evokes thoughts and memories of a past vacation,

тоді ви згадаєте про минулу відпустку,

past times to the beach,

пляж

times spent running around with other dogs.

та як ви бігали з іншими собаками.

One of my guiding principles is that by helping computers to understand

Один з моїх принципів: допомагаючи комп'ютерам зрозуміти,

what it's like to have these experiences,

як це - мати такий досвід,

to understand what we share and believe and feel,

зрозуміти, чим ми схожі, у що віримо і що відчуваємо.

then we're in a great position to start evolving computer technology

Тоді ми розвиватимемо комп'ютерні технології

in a way that's complementary with our own experiences.

в такий спосіб, що доповнює наш власний досвід.

So, digging more deeply into this,

Глибоку роботу над цим я почала кілька років тому,

a few years ago I began working on helping computers to generate human-like stories

коли допомагала комп'ютерам розповідати справжні історії

на основі послідовних зображень.

from sequences of images.

Одного дня

So, one day,

I was working with my computer to ask it what it thought about a trip to Australia.

я спитала у свого комп'ютера, що він думає про подорож до Австралії.

It took a look at the pictures, and it saw a koala.

Він проглянув зображення й побачив коалу.

Він не знав, що то коала,

It didn't know what the koala was,

but it said it thought it was an interesting-looking creature.

але вважає її цікавим створінням.

Потім я показала йому низку зображень, на яких горить будинок.

Then I shared with it a sequence of images about a house burning down.

It took a look at the images and it said,

Він подивився на картинки й сказав:

"Це неймовірне видовище. Це вражаюче!"

"This is an amazing view! This is spectacular!"

It sent chills down my spine.

Мені стало моторошно.

It saw a horrible, life-changing and life-destroying event

Він побачив жахливу, руйнівну подію,

and thought it was something positive.

і подумав, що це добре.

I realized that it recognized the contrast,

Певно, контраст

червоного й жовтого

the reds, the yellows,

здався йому чимось гарним.

and thought it was something worth remarking on positively.

And part of why it was doing this

Почасти, він відреагував так,

was because most of the images I had given it

тому що більшість зображень до цього

were positive images.

були позитивними.

That's because people tend to share positive images

Адже зазвичай люди діляться позитивом,

when they talk about their experiences.

коли розповідають про себе.

When was the last time you saw a selfie at a funeral?

Чи ви колись бачили селфі на похороні?

I realized that, as I worked on improving AI

Я зрозуміла, що вдосконалюючи ШІ,

task by task, dataset by dataset,

крок за кроком

that I was creating massive gaps,

я лишала вeличезні пробіли,

дірки й "мертві зони" в його знаннях.

holes and blind spots in what it could understand.

And while doing so,

Тим часом

I was encoding all kinds of biases.

я закодовувала чимало суб'єктивного.

Вузький погляд,

Biases that reflect a limited viewpoint,

limited to a single dataset --

обмежений одиничним набором даних.

biases that can reflect human biases found in the data,

Людські упередження, знайдені в даних,

such as prejudice and stereotyping.

як-от необ'єктивність і шаблонність.

I thought back to the evolution of the technology

Я згадала про еволюцію технологій,

that brought me to where I was that day --

яка мене того дня наштовхнула на це -- і з чого все починалось.

how the first color images

Як перші кольорові знімки

перевіряли на фоні білошкірої жінки.

were calibrated against a white woman's skin,

meaning that color photography was biased against black faces.

А значить, кольорова фотографія була упереджена щодо темношкірих облич.

And that same bias, that same blind spot

І це упередження, "мертва зона"

тягнулася аж до 90-х.

continued well into the '90s.

And the same blind spot continues even today

Таке упередження існує і нині,

in how well we can recognize different people's faces

адже з технологією розпізнавання облич

in facial recognition technology.

ми легко розпізнаємо різні обличчя.

I though about the state of the art in research today,

Я згадала про новітні наукові дослідження,

where we tend to limit our thinking to one dataset and one problem.

де ми прагнемо обмежувати думки одним набором даних й однією задачею.

And that in doing so, we were creating more blind spots and biases

Тим самим створюючи більше "мертвих зон" й упереджень,

that the AI could further amplify.

які ШІ надалі розвиватиме.

I realized then that we had to think deeply

Я зрозуміла, що нам треба задуматися,

about how the technology we work on today looks in five years, in 10 years.

як сучасні технології виглядатимуть через 5-10 років.

Humans evolve slowly, with time to correct for issues

Люди еволюціонують поволі, маючи час корегування

in the interaction of humans and their environment.

взаємодій між собою й довкіллям.

Проте штучний інтелект розвивається напрочуд швидко.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Тому дійсно важливо

And that means that it really matters

that we think about this carefully right now --

подумати про це зараз,

that we reflect on our own blind spots,

про власні "мертві зони"

й упередження.

our own biases,

and think about how that's informing the technology we're creating

Як вони впливають на технології, що ми створюємо.

and discuss what the technology of today will mean for tomorrow.

Варто обговорити, яке значення сучасні технології матимуть в майбутньому.

Керівники й науковці висловились щодо того,

CEOs and scientists have weighed in on what they think

the artificial intelligence technology of the future will be.

як технологія штучного інтелекту виглядатиме в майбутньому.

Stephen Hawking warns that

Стівен Гокінг застерігає:

"Artificial intelligence could end mankind."

"Штучний інтелект може знищити людство".

Elon Musk warns that it's an existential risk

Ілон Маск попереджає, що це екзистенційна небезпека,

and one of the greatest risks that we face as a civilization.

одна з найбільших, з якими зіткнулась людська цивілізація.

Bill Gates has made the point,

Біл Гейтс зазначив:

"I don't understand why people aren't more concerned."

"Не розумію, чому люди не стурбовані більше".

But these views --

Але ці погляди

they're part of the story.

є частиною історії.

The math, the models,

Підрахунки, моделі,

the basic building blocks of artificial intelligence

основні структурні блоки штучного інтелекту -

are something that we call access and all work with.

це те, що ми маємо й над чим працюємо.

We have open-source tools for machine learning and intelligence

Ми маємо інструменти з відкритим кодом для машинного навчання й інтелекту,

that we can contribute to.

куди можемо зробити свій внесок

And beyond that, we can share our experience.

і поділитися досвідом.

We can share our experiences with technology and how it concerns us

Ми можемо дати технологіям наш досвід, наші хвилювання,

and how it excites us.

наші захоплення.

We can discuss what we love.

Ми можемо обговорювати те, що любимо.

We can communicate with foresight

Говорити наперед

about the aspects of technology that could be more beneficial

про аспекти технологій, які можуть бути вигіднішими

or could be more problematic over time.

чи стати більш проблематичними з часом.

If we all focus on opening up the discussion on AI

Якщо ми обговорюватимемо ШІ

with foresight towards the future,

із завбачливістю щодо майбутнього,

this will help create a general conversation and awareness

це переросте в спільну розмову й усвідомлення того,

about what AI is now,

чим є ШІ нині,

what it can become

й чим він може стати,

and all the things that we need to do

і що слід зробити

in order to enable that outcome that best suits us.

для найкращого результату.

We already see and know this in the technology that we use today.

Це вже є в технологіях сьогодення.

We use smart phones and digital assistants and Roombas.

Ми використовуємо смартфони, цифрових помічників і пилососи-роботи Roomba.

Are they evil?

Чи вони лихі?

Maybe sometimes.

Можливо інколи.

Are they beneficial?

Чи вони корисні?

Yes, they're that, too.

Авжеж.

And they're not all the same.

І всі вони різні.

And there you already see a light shining on what the future holds.

Ви вже бачите, як проливається світло на те, що нас чекає в майбутньому.

The future continues on from what we build and create right now.

Майбутнє твориться з того, що ми будуємо і створюємо в цю мить.

We set into motion that domino effect

Ми запускаємо в дію принцип доміно,

that carves out AI's evolutionary path.

який прокладає еволюційний шлях ШІ.

In our time right now, we shape the AI of tomorrow.

Сьогодні ми формуємо ШІ завтрашнього дня.

Technology that immerses us in augmented realities

Технологія, яка занурює нас в доповнені реальності,

bringing to life past worlds.

пробуджуючи до життя світи минулого.

Technology that helps people to share their experiences

Технологія, яка допомагає людям ділитися враженнями,

when they have difficulty communicating.

коли виникають труднощі в спілкуванні.

Technology built on understanding the streaming visual worlds

Технологія, побудована на розумінні рухливих навколишніх світів,

used as technology for self-driving cars.

яку використовують для безпілотних авто.

Technology built on understanding images and generating language,

Технологія, побудована на розумінні зображень і підборі мовних засобів,

evolving into technology that helps people who are visually impaired

що еволюціонує в технологію, яка допомагає людям з вадами зору

be better able to access the visual world.

мати кращий доступ до візуального світу.

And we also see how technology can lead to problems.

І ми також бачимо, що технології можуть спричинити проблеми.

We have technology today

Нині ми маємо технологію,

that analyzes physical characteristics we're born with --

яка аналізує фізичні характеристики, з якими ми народжуємося --

such as the color of our skin or the look of our face --

колір шкіри чи зовнішній вигляд --

in order to determine whether or not we might be criminals or terrorists.

щоб визначити чи можемо ми бути злочинцями або терористами.

We have technology that crunches through our data,

В нас є технологія, яка опрацьовує наші дані,

even data relating to our gender or our race,

навіть дані щодо нашої статі чи раси,

in order to determine whether or not we might get a loan.

щоб визначити чи можна нам отримати позику.

All that we see now

Все, що ми бачимо зараз, -

is a snapshot in the evolution of artificial intelligence.

це мить в процесі еволюції штучного інтелекту.

Because where we are right now,

Тому, що зараз ми знаходимося

is within a moment of that evolution.

за крок до цієї еволюції.

That means that what we do now will affect what happens down the line

Це означає, що те, що ми робимо зараз впливатиме як на процес,

and in the future.

так і на майбутнє.

If we want AI to evolve in a way that helps humans,

Якщо ми хочемо, щоб ШІ розвивався, щоб допомагати людям,

then we need to define the goals and strategies

нам треба визначити цілі й стратегії,

that enable that path now.

щоб розпочати цей шлях вже зараз.

What I'd like to see is something that fits well with humans,

Я б хотіла побачити щось, що добре впишеться в людське життя,

with our culture and with the environment.

культуру й довкілля.

Technology that aids and assists those of us with neurological conditions

Технологію, яка допомагає тим, в кого неврологічні захворювання

or other disabilities

або інші обмеження,

in order to make life equally challenging for everyone.

щоб зробити життя рівним для всіх.

Technology that works

Технологію, яка працює,

regardless of your demographics or the color of your skin.

попри демографічні показники чи колір шкіри.

And so today, what I focus on is the technology for tomorrow

Тому сьогодні, я зосереджуюсь на технології, що працюватиме завтра

and for 10 years from now.

і через 10 років.

AI can turn out in many different ways.

ШІ може бути різним.

But in this case,

Але в цьому випадку -

it isn't a self-driving car without any destination.

це не безпілотне авто без пункту призначення.

This is the car that we are driving.

Це авто, яким керуємо ми.

We choose when to speed up and when to slow down.

Ми обираємо, коли дати газу і коли пригальмувати.

We choose if we need to make a turn.

Ми вирішуємо, коли необхідно повернути.

We choose what the AI of the future will be.

Ми обираємо, яким ШІ буде в майбутньому.

There's a vast playing field

Існує величезний спектр

of all the things that artificial intelligence can become.

того, чим штучний інтелект може стати.

It will become many things.

Він може стати багато чим.

And it's up to us now,

І наше завдання -

in order to figure out what we need to put in place

вирішити, що задіяти,

to make sure the outcomes of artificial intelligence

аби наслідки штучного інтелекту

are the ones that will be better for all of us.

були якомога кращими для всіх.

Thank you.

Дякую.

(Applause)

(Оплески)