How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Переводчик: Alena Chernykh

When I talk to people about artificial intelligence,

Когда я говорю с людьми об искусственном интеллекте,

something I hear a lot from non-experts is “I don’t understand AI.”

я часто слышу от непрофессионалов: «Я не разбираюсь в ИИ».

But when I talk to experts, a funny thing happens.

Но в разговоре с экспертами, происходит забавная вещь.

They say, “I don’t understand AI, and neither does anyone else.”

Они говорят: «Я не разбираюсь в ИИ, как и все остальные».

This is a pretty strange state of affairs.

Довольно странное положение дел.

Normally, the people building a new technology

Обычно люди, создающие новую технологию,

understand how it works inside and out.

понимают, как она работает изнутри и снаружи.

But for AI, a technology that's radically reshaping the world around us,

Но для ИИ технология, которая радикально меняет окружающий мир,

that's not so.

это не так.

Experts do know plenty about how to build and run AI systems, of course.

Конечно, эксперты знают много о том, как создавать и запускать системы ИИ.

But when it comes to how they work on the inside,

Но когда речь заходит о том, как они работают,

there are serious limits to how much we know.

объём наших знаний сильно ограничен.

And this matters because without deeply understanding AI,

И это важно, потому что без глубокого понимания ИИ

it's really difficult for us to know what it will be able to do next,

нам очень трудно понять, что он сможет делать в будущем

or even what it can do now.

или даже сейчас.

And the fact that we have such a hard time understanding

И тот факт, что нам так трудно понять,

what's going on with the technology and predicting where it will go next,

что происходит с технологией и предсказать её развитие в будущем,

is one of the biggest hurdles we face in figuring out how to govern AI.

является одним из самых больших препятствий на пути к управлению ИИ.

But AI is already all around us,

Но ИИ уже окружает нас повсюду,

so we can't just sit around and wait for things to become clearer.

поэтому мы не можем просто сидеть сложа руки и ждать, пока всё прояснится.

We have to forge some kind of path forward anyway.

В любом случае, нам нужно проложить какой-то путь вперёд.

I've been working on these AI policy and governance issues

Я работаю над этими вопросами политики и управления ИИ

for about eight years,

около восьми лет.

First in San Francisco, now in Washington, DC.

Сначала в Сан-Франциско, а теперь в Вашингтоне, округ Колумбия.

Along the way, I've gotten an inside look

Попутно я получила представление о том,

at how governments are working to manage this technology.

как правительства работают над управлением этой технологией.

And inside the industry, I've seen a thing or two as well.

И в самой индустрии я тоже кое-что видела.

So I'm going to share a couple of ideas

Поэтому я поделюсь некоторыми идеями о том,

for what our path to governing AI could look like.

как может выглядеть наш подход к управлению искусственным интеллектом.

But first, let's talk about what actually makes AI so hard to understand

Но сначала давайте поговорим о том, почему ИИ так сложно понять

and predict.

и предсказать.

One huge challenge in building artificial "intelligence"

Одна из серьёзных проблем в создании искусственного «интеллекта»

is that no one can agree on what it actually means

в том, что никто не может прийти к единому мнению о том,

to be intelligent.

что на самом деле значит быть умным.

This is a strange place to be in when building a new tech.

Это странное место быть внутри при создании новой технологии.

When the Wright brothers started experimenting with planes,

Когда братья Райт начали экспериментировать с самолётами,

they didn't know how to build one,

они не знали, как их построить,

but everyone knew what it meant to fly.

но все знали, что значит летать.

With AI on the other hand,

С другой стороны, что касается ИИ,

different experts have completely different intuitions

у разных экспертов совершенно разные представления о том,

about what lies at the heart of intelligence.

что лежит в основе интеллекта.

Is it problem solving?

Это решение проблем?

Is it learning and adaptation,

Это обучение и адаптация,

are emotions,

эмоции

or having a physical body somehow involved?

или каким-то образом задействовано физическое тело?

We genuinely don't know.

Мы действительно не знаем.

But different answers lead to radically different expectations

Но разные ответы приводят к совершенно разным ожиданиям того,

about where the technology is going and how fast it'll get there.

куда движется технология и как быстро она будет развиваться.

An example of how we're confused is how we used to talk

Примером нашего непонимания является то, как мы говорим

about narrow versus general AI.

об узком ИИ в сравнении с общим ИИ.

For a long time, we talked in terms of two buckets.

Долгое время мы говорили о двух сегментах.

A lot of people thought we should just be dividing between narrow AI,

Многие считали, что нам следует отдать предпочтение узкому ИИ,

trained for one specific task,

обученному выполнению конкретной задачи,

like recommending the next YouTube video,

например, порекомендовать видеоролик на YouTube,

versus artificial general intelligence, or AGI,

в сравнении с общим ИИ,

that could do everything a human could do.

способному делать всё, что может сделать человек.

We thought of this distinction, narrow versus general,

Мы считали, что это различие: узкое и общее

as a core divide between what we could build in practice

является основным между тем, что мы можем создать на практике,

and what would actually be intelligent.

и тем, что на самом деле будет разумным.

But then a year or two ago, along came ChatGPT.

Но год или два назад появился ChatGPT.

If you think about it,

Если задуматься, может,

you know, is it narrow AI, trained for one specific task?

это узкий ИИ, обученный выполнять одну конкретную задачу?

Or is it AGI and can do everything a human can do?

Или это ИИ, способный делать всё, что может делать человек?

Clearly the answer is neither.

Очевидно, что ни то, ни другое.

It's certainly general purpose.

Это, безусловно, общая цель.

It can code, write poetry,

Он умеет программировать, писать стихи,

analyze business problems, help you fix your car.

анализировать бизнес-проблемы, помогать ремонтировать машину.

But it's a far cry from being able to do everything

Но это далеко не всё то, что он может делать

as well as you or I could do it.

так же хорошо, как мы с вами.

So it turns out this idea of generality

Оказывается, идея всеобщности

doesn't actually seem to be the right dividing line

не является правильной гранью

between intelligent and not.

между интеллектом и неинтеллектом.

And this kind of thing

И такие вещи сейчас

is a huge challenge for the whole field of AI right now.

представляют собой огромную проблему для всей области ИИ.

We don't have any agreement on what we're trying to build

У нас нет единого мнения о том, что мы пытаемся создать

or on what the road map looks like from here.

или как будет выглядеть дорожная карта в будущем.

We don't even clearly understand the AI systems that we have today.

Мы даже не совсем понимаем, какие системы ИИ у нас есть сегодня.

Why is that?

Почему так?

Researchers sometimes describe deep neural networks,

Исследователи иногда называют глубокие нейронные сети,

the main kind of AI being built today,

основной вид ИИ, создаваемый сегодня,

as a black box.

чёрным ящиком.

But what they mean by that is not that it's inherently mysterious

Но они подразумевают вовсе не то, что всё по своей природе таинственно

and we have no way of looking inside the box.

и что мы не можем заглянуть внутрь ящика.

The problem is that when we do look inside,

Проблема в том, что, заглянув внутрь,

what we find are millions,

мы обнаружим миллионы,

billions or even trillions of numbers

миллиарды или даже триллионы чисел,

that get added and multiplied together in a particular way.

которые складываются и умножаются определённым образом.

What makes it hard for experts to know what's going on

По сути, экспертам сложно понять, что происходит,

is basically just, there are too many numbers,

потому что цифр слишком много,

and we don't yet have good ways of teasing apart what they're all doing.

и у нас пока нет чётких способов разграничить их действия.

There's a little bit more to it than that, but not a lot.

В этом есть нечто большее, но далеко не всё.

So how do we govern this technology

Как же нам управлять этой технологией,

that we struggle to understand and predict?

которую нам трудно понять и предсказать?

I'm going to share two ideas.

Я поделюсь двумя идеями.

One for all of us and one for policymakers.

Одна для всех нас и одна для разработчиков технологии.

First, don't be intimidated.

Во-первых, не пугайтесь.

Either by the technology itself

Либо самой технологией,

or by the people and companies building it.

либо людьми и компаниями, создающими ее.

On the technology,

Что касается технологии,

AI can be confusing, but it's not magical.

ИИ может сбивать с толку, но это не волшебство.

There are some parts of AI systems we do already understand well,

Некоторые части систем ИИ мы уже хорошо понимаем,

and even the parts we don't understand won't be opaque forever.

и даже то, в чём мы не разбираемся, не останется непонятным навсегда.

An area of research known as “AI interpretability”

В области исследований, известной как «интерпретируемость ИИ»,

has made quite a lot of progress in the last few years

за последние несколько лет был достигнут значительный прогресс

in making sense of what all those billions of numbers are doing.

в понимании того, что делают все эти миллиарды чисел.

One team of researchers, for example,

Например, одна группа исследователей

found a way to identify different parts of a neural network

нашла способ идентифицировать различные части нейронной сети

that they could dial up or dial down

по которым они могли бы устанавливать связь,

to make the AI's answers happier or angrier,

чтобы сделать ответы ИИ более счастливыми или злыми,

more honest,

более честными,

more Machiavellian, and so on.

более макиавеллианскими и так далее.

If we can push forward this kind of research further,

Если мы сможем продолжить подобные исследования,

then five or 10 years from now,

то через пять-десять лет

we might have a much clearer understanding of what's going on

мы сможем лучше понять, что происходит

inside the so-called black box.

в так называемом чёрном ящике.

And when it comes to those building the technology,

А когда дело доходит до разработчиков технологии,

technologists sometimes act as though

они иногда делают вид,

if you're not elbows deep in the technical details,

что если вы не разбираетесь в технических деталях,

then you're not entitled to an opinion on what we should do with it.

то не имеете права высказывать своё мнение, что нам с этим делать.

Expertise has its place, of course,

Конечно, опыт имеет значение,

but history shows us how important it is

но история показывает нам, насколько важно,

that the people affected by a new technology

чтобы люди, подверженные влиянию новой технологии,

get to play a role in shaping how we use it.

играли роль в формировании того, как мы её используем.

Like the factory workers in the 20th century who fought for factory safety,

Например, рабочие на фабриках в XX веке, боровшиеся за безопасность на производстве

or the disability advocates

или защитники прав инвалидов,

who made sure the world wide web was accessible.

которые обеспечивали доступ к всемирной паутине.

You don't have to be a scientist or engineer to have a voice.

Чтобы высказывать своё мнение, необязательно быть учёным или инженером.

(Applause)

(Аплодисменты)

Second, we need to focus on adaptability, not certainty.

Во-вторых, нужно сосредоточиться на способности к адаптации.

A lot of conversations about how to make policy for AI

Разговоры о том, как разработать политику в отношении ИИ,

get bogged down in fights between, on the one side,

привели к ссорам между людьми,

people saying, "We have to regulate AI really hard right now

которые говорят: «Нам сейчас нужно жёстко регулировать ИИ,

because it's so risky."

потому что мы сильно рискуем».

And on the other side, people saying,

С другой стороны, люди говорят:

“But regulation will kill innovation, and those risks are made up anyway.”

«Но регулирование уничтожит инновации, эти риски в любом случае компенсируются».

But the way I see it,

Но, на мой взгляд,

it’s not just a choice between slamming on the brakes

это не просто выбор между нажатием на тормоза

or hitting the gas.

или нажатием на газ.

If you're driving down a road with unexpected twists and turns,

Если вы едете по дороге с неожиданными поворотами,

then two things that will help you a lot

вам очень помогут две вещи:

are having a clear view out the windshield

чёткий обзор через лобовое стекло

and an excellent steering system.

и безупречная система рулевого управления.

In AI, this means having a clear picture of where the technology is

В случае с ИИ это означает чёткое представление о том, где технология

and where it's going,

и куда она движется,

and having plans in place for what to do in different scenarios.

а также наличие планов действий в различных ситуациях.

Concretely, this means things like investing in our ability to measure

В частности, это означает инвестирование в нашу способность оценивать

what AI systems can do.

возможности систем ИИ.

This sounds nerdy, but it really matters.

Звучит занудно, но это действительно важно.

Right now, if we want to figure out

На данный момент, если мы хотим выяснить,

whether an AI can do something concerning,

может ли ИИ сделать что-то важное,

like hack critical infrastructure

например, взломать очень важную инфраструктуру

or persuade someone to change their political beliefs,

или убедить кого-то изменить свои политические убеждения,

our methods of measuring that are rudimentary.

наши методы измерения в зачаточном состоянии.

We need better.

Нам нужно лучшее решение.

We should also be requiring AI companies,

Следует требовать от компаний, разрабатывающих ИИ,

especially the companies building the most advanced AI systems,

особенно компаний, создающих самые передовые системы ИИ,

to share information about what they're building,

делиться информациейо том, что они создают,

what their systems can do

на что способны их системы

and how they're managing risks.

и как они управляют рисками.

And they should have to let in external AI auditors to scrutinize their work

Следует поручить внешним аудиторам по ИИ внимательно следить за их работой,

so that the companies aren't just grading their own homework.

чтобы компании не просто оценивали свою собственную работу.

(Applause)

(Аплодисменты)

A final example of what this can look like

Последним примером того, как это может выглядеть,

is setting up incident reporting mechanisms,

является создание механизмов отчётности об инцидентах,

so that when things do go wrong in the real world,

чтобы в случае возникновения проблем в реальном мире

we have a way to collect data on what happened

мы могли собирать данные о том, что произошло,

and how we can fix it next time.

и как исправить ситуацию в следующий раз.

Just like the data we collect on plane crashes and cyber attacks.

Точно так же, как мы собираем данные об авиакатастрофах и кибератаках.

None of these ideas are mine,

Это всё не мои идеи,

and some of them are already starting to be implemented in places like Brussels,

некоторые из них уже начинают реализовываться в таких городах,

London, even Washington.

как Брюссель, Лондон и даже Вашингтон.

But the reason I'm highlighting these ideas,

Я уделяю особое внимание идеям, связанным с измерениями,

measurement, disclosure, incident reporting,

раскрытием информации, сообщением об инцидентах,

is that they help us navigate progress in AI

потому что они помогают нам ориентироваться в развитии ИИ,

by giving us a clearer view out the windshield.

давая нам более чёткий обзор через лобовое стекло.

If AI is progressing fast in dangerous directions,

Если ИИ быстро развивается в опасных направлениях,

these policies will help us see that.

эти правила помогут нам в этом убедиться.

And if everything is going smoothly, they'll show us that too,

И если все пойдёт гладко, нам это тоже покажут,

and we can respond accordingly.

и мы сможем отреагировать как надо.

What I want to leave you with

Я хочу сказать вам,

is that it's both true that there's a ton of uncertainty

что в сфере ИИ действительно существует много

and disagreement in the field of AI.

неопределённости и разногласий.

And that companies are already building and deploying AI

Кроме того, компании уже повсеместно разрабатывают и внедряют ИИ

all over the place anyway in ways that affect all of us.

таким образом, что он затрагивает всех нас.

Left to their own devices,

Предоставленные сами себе,

it looks like AI companies might go in a similar direction

компании, занимающиеся ИИ, могут пойти в том же направлении,

to social media companies,

что и социальные сети, тратя

spending most of their resources on building web apps

большинство своих ресурсов на создание веб-приложений

and for users' attention.

и привлечение внимания пользователей.

And by default, it looks like the enormous power of more advanced AI systems

И по умолчанию, похоже, огромная мощь более продвинутых систем ИИ

might stay concentrated in the hands of a small number of companies,

может оставаться сосредоточенной в руках небольшого числа компаний

or even a small number of individuals.

или даже небольшого числа частных лиц.

But AI's potential goes so far beyond that.

Но потенциал ИИ выходит далеко за рамки этого.

AI already lets us leap over language barriers

Он уже позволяет нам преодолевать языковые барьеры

and predict protein structures.

и предсказывать структуры белков.

More advanced systems could unlock clean, limitless fusion energy

Продвинутые системы могут использовать чистую и безграничную энергию синтеза

or revolutionize how we grow food

или революционизировать выращивание продуктов питания

or 1,000 other things.

и множество других вещей.

And we each have a voice in what happens.

И у нас есть право голоса в том, что происходит.

We're not just data sources,

Мы не просто источники данных,

we are users,

мы пользователи,

we're workers,

мы работники,

we're citizens.

мы граждане.

So as tempting as it might be,

Как бы ни было заманчиво,

we can't wait for clarity or expert consensus

нам не терпится дождаться ясности или консенсуса экспертов,

to figure out what we want to happen with AI.

чтобы понять, чего мы хотим добиться с помощью ИИ.

AI is already happening to us.

ИИ уже проник в нашу жизнь.

What we can do is put policies in place

Что мы можем сделать, так это разработать политику,

to give us as clear a picture as we can get

которая даст нам более чёткое представление о том,

of how the technology is changing,

как меняются технологии, а затем мы сможем выйти

and then we can get in the arena and push for futures we actually want.

на арену и начать строить будущее, к которому мы действительно стремимся.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)