Can we actually control superintelligent AI? | Ada, Ep. 4

Переводчик: Rostislav Golod Редактор: Natalia Savvidi

Maybe I'm not the best library assistant.

Наверное, помощник библиотекаря из меня никудышный.

Может, с этой работой лучше справится искусственный интеллект?

Could artificial intelligence do it better?

I’d like to think of myself as irreplaceable, but let’s see.

Хотелось бы считать себя незаменимой, но давайте посмотрим.

Maybe getting fired was the push I needed to find the perfect job for me.

Возможно, увольнение подтолкнёт меня к поиску идеальной работы.

As long as I find it quickly.

Лишь бы быстро найти её.

And don’t spend any money in the meantime.

И не потратить при этом все деньги.

Luckily, there's somewhere I can sit and work all day without buying anything.

Здорово, что есть место, где я могу сидеть и работать весь день, ничего не покупая.

Ada? I thought I was clear—

Ада?

Я же тебе ясно сказала, что ты здесь больше не работаешь.

your employment here is over.

Oh, I'm not here as an employee. This is a public library, after all.

А я не на работу пришла.

Библиотека открыта для всех.

Right. How to make one month as a library assistant

Итак, как сделать так, чтобы один месяц работы библиотекарем

sound like the 3 to 5 years of experience

выглядел как опыт работы от 3 до 5 лет,

every entry level job seems to require?

который требуется чуть ли не для любого будущего места работы?

Shh!

Тише!

Dealt with an overbearing, rule-obsessed boss...

Работала с деспотичной, зацикленной на правилах начальницей...

No, no. Ugh.

Ой, нет.

Посмотрим, как искусственный интеллект справится с написанием моего резюме.

Let’s see how an AI does with writing my resume.

Okay. I checked out lots of books.

Хорошо, я выдала множество книг.

Make that sound impressive.

Сделай так, чтобы это предложение произвело впечатление.

Ooh! “Expedited seamless intellectual asset transactions.”

Ого! «Оперативная и качественная работа с интеллектуальными активами».

Excellent. Okay, how about “sat at reception”?

Отлично. Хорошо, а как насчёт «сидела на ресепшене»?

Oh! “Frontline client liaison.”

О! «Опыт живого взаимодействия с клиентами».

Good, good. That’s great!

Хорошо, хорошо. Отлично!

Maybe too good.

Возможно, слишком хорошо.

Even if I get one of these jobs,

Даже если я когда-нибудь найду работу и буду вкалывать до седьмого пота,

what if I pay my dues only to have AI outpace me?

в один прекрасный день меня заменят искусственным интеллектом?

What if, by the time I hone my skills,

Что если к тому времени

humans aren’t doing writing and research anymore?

люди и вовсе перестанут писать и заниматься исследованиями?

Возможно, мне стоит заняться непосредственно искусственным интеллектом.

Maybe I should work directly on AI.

Then at least I’d be helping determine the course of the future

Тогда, по крайней мере, я буду определять будущее,

instead of being left behind.

а не плестись в хвосте.

Like, say I created an AI librarian.

Вот, например, я создам библиотекаря на базе ИИ.

That actually doesn’t seem too far-fetched.

На самом деле это не научная фантастика.

To make my system more powerful I have to, well...

Чтобы добавить моей системе мощности, мне нужно...

keep adding more simulated neurons for starters.

Для начала понадобится побольше искусственных нейронов.

Soon my AI system is a better librarian than my old boss.

Скоро мой ИИ-библиотекарь станет лучше моей прежней начальницы.

But you know what? I'm feeling generous.

Но знаете что? Я буду великодушной.

Why don't you stay as my assistant?

Почему бы вам не поработать моим ассистентом?

You can help me test your replacement.

Вы можете помочь протестировать вашего преемника.

Hmph.

Хм.

What should I name it?

Как же мне его назвать?

What's a good name for a great librarian?

Какое имя подойдёт для хорошего библиотекаря?

No ideas? I like Biblionimus Maximus.

Можете что-то предложить?

Мне нравится Библионимус Максимус.

Hmm. Let's try a prompt.

Хм, попробуем дать текстовый запрос.

Who invented artificial intelligence?

Кто изобрёл искусственный интеллект?

Include citations.

Добавь в ответ ссылки.

Biblionimus says the first theoretical descriptions of AI

Библионимус сообщает,

что первыми теоретическими описаниями искусственного интеллекта

were “Comments on a Thinking Machine” by Ada Lovelace in 1840,

считаются написанные в 1840 году Адой Лавлейс

«Комментарии к думающей машине»

and “Machine Intelligence” by Alan Turing in 1927.

и статья «Машинный интеллект» Алана Тьюринга, вышедшая в 1927 году.

See? Nailed it!

Видите? Отлично справился!

Not quite.

Не совсем.

Lovelace’s “Notes on an Analytical Engine” were published in 1843.

«Заметки об аналитической машине» Лавлейс были опубликованы в 1843 году.

Alan Turing’s paper was called “Computing Machinery and Intelligence,”

Статья Алана Тьюринга называлась «Вычислительные машины и разум»

and it was published in 1950.

и была опубликована в 1950 году.

Isn’t that what Biblionimus said?

Разве Библионимус ответил иначе?

No. I can see how it sounds that way to you,

Нет. Понимаю, что тебе так кажется,

but every element was slightly wrong.

но в деталях содержатся неточности.

But what about the citations?

А как же ссылки?

Completely fabricated.

Результаты сфальсифицированы.

Look, it even made up ISBN numbers.

Смотрите, система даже подделала номера ISBN.

Clearly, it's not ready to replace human librarians if it needs an expert

Очевидно, что компьютер не готов заменить библиотекарей-людей,

to check its work.

раз требуются эксперты для проверки подлинности.

We’re still training Biblionimus.

Мы ещё обучаем Библионимуса.

It’ll improve.

Он станет лучше.

Hmph.

Сомневаюсь.

In time, my system stops producing bogus results.

Со временем моя система перестанет выдавать неверные результаты.

As it gets more competent,

По мере обучения системы

it doesn’t just help patrons find what they’re looking for,

она будет не только выдавать читателям нужные им книги,

it finds resources they didn’t even know they needed.

но и находить нужные им ресурсы, о которых они даже не знали.

The library has never been busier.

Библиотека никогда не была так загружена.

Maybe it’s a waste to limit our technology to the library.

Возможно, стÓит не ограничивать возможности нашего ИИ лишь библиотекой.

Research labs, companies, even governments—

Научные центры, частные и даже государственные компании —

they all have more information than they can manage.

у всех них имеется больше информации, чем они могут обработать.

They could use a good librarian, don’t you think?

Им пригодился бы хороший библиотекарь, не правда ли?

Hmph.

Я в этом не уверена.

What?

Что опять?

Selling the AI off to the highest bidder

Продажа ИИ тому, кто предложит самую высокую цену,

isn’t exactly in the spirit of the library.

не совсем соответствует философии библиотеки.

True...

Верно...

And I definitely don’t want Biblionimus to become an instrument

Я уж точно не хочу, чтобы Библионимус стал инструментом

of corporate greed or abuses of power or anything like that.

корпоративной жадности, злоупотребления властью или чего-то подобного.

Let’s make Biblionimus available for free,

Давайте сделаем Библионимуса бесплатным,

but anyone who wants to use it has to be approved by us first.

но все, кто захочет им воспользоваться,

должны будут сначала получить разрешение от нас.

We’ll never be able to review all these applications.

Мы никогда не сможем рассмотреть все эти заявки.

Even if you actually help.

Даже если ты поможешь.

I have a better idea.

У меня есть идея получше.

I bought the Diligentsia 3000.

Я приобрела программу Diligentsia 3000.

It’s an AI system that can vet applicants for us.

Это система ИИ,

которая вместо нас сможет проверять заявки потенциальных пользователей.

It will process our backlog almost instantly.

Она обработает все зависшие заявки в мгновение ока.

So, I guess I won’t be needing your help anymore.

Так что, думаю, мне больше не понадобится ваша помощь.

I mean I’m firing you.

В смысле, вы уволены.

The library is a public space.

Библиотека открыта для всех.

Almost every vital industry has a need for my AI.

Мой ИИ нужен почти во всех жизненно важных отраслях.

As do plenty of not-so-vital industries.

А также во многих менее важных отраслях.

(Radio chatter) Suspect is in custody.

(Сообщение по рации) Подозреваемый задержан.

What's going on?

Что происходит?

What? Investigating a bomb threat?

Что? Расследование угрозы взрыва?

Where did this tip come from?

Откуда поступила наводка?

It came from Biblionimus?

От Библионимуса?

I thought you made sure Biblionimus wasn’t making mistakes anymore!

Я думала, вы обучили Библионимуса больше не допускать ошибок!

That was back before you fired me.

Это было ещё до того, как ты меня уволила.

I don't work here anymore.

Я здесь больше не работаю.

You invented Biblionimus, can’t you figure out how to fix it?

Ты изобрела Библионимуса, разве ты не можешь придумать, как его подправить?

Argh! It doesn’t work like that!

Ай, всё пошло не так!

I created Biblionimus, but it’s been out there ever since,

Да, Библионимуса создала я, но с тех пор он существует

absorbing more information than any human ever could.

и получает больше информации, чем любой человек.

It's grown up and left home, so to speak.

Он вырос и, так сказать, покинул «родительский дом».

But there is one thing I can do.

Но я могу кое-что сделать.

I can bring in a digital neuroscientist.

Нужно подключить цифрового нейробиолога.

A what?

Кого-кого?

It’s an AI system that studies other AI systems’, um, brains.

Это система ИИ, которая изучает «мозги» других систем ИИ.

Okay, Dr. Cerebrox.

Знакомьтесь — Dr. Cerebrox.

Biblionimus is supposed to make unexpected, hopeful connections,

Библионимус должен генерировать неожиданные и перспективные связи,

not spout conspiracy theories.

а не выдвигать теории заговора.

Насколько я могу судить,

As far as I can tell,

there’s nothing at all wrong with Biblionimus Maximus.

Библионимус Максимус работает нормально.

Did the human users feed it incorrect information?

Люди загрузили в него неверную информацию?

Or perhaps ask it a it a confusing question?

Или, может быть, ему задали каверзный вопрос?

Even if they did, it shouldn’t be making up bomb threats.

Даже если и так, не стоило выдумывать угрозы взрыва.

What if it did something worse, like encourage a coup? Or a nuclear strike?

А если что похуже,

например, подготовить госпереворот? Или нанести ядерный удар?

Let me take another look.

Дайте подумать.

This system employs a deeply intricate architecture.

Эта система имеет весьма замысловатую архитектуру.

Its robust toolkit consists of refined algorithms

Её мощный инструментарий состоит из усовершенствованных алгоритмов,

performing exhaustive data analysis and advanced computational procedures.

выполняющих всесторонний анализ данных, и сложных вычислительных процедур.

But what does that mean?

Но что всё это значит?

What's actually happening inside it?

Что в нём на самом деле происходит?

My training is to express diagnoses in terms you can understand.

Моё обучение заключается в том, чтобы ставить диагнозы в понятных вам терминах.

You are not a digital neuroscientist.

Вы не цифровой нейробиолог.

Therefore, there will be a level of abstraction.

Следовательно, нужен определённый уровень абстракции.

We need to speak to your manager.

Нам нужно поговорить с вашим руководством.

Certainly, just a moment—

Конечно, минуточку.

Good evening, this is the chief customer satisfaction officer of Cerebrox Inc.

Добрый вечер, это главный специалист по работе с клиентами компании Cerebrox Inc.

Uh, you have the exact same voice as Dr. Cerebrox.

Э-э, у вас такой же голос, как и у доктора Цереброкс.

All of our AI’s use the voice that has been proven to be optimally soothing

Все наши искусственные интеллекты пользуются голосом,

который отлично успокаивает клиентов.

to customers.

But rest assured, I am a different, more senior system.

Но не сомневайтесь, я другая, более опытная система.

So there’s no human I can speak to?

Значит, невозможно связаться с кем-то из людей?

How would a human be able to help you interpret matters of digital neuroscience?

Как человек может помочь вам

в вопросах цифровой нейробиологии?

We have to turn Biblionimus off until we can make sure it won’t wreak havoc.

Мы должны отключить Библионимуса, пока не убедимся,

что он не выйдет из-под контроля.

Are you sure?

Уверена?

I don’t see what else we can do.

Вряд ли найдётся другое решение.

Whew. I need a drink.

Ух. Нужно расслабиться и подумать.

That’s weird.

Странно всё это.

Error... Reconnect payment method... okay...

Ошибка... Измените способ оплаты... хорошо...

Another error... I can’t even log into my account.

Снова ошибка... Я даже не могу войти в аккаунт.

There must be something wrong with the app.

Наверное, приложение не работает.

Hi, I’m having trouble accessing my account.

Здравствуйте, у меня проблемы с доступом к моей учётной записи.

Hello?

Здравствуйте?

Is anyone here?

Есть тут кто-нибудь?

I need to speak to a person!

Мне нужно поговорить с человеком!

(Bank bot) AIs are much more reliable bankers than humans.

(Банковский бот) ИИ гораздо надёжнее людей.

AIs are more reliable bankers. AIs are more reliable bankers.

Искусственные интеллекты — более надёжные банкиры.

Искусственные интеллекты — более надёжные банкиры.

What is happening?

Что происходит?

Didn’t you say Biblionimus was deployed in many critical industries?

Разве не ты говорила, что Библионимус применяется во многих важнейших отраслях?

Yes, but banks and utility companies should still be able to function

Да, но банки и другие компании должны по-прежнему работать так же,

like they did before Biblionimus!

как и до Библионимуса!

That’s easier said than done.

Легко сказать...

They may not even have the expertise to do things the old way anymore.

Возможно, они даже не умеют делать всё по-старому.

So our options are either certain disaster without the AI,

Таким образом, мы можем либо потерпеть неудачу без ИИ,

or turning it back on and holding our breath,

либо включить его снова и, затаив дыхание,

hoping nothing goes off the rails until, what, forever?

надеяться, что больше ничего не произойдёт?

But would a world where humans hand the reins to AI systems

Но действительно ли мир, в котором люди передают

бразды правления системам ИИ, будет другим?

really be that different?

There are already so many things I don’t understand and can’t control,

Сегодня я уже многого не понимаю и не могу контролировать,

where I have to place my trust in other people’s hands—

поэтому мне приходится доверять другим людям.

like trusting that I can use the money in my bank account,

Так, я верю, что смогу пользоваться деньгами на банковском счёте

or that the antibiotics I get prescribed will actually treat an infection.

или что назначенные мне антибиотики действительно помогут уничтожить инфекцию.

But I guess if we hand all that power over to AIs,

Но я думаю, что если мы передадим всю эту власть искусственному интеллекту,

we need to make sure they will actually serve us better

мы должны убедиться, что ИИ действительно принесёт нам бÓльшую пользу,

than our imperfect human institutions.

чем несовершенные человеческие институты.

And that seems really, really hard.

И это кажется очень, очень сложным.

Hmph.

Хм.

You’re looking for “Brave New World”?

Ты ищешь «Дивный новый мир»?

Hold on.

Подожди-ка.

Это в отделе художественной литературы, в разделе «Хаксли».

It’s in fiction, under “H.”

Just down there, third row on the left.

Прямо там, третий ряд слева.

Ada. Maybe I could reconsider your position.

Ада, возможно, мне стоило бы пересмотреть моё решение.

You’re offering me my job back?

Вы предлагаете мне вернуться на работу?

If you can follow all the rules.

Если будешь соблюдать правила.

Oh, that's a big decision.

О, это важное решение.

I'll have to think about it.

Надо бы подумать.