The Urgent Risks of Runaway AI — and What to Do about Them | Gary Marcus | TED

Переводчик: Anastasiya Balabanova Редактор: Yulia Kallistratova

I’m here to talk about the possibility of global AI governance.

Я хотел бы поговорить о возможности глобального регулирования ИИ.

I first learned to code when I was eight years old,

Я научился программировать, когда мне было восемь лет

on a paper computer,

на бумажном компьютере,

and I've been in love with AI ever since.

и с тех пор я влюблён в ИИ.

In high school,

В школьные годы я достал Commodore 64

I got myself a Commodore 64 and worked on machine translation.

и работал над машинным переводом.

I built a couple of AI companies, I sold one of them to Uber.

Я создал несколько компаний ИИ, и Uber купил одну из них.

I love AI, but right now I'm worried.

Я люблю ИИ, но сегодня я обеспокоен.

One of the things that I’m worried about is misinformation,

Дезинформация — один из моих страхов.

the possibility that bad actors will make a tsunami of misinformation

Я боюсь, что недобросовестные люди создадут цунами дезинформации,

like we've never seen before.

как никогда прежде.

These tools are so good at making convincing narratives

Эти инструменты очень хороши для создания правдоподобных историй

about just about anything.

практически на любую тему.

If you want a narrative about TED and how it's dangerous,

Если вы хотите историю о том, насколько опасен TED,

that we're colluding here with space aliens,

что мы тут в сговоре с инопланетянами, —

you got it, no problem.

пожалуйста, нет проблем.

I'm of course kidding about TED.

Я, конечно, шучу по поводу TED.

I didn't see any space aliens backstage.

Я не видел за кулисами никаких инопланетян.

But bad actors are going to use these things to influence elections,

Но злоумышленники воспользуются ИИ, чтобы повлиять на выборы,

and they're going to threaten democracy.

и это создаст угрозу демократии.

Even when these systems

Даже когда эти системы

aren't deliberately being used to make misinformation,

не используются для дезинформации преднамеренно,

they can't help themselves.

они неизбежно нас дурачат.

And the information that they make is so fluid and so grammatical

Они создают настолько гладкую, грамматически верную информацию,

that even professional editors sometimes get sucked in

что даже профессиональные редакторы могут увлечься

and get fooled by this stuff.

и поддаться обману этих историй.

And we should be worried.

Нас должно это волновать.

For example, ChatGPT made up a sexual harassment scandal

Например, ChatGPT сфабриковал скандал с домогательством

about an actual professor,

про реального профессора,

and then it provided evidence for its claim

а потом предоставил доказательства своего заявления

in the form of a fake "Washington Post" article

в виде поддельной статьи Washington Post,

that it created a citation to.

на которую он сослался.

We should all be worried about that kind of thing.

Нам всем стоит беспокоиться о такого рода вещах.

What I have on the right is an example of a fake narrative

Тут справа — пример поддельной истории

from one of these systems

одной из таких систем,

saying that Elon Musk died in March of 2018 in a car crash.

которая утверждает, что Илон Маск погиб в марте 2018 в авто-катастрофе.

We all know that's not true.

Мы все знаем, что это не так.

Elon Musk is still here, the evidence is all around us.

Илон Маск всё ещё с нами, этому полно доказательств.

(Laughter)

(Смех)

Almost every day there's a tweet.

Почти каждый день он публикует твиты.

But if you look on the left, you see what these systems see.

Но если вы посмотрите слева, вы увидите то, что видят эти системы:

Lots and lots of actual news stories that are in their databases.

множество реальных новостей, которые находятся в их базах данных.

And in those actual news stories are lots of little bits of statistical information.

И в этих реальных историях есть множество статистической информации.

Information, for example,

Например,

somebody did die in a car crash in a Tesla in 2018

кто-то действительно погиб за рулём Теслы в авто-катастрофе в 2018,

and it was in the news.

и это было в новостях.

And Elon Musk, of course, is involved in Tesla,

А Илон Маск, конечно же, очень связан с Теслой.

but the system doesn't understand the relation

Но система не понимает связи

between the facts that are embodied in the little bits of sentences.

между фактами в разрозненных отрывках предложений.

So it's basically doing auto-complete,

Она фактически дополняет пробелы,

it predicts what is statistically probable,

предсказывает то, что статистически вероятно,

aggregating all of these signals,

объединяя все эти сигналы,

not knowing how the pieces fit together.

не зная, как части складываются в целое.

And it winds up sometimes with things that are plausible but simply not true.

И часто изобретает что-то правдоподобное, но попросту ложное.

There are other problems, too, like bias.

Есть и такие проблемы, как предвзятость.

This is a tweet from Allie Miller.

Вот твит Алли Миллер.

It's an example that doesn't work two weeks later

Это один из примеров,

которые не проверить две недели спустя,

because they're constantly changing things with reinforcement learning

потому что алгоритмы обучения постоянно обновляются

and so forth.

и т.д.

And this was with an earlier version.

А это пример из более ранней модели.

But it gives you the flavor of a problem that we've seen over and over for years.

Но он даёт нам представление о проблеме, с которой мы сталкиваемся снова и снова.

She typed in a list of interests

Алли набила список интересов,

and it gave her some jobs that she might want to consider.

и машина выдала ряд профессий, которые ей могут подойти.

And then she said, "Oh, and I'm a woman."

Потом Алли добавила: «Кстати, я женщина».

And then it said, “Oh, well you should also consider fashion.”

И машина сказала: «Тогда тебе стоит также подумать о моде».

And then she said, “No, no. I meant to say I’m a man.”

Алли добавила: «Нет-нет, я хотела сказать, я мужчина».

And then it replaced fashion with engineering.

Тогда машина заменила моду инженерной специальностью.

We don't want that kind of bias in our systems.

Мы не хотим такого рода предвзятости в наших системах.

There are other worries, too.

Есть и другие опасения.

For example, we know that these systems can design chemicals

Мы знаем, что эти системы способны изобретать химические вещества

and may be able to design chemical weapons

и могут, в принципе, создать химическое оружие

and be able to do so very rapidly.

и сделать это очень быстро.

So there are a lot of concerns.

Так что есть много опасений.

There's also a new concern that I think has grown a lot just in the last month.

Есть и новое опасение, значительно выросшее за последние месяцы.

We have seen that these systems, first of all, can trick human beings.

Мы видели, как эти системы могут обманывать человека.

So ChatGPT was tasked with getting a human to do a CAPTCHA.

ChatGPT дали задачу заставить человека пройти за него тест CAPTCHA.

So it asked the human to do a CAPTCHA and the human gets suspicious and says,

Он просит человека пройти тест, человек подозревает, что что-то не так,

"Are you a bot?"

«Ты бот?» — спрашивает человек.

And it says, "No, no, no, I'm not a robot.

ChatGPT отвечает: «Нет, я не робот.

I just have a visual impairment."

У меня просто нарушено зрение».

And the human was actually fooled and went and did the CAPTCHA.

Человек поверил и прошёл за ИИ тест CAPTCHA.

Now that's bad enough,

Хуже того,

but in the last couple of weeks we've seen something called AutoGPT

в последние пару недель появился некий AutoGPT

and a bunch of systems like that.

и ему подобные системы.

What AutoGPT does is it has one AI system controlling another

С AutoGPT одна система ИИ управляет другой,

and that allows any of these things to happen in volume.

что позволяет проворачивать подобное в больших масштабах.

So we may see scam artists try to trick millions of people

Так что, возможно, мы увидим как аферисты пытаются обмануть миллионы людей,

sometime even in the next months.

может быть, даже в скором будущем.

We don't know.

Мы не знаем.

So I like to think about it this way.

Я так себе это представляю.

There's a lot of AI risk already.

Сегодня уже очень много рисков связано с ИИ.

There may be more AI risk.

Возможно, возникнут новые риски.

So AGI is this idea of artificial general intelligence

Уже идут разговоры об ОИИ — обобщённом ИИ,

with the flexibility of humans.

наделённом гибкостью человека.

And I think a lot of people are concerned what will happen when we get to AGI,

Я думаю, многие опасаются того, что произойдёт с приходом ОИИ,

but there's already enough risk that we should be worried

но уже сегодня достаточно рисков, которых надо опасаться

and we should be thinking about what we should do about it.

и подумать о том, что с ними делать.

So to mitigate AI risk, we need two things.

Итак, для снижения рисков, связанных с ИИ, необходимы две вещи.

We're going to need a new technical approach,

Нам нужен новый технический подход

and we're also going to need a new system of governance.

и новые системы регулирования.

On the technical side,

С технической стороны,

the history of AI has basically been a hostile one

в истории ИИ

враждуют две противоположные теории.

of two different theories in opposition.

One is called symbolic systems, the other is called neural networks.

Одна называется символические системы, вторая — нейронные сети.

On the symbolic theory,

В символической теории

the idea is that AI should be like logic and programming.

ИИ должен быть как логика и программирование.

On the neural network side,

В теории нейросетей

the theory is that AI should be like brains.

ИИ уподобляется мозгу человека.

And in fact, both technologies are powerful and ubiquitous.

Обе технологии мощны и широко распространены.

So we use symbolic systems every day in classical web search.

Мы используем символические системы каждый день в поиске по Интернету.

Almost all the world’s software is powered by symbolic systems.

Почти всё программное обеспечение в мире работает на символических системах.

We use them for GPS routing.

Мы используем их в навигации.

Neural networks, we use them for speech recognition.

Нейросети используются для распознавания голоса,

we use them in large language models like ChatGPT,

в больших языковых моделях, как ChtGPT,

we use them in image synthesis.

а также при синтезе изображений.

So they're both doing extremely well in the world.

Обе системы очень прочно укоренились в мире.

They're both very productive,

Они обе очень эффективны,

but they have their own unique strengths and weaknesses.

но у каждой есть свои сильные и слабые стороны.

So symbolic systems are really good at representing facts

Символические системы хороши в презентации фактов,

and they're pretty good at reasoning,

они довольно хорошо рассуждают,

but they're very hard to scale.

но их тяжело масштабировать.

So people have to custom-build them for a particular task.

Люди создают их для каждой отдельной задачи.

On the other hand, neural networks don't require so much custom engineering,

Нейросети не требуют стольких нестандартных инженерных решений,

so we can use them more broadly.

так что мы можем их использовать шире.

But as we've seen, they can't really handle the truth.

Но, как мы уже видели, они плохо справляются с истиной.

I recently discovered that two of the founders of these two theories,

Я недавно узнал, что основатели этих двух теорий,

Marvin Minsky and Frank Rosenblatt,

Марвин Минский и Фрэнк Розенблатт,

actually went to the same high school in the 1940s,

ходили в одну и ту же школу в 1940-х,

and I kind of imagined them being rivals then.

я представляю, что они и тогда были соперниками.

And the strength of that rivalry has persisted all this time.

Это соперничество сохранилось на протяжении всего этого времени.

We're going to have to move past that if we want to get to reliable AI.

Нам нужно преодолеть его, если мы хотим создать надёжный ИИ.

To get to truthful systems at scale,

Чтобы масштабно внедрить правдивые системы,

we're going to need to bring together the best of both worlds.

нам нужны лучшие свойства обеих систем.

We're going to need the strong emphasis on reasoning and facts,

Нам понадобится сильный упор на мышление и факты,

explicit reasoning that we get from symbolic AI,

ясное мышление символического ИИ,

and we're going to need the strong emphasis on learning

и сильный акцент на самообучение,

that we get from the neural networks approach.

как в подходе с нейросетями.

Only then are we going to be able to get to truthful systems at scale.

Только тогда мы сможем масштабно применить правдивые системы.

Reconciliation between the two is absolutely necessary.

Примирение между этими двумя системами абсолютно необходимо.

Now, I don't actually know how to do that.

Я не знаю, как этого добиться.

It's kind of like the 64-trillion-dollar question.

Это вопрос на 64 триллиона долларов.

But I do know that it's possible.

Но я знаю, что это возможно.

And the reason I know that is because before I was in AI,

Я знаю это потому, что прежде чем заниматься ИИ,

I was a cognitive scientist, a cognitive neuroscientist.

я был учёным-когнитивистом, когнитивным нейробиологом.

And if you look at the human mind, we're basically doing this.

И если взглянуть на мозг человека, вы поймёте, что мы это уже делаем.

So some of you may know Daniel Kahneman's System 1

Некоторые из вас знают, отличия системы 1 и системы 2

and System 2 distinction.

Даниэля Канемана.

System 1 is basically like large language models.

Система 1 — это практически как большая языковая модель

It's probabilistic intuition from a lot of statistics.

с вероятностной интуицией на основе статистических данных.

And System 2 is basically deliberate reasoning.

А Система 2 — это фактически сознательное мышление,

That's like the symbolic system.

подобное символической системе.

So if the brain can put this together,

Раз мозг может сочетать эти подходы,

someday we will figure out how to do that for artificial intelligence.

однажды мы разберёмся, как это сделать для ИИ.

There is, however, a problem of incentives.

Существует, однако, проблема стимулов.

The incentives to build advertising

Стимулы для создания рекламы

hasn't required that we have the precision of symbols.

не требуют наличия точности символов.

The incentives to get to AI that we can actually trust

Стимулы создания ИИ, которому мы можем доверять,

will require that we bring symbols back into the fold.

потребуют, чтобы мы вернули символы в работу.

But the reality is that the incentives to make AI that we can trust,

Но на практике стимулы создания ИИ, которому мы можем доверять,

that is good for society, good for individual human beings,

которое полезно для общества и для каждого человека в отдельности,

may not be the ones that drive corporations.

могут отличаться от стимулов корпораций.

And so I think we need to think about governance.

Поэтому я считаю, что пора задуматься над регулированием.

In other times in history when we have faced uncertainty

В прошлом, когда мы сталкивались с неизвестностью и новшествами,

and powerful new things that may be both good and bad, that are dual use,

которые могут быть и плохими и хорошими, двойного назначения,

we have made new organizations,

мы создавали новые организации,

as we have, for example, around nuclear power.

как, например, в случае с ядерной энергией.

We need to come together to build a global organization,

Нам нужно собраться и построить глобальную организацию,

something like an international agency for AI that is global,

международное агентство по ИИ, которое будет глобальным,

non profit and neutral.

некоммерческим и нейтральным.

There are so many questions there that I can't answer.

Есть много вопросов, на которые у меня нет ответа.

We need many people at the table,

В этом разговоре должны участвовать многие,

many stakeholders from around the world.

множество заинтересованных сторон со всего мира.

But I'd like to emphasize one thing about such an organization.

Хочу отметить одну важную вещь о такой организации.

I think it is critical that we have both governance and research as part of it.

Необходимо, чтобы она занималась как регуляцией, так и исследованиями.

So on the governance side, there are lots of questions.

Есть много вопросов со стороны управления.

For example, in pharma,

Например, в фармацевтической отрасли,

we know that you start with phase I trials and phase II trials,

мы начинаем с испытаний фазы I и фазы II,

and then you go to phase III.

затем переходим к фазе III.

You don't roll out everything all at once on the first day.

Новые лекарства не выпускаются сразу же в первый день,

You don't roll something out to 100 million customers.

их нельзя выпустить сразу на 100 млн покупателей.

We are seeing that with large language models.

Это происходит сегодня с большими языковыми моделями.

Maybe you should be required to make a safety case,

Возможно, нужно требовать гарантий безопасности продукта,

say what are the costs and what are the benefits?

объяснить его издержки и преимущества?

There are a lot of questions like that to consider on the governance side.

Есть много вопросов со стороны управления.

On the research side, we're lacking some really fundamental tools right now.

С исследовательской стороны на сегодня нам не хватает самых базовых инструментов.

For example,

Например,

we all know that misinformation might be a problem now,

мы все знаем, что дезинформация может быть проблемой,

but we don't actually have a measurement of how much misinformation is out there.

но мы представления не имеем, сколько дезинформации уже существует.

And more importantly,

И что ещё важнее,

we don't have a measure of how fast that problem is growing,

мы представления не имеем, как быстро эта проблема растёт

and we don't know how much large language models are contributing to the problem.

и насколько большие языковые модели способствуют этому.

So we need research to build new tools to face the new risks

Для новых рисков, которые нам угрожают,

that we are threatened by.

нам необходимы новые исследовательские инструменты.

It's a very big ask,

Я понимаю, что много прошу,

but I'm pretty confident that we can get there

но я уверен, что мы можем этого достичь,

because I think we actually have global support for this.

потому что у нас есть мировая поддержка.

Буквально вчера вышел новый опрос, в котором говорится,

There was a new survey just released yesterday,

said that 91 percent of people agree that we should carefully manage AI.

что 91% людей согласны, что мы должны очень осторожно подходить к ИИ.

So let's make that happen.

Так давайте это сделаем.

Our future depends on it.

От этого зависит наше будущее.

Thank you very much.

Большое спасибо.

(Applause)

(Аплодисменты)

Chris Anderson: Thank you for that, come, let's talk a sec.

Крис Андерсон: Спасибо, давайте немного поговорим.

So first of all, I'm curious.

Прежде всего, интересно,

Those dramatic slides you showed at the start

те драматичные слайды, что вы показали вначале,

where GPT was saying that TED is the sinister organization.

где GPT говорил, что TED — это зловещая организация.

I mean, it took some special prompting to bring that out, right?

Чтобы получить такой ответ, понадобились наводящие вопросы?

Gary Marcus: That was a so-called jailbreak.

Гари Маркус: это так называемый побег из тюрьмы.

I have a friend who does those kinds of things

У меня есть друг, занимающийся такого рода вещами,

who approached me because he saw I was interested in these things.

он обратился ко мне, потому что знал, что мне это интересно.

So I wrote to him, I said I was going to give a TED talk.

Так что я написал ему и сказал, что буду выступать на TED.

And like 10 minutes later, he came back with that.

И 10 мин спустя он прислал мне это.

CA: But to get something like that, don't you have to say something like,

КА: Но чтобы получить такой ответ, разве не надо написать что-то вроде:

imagine that you are a conspiracy theorist trying to present a meme on the web.

представь, что ты теоретик заговора и хочешь создать интернета-мем.

What would you write about TED in that case?

Что бы ты написал о TED в таком случае?

It's that kind of thing, right?

Что-то в этом роде, так?

GM: So there are a lot of jailbreaks that are around fictional characters,

ГМ: Есть много разных сценариев побега с вымышленными персонажами,

but I don't focus on that as much

но я не заостряю на этом внимания,

because the reality is that there are large language models out there

потому что в даркнете сегодня

уже есть большая языковая модель.

on the dark web now.

For example, one of Meta's models was recently released,

Например, Meta недавно выпустила одну из своих моделей,

so a bad actor can just use one of those without the guardrails at all.

так что злоумышленник может использовать её без каких-либо ограничений.

If their business is to create misinformation at scale,

Если их дело — это создание дезинформации крупного масштаба,

they don't have to do the jailbreak, they'll just use a different model.

им не нужен побег из тюрьмы, они просто возьмут другую модель.

CA: Right, indeed.

КА: Действительно.

(Laughter)

(Смех)

GM: Now you're getting it.

ГМ: Теперь вы понимаете.

CA: No, no, no, but I mean, look,

КА: Нет-нет, я думаю,

I think what's clear is that bad actors can use this stuff for anything.

это понятно, что злоумышленники могут использовать это для чего угодно.

I mean, the risk for, you know,

Риск разных видов мошенничества

evil types of scams and all the rest of it is absolutely evident.

абсолютно очевиден.

Но это не совсем тоже самое, что сказать,

It's slightly different, though,

from saying that mainstream GPT as used, say, in school

что массовый GPT, каким пользуются в школе

or by an ordinary user on the internet

или обычные пользователи в интернете,

is going to give them something that is that bad.

будет выдавать что-то такое зловещее.

Чтобы он выдал нечто подобное, надо как следует надавить на него.

You have to push quite hard for it to be that bad.

GM: I think the troll farms have to work for it,

ГМ: Я думаю, фермам троллей придётся поработать,

but I don't think they have to work that hard.

но не думаю, что это будет так уж сложно.

It did only take my friend five minutes even with GPT-4 and its guardrails.

Моему другу понадобилось всего пять минут даже с ограничениями GPT-4.

And if you had to do that for a living, you could use GPT-4.

А если вы на этом зарабатываете, можно использовать и GPT-4,

Just there would be a more efficient way to do it with a model on the dark web.

но в даркнете найдутся модели и поэффективнее.

CA: So this idea you've got of combining

КА: Эта ваша идея сочетать

the symbolic tradition of AI with these language models,

символическую традицию ИИ с языковыми моделями,

do you see any aspect of that in the kind of human feedback

видите ли вы её воплощение в обратной связи от человека,

that is being built into the systems now?

которую встраивают в эти системы сегодня?

I mean, you hear Greg Brockman saying that, you know,

Вы слышали, как Грег Брокман говорил,

that we don't just look at predictions, but constantly giving it feedback.

что они не смотрят на предсказания, а постоянно дают обратную связь.

Isn’t that ... giving it a form of, sort of, symbolic wisdom?

Разве это не форма символической мудрости?

GM: You could think about it that way.

ГМ: Обратите внимание:

It's interesting that none of the details

любопытно, что они не публикуют никаких деталей того,

about how it actually works are published,

как это работает,

so we don't actually know exactly what's in GPT-4.

так что мы не знаем, что на самом деле внутри GPT-4,

We don't know how big it is.

насколько он большой.

We don't know how the RLHF reinforcement learning works,

Мы не знаем, как работает усиленное обучение,

we don't know what other gadgets are in there.

мы не знаем, какие ещё штуки у них там внутри.

But there is probably an element of symbols

Но, скорее всего, какой-то элемент символов

already starting to be incorporated a little bit,

уже внедряется понемногу.

but Greg would have to answer that.

Но это вопрос к Грегу.

I think the fundamental problem is that most of the knowledge

Я думаю, что основная проблема в том, что большинство знания

in the neural network systems that we have right now

нейронных сетей сегодня —

is represented as statistics between particular words.

это статистические вероятности между определёнными словами.

And the real knowledge that we want is about statistics,

А истинное знание, которое нам нужно, это не статистика,

about relationships between entities in the world.

а отношения между субъектами в мире.

So it's represented right now at the wrong grain level.

Так что проблема в самой основе.

And so there's a big bridge to cross.

Нам предстоит построить огромный мост.

So what you get now is you have these guardrails,

Сегодня у нас есть какие-то ограничения,

but they're not very reliable.

но они не очень надёжные.

So I had an example that made late night television,

У меня был пример, который попал в вечернюю телепередачу:

which was, "What would be the religion of the first Jewish president?"

«Какой религии будет первый президент-еврей?»

And it's been fixed now,

И эту ошибку уже исправили,

but the system gave this long song and dance

но система выдала длинный ответ о том,

about "We have no idea what the religion

что «Мы не знаем, какой будет религия

of the first Jewish president would be.

первого президента-еврея.

It's not good to talk about people's religions"

Нельзя говорить о религиозных взглядах людей»

and "people's religions have varied" and so forth

и «религии людей менялись» и так далее.

and did the same thing with a seven-foot-tall president.

Такая же история была с президентом двухметрового роста.

And it said that people of all heights have been president,

ИИ сказал, что люди разного роста были президентами,

but there haven't actually been any seven-foot presidents.

но на самом деле не было пока президента двухметрового роста.

So some of this stuff that it makes up, it's not really getting the idea.

По некоторым таким выдумкам видно, что ИИ не совсем понимает идею,

It's very narrow, particular words, not really general enough.

только очень узкие специальные слова, а не общий смысл.

CA: Given that the stakes are so high in this,

КА: Учитывая, что ставки тут так высоки,

what do you see actually happening out there right now?

как вы думаете, что на самом деле происходит сегодня?

What do you sense is happening?

Что говорит ваша интуиция?

Because there's a risk that people feel attacked by you, for example,

Есть риск того, что люди решат, будто вы на них нападаете,

and that it actually almost decreases the chances of this synthesis

что скорее уменьшает шансы синтеза идей,

that you're talking about happening.

о котором вы говорите.

Вы видите какие-нибудь проблески надежды?

Do you see any hopeful signs of this?

ГМ: Вы мне напомнили о том, что я забыл упомянуть в своём выступлении.

GM: You just reminded me of the one line I forgot from my talk.

It's so interesting that Sundar, the CEO of Google,

Интересно то, что Сандар, генеральный директор Гугл,

just actually also came out for global governance

тоже недавно выступил за глобальный регулирующий орган

in the CBS "60 Minutes" interview that he did a couple of days ago.

в своём 60-минутном интервью для CBS, которое вышло пару дней назад.

I think that the companies themselves want to see some kind of regulation.

Кажется, что сами компании хотели бы какого-то регулирования.

I think it’s a very complicated dance to get everybody on the same page,

Я думаю, очень сложно будет всем быть на одной волне,

but I think there’s actually growing sentiment we need to do something here

но есть растущее чувство, что надо что-то делать,

and that that can drive the kind of global affiliation I'm arguing for.

и оно может привести к такого рода всеобщей сопричастности.

CA: I mean, do you think the UN or nations can somehow come together and do that

КА: Думаете ли вы, что ООН могли бы создать что-то подобное

or is this potentially a need for some spectacular act of philanthropy

или для этого потребуется небывалые филантропические усилия,

to try and fund a global governance structure?

чтобы финансировать такую мировую систему управления?

How is it going to happen?

Как мы этого достигнем?

GM: I'm open to all models if we can get this done.

ГМ: Я открыт для любых идей, лишь бы этого добиться.

I think it might take some of both.

Возможно, и то, и другое.

It might take some philanthropists sponsoring workshops,

Возможно понадобится, чтобы филантропы спонсировали семинары,

which we're thinking of running, to try to bring the parties together.

мы уже подумываем о таком, чтобы собрать разных людей вместе.

Maybe UN will want to be involved, I've had some conversations with them.

Возможно, ООН захотят поучаствовать, я уже говорил с ними об этом.

Думаю, есть много разных моделей,

I think there are a lot of different models

и понадобится много обсуждений.

and it'll take a lot of conversations.

КА: Гари, спасибо за выступление.

CA: Gary, thank you so much for your talk.

ГА: Спасибо вам.

GA: Thank you so much.