The Urgent Risks of Runaway AI — and What to Do about Them | Gary Marcus | TED

Tradutor: Margarida Ferreira Revisora: Clara Marques

I’m here to talk about the possibility of global AI governance.

Venho aqui falar sobre a possibilidade de um controlo mundial da IA.

I first learned to code when I was eight years old,

Aprendi a codificar quando tinha oito anos,

on a paper computer,

num computador de papel,

and I've been in love with AI ever since.

e apaixonei-me pela IA desde então.

In high school,

Na escola secundária,

I got myself a Commodore 64 and worked on machine translation.

arranjei um Commodore 64 e trabalhei em tradução automática.

I built a couple of AI companies, I sold one of them to Uber.

Criei duas empresas de IA, vendi uma delas à Uber.

I love AI, but right now I'm worried.

Eu adoro a IA, mas neste momento estou preocupado.

One of the things that I’m worried about is misinformation,

Uma das coisas que me preocupa é a desinformação,

a possibilidade de que pessoas de mau caráter façam um tsunami de desinformação

the possibility that bad actors will make a tsunami of misinformation

like we've never seen before.

como nunca vimos.

These tools are so good at making convincing narratives

Estas ferramentas são excelentes em fazer narrativas convincentes

about just about anything.

sobre seja o que for.

If you want a narrative about TED and how it's dangerous,

Se quiserem uma narrativa sobre a TED e como ela é perigosa

that we're colluding here with space aliens,

porque somos coniventes aqui com extraterrestres,

you got it, no problem.

aqui a têm, não há problema.

I'm of course kidding about TED.

Claro que estou a brincar com a TED.

I didn't see any space aliens backstage.

Não vi nenhum extraterrestre nos bastidores.

But bad actors are going to use these things to influence elections,

Mas há maus caracteres que vão usar estas coisas para influenciar eleições,

and they're going to threaten democracy.

e vão ameaçar a democracia.

Even when these systems

Mesmo quando esses sistemas

aren't deliberately being used to make misinformation,

não estão a ser usados deliberadamente para lançar desinformação,

they can't help themselves.

não podem impedir-se.

And the information that they make is so fluid and so grammatical

As informações que eles fazem são tão fluidas e tão gramaticais

that even professional editors sometimes get sucked in

que até os editores profissionais por vezes são apanhados

and get fooled by this stuff.

e são enganados por isso.

And we should be worried.

Devemos estar preocupados.

For example, ChatGPT made up a sexual harassment scandal

Por exemplo, o ChatGPT criou um escândalo de assédio sexual

about an actual professor,

sobre um professor real

and then it provided evidence for its claim

e depois apresentou prova das suas afirmações

in the form of a fake "Washington Post" article

sob a forma de um falso artigo do “Washington Post”

that it created a citation to.

para o qual criou uma citação.

We should all be worried about that kind of thing.

Devemos estar preocupados sobre este tipo de coisas.

What I have on the right is an example of a fake narrative

O que eu tenho aqui à direita é um exemplo duma narrativa falsa

from one of these systems

de um destes sistemas,

saying that Elon Musk died in March of 2018 in a car crash.

dizendo que Elon Musk morreu em março de 2018, num acidente de viação.

We all know that's not true.

Todos sabemos que não é verdade.

Elon Musk is still here, the evidence is all around us.

Elon Musk continua vivo, a prova está à nossa volta.

(Laughter)

(Risos)

Almost every day there's a tweet.

Quase todos os dias há um tweet.

But if you look on the left, you see what these systems see.

Mas se olharem para a esquerda, veem o que estes sistemas veem.

Lots and lots of actual news stories that are in their databases.

Montes e montes de novas notícias que se encontram nos seus bancos de dados.

Nessas notícias há milhentos bits de informações estatísticas.

And in those actual news stories are lots of little bits of statistical information.

Information, for example,

Informações, por exemplo,

somebody did die in a car crash in a Tesla in 2018

de alguém que morre num acidente de viação num Tesla em 2018

and it was in the news.

que apareceu nos jornais.

And Elon Musk, of course, is involved in Tesla,

E Elon Musk, claro, está relacionado com a Tesla,

but the system doesn't understand the relation

mas o sistema não compreende a relação

between the facts that are embodied in the little bits of sentences.

entre os factos que estão contidos nos bits das frases.

So it's basically doing auto-complete,

Portanto, basicamente, autocompleta-se,

it predicts what is statistically probable,

prevê o que estatisticamente é provável.

aggregating all of these signals,

agregando todos esses sinais,

not knowing how the pieces fit together.

sem saber como as peças se encaixam bem.

And it winds up sometimes with things that are plausible but simply not true.

E, por vezes, acabam com coisas que são plausíveis mas não são verdade.

Também há outros problemas, como os preconceitos.

There are other problems, too, like bias.

This is a tweet from Allie Miller.

Este é um tweet de Allie Miller.

It's an example that doesn't work two weeks later

É um exemplo que não funciona duas semanas depois

because they're constantly changing things with reinforcement learning

porque estão sempre a mudar as coisas

and so forth.

com o reforço da aprendizagem, etc.

And this was with an earlier version.

Esta é uma versão mais antiga.

But it gives you the flavor of a problem that we've seen over and over for years.

Mas dá-nos uma ideia de um problema que já detetámos há muitos anos.

She typed in a list of interests

Ela escreveu uma lista de interesses

and it gave her some jobs that she might want to consider.

e a IA deu-lhe alguns empregos que ela podia querer considerar.

And then she said, "Oh, and I'm a woman."

Depois, ela disse: “É verdade, eu sou uma mulher.”

And then it said, “Oh, well you should also consider fashion.”

E a IA disse: “OK, também deves considerar a moda.”

And then she said, “No, no. I meant to say I’m a man.”

E ela disse: “Não, não, enganei-me, eu sou um homem.”

And then it replaced fashion with engineering.

Então, a IA substituiu a moda por engenharia.

We don't want that kind of bias in our systems.

Não queremos este tipo de preconceitos nos nossos sistemas.

There are other worries, too.

Também há outras preocupações.

For example, we know that these systems can design chemicals

Por exemplo, sabemos que estes sistemas podem conceber produtos químicos

and may be able to design chemical weapons

e talvez conceber armas químicas

and be able to do so very rapidly.

e fazerem isso muito depressa.

So there are a lot of concerns.

Portanto, há muitas preocupações.

There's also a new concern that I think has grown a lot just in the last month.

Também há uma outra preocupação que suponho apareceu no mês passado.

We have seen that these systems, first of all, can trick human beings.

Já vimos que estes sistemas, conseguem enganar os seres humanos.

Então, o ChatGP foi encarregado de levar um ser humano a fazer o teste CAPTCHA.

So ChatGPT was tasked with getting a human to do a CAPTCHA.

Assim, ele pediu ao ser humano que fizesse um CAPTCHA

So it asked the human to do a CAPTCHA and the human gets suspicious and says,

e o ser humano, desconfiado, diz:

"Are you a bot?"

“És um robô?”

And it says, "No, no, no, I'm not a robot.

E ele disse: “Não, não sou um robô.

I just have a visual impairment."

“Só tenho uma deficiência visual”

And the human was actually fooled and went and did the CAPTCHA.

O ser humano foi enganado e fez o teste CAPTCHA.

Isto já é suficientemente mau,

Now that's bad enough,

but in the last couple of weeks we've seen something called AutoGPT

mas nas últimas semanas temos visto uma coisa chamada AutoGPT

and a bunch of systems like that.

e uma série de sistemas destes.

What AutoGPT does is it has one AI system controlling another

O AutoGPT tem um sistema de IA a controlar outro

and that allows any of these things to happen in volume.

e isso permite que estas coisas aconteçam em grande quantidade.

So we may see scam artists try to trick millions of people

Podemos vir a ver burlões tentarem vigarizar milhões de pessoas

sometime even in the next months.

talvez já nos próximos meses.

We don't know.

Não sabemos.

So I like to think about it this way.

Prefiro pensar deste modo.

There's a lot of AI risk already.

Já há muitos riscos na IA.

There may be more AI risk.

Pode vir a haver ainda mais riscos.

So AGI is this idea of artificial general intelligence

A IAG é a ideia da Inteligência Artificial Geral

com a flexibilidade dos seres humanos.

with the flexibility of humans.

And I think a lot of people are concerned what will happen when we get to AGI,

Penso que muita gente anda preocupada com o que acontecerá quando tivermos IAG,

but there's already enough risk that we should be worried

mas já há riscos suficientes que nos deviam preocupar

and we should be thinking about what we should do about it.

e devíamos estar a pensar no que devemos fazer quanto a isso.

So to mitigate AI risk, we need two things.

Para minimizar os riscos da IA, precisamos de duas coisas.

We're going to need a new technical approach,

Vamos precisar de uma nova abordagem técnica,

and we're also going to need a new system of governance.

e também vamos precisar de um novo sistema de controlo.

On the technical side,

Pelo lado técnico,

the history of AI has basically been a hostile one

a história da IA tem sido hostil, basicamente,

of two different theories in opposition.

de duas teorias diferentes e opostas.

One is called symbolic systems, the other is called neural networks.

Uma chama-se sistemas simbólicos, a outra chama-se redes neurais.

On the symbolic theory,

Na teoria simbólica,

the idea is that AI should be like logic and programming.

a ideia é que a IA deve ser como a lógica e a programação.

On the neural network side,

Na rede neural,

the theory is that AI should be like brains.

a teoria é de que a IA deve ser como o cérebro.

And in fact, both technologies are powerful and ubiquitous.

Com efeito, ambas as tecnologias são poderosas e omnipresentes.

So we use symbolic systems every day in classical web search.

Usamos sistemas simbólicos todos os dias na clássica pesquisa na Internet.

Almost all the world’s software is powered by symbolic systems.

Quase todos os softwares do mundo são alimentados por sistemas simbólicos.

We use them for GPS routing.

Usamo-los para a orientação por GPS.

Neural networks, we use them for speech recognition.

Usamos as redes neurais para reconhecimento da voz.

we use them in large language models like ChatGPT,

Usamo-las em modelos de linguagem como o ChatGPT,

we use them in image synthesis.

usamo-las na síntese de imagens.

So they're both doing extremely well in the world.

Ambas estão a fazer um bom trabalho mundialmente.

They're both very productive,

Ambas são muito produtivas,

but they have their own unique strengths and weaknesses.

mas têm as suas forças e as suas fraquezas.

So symbolic systems are really good at representing facts

Os sistemas simbólico são muito bons em representar factos

e são muito bons em raciocinar,

and they're pretty good at reasoning,

but they're very hard to scale.

mas são muito difíceis de ordenar.

So people have to custom-build them for a particular task.

Por isso as pessoas têm de os construir à medida para uma determinada tarefa.

On the other hand, neural networks don't require so much custom engineering,

Por outro lado, as redes neurais não exigem tanta engenharia personalizada

so we can use them more broadly.

por isso podemos usá-las de forma mais alargada.

But as we've seen, they can't really handle the truth.

Mas, como vimos, não conseguem lidar com a verdade.

I recently discovered that two of the founders of these two theories,

Há pouco tempo descobri que dois dos fundadores destas duas teorias,

Marvin Minsky and Frank Rosenblatt,

Marvin Minsky e Frank Rosenblatt,

actually went to the same high school in the 1940s,

andaram na mesma escola secundária nos anos 40,

and I kind of imagined them being rivals then.

e eu imagino que eles seriam rivais, nessa época.

And the strength of that rivalry has persisted all this time.

A força dessa rivalidade persistiu durante todo este tempo.

We're going to have to move past that if we want to get to reliable AI.

Vamos ter de ultrapassar isso depressa se queremos ter uma IA fiável.

To get to truthful systems at scale,

Para conseguir sistemas fiáveis em grande escala,

we're going to need to bring together the best of both worlds.

vamos precisar de reunir o melhor dos dois mundos.

We're going to need the strong emphasis on reasoning and facts,

Vamos precisar do fator forte do raciocínio e dos factos,

explicit reasoning that we get from symbolic AI,

o raciocínio explícito que obtemos da IA simbólica,

and we're going to need the strong emphasis on learning

e vamos precisar do fator forte da aprendizagem

that we get from the neural networks approach.

que obtemos da abordagem das redes neurais.

Only then are we going to be able to get to truthful systems at scale.

Só assim conseguiremos ter sistemas fiáveis em grande escala.

Reconciliation between the two is absolutely necessary.

A reconciliação entre os dois é fundamental.

Now, I don't actually know how to do that.

Eu não sei como fazer isso.

It's kind of like the 64-trillion-dollar question.

É como a pergunta dos 64 biliões de dólares.

But I do know that it's possible.

Mas sei que é possível.

And the reason I know that is because before I was in AI,

A razão por que sei isso é porque já estive na IA,

I was a cognitive scientist, a cognitive neuroscientist.

era um cientista cognitivo, um neurocientista cognitivo.

And if you look at the human mind, we're basically doing this.

Se olharmos para o cérebro humano, é o que fazemos basicamente.

Alguns aqui podem conhecer a distinção

So some of you may know Daniel Kahneman's System 1

and System 2 distinction.

entre o Sistema 1 e o Sistema 2 de Daniel Kahneman.

System 1 is basically like large language models.

O Sistema 1 é basicamente como os modelos de linguagem.

It's probabilistic intuition from a lot of statistics.

É a intuição probabilística a partir de muitas estatísticas.

And System 2 is basically deliberate reasoning.

O Sistema 2 é basicamente o raciocínio deliberado.

That's like the symbolic system.

É como o sistema simbólico.

Se o cérebro pode juntar as duas coisas,

So if the brain can put this together,

someday we will figure out how to do that for artificial intelligence.

um dia perceberemos como fazer isso para a inteligência artificial.

There is, however, a problem of incentives.

Contudo, há um problema de incentivos.

The incentives to build advertising

O incentivo para criar publicidade

hasn't required that we have the precision of symbols.

não precisou que tivéssemos a precisão dos símbolos.

The incentives to get to AI that we can actually trust

O incentivo para obter uma IA em que possamos confiar

will require that we bring symbols back into the fold.

exigirá que voltemos a trazer os símbolos para cima da mesa.

A realidade é que os incentivos para fazer uma IA em que possamos confiar

But the reality is that the incentives to make AI that we can trust,

that is good for society, good for individual human beings,

que seja boa para a sociedade, boa para os seres humanos individualmente,

may not be the ones that drive corporations.

podem não ser aqueles que motivam as empresas.

And so I think we need to think about governance.

Penso que precisamos de pensar no controlo.

In other times in history when we have faced uncertainty

Noutras épocas da História, quando enfrentámos a incerteza,

and powerful new things that may be both good and bad, that are dual use,

e coisas novas e poderosas que podiam ser boas e más, que tinham um uso duplo,

we have made new organizations,

fizemos novas organizações,

as we have, for example, around nuclear power.

como, por exemplo, em volta do poder nuclear.

We need to come together to build a global organization,

Precisamos de nos reunir para criar uma organização mundial

something like an international agency for AI that is global,

uma coisa como uma agência internacional para a IA que seja mundial,

non profit and neutral.

sem fins lucrativos e neutra.

There are so many questions there that I can't answer.

Há muitas questões que eu não sei responder.

We need many people at the table,

Precisamos de muita gente à mesma mesa,

many stakeholders from around the world.

muitas partes interessadas do mundo inteiro.

But I'd like to emphasize one thing about such an organization.

Mas queria sublinhar uma coisa sobre essa tal organização.

I think it is critical that we have both governance and research as part of it.

Penso que é fundamental que ela tenha controlo e investigação.

So on the governance side, there are lots of questions.

Do lado do controlo, há imensas questões.

For example, in pharma,

Por exemplo, na área farmacêutica,

we know that you start with phase I trials and phase II trials,

sabemos que começamos com os testes da fase I e da fase II

e depois passamos para os testes da fase III.

and then you go to phase III.

You don't roll out everything all at once on the first day.

Não se lança tudo duma só vez no primeiro dia.

You don't roll something out to 100 million customers.

Não se lança tudo para 100 milhões de clientes.

We are seeing that with large language models.

Vemos isso nos modelos de linguagem grande.

Maybe you should be required to make a safety case,

Talvez seja necessário apresentar um caso de segurança,

dizer quais são os custos e quais são os benefícios.

say what are the costs and what are the benefits?

There are a lot of questions like that to consider on the governance side.

Há muitas questões deste género a considerar do lado do governo.

On the research side, we're lacking some really fundamental tools right now.

Do lado da investigação, neste momento temos falta de instrumentos fundamentais.

For example,

Por exemplo,

we all know that misinformation might be a problem now,

todos sabemos que a desinformação pode ser hoje um problema,

but we don't actually have a measurement of how much misinformation is out there.

mas não temos como medir hoje quanta desinformação há por aí.

Mais importante ainda,

And more importantly,

não temos como medir a que velocidade esse problema avança,

we don't have a measure of how fast that problem is growing,

and we don't know how much large language models are contributing to the problem.

e não sabemos como os modelos de linguagem estão a contribuir para esse problema.

So we need research to build new tools to face the new risks

Precisamos de criar novos instrumentos pare fazer face aos novos riscos

that we are threatened by.

que nos ameaçam.

It's a very big ask,

É uma tarefa enorme

but I'm pretty confident that we can get there

mas tenho confiança de que podemos lá chegar

because I think we actually have global support for this.

porque penso que temos apoio global para isso.

There was a new survey just released yesterday,

Ainda ontem foi publicado um novo inquérito

said that 91 percent of people agree that we should carefully manage AI.

em que 91% das pessoas concorda que devemos gerir cuidadosamente a IA.

So let's make that happen.

Façamos com que isso aconteça.

Our future depends on it.

O nosso futuro depende disso

Thank you very much.

Muito obrigado.

(Applause)

(Aplausos)

Chris Anderson: Thank you for that, come, let's talk a sec.

Chris Anderson: Obrigado. Vem cá, só um segundo.

So first of all, I'm curious.

Primeiro, sinto-me curioso.

Those dramatic slides you showed at the start

Aqueles slides dramáticos que mostraste no início

where GPT was saying that TED is the sinister organization.

em que o GPT estava a dizer que a TED é uma organização sinistra.

I mean, it took some special prompting to bring that out, right?

Foi preciso algum estímulo especial para acontecer aquilo, não foi?

Gary Marcus: That was a so-called jailbreak.

Gary Marcus: Foi a chamada “fuga à prisão”.

I have a friend who does those kinds of things

Tenho um amigo que faz este tipo de coisas

who approached me because he saw I was interested in these things.

que veio ter comigo porque viu que eu estava interessado nestas coisas.

So I wrote to him, I said I was going to give a TED talk.

Escrevi-lhe e disse que ia fazer uma palestra TED.

And like 10 minutes later, he came back with that.

E 10 minutos depois, ele apareceu com aquilo.

CA: But to get something like that, don't you have to say something like,

CA: Mas, para obter uma coisa daquelas, é preciso dizer qualquer coisa como:

imagine that you are a conspiracy theorist trying to present a meme on the web.

“imagina que és um teórico da conspiração a tentar apresentar um meme na Internet”?

What would you write about TED in that case?

O que é que escreverias sobre a TED nesse caso?

It's that kind of thing, right?

É o que acontece, não é?

GM: So there are a lot of jailbreaks that are around fictional characters,

GM: Há muitas “fugas à prisão” em volta de figuras de ficção,

but I don't focus on that as much

mas eu não me concentraria muito nisso

because the reality is that there are large language models out there

porque a realidade é que há modelos de linguagem grande

on the dark web now.

na dark web, neste momento.

For example, one of Meta's models was recently released,

Por exemplo, foi lançado recentemente um dos modelos da Meta,

so a bad actor can just use one of those without the guardrails at all.

e um mau carácter pode usar um deles sem qualquer tipo de constrangimento.

If their business is to create misinformation at scale,

Se o objetivo dele for criar desinformação em grande escala,

they don't have to do the jailbreak, they'll just use a different model.

não precisam de fazer “fuga à prisão”, basta usar um modelo diferente.

CA: Right, indeed.

CA: Lá isso é verdade.

(Laughter)

(Risos)

GM: Now you're getting it.

GM: Já estás a perceber.

CA: No, no, no, but I mean, look,

CA: Não, não, espera, eu penso que é claro

I think what's clear is that bad actors can use this stuff for anything.

que os maus caracteres podem usar isto para o que quiserem.

I mean, the risk for, you know,

Ou seja, o risco de todos os tipos de fraudes maléficas

evil types of scams and all the rest of it is absolutely evident.

e tudo o resto, é absolutamente evidente.

It's slightly different, though,

Mas é um pouco diferente

from saying that mainstream GPT as used, say, in school

de dizer que o GPT em geral. como o que se usa na escola,

or by an ordinary user on the internet

ou por um utilizador normal, na Internet,

is going to give them something that is that bad.

vai dar-lhes uma coisa má.

Var ser preciso muita força para que isso seja tão mau.

You have to push quite hard for it to be that bad.

GM: I think the troll farms have to work for it,

GM: Penso que os trolls têm de trabalhar para isso,

but I don't think they have to work that hard.

mas acho que não têm de trabalhar muito.

It did only take my friend five minutes even with GPT-4 and its guardrails.

O meu amigo só precisou de 5 minutos mesmo com o GPT-4 e as suas seguranças.

And if you had to do that for a living, you could use GPT-4.

E se tiverem que fazer isso para ganhar dinheiro podem usar o GPT-4.

Just there would be a more efficient way to do it with a model on the dark web.

Só que haverá uma forma mais eficaz de o fazer com um modelo na dark web.

CA: So this idea you've got of combining

CA: Quanto a essa tua ideia de combinar

the symbolic tradition of AI with these language models,

a tradição simbólica da IA com esses modelos de linguagem,

do you see any aspect of that in the kind of human feedback

vês qualquer aspeto nela sob a forma de feedback humano

that is being built into the systems now?

que está a ser introduzido hoje nos sistemas?

I mean, you hear Greg Brockman saying that, you know,

Ouvimos Greg Brockman dizer

que não estamos só a olhar para previsões, estamos sempre a alimentá-las,

that we don't just look at predictions, but constantly giving it feedback.

Isn’t that ... giving it a form of, sort of, symbolic wisdom?

isso não será dar-lhe uma espécie de sabedoria simbólica?

GM: You could think about it that way.

GM: Podemos pensar dessa forma.

It's interesting that none of the details

É interessante que não há publicação

about how it actually works are published,

dos pormenores sobre como isso funciona,

so we don't actually know exactly what's in GPT-4.

assim, não sabemos bem o que é que há no GPT-4.

We don't know how big it is.

Não sabemos qual a sua dimensão.

We don't know how the RLHF reinforcement learning works,

Não sabemos como funciona o reforço de aprendizagem RLHF,

não sabemos que outros aparelhos há lá dentro.

we don't know what other gadgets are in there.

Mas há provavelmente um elemento de símbolos

But there is probably an element of symbols

already starting to be incorporated a little bit,

a começar a ser incorporado, pouco a pouco,

but Greg would have to answer that.

mas é Greg que terá de responder a isso.

I think the fundamental problem is that most of the knowledge

O problema fundamental é que a maior parte do conhecimento

in the neural network systems that we have right now

dos sistemas de rede neural que temos atualmente

is represented as statistics between particular words.

é representada como estatísticas entre determinadas palavras.

And the real knowledge that we want is about statistics,

E o conhecimento real que queremos é sobre estatísticas,

about relationships between entities in the world.

sobre relações entre entidades do mundo.

So it's represented right now at the wrong grain level.

Isso é representado neste momento a um nível errado.

And so there's a big bridge to cross.

Há pois uma enorme ponte a atravessar.

So what you get now is you have these guardrails,

O que temos agora é seguranças,

but they're not very reliable.

que não são muito fiáveis.

So I had an example that made late night television,

Eu tenho um exemplo que a televisão deu à noite, que foi:

which was, "What would be the religion of the first Jewish president?"

“Qual seria a religião do primeiro presidente judeu?”

Agora, está a ser corrigido,

And it's been fixed now,

but the system gave this long song and dance

mas o sistema deu um grande baile e disse:

about "We have no idea what the religion

“Não fazemos ideia de qual seria a religião

of the first Jewish president would be.

“do primeiro presidente judeu.

It's not good to talk about people's religions"

“Não se deve falar das religiões das pessoas”

and "people's religions have varied" and so forth

e “as religiões das pessoas têm variado”

e fez o mesmo para um presidente de 2 metros de altura.

and did the same thing with a seven-foot-tall president.

And it said that people of all heights have been president,

Disse que tem havido presidentes de todas as alturas

but there haven't actually been any seven-foot presidents.

mas nunca houve nenhum presidente com 2 metros de altura.

So some of this stuff that it makes up, it's not really getting the idea.

Portanto, há coisas que inventa porque não faz a mínima ideia.

It's very narrow, particular words, not really general enough.

São palavras muito restritas e particulares, não são gerais.

CA: Given that the stakes are so high in this,

CA: Dado que há muito em jogo,

what do you see actually happening out there right now?

o que é que achas que vai acontecer agora?

What do you sense is happening?

O que é que pressentes que vai acontecer?

Because there's a risk that people feel attacked by you, for example,

Porque há o risco de as pessoas se sentirem atacadas por ti, por exemplo,

and that it actually almost decreases the chances of this synthesis

o que quase diminui as hipóteses

de que ocorra essa síntese de que estás a falar.

that you're talking about happening.

Vês alguns sinais de esperança para isso?

Do you see any hopeful signs of this?

GM: You just reminded me of the one line I forgot from my talk.

GM: Há uma coisa que me esqueci de dizer na palestra.

É muito interessante que o Sunder, o CEO da Google,

It's so interesting that Sundar, the CEO of Google,

just actually also came out for global governance

acabou de se pronunciar também a favor do controlo global

in the CBS "60 Minutes" interview that he did a couple of days ago.

na entrevista “60 Minutes” da CBS que deu há uns dias.

I think that the companies themselves want to see some kind of regulation.

Penso que as empresas querem ver um certo tipo de regulamentação.

I think it’s a very complicated dance to get everybody on the same page,

Penso que é uma dança muito complicada para pôr toda a gente na mesma página,

but I think there’s actually growing sentiment we need to do something here

mas penso que está a crescer o sentimento de que precisamos de fazer qualquer coisa

and that that can drive the kind of global affiliation I'm arguing for.

e que isso pode impulsionar o tipo de afiliação global que defendo.

CA: I mean, do you think the UN or nations can somehow come together and do that

CA: Achas que a ONU ou as nações podem juntar-se e fazer isso

ou isto é possivelmente uma necessidade para um ato espetacular de filantropia

or is this potentially a need for some spectacular act of philanthropy

to try and fund a global governance structure?

para tentar e financiar uma estrutura de controlo global?

How is it going to happen?

Como é que vai acontecer?

GM: I'm open to all models if we can get this done.

GM: Aceito qualquer modelo se conseguirmos isso.

I think it might take some of both.

Penso que pode ter um pouco dos dois.

It might take some philanthropists sponsoring workshops,

Pode haver uns filantropos a patrocinar workshops,

which we're thinking of running, to try to bring the parties together.

a que estamos a pensar em candidatar-nos, para tentar juntar as partes.

Maybe UN will want to be involved, I've had some conversations with them.

Talvez a ONU queira envolver-se, já tive algumas conversas com eles.

Há muitos modelos diferentes

I think there are a lot of different models

e serão necessárias muitas conversações.

and it'll take a lot of conversations.

CA: Gary, muito obrigado.

CA: Gary, thank you so much for your talk.

GA: Obrigado.

(Aplausos)

GA: Thank you so much.