The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Tradutor: Margarida Ferreira Revisora: Nadia Tira

We started OpenAI seven years ago

Iniciámos a OpenAI há sete anos

because we felt like something really interesting was happening in AI

porque achámos que estava a acontecer uma coisa muito interessante com a IA

and we wanted to help steer it in a positive direction.

e quisemos orientá-la numa direção positiva.

It's honestly just really amazing to see

Francamente, tem sido espantoso ver

how far this whole field has come since then.

até que ponto toda esta área tem evoluído desde então.

And it's really gratifying to hear from people like Raymond

É realmente gratificante ouvir Raymond e outras pessoas

who are using the technology we are building, and others,

que estão a usar a tecnologia que nós estamos a criar

for so many wonderful things.

dizer tantas coisas espantosas.

We hear from people who are excited,

Ouvimos pessoas que andam entusiasmadas,

we hear from people who are concerned,

ouvimos pessoas que estão preocupadas

we hear from people who feel both those emotions at once.

ouvimos pessoas que sentem essas duas emoções ao mesmo tempo.

And honestly, that's how we feel.

Sinceramente, é esse o nosso caso.

Acima de tudo, parece-nos estar a entrar num período histórico, neste momento,

Above all, it feels like we're entering an historic period right now

where we as a world are going to define a technology

em que, enquanto mundo, vamos definir uma tecnologia

that will be so important for our society going forward.

que vai ser muito importante para a nossa sociedade avançar.

And I believe that we can manage this for good.

Estou convencido que podemos gerir isto no bom sentido.

So today, I want to show you the current state of that technology

Por isso quero mostrar-vos o estado atual desta tecnologia

e alguns dos princípios conceptuais subjacentes que consideramos importantes.

and some of the underlying design principles that we hold dear.

So the first thing I'm going to show you

A primeira coisa que vos vou mostrar

is what it's like to build a tool for an AI

é como se cria uma ferramenta para a IA

rather than building it for a human.

em vez de a criar para um ser humano.

So we have a new DALL-E model, which generates images,

Temos um novo modelo DALL-E que gera imagens,

and we are exposing it as an app for ChatGPT to use on your behalf.

e estamos a apresentá-lo num aplicativo para o ChatGPT usar a nosso favor.

And you can do things like ask, you know,

Podemos fazer coisas como pedir:

suggest a nice post-TED meal and draw a picture of it.

“Sugere uma bela refeição pós-TED

“e mostra uma imagem dela”.

(Laughter)

(Risos)

Now you get all of the, sort of, ideation and creative back-and-forth

Já ficam com uma ideia da conceção e do cuidado com os pormenores

and taking care of the details for you that you get out of ChatGPT.

que o ChatGPT nos oferece.

Mas a questão é que não se trata duma ideia para a refeição

And here we go, it's not just the idea for the meal,

but a very, very detailed spread.

mas uma gama muitíssimo detalhada.

Vejamos então o que é que podemos obter.

So let's see what we're going to get.

But ChatGPT doesn't just generate images in this case --

Mas o ChatGPT neste caso não gera só texto,

sorry, it doesn't generate text, it also generates an image.

também gera uma imagem.

And that is something that really expands the power

E isso é uma coisa que aumenta o poder

of what it can do on your behalf in terms of carrying out your intent.

do que ele pode fazer por nós em termos de satisfazer o nosso pedido.

And I'll point out, this is all a live demo.

Isto é uma demonstração ao vivo.

This is all generated by the AI as we speak.

Tudo isto é gerado pela IA à medida que vou falando.

So I actually don't even know what we're going to see.

Por isso, eu não sei o que é que vamos ver.

This looks wonderful.

Isto parece maravilhoso.

(Applause)

(Aplausos)

I'm getting hungry just looking at it.

Já estou com fome só de olhar para isto.

Now we've extended ChatGPT with other tools too,

Agora, reforçámos o ChatGPT com outras ferramentas,

for example, memory.

por exemplo, a memória.

You can say "save this for later."

Podemos dizer: “Guarda isto para mais tarde”.

And the interesting thing about these tools

O interessante nestas ferramentas

is they're very inspectable.

é que podemos inspecioná-las.

So you get this little pop up here that says "use the DALL-E app."

Aparece aqui uma mensagem: “Usar o aplicativo DALL-E”.

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

A propósito, isto vai aparecer a todos os utilizadores do ChatGPT,

nos próximos meses.

And you can look under the hood and see that what it actually did

Podem espreitar o que está por detrás

e verão que foi escrita uma ordem tal como faria uma pessoa.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

Temos a possibilidade de verificar

how the machine is using these tools,

como é que a máquina está a usar estas ferramentas,

which allows us to provide feedback to them.

o que nos permite fornecer-lhes feedback.

Now it's saved for later,

Fica gravado para mais tarde

and let me show you what it's like to use that information

e vou mostrar-vos como usar esta informação

and to integrate with other applications too.

e integrá-la também noutras aplicações.

You can say,

Podemos dizer:

“Now make a shopping list for the tasty thing

“Faz uma lista de compras para aquela coisa saborosa

I was suggesting earlier.”

“que eu sugeri há bocado.”

And make it a little tricky for the AI.

E podemos pôr a IA numa situação delicada:

"And tweet it out for all the TED viewers out there."

“Partilha-a no Twitter para todos os espetadores da TED.”

(Laughter)

(Risos)

So if you do make this wonderful, wonderful meal,

Por isso, se vocês fizerem esta refeição maravilhosa,

I definitely want to know how it tastes.

eu quero saber a que é que ela sabe.

But you can see that ChatGPT is selecting all these different tools

Mas podem ver que o ChatGPT está a selecionar

todas estas ferramentas diferentes

without me having to tell it explicitly which ones to use in any situation.

sem eu ter de lhe dizer explicitamente qual delas usar em qualquer situação.

Penso que isto mostra uma nova forma de pensar na interface com o utilizador.

And this, I think, shows a new way of thinking about the user interface.

Like, we are so used to thinking of, well, we have these apps,

Porque nós estamos tão habituados a ter estes aplicativos,

we click between them, we copy/paste between them,

clicamos entre eles, copiamos/colamos entre eles,

and usually it's a great experience within an app

e habitualmente é uma ótima experiência num aplicativo

as long as you kind of know the menus and know all the options.

desde que saibamos os menus e saibamos todas as opções.

Yes, I would like you to.

Sim, eu também gostava de saber. Sim, por favor.

Yes, please.

Always good to be polite.

É sempre bom ser bem educado.

(Laughter)

(Risos)

And by having this unified language interface on top of tools,

Ao ter este interface de linguagem unificada abrangendo as ferramentas,

the AI is able to sort of take away all those details from you.

a IA consegue ir buscar-nos todos estes pormenores.

So you don't have to be the one

Portanto, não precisamos de ser nós

who spells out every single sort of little piece

a especificar todos os pormenores do que é suposto acontecer.

of what's supposed to happen.

And as I said, this is a live demo,

Como já disse, isto é uma demonstração ao vivo,

so sometimes the unexpected will happen to us.

por isso, por vezes, acontece-nos uma coisa inesperada.

But let's take a look at the Instacart shopping list while we're at it.

Mas vejamos na lista de compras Instacart, enquanto aqui estamos.

And you can see we sent a list of ingredients to Instacart.

Como veem, enviámos uma lista de ingredientes para a Instacart.

Here's everything you need.

Está aqui tudo aquilo de que precisamos.

And the thing that's really interesting

O que é realmente interessante

is that the traditional UI is still very valuable, right?

é que a IU — Interface do Utilizador — ainda é muito valiosa, não é?

If you look at this,

Se olharmos para isto,

you still can click through it and sort of modify the actual quantities.

ainda podemos clicar e modificar as quantidades que ali estão.

And that's something that I think shows

É uma coisa que, segundo creio,

that they're not going away, traditional UIs.

mostra que não vão desaparecer, as IU tradicionais.

It's just we have a new, augmented way to build them.

É só que temos uma forma nova e ampliada de as construir.

And now we have a tweet that's been drafted for our review,

Agora temos um tweet criado para nós revermos,

which is also a very important thing.

o que também é uma coisa muito importante.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

Podemos clicar em “run” e pronto, somos o gestor, podemos inspecionar,

we're able to change the work of the AI if we want to.

podemos alterar a tarefa da IA, se quisermos.

And so after this talk, you will be able to access this yourself.

Assim, depois desta palestra, vocês podem aceder a isto.

And there we go.

Cá vamos.

Cool.

Ótimo.

Thank you, everyone.

Obrigado a todos.

(Applause)

(Aplausos)

So we’ll cut back to the slides.

Vamos voltar aos slides.

Now, the important thing about how we build this,

Ora bem, o que é importante quanto à forma como criamos isto

it's not just about building these tools.

não é só criar estas ferramentas.

It's about teaching the AI how to use them.

Trata-se de ensinar a IA a usá-las.

Por exemplo, o que é que queremos fazer

Like, what do we even want it to do

when we ask these very high-level questions?

quando fazemos estas perguntas de alto nível?

And to do this, we use an old idea.

Para isso, usamos uma ideia antiga.

Se voltarmos ao documento de Alan Turing, de 1950, no teste Turing, ele diz:

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

you'll never program an answer to this.

“Nunca programarão uma resposta para isto.

Instead, you can learn it.

“Em vez disso, podem aprendê-la.

You could build a machine, like a human child,

“Podem criar uma máquina, como se fosse uma criança,

and then teach it through feedback.

“e ensiná-la, através de feedback.

Have a human teacher who provides rewards and punishments

“Ter um professor humano que forneça recompensas e castigos

as it tries things out and does things that are either good or bad.

“à medida que ela experimenta e faz coisas boas ou más.”

É assim exatamente que treinamos o ChatGPT.

And this is exactly how we train ChatGPT.

É um processo de duas fases.

It's a two-step process.

First, we produce what Turing would have called a child machine

Primeiro, produzimos uma máquina infantil como diria Turing,

through an unsupervised learning process.

num processo de aprendizagem sem supervisão.

We just show it the whole world, the whole internet

Mostramos ao mundo inteiro, na Internet, e dizemos:

and say, “Predict what comes next in text you’ve never seen before.”

“Prevê o que vem a seguir num texto que nunca viste.”

Este procedimento dota-o de todo o tipo de competências excelentes.

And this process imbues it with all sorts of wonderful skills.

For example, if you're shown a math problem,

Se mostrarmos um problema de matemática,

a única forma de completar este problema de matemática,

the only way to actually complete that math problem,

to say what comes next,

dizer o que vem a seguir,

that green nine up there,

aquele 9 a verde, ali em cima,

is to actually solve the math problem.

é resolver o problema de matemática.

But we actually have to do a second step, too,

Mas também temos de dar um segundo passo:

which is to teach the AI what to do with those skills.

é ensinar a IA o que fazer com essas competências.

And for this, we provide feedback.

Para isso, fornecemos feedback.

We have the AI try out multiple things, give us multiple suggestions,

Fazemos com que a IA experimente múltiplas coisas, múltiplas sugestões,

and then a human rates them, says “This one’s better than that one.”

e depois uma pessoa avalia-as e diz: “Esta é melhor do que aquela.”

And this reinforces not just the specific thing that the AI said,

Isso reforça não só a coisa específica que a IA disse,

but very importantly, the whole process that the AI used to produce that answer.

mas, mais importante ainda,

todo o processo que a IA utilizou para produzir esse resultado.

And this allows it to generalize.

Isso permite-lhe generalizar.

It allows it to teach, to sort of infer your intent

Permite-lhe instruir-se. perceber a nossa inteção

and apply it in scenarios that it hasn't seen before,

e aplicá-la nos cenários que nunca viu até aí,

that it hasn't received feedback.

de que nunca recebeu feedback.

Now, sometimes the things we have to teach the AI

Por vezes, as coisas que temos de ensinar à IA

não são aquilo que vocês imaginam.

are not what you'd expect.

For example, when we first showed GPT-4 to Khan Academy,

Quando mostrámos o GPT-4 à Academia Khan, pela primeira vez,

they said, "Wow, this is so great,

eles disseram: “Uau, isto é excelente.

We're going to be able to teach students wonderful things.

“Vamos poder ensinar aos estudantes coisas maravilhosas.

Only one problem, it doesn't double-check students' math.

“Só há um problema, não verifica a matemática dos estudantes.

If there's some bad math in there,

“Se houver qualquer erro na matemática,

it will happily pretend that one plus one equals three and run with it."

“assume alegremente que um mais um é igual a três e prosseguem com isso.”

So we had to collect some feedback data.

Por isso, tivemos de reunir dados de feedback.

Sal Khan himself was very kind

O próprio Sal Khan foi muito simpático

and offered 20 hours of his own time to provide feedback to the machine

e ofereceu 20 horas do tempo dele para dar feedback à máquina

alongside our team.

juntamente com a nossa equipa.

And over the course of a couple of months we were able to teach the AI that,

Durante alguns meses, pudemos ensinar à IA:

"Hey, you really should push back on humans

“Olhem lá, vocês têm de recorrer aos seres humanos

in this specific kind of scenario."

“neste tipo específico de cenário.”

Fizemos montes e montes de melhorias aos modelos, desta maneira.

And we've actually made lots and lots of improvements to the models this way.

And when you push that thumbs down in ChatGPT,

Quando vocês clicam no polegar para baixo no ChatGPT,

that actually is kind of like sending up a bat signal to our team to say,

isso é como enviar um sinal negativo à nossa equipa, a dizer:

“Here’s an area of weakness where you should gather feedback.”

“Esta é uma área de fraqueza em que devem juntar feedback.”

And so when you do that,

Assim, quando fizerem isso,

that's one way that we really listen to our users

é uma forma de darmos ouvidos aos nosso utilizadores

and make sure we're building something that's more useful for everyone.

e garantirmos que estamos a criar uma coisa mais útil para todos.

Now, providing high-quality feedback is a hard thing.

Mas fornecer feedback de alta qualidade é uma coisa difícil.

Se pensarem em pedir a um miúdo que arrume o quarto dele,

If you think about asking a kid to clean their room,

if all you're doing is inspecting the floor,

se apenas inspecionarem o chão,

you don't know if you're just teaching them to stuff all the toys in the closet.

não sabem se lhe estão a ensinar para meter os brinquedos no armário.

This is a nice DALL-E-generated image, by the way.

A propósito, esta é uma bonita imagem gerada por DALL-E.

And the same sort of reasoning applies to AI.

O mesmo tipo de raciocínio aplica-se à IA.

As we move to harder tasks,

À medida que avançamos para tarefas mais difíceis,

we will have to scale our ability to provide high-quality feedback.

temos de reforçar a nossa capacidade de fornecer feedback de alta qualidade.

But for this, the AI itself is happy to help.

Mas, para isso, a própria IA é capaz de ajudar.

It's happy to help us provide even better feedback

Consegue ajudar-nos a fornecer feedback cada vez melhor

e reforçar a nossa capacidade de supervisionar a máquina

and to scale our ability to supervise the machine as time goes on.

ao longo do tempo.

And let me show you what I mean.

Vou mostrar-vos o que quero dizer.

For example, you can ask GPT-4 a question like this,

Por exemplo, podemos fazer ao GPT-4 uma pergunta do tipo:

of how much time passed between these two foundational blogs

“Quanto tempo se passou entre dois bloques fundamentais

on unsupervised learning

“de aprendizagem sem supervisão

and learning from human feedback.

“e aprendizagem com feedback humano?

And the model says two months passed.

O modelo diz: “Passaram-se dois meses.

Mas será verdade?

But is it true?

Like, these models are not 100-percent reliable,

Porque estes modelos não são 100% fiáveis,

although they’re getting better every time we provide some feedback.

embora vão melhorando sempre que lhes fornecemos feedback.

But we can actually use the AI to fact-check.

Mas podemos usar a IA para verificar os factos.

And it can actually check its own work.

E ela pode verificar, por si mesma.

You can say, fact-check this for me.

Podemos dizer: “Verifica-me isto”.

Now, in this case, I've actually given the AI a new tool.

Neste caso, eu dei à IA uma nova ferramenta,

uma ferramenta de navegação na Internet

This one is a browsing tool

em que o modelo pode emitir perguntas de investigação

where the model can issue search queries and click into web pages.

e clicar em páginas da Internet.

And it actually writes out its whole chain of thought as it does it.

Escreve toda uma cadeia de pensamentos, à medida que o faz.

It says, I’m just going to search for this and it actually does the search.

Diz: “Vou procurar isto”, e faz mesmo a pesquisa.

It then it finds the publication date and the search results.

Depois encontra a data de publicação e os resultados da pesquisa.

A seguir, emite outra consulta.

It then is issuing another search query.

It's going to click into the blog post.

Vai clicar na publicação.

And all of this you could do, but it’s a very tedious task.

Nós podemos fazer tudo isso mas é uma tarefa aborrecida.

It's not a thing that humans really want to do.

Não é uma coisa que as pessoas queiram fazer.

It's much more fun to be in the driver's seat,

É muito mais divertido estar no lugar do operador, ou do gestor,

to be in this manager's position where you can, if you want,

em que, se quisermos, fiscalizamos a tarefa três vezes.

triple-check the work.

E quando aparecem os resultados podemos verificar facilmente

And out come citations

so you can actually go

and very easily verify any piece of this whole chain of reasoning.

qualquer parte de toda a cadeia de raciocínio.

And it actually turns out two months was wrong.

Acontece que “dois meses” estava errado.

Two months and one week,

O correto era “dois meses e uma semana”.

that was correct.

(Applause)

(Aplausos)

And we'll cut back to the side.

Passemos para o slide.

And so thing that's so interesting to me about this whole process

Uma coisa que, para mim, é muito interessante neste processo,

é ser uma colaboração de passos múltiplos entre uma pessoa e uma IA.

is that it’s this many-step collaboration between a human and an AI.

Porque uma pessoa, ao usar esta ferramenta de verificação de factos

Because a human, using this fact-checking tool

is doing it in order to produce data

está a fazê-lo a fim de produzir dados

for another AI to become more useful to a human.

para outra IA se tornar mais útil ao ser humano.

And I think this really shows the shape of something

Penso que isto mostra bem a forma de uma coisa

that we should expect to be much more common in the future,

que devemos esperar venha a ser mais vulgar no futuro,

where we have humans and machines kind of very carefully

em que os seres humanos e as máquinas

and delicately designed in how they fit into a problem

sejam concebidas de forma mais cuidadosa

quanto à forma como se adequam a um problema

and how we want to solve that problem.

e como queremos resolver esse problema.

We make sure that the humans are providing the management, the oversight,

Temos de garantir que as pessoas fornecem a gestão, a supervisão,

the feedback,

o feedback,

e que as máquinas funcionam de forma que possam ser inspecionadas

and the machines are operating in a way that's inspectable

and trustworthy.

And together we're able to actually create even more trustworthy machines.

e sejam de confiança.

Em conjunto, podemos criar máquinas ainda mais fiáveis.

And I think that over time, if we get this process right,

Penso que, com o tempo, se conduzirmos bem o processo,

conseguiremos resolver problemas impossíveis.

we will be able to solve impossible problems.

And to give you a sense of just how impossible I'm talking,

Para vos dar uma ideia do que eu entendo por impossíveis,

I think we're going to be able to rethink almost every aspect

penso que vamos conseguir repensar quase todos os aspetos

of how we interact with computers.

de como interagimos com os computadores.

For example, think about spreadsheets.

Por exemplo, pensem nas folhas de cálculo.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

Têm andado por aí, de diversas formas, desde há 40 anos, com o VisiCalc.

I don't think they've really changed that much in that time.

Acho que não mudaram muito desde essa altura.

Esta é uma folha de cálculo específica de todos os documentos IA no arXiv

And here is a specific spreadsheet of all the AI papers on the arXiv

nos últimos 30 anos.

for the past 30 years.

There's about 167,000 of them.

São cerca de 167 000.

And you can see there the data right here.

Podem ver aqui os dados.

But let me show you the ChatGPT take on how to analyze a data set like this.

Mas vou mostrar-vos como o ChatGPT analisa um conjunto de dados como este.

So we can give ChatGPT access to yet another tool,

Também podemos dar ao ChatGPT o acesso a outra ferramenta,

this one a Python interpreter,

esta é um intérprete Python,

so it’s able to run code, just like a data scientist would.

por isso consegue usar código, tal como um cientista de dados faria.

And so you can just literally upload a file

Assim, podemos literalmente, carregar um ficheiro

and ask questions about it.

e fazer perguntas sobre ele.

And very helpfully, you know, it knows the name of the file and it's like,

Ele sabe o nome do ficheiro e diz:

“Isto é CSV,um ficheiro de arquivo de valores, separado por uma virgula.

"Oh, this is CSV," comma-separated value file,

"I'll parse it for you."

“Vou analisá-lo.”

The only information here is the name of the file,

As únicas informações aqui são o nome do ficheiro,

the column names like you saw and then the actual data.

os nomes na coluna, como viram, e depois os dados.

And from that it's able to infer what these columns actually mean.

A partir daí, é possível deduzir o que estas colunas significam.

Like, that semantic information wasn't in there.

Como, a informação semântica está ausente,

It has to sort of, put together its world knowledge of knowing that,

tem de reunir os seus conhecimentos para saber isso,

“Sim, o arXiv é um sítio em que as pessoas apesentam documentos.

“Oh yeah, arXiv is a site that people submit papers

and therefore that's what these things are and that these are integer values

“portanto, é isso que estas coisas são, são valores inteiros,

and so therefore it's a number of authors in the paper,"

“e assim é uma série de autores no documento”,

como todos eles, é trabalho para uma pessoa fazer

like all of that, that’s work for a human to do,

and the AI is happy to help with it.

e a IA gosta de ajudar nisso.

Now I don't even know what I want to ask.

Eu nem sequer sei o que quero pedir.

So fortunately, you can ask the machine,

Felizmente, podemos perguntar à máquina:

"Can you make some exploratory graphs?"

“Podes fazer uns gráficos de exploração?”

Mais uma vez, isto é uma instrução de um nível super alto

And once again, this is a super high-level instruction with lots of intent behind it.

com imensas intenções por detrás.

But I don't even know what I want.

Mas eu nem sequer sei o que quero.

And the AI kind of has to infer what I might be interested in.

E a IA tem de deduzir o que é que pode interessar-me.

And so it comes up with some good ideas, I think.

E aparece com algumas boas ideias, segundo creio.

So a histogram of the number of authors per paper,

Um histograma do número de autores por artigo,

time series of papers per year, word cloud of the paper titles.

séries cronológicas de documentos por ano, nuvem de palavras dos títulos dos artigos.

All of that, I think, will be pretty interesting to see.

Tudo isso, segundo creio, será interessante de ver.

And the great thing is, it can actually do it.

E pode fazer isso mesmo.

Here we go, a nice bell curve.

Cá está, uma bela curva sinusoidal.

You see that three is kind of the most common.

Vemos que três é o mais comum.

It's going to then make this nice plot of the papers per year.

Vai então fazer um belo enredo dos artigos, por ano.

Something crazy is happening in 2023, though.

Mas está a acontecer uma coisa estranha, em 2023.

Looks like we were on an exponential and it dropped off the cliff.

Parece que estávamos num exponencial mas caiu na vertical.

What could be going on there?

O que é pode estar a passar-se?

By the way, all this is Python code, you can inspect.

A propósito, podemos inspecionar tudo isto em código Python.

And then we'll see word cloud.

E veremos a nuvem de palavras.

So you can see all these wonderful things that appear in these titles.

Vemos todas estas coisa maravilhosas que aparecem nestes títulos.

Mas sinto-me muito aborrecido com esta coisa de 2023.

But I'm pretty unhappy about this 2023 thing.

It makes this year look really bad.

Faz com que este ano seja muito mau.

Of course, the problem is that the year is not over.

Claro, o problema é que o ano ainda não acabou.

So I'm going to push back on the machine.

Por isso, vou retificar isso na máquina.

[Waitttt that's not fair!!!

“Espera!!! Isso não está bem! 2023 ainda não acabou.

2023 isn't over.

What percentage of papers in 2022 were even posted by April 13?]

“Que percentagem de artigos de 2022 foram publicados até 13 de abril?

So April 13 was the cut-off date I believe.

— acho que 13 de abril era a data limite.

Can you use that to make a fair projection?

“Podes usar isso para fazer uma projeção correta?”

So we'll see, this is the kind of ambitious one.

Vamos ver. Isto é uma coisa ambiciosa.

(Laughter)

So you know,

Mais uma vez, sinto que havia mais que eu queria que a máquina me desse.

again, I feel like there was more I wanted out of the machine here.

I really wanted it to notice this thing,

Eu queria que ela reparasse nisto,

maybe it's a little bit of an overreach for it

talvez seja um pouco além das possibilidades dela

to have sort of, inferred magically that this is what I wanted.

ter deduzido, como por magia, que era o que eu queria.

But I inject my intent,

Mas eu introduzo a minha intenção,

I provide this additional piece of, you know, guidance.

forneço uma peça adicional de orientação.

And under the hood,

E, nos bastidores, a IA está a escrever código de novo,

the AI is just writing code again, so if you want to inspect what it's doing,

por isso, se quiserem inspecionar o que é que ela está a fazer,

it's very possible.

And now, it does the correct projection.

podem fazê-lo.

E agora, faz a projeção correta.

(Applause)

(Aplausos)

If you noticed, it even updates the title.

Se repararam, até atualizou o título.

I didn't ask for that, but it know what I want.

Eu não pedi para fazer isso, mas sei o que quero.

Now we'll cut back to the slide again.

Agora, voltemos de novo ao slide.

This slide shows a parable of how I think we ...

Este slide mostra uma parábola do que pensamos que...

A vision of how we may end up using this technology in the future.

Uma visão de como podemos acabar por usar esta tecnologia no futuro.

A person brought his very sick dog to the vet,

Uma pessoa levou o seu cão muito doente ao veterinário

and the veterinarian made a bad call to say, “Let’s just wait and see.”

e o veterinário, erradamente, disse: “Vamos esperar para ver.”

And the dog would not be here today had he listened.

O cão não estaria aqui hoje se lhe tivesse dado ouvidos.

In the meanwhile, he provided the blood test,

Entretanto, ele forneceu a análise ao sangue,

like, the full medical records, to GPT-4,

e todos os exames médicos ao GPT-4, que disse:

which said, "I am not a vet, you need to talk to a professional,

“Não sou veterinário, precisas de falar com um profissional,

here are some hypotheses."

“estas são algumas hipóteses.”

He brought that information to a second vet

Ele levou essas informações a um outro veterinário

who used it to save the dog's life.

que as usou e salvou a vida do cão.

Ora bem, estes sistemas não são perfeitos.

Now, these systems, they're not perfect.

You cannot overly rely on them.

Não podemos confiar neles cegamente.

But this story, I think, shows

Mas penso que esta história

that a human with a medical professional

mostra que uma pessoa com um profissional de medicina

and with ChatGPT as a brainstorming partner

e com o ChatGPT como parceiro na discussão de ideias

was able to achieve an outcome that would not have happened otherwise.

pôde obter um resultado que não teria ocorrido, de outro modo.

I think this is something we should all reflect on,

Penso que é uma coisa em que devemos todos refletir,

think about as we consider how to integrate these systems

considerar como integrar estes sistemas no nosso mundo.

into our world.

And one thing I believe really deeply,

Uma coisa em que acredito profundamente,

is that getting AI right is going to require participation from everyone.

é que obter uma IA correta exige a participação de todos.

And that's for deciding how we want it to slot in,

Isso para decidir como queremos que ela se encaixe,

that's for setting the rules of the road,

para estabelecer as regras de funcionamento,

for what an AI will and won't do.

para o que uma IA deve fazer ou não deve fazer.

And if there's one thing to take away from this talk,

Se há uma coisa a reter desta palestra

it's that this technology just looks different.

é que esta tecnologia apenas parece diferente.

Just different from anything people had anticipated.

É apenas diferente de tudo o que as pessoas imaginavam.

And so we all have to become literate.

Temos todos que nos tornar literatos.

And that's, honestly, one of the reasons we released ChatGPT.

Sinceramente, isso é uma das razões por que lançámos o ChatGPT.

Together, I believe that we can achieve the OpenAI mission

Em conjunto, creio que podemos conseguir a missão do OpenAI

of ensuring that artificial general intelligence

para garantir que a inteligência artificial geral

benefits all of humanity.

beneficie toda a Humanidade.

Thank you.

Obrigado.

(Applause)

(Aplausos)

(Applause ends)

Chris Anderson: Greg.

Chris Anderson: Greg.

Wow.

Uau!

I mean ...

I suspect that within every mind out here

Desconfio que, em cada cabeça aqui presente

there's a feeling of reeling.

há uma sensação de vertigem.

Like, I suspect that a very large number of people viewing this,

Desconfio que, em relação a muitas pessoas que estão a ver isto,

you look at that and you think, “Oh my goodness,

tu olhas para elas e pensas:

pretty much every single thing about the way I work, I need to rethink."

“Meu Deus, tenho de repensar em quase tudo quanto à forma como trabalho.”

Like, there's just new possibilities there.

Há aqui imensas possibilidades novas.

Am I right?

Tenho razão?

Who thinks that they're having to rethink the way that we do things?

Quem pensa que eles têm de repensar a forma como fazemos as coisas?

Yeah, I mean, it's amazing,

É espantoso!

but it's also really scary.

Mas também é bastante assustador.

So let's talk, Greg, let's talk.

Mas tudo bem, Greg, temos de falar.

I mean, I guess my first question actually is just

A minha primeira pergunta é esta:

how the hell have you done this?

Como é que conseguiste fazer isto?

(Laughter)

(Risos)

OpenAI has a few hundred employees.

O OpenAI tem umas centenas de funcionários.

Google has thousands of employees working on artificial intelligence.

A Google tem milhares de funcionários a trabalhar na inteligência artificial.

Why is it you who's come up with this technology

Porque é que foste tu que apareceste com esta tecnologia

that shocked the world?

que abalou o mundo?

Greg Brockman: I mean, the truth is,

Greg Brockman: Na verdade,

we're all building on shoulders of giants, right, there's no question.

estamos a criar com base na obra de gigantes, sem dúvida.

If you look at the compute progress,

Se olhares para a evolução da informática,

the algorithmic progress, the data progress,

a evolução dos algoritmos, a evolução dos dados,

all of those are really industry-wide.

tudo isso faz parte da indústria.

But I think within OpenAI,

Mas penso que, no OpenAI,

we made a lot of very deliberate choices from the early days.

fizemos uma série de opções deliberadas desde o primeiro dia.

And the first one was just to confront reality as it lays.

A primeira foi apenas confrontar a realidade onde ela está.

And that we just thought really hard about like:

Pensámos muito em coisas como:

What is it going to take to make progress here?

O que vai ser preciso para avançar aqui?

We tried a lot of things that didn't work, so you only see the things that did.

Tentámos muitas coisas que não resultaram, vocês só veem as coisas que funcionaram.

And I think that the most important thing has been to get teams of people

Penso que a coisa mais importante tem sido ter equipas de pessoas

muito diferentes umas das outras, que trabalham em conjunto harmoniosamente.

who are very different from each other to work together harmoniously.

CA: Can we have the water, by the way, just brought here?

CA: A propósito, podem trazer-nos água?

I think we're going to need it, it's a dry-mouth topic.

Penso que vamos precisar dela, é um tópico que nos vai pôr a boca seca.

But isn't there something also just about the fact

Mas não haverá também qualquer coisa

that you saw something in these language models

quanto ao facto de teres visto nesses modelos de linguagem

that meant that if you continue to invest in them and grow them,

que, se continuares a investir neles e a melhorá-los,

that something at some point might emerge?

a certa altura poderá aparecer qualquer coisa?

GB: Yes.

GB: Claro que sim. Sinceramente,

And I think that, I mean, honestly,

penso que aquela história é bastante elucidativa.

I think the story there is pretty illustrative, right?

Penso que essa aprendizagem profunda, de alto nível,

I think that high level, deep learning,

like we always knew that was what we wanted to be,

como sempre soubemos que era isso o que queríamos ser,

was a deep learning lab, and exactly how to do it?

era um laboratório de aprendizagem, e sabíamos exatamente como fazê-lo.

I think that in the early days, we didn't know.

A princípio, não sabíamos. Tentámos uma série de coisas.

We tried a lot of things,

and one person was working on training a model

Uma pessoa estava a trabalhar a treinar um modelo

to predict the next character in Amazon reviews,

a prever a figura seguinte nas análises da Amazon

and he got a result where -- this is a syntactic process,

e obteve um resultado em que — é um processo sintético,

you expect, you know, the model will predict where the commas go,

esperamos que o modelo nos diga onde pôr as vírgulas,

where the nouns and verbs are.

onde ficam os nomes e os verbos.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Mas ele obteve um classificador de análises de sentimento excecional.

This model could tell you if a review was positive or negative.

Este modelo conseguia dizer-nos se uma análise era positiva ou negativa.

I mean, today we are just like, come on, anyone can do that.

Hoje dizemos, ora, toda a gente pode fazer isso.

But this was the first time that you saw this emergence,

Mas foi a primeira vez que vimos aparecer isto,

this sort of semantics that emerged from this underlying syntactic process.

esta espécie de semântica que apareceu do processo sintático subjacente.

Foi aí que soubemos que tínhamos de desenvolver aquilo,

And there we knew, you've got to scale this thing,

you've got to see where it goes.

tínhamos de ver até onde iria.

CA: So I think this helps explain

CA: Penso que isso ajuda a explicar

the riddle that baffles everyone looking at this,

o enigma que intriga toda a gente que olha para isto,

because these things are described as prediction machines.

porque estas coisas são descritas como máquinas de previsão.

And yet, what we're seeing out of them feels ...

No entanto, o que vemos sair delas

it just feels impossible that that could come from a prediction machine.

parece-nos impossível que possam sair duma máquina de previsão.

Just the stuff you showed us just now.

Tal como o que nos mostraste há bocado,

And the key idea of emergence is that when you get more of a thing,

a ideia chave do aparecimento é que, quando obtemos mais duma mesma coisa,

suddenly different things emerge.

de repente aparecem coisas diferentes.

It happens all the time, ant colonies, single ants run around,

Nas colónias de formigas há formigas isoladas em volta.

when you bring enough of them together,

Quando juntamos bastantes dessas formigas

you get these ant colonies that show completely emergent, different behavior.

essas colónias de formigas mostram um comportamento diferente.

Or a city where a few houses together, it's just houses together.

Ou numa cidade com poucas casas, são apenas casas.

Mas, se aumentarmos o número de casas,

But as you grow the number of houses,

things emerge, like suburbs and cultural centers and traffic jams.

aparecem coisas, como subúrbios,

centros culturais e engarrafamentos de trânsito.

Give me one moment for you when you saw just something pop

Quando é que viste aparecer uma coisa que te espantou

that just blew your mind

e em que não tinhas reparado que estava a chegar?

that you just did not see coming.

GB: Yeah, well,

GB: Podes tentar isso no ChatGPT, se juntares números de 40 dígitos...

so you can try this in ChatGPT, if you add 40-digit numbers --

CA: 40-digit?

CA: 40 dígitos?

GB: 40-digit numbers, the model will do it,

GB: Números de 40 dígitos, o modelo fá-lo-á,

which means it's really learned an internal circuit for how to do it.

o que significa que ele aprendeu um circuito interno para o fazer.

And the really interesting thing is actually,

O interessante é que,

if you have it add like a 40-digit number plus a 35-digit number,

se juntares um número de 40 dígitos mais um número de 35 dígitos,

it'll often get it wrong.

muitas vezes ele engana-se.

And so you can see that it's really learning the process,

Assim, podes ver que ele está realmente a aprender o procedimento,

but it hasn't fully generalized, right?

mas ainda não totalmente.

It's like you can't memorize the 40-digit addition table,

É como se não pudesses decorar a tabela da adição de 40 dígitos,

that's more atoms than there are in the universe.

são mais átomos do que há no universo.

So it had to have learned something general,

Teve de aprender uma coisa em geral,

but that it hasn't really fully yet learned that,

mas ainda não a aprendeu totalmente bem.

Oh, I can sort of generalize this to adding arbitrary numbers

Eu posso generalizar isso para a adição de números arbitrários

of arbitrary lengths.

de comprimentos arbitrários.

CA: So what's happened here

CA: O que aconteceu aqui é que permitiste que ele se ampliasse

is that you've allowed it to scale up

and look at an incredible number of pieces of text.

e olhaste para um número incrível de bocados de texto.

And it is learning things

E está a aprender coisas

that you didn't know that it was going to be capable of learning.

que tu não sabias que ela era capaz de aprender.

GB Well, yeah, and it’s more nuanced, too.

GB: Bom, mas isso também é mais matizado.

So one science that we’re starting to really get good at

Uma ciência em que estamos a começar a ser muito bons

is predicting some of these emergent capabilities.

é predizer algumas dessas capacidades emergentes.

And to do that actually,

Para isso, uma das coisas que penso que não é muito valorizado nesta área

one of the things I think is very undersung in this field

é uma certa qualidade de engenharia.

is sort of engineering quality.

Like, we had to rebuild our entire stack.

Tivemos de recriar as nossas tecnologias.

When you think about building a rocket,

Quando pensamos em construir um foguetão,

every tolerance has to be incredibly tiny.

a tolerância tem de ser o mínimo dos mínimos.

Same is true in machine learning.

O mesmo acontece com a aprendizagem de máquinas.

You have to get every single piece of the stack engineered properly,

Todas as peças da pilha têm de estar bem projetadas,

and then you can start doing these predictions.

e só depois podemos começar a fazer previsões.

There are all these incredibly smooth scaling curves.

Há todos fantásticos significados adicionais.

They tell you something deeply fundamental about intelligence.

Dizem-nos uma coisa extremamente importante sobre a inteligência.

If you look at our GPT-4 blog post,

Se forem ver o nosso blogue GPT-4

you can see all of these curves in there.

verão ali todas essas curvas.

And now we're starting to be able to predict.

Agora, começamos a poder prever.

So we were able to predict, for example, the performance on coding problems.

Podemos prever, por exemplo, o desempenho em problemas de codificação.

We basically look at some models

Observamos alguns modelos,

that are 10,000 times or 1,000 times smaller.

que são 10 000 vezes ou 1000 vezes menores.

And so there's something about this that is actually smooth scaling,

Há assim uma coisa nisto que é a “smooth scaling”

even though it's still early days.

embora esteja ainda nos primeiros dias.

CA: So here is, one of the big fears then,

CA: É esse um dos grandes receios que surge a partir disto.

that arises from this.

If it’s fundamental to what’s happening here,

É fundamental para o que acontece aqui

that as you scale up,

que à medida que aumentem a escala, surgem coisas

things emerge that

you can maybe predict in some level of confidence,

que podemos prever com algum nível de confiança,

but it's capable of surprising you.

mas que podem surpreender-nos.

Why isn't there just a huge risk of something truly terrible emerging?

Não haverá um enorme risco de surgir uma coisa terrível?

GB: Well, I think all of these are questions of degree

GB: Penso que é tudo uma questão de grau,

and scale and timing.

de dimensão e de tempo.

And I think one thing people miss, too,

Penso também numa coisa em que as pessoas não reparam,

is sort of the integration with the world is also this incredibly emergent,

é uma espécie de integração com o mundo

sort of, very powerful thing too.

uma coisa também muito poderosa.

And so that's one of the reasons that we think it's so important

Essa é uma das razões por que pensamos

ser muito importante implementar incrementalmente.

to deploy incrementally.

And so I think that what we kind of see right now, if you look at this talk,

Se olhares para esta palestra, vês que, agora,

grande parte daquilo em que me foco é fornecer feedback de alta qualidade.

a lot of what I focus on is providing really high-quality feedback.

Today, the tasks that we do, you can inspect them, right?

Hoje, podemos inspecionar as tarefas que fazemos, não é?

It's very easy to look at that math problem and be like, no, no, no,

É fácil olhar para aquele problema de matemática e dizer:

“Não, não, máquina. A resposta correta era sete.”

machine, seven was the correct answer.

But even summarizing a book, like, that's a hard thing to supervise.

Mas mesmo resumir um livro, é uma coisa difícil de supervisionar.

Like, how do you know if this book summary is any good?

Como é que sabemos se o resumo deste livro é bom?

You have to read the whole book.

Temos de ler o livro todo.

No one wants to do that.

Ninguém quer fazer isso.

(Laughter)

(Risos)

And so I think that the important thing will be that we take this step by step.

Portanto, penso que o importante é fazer isso passo a passo.

E dizemos: OK, à medida que avançarmos para resumos de livros,

And that we say, OK, as we move on to book summaries,

we have to supervise this task properly.

temos de supervisionar essa tarefa como deve ser.

We have to build up a track record with these machines

Temos de criar um historial com estas máquinas

that they're able to actually carry out our intent.

que consigam realizar a nossa intenção.

And I think we're going to have to produce even better, more efficient,

Penso que vamos ter de produzir formas de reforçar isto

de uma forma melhor, mais eficiente e mais fiável,

more reliable ways of scaling this,

sort of like making the machine be aligned with you.

como fazer com que a máquina fique alinhada connosco.

CA: So we're going to hear later in this session,

CA: Daqui a bocado, nesta sessão,

there are critics who say that,

vamos ouvir os críticos que dizem

you know, there's no real understanding inside,

que não há nenhuma compreensão internamente,

the system is going to always --

que o sistema irá sempre...

we're never going to know that it's not generating errors,

que nunca saberemos que não está a gerar erros,

that it doesn't have common sense and so forth.

que não tem senso comum e por aí fora.

Is it your belief, Greg, that it is true at any one moment,

Greg, estás convencido de que será verdade, a certa altura,

but that the expansion of the scale and the human feedback

mas que a expansão da escala e o feedback humano, de que falaste,

that you talked about is basically going to take it on that journey

serão suficientes para conseguir coisas

of actually getting to things like truth and wisdom and so forth,

como a verdade, a sabedoria, etc.,

with a high degree of confidence.

com um alto grau de confiança?

Can you be sure of that?

Podes ter a certeza disso?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

GB: Sim, penso que quanto ao OpenAI... a resposta curta é sim.

I believe that is where we're headed.

Acredito que estamos a avançar nesse sentido.

And I think that the OpenAI approach here has always been just like,

E penso que a abordagem do OpenAI tem sido sempre essa,

let reality hit you in the face, right?

deixar que a realidade nos bata na cara.

It's like this field is the field of broken promises,

É como se esta área seja a área de promessas quebradas,

de todos os especialistas que dizem que X vai acontecer, Y é como funciona.

of all these experts saying X is going to happen, Y is how it works.

People have been saying neural nets aren't going to work for 70 years.

Tem-se dito que as redes neurais não vão funcionar dentro de 70 anos.

They haven't been right yet.

Ainda não foi demonstrado.

They might be right maybe 70 years plus one

Pode acontecer, talvez 70 anos mais um,

or something like that is what you need.

ou qualquer coisa assim o que for preciso.

But I think that our approach has always been,

Mas penso que a nossa abordagem tem sido sempre

you've got to push to the limits of this technology

ampliar os limites desta tecnologia para a ver em ação,

to really see it in action,

porque isso diz-nos que é assim que podemos passar para um novo paradigma.

because that tells you then, oh, here's how we can move on to a new paradigm.

And we just haven't exhausted the fruit here.

E nem sequer esgotámos os frutos.

CA: I mean, it's quite a controversial stance you've taken,

CA: É polémica a posição que assumiste

that the right way to do this is to put it out there in public

de que a forma correta de fazer isto é colocá-lo em público e depois controlá-lo,

and then harness all this, you know,

em vez de ser apenas a tua equipa a fornecer feedback,

instead of just your team giving feedback,

the world is now giving feedback.

é o mundo que está a fornecer o feedback.

But ...

Mas, se começarem a aparecer coisas prejudiciais,

If, you know, bad things are going to emerge,

it is out there.

já estão aí.

So, you know, the original story that I heard on OpenAI

A história original que ouvi no OpenAI,

quando da sua fundação como empresa sem fins lucrativos,

when you were founded as a nonprofit,

well you were there as the great sort of check on the big companies

tu estavas lá como o grande fiscal das grandes empresas

doing their unknown, possibly evil thing with AI.

que fizessem coisas maléficas e desconhecidas com a IA.

And you were going to build models that sort of, you know,

E agora vais criar modelos que, de certo modo, as tornam responsáveis

somehow held them accountable

and was capable of slowing the field down, if need be.

e podem abrandar o campo, se for necessário.

Pelo menos, é mais ou menos isso que eu tenho ouvido.

Or at least that's kind of what I heard.

And yet, what's happened, arguably, is the opposite.

Mas, o que aconteceu, segundo parece, é o contrário.

That your release of GPT, especially ChatGPT,

A tua publicação do GPT, e, em especial do ChatGPT,

emitiu tais ondas de choque por todo o mundo tecnológico

sent such shockwaves through the tech world

que agora a Google, a Meta, e não só, estão num frenesi para acompanhar.

that now Google and Meta and so forth are all scrambling to catch up.

And some of their criticisms have been,

Algumas das críticas têm sido

you are forcing us to put this out here without proper guardrails or we die.

que estás a forçar-nos a aceitar isto sem proteção adequada, custe o que custar.

You know, how do you, like,

Como é que tu defendes

make the case that what you have done is responsible here and not reckless.

que o que tens feito é responsável, não é irresponsável.

GB: Yeah, we think about these questions all the time.

GB: Pois, estamos sempre a pensar nessas questões.

Like, seriously all the time.

Muito a sério, permanentemente.

And I don't think we're always going to get it right.

Penso que nem sempre vamos fazê-lo bem feito.

But one thing I think has been incredibly important,

Mas há uma coisa que penso que tem sido muito importante,

from the very beginning, when we were thinking

desde o princípio,

about how to build artificial general intelligence,

quando pensávamos como criar a inteligência artificial geral,

actually have it benefit all of humanity,

em benefício de toda a Humanidade,

like, how are you supposed to do that, right?

tipo, como é que havemos de fazer isso?

And that default plan of being, well, you build in secret,

Esse plano base de ser é construído em segredo,

you get this super powerful thing,

obtemos esta coisa super poderosa

and then you figure out the safety of it and then you push “go,”

e depois avaliamos a sua segurança e carregamos em “avançar”,

and you hope you got it right.

e esperamos que funcione bem.

I don't know how to execute that plan.

Não sei como executar este plano, talvez alguém saiba.

Maybe someone else does.

Mas sempre o achei uma coisa assustadora, não me parecia certa.

But for me, that was always terrifying, it didn't feel right.

And so I think that this alternative approach

Penso que esta abordagem alternativa

is the only other path that I see,

é a única outra via que vejo,

which is that you do let reality hit you in the face.

que é deixar que ela nos bata na cara,

And I think you do give people time to give input.

dar tempo às pessoas para nos darem o seu contributo.

You do have, before these machines are perfect,

Antes de estas máquinas serem perfeitas, antes de serem super poderosas,

before they are super powerful, that you actually have the ability

temos de poder vê-las em ação.

to see them in action.

Vimos isso no GTP-3, não foi?

And we've seen it from GPT-3, right?

Com o GPT-3, ficámos com medo

GPT-3, we really were afraid

that the number one thing people were going to do with it

de que a primeira coisa que as pessoas fossem fazer com ele

was generate misinformation, try to tip elections.

fosse gerar desinformação, tentar mudar eleições.

Instead, the number one thing was generating Viagra spam.

Em vez disso, foi gerar publicidade falsa sobre Viagra.

(Laughter)

(Risos)

CA: Publicidade falsa sobre Viagra é mau, mas há coisas muito piores.

CA: So Viagra spam is bad, but there are things that are much worse.

Here's a thought experiment for you.

Vou dar-te um exercício intelectual.

Suppose you're sitting in a room,

Imagina que estás sentado numa sala, onde há uma caixa em cima da mesa.

there's a box on the table.

You believe that in that box is something that,

Tu pensas que, nessa caixa, está qualquer coisa

there's a very strong chance it's something absolutely glorious

que tem uma forte hipótese de ser uma coisa espantosa

that's going to give beautiful gifts to your family and to everyone.

que vai dar belos presentes à tua família e a toda a gente.

But there's actually also a one percent thing in the small print there

Mas também tem 1% dum pequeno letreiro que diz:

that says: “Pandora.”

“Pandora”.

And there's a chance

E há a possibilidade

that this actually could unleash unimaginable evils on the world.

de que isso possa desencadear males inimagináveis no mundo.

Do you open that box?

Abrias essa caixa?

GB: Não, de forma alguma.

GB: Well, so, absolutely not.

I think you don't do it that way.

Acho que as coisas não se fazem dessa maneira.

And honestly, like, I'll tell you a story that I haven't actually told before,

Sinceramente, vou contar-te uma história que nunca contei,

que, em resumo, ocorreu pouco depois de iniciarmos o Open AI.

which is that shortly after we started OpenAI,

I remember I was in Puerto Rico for an AI conference.

Lembro-me que foi em Porto Rico numa conferência da IA.

I'm sitting in the hotel room just looking out over this wonderful water,

Eu estava no quarto do hotel a observar aquela água maravilhosa,

all these people having a good time.

e todas as pessoas a desfrutarem o tempo.

And you think about it for a moment,

E pensei, por momentos

if you could choose for basically that Pandora’s box

se pudesse escolher que a caixa de Pandora

estivesse a 5 anos de distância ou a 500 anos,

to be five years away

or 500 years away,

qual é que eu escolheria?

which would you pick, right?

On the one hand you're like, well, maybe for you personally,

Por um lado, talvez, para nós, pessoalmente.

fosse melhor que ela estivesse a cinco anos de distância.

it's better to have it be five years away.

But if it gets to be 500 years away and people get more time to get it right,

Mas, se estiver a 500 anos de distância,

e as pessoas tiverem mais tempo para pensarem bem,

which do you pick?

o que é que escolherias?

And you know, I just really felt it in the moment.

Nesse momento, senti que optaria pelos 500 anos.

I was like, of course you do the 500 years.

O meu irmão estava no exército, nessa altura

My brother was in the military at the time

and like, he puts his life on the line in a much more real way

e arriscava a vida dele de modo muito mais real

than any of us typing things in computers

do que qualquer de nós a escrever coisas nos computadores

and developing this technology at the time.

e a desenvolver esta tecnologia, nessa altura.

And so, yeah, I'm really sold on the you've got to approach this right.

Por isso, sim, optei pela abordagem de pensar bem.

But I don't think that's quite playing the field as it truly lies.

Mas acho que isso não é jogar o jogo com as regras certas.

Like, if you look at the whole history of computing,

Se olharmos para toda a história da informática,

I really mean it when I say that this is an industry-wide

Verdadeiramente acredito que esta é uma mudança na indústria

ou até mesmo

or even just almost like

a human-development- of-technology-wide shift.

uma mudança no desenvolvimento humano da tecnologia.

And the more that you sort of, don't put together the pieces

E se continuarmos a juntarmos as peças

that are there, right,

que existem,

we're still making faster computers,

continuamos a fazer computadores mais rápidos,

we're still improving the algorithms, all of these things, they are happening.

continuamos a melhorar os algoritmos, tudo isso está a acontecer.

And if you don't put them together, you get an overhang,

e se não as juntarmos, ficamos com um excesso,

which means that if someone does,

o que significa se alguém o fizer

or the moment that someone does manage to connect to the circuit,

ou no momento em que alguém conseguir ligá-las ao circuito,

then you suddenly have this very powerful thing,

de repente, temos esta coisa poderosa,

no one's had any time to adjust,

que ninguém teve tempo de ajustar.

Quem sabe que tipo de precauções de segurança temos?

who knows what kind of safety precautions you get.

And so I think that one thing I take away

Assim, acho que uma conclusão que posso tirar

is like, even you think about development of other sort of technologies,

é que, mesmo que pensem na evolução de outro tipo de tecnologias,

think about nuclear weapons,

pensem nas armas nucleares, fala-se delas como sendo um salto enorme

people talk about being like a zero to one,

sort of, change in what humans could do.

no que os humanos podem fazer.

But I actually think that if you look at capability,

Mas penso que se analisarem a capacidade

it's been quite smooth over time.

é mais fácil lidar com elas.

And so the history, I think, of every technology we've developed

Penso que a história de todas as tecnologias que desenvolvemos

has been, you've got to do it incrementally

demonstra que a temos feito progressivamente

and you've got to figure out how to manage it

e temos tido de imaginar como geri-la

for each moment that you're increasing it.

em cada momento em que a vamos desenvolvendo.

CA: So what I'm hearing is that you ...

CA: Segundo entendo,

the model you want us to have

o modelo que queres que tenhamos

is that we have birthed this extraordinary child

é que demos à luz esta criança extraordinária

that may have superpowers

que pode ter superpoderes,

that take humanity to a whole new place.

que leva a Humanidade para um sítio totalmente novo.

It is our collective responsibility to provide the guardrails

É da nossa responsabilidade coletiva

fornecer as proteções a essa criança

for this child

to collectively teach it to be wise and not to tear us all down.

ensiná-la, coletivamente, a ser sábia e a não nos destruir.

Is that basically the model?

É este basicamente o modelo?

GB: I think it's true.

GB: Acho que é isso mesmo.

And I think it's also important to say this may shift, right?

Penso que também é importante dizer que isto pode mudar, certo?

We've got to take each step as we encounter it.

Temos de aceitar cada passo à medida que o encontramos.

And I think it's incredibly important today

Penso que hoje é extremamente importante

that we all do get literate in this technology,

que passemos todos a ser letrados nesta tecnologia,

figure out how to provide the feedback,

saibamos como fornecer feedback.

decide what we want from it.

como decidir o que queremos dele.

And my hope is that that will continue to be the best path,

A minha esperança é que isto continue a ser o melhor caminho,

but it's so good we're honestly having this debate

mas é muito bom que tenhamos este debate franco

because we wouldn't otherwise if it weren't out there.

porque, se assim não fosse, não estaríamos aqui.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

CA: Greg Brockman, muito obrigado por teres vindo ao TED

dar-nos a volta à cabeça.

(Applause)

(Aplausos)