The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Tradutor: Margarida Ferreira Revisora: Clara Marques

You've all experienced the progress of artificial intelligence.

Todos vocês já experimentaram o progresso da inteligência artificial.

Many of you may have spoken with a computer,

Muitos de vocês talvez já tenham falado com um computador,

and a computer understood you

e o computador compreendeu-vos e respondeu-vos.

and spoke back to you.

With the rate of progress being that it is,

Com o ritmo do progresso a permanecer como está,

it's not difficult to imagine that at some point in the future,

não é difícil imaginar que, a certa altura, no futuro,

our intelligent computers will become as smart or smarter than people.

os nossos computadores inteligentes

se tornarão tão inteligentes ou mais inteligentes que as pessoas.

And it's also not difficult to imagine that when that happens,

Também não é difícil imaginar que, quando isso acontecer,

the impact of such artificial intelligence

o impacto dessa inteligência artificial

is going to be truly, truly vast.

será realmente muito grande.

And you may wonder:

E podemos perguntar:

Is it going to be OK when technology is so impactful?

Ficará tudo bem, quando o impacto da tecnologia é tão grande?

And here my goal is to point out the existence of a force

O meu objetivo aqui é apontar a existência de uma força

that many of you may have not noticed,

— que muitos de vocês talvez não tenham notado —

that gives me hope that indeed,

que me dá esperança de que, de facto,

ficaremos felizes com o resultado.

we will be happy with the result.

A inteligência artificial,

So artificial intelligence.

What is it, and how does it work?

o que é e como funciona?

Acontece que é muito fácil explicar

Well, it turns out that it's very easy to explain

how artificial intelligence works.

como funciona a inteligência artificial.

Just one sentence.

Apenas uma frase.

Artificial intelligence is nothing but digital brains

A inteligência artificial nada mais é

do que cérebros digitais dentro de grandes computadores.

inside large computers.

That's what artificial intelligence is.

É isso o que é a inteligência artificial.

Every single interesting AI that you've seen

Todas as IA interessantes que já viram

is based on this idea.

baseia-se nesta ideia.

Over the decades,

Ao longo das décadas,

scientists and engineers have been figuring out

cientistas e engenheiros têm vindo a descobrir

how such digital brains should work

como esses cérebros digitais devem funcionar

and how to build them, how to engineer them.

e como construí-los, como criá-los.

Now, I find it interesting

Agora, eu acho interessante

that the seat of intelligence in human beings is our biological brain.

que a sede da inteligência nos seres humanos

seja o nosso cérebro biológico.

It is fitting that the seat of intelligence

É apropriado que a sede da inteligência,

in artificial intelligence

na inteligência artificial

is an artificial brain.

seja um cérebro artificial.

Here, I'd like to take a digression and tell you about how I got into AI.

Aqui, gostaria de fazer uma digressão e contar-vos como entrei na IA.

There were three forces that pulled me into it.

Foram três forças que me puxaram para ela.

A primeira foi que, quando eu era miúdo,

The first one was that when I was a little child,

por volta dos cinco ou seis anos,

at around the age of five or six,

I was very struck by my own conscious experience,

fiquei muito impressionado com a minha experiência consciente,

by the fact that I am me and I am experiencing things.

com o facto de ser eu e de estar a experimentar coisas.

That when I look at things, I see them.

Com o facto de ver as coisas quando olho para elas.

Like, this feeling over time went away, though,

Este sentimento foi desaparecendo ao longo do tempo,

by simply mentioning it to you right now it comes back.

no entanto, só por referi-lo agora, ele reaparece.

But this this feeling of ...

Mas este sentimento

That I am me, that you are you,

de que eu sou eu, de que vocês são vocês,

I found it very strange and very disturbing almost.

quase o achava muito estranho e muito perturbador.

And so when I learned about artificial intelligence,

Assim, quando aprendi sobre a inteligência artificial, pensei:

I thought, wow, if we could build a computer

“Uau, se pudéssemos construir um computador inteligente,

that is intelligent,

maybe we will learn something about ourselves,

talvez aprendêssemos qualquer coisa sobre nós mesmos,

about our own consciousness.

sobre a nossa consciência.

That was my first motivation that pulled me towards AI.

Essa foi a minha primeira motivação que me fez avançar para a IA.

The second motivation was more pedestrian in a way.

A segunda motivação foi, de certa forma, mais pedestre.

I was simply curious about how intelligence works.

Sentia-me curioso sobre como funciona a inteligência.

And when I was a teenager, an early teenager in the late '90s,

Quando eu era adolescente, no final dos anos 90,

a sensação que tinha é que a ciência não sabia

the sense that I got is that science simply did not know

how intelligence worked.

como funcionava a inteligência.

There was also a third reason,

Havia também uma terceira razão.

which is that it was clear to me back then

Naquela altura, para mim era claro

that artificial intelligence,

que a inteligência artificial,

if it worked, it would be incredibly impactful.

se funcionasse, teria um impacto incrível.

Now, it wasn't at all obvious

Mas não era de todo óbvio

that it will be possible to make progress in artificial intelligence,

que seria possível fazer progressos na inteligência artificial.

but if it were possible to make progress in artificial intelligence,

Mas, se fosse possível progredir na inteligência artificial,

that would be incredibly impactful.

isso teria um impacto incrível.

So these were the three reasons that pulled me towards AI.

Estas foram as três razões que me atraíram para a IA.

Foi por isso que achei

That's why I thought that's a great area to spend all my efforts on.

que era uma ótima área para gastar todos os meus esforços.

So now let's come back to our artificial intelligence,

Agora voltemos à nossa inteligência artificial,

the digital brains.

aos cérebros digitais.

Today, these digital brains

Hoje, estes cérebros digitais

are far less smart than our biological brains.

são muito menos inteligentes do que os nossos cérebros biológicos.

When you speak to an AI chat bot,

Quando falamos com um chatbot de IA,

you very quickly see that it's not all there,

vemos muito rapidamente que nem tudo está lá,

that it's, you know,

ou seja, ele percebe a maior parte, mais ou menos,

it understands mostly, sort of.

mas vemos claramente que há muitas coisas que não pode fazer

But you can clearly see that there are so many things it cannot do

and that there are some strange gaps.

e que há lacunas estranhas.

But this situation, I claim, is temporary.

Mas eu afirmo que esta situação é temporária.

As researchers and engineers continue to work on AI,

À medida que investigadores e engenheiros continuam a trabalhar na IA,

the day will come when the digital brains that live inside our computers

chegará o dia em que os cérebros digitais que vivem nos nossos computadores

will become as good and even better than our own biological brains.

se tornarão tão bons e ainda melhores do que os nossos cérebros biológicos.

Os computadores tornar-se-ão mais inteligentes do que nós.

Computers will become smarter than us.

We call such an AI an “AGI,” artificial general intelligence.

Chamamos a essa IA IAG, Inteligência artificial geral,

When we can say that the level at which we can teach the AI to do anything

quando pudermos dizer que podemos ensinar a IA

a fazer tudo o que, por exemplo, eu possa fazer,

that, for example, I can do, or someone else.

ou qualquer outra pessoa.

So although AGI does not exist today,

Portanto, embora a IAG ainda não exista hoje,

we can still gain a little bit of an insight

podemos ter uma certa perceção

into the impact of AGI once it's built.

quanto ao impacto da IAG, quando for construída.

It is completely obvious

É perfeitamente óbvio

that such an AGI will have a dramatic impact

que essa IAG terá um impacto profundo

on every area of life, of human activity and society.

em todas as áreas da vida da atividade humana e da sociedade.

And I want to go over a quick case study.

E vou referir um breve caso de estudo.

This is a narrow example of a very, very broad technology.

Este é um pequeno exemplo de uma tecnologia muito ampla.

The example I want to present is health care.

O exemplo que vou apresentar são os cuidados de saúde.

Muitos de vocês podem ter tido a experiência de tentar ir a um médico.

Many of you may have had the experience of trying to go to a doctor.

You need to wait for many months sometimes,

Por vezes, têm de esperar muitos meses,

and then when you do get to see a doctor, you get a small,

e depois, quando chegam a ver um médico,

têm um tempo muito limitado com o médico.

very limited amount of time with the doctor

and furthermore, the doctor, being only human,

Além disso, o médico, como ser humano que é,

can have only limited knowledge of all this,

só pode ter um conhecimento limitado

de todos os conhecimentos médicos que existem.

all the medical knowledge that exists.

And then by the end of it, you get a very large bill.

E, no final, temos uma fatura muito grande.

(Laughter)

(Risos)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Se tivermos um computador inteligente, uma IAG, construída para ser médico,

it will have complete and exhaustive knowledge of all medical literature.

terá um conhecimento completo e exaustivo de toda a literatura médica.

It will have billions of hours of clinical experience,

Terá milhares de milhões de horas de experiência clínica,

and it will be always available and extremely cheap.

estará sempre disponível e será extremamente barata.

Quando isso acontecer,

When this happens,

we will look back at today's health care

olharemos para trás, para os cuidados de saúde de hoje,

similarly to how we look at 16th century dentistry.

da mesma forma que olhamos para a odontologia do século XVI...

(Laughter)

(Risos)

You know, when they tied people with belts and then have this drill,

quando amarravam as pessoas com cintos e depois tinham aquela broca.

that's how today's health care will look like.

Será assim que vão parecer os cuidados de saúde atuais.

And again, to emphasize, this is just one example.

Repito, para sublinhar, este é apenas um exemplo.

This is just one example.

Este é apenas um exemplo.

AGI will have dramatic and incredible impact

A IAG terá um impacto enorme e incrível

on every single area of human activity.

em todas as áreas da atividade humana.

But when you see impact this large, you may wonder, "Gosh,

Mas quando vemos um impacto tão grande, podemos perguntar:

“Caramba, esta tecnologia não tem um impacto perigoso?”

isn't this technology too impactful?"

De facto, para cada aplicação positiva da AGI,

And indeed, for every positive application of AGI,

there will be a negative application as well.

também haverá uma aplicação negativa.

This technology is also going to be different

Esta tecnologia também vai ser diferente

from technologies that we are used to,

das tecnologias a que estamos habituados,

because it will have the ability to improve itself.

porque terá a capacidade de se melhorar a si mesma.

It is possible to build an AGI

É possível construir uma IAG

that will work on the next generation of AGI.

que trabalhe na geração seguinte da IAG.

The closest analogue we have to this kind of rapid technological improvement

A analogia mais parecida que temos

deste tipo de rápido aperfeiçoamento tecnológico

is when the Industrial Revolution has taken place, where humans,

ocorreu na Revolução Industrial,

quando as condições materiais da sociedade humana,

the material condition of human society, was very, very constant.

eram muito constantes.

And then it was a rapid increase, rapid growth.

Depois foi um aumento rápido, um crescimento rápido.

With AGI,

Com a IGA pode voltar a acontecer uma coisa parecida,

something like this could happen again, but on a shorter timescale.

mas numa escala de tempo mais curta.

And then furthermore,

there are concerns around

Além disso, há preocupações

quanto à possibilidade de uma IAG se tornar demasiado poderosa,

if an AGI ever becomes very, very powerful,

o que é possível.

which is possible,

maybe it will want to go rogue being that it is an agent.

Talvez se queira tornar até desonesta, dado que é um agente.

So this is a concern that exists with this unprecedented,

Assim, há esta preocupação com esta tecnologia sem precedentes,

not yet existing technology.

que ainda não existe.

And indeed,

E, de facto,

you look at all the positive potential of AGI

olhamos para todo o potencial positivo da IAG

and all the concerning possibilities of AGI as well,

e também para todas as possibilidades preocupantes da IAG,

e podemos dizer:

and you may say, "Gosh, where is this all headed?"

“Meu Deus, para onde é que tudo isto nos leva?”

One of my motivations in creating OpenAI was,

Uma das minhas motivações na criação da OpenAI,

para além de desenvolver esta tecnologia,

in addition to developing this technology,

was also to address the questions

foi também abordar as questões que são colocadas pela IAG,

that are posed by AGI, the difficult questions,

as questões difíceis,

the concerns that we raised.

as preocupações que manifestamos.

In addition to working with governments

Para além de trabalhar com os governos

and helping them understand what is coming and prepare for it,

e ajudá-los a perceber o que está para vir

e a prepará-los para isso,

we are also doing a lot of research

também estamos a fazer muita investigação

on addressing the technological side of things,

sobre como abordar o lado tecnológico das coisas,

so that the AI will never want to go rogue.

para que a IA nunca venha a ficar desonesta.

And this is something which I’m working on as well.

Isto é uma coisa em que também estou a trabalhar.

But I think, the thing to note,

Mas penso que, o que é de notar,

because AI and AGI is really the only area of the economy

é que a IA e a IAG são a única área da economia

where there is a lot of excitement, a lot of investment,

em que há muito entusiasmo, muito investimento,

everyone is working on it,

em que toda a gente está a trabalhar,

there's a huge number of labs in the world trying to build the same thing.

há uma enorme série de laboratórios no mundo

a tentar construir a mesma coisa.

Even if OpenAI takes these desirable steps that I mentioned,

Mesmo que a OpenAI siga estes passos desejáveis que referi,

what about the rest of the companies and the rest of the world?

o que acontecerá com o resto das empresas e o resto do mundo?

And this is where I want to make my observation

E é aqui que quero fazer a minha observação

about the force that exists.

quanto à força que existe.

The observation is this: consider the world one year ago,

A observação é esta: considerem o mundo há um ano,

as recently as one year ago.

apenas há um ano.

People weren't really talking about AI, not in the same way at all.

As pessoas não falavam da IA, pelo menos da mesma maneira.

What happened?

O que aconteceu?

We all experienced what it's like to talk to a computer and to be understood.

Todos nós experimentámos o que é falar com um computador e sermos compreendidos.

The idea that computers will become really intelligent

A ideia de que os computadores se tornarão inteligentes

and eventually more intelligent than us is becoming widespread.

e talvez msmo mais inteligentes do que nós está a generalizar-se.

It used to be a niche idea that only a few enthusiasts

Primeiro era uma ideia de nicho

em que só pensavam alguns entusiastas e pessoas que gostam muito de IA.

and hobbyists and people who were very into AI were thinking about.

Mas agora toda a gente pensa nisso.

But now everyone is thinking about it.

And as the AI continues to make progress,

E à medida que a IA continua a progredir,

as technology continues to advance,

à medida que a tecnologia continua a avançar,

as more and more people see what AI can do

à medida que cada vez mais pessoas veem o que a IA pode fazer

and where it is headed towards,

e para onde está a caminhar,

then it will become clear just how dramatic,

ficará claro até que ponto

incredible and ...

a IAG vai ser dramática, incrível e quase fantástica

almost fantastical AGI is going to be

and how much trepidation is appropriate.

e quanta preocupação é justificada.

O que afirmo que vai acontecer é que as pessoas vão começar a agir

And what I claim will happen is that people will start to act

in unprecedentedly collaborative way out of their own self-interest.

de uma forma colaborativa sem precedentes atendendo ao seu próprio interesse.

It's already happening right now.

Já está a acontecer neste momento.

You see the leading AGI companies starting to collaborate

Vemos as principais empresas de IAG começarem a colaborar

for a specific example, through the Frontier Model Forum.

para um exemplo específico, através do Frontier Model Forum.

And we will expect that companies that are competitors

E será de esperar que as empresas que são concorrentes

will share technical information to make their AIs safe.

partilhem informações técnicas para tornarem seguras as suas IAG.

We may even see governments do this.

Veremos até os governos fazerem isso.

For another example,

Outro exemplo:

at OpenAI, we really believed in how dramatic AGI is going to be.

na OpenAI, acreditamos até que ponto a IAG será dramática.

So one of the ideas that we were operating by,

Portanto, uma das ideias segundo as quais estávamos a funcionar

and it's been written on our website for five years now,

e que está escrita no nosso website há cinco anos,

that when technology gets such that we are very, very close to AGI,

é que, quando a tecnologia chegar ao ponto

de estarmos muito perto da IAG,

de computadores mais inteligentes que os seres humanos,

to computers smarter than humans,

and if some other company is far ahead of us,

e, se alguma outra empresa estiver muito à nossa frente,

then rather than compete with them,

em vez de competirmos com ela,

we will help them out, join them, in a sense.

vamos ajudá-la, juntamo-nos a ela, de certo modo.

And why do that?

Porquê fazer isso?

Because we feel, we appreciate

Porque sentimos, compreendemos

how incredibly dramatic AGI is going to be.

o quão incrivelmente dramática será a IAG.

And my claim is that with each generation of capability advancements,

A minha afirmação é que,

com cada geração de avanços de capacidades,

as AI gets better

à medida que a IA melhora,

and as all of you experience what AI can do,

à medida que todos experimentam o que a IA pode fazer,

as people who run AI efforts and AGI efforts

à medida que as pessoas que dirigem esforços de IA e esforços da IAG

and people who work on them will experience it as well,

e as pessoas que trabalham nisso também o experimentarão,

this will change the way we see AI and AGI,

mudará a forma como vemos a IA e a IAG

and that will change collective behavior.

e mudará o comportamento coletivo.

And this is an important reason

Esta é uma importante razão

why I'm hopeful

para eu ter a esperança de que,

that despite the great challenges that's posed by this technology,

apesar dos grandes desafios colocados por esta tecnologia,

we will overcome them.

vamos superá-los.

Thank you.

Obrigado.

(Applause)

(Aplausos)