What AI is -- and isn't | Sebastian Thrun and Chris Anderson

Tradutor: Margarida Ferreira Revisora: Clara Marques

Chris Anderson: Ajuda-nos a perceber o que é a aprendizagem automática,

porque parece ser a força motriz principal

de grande parte da excitação e das preocupações

em torno da inteligência artificial.

Chris Anderson: Help us understand what machine learning is,

Como funciona a aprendizagem automática?

because that seems to be the key driver

Sebastian Thrun: A inteligência artificial e a aprendizagem automática

of so much of the excitement and also of the concern

tem cerca de 60 anos,

around artificial intelligence.

e não teve grande fama senão recentemente.

How does machine learning work?

Sebastian Thrun: So, artificial intelligence and machine learning

A razão para isso é que hoje,

is about 60 years old

atingimos uma dimensão de computação e bases de dados

and has not had a great day in its past until recently.

que eram necessárias para tornar as máquinas inteligentes.

And the reason is that today,

Então, é assim que as coisas funcionam.

we have reached a scale of computing and datasets

Se programarem hoje um computador, digamos, o nosso telemóvel,

estamos a contratar engenheiros de software

that was necessary to make machines smart.

que escrevem uma receita muito comprida, por exemplo:

So here's how it works.

If you program a computer today, say, your phone,

“Se a água estiver demasiado quente, baixa a temperatura.

then you hire software engineers

“Se estiver demasiado fria, aumenta a temperatura.”

that write a very, very long kitchen recipe,

As receitas não têm só 10 linhas de comprimento.

like, "If the water is too hot, turn down the temperature.

Têm milhões de linhas de comprimento.

Um telemóvel moderno tem 12 milhões de linhas de código.

If it's too cold, turn up the temperature."

The recipes are not just 10 lines long.

Um navegador tem cinco milhões de linhas de código.

They are millions of lines long.

Cada erro nesta receita pode provocar uma avaria no computador.

A modern cell phone has 12 million lines of code.

É por isso que um engenheiro de software ganha tanto dinheiro.

A browser has five million lines of code.

And each bug in this recipe can cause your computer to crash.

O que há de novo agora é que os computadores

conseguem encontrar as suas próprias regras.

That's why a software engineer makes so much money.

Em vez de ser um especialista a decifrar, passo a passo,

uma regra para cada contingência,

The new thing now is that computers can find their own rules.

o que fazemos hoje é dar exemplos ao computador

So instead of an expert deciphering, step by step,

e levá-los a deduzir as suas regras.

Um exemplo muito bom é o AlphaGo, que recentemente foi ganho pela Google.

a rule for every contingency,

what you do now is you give the computer examples

Normalmente, nos jogos, tínhamos de escrever todas as regras,

and have it infer its own rules.

mas no caso do AlphaGo,

A really good example is AlphaGo, which recently was won by Google.

o sistema observou um milhão de jogos

e conseguiu deduzir as suas próprias regras

Normally, in game playing, you would really write down all the rules,

e depois vencer o campeão mundial residente do Go.

but in AlphaGo's case,

Isto é excitante, porque liberta o engenheiro de software

the system looked over a million games

and was able to infer its own rules

da necessidade de ser super inteligente

and then beat the world's residing Go champion.

e passa a responsabilidade para os dados.

Como já disse, o ponto de inflexão em que tudo isto se tornou possível

That is exciting, because it relieves the software engineer

— é embaraçoso, mas a minha tese foi sobre aprendizagem automática,

of the need of being super smart,

and pushes the burden towards the data.

foi totalmente insignificante, não a leiam,

As I said, the inflection point where this has become really possible --

porque já lá vão 20 anos

e, nessa altura, os computadores tinham o tamanho do cérebro de uma barata.

very embarrassing, my thesis was about machine learning.

Hoje têm suficiente potência para reproduzir

It was completely insignificant, don't read it,

um certo tipo de pensamento humano especializado.

because it was 20 years ago

Depois, os computadores têm a vantagem de poderem observar

and back then, the computers were as big as a cockroach brain.

muitos mais dados do que as pessoas podem.

Now they are powerful enough to really emulate

Eu diria que a AlphaGo observou mais de um milhão de jogos.

kind of specialized human thinking.

And then the computers take advantage of the fact

Nenhum especialista humano

pode pensar em estudar um milhão de jogos.

that they can look at much more data than people can.

A Google observou mais de cem mil milhões de páginas da web.

So I'd say AlphaGo looked at more than a million games.

Ninguém pode estudar cem mil milhões de páginas da web.

No human expert can ever study a million games.

Em resultado disso, o computador pode encontrar regras

Google has looked at over a hundred billion web pages.

que as pessoas não podem encontrar.

CA: Então, em vez de pensarmos que “Se ele faz isso, eu também posso fazer”,

No person can ever study a hundred billion web pages.

So as a result, the computer can find rules

é sobretudo dizer “É este o aspeto dum padrão vencedor,

that even people can't find.

“é este o aspeto de um padrão vencedor.”

CA: So instead of looking ahead to, "If he does that, I will do that,"

ST: Pois é. Pensa na forma como educamos uma criança.

Não passamos os primeiros 18 anos

it's more saying, "Here is what looks like a winning pattern,

a dar aos miúdos uma regra para cada contingência

here is what looks like a winning pattern."

e liberdade e eles adquirem logo este bom programa.

ST: Yeah. I mean, think about how you raise children.

Eles tropeçam, levantam-se, levam uma bofetada ou uma palmada,

You don't spend the first 18 years giving kids a rule for every contingency

e têm uma experiência positiva, boas notas na escola,

and set them free and they have this big program.

e descobrem por si mesmos.

É o que acontece hoje com os computadores,

They stumble, fall, get up, they get slapped or spanked,

o que torna a programação muito mais fácil, de repente.

and they have a positive experience, a good grade in school,

Agora já não precisamos de pensar, basta darmos-lhes montes de dados.

and they figure it out on their own.

That's happening with computers now,

CA: Isto tem sido fundamental para a melhoria espetacular

which makes computer programming so much easier all of a sudden.

no poder dos carros autónomos.

Now we don't have to think anymore. We just give them lots of data.

Penso que me deste um exemplo.

CA: And so, this has been key to the spectacular improvement

Podes explicar o que está a acontecer aqui?

ST: Esta é a condução de um carro autónomo

in power of self-driving cars.

que, por acaso, tínhamos na Udacity

I think you gave me an example.

e recentemente transformámos numa outra empresa chamada Voyage.

Can you explain what's happening here?

ST: This is a drive of a self-driving car

Usámos a aprendizagem profunda

para treinar um carro a conduzir autonomamente

that we happened to have at Udacity

e está a conduzir de Mountain View, na Califórnia,

and recently made into a spin-off called Voyage.

até San Francisco

We have used this thing called deep learning

no El Camino Real, num dia chuvoso,

com ciclistas e peões e 133 semáforos.

to train a car to drive itself,

and this is driving from Mountain View, California,

O que há de novo aqui

to San Francisco

é que, há muitas luas, iniciei a equipa de carros autónomos da Google.

on El Camino Real on a rainy day,

with bicyclists and pedestrians and 133 traffic lights.

Nessa época, contratei os melhores engenheiros de software do mundo

And the novel thing here is,

para encontrar as melhores regras mundiais.

Isto foi só treino.

many, many moons ago, I started the Google self-driving car team.

Guiámos nesta estrada 20 vezes,

And back in the day, I hired the world's best software engineers

pusemos todos estes dados no cérebro do computador,

to find the world's best rules.

e, ao fim de umas horas de processamento,

This is just trained.

We drive this road 20 times,

ele aparece com um comportamento que ultrapassa a agilidade humana.

we put all this data into the computer brain,

Portanto, torna-se realmente fácil programá-la.

and after a few hours of processing,

Isto é 100% autónomo, cerca de 50 km, uma hora e meia.

it comes up with behavior that often surpasses human agility.

CA: Então, explica lá... na parte à esquerda deste programa,

So it's become really easy to program it.

vemos basicamente o que o computador vê como camiões e carros

This is 100 percent autonomous, about 33 miles, an hour and a half.

e aqueles pontos que ultrapassam, e assim por diante.

CA: So, explain it -- on the big part of this program on the left,

ST: À direita, vemos a imagem da câmara, que é o principal input aqui,

you're seeing basically what the computer sees as trucks and cars

que se usa para ver faixas de rodagem, outros carros, semáforos.

and those dots overtaking it and so forth.

O veículo tem um radar para calcular a distância.

ST: On the right side, you see the camera image, which is the main input here,

Isto é usado habitualmente neste tipo de sistemas.

Do lado esquerdo, vemos um diagrama a laser,

and it's used to find lanes, other cars, traffic lights.

onde vemos obstáculos como árvores descritos pelo laser.

The vehicle has a radar to do distance estimation.

Mas quase todo o trabalho de interesse está centrado na imagem da câmara.

This is very commonly used in these kind of systems.

On the left side you see a laser diagram,

Estamos a passar de sensores de precisão como radares e lasers

where you see obstacles like trees and so on depicted by the laser.

para sensores muito baratos e de fácil utilização.

But almost all the interesting work is centering on the camera image now.

Uma câmara custa menos de oito dólares.

CA: E o que é aquele ponto verde na coisa da esquerda?

We're really shifting over from precision sensors like radars and lasers

Tem algum significado?

ST: É um ponto de observação para controlo de cruzeiro adaptativo,

into very cheap, commoditized sensors.

A camera costs less than eight dollars.

que nos ajuda a perceber como regular a velocidade

CA: And that green dot on the left thing, what is that?

Is that anything meaningful?

com base na distância dos carros à nossa frente.

ST: This is a look-ahead point for your adaptive cruise control,

CA: Acho que também tens um exemplo

de como ocorre a atual parte de aprendizagem.

so it helps us understand how to regulate velocity

Talvez possamos ver isso. Fala-nos disso.

based on how far the cars in front of you are.

ST: Este é um exemplo em que lançámos um desafio aos estudantes da Udacity

CA: And so, you've also got an example, I think,

of how the actual learning part takes place.

para obter aquilo a que chamamos um minicurso de carro autónomo.

Maybe we can see that. Talk about this.

Demos-lhe um conjunto de dados e dissemos-lhes:

ST: This is an example where we posed a challenge to Udacity students

“Conseguem descobrir como conduzir este carro?”

Se olhares para as imagens,

to take what we call a self-driving car Nanodegree.

é impossível os seres humanos, acertarem na direção.

We gave them this dataset

and said "Hey, can you guys figure out how to steer this car?"

Fizemos uma competição e dissemos:

“É uma competição de aprendizagem profunda, de competição de IA”

And if you look at the images,

it's, even for humans, quite impossible to get the steering right.

e demos 48 horas aos estudantes.

Numa empresa de software como a Google ou o Facebook,

And we ran a competition and said, "It's a deep learning competition,

uma coisa destas custa pelo menos seis meses de trabalho.

AI competition,"

and we gave the students 48 hours.

Por isso achámos que 48h era ótimo.

So if you are a software house like Google or Facebook,

Nessas 48 horas, recebemos 100 provas dos estudantes

something like this costs you at least six months of work.

e as quatro melhores acertaram na perfeição.

So we figured 48 hours is great.

Conduz melhor do que eu podia conduzir com esta imagem,

And within 48 hours, we got about 100 submissions from students,

usando a aprendizagem profunda.

De novo, é a mesma metodologia.

and the top four got it perfectly right.

É esta coisa mágica.

Se dermos dados suficientes a um computador,

It drives better than I could drive on this imagery,

e lhe dermos tempo suficiente para compreender os dados,

using deep learning.

ele encontra as suas próprias regras.

And again, it's the same methodology.

CA: Então, isso levou à evolução de poderosas aplicações

It's this magical thing.

When you give enough data to a computer now,

and give enough time to comprehend the data,

em todo o tipo de áreas.

it finds its own rules.

No outro dia falaste-me sobre o cancro.

CA: And so that has led to the development of powerful applications

Posso mostrar este vídeo?

ST: Sim, claro, fazes favor. CA: É muito fixe.

ST: É o tipo de visão do que está a acontecer

in all sorts of areas.

You were talking to me the other day about cancer.

numa área totalmente diferente.

Can I show this video?

ST: Yeah, absolutely, please. CA: This is cool.

Isto está a aumentar, ou a competir

ST: This is kind of an insight into what's happening

— depende dos olhos de quem vê —

com pessoas que estão a ser pagas a 400 000 dólares por ano,

in a completely different domain.

This is augmenting, or competing --

dermatologistas,

especialistas com alta formação.

it's in the eye of the beholder --

São precisos mais de 10 anos de formação para ser um bom dermatologista.

with people who are being paid 400,000 dollars a year,

O que vemos aqui é a versão disso em aprendizagem automática.

dermatologists,

highly trained specialists.

Chama-se rede neural.

It takes more than a decade of training to be a good dermatologist.

“Rede neural” é o termo técnico

para estes algoritmos de aprendizagem automática.

What you see here is the machine learning version of it.

Já existem desde os anos 80.

Este foi inventado em 1988

It's called a neural network.

por um tipo do Facebook chamado Yann LeCun,

"Neural networks" is the technical term for these machine learning algorithms.

e propaga as fases de dados

They've been around since the 1980s.

através do que podemos imaginar como um cérebro humano.

This one was invented in 1988 by a Facebook Fellow called Yann LeCun,

Não é bem a mesma coisa, mas imita a mesma coisa.

and it propagates data stages

Passa de fase em fase.

Na primeira fase, agarra no input visual e extrai as arestas,

through what you could think of as the human brain.

as varas e os pontos.

It's not quite the same thing, but it emulates the same thing.

Na fase seguinte, forma arestas mais complicadas

It goes stage after stage.

In the very first stage, it takes the visual input and extracts edges

e formas como meias luas.

and rods and dots.

Por fim, consegue criar conceitos realmente complicados.

And the next one becomes more complicated edges

Andrew Ng conseguiu mostrar

and shapes like little half-moons.

que consegue encontrar focinhos de gatos e de cães

And eventually, it's able to build really complicated concepts.

em grande quantidade de imagens.

O que a minha equipa de estudantes em Stanford mostrou

Andrew Ng has been able to show

that it's able to find cat faces and dog faces

é que, se o treinarmos com 129 000 imagens de doenças de pele,

in vast amounts of images.

What my student team at Stanford has shown is that

incluindo melanomas e carcinomas,

if you train it on 129,000 images of skin conditions,

podemos fazer um trabalho tão bom

como os melhores dermatologistas.

including melanoma and carcinomas,

Para nos convencermos de que isso é verdade,

agarrámos num conjunto de dados independente que apresentámos à nossa rede

you can do as good a job

as the best human dermatologists.

e a 25 dermatologistas certificados de Stanford,

And to convince ourselves that this is the case,

we captured an independent dataset that we presented to our network

e comparámos os resultados.

Na maior parte dos casos,

igualaram ou ficaram acima da exatidão da classificação de desempenho

and to 25 board-certified Stanford-level dermatologists,

dos dermatologistas humanos.

and compared those.

CA: Contaste-me uma história.

And in most cases,

Estou a pensar nesta imagem aqui.

they were either on par or above the performance classification accuracy

O que é que aconteceu aqui?

ST: Isto foi na quinta-feira passada. É um trabalho comovente.

of human dermatologists.

CA: You were telling me an anecdote.

O que já mostrámos e publicámos na Nature, no início deste ano

I think about this image right here.

What happened here?

foi que mostrámos imagens de dermatologistas

ST: This was last Thursday. That's a moving piece.

ao nosso computador

e contámos quantas vezes ele tinha razão.

What we've shown before and we published in "Nature" earlier this year

Mas todas estas imagens são imagens antigas.

Fizeram-se biópsias a todas para garantir que a classificação estava correta.

was this idea that we show dermatologists images

and our computer program images,

E esta aqui não estava.

and count how often they're right.

Esta foi feita em Stanford por um dos nossos colaboradores.

But all these images are past images.

Acontece que o nosso colaborador,

They've all been biopsied to make sure we had the correct classification.

que é um dermatologista conhecido, um dos três melhores, segundo consta,

This one wasn't.

This one was actually done at Stanford by one of our collaborators.

olhou para este sinal e disse: “Isto não é um cancro da pele”.

The story goes that our collaborator,

Depois, pensou melhor e disse:

who is a world-famous dermatologist, one of the three best, apparently,

“Deixem-me ver o que se disse na aplicação.”

Agarrou no seu iPhone e abriu o nosso software,

looked at this mole and said, "This is not skin cancer."

o nosso “dermatologista de algibeira”, por assim dizer,

And then he had a second moment, where he said,

e o iPhone disse: cancro.

"Well, let me just check with the app."

Disse: melanoma.

So he took out his iPhone and ran our piece of software,

E ele ficou confuso e decidiu:

our "pocket dermatologist," so to speak,

“OK, talvez acredite mais no iPhone do que em mim próprio”

and the iPhone said: cancer.

e enviou-o para o laboratório para fazer uma biópsia.

It said melanoma.

And then he was confused.

O resultado foi um melanoma agressivo.

And he decided, "OK, maybe I trust the iPhone a little bit more than myself,"

Por isso, penso que pode ser a primeira vez que encontrámos

and he sent it out to the lab to get it biopsied.

na prática de usar a aprendizagem automática,

And it came up as an aggressive melanoma.

uma pessoa com um melanoma que teria passado sem ser diagnosticado

So I think this might be the first time that we actually found,

se não fosse a aprendizagem automática.

in the practice of using deep learning,

CA: É incrível.

(Aplausos)

an actual person whose melanoma would have gone unclassified,

Deve ter havido um pedido imediato para uma aplicação dessas

had it not been for deep learning.

que assustaria muita gente.

CA: I mean, that's incredible.

Estão a pensar fazer isso, uma aplicação que permite um auto-exame?

(Applause)

ST: A minha caixa de entrada está atulhada com aplicações para o cancro,

It feels like there'd be an instant demand for an app like this right now,

that you might freak out a lot of people.

Are you thinking of doing this, making an app that allows self-checking?

com histórias impressionantes de pessoas.

Algumas pessoas já removeram 10, 15, 20 melanomas

ST: So my in-box is flooded about cancer apps,

e têm medo de que um possa escapar, como este aqui

with heartbreaking stories of people.

e também, não faço ideia,

I mean, some people have had 10, 15, 20 melanomas removed,

de carros voadores e inquéritos, talvez.

and are scared that one might be overlooked, like this one,

A minha posição é que precisamos de mais testes.

Quero ser muito cuidadoso.

and also, about, I don't know,

É muito fácil dar um resultado vistoso e impressionar uma audiência TED.

flying cars and speaker inquiries these days, I guess.

My take is, we need more testing.

É muito mais difícil lançar uma coisa que seja ética.

Se as pessoas fossem usar a aplicação

I want to be very careful.

It's very easy to give a flashy result and impress a TED audience.

e optassem por não consultar a ajuda de um médico

It's much harder to put something out that's ethical.

e nós nos enganássemos,

eu sentir-me-ia muito mal.

And if people were to use the app

Portanto estamos a fazer testes clínicos,

e, se estes testes clínicos começarem e os nossos dados se confirmarem,

and choose not to consult the assistance of a doctor

because we get it wrong,

podemos agarrar neste tipo de tecnologia

I would feel really bad about it.

e levá-lo para a clínica de Stanford

So we're currently doing clinical tests,

e disponibilizá-lo para o mundo inteiro,

and if these clinical tests commence and our data holds up,

a locais onde os médicos de Stanford nunca puseram o pé.

we might be able at some point to take this kind of technology

CA: Será que estou a ouvir bem?

and take it out of the Stanford clinic

Parece-me que estás a dizer que,

and bring it to the entire world,

porque estás a trabalhar com esse exército de estudantes da Udacity,

places where Stanford doctors never, ever set foot.

CA: And do I hear this right,

estás a aplicar uma forma diferente de aprendizagem automática

that it seemed like what you were saying,

que pode ocorrer numa empresa,

because you are working with this army of Udacity students,

combinas a aprendizagem automática com uma forma de sabedoria coletiva.

that in a way, you're applying a different form of machine learning

Estás a dizer que podes ter um desempenho superior

ao que uma empresa pode fazer, mesmo uma grande empresa?

than might take place in a company,

which is you're combining machine learning with a form of crowd wisdom.

ST: Eu penso que há hoje situações que me deixam de boca aberta

e ainda estou a tentar perceber.

Are you saying that sometimes you think that could actually outperform

Aquilo a que te referes são estas competições que promovemos.

what a company can do, even a vast company?

ST: I believe there's now instances that blow my mind,

Obtemos respostas em 48 horas

e já conseguimos criar um carro autónomo

and I'm still trying to understand.

que pode conduzir de Mountain View até San Francisco,

What Chris is referring to is these competitions that we run.

por estradas de superfície.

Ainda não estamos a par da Google que já tem sete anos de trabalho,

We turn them around in 48 hours,

and we've been able to build a self-driving car

mas estamos a chegar lá.

that can drive from Mountain View to San Francisco on surface streets.

E só utilizamos dois engenheiros desde há três meses, para fazer isso.

It's not quite on par with Google after seven years of Google work,

A razão é que temos um grupo enorme de estudantes

but it's getting there.

que participam nas competições.

Não somos só nós que usamos a colaboração voluntária.

And it took us only two engineers and three months to do this.

A Uber e a Didi usam-na para a condução.

And the reason is, we have an army of students

A Airbnb usa a colaboração voluntária para os hotéis.

who participate in competitions.

Há hoje muitos exemplos em que as pessoas fazem colaboração voluntária

We're not the only ones who use crowdsourcing.

Uber and Didi use crowdsource for driving.

para encontrarem erros, ou enovelamento de proteínas.

Airbnb uses crowdsourcing for hotels.

Mas conseguimos criar este carro em três meses,

There's now many examples where people do bug-finding crowdsourcing

por isso estou a pensar melhor

or protein folding, of all things, in crowdsourcing.

em como organizar empresas.

But we've been able to build this car in three months,

Temos uma equipa de 9000 pessoas que nunca são contratadas

so I am actually rethinking

e que eu nunca dispenso.

how we organize corporations.

Aparecem para trabalhar e eu nem sequer sei.

We have a staff of 9,000 people who are never hired,

Depois apresentam-me talvez 9000 respostas.

Eu não sou obrigado a usar nenhuma delas.

that I never fire.

E acabo por só pagar aos vencedores,

They show up to work and I don't even know.

por isso, sou nisto muito forreta, o que talvez não seja muito bom.

Then they submit to me maybe 9,000 answers.

Mas eles consideram que isto faz parte da formação, o que é agradável.

I'm not obliged to use any of those.

I end up -- I pay only the winners,

Estes estudantes têm conseguido produzir resultados espantosos

so I'm actually very cheapskate here, which is maybe not the best thing to do.

de aprendizagem profunda.

A síntese de pessoas fantásticas

But they consider it part of their education, too, which is nice.

e de ótima aprendizagem automática é um espanto.

But these students have been able to produce amazing deep learning results.

CA: Gary Kasparov disse no primeiro dia da TED2017

que os vencedores do xadrez, surpreendentemente,

So yeah, the synthesis of great people and great machine learning is amazing.

passaram a ser dois jogadores amadores

com três programas de computador medíocres, medíocres-a-bons,

CA: I mean, Gary Kasparov said on the first day [of TED2017]

that the winners of chess, surprisingly, turned out to be two amateur chess players

que podiam superar um grande mestre com um ótimo jogador de xadrez,

with three mediocre-ish, mediocre-to-good, computer programs,

como se tudo fizesse parte do processo.

E quase parece que estás a falar de uma versão muito mais rica

that could outperform one grand master with one great chess player,

dessa mesma ideia.

ST: Sim, conforme seguiste ontem de manhã os fantásticos painéis,

like it was all part of the process.

And it almost seems like you're talking about a much richer version

duas sessões sobre a IA,

os senhores robóticos e a reação humana,

of that same idea.

foram ditas coisas extraordinárias.

ST: Yeah, I mean, as you followed the fantastic panels yesterday morning,

Mas uma das preocupações é que de certa forma confundimos

two sessions about AI,

o que está a ser feito com a IA com este tipo de ameaça

robotic overlords and the human response,

many, many great things were said.

em que a IA desenvolva uma consciência, não é?

But one of the concerns is that we sometimes confuse

A última coisa que quero é que a minha IA tenha consciência.

what's actually been done with AI with this kind of overlord threat,

Não quero entrar na minha cozinha

e ver que o meu frigorífico se apaixonou pela máquina de lavar loiça

where your AI develops consciousness, right?

The last thing I want is for my AI to have consciousness.

e me diga que, como eu não fui simpático,

I don't want to come into my kitchen

a minha comida descongelou.

and have the refrigerator fall in love with the dishwasher

Eu não compro esses produtos e não os quero.

Mas a verdade é que, para mim,

and tell me, because I wasn't nice enough,

a IA sempre foi um complemento das pessoas.

my food is now warm.

I wouldn't buy these products, and I don't want them.

Tem sido um complemento nosso

para nos tornar mais fortes.

But the truth is, for me,

Acho que Kasparov estava correto.

AI has always been an augmentation of people.

Tem sido a combinação da inteligência humana

It's been an augmentation of us,

com a inteligência da máquina

to make us stronger.

que nos torna mais forte.

O tema de as máquinas nos tornarem mais fortes

And I think Kasparov was exactly correct.

It's been the combination of human smarts and machine smarts

é tão antigo como as máquinas.

A revolução agrícola ocorreu graças às máquinas a vapor

that make us stronger.

The theme of machines making us stronger is as old as machines are.

e aos equipamentos agrícolas que não podiam cultivar por si sós

que nunca nos substituíram, mas tornaram-nos mais fortes.

The agricultural revolution took place because it made steam engines

Penso que esta nova vaga da IA tornar-nos-á muito mais fortes

and farming equipment that couldn't farm by itself,

enquanto raça humana.

CA: Já voltaremos a isso daqui a pouco

that never replaced us; it made us stronger.

mas para continuar com a parte assustadora para algumas pessoas,

And I believe this new wave of AI will make us much, much stronger

o que parece assustador para as pessoas

as a human race.

CA: We'll come on to that a bit more,

é quando temos um computador que consegue alterar o seu próprio código

but just to continue with the scary part of this for some people,

e, assim, pode criar múltiplas cópias de si mesmo,

like, what feels like it gets scary for people is when you have

a computer that can, one, rewrite its own code,

e tentar uma série de diferentes versões de códigos,

possivelmente de forma aleatória até

e depois verificá-las, ver se atingiu um objetivo e melhorá-las.

so, it can create multiple copies of itself,

Digamos que o objetivo é ter um melhor desempenho num teste de inteligência.

try a bunch of different code versions,

possibly even at random,

Um computador que seja moderadamente bom nisso,

and then check them out and see if a goal is achieved and improved.

pode experimentar um milhão de versões.

So, say the goal is to do better on an intelligence test.

Pode encontrar a que seja melhor e repeti-la.

You know, a computer that's moderately good at that,

Portanto, a preocupação é que se obtenha algum tipo de efeito de fuga

you could try a million versions of that.

em que tudo corre bem numa tarde de quinta-feira

You might find one that was better,

e, quando chegares ao laboratório na sexta-feira de manhã,

and then, you know, repeat.

And so the concern is that you get some sort of runaway effect

dada a rapidez dos computadores e tudo isso,

where everything is fine on Thursday evening,

as coisas tenham ficado loucas e, de repente...

ST: Sim, diria que é uma possibilidade,

and you come back into the lab on Friday morning,

mas é uma possibilidade muito remota.

and because of the speed of computers and so forth,

Deixa-me explicar o que te ouvi dizer.

things have gone crazy, and suddenly --

No caso da AlphaGo, tivemos extamente o seguinte:

ST: I would say this is a possibility,

but it's a very remote possibility.

o computador jogava contra si mesmo

So let me just translate what I heard you say.

e aprendia novas regras.

O que a aprendizagem automática faz é modificar as regras.

In the AlphaGo case, we had exactly this thing:

É modificar o código.

the computer would play the game against itself

Mas penso que não há qualquer preocupação

and then learn new rules.

de que o AlphaGo conquiste o mundo.

And what machine learning is is a rewriting of the rules.

Eu nem sequer sei jogar xadrez.

It's the rewriting of code.

CA: Não, não, isso são coisas de uma área muito simples.

But I think there was absolutely no concern

that AlphaGo would take over the world.

Mas é possível imaginar, por exemplo,

It can't even play chess.

vimos um computador que quase parecia capaz

CA: No, no, no, but now, these are all very single-domain things.

de passar num teste de admissão à universidade.

But it's possible to imagine.

Não sabe ler e compreende no mesmo sentido que nós,

I mean, we just saw a computer that seemed nearly capable

mas certamente consegue absorver todo o texto

of passing a university entrance test,

e talvez ver mais padrões de significado.

that can kind of -- it can't read and understand in the sense that we can,

Não se dará o caso, à medida que isto se vai alargando,

but it can certainly absorb all the text

de poder haver um tipo diferente de efeito de fuga?

and maybe see increased patterns of meaning.

ST: Sinceramente, é aí que eu traço a linha.

Isn't there a chance that, as this broadens out,

Há essa possibilidade — não vou subestimá-la —

mas penso que é remota, não é uma coisa que me preocupe atualmente,

there could be a different kind of runaway effect?

ST: That's where I draw the line, honestly.

porque penso que a grande revolução está noutro lado.

And the chance exists -- I don't want to downplay it --

Tudo o que tem tido êxito na IA até à presente data

but I think it's remote, and it's not the thing that's on my mind these days,

tem sido extremamente especializado

e tem-se desenvolvido a partir duma simples ideia

because I think the big revolution is something else.

Everything successful in AI to the present date

que é uma quantidade maciça de dados.

A razão por que a AlphaGo funciona tão bem deve-se aos números enormes de jogos Go

has been extremely specialized,

and it's been thriving on a single idea,

e a AlphaGo não pode conduzir um carro nem pilotar um avião.

which is massive amounts of data.

O carro autónomo da Google ou o carro autónomo da Udacity

The reason AlphaGo works so well is because of massive numbers of Go plays,

prospera com quantidades enormes de dados e não consegue fazer mais nada.

and AlphaGo can't drive a car or fly a plane.

Nem sequer controla uma mota.

The Google self-driving car or the Udacity self-driving car

É uma função muito específica, num domínio específico,

e o mesmo é verdade para a aplicação do cancro.

thrives on massive amounts of data, and it can't do anything else.

Quase não tem havido progresso nessa coisa chamada “IA geral”,

It can't even control a motorcycle.

It's a very specific, domain-specific function,

em que vamos ter com a IA e dizemos:

“Inventa-me a relatividade especial ou a teoria das cordas”.

and the same is true for our cancer app.

There has been almost no progress on this thing called "general AI,"

Isso está totalmente na infância.

E quero sublinhar isto

where you go to an AI and say, "Hey, invent for me special relativity

porque vejo as preocupações e quero reconhecê-las.

or string theory."

Mas, se eu fosse pensar numa coisa, colocaria a questão

It's totally in the infancy.

The reason I want to emphasize this,

I see the concerns, and I want to acknowledge them.

“E se pudermos agarrar numa coisa repetitiva

But if I were to think about one thing,

“e a tornarmos 100 vezes mais eficaz?”

I would ask myself the question, "What if we can take anything repetitive

Acontece que há 300 anos, todos trabalhávamos na agricultura

fazíamos agricultura e fazíamos coisas repetitivas.

and make ourselves 100 times as efficient?"

Hoje, 75% das pessoas trabalham em escritórios

It so turns out, 300 years ago, we all worked in agriculture

e fazem coisas repetitivas.

Tornámo-nos macacos da folha de cálculo.

and did farming and did repetitive things.

E não é apenas a mão de obra de baixa qualidade.

Today, 75 percent of us work in offices

Somos dermatologistas a fazer coisas repetitivas,

and do repetitive things.

advogados a fazer coisas repetitivas.

We've become spreadsheet monkeys.

Penso que estamos em vias de podermos pegar na IA,

And not just low-end labor.

We've become dermatologists doing repetitive things,

mantermo-nos atentos

e ela torna-nos 10 ou 50 vezes mais eficazes nessas coisas repetitivas.

lawyers doing repetitive things.

I think we are at the brink of being able to take an AI,

É nisso que eu penso.

CA: Isso parece super interessante.

look over our shoulders,

and they make us maybe 10 or 50 times as effective in these repetitive things.

O processo de lá chegar parece assustador para algumas pessoas,

porque, assim que um computador consiga fazer uma coisa repetitiva,

That's what is on my mind.

CA: That sounds super exciting.

muito melhor do que o dermatologista,

The process of getting there seems a little terrifying to some people,

ou do que um condutor, em especial,

because once a computer can do this repetitive thing

é a coisa de que se fala tanto atualmente,

de repente, desaparecem milhões de empregos,

much better than the dermatologist

e um país entra em revolução

or than the driver, especially, is the thing that's talked about

antes mesmo de obtermos os aspetos mais gloriosos do que é possível.

so much now,

suddenly millions of jobs go,

ST: Pois, e isso é um problema, um grande problema,

and, you know, the country's in revolution

e ainda ontem de manhã foi referido por vários oradores convidados.

before we ever get to the more glorious aspects of what's possible.

Antes de eu aparecer aqui no palco,

ST: Yeah, and that's an issue, and it's a big issue,

confesso que sou uma pessoa positiva, otimista,

and it was pointed out yesterday morning by several guest speakers.

por isso vou dar-te uma ideia otimista.

Now, prior to me showing up onstage,

Pensa em ti mesmo, há 300 anos.

I confessed I'm a positive, optimistic person,

A Europa sobreviveu a 140 anos de guerras contínuas,

so let me give you an optimistic pitch,

which is, think of yourself back 300 years ago.

as pessoas não sabiam ler nem escrever,

não havia empregos como os de hoje,

Europe just survived 140 years of continuous war,

como banqueiro de investimentos, ou engenheiro de software, ou pivô de TV.

none of you could read or write,

Estávamos todos nos campos a trabalhar na agricultura.

there were no jobs that you hold today,

Depois aparece o Sebastian com uma máquina a vapor no bolso, a dizer:

like investment banker or software engineer or TV anchor.

“Olhem para isto, isto vai tornar-vos 100 vezes mais fortes,

We would all be in the fields and farming.

“para vocês poderem fazer outras coisas.”

Now here comes little Sebastian with a little steam engine in his pocket,

Nesses tempos, não havia um palco

mas tu e eu estávamos no estábulo, com as vacas,

saying, "Hey guys, look at this.

It's going to make you 100 times as strong, so you can do something else."

e tu dizes: “Estou muito preocupado,

“porque ordenho a minha vaca todos os dias e se a máquina fizer isso por mim?”

And then back in the day, there was no real stage,

but Chris and I hang out with the cows in the stable,

Eu refiro isto porque somos muito bons

em reconhecer o progresso do passado e os benefícios que nos trouxe

and he says, "I'm really concerned about it,

because I milk my cow every day, and what if the machine does this for me?"

como os iPhones ou os aviões, a eletricidade ou os medicamentos.

The reason why I mention this is,

Gostamos de viver até aos 80 anos, o que era impossível há 300 anos.

we're always good in acknowledging past progress and the benefit of it,

Mas já não aplicamos as mesmas regras ao futuro.

like our iPhones or our planes or electricity or medical supply.

We all love to live to 80, which was impossible 300 years ago.

Se olhar para o meu emprego, enquanto diretor executivo,

But we kind of don't apply the same rules to the future.

digo que 90% do meu trabalho é repetitivo,

não o aprecio,

gasto cerca de quatro horas por dia com emails estúpidos e repetitivos.

So if I look at my own job as a CEO,

I would say 90 percent of my work is repetitive,

Estou em pulgas para ter qualquer coisa que me ajude a ficar livre disto.

I don't enjoy it,

Porquê?

I spend about four hours per day on stupid, repetitive email.

Porque acho que todos nós somos loucamente criativos,

And I'm burning to have something that helps me get rid of this.

e a comunidade TED mais do que ninguém.

Mas o mesmo se passa com os operários.

Why?

Because I believe all of us are insanely creative;

Podemos ir ter com o empregado do hotel e beber um copo com ela/ele,

I think the TED community more than anybody else.

e, ao fim de uma hora, encontramos uma ideia criativa.

But even blue-collar workers; I think you can go to your hotel maid

O que isto proporciona é transformar a criatividade em ação.

and have a drink with him or her,

Por exemplo, e se pudéssemos criar uma Google num só dia?

and an hour later, you find a creative idea.

What this will empower is to turn this creativity into action.

E se pudéssemos sentar-nos com uma cerveja

e inventar o próximo Snapchat, o que quer que isso seja,

Like, what if you could build Google in a day?

e amanhã de manhã isso estiver pronto e a funcionar?

Isto não é ficção científica.

What if you could sit over beer and invent the next Snapchat,

O que vai acontecer é que já ficámos na História.

whatever it is,

Libertámos esta criatividade espantosa

and tomorrow morning it's up and running?

And that is not science fiction.

por acabarmos com a escravidão da agricultura

What's going to happen is,

e, mais tarde, claro, do trabalho fabril

we are already in history.

We've unleashed this amazing creativity

e inventámos muitas coisas.

Vai ser ainda melhor, na minha opinião.

by de-slaving us from farming

and later, of course, from factory work

E vai haver ótimos efeitos secundários.

Um desses efeitos secundários vai ser

and have invented so many things.

que coisas como alimentos e medicamentos,

It's going to be even better, in my opinion.

educação, habitação e transportes,

And there's going to be great side effects.

tudo isso será muito mais acessível para todos nós,

One of the side effects will be

that things like food and medical supply and education and shelter

não só para gente rica.

CA: Hum...

Quando Martin Ford argumentou que esta época é diferente

and transportation

will all become much more affordable to all of us,

porque a inteligência que usámos no passado

not just the rich people.

CA: Hmm.

para encontrar novas formas de ser

So when Martin Ford argued, you know, that this time it's different

será acompanhada ao mesmo ritmo

because the intelligence that we've used in the past

por computadores que se encarregarão dessas coisas,

o que estou a ouvir-te dizer é que se deve, não totalmente,

to find new ways to be

à criatividade humana.

will be matched at the same pace

by computers taking over those things,

Achas que isso é fundamentalmente diferente do tipo de criatividade

what I hear you saying is that, not completely,

que os computadores podem ter?

because of human creativity.

ST: Acredto plenamente, enquanto pessoa da IA

Do you think that that's fundamentally different from the kind of creativity

que nunca vi nenhum progresso real em criatividade

that computers can do?

ST: So, that's my firm belief as an AI person --

nem nenhum pensamento fora da caixa.

O que vejo neste momento — e é muito importante que as pessoas percebam,

that I haven't seen any real progress on creativity

porque a expressão “inteligência artificial”

é muito traiçoeira,

and out-of-the-box thinking.

e depois temos Steve Spielberg a lançar um filme

What I see right now -- and this is really important for people to realize,

em que, de repente, o computador é dono e senhor

mas, na verdade, é uma tecnologia

because the word "artificial intelligence" is so threatening,

que nos ajuda a fazer coisas repetitivas.

and then we have Steve Spielberg tossing a movie in,

O progresso tem sido inteiramente na área do repetitivo.

where all of a sudden the computer is our overlord,

Tem sido na análise de documentos jurídicos.

but it's really a technology.

It's a technology that helps us do repetitive things.

Tem sido na redação de contratos.

Tem sido no exame de raios X ao tórax.

And the progress has been entirely on the repetitive end.

Estas coisas são muito especializadas,

It's been in legal document discovery.

não vejo qual a grande ameaça para a Humanidade.

It's been contract drafting.

It's been screening X-rays of your chest.

Na verdade, enquanto pessoas,

temos de reconhecer, tornámo-nos super-humanos.

And these things are so specialized,

Fizemo-nos super-humanos.

I don't see the big threat of humanity.

Podemos atravessar o Atlântico em 11 horas.

In fact, we as people --

Podemos tirar um aparelho do bolso

I mean, let's face it: we've become superhuman.

e falar alto e bom som para a Austrália,

We've made us superhuman.

e em tempo real, obter uma resposta dessa pessoa.

We can swim across the Atlantic in 11 hours.

Isso não é possível fisicamente. Estamos a quebrar as leis da Física.

We can take a device out of our pocket

and shout all the way to Australia,

Quando dizemos e fazemos isto, lembramo-nos de tudo

and in real time, have that person shouting back to us.

o que dissemos e vimos,

recordamos todas as pessoas que foram boas para mim

That's physically not possible. We're breaking the rules of physics.

na fase inicial da minha doença de Alzheimer.

When this is said and done, we're going to remember everything

Desculpem, o que é que eu estava a dizer? Esqueci-me.

we've ever said and seen,

Teremos, provavelmente, um QI de 1000 ou mais.

you'll remember every person,

which is good for me in my early stages of Alzheimer's.

Deixará de haver aulas de ortografia para os nossos filhos,

Sorry, what was I saying? I forgot.

porque deixará de haver problemas de ortografia.

CA: (Laughs)

ST: We will probably have an IQ of 1,000 or more.

Deixará de haver o problema da matemática.

Eu penso que o que vai acontecer é que podemos ser super criativos.

There will be no more spelling classes for our kids,

E somos. Somos criativos.

because there's no spelling issue anymore.

É essa a nossa arma secreta.

There's no math issue anymore.

CA: Então, os empregos que vão desaparecer,

And I think what really will happen is that we can be super creative.

apesar de isso ser doloroso,

os seres humanos são capazes de mais do que essas tarefas.

And we are. We are creative.

That's our secret weapon.

É esse o sonho.

O sonho é que os seres humanos se elevem a um novo nível de poder

CA: So the jobs that are getting lost,

in a way, even though it's going to be painful,

e de descoberta.

humans are capable of more than those jobs.

É esse o sonho.

This is the dream.

ST: E pensa nisto:

The dream is that humans can rise to just a new level of empowerment

se olharmos para a História da Humanidade,

que pode ter, sei lá — 60 a 100 000 anos de idade —

and discovery.

That's the dream.

quase tudo que apreciamos, em termos de invenção,

ST: And think about this:

if you look at the history of humanity,

de tecnologia, das coisas que construímos,

that might be whatever -- 60-100,000 years old, give or take --

tem sido inventado nos últimos 150 anos.

almost everything that you cherish in terms of invention,

Se pensarmos no livro e na roda, são um pouco mais velhos.

of technology, of things we've built,

Ou no machado.

has been invented in the last 150 years.

Mas o telemóvel, os sapatos de ténis,

estas cadeiras, o fabrico moderno, a penicilina,

If you toss in the book and the wheel, it's a little bit older.

as coisas que apreciamos.

Or the axe.

Isso, para mim, significa

But your phone, your sneakers,

these chairs, modern manufacturing, penicillin --

que nos próximos 150 anos vamos encontrar mais coisas.

the things we cherish.

Com efeito, na minha opinião, o ritmo das invenções subiu, não desceu.

Now, that to me means

Penso que ainda só foi inventado 1% das coisas interessantes.

the next 150 years will find more things.

In fact, the pace of invention has gone up, not gone down, in my opinion.

Anda não curamos o cancro.

Não temos carros voadores... ainda. Espero vir a mudar isso.

I believe only one percent of interesting things have been invented yet. Right?

Isso costumava ser um exemplo que fazia rir as pessoas.

É cómico, não é? Trabalhar secretamente em carros voadores.

We haven't cured cancer.

We don't have flying cars -- yet. Hopefully, I'll change this.

Ainda não vivemos o dobro.

That used to be an example people laughed about. (Laughs)

Não temos aquele implante mágico no cérebro

que nos dá as informações que queremos.

It's funny, isn't it? Working secretly on flying cars.

E podem ficar chocados com isso,

We don't live twice as long yet. OK?

mas, garanto-vos que, quando o tiverem, vão adorá-lo.

We don't have this magic implant in our brain

Pelo menos, é o que espero.

É um bocado assustador, eu sei.

that gives us the information we want.

Há tantas coisas que ainda não inventámos

And you might be appalled by it,

but I promise you, once you have it, you'll love it.

e que penso que vamos inventar.

Não temos escudos gravitacionais.

I hope you will.

Não podemos transportar-nos de um local para o outro.

It's a bit scary, I know.

Isso parece ridículo, mas há 200 anos,

There are so many things we haven't invented yet

os especialistas eram de opinião que nunca poderíamos voar,

that I think we'll invent.

We have no gravity shields.

e mesmo há 120 anos.

We can't beam ourselves from one location to another.

E, se nos movêssemos mais depressa do que podíamos correr,

That sounds ridiculous,

morreríamos instantaneamente.

but about 200 years ago,

experts were of the opinion that flight wouldn't exist,

Por isso, quem diz que temos razão

quando dizemos que não é possível teletransportar uma pessoa para Marte?

even 120 years ago,

and if you moved faster than you could run,

CA: Sebastian, muito obrigado

you would instantly die.

pela tua visão extremamente inspiradora e pelo teu brilhantismo.

So who says we are correct today that you can't beam a person

Obrigado, Sebastian Thrun.

from here to Mars?

(Aplausos)

CA: Sebastian, thank you so much

for your incredibly inspiring vision and your brilliance.

Thank you, Sebastian Thrun.

That was fantastic. (Applause)