What Is an AI Anyway? | Mustafa Suleyman | TED

Tradutor: Claudio Chagas

I want to tell you what I see coming.

Eu quero te dizer o que eu vejo chegando.

I've been lucky enough to be working on AI for almost 15 years now.

Tenho a sorte de trabalhar com IA há quase 15 anos.

Back when I started, to describe it as fringe would be an understatement.

Quando comecei, descrevê-la como marginal seria um eufemismo.

Researchers would say, “No, no, we’re only working on machine learning.”

Os pesquisadores diriam: “Não, não, apenas focamos no aprendizado de máquina”.

Because working on AI was seen as way too out there.

Porque trabalhar com IA era visto como algo fora do comum.

In 2010, just the very mention of the phrase “AGI,”

Em 2010, apenas a simples menção da frase “AGI”,

artificial general intelligence,

artificial general intelligence,

would get you some seriously strange looks

resultaria em alguns olhares estranhos

and even a cold shoulder.

e até mesmo um certo desprezo.

"You're actually building AGI?" people would say.

“Você está realmente construindo a AGI?” as pessoas diriam.

"Isn't that something out of science fiction?"

“Isso não é algo saído da ficção científica?”

People thought it was 50 years away or 100 years away,

As pessoas pensavam que faltavam 50 anos ou 100 anos,

if it was even possible at all.

se é que era possível.

Talk of AI was, I guess, kind of embarrassing.

Falar sobre IA era, eu acho, meio embaraçoso.

People generally thought we were weird.

As pessoas nos consideravam estranhos.

And I guess in some ways we kind of were.

Penso que, de alguma maneira, éramos.

It wasn't long, though, before AI started beating humans

No entanto, logo a IA começou a superar os humanos

at a whole range of tasks

em uma série de tarefas

that people previously thought were way out of reach.

que as pessoas antes achavam que estavam fora de alcance.

Understanding images,

Compreender imagens,

translating languages,

traduzir idiomas,

transcribing speech,

transcrever discursos,

playing Go and chess

jogar Go e xadrez

and even diagnosing diseases.

e até diagnosticar doenças.

People started waking up to the fact

As pessoas começaram a perceber

that AI was going to have an enormous impact,

que a IA teria um impacto enorme

and they were rightly asking technologists like me

e, com razão, estavam fazendo perguntas bem difíceis

some pretty tough questions.

a tecnólogos como eu.

Is it true that AI is going to solve the climate crisis?

É verdade que a IA vai resolver a crise climática?

Will it make personalized education available to everyone?

Isso disponibilizará educação personalizada para todos?

Does it mean we'll all get universal basic income

Isso significa receberemos renda básica universal

and we won't have to work anymore?

e não precisaremos mais trabalhar?

Should I be afraid?

Eu deveria ter medo?

What does it mean for weapons and war?

O que isso significa para armas e guerra?

And of course, will China win?

E, claro, a China vencerá?

Are we in a race?

Estamos em uma corrida?

Are we headed for a mass misinformation apocalypse?

Estamos caminhando para um apocalipse de desinformação em massa?

All good questions.

Todas boas perguntas.

But it was actually a simpler

Mas foi uma pergunta

and much more kind of fundamental question that left me puzzled.

mais simples e fundamental que me deixou confuso.

One that actually gets to the very heart of my work every day.

Uma que realmente atinge o cerne do meu trabalho diariamente.

One morning over breakfast,

Certa manhã, durante o café da manhã,

my six-year-old nephew Caspian was playing with Pi,

meu sobrinho Caspian, de seis anos, estava brincando com Pi,

the AI I created at my last company, Inflection.

a IA que criei na minha última empresa, a Inflection.

With a mouthful of scrambled eggs,

Com a boca cheia de ovos mexidos,

he looked at me plain in the face and said,

ele me olhou diretamente nos olhos e disse:

"But Mustafa, what is an AI anyway?"

“Mas Mustafa, o que é uma IA afinal?”

He's such a sincere and curious and optimistic little guy.

Ele é um garotinho tão sincero, curioso e otimista.

He'd been talking to Pi about how cool it would be if one day in the future,

Ele estava conversando com Pi sobre como seria legal se um dia, no futuro,

he could visit dinosaurs at the zoo.

ele pudesse ver dinossauros no zoológico.

And how he could make infinite amounts of chocolate at home.

E como ele poderia fazer quantidades infinitas de chocolate em casa.

And why Pi couldn’t yet play I Spy.

E por que Pi ainda não podia jogar I Spy.

"Well," I said, "it's a clever piece of software

“Bem”, eu disse, “é um software inteligente

that's read most of the text on the open internet,

que lê a maior parte do texto na Internet aberta

and it can talk to you about anything you want."

e pode falar com você sobre o que você quiser”.

"Right.

“Certo.

So like a person then?"

Então, é como uma pessoa?”

I was stumped.

Eu estava perplexo.

Genuinely left scratching my head.

Eu realmente cocei minha cabeça.

All my boring stock answers came rushing through my mind.

Todas as minhas respostas chatas surgiram em minha mente.

"No, but AI is just another general-purpose technology,

“Não, a IA é apenas outra tecnologia de uso geral,

like printing or steam."

assim como a impressão ou vapor”.

It will be a tool that will augment us

Será uma ferramenta que nos aperfeiçoará

and make us smarter and more productive.

e nos fará mais inteligentes e produtivos.

And when it gets better over time,

E quando melhorar com o tempo,

it'll be like an all-knowing oracle

será como um oráculo onisciente

that will help us solve grand scientific challenges."

que nos ajudará a resolver grandes desafios científicos.”

You know, all of these responses started to feel, I guess,

Sabe, todas essas respostas começaram a parecer, eu acho,

a little bit defensive.

um pouco defensivas.

And actually better suited to a policy seminar

Mais apropriadas em um seminário sobre política

than breakfast with a no-nonsense six-year-old.

do que em um café da manhã com uma criança de seis anos.

"Why am I hesitating?" I thought to myself.

“Por que estou hesitando?” Eu pensei comigo mesmo.

You know, let's be honest.

Você sabe, vamos ser honestos.

My nephew was asking me a simple question

Meu sobrinho me fez uma pergunta simples

that those of us in AI just don't confront often enough.

que aqueles de nós na área de IA raramente discutimos.

What is it that we are actually creating?

O que estamos realmente criando?

What does it mean to make something totally new,

O que significa fazer algo totalmente novo,

fundamentally different to any invention that we have known before?

fundamentalmente diferente de qualquer invenção que conhecemos antes?

It is clear that we are at an inflection point

É claro que estamos em um ponto de inflexão

in the history of humanity.

na história da humanidade.

On our current trajectory,

Em nossa trajetória atual,

we're headed towards the emergence of something

estamos caminhando para o surgimento de algo

that we are all struggling to describe,

que todos estamos lutando para descrever,

and yet we cannot control what we don't understand.

mas não podemos controlar o que não entendemos.

And so the metaphors,

Então, as metáforas,

the mental models,

os modelos mentais,

the names, these all matter

os nomes, tudo isso importa

if we’re to get the most out of AI whilst limiting its potential downsides.

se quisermos tirar o máximo proveito da IA e minimizar suas desvantagens.

As someone who embraces the possibilities of this technology,

Como alguém que abraça as possibilidades dessa tecnologia,

but who's also always cared deeply about its ethics,

mas que também sempre se preocupou profundamente com sua ética,

we should, I think,

acho que devemos

be able to easily describe what it is we are building.

ser capazes de descrever facilmente o que estamos construindo.

And that includes the six-year-olds.

E isso inclui as crianças de seis anos.

So it's in that spirit that I offer up today the following metaphor

Então, é com esse espírito que ofereço hoje a seguinte metáfora

for helping us to try to grapple with what this moment really is.

para nos ajudar a tentar lidar com o que esse momento realmente é.

I think AI should best be understood

Acho que a IA deve ser melhor entendida

as something like a new digital species.

como uma nova espécie digital.

Now, don't take this too literally,

Agora, não leve isso ao pé da letra.

but I predict that we'll come to see them as digital companions,

mas prevejo que a veremos como companheiros digitais,

new partners in the journeys of all our lives.

novos parceiros ao longo das nossas jornadas.

Whether you think we’re on a 10-, 20- or 30-year path here,

Quer você acredite que isso acontecerá em 10, 20 ou 30 anos,

this is, in my view, the most accurate and most fundamentally honest way

esta é, na minha opinião, a a forma mais precisa e honesta

of describing what's actually coming.

de descrever o que realmente está por vir.

And above all, it enables everybody to prepare for

E, acima de tudo, permite que todos se preparem

and shape what comes next.

e imaginem o que vem a seguir.

Now I totally get, this is a strong claim,

Entendo que é uma declaração forte,

and I'm going to explain to everyone as best I can why I'm making it.

e explicarei da melhor forma possível porque estou fazendo isso.

But first, let me just try to set the context.

Mas primeiro, deixe-me tentar definir o contexto.

From the very first microscopic organisms,

A vida na Terra remonta a bilhões de anos,

life on Earth stretches back billions of years.

desde os primeiros organismos microscópicos.

Over that time, life evolved and diversified.

Durante esse tempo, a vida evoluiu e se diversificou.

Then a few million years ago, something began to shift.

Então, alguns milhões de anos atrás, algo começou a mudar.

After countless cycles of growth and adaptation,

Depois de incontáveis ciclos de crescimento e adaptação,

one of life’s branches began using tools, and that branch grew into us.

um dos ramos da vida começou a usar ferramentas, e se transformou em nós.

We went on to produce a mesmerizing variety of tools,

Passamos a produzir uma variedade fascinante de ferramentas,

at first slowly and then with astonishing speed,

primeiro lentamente e depois com uma velocidade surpreendente,

we went from stone axes and fire

passamos de machados de pedra e fogo

to language, writing and eventually industrial technologies.

para a linguagem, a escrita e, por fim, as tecnologias industriais.

One invention unleashed a thousand more.

Uma invenção desencadeou mais mil.

And in time, we became homo technologicus.

E com o tempo, viramos homo technologicus.

Around 80 years ago,

Há cerca de 80 anos,

another new branch of technology began.

outro novo ramo da tecnologia começou.

With the invention of computers,

Com a invenção dos computadores,

we quickly jumped from the first mainframes and transistors

rapidamente passamos dos primeiros mainframes e transistores

to today's smartphones and virtual-reality headsets.

para os smartphones e fones de ouvido de realidade virtual atuais.

Information, knowledge, communication, computation.

Informação, conhecimento, comunicação, computação.

In this revolution,

Nessa revolução,

creation has exploded like never before.

a criação explodiu como nunca antes.

And now a new wave is upon us.

E agora uma nova onda está chegando.

Artificial intelligence.

Inteligência artificial.

These waves of history are clearly speeding up,

Essas ondas da história estão se acelerando,

as each one is amplified and accelerated by the last.

pois cada uma é amplificada e acelerada pela anterior.

And if you look back,

E se você refletir,

it's clear that we are in the fastest

fica claro que estamos na onda mais rápida

and most consequential wave ever.

e mais importante de todas.

The journeys of humanity and technology are now deeply intertwined.

As jornadas da humanidade e da tecnologia agora estão profundamente interligadas.

In just 18 months,

Em apenas 18 meses,

over a billion people have used large language models.

mais de um bilhão de pessoas usaram grandes modelos de linguagem.

We've witnessed one landmark event after another.

Testemunhamos um evento marcante após o outro.

Just a few years ago, people said that AI would never be creative.

Há apenas alguns anos, as pessoas diziam que a IA nunca seria criativa.

And yet AI now feels like an endless river of creativity,

No entanto, a IA agora parece um rio infinito de criatividade,

making poetry and images and music and video that stretch the imagination.

criando poesia, imagens, músicas e vídeos que estimulam a imaginação.

People said it would never be empathetic.

Diziam que ela nunca seria empática.

And yet today, millions of people enjoy meaningful conversations with AIs,

No entanto, hoje, milhões de pessoas têm conversas significativas com IAs,

talking about their hopes and dreams

falando sobre suas esperanças e sonhos

and helping them work through difficult emotional challenges.

e ajudando-as a superar desafios emocionais difíceis.

AIs can now drive cars,

As IAs agora podem dirigir carros,

manage energy grids

gerenciar redes de energia

and even invent new molecules.

e até mesmo inventar novas moléculas.

Just a few years ago, each of these was impossible.

Apenas alguns anos atrás, cada uma dessas hipóteses era impossível.

And all of this is turbocharged by spiraling exponentials of data

E tudo isso é turbinado pelo aumento exponencial de dados

and computation.

e computação.

Last year, Inflection 2.5, our last model,

No ano passado, Inflection 2.5, nosso último modelo,

used five billion times more computation

usou cinco bilhões de vezes mais computação

than the DeepMind AI that beat the old-school Atari games

do que a IA da DeepMind, que venceu os jogos tradicionais da Atari

just over 10 years ago.

há pouco mais de 10 anos.

That's nine orders of magnitude more computation.

São nove ordens de magnitude a mais de computação.

10x per year,

10 vezes por ano,

every year for almost a decade.

todos os anos por quase uma década.

Over the same time, the size of these models has grown

Simultaneamente, o tamanho desses modelos aumentou

from first tens of millions of parameters to then billions of parameters,

de milhões de parâmetros para, em seguida, bilhões de parâmetros

and very soon, tens of trillions of parameters.

e, muito em breve, dezenas de trilhões de parâmetros.

If someone did nothing but read 24 hours a day for their entire life,

Se alguém não fizesse nada além de ler 24 horas por dia durante toda a vida,

they'd consume eight billion words.

consumiria oito bilhões de palavras.

And of course, that's a lot of words.

E, claro, são muitas palavras.

But today, the most advanced AIs consume more than eight trillion words

Mas hoje, as IAs mais avançadas consomem mais de oito trilhões de palavras

in a single month of training.

em um único mês de treinamento.

And all of this is set to continue.

E tudo isso está pronto para continuar.

The long arc of technological history is now in an extraordinary new phase.

A longa história tecnológica está agora entrando em uma nova fase.

So what does this mean in practice?

Então, o que isso significa na prática?

Well, just as the internet gave us the browser

Bem, assim como a Internet nos deu o navegador

and the smartphone gave us apps,

e o smartphone nos deu aplicativos,

the cloud-based supercomputer is ushering in a new era

o supercomputador baseado em nuvem está inaugurando uma nova era

of ubiquitous AIs.

de IAs onipresentes.

Everything will soon be represented by a conversational interface.

Em breve, tudo será representado por uma interface conversacional.

Or, to put it another way, a personal AI.

Ou, dito de outra forma, uma IA pessoal.

And these AIs will be infinitely knowledgeable,

E essas IAs terão um conhecimento infinito

and soon they'll be factually accurate and reliable.

e, em breve, serão factualmente precisas e confiáveis.

They'll have near-perfect IQ.

Eles terão um QI quase perfeito.

They’ll also have exceptional EQ.

Eles também terão um QE excepcional.

They’ll be kind, supportive, empathetic.

Eles serão gentis, solidárias e empáticas.

These elements on their own would be transformational.

Esses elementos por si só seriam transformadores.

Just imagine if everybody had a personalized tutor in their pocket

Imagine se todos tivessem um professor personalizado no bolso

and access to low-cost medical advice.

e acesso a conselhos médicos acessíveis.

A lawyer and a doctor,

Um advogado e um médico,

a business strategist and coach --

um estrategista de negócios e coach --

all in your pocket 24 hours a day.

tudo no seu bolso 24 horas por dia.

But things really start to change when they develop what I call AQ,

Mas tudo começou a mudar quando eles implementam o que eu chamo de QA,

their “actions quotient.”

seu “quociente de ações”.

This is their ability to actually get stuff done

Essa é a capacidade delas de realmente fazer coisas

in the digital and physical world.

no mundo digital e físico.

And before long, it won't just be people that have AIs.

E em pouco tempo, não serão apenas as pessoas que terão IAs.

Strange as it may sound, every organization,

Por mais estranho que pareça, todas as organizações,

from small business to nonprofit to national government,

de pequenas empresas a organizações não governamentais e governos.

each will have their own.

cada uma terá a sua própria.

Every town, building and object

Cada cidade, edifício e objeto

will be represented by a unique interactive persona.

será representado por uma personalidade interativa única.

And these won't just be mechanistic assistants.

E esses não serão apenas assistentes mecanicistas.

They'll be companions, confidants,

Eles serão companheiros, confidentes,

colleagues, friends and partners,

colegas, amigos e parceiros,

as varied and unique as we all are.

tão variados e únicos quanto todos nós.

At this point, AIs will convincingly imitate humans at most tasks.

Nesse ponto, as IAs imitarão os humanos de forma convincente em muitas tarefas.

And we'll feel this at the most intimate of scales.

E vivenciaremos isso em uma escala muito pessoal.

An AI organizing a community get-together for an elderly neighbor.

Uma IA organizando uma reunião comunitária para um vizinho idoso.

A sympathetic expert helping you make sense of a difficult diagnosis.

Um especialista simpático que ajuda você a entender um diagnóstico difícil.

But we'll also feel it at the largest scales.

Mas também vivenciaremos isso em grandes escalas.

Accelerating scientific discovery,

Acelerando a descoberta científica,

autonomous cars on the roads,

carros autônomos nas estradas,

drones in the skies.

drones nos céus.

They'll both order the takeout and run the power station.

Elas pedirão a comida e gerenciarão a estação de energia.

They’ll interact with us and, of course, with each other.

Elas vão interagir conosco e, é claro, umas com as outras.

They'll speak every language,

Elas falarão todos os idiomas,

take in every pattern of sensor data,

captarão todos os dados de sensores,

sights, sounds,

imagens, sons,

streams and streams of information,

enxurradas e enxurradas de informação,

far surpassing what any one of us could consume in a thousand lifetimes.

superando em muito o que qualquer um de nós poderia consumir em mil vidas.

So what is this?

Então, o que é isso?

What are these AIs?

O que são essas AIs?

If we are to prioritize safety above all else,

Se quisermos priorizar a segurança acima de tudo,

to ensure that this new wave always serves and amplifies humanity,

para garantir que essa nova onda sempre sirva e amplifique a humanidade,

then we need to find the right metaphors for what this might become.

precisamos encontrar as metáforas certas para descrever o potencial disso.

For years, we in the AI community, and I specifically,

Durante anos, nós da comunidade de IA, e eu especificamente,

have had a tendency to refer to this as just tools.

tendemos a nos referir a isso apenas como ferramentas.

But that doesn't really capture what's actually happening here.

Mas essa explicação não reflete o que está acontecendo aqui.

AIs are clearly more dynamic,

As IAs são claramente mais dinâmicas,

more ambiguous, more integrated

mais ambíguas, mais integradas

and more emergent than mere tools,

e mais emergentes que meras ferramentas,

which are entirely subject to human control.

que estão inteiramente sujeitas ao controle humano.

So to contain this wave,

Então, para conter essa onda,

to put human agency at its center

colocar a ação humana no centro

and to mitigate the inevitable unintended consequences

e mitigar os inevitáveis efeitos não intencionais

that are likely to arise,

que provavelmente surgirão,

we should start to think about them as we might a new kind of digital species.

devemos começar a pensar nelas como se fossem um novo tipo de espécie digital.

Now it's just an analogy,

Agora, isso é só uma analogia,

it's not a literal description, and it's not perfect.

não é uma descrição literal e não é perfeita.

For a start, they clearly aren't biological in any traditional sense,

Para começar, elas claramente não são biológicas em nenhum sentido tradicional,

but just pause for a moment

mas parem por um momento

and really think about what they already do.

e realmente pensem sobre o que elas já fazem.

They communicate in our languages.

Elas se comunicam em nossos idiomas.

They see what we see.

Elas veem o que nós vemos.

They consume unimaginably large amounts of information.

Elas consomem quantidades enormes de informações.

They have memory.

Elas têm memória.

They have personality.

Elas têm personalidade.

They have creativity.

Elas têm criatividade.

They can even reason to some extent and formulate rudimentary plans.

Elas podem até mesmo raciocinar até certo ponto e formular planos simples.

They can act autonomously if we allow them.

Eles podem agir de forma autônoma se permitirmos.

And they do all this at levels of sophistication

E elas fazem tudo isso em níveis de sofisticação

that is far beyond anything that we've ever known from a mere tool.

muito além de qualquer coisa que já conhecemos de uma mera ferramenta.

And so saying AI is mainly about the math or the code

E assim, dizer que a IA trata principalmente de matemática ou código

is like saying we humans are mainly about carbon and water.

é como dizer nós os seres humanos somos principalmente carbono e água.

It's true, but it completely misses the point.

Sim, é verdade, mas não aborda o ponto principal.

And yes, I get it, this is a super arresting thought

E sim, eu entendo, este é um pensamento super intrigante

but I honestly think this frame helps sharpen our focus on the critical issues.

mas acho que essa estrutura ajuda a aprimorar o foco nas questões críticas.

What are the risks?

Quais são os riscos?

What are the boundaries that we need to impose?

Quais são os limites que precisamos impor?

What kind of AI do we want to build or allow to be built?

Que tipo de IA queremos criar ou permitir que seja criada?

This is a story that's still unfolding.

Esta é uma história em andamento.

Nothing should be accepted as a given.

Nada deve ser dado como definitivo.

We all must choose what we create.

Todos nós devemos escolher o que criamos.

What AIs we bring into the world, or not.

Quais IAs trazemos para o mundo, ou não.

These are the questions for all of us here today,

Essas são as perguntas para todos nós aqui hoje,

and all of us alive at this moment.

e para todos nós vivos neste momento.

For me, the benefits of this technology are stunningly obvious,

Para mim, os benefícios dessa tecnologia são incrivelmente óbvios

and they inspire my life's work every single day.

e inspiram o trabalho da minha vida todos os dias.

But quite frankly, they'll speak for themselves.

Mas, francamente, eles falarão por si mesmos.

Over the years, I've never shied away from highlighting risks

Ao longo dos anos, nunca me esquivei de destacar riscos

and talking about downsides.

e falar sobre desvantagens.

Thinking in this way helps us focus on the huge challenges

Pensar dessa maneira nos ajuda a focar nos enormes desafios

that lie ahead for all of us.

que temos pela frente.

But let's be clear.

Mas sejamos claros.

There is no path to progress

Não existe progresso

where we leave technology behind.

se deixarmos a tecnologia para trás.

The prize for all of civilization is immense.

O prêmio para toda a civilização é imenso.

We need solutions in health care and education, to our climate crisis.

Precisamos de soluções em saúde e educação, para nossa crise climática.

And if AI delivers just a fraction of its potential,

E se a IA entregar apenas uma fração de seu potencial,

the next decade is going to be the most productive in human history.

a próxima década será a mais produtiva da história da humanidade.

Here's another way to think about it.

Aqui está outra perspectiva.

In the past,

No passado,

unlocking economic growth often came with huge downsides.

desbloquear o crescimento econômico geralmente vinha com grandes desvantagens.

The economy expanded as people discovered new continents

A economia cresceu com a descoberta de novos continentes.

and opened up new frontiers.

e abriram novas fronteiras.

But they colonized populations at the same time.

Mas colonizaram populações ao mesmo tempo.

We built factories,

Construímos fábricas,

but they were grim and dangerous places to work.

mas eram lugares sombrios e perigosos para se trabalhar.

We struck oil,

Encontramos petróleo,

but we polluted the planet.

mas poluímos o planeta.

Now because we are still designing and building AI,

Agora, como ainda estamos projetando e construindo a IA,

we have the potential and opportunity to do it better,

temos o potencial e a oportunidade de fazê-lo melhor,

radically better.

radicalmente melhor.

And today, we're not discovering a new continent

E hoje, não estamos descobrindo um novo continente

and plundering its resources.

e saqueando seus recursos.

We're building one from scratch.

Estamos construindo um do zero.

Sometimes people say that data or chips are the 21st century’s new oil,

Às vezes, as pessoas dizem que dados ou chips são o novo petróleo do século 21,

but that's totally the wrong image.

mas essa é uma ideia totalmente errada.

AI is to the mind

A IA é para a mente

what nuclear fusion is to energy.

o que a fusão nuclear é para a energia.

Limitless, abundant,

Ilimitada, abundante,

world-changing.

transformadora do mundo.

And AI really is different,

E a IA é realmente diferente,

and that means we have to think about it creatively and honestly.

e isso significa que temos que pensar nisso de forma criativa e honesta.

We have to push our analogies and our metaphors

Temos que levar nossas analogias e metáforas

to the very limits

ao limite para podermos lidar

to be able to grapple with what's coming.

com o que está por vir.

Because this is not just another invention.

Porque isso não é apenas mais uma invenção.

AI is itself an infinite inventor.

A própria IA é uma inventora infinita.

And yes, this is exciting and promising and concerning

E sim, isso é empolgante, promissor, preocupante

and intriguing all at once.

e intrigante ao mesmo tempo.

To be quite honest, it's pretty surreal.

Para ser sincero, é muito surreal.

But step back,

Mas recue um pouco,

see it on the long view of glacial time,

veja isso no longo prazo da era glacial,

and these really are the very most appropriate metaphors that we have today.

e essas são realmente as metáforas mais apropriadas que temos hoje.

Since the beginning of life on Earth,

Desde o início da vida na Terra,

we've been evolving, changing

estamos evoluindo, mudando

and then creating everything around us in our human world today.

e criando tudo ao nosso redor em nosso mundo humano hoje.

And AI isn't something outside of this story.

E a IA não é algo fora dessa história.

In fact, it's the very opposite.

Na verdade, é exatamente o oposto.

It's the whole of everything that we have created,

É o conjunto de tudo que criamos,

distilled down into something that we can all interact with

transformado em algo com o qual todos podemos interagir

and benefit from.

e nos beneficiar.

It's a reflection of humanity across time,

É um reflexo da humanidade ao longo do tempo

and in this sense,

e, nesse sentido,

it isn't a new species at all.

não é uma espécie nova.

This is where the metaphors end.

É aqui que as metáforas terminam.

Here's what I'll tell Caspian next time he asks.

Isso que direi ao Caspian quando perguntar novamente.

AI isn't separate.

A IA não está separada.

AI isn't even in some senses, new.

A IA nem mesmo é, em alguns aspectos, algo novo.

AI is us.

A IA somos nós.

It's all of us.

Somos todos nós.

And this is perhaps the most promising and vital thing of all

E essa talvez seja a coisa mais promissora e vital de todas

that even a six-year-old can get a sense for.

que até mesmo uma criança de seis anos pode entender.

As we build out AI,

Ao desenvolvermos a IA,

we can and must reflect all that is good,

Devemos refletir sobre tudo o que é bom.

all that we love,

tudo o que amamos,

all that is special about humanity:

tudo o que é especial sobre a humanidade:

our empathy, our kindness,

nossa empatia, nossa gentileza,

our curiosity and our creativity.

nossa curiosidade e nossa criatividade.

This, I would argue, is the greatest challenge of the 21st century,

Eu diria que esse é o maior desafio do século 21,

but also the most wonderful,

mas também a oportunidade mais maravilhosa,

inspiring and hopeful opportunity for all of us.

inspiradora e esperançosa para todos nós.

Thank you.

Obrigado

(Applause)

(Aplausos)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Obrigado Mustafa.

It's an amazing vision and a super powerful metaphor.

É uma visão incrível e uma metáfora superpoderosa.

You're in an amazing position right now.

Você está em uma posição incrível agora.

I mean, you were connected at the hip

Digo, você está totalmente conectado

to the amazing work happening at OpenAI.

ao incrível trabalho realizado na OpenAI.

You’re going to have resources made available,

Você terá recursos disponibilizados,

there are reports of these giant new data centers,

há relatórios desses novos data centers gigantescos,

100 billion dollars invested and so forth.

100 bilhões de dólares investidos e coisas do tipo.

And a new species can emerge from it.

E uma nova espécie pode emergir disso.

I mean, in your book,

Quero dizer, em seu livro,

you did, as well as painting an incredible optimistic vision,

você foi, além de descrever uma visão otimista incrível,

you were super eloquent on the dangers of AI.

você foi muito eloquente sobre os perigos da IA.

And I'm just curious, from the view that you have now,

Eu só estou curioso, do ponto de vista que você tem agora,

what is it that most keeps you up at night?

o que mais o mantém acordado à noite?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Suleyman: Acho que o grande risco é nos prendermos

in what I call the pessimism aversion trap.

na armadilha de aversão ao pessimismo.

You know, we have to have the courage to confront

Nós temos que ter a coragem de enfrentar

the potential of dark scenarios

o potencial de cenários sombrios

in order to get the most out of all the benefits that we see.

para tirar o máximo proveito de todos os benefícios que vemos.

So the good news is that if you look at the last two or three years,

Então, a boa notícia é que, se você olhar para os últimos dois ou três anos,

there have been very, very few downsides, right?

houve muito, muito poucas desvantagens, certo?

It’s very hard to say explicitly what harm an LLM has caused.

É muito difícil dizer explicitamente quais danos um LLM causou.

But that doesn’t mean that that’s what the trajectory is going to be

Mas isso não significa que essa será a trajetória

over the next 10 years.

nos próximos 10 anos.

So I think if you pay attention to a few specific capabilities,

Então, se você prestar atenção a algumas capacidades específicas,

take for example, autonomy.

considere, por exemplo, a autonomia.

Autonomy is very obviously a threshold

A autonomia é, obviamente, um limite

over which we increase risk in our society.

que, ao ser rompido, aumenta o risco em nossa sociedade.

And it's something that we should step towards very, very closely.

E é algo que devemos seguir muito, muito de perto.

The other would be something like recursive self-improvement.

O outro seria algo como autoaperfeiçoamento cíclico.

If you allow the model to independently self-improve,

Se você permitir que o modelo se autoaperfeiçoe de forma independente,

update its own code,

atualize seu próprio código,

explore an environment without oversight, and, you know,

explore um ambiente sem supervisão e, você sabe,

without a human in control to change how it operates,

sem um humano no controle para mudar a forma como ele opera,

that would obviously be more dangerous.

isso obviamente seria mais perigoso.

But I think that we're still some way away from that.

Mas acho que ainda estamos um pouco longe disso.

I think it's still a good five to 10 years before we have to really confront that.

Acho que ainda levará de cinco a dez anos para enfrentarmos isso de fato.

But it's time to start talking about it now.

Mas já é hora de começar a falar sobre isso.

CA: A digital species, unlike any biological species,

CA: Diferente das espécies biológicas as digitais

can replicate not in nine months,

podem se replicar não em nove meses,

but in nine nanoseconds,

mas em nove nanossegundos,

and produce an indefinite number of copies of itself,

e produzir um número indefinido de cópias de si mesma,

all of which have more power than we have in many ways.

todas com mais poder do que nós em muitos aspectos.

I mean, the possibility for unintended consequences seems pretty immense.

Quero dizer, a possibilidade de efeitos não intencionais parece muito grande.

And isn't it true that if a problem happens,

E não é verdade que, se um problema acontecer,

it could happen in an hour?

ele pode acontecer em uma hora?

MS: No.

MS: Não.

That is really not true.

Isso realmente não é verdade.

I think there's no evidence to suggest that.

Acho que não há evidências que sugiram isso.

And I think that, you know,

E eu acho que, você sabe,

that’s often referred to as the “intelligence explosion.”

isso geralmente é chamado de “explosão de inteligência”.

And I think it is a theoretical, hypothetical maybe

E eu acho que seja uma possibilidade teórica, hipotética,

that we're all kind of curious to explore,

que estamos meio curiosos para explorar,

but there's no evidence that we're anywhere near anything like that.

mas não há evidências de que estejamos perto de algo assim.

And I think it's very important that we choose our words super carefully.

E acho muito importante escolhermos nossas palavras com muito cuidado.

Because you're right, that's one of the weaknesses of the species framing,

Você está correto. Essa é uma fraqueza comum na formação das espécies:

that we will design the capability for self-replication into it

projetarmos a capacidade de autorreplicação nelas

if people choose to do that.

se as pessoas optarem por fazê-lo.

And I would actually argue that we should not,

E eu realmente diria que não devemos,

that would be one of the dangerous capabilities

essa seria uma das capacidades perigosas

that we should step back from, right?

que deveríamosm evitar, concorda?

So there's no chance that this will "emerge" accidentally.

Portanto, não há chance de que isso “surja” acidentalmente.

I really think that's a very low probability.

Eu acredito que a probabilidade é muito baixa.

It will happen if engineers deliberately design those capabilities in.

Isso acontecerá se os engenheiros projetarem deliberadamente esses recursos.

And if they don't take enough efforts to deliberately design them out.

E se eles não se esforçarem para projetá-los deliberadamente.

And so this is the point of being explicit

Portanto, esse é o objetivo de ser claro.

and transparent about trying to introduce safety by design very early on.

e transparente ao tentar introduzir a a segurança desde o design inicial.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Obrigado, sua visão da humanidade injetando nessa coisa nova

the best parts of ourselves,

as melhores partes de nós mesmos,

avoiding all those weird, biological, freaky,

evitando todas essas tendências biológicas estranhas e

horrible tendencies that we can have in certain circumstances,

horríveis que podemos ter em certas circunstâncias,

I mean, that is a very inspiring vision.

digo, é uma visão muito inspiradora.

And thank you so much for coming here and sharing it at TED.

E muito obrigado por vir aqui e compartilhar isso no TED.

Thank you, good luck.

Obrigado, boa sorte.

(Applause)

(Aplausos)