What Is an AI Anyway? | Mustafa Suleyman | TED

Translator: Silvia Miguélez Reviewer: traduceTED USC

I want to tell you what I see coming.

Quero contarvos o que está por chegar.

I've been lucky enough to be working on AI for almost 15 years now.

Teño a sorte de levar case 15 anos traballando na IA.

Back when I started, to describe it as fringe would be an understatement.

Cando comecei, describila como marxinal era quedar curto.

Researchers would say, “No, no, we’re only working on machine learning.”

Os investigadores dicían: “Non, dedicámonos só á aprendizaxe automática.”

Because working on AI was seen as way too out there.

Porque traballar na IA víase como algo demasiado raro.

No 2010, soamente coa mención da AGI,

In 2010, just the very mention of the phrase “AGI,”

artificial general intelligence,

ou Intelixencia Artificial Xeral,

would get you some seriously strange looks

xa recibías miradas ben estrañas

and even a cold shoulder.

e ata te deixaban de lado.

"You're actually building AGI?" people would say.

“De verdade estás a crear unha AGI?“, dicían.

"Isn't that something out of science fiction?"

“Non é algo saído da ciencia ficción?”.

People thought it was 50 years away or 100 years away,

Pensaban que estaba a 50 ou 100 anos de distancia,

if it was even possible at all.

se era sequera posible.

Talk of AI was, I guess, kind of embarrassing.

Falar da IA daba un pouco de vergoña.

People generally thought we were weird.

A xente, en xeral, pensaba que eramos raros.

And I guess in some ways we kind of were.

E creo que dalgún xeito si que o eramos.

It wasn't long, though, before AI started beating humans

Porén, a IA non tardou moito en gañarlles aos humanos

at a whole range of tasks

en toda unha serie de tarefas

that people previously thought were way out of reach.

que antes se pensaba que estaban fóra do seu alcance.

Entender imaxes,

Understanding images,

translating languages,

traducir linguas,

transcribing speech,

transcribir a fala,

playing Go and chess

xogar ao go e ao xadrez

and even diagnosing diseases.

e mesmo diagnosticar enfermidades.

People started waking up to the fact

A xente comezou a decatarse

that AI was going to have an enormous impact,

de que a IA ía ter un enorme impacto

and they were rightly asking technologists like me

e facían, como é lóxico, preguntas bastante difíciles

some pretty tough questions.

a tecnólogos coma min.

Is it true that AI is going to solve the climate crisis?

“É verdade que a IA vai resolver a crise climática?

Will it make personalized education available to everyone?

Fará que a educación personalizada estea dispoñible para todos?

Does it mean we'll all get universal basic income

Significa que haberá unha renda básica universal

and we won't have to work anymore?

e non haberá que traballar?

Should I be afraid?

Debería ter medo?

What does it mean for weapons and war?

Que implicará de cara ás armas e a guerra?”.

And of course, will China win?

E, desde logo: “Gañará China? Estamos nunha competición?

Are we in a race?

Are we headed for a mass misinformation apocalypse?

Imos cara a unha apocalipse de desinformación masiva?”.

All good questions.

Son todas boas preguntas.

But it was actually a simpler

Porén, foi unha pregunta máis simple e fundamental

and much more kind of fundamental question that left me puzzled.

a que me deixou confuso,

One that actually gets to the very heart of my work every day.

unha que realmente chega ao corazón do meu traballo diario.

One morning over breakfast,

Unha mañá, no almorzo,

my six-year-old nephew Caspian was playing with Pi,

Caspian, o meu sobriño de 6 anos, estaba xogando con Pi,

the AI I created at my last company, Inflection.

a IA que creei na miña última empresa, Inflection.

With a mouthful of scrambled eggs,

Coa boca chea de ovos revoltos,

he looked at me plain in the face and said,

miroume directamente á cara e dixo:

"But Mustafa, what is an AI anyway?"

“Pero, Mustafa, que é unha IA?”.

He's such a sincere and curious and optimistic little guy.

É un rapaz tan sincero, curioso e optimista.

He'd been talking to Pi about how cool it would be if one day in the future,

Estivéralle falando a Pi do xenial que sería se un día, no futuro,

he could visit dinosaurs at the zoo.

puidese visitar dinosauros no zoo.

And how he could make infinite amounts of chocolate at home.

E de como podería facer cantidades infinitas de chocolate na casa.

And why Pi couldn’t yet play I Spy.

E de por que Pi aínda non podía xogar ao vexo vexo.

"Well," I said, "it's a clever piece of software

“A ver”, dixen eu, “é un software intelixente

that's read most of the text on the open internet,

que leu a maior parte dos textos do Internet aberto

and it can talk to you about anything you want."

e pode falar contigo do que ti queiras”.

"Right.

“Vale.

So like a person then?"

Entón é coma unha persoa?”.

I was stumped.

Quedei desconcertado.

Genuinely left scratching my head.

En serio, quedei rascando a cabeza.

All my boring stock answers came rushing through my mind.

Viñéronme á mente todas as miñas aburridas respostas preparadas.

"No, but AI is just another general-purpose technology,

“Non, a IA só é outra tecnoloxía de uso xeral,

like printing or steam."

como a impresión ou o vapor.

It will be a tool that will augment us

Será unha ferramenta que nos potenciará

and make us smarter and more productive.

facéndonos máis intelixentes e produtivos.

And when it gets better over time,

E, cando mellore co tempo,

it'll be like an all-knowing oracle

será como un oráculo omnisciente

that will help us solve grand scientific challenges."

que nos axudará a resolver grandes desafíos científicos”.

You know, all of these responses started to feel, I guess,

De súpeto, estas respostas semellaban ser á defensiva,

a little bit defensive.

And actually better suited to a policy seminar

máis axeitadas para un seminario sobre políticas

than breakfast with a no-nonsense six-year-old.

que para o almorzo cun neno de 6 anos.

"Why am I hesitating?" I thought to myself.

“Por que dubido?“, pensei.

You know, let's be honest.

Sexamos sinceros:

My nephew was asking me a simple question

o meu sobriño fixérame unha pregunta sinxela

that those of us in AI just don't confront often enough.

que os da IA non enfrontamos coa suficiente frecuencia.

What is it that we are actually creating?

Que é realmente o que estamos creando?

What does it mean to make something totally new,

Que significa crear algo totalmente novo,

fundamentally different to any invention that we have known before?

fundamentalmente diferente a calquera invento coñecido anteriormente?

It is clear that we are at an inflection point

Está claro que estamos nun punto de inflexión

in the history of humanity.

da historia da humanidade.

On our current trajectory,

Na nosa traxectoria actual,

we're headed towards the emergence of something

dirixímonos cara á aparición de algo

that we are all struggling to describe,

que a todos nos é moi difícil describir

and yet we cannot control what we don't understand.

e, non obstante, non podemos controlar o que non entendemos.

And so the metaphors,

Por iso, as metáforas,

the mental models,

os modelos mentais,

the names, these all matter

os nomes… todo importa

if we’re to get the most out of AI whilst limiting its potential downsides.

se queremos sacar o máximo da IA e limitar inconvenientes potenciais.

As someone who embraces the possibilities of this technology,

Como alguén aberto ás posibilidades desta tecnoloxía

but who's also always cared deeply about its ethics,

pero sempre preocupado pola súa ética,

we should, I think,

creo que deberiamos ser capaces

be able to easily describe what it is we are building.

de describir facilmente o que estamos a crear,

And that includes the six-year-olds.

incluído aos nenos de seis anos.

So it's in that spirit that I offer up today the following metaphor

Así, desde esa perspectiva ofrezo hoxe a seguinte metáfora

for helping us to try to grapple with what this moment really is.

para podermos lidar co que é realmente este momento.

I think AI should best be understood

Creo que a IA debería entenderse mellor

as something like a new digital species.

como algo semellante a unha nova especie dixital.

Now, don't take this too literally,

Non tomedes isto de xeito literal,

but I predict that we'll come to see them as digital companions,

pero predigo que chegaremos a vela como unha compañeira dixital,

new partners in the journeys of all our lives.

unha nova compañeira nas viaxes das nosas vidas.

Whether you think we’re on a 10-, 20- or 30-year path here,

Sexa un camiño de 10, 20 ou 30 anos,

this is, in my view, the most accurate and most fundamentally honest way

esta é, para min, a forma máis precisa e fundamentalmente sincera

of describing what's actually coming.

de describir o que realmente está por chegar.

And above all, it enables everybody to prepare for

E, sobre todo, permite que todos se preparen

and shape what comes next.

e dean forma ao que veña a continuación.

Now I totally get, this is a strong claim,

Entendo perfectamente que é unha afirmación forte

and I'm going to explain to everyone as best I can why I'm making it.

e vou explicar o mellor posible por que a fixen.

But first, let me just try to set the context.

Pero, antes, vou tentar establecer o contexto.

From the very first microscopic organisms,

Desde os primeiros organismos microscópicos,

life on Earth stretches back billions of years.

a vida na Terra remóntase a miles de millóns de anos.

Over that time, life evolved and diversified.

Durante ese tempo, a vida evolucionou e diversificouse.

Then a few million years ago, something began to shift.

Entón, hai uns poucos millóns de anos, algo comezou a cambiar.

After countless cycles of growth and adaptation,

Despois de innumerables ciclos de crecemento e adaptación,

one of life’s branches began using tools, and that branch grew into us.

unha das ramas da vida comezou a usar ferramentas,

e desa rama saímos nós.

We went on to produce a mesmerizing variety of tools,

Chegamos a producir unha variedade fascinante de ferramentas,

at first slowly and then with astonishing speed,

lentamente aos comezos e logo cunha velocidade sorprendente.

we went from stone axes and fire

Pasamos dos machados de pedra e o lume

to language, writing and eventually industrial technologies.

á linguaxe, a escritura e, finalmente, as tecnoloxías industriais.

One invention unleashed a thousand more.

Un invento desencadeaba mil máis.

And in time, we became homo technologicus.

Co tempo, convertémonos no homo tecnologicus.

Around 80 years ago,

Hai uns 80 anos,

another new branch of technology began.

comezou outra rama nova da tecnoloxía.

With the invention of computers,

Coa invención dos ordenadores,

we quickly jumped from the first mainframes and transistors

axiña pasamos das unidades centrais e dos transistores

to today's smartphones and virtual-reality headsets.

aos teléfonos intelixentes e cascos de realidade virtual de hoxe.

Information, knowledge, communication, computation.

Información, coñecemento, comunicación, computación.

In this revolution,

Nesta revolución,

creation has exploded like never before.

a creación explotou como nunca antes.

And now a new wave is upon us.

E agora chegou unha nova onda:

Artificial intelligence.

a intelixencia artificial.

These waves of history are clearly speeding up,

É obvio que estas ondas de historia están acelerando,

as each one is amplified and accelerated by the last.

xa que cada unha vese amplificada e acelerada pola anterior.

And if you look back,

Se miramos atrás,

it's clear that we are in the fastest

está claro que estamos na onda

and most consequential wave ever.

máis rápida e significativa de todos os tempos.

The journeys of humanity and technology are now deeply intertwined.

Os camiños da humanidade e da tecnoloxía atópanse moi entrelazados.

In just 18 months,

En só 18 meses,

over a billion people have used large language models.

máis de mil millóns de persoas usaron grandes modelos lingüísticos.

We've witnessed one landmark event after another.

Asistimos a un evento histórico tras outro.

Just a few years ago, people said that AI would never be creative.

Hai só uns anos, dicíase que a IA nunca sería creativa.

And yet AI now feels like an endless river of creativity,

Agora,, a IA parece un río infinito de creatividade.

making poetry and images and music and video that stretch the imagination.

Fai poesía, imaxes, música e vídeos que van máis aló da imaxinación.

People said it would never be empathetic.

Dicíase que nunca tería empatía.

And yet today, millions of people enjoy meaningful conversations with AIs,

Hoxe hai millóns de persoas que gozan de conversas significativas coa IA,

talking about their hopes and dreams

que falan das súas esperanzas e soños,

and helping them work through difficult emotional challenges.

e ás que lles axuda a superar retos emocionais difíciles.

AIs can now drive cars,

Agora a IA pode conducir coches,

manage energy grids

xestionar redes eléctricas

and even invent new molecules.

e mesmo inventar novas moléculas.

Just a few years ago, each of these was impossible.

Hai só uns anos, todo isto era imposible.

And all of this is turbocharged by spiraling exponentials of data

E todo isto foi impulsado por espirais exponenciais de datos

and computation.

e cálculos.

Last year, Inflection 2.5, our last model,

O ano pasado, Inflection 2.5, o noso último modelo,

used five billion times more computation

utilizou cinco mil millóns de veces máis cálculos

than the DeepMind AI that beat the old-school Atari games

que a IA DeepMind, a que superara os xogos de Atari da vella escola

just over 10 years ago.

hai pouco máis de 10 anos.

That's nine orders of magnitude more computation.

Son nove ordes de magnitude máis de cálculo.

10x per year,

Dez veces por ano,

every year for almost a decade.

cada ano, durante case unha década.

Over the same time, the size of these models has grown

Ao mesmo tempo, o tamaño destes modelos medrou

from first tens of millions of parameters to then billions of parameters,

desde decenas de millóns de parámetros ata miles de millóns,

and very soon, tens of trillions of parameters.

e, moi pronto, decenas de billóns de parámetros.

If someone did nothing but read 24 hours a day for their entire life,

Se alguén non fixese outra cousa que ler as 24 horas durante toda a vida,

they'd consume eight billion words.

consumiría 8000 millóns de palabras.

And of course, that's a lot of words.

Sonvos moitas palabras.

But today, the most advanced AIs consume more than eight trillion words

Pero, hoxe en día, as IA máis avanzadas consomen máis de 8 billóns de palabras

in a single month of training.

nun só mes de adestramento.

And all of this is set to continue.

E isto é só o comezo.

The long arc of technological history is now in an extraordinary new phase.

O longo arco da historia tecnolóxica está agora nunha extraordinaria nova fase.

So what does this mean in practice?

Que significa isto na práctica?

Well, just as the internet gave us the browser

Ben, do mesmo xeito que Internet nos deu o navegador

and the smartphone gave us apps,

e o teléfono intelixente nos deu aplicacións,

the cloud-based supercomputer is ushering in a new era

o superordenador baseado na nube está a inaugurar unha nova era

of ubiquitous AIs.

de IA omnipresente.

Everything will soon be represented by a conversational interface.

Pronto todo estará representado por unha interface conversacional,

Or, to put it another way, a personal AI.

ou, dito doutro xeito, unha IA persoal.

And these AIs will be infinitely knowledgeable,

Estas IA terán un coñecemento infinito

and soon they'll be factually accurate and reliable.

e pronto serán precisas e fiables en canto aos feitos.

They'll have near-perfect IQ.

Terán un coeficiente intelectual case perfecto

They’ll also have exceptional EQ.

e tamén un cociente emocional excepcional.

They’ll be kind, supportive, empathetic.

Serán amables, solidarias e empáticas.

These elements on their own would be transformational.

Estes elementos de por si serían transformadores.

Just imagine if everybody had a personalized tutor in their pocket

Imaxinade que todos tivésemos un titor personalizado no peto

and access to low-cost medical advice.

e acceso a consellos médicos de baixo custo.

A lawyer and a doctor,

Un avogado e un médico,

a business strategist and coach --

un estratega de negocios e un adestrador:

all in your pocket 24 hours a day.

todo no noso peto as 24 horas.

But things really start to change when they develop what I call AQ,

Pero as cousas realmente comezan a cambiar cando desenvolven o que chamo AQ,

their “actions quotient.”

o seu cociente de accións.

This is their ability to actually get stuff done

É a súa capacidade para facer realmente cousas

in the digital and physical world.

no mundo dixital e físico.

And before long, it won't just be people that have AIs.

En pouco tempo, non serán só as persoas as que teñan IA.

Strange as it may sound, every organization,

Por estraño que pareza, todas as organizacións,

from small business to nonprofit to national government,

desde pequenas empresas a ONG e gobernos nacionais,

each will have their own.

terán as súas propias.

Every town, building and object

Cada cidade, edificio e obxecto

will be represented by a unique interactive persona.

estará representado por unha persoa interactiva única.

And these won't just be mechanistic assistants.

E non serán só asistentes mecánicos:

They'll be companions, confidants,

serán compañeiros, confidentes,

colleagues, friends and partners,

colegas, amigos e socios,

as varied and unique as we all are.

tan variados e únicos como todos nós.

At this point, AIs will convincingly imitate humans at most tasks.

Neste punto, as IA imitarán ben as persoas na maioría das tarefas.

And we'll feel this at the most intimate of scales.

E isto sentirémolo na máis íntima das escalas.

An AI organizing a community get-together for an elderly neighbor.

Unha IA organizando unha reunión comunitaria para un veciño ancián.

A sympathetic expert helping you make sense of a difficult diagnosis.

Un experto comprensivo que che axuda a entender un diagnóstico difícil.

But we'll also feel it at the largest scales.

Pero tamén o sentiremos a escalas máis grandes.

Accelerating scientific discovery,

Acelerando os descubrimentos científicos,

autonomous cars on the roads,

con coches autónomos nas estradas

drones in the skies.

e drons nos ceos.

They'll both order the takeout and run the power station.

Tanto pedirán a comida para levar como dirixirán a central eléctrica.

They’ll interact with us and, of course, with each other.

Interactuarán connosco e, por suposto, entre si.

They'll speak every language,

Falarán todas as linguas,

take in every pattern of sensor data,

absorberán cada padrón de datos dos sensores,

sights, sounds,

imaxes, sons,

streams and streams of information,

emisións e fluxos de información,

far surpassing what any one of us could consume in a thousand lifetimes.

superando con moito o que calquera de nós podería consumir en mil vidas.

So what is this?

Entón que é isto?

What are these AIs?

Que son estas IA?

If we are to prioritize safety above all else,

Se buscamos priorizar a seguridade por riba de todo,

to ensure that this new wave always serves and amplifies humanity,

para garantir que esta nova onda sempre sirva e potencie a humanidade,

then we need to find the right metaphors for what this might become.

temos que atopar as metáforas correctas sobre o que isto podería ser.

For years, we in the AI community, and I specifically,

Durante anos, os da comunidade da IA, e eu en concreto,

have had a tendency to refer to this as just tools.

tivemos tendencia a referirnos a elas só como ferramentas.

But that doesn't really capture what's actually happening here.

Pero iso non capta realmente o que está a ocorrer aquí.

AIs are clearly more dynamic,

As IA son claramente máis dinámicas,

more ambiguous, more integrated

máis ambiguas, máis integradas

and more emergent than mere tools,

e máis emerxentes que meras ferramentas,

which are entirely subject to human control.

que están totalmente suxeitas ao control humano.

So to contain this wave,

Entón, para conter esta onda,

to put human agency at its center

poñer a axencia humana no seu centro

and to mitigate the inevitable unintended consequences

e mitigar as inevitables consecuencias non desexadas

that are likely to arise,

que é probable que xurdan,

we should start to think about them as we might a new kind of digital species.

deberiamos comezar a pensar nelas como nun novo tipo de especie dixital.

Now it's just an analogy,

Agora é só unha analoxía,

it's not a literal description, and it's not perfect.

non é unha descrición literal, e non é perfecta.

For a start, they clearly aren't biological in any traditional sense,

Para comezar, claramente non son biolóxicas en ningún sentido tradicional,

but just pause for a moment

pero parade un momento

and really think about what they already do.

e pensade de verdade no que xa fan.

They communicate in our languages.

Comunícanse nas nosas linguas.

They see what we see.

Ven o que nós vemos.

They consume unimaginably large amounts of information.

Consomen cantidades inimaxinables de información.

They have memory.

Teñen memoria.

They have personality.

Teñen personalidade.

They have creativity.

Teñen creatividade.

They can even reason to some extent and formulate rudimentary plans.

Poden incluso razoar ata certo punto e facer plans rudimentarios.

They can act autonomously if we allow them.

Poden actuar de forma autónoma se lles deixamos.

And they do all this at levels of sophistication

E fan todo isto cuns niveis de sofisticación

that is far beyond anything that we've ever known from a mere tool.

que vai moito máis aló do que podía ata agora unha simple ferramenta,

And so saying AI is mainly about the math or the code

así que dicir que a IA é principalmente as matemáticas ou o código

is like saying we humans are mainly about carbon and water.

é como dicir que as persoas somos principalmente carbono e auga.

It's true, but it completely misses the point.

É certo, pero é máis ca iso.

And yes, I get it, this is a super arresting thought

E si, enténdoo, este é un pensamento fascinante,

but I honestly think this frame helps sharpen our focus on the critical issues.

pero creo que este xeito de pensar axuda a centrarse nas cuestións críticas.

What are the risks?

Cales son os riscos?

What are the boundaries that we need to impose?

Cales son os límites que debemos impoñer?

What kind of AI do we want to build or allow to be built?

Que tipo de IA queremos construír ou permitir que se constrúa?

This is a story that's still unfolding.

Esta é unha historia que aínda está a desenvolverse.

Nothing should be accepted as a given.

Nada debe aceptarse como feito.

We all must choose what we create.

Todos debemos elixir o que creamos.

What AIs we bring into the world, or not.

Que IA imos traer ou non ao mundo?

These are the questions for all of us here today,

Estas son as preguntas para todos os que estamos aquí hoxe

and all of us alive at this moment.

e todos os que estamos vivos neste momento.

For me, the benefits of this technology are stunningly obvious,

Para min, os beneficios desta tecnoloxía son sorprendentemente obvios

and they inspire my life's work every single day.

e inspiran o traballo da miña vida cada día.

But quite frankly, they'll speak for themselves.

Pero, francamente, falarán por si mesmas.

Over the years, I've never shied away from highlighting risks

Ao longo dos anos, nunca evitei subliñar os riscos

and talking about downsides.

e falar das desvantaxes.

Thinking in this way helps us focus on the huge challenges

Pensar deste xeito axúdanos a centrarnos nos enormes desafíos

that lie ahead for all of us.

que nos agardan a todos.

But let's be clear.

Pero falemos claro:

There is no path to progress

non hai un camiño cara ao progreso

where we leave technology behind.

no que deixemos atrás a tecnoloxía.

The prize for all of civilization is immense.

O premio para toda a civilización é inmenso.

Precisamos solucións en sanidade e educación e para a crise climática.

We need solutions in health care and education, to our climate crisis.

And if AI delivers just a fraction of its potential,

Se a IA ofrece só unha fracción do seu potencial,

the next decade is going to be the most productive in human history.

a próxima década vai ser a máis produtiva da historia humana.

Here's another way to think about it.

Aquí tedes outra forma de pensalo:

In the past,

no pasado,

unlocking economic growth often came with huge downsides.

xerar crecemento económico adoitaba vir con grandes desvantaxes.

The economy expanded as people discovered new continents

A economía expandiuse a medida que se descubrían novos continentes

and opened up new frontiers.

e se abrían novas fronteiras,

But they colonized populations at the same time.

pero colonizáronse poboacións ao mesmo tempo.

We built factories,

Construímos fábricas,

but they were grim and dangerous places to work.

pero eran lugares de traballo sombríos e perigosos.

We struck oil,

Descubrimos o petróleo,

but we polluted the planet.

pero contaminamos o planeta.

Now because we are still designing and building AI,

Agora, como aínda estamos a deseñar e construír a IA,

we have the potential and opportunity to do it better,

temos o potencial e a oportunidade de facelo mellor,

radically better.

moito mellor.

And today, we're not discovering a new continent

E hoxe non estamos a descubrir un novo continente

and plundering its resources.

e saqueando os seus recursos;

We're building one from scratch.

estamos a construír un desde cero.

Sometimes people say that data or chips are the 21st century’s new oil,

Ás veces, dise que os datos ou os chips son o novo petróleo do século XXI,

but that's totally the wrong image.

pero esa é unha imaxe totalmente errada.

AI is to the mind

A IA é para a mente

what nuclear fusion is to energy.

o que a fusión nuclear é para a enerxía:

Limitless, abundant,

ilimitada, abundante,

world-changing.

coa capacidade de cambiar o mundo.

And AI really is different,

A IA é realmente diferente

and that means we have to think about it creatively and honestly.

e iso significa que temos que pensar nela de xeito creativo e sincero.

We have to push our analogies and our metaphors

Temos que levar ao límite as nosas analoxías

to the very limits

e as nosas metáforas

to be able to grapple with what's coming.

para poder enfrontar o que está por vir.

Because this is not just another invention.

Porque este non é só un invento máis.

AI is itself an infinite inventor.

A IA é unha inventora infinita.

And yes, this is exciting and promising and concerning

E si, isto é emocionante, prometedor, preocupante

and intriguing all at once.

e intrigante ao mesmo tempo.

To be quite honest, it's pretty surreal.

Para ser sincero, é bastante surrealista.

But step back,

Pero, retrocedendo un pouco,

see it on the long view of glacial time,

desde o punto de vista da era glacial,

and these really are the very most appropriate metaphors that we have today.

estas son as metáforas máis apropiadas que temos, realmente.

Since the beginning of life on Earth,

Desde os comezos da vida na Terra,

we've been evolving, changing

estivemos evolucionando, cambiando

and then creating everything around us in our human world today.

e logo creando todo ao noso redor no noso mundo humano de agora.

And AI isn't something outside of this story.

A IA non é algo alleo a esta historia.

In fact, it's the very opposite.

De feito, é todo o contrario.

It's the whole of everything that we have created,

É o conxunto de todo o que temos creado

distilled down into something that we can all interact with

simplificado a algo co que todos podemos interactuar

and benefit from.

e beneficiarnos.

It's a reflection of humanity across time,

É un reflexo da humanidade ao longo do tempo

and in this sense,

e, neste sentido,

it isn't a new species at all.

non é unha especie nova en absoluto.

This is where the metaphors end.

Aquí rematan as metáforas.

Here's what I'll tell Caspian next time he asks.

Isto é o que lle direi a Caspian cando pregunte.

AI isn't separate.

A IA non é algo separado.

AI isn't even in some senses, new.

A IA nin sequera é algo novo, nalgúns sentidos.

AI is us.

A IA é nós,

It's all of us.

todos nós.

And this is perhaps the most promising and vital thing of all

E isto é quizais o máis prometedor e vital de todo,

that even a six-year-old can get a sense for.

que ata un neno de seis anos pode entender.

As we build out AI,

A medida que creamos a IA,

we can and must reflect all that is good,

podemos e debemos reflectir todo o que é bo,

all that we love,

todo o que amamos,

all that is special about humanity:

todo o que é especial na humanidade:

our empathy, our kindness,

a nosa empatía, a nosa amabilidade,

our curiosity and our creativity.

a nosa curiosidade e a nosa creatividade.

This, I would argue, is the greatest challenge of the 21st century,

Este, diría eu, é o maior desafío do século XXI,

but also the most wonderful,

pero tamén a oportunidade máis marabillosa,

inspiring and hopeful opportunity for all of us.

inspiradora e esperanzadora para todos nós.

Thank you.

Grazas.

(Applause)

(Aplausos)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Grazas, Mustafa.

It's an amazing vision and a super powerful metaphor.

É unha visión incrible e unha metáfora moi potente.

You're in an amazing position right now.

Estás nunha posición incrible agora mesmo.

I mean, you were connected at the hip

Estás conectado directamente

to the amazing work happening at OpenAI.

co incrible traballo que está a suceder en OpenAI.

You’re going to have resources made available,

Terás recursos dispoñibles

there are reports of these giant new data centers,

e informes deses novos centros de datos xigantes,

100 billion dollars invested and so forth.

cen mil millóns de dólares investidos etc.

And a new species can emerge from it.

E diso pode xurdir unha nova especie.

I mean, in your book,

No teu libro,

you did, as well as painting an incredible optimistic vision,

ademais de pintar unha visión incriblemente optimista,

you were super eloquent on the dangers of AI.

fuches moi elocuente sobre os perigos da IA.

And I'm just curious, from the view that you have now,

Só por curiosidade, pero da visión que tes agora,

what is it that most keeps you up at night?

que é o que máis che fai perder o sono?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Suleyman: Creo que o gran risco é quedarmos atrapados

in what I call the pessimism aversion trap.

no que chamo a trampa da aversión ao negativo.

You know, we have to have the courage to confront

Temos que ter o valor de afrontar

the potential of dark scenarios

as potenciais situacións escuras

in order to get the most out of all the benefits that we see.

para tirar o máximo proveito de todos os beneficios que vemos.

So the good news is that if you look at the last two or three years,

A boa noticia é que se miramos os últimos dous ou tres anos,

there have been very, very few downsides, right?

houbo moi poucas desvantaxes, non?

It’s very hard to say explicitly what harm an LLM has caused.

É moi difícil explicar o dano causado por un LLM ou modelo de linguaxe grande,

But that doesn’t mean that that’s what the trajectory is going to be

pero iso non significa que esa vaia ser a traxectoria

over the next 10 years.

nos próximos 10 anos.

So I think if you pay attention to a few specific capabilities,

Creo que, se reparamos nalgunhas capacidades específicas,

take for example, autonomy.

como a autonomía, por exemplo,

Autonomy is very obviously a threshold

a autonomía é claramente un limiar

over which we increase risk in our society.

por enriba do cal aumentamos o risco na nosa sociedade.

And it's something that we should step towards very, very closely.

É algo cara ao que debemos ir con moita atención.

The other would be something like recursive self-improvement.

O outro sería algo como a autosuperación recursiva.

If you allow the model to independently self-improve,

Se permitimos que o modelo se mellore de forma independente,

update its own code,

actualice o seu propio código,

explore an environment without oversight, and, you know,

explore un ambiente sen supervisión

without a human in control to change how it operates,

e sen unha persoa que teña o control para cambiar o seu funcionamento,

that would obviously be more dangerous.

o que evidentemente sería máis perigoso.

But I think that we're still some way away from that.

Pero creo que aínda estamos lonxe disto.

I think it's still a good five to 10 years before we have to really confront that.

Creo que aínda faltan 5 ou 10 anos antes de termos que enfrontalo,

But it's time to start talking about it now.

pero é hora de comezar a falalo.

CA: Unha especie dixital, a diferenza dunha especie biolóxica,

CA: A digital species, unlike any biological species,

can replicate not in nine months,

non se replica en nove meses,

but in nine nanoseconds,

senón en nove nanosegundos,

and produce an indefinite number of copies of itself,

e produce un número indefinido de copias de si mesma,

all of which have more power than we have in many ways.

todas as cales teñen máis poder ca nós en outros aspectos.

I mean, the possibility for unintended consequences seems pretty immense.

A posibilidade de consecuencias non desexadas semella inmensa.

And isn't it true that if a problem happens,

Non é verdade que, se houbese un problema,

it could happen in an hour?

podería ocorrer nunha hora?

MS: No.

MS: Non.

That is really not true.

Isto non é certo.

I think there's no evidence to suggest that.

Creo que non hai probas que o suxiran.

And I think that, you know,

Penso que isto

that’s often referred to as the “intelligence explosion.”

é o que chamamos a miúdo a explosión de intelixencia.

And I think it is a theoretical, hypothetical maybe

Creo que é algo teórico ou hipotético

that we're all kind of curious to explore,

que todos temos curiosidade por explorar,

but there's no evidence that we're anywhere near anything like that.

pero non hai probas de que esteamos preto de algo así.

And I think it's very important that we choose our words super carefully.

Penso que é moi importante elixir as nosas palabras con moito coidado.

Because you're right, that's one of the weaknesses of the species framing,

Tes razón, é unha das debilidades do concepto de especie,

that we will design the capability for self-replication into it

e deseñaremos a capacidade de autorreplicación

if people choose to do that.

se a xente o decide.

And I would actually argue that we should not,

Mais, en realidade, creo que non deberiamos,

that would be one of the dangerous capabilities

que sería unha das capacidades perigosas

that we should step back from, right?

das que debemos afastarnos, certo?

Polo tanto, non hai posibilidade de que isto xurda por accidente.

So there's no chance that this will "emerge" accidentally.

I really think that's a very low probability.

Realmente creo que hai unha posibilidade moi baixa.

It will happen if engineers deliberately design those capabilities in.

Ocorrerá se os enxeñeiros lle deseñan deliberadamente estas capacidades

And if they don't take enough efforts to deliberately design them out.

e se non fan o esforzo suficiente para evitalas adrede no deseño.

And so this is the point of being explicit

Este é o momento de ser explícitos

and transparent about trying to introduce safety by design very early on.

e transparentes sobre tentar introducir a seguridade por deseño desde ben cedo.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Grazas. A túa visión da humanidade inxectando nesta nova cousa

the best parts of ourselves,

o mellor de nós,

avoiding all those weird, biological, freaky,

evitando todas esas tendencias estrañas, biolóxicas, repulsivas

horrible tendencies that we can have in certain circumstances,

e horribles que podemos ter en certas circunstancias

I mean, that is a very inspiring vision.

é unha visión moi inspiradora.

And thank you so much for coming here and sharing it at TED.

Moitas grazas por vires e compartila en TED.

Thank you, good luck.

Grazas e boa sorte.

(Applause)

(Aplausos)