How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Traductor: Daniela Pardo Revisor: Alicia Brito-Antequera

When I talk to people about artificial intelligence,

Cuando hablo con la gente sobre inteligencia artificial,

something I hear a lot from non-experts is “I don’t understand AI.”

algo que escucho mucho de personas sin experiencia es: “No entiendo la IA”.

But when I talk to experts, a funny thing happens.

Pero cuando hablo con expertos, ocurre algo curioso.

They say, “I don’t understand AI, and neither does anyone else.”

Dicen: “No entiendo la IA. Nadie la entiende”.

This is a pretty strange state of affairs.

Esta es una situación bastante extraña.

Normally, the people building a new technology

Normalmente, las personas que desarrollan una nueva tecnología

understand how it works inside and out.

entienden cómo funciona, por dentro y por fuera.

But for AI, a technology that's radically reshaping the world around us,

Pero con la IA, una tecnología que está transformando el mundo,

that's not so.

no es el caso.

Experts do know plenty about how to build and run AI systems, of course.

Los expertos saben mucho sobre cómo crear y ejecutar sistemas de IA, por supuesto.

But when it comes to how they work on the inside,

Pero cuando se trata del funcionamiento interno,

hay grandes limitaciones, en cuanto a lo que sabemos.

there are serious limits to how much we know.

And this matters because without deeply understanding AI,

Y esto es importante porque, sin una comprensión profunda de la IA,

it's really difficult for us to know what it will be able to do next,

nos resulta muy difícil saber qué será capaz de hacer a continuación,

or even what it can do now.

o incluso qué puede hacer ahora.

And the fact that we have such a hard time understanding

El hecho de que nos cueste tanto entender lo que está pasando con la tecnología

what's going on with the technology and predicting where it will go next,

y predecir hacia dónde se dirigirá,

is one of the biggest hurdles we face in figuring out how to govern AI.

es de los mayores obstáculos que tenemos a la hora de decidir cómo regular la IA.

But AI is already all around us,

Pero la IA ya está presente en todas partes,

so we can't just sit around and wait for things to become clearer.

así que no podemos quedarnos sentados, esperando a que las cosas se aclaren.

We have to forge some kind of path forward anyway.

De todos modos, tenemos que forjar algún tipo de camino hacia adelante.

Llevo unos ocho años trabajando en regulaciones y políticas de IA

I've been working on these AI policy and governance issues

for about eight years,

First in San Francisco, now in Washington, DC.

primero en San Francisco y ahora en Washington, DC.

Along the way, I've gotten an inside look

En el camino, he podido ver desde dentro

at how governments are working to manage this technology.

cómo los gobiernos regulan esta tecnología.

And inside the industry, I've seen a thing or two as well.

Y dentro de la industria, también he visto un par de cosas.

So I'm going to share a couple of ideas

Así que compartiré un par de ideas

sobre cómo podría ser el camino para regular la IA.

for what our path to governing AI could look like.

Pero primero, qué realmente hace

But first, let's talk about what actually makes AI so hard to understand

que la IA sea tan difícil de entender y predecir.

and predict.

One huge challenge in building artificial "intelligence"

Uno de los grandes desafíos al crear una “inteligencia” artificial

is that no one can agree on what it actually means

es que no podemos ponernos de acuerdo

sobre lo que realmente significa ser inteligente.

to be intelligent.

Es una situación extraña para desarrollar una nueva tecnología.

This is a strange place to be in when building a new tech.

When the Wright brothers started experimenting with planes,

Cuando los hermanos Wright empezaron a experimentar con aviones,

they didn't know how to build one,

no sabían cómo construir uno,

but everyone knew what it meant to fly.

pero todos sabían lo que significaba volar.

With AI on the other hand,

En cambio, en el caso de la IA,

different experts have completely different intuitions

distintos expertos tienen intuiciones completamente diferentes

about what lies at the heart of intelligence.

sobre lo que constituye la esencia de la inteligencia.

Is it problem solving?

¿Es la resolución de problemas?

Is it learning and adaptation,

¿Se trata del aprendizaje y la adaptación?

are emotions,

¿Son las emociones?

or having a physical body somehow involved?

¿O tener un cuerpo físico involucrado de alguna manera?

We genuinely don't know.

Realmente no lo sabemos.

But different answers lead to radically different expectations

Sin embargo, las diferentes respuestas generan expectativas muy diferentes

about where the technology is going and how fast it'll get there.

sobre el rumbo de la tecnología y la rapidez con la que llegará allí.

An example of how we're confused is how we used to talk

Un ejemplo de esa confusión

es cómo solíamos hablar de IA limitada o general.

about narrow versus general AI.

For a long time, we talked in terms of two buckets.

Durante mucho tiempo, hablamos en términos de dos grupos.

A lot of people thought we should just be dividing between narrow AI,

Mucha gente pensaba que deberíamos dividirnos entre una IA limitada,

trained for one specific task,

entrenada para una tarea específica,

like recommending the next YouTube video,

como recomendar el próximo vídeo de YouTube,

versus artificial general intelligence, or AGI,

y una inteligencia artificial general, o AGI,

that could do everything a human could do.

que podría hacer todo lo que un humano puede hacer.

We thought of this distinction, narrow versus general,

Pensamos que esta distinción, entre limitada y general,

as a core divide between what we could build in practice

era una división fundamental entre lo que podíamos crear en la práctica

and what would actually be intelligent.

y lo que realmente sería inteligente.

But then a year or two ago, along came ChatGPT.

Pero luego, hace uno o dos años, apareció ChatGPT.

If you think about it,

Si lo pensamos bien,

¿se trata de una IA limitada, entrenada para una tarea específica?

you know, is it narrow AI, trained for one specific task?

Or is it AGI and can do everything a human can do?

¿O es AGI y puede hacer todo lo que un humano puede hacer?

Clearly the answer is neither.

Es evidente que no es ninguna.

It's certainly general purpose.

Sin duda, es de uso general.

It can code, write poetry,

Puede programar, escribir poesía,

analyze business problems, help you fix your car.

analizar problemas comerciales y ayudar a reparar un auto.

But it's a far cry from being able to do everything

Pero está muy lejos de ser capaz de hacer todo tan bien como Uds. o yo podríamos.

as well as you or I could do it.

So it turns out this idea of generality

Resulta que esta idea de generalidad,

doesn't actually seem to be the right dividing line

en realidad, no parece ser la línea divisoria correcta

between intelligent and not.

entre inteligentes y no inteligentes.

Y estas cosas representan un gran desafío para todo el campo de la IA ahora.

And this kind of thing

is a huge challenge for the whole field of AI right now.

We don't have any agreement on what we're trying to build

No tenemos ningún acuerdo sobre lo que intentamos crear,

or on what the road map looks like from here.

ni sobre cómo será el camino a partir de ahora.

We don't even clearly understand the AI systems that we have today.

Ni siquiera entendemos con claridad los sistemas de IA que tenemos hoy en día.

¿Por qué?

Why is that?

Researchers sometimes describe deep neural networks,

Los investigadores a veces describen las redes neuronales profundas,

the main kind of AI being built today,

el principal tipo de IA que se está creando, como una caja negra.

as a black box.

But what they mean by that is not that it's inherently mysterious

Pero lo que quieren decir, no es que sea intrínsecamente misterioso

and we have no way of looking inside the box.

y que no tengamos forma de ver el interior de la caja.

The problem is that when we do look inside,

El problema es que cuando miramos dentro, lo que encontramos son millones,

what we find are millions,

billions or even trillions of numbers

miles de millones o incluso billones de números

that get added and multiplied together in a particular way.

que se suman y multiplican de una manera determinada.

Lo que hace que a los expertos les resulte difícil saber qué pasa

What makes it hard for experts to know what's going on

is basically just, there are too many numbers,

es que, básicamente, hay demasiados números

and we don't yet have good ways of teasing apart what they're all doing.

y todavía no tenemos una buena manera de desentrañar lo que hacen.

There's a little bit more to it than that, but not a lot.

Hay algo más que eso, pero no mucho.

So how do we govern this technology

Entonces, ¿cómo regulamos esta tecnología que nos cuesta entender y predecir?

that we struggle to understand and predict?

I'm going to share two ideas.

Voy a compartir dos ideas.

One for all of us and one for policymakers.

Una para todos nosotros y otra para los responsables políticos.

First, don't be intimidated.

En primer lugar, no hay que dejarse intimidar.

Ya sea por la misma tecnología,

Either by the technology itself

or by the people and companies building it.

o por las personas y empresas que la desarrollan.

On the technology,

En cuanto a la tecnología,

AI can be confusing, but it's not magical.

la IA puede resultar confusa, pero no es mágica.

There are some parts of AI systems we do already understand well,

Hay algunas partes de los sistemas de IA que ya entendemos bien.

and even the parts we don't understand won't be opaque forever.

Incluso las partes que no entendemos las terminaremos aclarando.

An area of research known as “AI interpretability”

Un área de investigación conocida como “interpretabilidad de la IA”

has made quite a lot of progress in the last few years

ha avanzado bastante en los últimos años

in making sense of what all those billions of numbers are doing.

en entender lo que hacen todos esos miles de millones de números.

One team of researchers, for example,

Un equipo de investigadores, por ejemplo,

found a way to identify different parts of a neural network

encontró una manera de identificar diferentes partes de una red neuronal

that they could dial up or dial down

que podían aumentar o reducir

to make the AI's answers happier or angrier,

para que las respuestas de la IA sonaran más felices, más enojadas,

more honest,

más honestas, más maquiavélicas, etc.

more Machiavellian, and so on.

If we can push forward this kind of research further,

Si podemos seguir impulsando este tipo de investigación,

then five or 10 years from now,

dentro de cinco o diez años,

we might have a much clearer understanding of what's going on

quizá comprendamos mucho mejor qué ocurre dentro de la llamada caja negra.

inside the so-called black box.

And when it comes to those building the technology,

Y cuando hablamos de los creadores de la tecnología,

si uno no está muy involucrado en aspectos técnicos,

technologists sometimes act as though

if you're not elbows deep in the technical details,

los expertos suelen actuar como si no pudiéramos opinar

then you're not entitled to an opinion on what we should do with it.

sobre lo que deberíamos hacer.

Expertise has its place, of course,

La experiencia importa, por supuesto,

but history shows us how important it is

pero hemos visto lo importante que es

that the people affected by a new technology

que las personas afectadas por una nueva tecnología

get to play a role in shaping how we use it.

puedan participar en la decisión de cómo utilizarla.

Like the factory workers in the 20th century who fought for factory safety,

Como los trabajadores de las fábricas del siglo XX,

que lucharon por la seguridad del sitio.

or the disability advocates

O los defensores de personas con discapacidad

who made sure the world wide web was accessible.

que se aseguraron de que Internet fuera accesible.

You don't have to be a scientist or engineer to have a voice.

No es necesario ser científico o ingeniero para tener voz.

(Applause)

(Aplausos)

Second, we need to focus on adaptability, not certainty.

En segundo lugar, debemos centrarnos en la adaptabilidad,

no en la certeza.

A lot of conversations about how to make policy for AI

Muchas conversaciones sobre el desarrollo de políticas para IA

get bogged down in fights between, on the one side,

se estancan en discusiones entre personas que, por un lado, dicen:

people saying, "We have to regulate AI really hard right now

“Tenemos que regular la IA con firmeza ahora porque es muy arriesgada”.

because it's so risky."

And on the other side, people saying,

Y por otro lado, gente que dice:

“Pero eso acabará con la innovación. Además, los riesgos son falsos”.

“But regulation will kill innovation, and those risks are made up anyway.”

But the way I see it,

Desde mi punto de vista,

it’s not just a choice between slamming on the brakes

no se trata solo de elegir entre pisar el freno o el acelerador.

or hitting the gas.

If you're driving down a road with unexpected twists and turns,

Si conduces por una carretera con giros y curvas inesperadas,

then two things that will help you a lot

dos cosas que te ayudarán mucho

are having a clear view out the windshield

son tener una visión nítida desde el parabrisas

and an excellent steering system.

y un excelente sistema de dirección.

Con la IA, significa tener una idea clara

In AI, this means having a clear picture of where the technology is

de dónde está la tecnología, hacia dónde va,

and where it's going,

and having plans in place for what to do in different scenarios.

y tener estrategias sobre qué hacer en distintas situaciones.

Concretely, this means things like investing in our ability to measure

Concretamente, esto significa invertir en nuestra capacidad de medir

what AI systems can do.

lo que pueden hacer los sistemas de IA.

This sounds nerdy, but it really matters.

Esto suena raro, pero realmente importa.

Right now, if we want to figure out

En este momento, si queremos averiguar si una IA puede hacer algo preocupante,

whether an AI can do something concerning,

like hack critical infrastructure

como hackear infraestructuras críticas

or persuade someone to change their political beliefs,

o persuadir a alguien para que cambie sus creencias políticas,

our methods of measuring that are rudimentary.

nuestros métodos de medición son rudimentarios.

We need better.

Necesitamos algo mejor.

We should also be requiring AI companies,

También deberíamos exigir a las empresas de IA,

especially the companies building the most advanced AI systems,

especialmente, a las que desarrollan los sistemas de IA más avanzados,

to share information about what they're building,

que compartan información sobre lo que están desarrollando,

what their systems can do

las capacidades de sus sistemas y cómo gestionan los riesgos.

and how they're managing risks.

And they should have to let in external AI auditors to scrutinize their work

Y deberían permitir que auditores externos de IA examinen su trabajo

para que las empresas no se limiten a evaluar sus propios deberes.

so that the companies aren't just grading their own homework.

(Applause)

(Aplausos)

Un último ejemplo

A final example of what this can look like

is setting up incident reporting mechanisms,

es la creación de mecanismos de notificación de incidentes,

so that when things do go wrong in the real world,

de modo que cuando las cosas vayan mal en el mundo real,

we have a way to collect data on what happened

podamos recopilar información sobre lo que ocurrió

and how we can fix it next time.

y cómo podemos solucionarlo la próxima vez.

Just like the data we collect on plane crashes and cyber attacks.

Al igual que los datos que recopilamos sobre accidentes aéreos y ciberataques.

None of these ideas are mine,

Ninguna de estas ideas son mías.

and some of them are already starting to be implemented in places like Brussels,

Algunas de ellas ya están empezando a implementarse

en lugares como Bruselas, Londres e incluso Washington.

London, even Washington.

La razón por la que hago hincapié en estas ideas,

But the reason I'm highlighting these ideas,

measurement, disclosure, incident reporting,

de medición, divulgación y la notificación de incidentes,

is that they help us navigate progress in AI

es porque nos ayudan a progresar con la IA

by giving us a clearer view out the windshield.

al ofrecernos una visión más clara desde el parabrisas.

If AI is progressing fast in dangerous directions,

Si la IA avanza con rapidez en direcciones peligrosas,

these policies will help us see that.

estas políticas nos ayudarán a darnos cuenta.

And if everything is going smoothly, they'll show us that too,

Y si todo va bien, también nos lo demostrarán

and we can respond accordingly.

y podremos responder en consecuencia.

What I want to leave you with

Lo que quiero decir, en resumen,

is that it's both true that there's a ton of uncertainty

es que es cierto que hay mucha incertidumbre

and disagreement in the field of AI.

y desacuerdo en el campo de la IA.

And that companies are already building and deploying AI

Y que, de todos modos, las empresas ya están creando e implementando la IA

all over the place anyway in ways that affect all of us.

en todas partes, de formas que nos afectan a todos.

Si se las deja a su suerte,

Left to their own devices,

it looks like AI companies might go in a similar direction

parece que las empresas de IA podrían ir en una dirección similar

to social media companies,

a la de las empresas de redes sociales,

spending most of their resources on building web apps

dedicando la mayoría de recursos a crear aplicaciones web

and for users' attention.

y captar la atención de los usuarios.

Y por defecto, parece que el enorme poder de los sistemas de IA más avanzados

And by default, it looks like the enormous power of more advanced AI systems

might stay concentrated in the hands of a small number of companies,

podrían permanecer concentrados en manos de un pequeño número de empresas,

or even a small number of individuals.

o incluso, de un pequeño número de personas.

But AI's potential goes so far beyond that.

Pero el potencial de la IA va mucho más allá.

AI already lets us leap over language barriers

La IA ya nos permite superar las barreras lingüísticas

and predict protein structures.

y predecir estructuras de las proteínas.

More advanced systems could unlock clean, limitless fusion energy

Los sistemas más avanzados podrían liberar energía de fusión limpia e ilimitada

o revolucionar la forma en que cultivamos alimentos

or revolutionize how we grow food

or 1,000 other things.

u otras mil cosas.

And we each have a voice in what happens.

Y cada uno de nosotros tiene una voz en lo que sucede.

We're not just data sources,

No somos solo fuentes de datos,

we are users,

somos usuarios,

we're workers,

somos trabajadores,

somos ciudadanos.

we're citizens.

So as tempting as it might be,

Por muy tentador que sea,

we can't wait for clarity or expert consensus

estamos ansiosos por la claridad o el consenso de los expertos

to figure out what we want to happen with AI.

para saber qué queremos que suceda con la IA.

AI is already happening to us.

La IA ya es una realidad para todos.

What we can do is put policies in place

Lo que podemos hacer es establecer políticas

to give us as clear a picture as we can get

que nos den una imagen, lo más clara posible,

of how the technology is changing,

de cómo está cambiando la tecnología,

y luego podemos ponernos manos a la obra

and then we can get in the arena and push for futures we actually want.

y buscar el futuro que realmente queremos.

Thank you.

Gracias.

(Applause)

(Aplausos)