What Makes Us Human in the Age of AI? A Psychologist and a Technologist Answer | TED Intersections

Brian S. Lowery: If you could produce a more immersive social experience,

Traductor: Sebastian Betti

Brian S. Lowery: Si pudieras producir una experiencia social más inmersiva,

now everybody's having their individual social experiences.

ahora todo el mundo tiene sus propias experiencias sociales individuales.

Like now what I worry about with AI, with VR,

Me preocupa de la IA, la realidad virtual y estas tecnologías que se expanden

with all these kind of technologies that are expanding,

que todos habitamos en nuestro propio mundo singular.

we all inhabit our own singular world.

Eso me asusta más que,

That is more frightening to me than like, you know,

que todos hayamos convergido en la misma experiencia.

that we all converged in the same experience.

[Intersections]

[Intersecciones]

[Brian S. Lowery: Social psychologist]

[Brian S. Lowery: psicólogo social]

[Kylan Gibbs: Technologist]

[Kylan Gibbs: tecnólogo]

BSL: So what makes a human a human?

BSL: ¿Qué hace que un ser humano sea humano?

(Laughter)

(Risas)

Kylan Gibbs: It’s one of those questions, isn’t it?

Kylan Gibbs: Es una de esas preguntas, ¿no?

I mean, there's like, two ways I would look at it.

Es decir, hay dos maneras en las que lo vería.

One is from my personal life and one is from my work life.

Desde mi vida personal y desde la laboral.

Una cosa interesante es que

One thing that's interesting is like,

hay momentos en los que he pasado

there's been points when I've been spending

de 4 o 5 horas al día interactuando con la IA.

four to five hours a day interacting with AI.

Y lo interesante, lo que observas

And the interesting thing that happens in that is the things that you notice,

cuando empiezas a interactuar es que es muy realista.

when you first start interacting with it, oh, this is really realistic.

Como cuando apareció la TV en blanco y negro y dijeron:

Similarly when people first had black and white TV and they're like,

«Esto es como la vida real».

Pero luego, conforme te acostumbras,

wow, this is like real life.

But then as you get used to it, you start to kind of realize,

empiezas a darte cuenta de lo que lo hace menos auténtico.

the things that make it less authentic.

Y con la IA me di cuenta de que

And I think something that I realized with AI is

hay ciertas formas en las que interactuamos que son más espontáneas.

there's certain ways that we interact that are just more spontaneous.

Hay algo en la previsibilidad de la IA que nos enseña

There's something about the predictability of AI that teaches you

sobre la espontaneidad del ser humano.

La forma en que se comunican, la naturalidad, la conciencia contextual.

about the spontaneity of being human.

The ways they communicate, the naturalness, the contextual awareness.

Pequeñas cosas que se suman.

Eso en el aspecto técnico.

These little things that all add up.

Por otro lado,

That's on the technical side.

hay algo parecido a la experiencia compartida de ser humano

On the other side,

there's something of just the shared experience of being human

que pienso que la diferencia de la experiencia de otros animales.

that actually I think differentiates it from other animals’ experience.

Tienes un momento traumático en tu vida,

You know, you have a traumatic moment in your life,

and then you start to resonate with other people's.

y luego empiezas a sentir empatía con el de otras personas.

I feel like every time I've had something nearly catastrophic,

Siento que cada vez que he tenido algo casi catastrófico,

it opened up a new door of empathy, and then you start to be like,

se abre una nueva puerta a la empatía, y luego empiezas a pensar:

oh man, that really hurt, you know?

«Eso duele mucho, ¿sabes?

Or like when you cry about something, you're like, wow.

O cuando lloras por algo, piensas: «Vaya».

And then you start to remember, like this is what usually happens to me.

Y luego empiezas a recordar que esto es lo que me pasa normalmente.

I start crying about something,

Empiezo a llorar por algo,

and then I think about all the things that I did for my mom or my grandma

y luego pienso en todas las cosas que hice por mi madre o mi abuela

and the things that they felt.

y en lo que sintieron.

Siento que hay algo en esa especie de experiencia compartida

And I feel like there's something in that kind of like shared experience

en la que tenemos esas cosas que nos diferencian,

where we have these things that differentiate us,

todos somos diferentes.

we’re all different people.

Pero hay algo en esos sentimientos comunes.

But there’s something about those common feelings

that it all kind of arises from that.

De todos modos, esa es una idea.

BSL: Me encanta esa respuesta, y no eres normal en ese sentido.

Anyway, that's one thought.

BSL: I love that answer, and I want to say that you're not normal in that way.

Por esto pienso que no eres normal.

Here's why I don't think you're normal.

La gente antropomorfiza cualquier cosa.

People anthropomorphize anything.

Ni siquiera tiene que ser tan bueno, ¿sí?

It doesn't have to even be that good, right?

No tiene por qué ser una IA tan buena

It doesn't have to be anywhere near as good AI

para que la gente la trate como si tuviera un carácter humano,

for people to treat it like it has some human character,

people treat their cars like they're people.

la gente trata sus coches como si fueran personas.

Así que me sorprende que cuando interactúas mucho con IA,

So I'm surprised that when you interact with it a lot,

it feels less real to you.

te parezca menos real.

KG: There's something about resolution.

KG: Hay algo en la resolución.

Es como la forma de ver el mundo y, en cierto modo, la aumentas.

It's like the way of seeing the world and you kind of increase this.

It's like the same reason you can't look at TV that's not 4K now.

Es como la misma razón por la que ahora no puedes ver una TV que no sea 4K.

And it's someone I think who worked on early VR was saying, you know,

Creo que alguien que trabajó en los inicios de la realidad virtual decía,

que lo interesante era que cuando te alejabas de la IA

the interesting thing about it was when you stepped out of it,

pensabas: « el mundo real es realmente increíble».

you're like, oh, the real world is actually amazing.

And it's actually really hard to recreate that in technology.

Y, de hecho, es muy difícil recrear eso en la tecnología.

Pienso que lo mismo ocurre con la IA,

And I think the same is true for AI, it's like maybe for some people,

que quizás para algunas personas, cuando interactúan con IA,

when they interact with it,

ven algo en común.

the thing that they see is some commonality.

Pero siempre noto que esto

But the thing that I always notice is,

es muy diferente de las conversaciones que tengo con mis padres.

this is very different from the conversations I have with my parents.

Incluso cuando dice algo parecido, hay algo raro.

Even when it says something similar, there’s something off.

Son cositas que creo, con el tiempo, se irán acumulando

It's those little things,

that's like I think what, over time, will add up

conforme la gente use más la IA, empezará a reconocer,

as people use AI more, is they’ll start to recognize,

y no puedo ni siquiera señalarlas,

and I can't even point at them like, what are those nuances, though,

¿cuáles son esos matices que nos hacen humanos?

that make us human?

BSL: Lo reconoces cuando lo ves y piensas: «Le falta una IA».

BSL: You just know it when you see it and you're like,

que eso también es interesante

and it's missing an AI.

I mean that's also interesting

porque lo que acabas de sugerir es que cuanta más gente use IA,

because what you just suggested is that the more people use AI,

the less real it's going to feel to people.

menos real será para la gente.

Do you think that's what's going to happen?

¿Crees que eso es lo que va a pasar?

KG: Quizás haya otro caso,

KG: I mean, there's probably another case, you know,

en el que, tu feed de Instagram y Facebook no es una conversación real.

it's the same way as, you know,

your Instagram and Facebook feed isn't a real conversation.

No cabe duda de que hay niños, sobre todo, que miran ese tipo de feeds

There are certainly, kids especially, who would look at those kinds of feeds

y piensan que son una representación real de mis amigos

and feel like, oh, that's a real representation of my friends

o mis celebridades favoritas o lo que sea que piense,

or my favorite celebrities or whatever I actually think,

cuando es completamente, no debería decir del todo,

when it's like completely -- I shouldn't say completely --

en gran medida falso.

largely false.

Y creo que algo parecido ocurrirá con la IA,

And I do think something similar will happen with AI,

donde es seguro que algunas personas casi quedarán atrapadas.

where some people for sure will almost be encaptured.

Y creerán

And they will believe

que eso es lo más realista que existe

that that's the most realistic thing that exists

and then start to compare people to that.

y empezarán a comparar a la gente con eso.

But I think that, you know, if you have that degree of empathy,

Pero creo que, si tienes ese grado de empatía, dirás:

you'll be like, oh, there's something off here.

hay algo raro aquí.

De la misma manera, aunque uses una llamada de Zoom,

It's the same way even if you use a Zoom call, there's something off.

hay algo que no funciona.

Es difícil captarlo.

It's hard to pick it up.

Pero no capto todas las señales,

But like, I’m not picking up all the signals,

y son los pequeños matices

and it's the very little nuances

that you probably just subtly pick up as well.

los que quizás tú también captes sutilmente.

BSL: ¿No crees que la tecnología avance tan rápido

BSL: So you don't think that the technology

is going to advance quickly enough,

como para superar esas pequeñas cosas con la suficiente rapidez

where it’ll overcome those little things fast enough to capture all of us?

como para captarnos a todos?

You're not worried about that?

¿No te preocupa eso?

KG: I am definitely worried about that.

KG: Definitivamente me preocupa.

Mainly because because I think for most people it's easy, right?

Porque creo que para la mayoría de las personas es fácil, ¿sí?

So the thing about AI is it's so beholden,

Lo que pasa con la IA es que depende tanto de lo que queremos,

al menos si piensas en los estilos de los chatbots.

at least if you think about like, the chatbot styles,

it's so beholden to what we want.

Y creo que eso es lo que

And that's kind of like what people, I think,

mucha gente quiere o necesita en su vida,

a lot of people want in their life or they need,

una sensación de control.

is the sense of control.

Y la IA te da la sensación de que puedo controlar esta cosa antropomórfica.

And the AI gives you the sense that, like,

I can control this anthropomorphic thing.

Y honestamente, uno de mis temores es que la gente se acostumbre a eso.

And honestly, one of my fears is that people get used to that.

And what does it mean when I get used to interacting with something

¿Y qué pasa si me acostumbro a interactuar con algo

que depende únicamente de mis puntos de vista e intereses,

that is beholden to only my views and interests,

y luego me pongo a interactuar con un ser humano

and then I go and interact with a human who has their own interests?

que tiene sus propios intereses?

BSL: Do you think people want control?

BSL: ¿Crees que la gente quiere tener el control?

I think people want to be controlled.

Creo que la gente quiere que la controlen.

KG: Sin embargo, tal vez sea una forma de control.

KG: Maybe it's a form of control, though.

Estar controlado es predecible, supongo.

To be controlled is a predictability, I guess.

BSL: Sí, la gente quiere que el mundo tenga sentido, ¿no crees?

BSL: Yeah, people want the world to make sense, don't you think?

KG: Sí, sí, creo que también quieren que el mundo sea...

KG: Yes, yes, I think they also want the world to be ...

Hay algo en preferir la previsibilidad a la optimización.

There's something about, like, preferring predictability over optimality.

So, like, I've even felt it when you have, you know,

Incluso he sentido lo mismo cuando tienes,

a mental health moment,

un momento de salud mental,

tienes amigos que tienen momentos de salud mental.

you have friends who have mental health moments.

Lo que siempre me ha parecido interesante

The things that I've always seen as interesting

es que tu cerebro y tu mente prefieren permanecer en un estado familiar,

is your brain and your mind prefer to stay in a state that's familiar,

aunque sea peor.

even if it's worse.

Así que si estás en un estado de depresión,

So if you're in like a depressed state,

you almost would rather like stick in that than break outside of it, right?

casi preferirías quedarte en ese estado que salir de él, ¿sí?

So there's something about things that are familiar

Así que hay algo en las cosas que son familiares

rather than actually better.

en lugar de realmente mejores.

Y no sé, hay una tendencia a que casi te identifiques

And I don't know, there's a bias towards, you know,

you almost identifying then with those kinds of states.

con ese tipo de estados.

BSL: Sí, hay investigaciones sobre esto.

BSL: Yeah, there's research on this.

Primero, se llama sesgo del statu quo.

One, it's called the status quo bias.

People like things that are already there.

Nos gustan las cosas que ya existen.

Y segundo, nos gusta que se afirme lo que creemos sobre nosotros mismos

And two, people like to have what they believe about themselves affirmed

si realmente creemos en ellas, incluso si no son positivas.

if they really believe them, even if they're not positive.

Así que eso es cierto.

So that is true.

So, like, what does that look like in AI?

¿Qué aspecto tiene eso en la IA?

(Risas)

(Laughter)

KG: Definitivamente me parece interesante que nos guste hablar

KG: I mean, it's definitely interesting to me that people seem to love like,

con muchas de estas cosas y que suenan como ordenadores

you talk to a lot of these things and they sound like computers

y suenan como IA, pero nos encanta

and they sound like AI, but people love it

porque es algo familiar y controlable.

because it's kind of familiar, it's controllable.

If you start to add lots of personalities and these kinds of things,

Si empiezas a añadir muchas personalidades y este tipo de cosas,

tiene sentido en el contexto, pero me pareció interesante

it makes sense in context, but I found it interesting

that as we started developing these AI systems

que, cuando empezamos a desarrollar estos sistemas de IA

that people interact with,

todos tienen una voz similar, muy parecida a la de la IA.

they all have this kind of similar voice.

Puedes darte cuenta de que estás hablando con una IA.

And it's a very "AI voice."

You can kind of tell that you're talking to an AI.

Puede que sea intencional.

Maybe that’s intentional.

Pero hay algo ahí, en el que creo que las personas prefieren

But there is something there, where like, I think people have a preference

obtener lo que quieren de los humanos, de los humanos,

to getting what they want from humans, from humans,

and from AI, from AI.

y de la IA, de la IA.

But that could blend,

Pero eso podría mezclarse,

hay muchas personas

there's already lots of, you know,

de ciertos grupos demográficos que pasan mucho tiempo en Internet

people in certain demographics who spend a lot of time on the internet

and they start to identify,

y comienzan a identificarse,

esa es su forma favorita de interactuar con las personas.

that's their favorite form of interacting with people.

And so I do think that there's a reality where,

Por eso creo que hay una realidad en la que,

conforme avanzamos hacia el futuro,

as we move into the future,

there will be people who bias towards that for whatever reasons.

habrá personas que se inclinarán por eso por cualquier motivo.

Whether it's the comfort of knowing that someone's not judging them,

Ya sea por el consuelo de saber que alguien no lo juzga

whether it's like the format that it speaks to you with,

o por el formato con el que te hablan,

eso generará un cierto sesgo a favor de preferir ese tipo de interacciones.

that will kind of bias towards preferring those types of interactions.

Pero, por otro lado, siempre he pensado

But on the other hand, I always think

que habrá una distribución de personas,

there’ll be a distribution of people,

y habrá algunas personas a las que realmente no les guste.

and you'll have some people who really don't like it.

Y, como decía,

And, you know, like I was saying,

cuanto más interactúo con ello ahora, me resulta casi doloroso

the more that I interact with it now, I find it almost painful

porque acabo de darme cuenta de muchos de estos temas

because I just pick up on so many of these issues

that you're like, I can't even use it at a certain point.

que piensas que ni siquiera puedo usarlo en un momento determinado.

And, you know, you'd think that, like, you know,

Y, pensarías que,

I’m in the AI space, and I write 20-page docs.

estoy en el espacio de la IA y escribo documentos de 20 páginas.

No necesito la IA para nada

I don't need AI for a single bit of it

porque elimina esa voz.

because it does remove that voice.

Sin embargo, también tengo la duda de que,

And I do also wonder, though,

conforme las personas interactúen más con ella,

as people interact with it more,

will they either identify the differences

identificarán las diferencias

o empezarán a adaptarse a lo que se les ha enseñado con la IA.

or start to conform to the things that they're trained with AI.

Es lo mismo que si interactuaras con tu pareja, por ejemplo, ¿sí?

It's the same as if you interact with your partner for example, right?

Empiezas a dejarte sesgar por la comunicación

You start to be biased by the communication

because you're talking so much.

porque hablas mucho.

BSL: You mean they're training you?

BSL: ¿Te están entrenando?

KG: They're training you.

KG: Te están entrenando.

Your partner is probably like, you know,

Probablemente tengas una forma preferida de comunicarte.

they have a preferred way of communicating.

You get used to it, these kinds of things.

Uno se acostumbra.

Me pregunto si, conforme interactuemos más con la IA,

So I do wonder if, as people interact with AI more,

todas convergerán.

that they'll kind of all converge.

Es quizás uno de mis mayores temores con respecto a la IA.

That's probably one of my biggest fears actually of AI.

BSL: Me preocupa exactamente lo contrario.

BSL: I'm concerned about the exact opposite.

Voy a cambiar un poco.

I'm going to shift a little bit.

Cuando hablamos de IA, lo que estás describiendo,

So when we talk about AI, what you're describing,

it's usually like dyadic interactions.

suele ser como interacciones diádicas.

Like, I'm interacting with one AI, one agent.

Por ejemplo, estoy interactuando con una IA, un agente.

Pero en realidad interactuamos con varias personas, ¿sí?

But really what people do is interact with multiple people, right?

You interact in some community or some small group setting.

Interactúas en alguna comunidad o en un grupito.

Y me sorprende que no haya más de eso en la IA.

And I'm surprised that there's not more of that in AI.

También te dedicas a los videojuegos.

So you're also in gaming.

La verdad es que no me gustan los juegos,

I don't really game,

but my understanding is that a lot of the gaming

pero tengo entendido que gran parte de los juegos

is about connecting with the people, and it's a community kind of experience.

tienen que ver con conectar con la gente

una experiencia comunitaria.

So there's two things.

Así que hay dos cosas.

One, I'm really surprised that AI seems so focused on these,

Primero, me sorprende mucho que la IA parezca centrarse tanto

en estas interacciones individuales, en lugar de en tener varios agentes de IA

like, one-on-one interactions

as opposed to like, multiple AI agents

creating a more immersive social experience.

que crean una experiencia social más inmersiva.

KG: I love you brought it up because that's really what we do.

KG: Me encanta que lo hayas mencionado porque eso hacemos.

BSL: Good, so that's one.

BSL: Esa es una.

Otra cosa, por ejemplo, la razón por la que me preocupa menos la convergencia

Other thing, like, the reason I worry less about convergence

and more about divergence

y más la divergencia

is if you could produce a more immersive social experience,

es que si pudieras producir una experiencia social más inmersiva,

now everybody’s having their individual social experiences.

ahora cada uno tiene sus propias experiencias sociales individuales.

Like now, what I worry about with AI, with VR,

Por ejemplo, lo que me preocupa de la IA, de la realidad virtual,

with all these kind of technologies that are expanding,

de todo este tipo de tecnologías que se están expandiendo,

lo que podemos controlar de nuestro entorno social,

what we can control about our social environment,

about our physical perceptions in the environment,

de nuestras percepciones físicas del entorno,

is that we all inhabit our own singular world.

es que todos habitamos en nuestro propio mundo singular.

That is more frightening to me than like, you know,

Eso me asusta más que,

que todos hayamos convergido en la misma experiencia.

that we all converged in the same experience.

KG: Bueno, mi madre es maestra de séptimo grado,

KG: Well, my mom’s a grade-seven teacher,

and the one thing that she said is really interesting

y dijo algo realmente interesante,

is if you went back like 20 years,

que si retrocedieras unos 20 años,

everybody was watching the same TV shows,

todos veían los mismos programas de TV

y venían a clase y todos hablaban de ello.

and they come to class and they'd all be talking about it.

Y ahora todo el mundo ve su canal favorito de YouTube.

And now everybody watches their own favorite YouTube channel.

And it's the siloing of reality.

Y es el aislamiento de la realidad.

Like, what we do is when we work with games, for example,

Por ejemplo, cuando trabajamos con juegos,

una de las cosas interesantes es que, conforme la gente juega,

one of the interesting things is like, as people play through games,

it's basically the same thing.

es básicamente lo mismo.

Un millón de personas podrían jugar un juego,

You could have a million people go through a game,

con algunas diferencias,

and it’s some differences

but you're largely going to hit the same points.

pero en gran medida vas a conseguir los mismos puntos.

¿Qué significa eso para la agencia?

And so one of the things that we think about is,

La forma de interactuar con los medios

what does that mean for agency?

The way we interact with media

cambia la forma en que sentimos que somos agentes en el mundo.

changes the way that we feel agency in the world.

Por eso, si vemos medios inertes que no podemos cambiar,

So if we see inert media that we can't change,

it also gives you this sense that you can't change the world.

nos dan la sensación de que no se puede cambiar el mundo.

And so to your point,

Según tu punto de vista, algo que queremos hacer con los juegos es:

one of the things that we want to do with games is, how do you make it

¿cómo hacer que cada persona pueda influir en ese resultado?

so that each person can actually influence that outcome?

Y conforme añades más agentes,

And as you add more agents into that,

verás, bueno, yo interactúo con este y tiene un efecto en cascada.

that you see, OK, I interact with this one and it has a cascade effect.

Me encanta.

Incluso en algunas de las cosas que hemos hecho aquí,

I love it.

I mean, even in some of the stuff we've done here,

la magia ocurre cuando esos agentes interactúan,

the magic actually happens when you do have those agents interacting,

porque además no solo ves esa interacción uno a uno,

because then you’re also not just seeing like that one-to-one interaction

sino el efecto emergente que básicamente produce esa interacción.

but the emergent effect of basically that interaction.

Y otra cosa es que si los principales controles que tienes en el ordenador

And another thing is, if your main controls that you have in the computer

son apuntar y hacer clic o, en los juegos, saltar y disparar,

is like point-and-click or, in games, jump and shoot,

estamos intentando ver qué significa si las habilidades sociales,

we're trying to see like, what does it mean if social skills

como la interacción como esta,

like interaction like this,

son las formas en que realmente interactúas con los juegos,

are the ways that you actually interact with the games, the technology

la tecnología y los agentes.

and the agents.

Se trata de una forma de conversar o dialogar muy diferente

That’s a very different way of conversing or of dialogue than button presses.

a la de pulsar botones.

And I think that changes the way that you sense agents in the world.

Y creo que eso cambia la forma en que percibes a los agentes del mundo.

La mayoría de las personas cambian el mundo hablando,

Because I think the way that most people change the world is by speaking

and interacting and interacting with other humans,

e interactuando con otros seres humanos,

no pulsando botones.

not by pressing buttons.

I mean, arguably it's the case in some.

Podría decirse que es el caso en algunos.

BSL: Sabes, la otra cosa que me interesa es...

BSL: You know, the other thing that's interesting to me is

I don't think people have an understanding

No creo que la gente comprenda

los sistemas en los que existen, ¿sí?

of the systems they exist in, right?

Las personas piensan que viven en relaciones similares a las individuales,

People think about themselves as existing in like individual relationships,

and they have a harder time understanding system affects

y les cuesta más entender los efectos del sistema

like I affect you, which affects your partner,

como «yo te afecto a ti», que afecta a tu pareja,

que afecta a los padres de tu pareja, ¿sí?

which affects your partner's parents, right?

Eso es algo más difícil de entender.

That is a harder thing to grasp.

Pero creo que hay algo que es fundamentalmente humano en eso.

But I think there's something that's fundamentally human about that.

A ti también te afectan estas cosas que están pasando,

Like you are also impacted by all these different things going on,

por ejemplo, cuando una persona vino a maquillarnos,

like, we had the person come and put on our makeup,

and now I'm looking beautiful

y ahora estoy guapo

y eso está afectando a todos los que me rodean.

and it's affecting everybody else around me.

(Laughter)

(Risas)

KG: It's glowing.

KG: Estás brillando.

BSL: Exactly.

BSL: Exactamente.

How does that fit in?

¿Cómo encaja eso?

I just haven't heard people talk about it in that way,

No he oído a la gente hablar de ello de esa manera,

which is surprising to me, because that, I think,

lo que me sorprende, porque pienso que eso

is what fundamentally makes humans human.

nos hace humanos en lo fundamental.

It's interaction

Es la interacción y las situaciones sociales complejas.

and complex social situations.

KG: And these like, nested systems.

KG: Y estos sistemas similares a los anidados.

And like, they all affect each other, right?

Y todos se afectan unos a otros, ¿sí?

You think that your small activity

Crees que tu pequeña actividad

doesn't affect whatever higher-level political stuff,

no afecta a ningún tema político de alto nivel,

but it's all aggregate.

pero todo es agregado.

Todo está interrelacionado.

And it's all interlinking as well.

I mean, it's like the AI thing is interesting too,

Es decir, es que el tema de la IA también es interesante,

porque a menudo escucho a la gente hablar de ello como si fuera una evolución.

because I often hear people talk about it as like this evolution.

You have like, you know, singular cells to monkeys to humans to AI.

Tienes células singulares para los monos, para los humanos y la IA.

Whereas like, you could flip it, where it's like more like, you know,

Mientras que, podrías voltearlo, donde sería más parecido

cells to organs to human to AI.

a células, a órganos, humanos a IA.

It's a system overarching that just because it's trained on us

Se trata de un sistema generalizado que solo porque se basa en nosotros

and we do these things, that we actually influence that system,

y hacemos estas cosas, influimos realmente en ese sistema,

now that people are interacting with it, it has this interplay.

ahora que la gente interactúa con él, tiene esta interacción.

And that's interesting too, when it becomes like, you know,

Y eso también es interesante, cuando parece que

AI isn't this singular entity.

la IA no es una entidad singular.

It is more of an institution or a system almost

Es más bien una institución o un sistema

that is kind of overarching everything else.

que casi domina todo lo demás.

BSL: Y también es extraño porque es como nuestra visión de quiénes somos.

BSL: And it's also weird because it's like our vision of who we are.

So when we talk about AGI,

Por eso, cuando hablamos de IGA,

it's like we don't even know what intelligence is

es como si ni siquiera supiéramos qué es la inteligencia

and we think we're going to produce something that has it.

y pensamos que vamos a producir algo que la tenga.

It's just an interesting situation where we talk about it, as you said,

Es una situación interesante en la que hablamos de ello, como has dicho,

it's natural evolution,

es una evolución natural,

pero en realidad la estamos creando

but in fact we’re creating it,

and it's not clear that we know exactly what it is we're creating.

y no está claro si sabemos exactamente qué es lo que estamos creando.

KG: I actually think that one of the most interesting things

KG: De hecho, creo que una de las cosas más interesantes

is that we're starting to work on AI at a point where,

es que empezamos a trabajar en la IA y nos damos cuenta

like, I still think we're figuring out, you know, ourselves.

por nosotros mismos.

La neurociencia está en sus inicios

Neuroscience is very early on in its days,

y, sin embargo, estamos creando cosas

and yet we're creating things

que se basan en nuestra inteligencia

that are like, based on our own intelligence,

y no entendemos ni siquiera lo que ocurre en nuestro interior.

and we don't really understand even what's going on inside.

En cuanto a tu punto de vista, ¿cuáles son los efectos?

And so to your point on, what are the effects?

We don't really know yet.

La verdad es que aún no lo sabemos.

Cada año se publica un nuevo artículo que cambia

Every year a new paper comes out

and changes how people think about child rearing.

la forma de pensar la crianza de los hijos.

Like how to bring up a child well, like all those kinds of things.

Por ejemplo, cómo criar bien a un niño, como todo ese tipo de cosas.

And now we're creating systems that will, you know,

Y ahora estamos creando sistemas que,

kind of be overarching other humans.

prevalecerán sobre otros humanos.

What does that mean, I don't know.

Qué significa eso, no lo sé.

I do actually think,

De hecho,

I happen to be in AI, we happen to be at this point in time.

creo que estoy en la IA, y resulta que estamos en este momento.

But if we could pause for a second,

Pero si pudiéramos detenernos un segundo,

I think it would be good, another few centuries of figuring out what we are

creo que estaría bien pasar otros siglos descubriendo lo que somos

and understanding that a little bit better

y entendiéndolo un poco mejor

before we created something that was in our image.

antes de crear algo a nuestra imagen y semejanza.

Because, we’re kind of just, you know,

Porque simplemente,

it's kind of like taking a photograph and like painting it, right?

es como tomar una fotografía y pintarla, ¿sí?

You're not actually getting the person and painting it.

En realidad, no vas a tomar a la persona y pintarla.

There's something about the life that's missing there.

Hay algo de la vida que falta ahí.

So I do agree.

Así que estoy de acuerdo.

I think that we're honestly kind of premature,

Creo que, sinceramente, es un poco incipiente,

but I think it's just how, I guess,

pero creo que, supongo,

you know, life goes that things come out when they naturally should.

la vida va así, las cosas salen cuando naturalmente deben.

BSL: So, I mean, you work in AI,

BSL: Bueno, tú trabajas en IA,

so what's the most exciting thing for you in AI?

así que, ¿qué es lo que más te entusiasma de la IA?

What's your hope for it?

¿Qué esperas al respecto?

KG: I think it's kind of back to that agency question.

KG: Es como volver a la pregunta de la agencia.

So I mean, you know, you read a news story,

Lees una noticia,

lees un libro, ves una película, ves un programa de TV,

you read a book, you watch a movie, you watch a TV show,

this is specific to, like, my domain,

esto es específico de mi dominio,

hay algo en la comunicación

like there's something about the communication

that we're having right now where, like,

que estamos teniendo ahora mismo

en el que me estoy adaptando a las cosas que dices, a tu lenguaje corporal,

I'm adapting to the things that you say, to your body language,

all those kinds of things, right?

a todo ese tipo de cosas, ¿sí?

To, like, the people in the room we have here, all these things.

Para la gente de la sala que tenemos aquí, todas estas cosas.

And so when you have ...

Y así, cuando tienes...

La IA es capaz, en cierto modo, de ayudar a esa adaptación,

AI able to, sort of, help that adaptation so that you have that agency

de modo que tienes esa agencia sobre las cosas con las que interactúas.

in the things that you interact with.

I don't necessarily believe in fully personalized media

No creo en los medios totalmente personalizados

because I think we need like a shared social context.

porque necesitamos un contexto social compartido.

The reason we watch a movie or a TV show

Vemos una película o un programa de TV porque luego podemos hablar de ello, ¿sí?

is because then we can all talk about it, right?

But there is something about the fact

Pero hay algo en el hecho de que

todos interactuamos con estos objetos de Internet.

that we're all interacting with these internet objects.

La forma de sentir la tecnología, cuando estás en una pantalla, no cambia.

And so the way that technology feels, you're on a screen, it doesn't change.

Estás viendo Netflix, no cambia según lo que hagas.

You're in a movie, it doesn't change.

You're watching Netflix, it doesn't change depending on what you do.

Y eso nos cambia la forma de ver la propia agencia en el mundo.

And I think that changes the way we see our own agency in the world.

Así pues, espero que con la IA una de las cosas que haga

And so I hope with AI that one of the things that it does

is kind of opens this door to agency

sea abrir la puerta a la agencia

in the way that we interact with media and technology in general,

sobre cómo interactuamos con los medios y la tecnología en general,

such that we do notice that effect that you have on systems.

de forma que notemos el efecto que tienen en los sistemas.

Because even if it's small, right,

Porque aunque sea pequeña,

si hago una determinada acción y eso cambia por completo una aplicación

where I take a certain action and it completely changes an app

or it changes an experience,

o cambia una experiencia,

maybe that helps us learn that we have an effect in the social systems

tal vez eso nos ayude a darnos cuenta de que también tenemos un efecto

en los sistemas sociales a los que estamos afectando.

as well that we're affecting.

So something to that effect.

Así que algo en ese sentido.

BSL: Así que quieres que nuestra agencia sea más transparente.

BSL: So you want to make our agency more transparent.

Y crees que lo hace,

And do you think it does that,

because right now I'm not sure it doesn't obfuscate our agency.

porque no estoy seguro de que no ofusque a nuestra agencia.

KG: No I don't necessarily know.

KG: No, no necesariamente lo sé.

I agree, I mean this is why I think also

Estoy de acuerdo, que por eso creo que también

mi dominio son los medios y los juegos principalmente.

media and games is, you know, the domain I mainly focus on.

Y creo que es interesante, sobre todo porque los jóvenes lo utilizan mucho.

And I think it's interesting, especially because young people use it a lot.

Por eso he escuchado a desarrolladores de juegos muy veteranos decir

And so I've heard very veteran game developers say

que la forma de interactuar con los juegos

how people interact with games

kind of trains kids how they should interact with the world.

enseña a los niños a interactuar con el mundo.

Por eso, incluso las personas que suelen ser jugadores profesionales

So even people who tend to be professional players in different games

have different psychological profiles

en diferentes juegos tienen perfiles psicológicos diferentes

because they bias towards certain ways of interacting and seeing the world.

porque se inclinan por ciertas formas de interactuar y ver el mundo.

The same way, I guess, if you trained in something academic, right,

Como, supongo, si te has formado en algo académico,

tienes una forma diferente de verlo.

you have a different way of viewing it.

And so if we make games and media in a way

Por eso, si creamos juegos y medios de manera

que también sientas ese tipo de impacto social,

that you feel that sort of social impact as well,

tal vez, quizás se abra la puerta a otro ámbito de comprensión.

maybe, maybe it opens the door to like, another realm of understanding.

Pero sí, estoy de acuerdo en que,

But, yeah, I agree that like a lot of the systems that we have today

como muchos de los sistemas que tenemos hoy en día,

quizás también te dan una falsa sensación de agencia,

give you maybe a false sense also of agency

cuando hablábamos de los sistemas de IA,

where like we were talking about the AI systems,

where you actually feel like you're controlling this thing,

en los que realmente sientes que estás controlando esto,

mientras que tal vez también es sesgado y «controlador»,

whereas maybe it's also biasing, you know, and "controlling,"

que también tiene cierta influencia sobre ti.

having some influence over you as well.

BSL: So where do you think things are going?

BSL: ¿Hacia dónde crees que van las cosas?

So there's obviously a huge race among some very,

Obviamente hay una enorme carrera entre algunas organizaciones con muchos,

very well-resourced organizations over AI, right?

muy buenos recursos en torno a la IA, ¿sí?

You know, Microsoft, Google, I mean, are the biggest maybe.

Microsoft, Google, quizás sean los más importantes.

And they are very quickly going to need to monetize it

Y van a necesitar monetizarlo muy rápidamente

porque para eso están diseñadas esas empresas.

because this is what those companies are designed to do.

Like what do you foresee?

Por ejemplo, ¿qué es lo que prevés?

Porque solo veo las redes sociales como un ejemplo.

Because I just look at social media as an example.

I think, at the time when it first came out,

Pienso que, cuando salió por primera vez,

la gente estaba muy entusiasmada,

people were really excited, as a new way to connect with people

ya que era una nueva forma de conectar con la gente

y una forma de mantenerse conectado con la gente

and a way to stay connected to people

you know, you couldn't otherwise;

que no podrías de otra manera;

ponerte al día con personas con las que has perdido el contacto,

catch up with people you lost contact with,

that sort of thing.

ese tipo de cosas.

And it changed into something else.

Y se convirtió en algo diferente.

En gran parte por la forma en que se monetizó, por ejemplo,

In large part because of the way it was monetized,

like going to ads, focus on attention.

ejemplo, al ver anuncios, centrarse en la atención.

¿Cuál es la trayectoria de la IA?

What's the trajectory of AI?

KG: Estoy haciendo conjeturas.

KG: You know, I'm taking guesses.

BSL: Sí, por supuesto, todos estamos haciendo conjeturas,

BSL: Yeah, of course, we're all taking guesses,

I won’t hold you to it, don’t worry.

no te obligaré a hacerlo, no te preocupes.

KG: I think that the reality is,

KG: Creo que la realidad es que

we were kind of mentioning before about the challenges of scale.

ya mencionábamos antes los desafíos de la escala.

And when you invest tens of billions of dollars in something,

Y cuando inviertes decenas de miles de millones de dólares en algo,

you need scale.

necesitas escalar.

And I think that's one of -- the way that AI is developed

Y creo que esa es una de las formas en que se desarrolla la IA

incluso los tipos de modelos que usamos,

and specifically even the types of models we're using,

el modelo económico,

the economic model of it,

which is effectively the more compute you have,

que consiste en que cuanto más computación se tenga,

mejores modelos se pueden crear.

the better models you can create.

The better models you can create, the more usage you get.

Cuantos mejores modelos puedas crear, mayor será el uso que obtendrás.

The more usage you get, the better.

Cuanto más lo uses, mejor.

So it has somewhat of a, honestly, like monopolistic tendency, I think,

Honestamente, creo que tiene una tendencia algo monopólica,

in the way that actually even like the architectures

en la forma en que funciona, incluso en sus arquitecturas

and the economy of it works.

y economía.

Por eso creo que es casi inevitable

And so

I think it's almost inevitable that whatever AI systems are produced

que, independientemente de los sistemas de IA que produzcan

by these large organizations

estas grandes organizaciones,

will be pushed to scale as quickly as possible.

se amplíen lo antes posible.

Y eso tiene algunas ventajas:

And there's some pluses in that where like, you know, sure,

están creando circuitos de retroalimentación,

they're building in feedback loops, people can give their input, it biases it.

la gente puede dar su opinión, y eso la sesga.

But also at the same time,

Pero al mismo tiempo,

what does it mean when a single model is fit to a billion people, right?

¿qué significa que un modelo único sea adecuado

para mil millones de personas, verdad?

So that's kind of what I meant about the converging effect

Más o menos eso es lo que quería decir con lo del efecto convergente:

where, what happens when we are pushed to produce something

¿qué ocurre cuando nos presionan para producir algo

that fits to a billion people?

que sirva para mil millones de personas?

There's a lot of diversity in there.

Ahí hay mucha diversidad.

And so, you know, we create these scaled systems that are fitting with the whole,

Así que, creamos estos sistemas a escala que se adaptan a todo el planeta,

por ejemplo, intentando adaptarse a todo el planeta.

like, trying to fit the whole planet.

Does that work?

¿Eso funciona?

And so I think what will, you know,

Pasaremos por esta fase en la que,

we're going to go through this phase where like, yeah,

sí, habrá mil millones de personas interactuando con la misma IA.

you're going to have a billion people interacting the same AI.

Y no sé cuál será el efecto de eso.

And I don't know what the effect of that will be.

Incluso los modelos de monetización actuales consisten en pagar por usar

Even the monetization models now are kind of you pay

to use these kinds of things, which are maybe OK,

este tipo de cosas, lo que quizás esté bien,

pero es probable que los anuncios entren en la ecuación

but certainly ads will probably enter the equation.

Also, what happens when you want attention

cuando la IA lo hacen mucho mejor que los algoritmos

and AI is much better at that than the algorithms

de YouTube e Instagram.

you even have on YouTube and Instagram.

Y ya puedes empezar a captar esa atención.

And you can start to capture that attention.

Por eso, desde luego, creo que va a ser un momento interesante,

And so I certainly think it's going to be an interesting little bit here now,

ya que vemos cómo estas enormes organizaciones

as we see these huge organizations spending tens of billions of dollars

gastan decenas de miles de millones de dólares

and the choices that they make to then monetize that,

y las decisiones que toman para luego monetizarlos,

and what that means for how AI proliferates.

y lo que eso significa para la proliferación de la IA.

Conozco a muchos miembros de las organizaciones

I know a lot of the folks in the organizations,

y sus intereses nunca han estado en ese ámbito.

and their interests have never been in that domain.

Pero al mismo tiempo, estás en deuda,

But at the same time, you're beholden, you know,

con los intereses del mercado de valores y lo que sea,

to stock market interests and whatever it is, then what happens?

¿qué pasa entonces?

It shifts it, right?

Lo cambia, ¿sí?

We're in a capitalist world.

Estamos en un mundo capitalista.

And that's kind of like, you know,

Y eso es algo así como,

what ultimately will change the incentives.

lo que en última instancia cambiará los incentivos.

So yeah it's interesting.

Así que sí, es interesante.

I mean I am interested in, coming from your background,

Me interesa que, desde tu origen,

you have a very different stance on it.

tengas una postura muy diferente al respecto.

But, you know, it's all this AI stuff is interesting.

Todo esto de la IA es interesante.

But, you know, when you think, almost to your first question,

Pero, cuando piensas, casi respondiendo a tu primera pregunta,

what makes us human and like as people,

qué es lo que nos hace humanos y como personas,

just technology in general and specifically with AI,

solo la tecnología en general y específicamente con la IA,

like where can people find the meaning in their life,

por ejemplo, ¿dónde pueden las personas encontrar el sentido de su vida,

the values that they find true?

los valores que consideran verdaderos?

And how will that change, do you think,

¿Y cómo crees que cambiará eso,

I guess, with like the advent of these new technologies?

supongo, con la llegada de estas nuevas tecnologías?

¿O cómo lo has visto cambiar

Or how have you seen it change

with the technologies we've already seen come to life?

con las tecnologías que ya hemos visto nacer?

BSL: Va a sonar gracioso.

BSL: This is going to sound like a funny answer.

Pienso que la gente está demasiado preocupada por la tecnología.

I think people are too worked up about technology, personally.

Tuvimos esta conversación.

I mean, you know, we had this conversation.

I think, you know, people have been using technology since we've been human.

Creo que, la gente ha estado usando la tecnología desde que somos humanos.

So paper was a huge invention.

Así que el papel fue un gran invento.

Talked about this.

Hablé de esto.

The printing press, huge invention.

La imprenta, un gran invento.

Computer, huge invention.

La computadora, un invento enorme. Internet, un gran invento.

Internet, huge invention.

AI, great, another huge invention.

IA, genial, otro gran invento.

And through all of that, I think

Y a pesar de todo eso, creo que

lo que se ve en muchas de las tecnologías más importantes

what you see in a lot of the biggest technologies

is the desire to connect with other human beings.

es el deseo de conectarse con otros seres humanos.

I think what fundamentally makes us human is our connection to other human beings,

Creo que lo que fundamentalmente nos hace humanos

es nuestra conexión con otros seres humanos,

our ability to engage with other human beings, and like consciousness

nuestra capacidad de relacionarnos con otros seres humanos,

and all these other things I think are necessary preconditions.

y que la conciencia y esas otras cosas son condiciones previas necesarias.

But really, what makes us human is connections with other humans.

Pero lo que nos hace humanos son las conexiones con otros seres humanos.

And that is incredibly complex.

Y eso es increíblemente complejo.

And I don't think we're close in terms of technology of replicating that.

Y no creo que estemos cerca en términos de tecnología para replicar eso.

I mean, even what you described it's like you have this feeling of like,

Incluso lo que describiste es como si tuvieras la sensación

de que esto no está bien, está mal.

this isn't right, this is off.

And even if you felt like it was right,

E incluso si sintieras que estaba bien

it still would be off in ways you didn't quite get.

todavía estaría mal de maneras que no entendiste del todo.

I don't think we're close.

No creo que estemos cerca.

Though because it's designed to pull our attention away from other things,

Sin embargo, debido a que está diseñado

para desviar nuestra atención de otras cosas,

I think it impedes our ability

creo que impide nuestra capacidad

to do what we all kind of want to do,

de hacer lo que todos queremos hacer,

which is interact with each other.

que es interactuar unos con otros.

And it might change the way we interact with each other

Y podría cambiar la forma en que interactuamos entre nosotros

in a way that might feel less fulfilling.

de una manera que podría resultar menos satisfactoria.

And I think you see some of that in social interactions now.

Y creo que ahora ves algo de eso en las interacciones sociales.

Some of that I mean, recently maybe,

Algo de eso, tal vez recientemente,

COVID was an issue.

la COVID fue un problema.

But, you know, people feeling less comfortable in face-to-face interactions.

Pero, las personas se sienten menos cómodas en las interacciones cara a cara.

Like people dating,

Como las personas que salen,

there's no serendipity in hanging out and you meet who you meet.

no hay casualidad en salir y conocer a quien conoces.

It's like you're using an algorithm to try to present to you options.

Es como si estuvieras usando un algoritmo para intentar presentarte opciones.

That's a very different world.

Es un mundo muy diferente.

So even that's prior to AI.

Así que incluso eso fue antes de la IA.

Y no sé cómo la IA va a influir aún más en eso.

And I don't know how AI is going to further influence that.

KG: And I guess just even like the general point,

KG: Y me imagino que siguiendo la línea general,

¿qué tan importante crees que es

how core do you think

the need for connection is

la necesidad de conexión,

en el sentido de que,

in the sense that, you know,

I've heard some parents say that, through COVID,

he oído a algunos padres decir que, a causa de la COVID,

their kids went through a major change, you know,

sus hijos experimentaron un cambio importante,

these regressions,

estas regresiones,

their different habits and these kinds of things

sus diferentes hábitos y este tipo de cosas

because they weren't connecting with people.

porque no se conectaban con la gente?

And then it's taken years to overcome that.

Y luego se han necesitado años para superarlo.

So I do also wonder, like, you know,

Así que también me pregunto,

si es por la tecnología o por cosas como la COVID

whether it's through technology or things like COVID

or just like circumstances,

o simplemente por las circunstancias,

could we lose that need for connection?

¿podríamos perder esa necesidad de conexión?

Or even if we need it,

O incluso si lo necesitamos,

you know, we might lose the desire for it

podemos perder el deseo

and feel emotional trauma as a result, but still not go for it.

y sentir un trauma emocional como resultado, pero aun así no conseguirlo.

O sea, ¿qué tan esencial crees que es?

Like, how core do you think it is?

And do you think we're safe in that kind of need?

¿Y crees que estamos a salvo en ese tipo de necesidad?

BSL: So I'm going to give you the most extreme answer,

BSL: Así que voy a darles la respuesta más extrema,

which is I think the true one.

que creo que es la verdadera.

That you will cease to be human

Que dejarás de ser humano

if you don't have a need for human connection.

si no necesitas una conexión humana.

Like I think you will be a physical person,

Creo que serás una persona física,

but you will literally break down as a human being.

pero literalmente te derrumbarás como ser humano.

And this is why in part --

Y es por eso que, en parte,

Social isolation

el aislamiento social

or solitary confinement is considered inhumane.

o el confinamiento solitario se consideran inhumanos.

Because people literally break down,

Debido a que las personas literalmente se descomponen,

you will start to have hallucinations.

comenzarás a tener alucinaciones.

You will break down mentally and physically absent human connection.

Te derrumbarás mental y físicamente en ausencia de una conexión humana.

So I don’t think there’s any possibility, in my mind, of losing the need.

Así que no creo que haya ninguna posibilidad,

en mi opinión, de perder la necesidad.

Like, you may get less than you need,

Por ejemplo, puede que recibas menos de lo que necesitas

and that will have negative consequences for you.

y eso tendrá consecuencias negativas para ti.

Pero no me preocupa que la gente no quiera estar rodeada de gente.

But I'm not worried about people not wanting to be around people.

KG: ¿Te preocupa que

KG: Are you worried that, like,

things like social media or AI or any of these things

cosas como las redes sociales, la IA o alguna de estas cosas

puedan darte la sensación de que estás satisfaciendo esa necesidad,

could give you that sense that you're fulfilling that need,

but not actually fulfilling it?

pero realmente no estés satisfaciendo?

It's totally true, right?

Es totalmente cierto, ¿sí?

Solitary confinement is a great example because we need it.

El confinamiento solitario es un gran ejemplo porque lo necesitamos.

We absolutely lose our sanity as well as, you know, our well-being.

Perdemos absolutamente nuestra cordura y nuestro bienestar.

But maybe we can, you know,

Pero tal vez podamos,

technology can manufacture the sense that we're fulfilling it.

la tecnología puede crear la sensación de que lo estamos cumpliendo.

And then over time,

Y luego, con el tiempo,

we see these mental health crises evolve as a result?

¿vemos cómo estas crisis de salud mental evolucionan como resultado?

BSL: Yeah, that's a good question.

BSL: Sí, es una buena pregunta.

I think it's unlikely, but I don't know.

Creo que es poco probable, pero no lo sé.

Honestly I don't know.

Sinceramente, no lo sé.

Hablaré del significado por un segundo.

I'll talk about meaning for a second.

Y creo que eso está fundamentalmente ligado

And I think of that as fundamentally tied

to our need for connection to other people.

a nuestra necesidad de conectarnos con otras personas.

I think sometimes we confuse, for example, our need for meaning,

Creo que a veces confundimos, por ejemplo, nuestra necesidad de significado

with a desire for personal achievement.

con el deseo de alcanzar logros personales.

That we chase personal achievement

Que perseguimos el logro personal

and what we're trying to do is generate meaning.

y lo que intentamos hacer es generar significado.

So I think we can be confused

Por lo tanto, creo que podemos confundirnos

and we can have those needs displaced into less productive routes.

y desplazar esas necesidades hacia rutas menos productivas.

But I don't think it's going away.

Pero no creo que vaya a desaparecer.

But, you know, I don't know that it's the healthiest.

Pero, no sé si es el más saludable.

KG: No, I'm totally aligned.

KG: No, estoy totalmente alineado.

Thank you, Brian, that was an awesome conversation.

Gracias, Brian, fue una conversación increíble.

BSL: Fue un placer hablar contigo.

BSL: It was great to talk to you.

Really fantastic and super informative. Thank you.

Realmente fantástico y muy informativo. Gracias.