What Makes Us Human in the Age of AI? A Psychologist and a Technologist Answer | TED Intersections

Brian S. Lowery: If you could produce a more immersive social experience,

Traduttore: Matteo Casarin Revisore: Veronica Viscardi

BRIAN S. LOWERY: Parlo di creare esperienze sociali più immersive,

now everybody's having their individual social experiences.

diverse da quelle individuali che sperimentiamo ora.

Like now what I worry about with AI, with VR,

Ciò che mi preoccupa dell’IA, della realtà virtuale

with all these kind of technologies that are expanding,

e di tutte queste tecnologie in rapida evoluzione

we all inhabit our own singular world.

è il fatto di vivere in un mondo che è solo nostro.

That is more frightening to me than like, you know,

È qualcosa che mi spaventa di più

that we all converged in the same experience.

dell’uniformità dell’esperienza.

[Intersections]

[Intersezioni]

[Brian S. Lowery: Social psychologist]

[Brian S. Lowery: Psicologo sociale]

[Kylan Gibbs: Technologist]

[Kylan Gibbs: Tecnologo]

BSL: So what makes a human a human?

BSL: Cos’è che ci rende umani?

(Laughter)

(Risate)

KYLAN GIBBS: Partiamo con una domanda tranquilla.

Kylan Gibbs: It’s one of those questions, isn’t it?

I mean, there's like, two ways I would look at it.

Ho due prospettive al riguardo.

One is from my personal life and one is from my work life.

Una dalla mia vita personale, l’altra da quella lavorativa.

Ci sono stati dei periodi in cui passavo

One thing that's interesting is like,

there's been points when I've been spending

quattro o cinque ore al giorno a interagire con l’IA.

four to five hours a day interacting with AI.

È interessante che la prima cosa a catturare l’attenzione

And the interesting thing that happens in that is the things that you notice,

fosse il realismo dell’interazione.

when you first start interacting with it, oh, this is really realistic.

Come quando arrivò la TV in bianco e nero.

Similarly when people first had black and white TV and they're like,

Sembrava la vita reale.

Ma man mano che ci si abitua

wow, this is like real life.

But then as you get used to it, you start to kind of realize,

emergono dettagli che ne compromettono l’autenticità.

the things that make it less authentic.

Una cosa che ho capito grazie all’IA

And I think something that I realized with AI is

è che le nostre interazioni sono più spontanee.

there's certain ways that we interact that are just more spontaneous.

In qualche modo la prevedibilità dell’IA esalta la spontaneità dell’essere umano.

There's something about the predictability of AI that teaches you

I modi di comunicare, la naturalezza, la consapevolezza del contesto.

about the spontaneity of being human.

The ways they communicate, the naturalness, the contextual awareness.

Sono dettagli fondamentali.

Questo dal punto di vista tecnico, mentre dall’altro penso che…

These little things that all add up.

That's on the technical side.

On the other side,

there's something of just the shared experience of being human

l’esperienza condivisa dell’essere umano

non sia equiparabile a quella degli altri animali.

that actually I think differentiates it from other animals’ experience.

Ad esempio, il fatto di aver vissuto dei traumi

You know, you have a traumatic moment in your life,

and then you start to resonate with other people's.

consente di immedesimarsi in quelli altrui.

I feel like every time I've had something nearly catastrophic,

Ogni volta che sono stato sull’orlo del precipizio

it opened up a new door of empathy, and then you start to be like,

ho scoperto una nuova dimensione dell’empatia,

capendo quando qualcuno soffre davvero.

oh man, that really hurt, you know?

Or like when you cry about something, you're like, wow.

O come quando ti sorprendi a piangere per qualcosa

e inizi a ricordare, come succede a me.

And then you start to remember, like this is what usually happens to me.

Inizio a piangere per qualcosa

I start crying about something,

e penso a tutte le cose che ho fatto per mia mamma o mia nonna

and then I think about all the things that I did for my mom or my grandma

e a quello che hanno provato.

and the things that they felt.

Credo che ci sia qualcosa di profondo in queste esperienze condivise.

And I feel like there's something in that kind of like shared experience

Ci sono cose che ci caratterizzano, siamo individui unici,

where we have these things that differentiate us,

we’re all different people.

ma c’è qualcosa che emerge dai sentimenti che abbiamo in comune.

But there’s something about those common feelings

that it all kind of arises from that.

Ma è solo un mio pensiero.

BSL: Una risposta meravigliosa e niente affatto comune.

Anyway, that's one thought.

BSL: I love that answer, and I want to say that you're not normal in that way.

E ora provo a spiegarti il perché.

Here's why I don't think you're normal.

Le persone antropomorfizzano qualsiasi cosa.

People anthropomorphize anything.

Non serve che sia così sofisticata.

It doesn't have to even be that good, right?

Non serve che l’IA sia particolarmente sofisticata

It doesn't have to be anywhere near as good AI

per attribuirle qualità umane.

for people to treat it like it has some human character,

people treat their cars like they're people.

Le persone lo fanno con le loro auto.

Quindi sono sorpreso che interagendoci a lungo

So I'm surprised that when you interact with it a lot,

it feels less real to you.

ti sia sembrata meno reale.

KG: There's something about resolution.

KG: È una questione di “risoluzione”,

It's like the way of seeing the world and you kind of increase this.

di amplificare la propria visione del mondo.

It's like the same reason you can't look at TV that's not 4K now.

Per lo stesso motivo non riusciamo più a guardare una TV non 4K.

And it's someone I think who worked on early VR was saying, you know,

Qualcuno che aveva lavorato ai primi visori per la realtà virtuale

the interesting thing about it was when you stepped out of it,

disse che tornando nel mondo reale si rimaneva sorpresi dalla sua bellezza,

you're like, oh, the real world is actually amazing.

che è difficilissima da ricreare con la tecnologia.

And it's actually really hard to recreate that in technology.

Penso che valga lo stesso per l’IA.

And I think the same is true for AI, it's like maybe for some people,

Alcune persone, interagendoci, potrebbero notare delle affinità,

when they interact with it,

the thing that they see is some commonality.

mentre io noto le differenze con le conversazioni con i miei genitori.

But the thing that I always notice is,

this is very different from the conversations I have with my parents.

Anche se usa parole simili c’è qualcosa che non torna.

Even when it says something similar, there’s something off.

Sono piccoli dettagli che alla fine fanno la differenza

It's those little things,

that's like I think what, over time, will add up

e che emergeranno con la diffusione dell’IA.

as people use AI more, is they’ll start to recognize,

Non saprei definirli, sono le sfumature degli esseri umani.

and I can't even point at them like, what are those nuances, though,

that make us human?

BSL: Le riconosci quando le vedi e ti accorgi quando mancano.

BSL: You just know it when you see it and you're like,

E poi hai suggerito un’altra cosa interessante:

and it's missing an AI.

I mean that's also interesting

because what you just suggested is that the more people use AI,

più le persone useranno l’IA, meno gli sembrerà reale.

the less real it's going to feel to people.

Do you think that's what's going to happen?

Pensi che sarà davvero così?

KG: I mean, there's probably another case, you know,

KG: Forse succede già qualcosa di simile.

it's the same way as, you know,

I feed di Instagram e Facebook non sono una vera conversazione

your Instagram and Facebook feed isn't a real conversation.

ma capita, soprattutto tra i ragazzini, che qualcuno li interpreti

There are certainly, kids especially, who would look at those kinds of feeds

come una rappresentazione reale dei suoi amici,

and feel like, oh, that's a real representation of my friends

delle sue celebrità preferite o di chissà cosa,

or my favorite celebrities or whatever I actually think,

quando in realtà è completamente, o meglio, per lo più falsa.

when it's like completely -- I shouldn't say completely --

largely false.

Penso che accadrà qualcosa di simile con l’IA.

And I do think something similar will happen with AI,

where some people for sure will almost be encaptured.

Riuscirà certamente a catturare qualcuno

And they will believe

e a convincerlo della sua più assoluta autenticità,

that that's the most realistic thing that exists

and then start to compare people to that.

di poterla equiparare a una persona.

But I think that, you know, if you have that degree of empathy,

Ma penso che basti un po’ di empatia per accorgersi che qualcosa non va.

you'll be like, oh, there's something off here.

It's the same way even if you use a Zoom call, there's something off.

È come usare Zoom: c’è qualcosa che non va.

Fatico a cogliere tutti i segnali,

It's hard to pick it up.

But like, I’m not picking up all the signals,

quelle sfumature leggere che probabilmente cogli anche tu.

and it's the very little nuances

that you probably just subtly pick up as well.

BSL: So you don't think that the technology

BSL: La tecnologia non avanzerà abbastanza velocemente

is going to advance quickly enough,

da riempire quei piccoli vuoti e catturarci tutti?

where it’ll overcome those little things fast enough to capture all of us?

You're not worried about that?

Non sei preoccupato?

KG: I am definitely worried about that.

KG: In realtà sono molto preoccupato.

Mainly because because I think for most people it's easy, right?

Soprattutto perché molte persone non faranno resistenza.

So the thing about AI is it's so beholden,

Il problema dell’IA è il suo legame,

at least if you think about like, the chatbot styles,

quantomeno se ci riferiamo ai chatbot,

it's so beholden to what we want.

con ciò che vogliamo.

And that's kind of like what people, I think,

Penso che molte persone vogliano

a lot of people want in their life or they need,

o abbiano bisogno di avere il controllo

is the sense of control.

And the AI gives you the sense that, like,

e l’IA ci dà la sensazione di controllare questa entità antropomorfica.

I can control this anthropomorphic thing.

And honestly, one of my fears is that people get used to that.

Onestamente, temo che le persone finiranno per abituarsi.

And what does it mean when I get used to interacting with something

Mi chiedo cosa succederà passando da un’interazione compiacente

that is beholden to only my views and interests,

a un’interazione con un umano che ha interessi propri.

and then I go and interact with a human who has their own interests?

BSL: Io invece penso che le persone vogliano essere controllate.

BSL: Do you think people want control?

I think people want to be controlled.

KG: (Espressione di stupore)

KG: Maybe it's a form of control, though.

Potrebbe essere una forma di controllo.

To be controlled is a predictability, I guess.

E controllo significa prevedibilità.

BSL: Yeah, people want the world to make sense, don't you think?

BSL: Le persone vogliono che il mondo abbia senso.

KG: Sì, è così.

KG: Yes, yes, I think they also want the world to be ...

E vogliono un mondo che sia…

Si tende a preferire la prevedibilità all’ottimalità.

There's something about, like, preferring predictability over optimality.

So, like, I've even felt it when you have, you know,

Io stesso l’ho sperimentato prendendomi cura della mia salute mentale

a mental health moment,

you have friends who have mental health moments.

o di quella degli amici.

The things that I've always seen as interesting

È interessante che il cervello e la mente

is your brain and your mind prefer to stay in a state that's familiar,

preferiscano una condizione conosciuta, anche se è peggiore.

even if it's worse.

In uno stato depressivo, ad esempio,

So if you're in like a depressed state,

you almost would rather like stick in that than break outside of it, right?

è quasi preferibile rimanere fermi piuttosto che uscirne.

So there's something about things that are familiar

C’è qualcosa che ci spinge verso la familiarità

rather than actually better.

invece di migliorare.

And I don't know, there's a bias towards, you know,

C’è quasi una propensione a identificarsi con determinate condizioni.

you almost identifying then with those kinds of states.

BSL: Yeah, there's research on this.

BSL: Nella ricerca si chiama “bias dello status quo”.

One, it's called the status quo bias.

People like things that are already there.

Le persone preferiscono ciò che c’è già

And two, people like to have what they believe about themselves affirmed

e ciò che conferma la loro visione di sé,

if they really believe them, even if they're not positive.

anche se non è positiva, a patto di crederci veramente.

So that is true.

Quindi è proprio così.

So, like, what does that look like in AI?

Come si traduce tutto questo nell’IA?

(Laughter)

(Risate)

KG: I mean, it's definitely interesting to me that people seem to love like,

KG: Trovo interessante che alle persone sembri piacere

you talk to a lot of these things and they sound like computers

parlare con queste entità che risultano robotiche e artificiali

and they sound like AI, but people love it

ma che allo stesso tempo appaiono familiari e gestibili.

because it's kind of familiar, it's controllable.

If you start to add lots of personalities and these kinds of things,

È naturale che vengano aggiunte personalità e altre caratteristiche

it makes sense in context, but I found it interesting

ma è interessante che questi sistemi di IA con cui le persone interagiscono

that as we started developing these AI systems

that people interact with,

abbiano tutti una voce simile, una “voce da IA”.

they all have this kind of similar voice.

And it's a very "AI voice."

Si capisce quando è un’IA a parlare, e forse è intenzionale.

You can kind of tell that you're talking to an AI.

Maybe that’s intentional.

Eppure penso che in qualche modo

But there is something there, where like, I think people have a preference

le persone cerchino cose diverse dagli umani e dalle IA.

to getting what they want from humans, from humans,

and from AI, from AI.

But that could blend,

Ma le cose possono mescolarsi perché ci sono già dei gruppi demografici

there's already lots of, you know,

people in certain demographics who spend a lot of time on the internet

che trascorrono molto tempo su Internet, identificandosi.

and they start to identify,

È il loro modo di interagire con le persone.

that's their favorite form of interacting with people.

And so I do think that there's a reality where,

Penso che in futuro ci saranno sempre più contesti

as we move into the future,

in cui le persone saranno propense a comportarsi così.

there will be people who bias towards that for whatever reasons.

Per il fatto di non essere giudicate

Whether it's the comfort of knowing that someone's not judging them,

whether it's like the format that it speaks to you with,

o di apprezzare un modello di conversazione,

saranno comunque propense a preferire quel tipo di interazioni.

that will kind of bias towards preferring those types of interactions.

But on the other hand, I always think

D’altra parte, penso che ci sarà sempre una distribuzione statistica

there’ll be a distribution of people,

and you'll have some people who really don't like it.

e quindi qualcuno che le detesterà.

And, you know, like I was saying,

Come stavo dicendo, più ci interagisco e più non sopporto l’IA

the more that I interact with it now, I find it almost painful

perché mi accorgo di così tante problematiche

because I just pick up on so many of these issues

that you're like, I can't even use it at a certain point.

che ad un certo punto devo smettere di usarla.

And, you know, you'd think that, like, you know,

I’m in the AI space, and I write 20-page docs.

Diciamo che devo scrivere dei documenti di 20 pagine in uno spazio IA.

I don't need AI for a single bit of it

Non la userò perché silenzia la mia voce.

because it does remove that voice.

And I do also wonder, though,

Però mi chiedo se le persone, interagendoci sempre di più,

as people interact with it more,

will they either identify the differences

si accorgeranno della differenza

or start to conform to the things that they're trained with AI.

o si conformeranno all’addestramento dell’IA.

È un po’ come interagire con il proprio partner.

It's the same as if you interact with your partner for example, right?

You start to be biased by the communication

Si parla così tanto che la comunicazione ne è influenzata.

because you're talking so much.

BSL: Significa che ti sta addestrando? KG: Ti sta addestrando!

BSL: You mean they're training you?

KG: They're training you.

Your partner is probably like, you know,

Probabilmente il partner ha un modo preferito di comunicare

they have a preferred way of communicating.

You get used to it, these kinds of things.

e ci si abitua, e così via.

Quindi mi chiedo se la diffusione delle IA uniformerà le persone.

So I do wonder if, as people interact with AI more,

that they'll kind of all converge.

L’uniformità è una delle mie più grandi paure riguardo l’IA.

That's probably one of my biggest fears actually of AI.

BSL: I'm concerned about the exact opposite.

BSL: A me preoccupa il contrario, cambiando leggermente argomento.

I'm going to shift a little bit.

So when we talk about AI, what you're describing,

Stiamo parlando principalmente di interazioni diadiche con l’IA.

it's usually like dyadic interactions.

Like, I'm interacting with one AI, one agent.

L’interazione con una soIa IA, un solo agente.

But really what people do is interact with multiple people, right?

Ma nel mondo reale le persone interagiscono con più persone.

You interact in some community or some small group setting.

Interagiscono nel contesto di una comunità o di un piccolo gruppo.

And I'm surprised that there's not more of that in AI.

E sono sorpreso che sia una cosa rara nell’IA.

So you're also in gaming.

Tu lavori anche nel gaming e io non sono un giocatore

I don't really game,

but my understanding is that a lot of the gaming

ma mi risulta che sia cruciale l’aspetto relazionale,

is about connecting with the people, and it's a community kind of experience.

che sia un’esperienza di tipo comunitario.

E ho pensato a due aspetti.

So there's two things.

One, I'm really surprised that AI seems so focused on these,

Primo, sono sorpreso che l’IA si concentri sulle interazioni uno a uno

like, one-on-one interactions

as opposed to like, multiple AI agents

anziché su più agenti IA

creating a more immersive social experience.

per creare un’esperienza sociale più immersiva.

KG: I love you brought it up because that's really what we do.

KG: Sono felice di sentirlo perché è quello che facciamo.

BSL: Good, so that's one.

BSL: Ottimo, e questo è il primo.

Other thing, like, the reason I worry less about convergence

L’altro è il motivo per cui mi preoccupa più la difformità che l’uniformità,

and more about divergence

is if you could produce a more immersive social experience,

ovvero la creazione di esperienze sociali più immersive

now everybody’s having their individual social experiences.

diverse da quelle individuali che sperimentiamo ora.

Like now, what I worry about with AI, with VR,

Ciò che mi preoccupa dell’IA, della realtà virtuale

with all these kind of technologies that are expanding,

e di tutte queste tecnologie in rapida evoluzione

what we can control about our social environment,

è il fatto di poter controllare il contesto sociale

about our physical perceptions in the environment,

e la nostra percezione fisica del contesto

is that we all inhabit our own singular world.

dato che abitiamo un mondo che è solo nostro.

That is more frightening to me than like, you know,

È qualcosa che mi spaventa di più

that we all converged in the same experience.

dell’uniformità dell’esperienza.

KG: Well, my mom’s a grade-seven teacher,

KG: Mia madre insegna in seconda media

and the one thing that she said is really interesting

e ha fatto notare che 20 anni fa tutti guardavano gli stessi programmi TV.

is if you went back like 20 years,

everybody was watching the same TV shows,

Ci si trovava in classe e se ne parlava.

and they come to class and they'd all be talking about it.

Ora invece ognuno ha un canale YouTube preferito.

And now everybody watches their own favorite YouTube channel.

È una compartimentazione della realtà.

And it's the siloing of reality.

Like, what we do is when we work with games, for example,

Ad esempio, quando lavoriamo con i giochi,

one of the interesting things is like, as people play through games,

un aspetto interessante è che l’esperienza dei giocatori è praticamente la stessa.

it's basically the same thing.

Un milione di giocatori, a parte qualche differenza,

You could have a million people go through a game,

and it’s some differences

toccheranno gli stessi punti chiave

but you're largely going to hit the same points.

e quindi ci interroghiamo sulle conseguenze in termini di agency.

And so one of the things that we think about is,

Il modo in cui interagiamo con i media

what does that mean for agency?

The way we interact with media

influenza la sensazione di controllo sul mondo.

changes the way that we feel agency in the world.

Quindi se notiamo un media passivo al cambiamento,

So if we see inert media that we can't change,

it also gives you this sense that you can't change the world.

abbiamo la sensazione di non poter cambiare il mondo.

And so to your point,

Per quanto riguarda l’ambito videoludico, stiamo cercando di capire

one of the things that we want to do with games is, how do you make it

come dare quella sensazione di controllo.

so that each person can actually influence that outcome?

L’aggiunta di agenti con cui interagire genera un effetto a cascata.

And as you add more agents into that,

that you see, OK, I interact with this one and it has a cascade effect.

È qualcosa che adoro.

I love it.

Lo si nota anche in momenti come questo:

I mean, even in some of the stuff we've done here,

the magic actually happens when you do have those agents interacting,

la magia deriva dall’interazione tra gli agenti,

perché non si assiste solo ad un’interazione uno-a-uno,

because then you’re also not just seeing like that one-to-one interaction

ma anche agli effetti emergenti di quella interazione.

but the emergent effect of basically that interaction.

And another thing is, if your main controls that you have in the computer

Oppure pensiamo ai controlli punta-e-clicca del computer

is like point-and-click or, in games, jump and shoot,

o al salta-e-spara dei videogiochi.

we're trying to see like, what does it mean if social skills

E se le capacità relazionali necessarie per avere questa nostra interazione

like interaction like this,

are the ways that you actually interact with the games, the technology

fossero un mezzo per interagire col gioco, la tecnologia o gli agenti?

and the agents.

Non sarebbe più una conversazione basata sulla pressione di un pulsante.

That’s a very different way of conversing or of dialogue than button presses.

And I think that changes the way that you sense agents in the world.

Penso che rivoluzionerebbe il senso di controllo sul mondo,

Because I think the way that most people change the world is by speaking

perché le persone cambiano il mondo parlando

and interacting and interacting with other humans,

e interagendo con gli altri esseri umani, non premendo dei pulsanti.

not by pressing buttons.

O meglio, credo che in genere succeda così.

I mean, arguably it's the case in some.

BSL: E poi trovo interessante che le persone

BSL: You know, the other thing that's interesting to me is

I don't think people have an understanding

non siano pienamente consapevoli dei sistemi in cui esistono.

of the systems they exist in, right?

People think about themselves as existing in like individual relationships,

Pensano a se stesse come a entità in relazioni individuali

and they have a harder time understanding system affects

e faticano a comprendere le influenze sistemiche.

like I affect you, which affects your partner,

Io influenzo te, che influenzi il tuo partner,

which affects your partner's parents, right?

che influenza i suoi genitori.

È una cosa difficile da comprendere

That is a harder thing to grasp.

But I think there's something that's fundamentally human about that.

ma che ritengo anche intrinsecamente umana.

Like you are also impacted by all these different things going on,

Siamo tutti influenzati da ciò che avviene intorno a noi.

like, we had the person come and put on our makeup,

Ad esempio, grazie al trucco ora sono bellissimo

and now I'm looking beautiful

e questo si ripercuote su tutti quelli che mi circondano.

and it's affecting everybody else around me.

(Laughter)

(Risate)

KG: It's glowing.

KG: Che pelle radiosa! BSL: Esatto!

BSL: Exactly.

How does that fit in?

Come si inserisce nel nostro discorso?

I just haven't heard people talk about it in that way,

Non ne ho mai sentito parlare e la cosa mi sorprende

which is surprising to me, because that, I think,

perché penso che a renderci umani

is what fundamentally makes humans human.

It's interaction

siano proprio le interazioni e le situazioni sociali complesse.

and complex social situations.

KG: And these like, nested systems.

KG: E questi sistemi annidati si influenzano a vicenda.

And like, they all affect each other, right?

You think that your small activity

Pensiamo di non influenzare ciò che accade a livello politico

doesn't affect whatever higher-level political stuff,

ma in realtà è un insieme di elementi interconnessi.

but it's all aggregate.

And it's all interlinking as well.

I mean, it's like the AI thing is interesting too,

Succede anche con l’IA ed è interessante

because I often hear people talk about it as like this evolution.

perché spesso la si interpreta in senso evolutivo.

You have like, you know, singular cells to monkeys to humans to AI.

Gli organismi unicellulari, le scimmie, gli umani, l’IA.

Whereas like, you could flip it, where it's like more like, you know,

Oppure, in termini di verticalità,

cells to organs to human to AI.

cellule, organi, essere umano, IA.

It's a system overarching that just because it's trained on us

È un sistema onnicomprensivo addestrato a nostra immagine e somiglianza

and we do these things, that we actually influence that system,

e che certamente influenziamo,

now that people are interacting with it, it has this interplay.

ma con la sua diffusione ora l’influenza è reciproca.

And that's interesting too, when it becomes like, you know,

Ed è interessante perché l’IA non è un’entità singola,

AI isn't this singular entity.

è più simile a una struttura o a un sistema

It is more of an institution or a system almost

that is kind of overarching everything else.

che tende a dominare tutto il resto.

BSL: And it's also weird because it's like our vision of who we are.

BSL: Inoltre è strano perché dice qualcosa su chi siamo.

So when we talk about AGI,

Parliamo di AGI ma non sappiamo nemmeno cosa sia l’intelligenza,

it's like we don't even know what intelligence is

and we think we're going to produce something that has it.

eppure pensiamo di ricrearla artificialmente.

It's just an interesting situation where we talk about it, as you said,

Stiamo parlando di una situazione particolare.

it's natural evolution,

Hai citato l’evoluzione ma in realtà stiamo creando qualcosa

but in fact we’re creating it,

and it's not clear that we know exactly what it is we're creating.

non sapendo di preciso cosa stiamo creando.

KG: I actually think that one of the most interesting things

KG: Penso sia interessante il fatto che stiamo iniziando a lavorare all’IA

is that we're starting to work on AI at a point where,

mentre stiamo ancora cercando di capire noi stessi.

like, I still think we're figuring out, you know, ourselves.

Le neuroscienze sono ancora agli albori

Neuroscience is very early on in its days,

and yet we're creating things

eppure creiamo cose basate sulla nostra intelligenza

that are like, based on our own intelligence,

senza capire davvero come funzionino.

and we don't really understand even what's going on inside.

E quindi, per tornare al tuo punto, non possiamo prevederne gli effetti.

And so to your point on, what are the effects?

We don't really know yet.

Every year a new paper comes out

Ciclicamente una nuova ricerca cambia la prospettiva sull’educazione dei figli.

and changes how people think about child rearing.

Like how to bring up a child well, like all those kinds of things.

Come crescere bene un figlio e cose del genere.

And now we're creating systems that will, you know,

Però creiamo dei sistemi capaci di influenzare altri esseri umani.

kind of be overarching other humans.

What does that mean, I don't know.

Non chiedermi cosa significa, però ho un’opinione.

I do actually think,

Lavoro nel campo dell’IA e la situazione attuale è questa,

I happen to be in AI, we happen to be at this point in time.

But if we could pause for a second,

ma penso che sarebbe il caso di fermarsi per qualche secolo

I think it would be good, another few centuries of figuring out what we are

e cercare di comprendere meglio la natura umana

and understanding that a little bit better

prima di creare qualcosa a nostra immagine perché…

before we created something that was in our image.

Because, we’re kind of just, you know,

it's kind of like taking a photograph and like painting it, right?

È come scattare una fotografia oppure fare un ritratto.

È la mera riproduzione di una persona.

You're not actually getting the person and painting it.

Manca la scintilla della vita.

There's something about the life that's missing there.

Quindi sono d'accordo.

So I do agree.

I think that we're honestly kind of premature,

Stiamo correndo un po’ troppo ma credo che le cose funzionino così,

but I think it's just how, I guess,

you know, life goes that things come out when they naturally should.

accadono seguendo il loro corso naturale.

BSL: So, I mean, you work in AI,

BSL: Dato che lavori nel settore,

so what's the most exciting thing for you in AI?

qual è l’aspetto più eccitante per quanto riguarda l’IA?

What's your hope for it?

Quali speranze riponi?

KG: I think it's kind of back to that agency question.

KG: Penso che sia sempre questione di agency.

So I mean, you know, you read a news story,

Leggiamo una notizia o un libro, guardiamo un film o un programma TV.

you read a book, you watch a movie, you watch a TV show,

this is specific to, like, my domain,

Parlerò specificamente per il mio settore.

like there's something about the communication

Prendiamo come esempio la nostra comunicazione.

that we're having right now where, like,

Io mi adatto a quello che dici, al tuo linguaggio del corpo e così via,

I'm adapting to the things that you say, to your body language,

all those kinds of things, right?

ma anche alle persone presenti nella stanza, eccetera.

To, like, the people in the room we have here, all these things.

In questo caso…

And so when you have ...

AI able to, sort of, help that adaptation so that you have that agency

l’IA potrebbe facilitare il processo di adattamento

così da avere più controllo sulle proprie interazioni.

in the things that you interact with.

I don't necessarily believe in fully personalized media

Non credo nei media personalizzati

because I think we need like a shared social context.

perché serve un contesto sociale condiviso.

Guardiamo film e programmi per poterne parlare tutti insieme, giusto?

The reason we watch a movie or a TV show

is because then we can all talk about it, right?

But there is something about the fact

Ma c’è qualcosa nel fatto di interagire con questi oggetti online.

that we're all interacting with these internet objects.

La percezione della tecnologia non cambia, che si tratti di un monitor,

And so the way that technology feels, you're on a screen, it doesn't change.

di un film, di Netflix o di qualsiasi altra attività.

You're in a movie, it doesn't change.

You're watching Netflix, it doesn't change depending on what you do.

E penso che questo influenzi il nostro senso di controllo sul mondo.

And I think that changes the way we see our own agency in the world.

Quindi spero che una delle applicazioni dell’IA

And so I hope with AI that one of the things that it does

is kind of opens this door to agency

sia quella di rivoluzionare il concetto di agency

in the way that we interact with media and technology in general,

e la nostra interazione con i media e la tecnologia in generale,

such that we do notice that effect that you have on systems.

facendoci percepire l’impatto che esercitiamo sui sistemi.

Because even if it's small, right,

Anche se è piccolo,

where I take a certain action and it completely changes an app

magari un’azione che cambia il volto di un’app o di un’esperienza,

or it changes an experience,

maybe that helps us learn that we have an effect in the social systems

forse basterà per farci capire

che abbiamo il potere di influenzare i sistemi sociali.

as well that we're affecting.

So something to that effect.

Insomma, qualcosa in tal senso.

BSL: So you want to make our agency more transparent.

BSL: Quindi vuoi rendere più trasparente la nostra agency.

And do you think it does that,

Perché mi pare che l’IA confonda il nostro senso di controllo.

because right now I'm not sure it doesn't obfuscate our agency.

KG: No I don't necessarily know.

KG: Cosa posso dire se non che sono d’accordo.

I agree, I mean this is why I think also

Prendiamo come esempio i media e i giochi, il settore di cui mi occupo.

media and games is, you know, the domain I mainly focus on.

And I think it's interesting, especially because young people use it a lot.

Un settore interessante perché in voga tra i giovani.

Degli sviluppatori di vecchia data hanno affermato

And so I've heard very veteran game developers say

how people interact with games

che per i bambini l’interazione ludica è propedeutica a quella col mondo.

kind of trains kids how they should interact with the world.

So even people who tend to be professional players in different games

Anche i professionisti del gaming a seconda del gioco

have different psychological profiles

manifestano profili psicologici diversi,

because they bias towards certain ways of interacting and seeing the world.

perché prediligono certi modi di vedere e di interagire col mondo.

The same way, I guess, if you trained in something academic, right,

Anche una formazione accademica potrebbe influenzare la visione del mondo.

you have a different way of viewing it.

And so if we make games and media in a way

Quindi creare giochi e media

capaci di comunicare l’impatto sociale dell’utente

that you feel that sort of social impact as well,

maybe, maybe it opens the door to like, another realm of understanding.

potrebbe svelarci nuovi reami della comprensione,

ma allo stesso tempo concordo sul fatto che molti sistemi attuali

But, yeah, I agree that like a lot of the systems that we have today

give you maybe a false sense also of agency

possano dare un falso senso di agency,

where like we were talking about the AI systems,

come i sistemi IA di cui parlavamo, che crediamo di controllare,

where you actually feel like you're controlling this thing,

whereas maybe it's also biasing, you know, and "controlling,"

mentre forse sono loro a esercitare una forma di “controllo”

having some influence over you as well.

o a influenzarci in una certa misura.

BSL: So where do you think things are going?

BSL: Guardando al futuro, è palese che sia in atto una corsa

So there's obviously a huge race among some very,

tra alcune organizzazioni ricchissime nel campo dell’IA.

very well-resourced organizations over AI, right?

You know, Microsoft, Google, I mean, are the biggest maybe.

Tra le più grandi possiamo citare Microsoft e Google.

And they are very quickly going to need to monetize it

Ben presto avranno bisogno di monetizzare la ricerca

because this is what those companies are designed to do.

perché sono aziende progettate con quello scopo.

Like what do you foresee?

Come pensi che andrà?

Because I just look at social media as an example.

Mi viene in mente l’esempio dei social media.

I think, at the time when it first came out,

Penso che al momento della loro entrata in scena

people were really excited, as a new way to connect with people

ci fosse entusiasmo per questo nuovo modo di connettersi e restare in contatto

and a way to stay connected to people

quando non c’erano alternative.

you know, you couldn't otherwise;

catch up with people you lost contact with,

O di ritrovare persone con cui si erano persi i contatti.

that sort of thing.

Ma poi si sono trasformati in qualcosa di diverso.

And it changed into something else.

In large part because of the way it was monetized,

Soprattutto per il bisogno di monetizzare tramite annunci e engagement.

like going to ads, focus on attention.

Quale traiettoria seguirà l’IA?

What's the trajectory of AI?

KG: You know, I'm taking guesses.

KG: Farò delle congetture.

BSL: Yeah, of course, we're all taking guesses,

BSL: Non preoccuparti, è tutta una grande congettura.

I won’t hold you to it, don’t worry.

KG: I think that the reality is,

KG: Penso che la realtà sia…

we were kind of mentioning before about the challenges of scale.

Prima stavamo parlando delle problematiche della scalabilità,

And when you invest tens of billions of dollars in something,

e quando investi decine di miliardi di dollari in qualcosa

you need scale.

deve essere scalabile.

And I think that's one of -- the way that AI is developed

Il modo in cui viene sviluppata l’IA

and specifically even the types of models we're using,

e in particolare i modelli che utilizziamo

the economic model of it,

si basano su questo modello economico:

which is effectively the more compute you have,

più capacità di calcolo significa modelli migliori,

the better models you can create.

i modelli migliori vengono usati di più, e più si usano meglio è.

The better models you can create, the more usage you get.

The more usage you get, the better.

Sinceramente penso di intravedere una tendenza monopolistica,

So it has somewhat of a, honestly, like monopolistic tendency, I think,

in the way that actually even like the architectures

nel funzionamento dell’architettura e del modello economico.

and the economy of it works.

And so

Quindi penso sia quasi inevitabile

I think it's almost inevitable that whatever AI systems are produced

che qualsiasi sistema di IA creato da queste organizzazioni

by these large organizations

will be pushed to scale as quickly as possible.

verrà reso scalabile il prima possibile.

And there's some pluses in that where like, you know, sure,

Ovviamente ci sono dei vantaggi,

they're building in feedback loops, people can give their input, it biases it.

come il feedback loop fornito dall’input degli utenti,

ma, allo stesso tempo,

But also at the same time,

what does it mean when a single model is fit to a billion people, right?

quali sono le implicazioni di un modello addestrato da un miliardo di persone?

So that's kind of what I meant about the converging effect

È per quello che ho parlato di uniformità.

where, what happens when we are pushed to produce something

Cosa significa creare un prodotto che soddisfa un miliardo di persone?

that fits to a billion people?

There's a lot of diversity in there.

È un sacco di diversità.

And so, you know, we create these scaled systems that are fitting with the whole,

Insomma, creiamo questi sistemi scalabili

che cercano di adattarsi all’intero pianeta.

like, trying to fit the whole planet.

È davvero possibile?

Does that work?

And so I think what will, you know,

Penso che attraverseremo questa fase di cui ignoro gli effetti

we're going to go through this phase where like, yeah,

dove un miliardo di persone interagiranno con la stessa IA.

you're going to have a billion people interacting the same AI.

And I don't know what the effect of that will be.

Per quanto riguarda i modelli di monetizzazione,

Even the monetization models now are kind of you pay

ora si paga l’uso del servizio e direi che va bene così,

to use these kinds of things, which are maybe OK,

but certainly ads will probably enter the equation.

ma prima o poi si parlerà di pubblicità.

Also, what happens when you want attention

Pensiamo quindi a chi vuole attirare l’attenzione.

and AI is much better at that than the algorithms

L’IA è molto meglio degli algoritmi di YouTube e Instagram

you even have on YouTube and Instagram.

se si vuole attirare l’attenzione.

And you can start to capture that attention.

Penso che sarà un periodo interessante,

And so I certainly think it's going to be an interesting little bit here now,

as we see these huge organizations spending tens of billions of dollars

con enormi organizzazioni che spendono decine di miliardi di dollari

and the choices that they make to then monetize that,

e devono decidere come monetizzare l’investimento.

and what that means for how AI proliferates.

Vedremo come tutto questo influirà sulla diffusione dell’IA.

I know a lot of the folks in the organizations,

Conosco molte persone in quelle organizzazioni

and their interests have never been in that domain.

a cui non interessa l’aspetto finanziario

But at the same time, you're beholden, you know,

eppure esiste un legame con gli interessi del mercato azionario e così via.

to stock market interests and whatever it is, then what happens?

E questo cambia tutto, in un mondo capitalista come il nostro.

It shifts it, right?

We're in a capitalist world.

And that's kind of like, you know,

Finirà per influenzarne le dinamiche.

what ultimately will change the incentives.

So yeah it's interesting.

Insomma, sarà interessante.

I mean I am interested in, coming from your background,

Sono curioso di sapere cosa ne pensi, visto il tuo background.

you have a very different stance on it.

But, you know, it's all this AI stuff is interesting.

Sono tutti aspetti interessanti,

But, you know, when you think, almost to your first question,

ma tornando alla tua prima domanda, cioè cosa ci rende umani,

what makes us human and like as people,

in quanto persone, di fronte alla tecnologia e all’IA in particolare,

just technology in general and specifically with AI,

like where can people find the meaning in their life,

dove possiamo trovare il significato delle nostre esistenze,

the values that they find true?

dei valori che riteniamo autentici?

And how will that change, do you think,

Che cambiamenti porterà l’avvento delle nuove tecnologie?

I guess, with like the advent of these new technologies?

Oppure hai già notato dei cambiamenti frutto di tecnologie esistenti?

Or how have you seen it change

with the technologies we've already seen come to life?

BSL: Questa risposta potrebbe sembrare un po’ strana.

BSL: This is going to sound like a funny answer.

Penso che le persone si preoccupino troppo della tecnologia.

I think people are too worked up about technology, personally.

Insomma, ne abbiamo parlato per tutta la conversazione.

I mean, you know, we had this conversation.

I think, you know, people have been using technology since we've been human.

L’umanità ha sfruttato la tecnologia fin dagli albori.

So paper was a huge invention.

Ho parlato dell’importanza dell’invenzione della carta.

Talked about this.

The printing press, huge invention.

O della macchina da stampa, dei computer, di Internet.

Computer, huge invention.

Internet, huge invention.

AI, great, another huge invention.

L’IA è l’ennesima grande invenzione.

And through all of that, I think

E il filo conduttore che lega moltissime grandi tecnologie

what you see in a lot of the biggest technologies

is the desire to connect with other human beings.

è il desiderio di relazionarsi con altri esseri umani.

I think what fundamentally makes us human is our connection to other human beings,

Ciò che ci rende umani sono le relazioni con gli altri esseri umani,

our ability to engage with other human beings, and like consciousness

la capacità di interagire con altri esseri umani,

e penso che la coscienza sia un prerequisito indispensabile.

and all these other things I think are necessary preconditions.

Ma ciò che ci rende umani sono le relazioni con gli altri esseri umani.

But really, what makes us human is connections with other humans.

And that is incredibly complex.

È qualcosa di incredibilmente complesso

And I don't think we're close in terms of technology of replicating that.

e non penso che la tecnologia sarà capace di replicarlo a breve.

I mean, even what you described it's like you have this feeling of like,

Tu stesso hai avuto la sensazione che qualcosa non tornasse.

this isn't right, this is off.

And even if you felt like it was right,

E anche se non era così,

it still would be off in ways you didn't quite get.

c’erano comunque delle sottili imperfezioni.

I don't think we're close.

Siamo ancora lontani.

Though because it's designed to pull our attention away from other things,

Ma poiché l’IA è progettata per sviare l’attenzione da altre cose

I think it impedes our ability

penso che ostacoli la nostra capacità

to do what we all kind of want to do,

di fare ciò che forse vogliamo fare davvero,

which is interact with each other.

ovvero interagire gli uni con gli altri.

And it might change the way we interact with each other

E questo potrebbe cambiare il nostro modo di interagire,

in a way that might feel less fulfilling.

rendendolo forse meno appagante.

And I think you see some of that in social interactions now.

Penso che si possa già intuire nelle interazioni sociali odierne.

Some of that I mean, recently maybe,

Un esempio recente potrebbe essere il COVID.

COVID was an issue.

But, you know, people feeling less comfortable in face-to-face interactions.

Le persone si sentono meno a loro agio nelle interazioni a tu per tu.

Like people dating,

Nelle frequentazioni e nell’uscire non c’è serendipità.

there's no serendipity in hanging out and you meet who you meet.

It's like you're using an algorithm to try to present to you options.

È come se ci fosse un algoritmo che offre varie opzioni.

That's a very different world.

È un mondo che sta cambiando da prima dell’IA,

So even that's prior to AI.

And I don't know how AI is going to further influence that.

ma non so quanto l’IA accentuerà questo fenomeno.

KG: And I guess just even like the general point,

KG: Quindi, in generale,

how core do you think

quanto pensi sia determinante il bisogno di relazionarsi?

the need for connection is

in the sense that, you know,

Ad esempio, alcuni genitori mi hanno detto che durante il COVID

I've heard some parents say that, through COVID,

their kids went through a major change, you know,

i loro figli sono cambiati molto.

these regressions,

Regressioni, nuove abitudini e altro ancora

their different habits and these kinds of things

because they weren't connecting with people.

per l’assenza di relazioni.

E che ci sono voluti anni per tornare alla normalità.

And then it's taken years to overcome that.

So I do also wonder, like, you know,

E quindi mi chiedo,

whether it's through technology or things like COVID

che si tratti della tecnologia o di circostanze come il COVID,

or just like circumstances,

could we lose that need for connection?

potremmo perdere il bisogno di relazionarci con gli altri?

Or even if we need it,

O se rimanesse il bisogno ma perdessimo il desiderio di farlo,

you know, we might lose the desire for it

and feel emotional trauma as a result, but still not go for it.

ignorando persino i traumi emotivi che questo potrebbe causare.

Like, how core do you think it is?

Quanto lo ritieni fondamentale?

And do you think we're safe in that kind of need?

Quanto possiamo darlo per scontato?

BSL: So I'm going to give you the most extreme answer,

BSL: Ti darò una risposta radicale ma che ritengo vera.

which is I think the true one.

That you will cease to be human

Smetteremo di essere umani se non avremo bisogno di relazioni umane.

if you don't have a need for human connection.

Like I think you will be a physical person,

Resteremmo delle persone fisiche

but you will literally break down as a human being.

ma crolleremmo letteralmente come esseri umani.

And this is why in part --

È anche per questo che l’isolamento sociale

Social isolation

or solitary confinement is considered inhumane.

o l’isolamento detentivo sono considerati inumani.

Because people literally break down,

Perché le persone crollano, iniziano ad avere allucinazioni.

you will start to have hallucinations.

You will break down mentally and physically absent human connection.

Senza connessioni umane avviene un crollo mentale e fisico.

So I don’t think there’s any possibility, in my mind, of losing the need.

Quindi tendo a escludere la scomparsa di questo bisogno.

Like, you may get less than you need,

È sufficiente non soddisfarlo per subire delle conseguenze negative.

and that will have negative consequences for you.

But I'm not worried about people not wanting to be around people.

Quindi non temo che le persone smetteranno di cercarsi.

KG: Are you worried that, like,

KG: Temi invece che i social media, l’IA o strumenti simili

things like social media or AI or any of these things

could give you that sense that you're fulfilling that need,

possano dare l’illusione di soddisfare quel bisogno?

but not actually fulfilling it?

Perché hai pienamente ragione:

It's totally true, right?

Solitary confinement is a great example because we need it.

l’isolamento detentivo dimostra perché abbiamo bisogno di relazioni.

We absolutely lose our sanity as well as, you know, our well-being.

È cruciale per la nostra salute fisica e mentale.

But maybe we can, you know,

E se la tecnologia ci facesse credere di aver soddisfatto quel bisogno?

technology can manufacture the sense that we're fulfilling it.

And then over time,

E la conseguenza fosse un aumento delle crisi di salute mentale?

we see these mental health crises evolve as a result?

BSL: Yeah, that's a good question.

BSL: È una bella domanda, credo sia improbabile,

I think it's unlikely, but I don't know.

ma sinceramente non lo so.

Honestly I don't know.

I'll talk about meaning for a second.

Prendiamo il concetto di “significato”,

And I think of that as fundamentally tied

che ritengo strettamente legato al bisogno di relazionarsi con le persone.

to our need for connection to other people.

I think sometimes we confuse, for example, our need for meaning,

A volte confondiamo il nostro bisogno di trovare un significato

with a desire for personal achievement.

con il desiderio di realizzazione personale.

That we chase personal achievement

Inseguiamo la realizzazione personale per dare un significato alle cose.

and what we're trying to do is generate meaning.

So I think we can be confused

Quindi possiamo confonderci

and we can have those needs displaced into less productive routes.

e deviare questi bisogni verso canali meno fruttuosi

But I don't think it's going away.

ma non credo che sparirà mai,

But, you know, I don't know that it's the healthiest.

anche se potremmo non soddisfarlo nel migliore dei modi.

KG: No, I'm totally aligned.

KG: La penso esattamente come te.

Thank you, Brian, that was an awesome conversation.

Grazie per la conversazione, Brian!

Davvero, è stata grandiosa, super istruttiva.

BSL: It was great to talk to you.

Really fantastic and super informative. Thank you.

Grazie!