Can AI have a mind of its own? ⏲️ 6 Minute English

Hello. This is 6 Minute English from

Ciao. Questo è l'inglese di 6 minuti dalla

BBC Learning English. I’m Sam.

BBC Learning English. Sono Sam.

And I’m Neil.

E io sono Neil.

In the autumn of 2021, something

Nell'autunno del 2021

strange happened at the Google

è successo qualcosa di strano presso la

headquarters in California’s Silicon

sede di Google nella Silicon Valley in California

Valley. A software engineer called,

. Un ingegnere del software chiamato

Blake Lemoine, was working on the

Blake Lemoine stava lavorando al

artificial intelligence project, ‘Language

progetto di intelligenza artificiale, "Language

Models for Dialogue Applications’, or

Models for Dialogue Applications", o

LaMDA for short. LaMDA is a

LaMDA in breve. LaMDA è un

chatbot – a computer programme

chatbot, un programma per computer

designed to have conversations with

progettato per conversare con gli

humans over the internet.

esseri umani su Internet.

After months talking with LaMDA

Dopo aver parlato per mesi con LaMDA

on topics ranging from movies to

su argomenti che spaziavano dai film

the meaning of life, Blake came to

al senso della vita, Blake è giunto a

a surprising conclusion: the chatbot

una conclusione sorprendente: il chatbot

was an intelligent person with wishes

era una persona intelligente con desideri

and rights that should be respected.

e diritti che dovevano essere rispettati.

For Blake, LaMDA was a Google

Per Blake, LaMDA era un

employee, not a machine.

dipendente di Google, non una macchina. Lo

He also called it his ‘friend’.

chiamava anche il suo "amico".

Google quickly reassigned Blake from

Google ha rapidamente riassegnato Blake

the project, announcing that his ideas

dal progetto, annunciando che le sue idee

were not supported by the evidence.

non erano supportate da prove.

But what exactly was going on?

Ma cosa stava succedendo esattamente?

In this programme, we’ll be

In questo programma

discussing whether artificial intelligence

discuteremo se l'intelligenza artificiale

is capable of consciousness. We’ll hear

è capace di coscienza. Sentiremo

from one expert who thinks AI is not as

un esperto che pensa che l'IA non sia così

intelligent as we sometimes think,

intelligente come a volte pensiamo

and as usual, we’ll be learning some

e, come al solito, impareremo

new vocabulary as well.

anche un nuovo vocabolario.

But before that, I have a question for

Ma prima, ho una domanda per

you, Neil. What happened to Blake Lemoine

te, Neil. Quello che è successo a Blake Lemoine

is strangely similar to the 2013 Hollywood

è stranamente simile al film di Hollywood del 2013

movie, Her, starring Joaquin Phoenix as

, Her, con Joaquin Phoenix nei panni di

a lonely writer who talks with his

uno scrittore solitario che parla con il suo

computer, voiced by Scarlett Johansson.

computer, doppiato da Scarlett Johansson.

But what happens at the end

Ma cosa succede alla fine

of the movie? Is it:

del film? È:

a) the computer comes to life?

a) il computer prende vita?

b) the computer dreams about the writer? or,

b) il computer sogna lo scrittore? oppure

c) the writer falls in love with the computer?

c) lo scrittore si innamora del computer?

... c) the writer falls in love with the computer.

... c) lo scrittore si innamora del computer.

OK, Neil, I’ll reveal the answer at the end

OK, Neil, rivelerò la risposta alla fine

of the programme. Although Hollywood is

del programma. Sebbene Hollywood sia

full of movies about robots coming to life,

piena di film sui robot che prendono vita,

Emily Bender, a professor of linguistics and

Emily Bender, professoressa di linguistica e

computing at the University of Washington,

informatica all'Università di Washington,

thinks AI isn’t that smart. She thinks the

pensa che l'intelligenza artificiale non sia così intelligente. Pensa che le

words we use to talk about technology,

parole che usiamo per parlare di tecnologia,

phrases like ‘machine learning’, give a

frasi come "apprendimento automatico", diano una

false impression about what

falsa impressione su ciò che

computers can and can’t do.

i computer possono e non possono fare.

Here is Professor Bender discussing

Ecco il professor Bender che discute

another misleading phrase, ‘speech

un'altra frase fuorviante, "

recognition’, with BBC World Service

riconoscimento vocale", con il programma della BBC World Service

programme, The Inquiry:

, The Inquiry:

If you talk about ‘automatic speech

Se parli di "riconoscimento vocale automatico

recognition’, the term ‘recognition’

", il termine "riconoscimento"

suggests that there's something

suggerisce che sta

cognitive going on, where I think a

succedendo qualcosa di cognitivo, dove penso che un

better term would be automatic transcription.

termine migliore sarebbe trascrizione automatica.

That just describes the input-output

Questo descrive solo la relazione input-output

relation, and not any theory or wishful

, e non alcuna teoria o pio

thinking about what the computer is

desiderio su ciò che il computer sta

doing to be able to achieve that.

facendo per essere in grado di raggiungere questo obiettivo.

Using words like ‘recognition’ in relation

L'uso di parole come "riconoscimento" in relazione

to computers gives the idea that

ai computer dà l'idea che

something cognitive is happening – something

stia accadendo qualcosa di cognitivo, qualcosa

related to the mental processes of

relativo ai processi mentali di

thinking, knowing, learning and understanding.

pensare, conoscere, apprendere e comprendere.

But thinking and knowing are human,

Ma pensare e conoscere sono attività umane,

not machine, activities. Professor Benders

non meccaniche. Il professor Benders

says that talking about them in connection

afferma che parlarne in relazione

with computers is wishful thinking -

ai computer è un pio desiderio,

something which is unlikely to happen.

qualcosa che è improbabile che accada.

The problem with using words in this

Il problema con l'uso delle parole in questo

way is that it reinforces what

modo è che rafforza ciò che il

Professor Bender calls, technical

professor Bender chiama

bias – the assumption that the computer

pregiudizio tecnico: il presupposto che il computer

is always right. When we encounter

abbia sempre ragione. Quando incontriamo un

language that sounds natural, but is

linguaggio che sembra naturale, ma

coming from a computer, humans

proviene da un computer, gli umani

can’t help but imagine a mind behind

non possono fare a meno di immaginare una mente dietro

the language, even when there isn’t one.

il linguaggio, anche quando non ce n'è una.

In other words, we anthropomorphise

In altre parole, antropomorfizziamo i

computers – we treat them as if they

computer, li trattiamo come se

were human. Here’s Professor Bender

fossero umani. Ecco di nuovo il professor Bender

again, discussing this idea with

, che discute di questa idea con

Charmaine Cozier, presenter of BBC

Charmaine Cozier, presentatrice di BBC

World Service’s, the Inquiry.

World Service, the Inquiry.

So ‘ism’ means system, ‘anthro’ or ‘anthropo’

Quindi 'ism' significa sistema, 'anthro' o 'anthropo'

means human, and ‘morph’ means shape...

significa umano, e 'morph' significa forma...

And so this is a system that puts the

E quindi questo è un sistema che mette la

shape of a human on something, and

forma di un essere umano su qualcosa, e

in this case the something is a computer.

in questo caso il qualcosa è un computer.

We anthropomorphise animals all the time,

Antropomorfizziamo animali tutto il tempo,

but we also anthropomorphise action figures,

ma antroporizziamo anche action figure,

or dolls, or companies when we talk about

o bambole, o aziende quando parliamo di

companies having intentions and so on.

aziende che hanno intenzioni e così via.

We very much are in the habit of seeing

Abbiamo l'abitudine di vederci

ourselves in the world around us.

nel mondo che ci circonda.

And while we’re busy seeing ourselves

E mentre siamo impegnati a vedere noi stessi

by assigning human traits to things that

assegnando tratti umani a cose che

are not, we risk being blindsided.

non lo sono, rischiamo di essere colti di sorpresa.

The more fluent that text is, the more

Quanto più fluido è il testo, tanto più

different topics it can converse on, the

diversi argomenti possono conversare, tanto

more chances there are to get taken in.

maggiori sono le possibilità di essere coinvolti.

If we treat computers as if they could think,

Se trattiamo i computer come se potessero pensare,

we might get blindsided, or

potremmo rimanere accecati o

unpleasantly surprised. Artificial intelligence

spiacevolmente sorpresi. L'intelligenza artificiale

works by finding patterns in massive

funziona trovando schemi in enormi

amounts of data, so it can seem like

quantità di dati, quindi può sembrare che

we’re talking with a human, instead

stiamo parlando con un essere umano, invece

of a machine doing data analysis.

che con una macchina che esegue l'analisi dei dati.

As a result, we get taken in – we’re tricked

Di conseguenza, veniamo ingannati: siamo ingannati

or deceived into thinking we’re dealing

o ingannati nel pensare che abbiamo a che fare

with a human, or with something intelligent.

con un essere umano o con qualcosa di intelligente. Una

Powerful AI can make machines appear conscious,

potente intelligenza artificiale può far sembrare le macchine coscienti,

but even tech giants like Google are years

ma anche i giganti della tecnologia come Google sono

away from building computers that can

lontani anni dalla costruzione di computer in grado di

dream or fall in love. Speaking of which,

sognare o innamorarsi. A proposito,

Sam, what was the answer to your question?

Sam, qual è stata la risposta alla tua domanda? Ho

I asked what happened in the 2013 movie, Her.

chiesto cosa è successo nel film del 2013, Her.

Neil thought that the main character

Neil pensava che il personaggio principale

falls in love with his computer, which

si innamorasse del suo computer, che

was the correct answer!

era la risposta corretta!

OK. Right, it’s time to recap the vocabulary

OK. Bene, è tempo di ricapitolare il vocabolario che abbiamo

we’ve learned from this programme about AI,

imparato da questo programma sull'intelligenza artificiale,

including chatbots - computer programmes

inclusi i chatbot, programmi per computer

designed to interact with

progettati per interagire con gli

humans over the internet.

esseri umani su Internet.

The adjective cognitive describes

L'aggettivo cognitivo descrive

anything connected with the mental

tutto ciò che è connesso con i

processes of knowing,

processi mentali di conoscenza,

learning and understanding.

apprendimento e comprensione. Il

Wishful thinking means thinking that

pio desiderio significa pensare che

something which is very unlikely to happen

qualcosa che è molto improbabile che accada

might happen one day in the future.

potrebbe accadere un giorno nel futuro.

To anthropomorphise an object means

Antropomorfizzare un oggetto significa

to treat it as if it were human,

trattarlo come se fosse umano,

even though it’s not.

anche se non lo è.

When you’re blindsided, you’re

Quando sei accecato, sei

surprised in a negative way.

sorpreso in modo negativo.

And finally, to get taken in by someone means

E infine, essere ingannati da qualcuno significa

to be deceived or tricked by them.

essere ingannati o ingannati da loro. Il

My computer tells me that our six minutes

mio computer mi dice che i nostri sei minuti

are up! Join us again soon, for now

sono scaduti! Unisciti a noi di nuovo presto, per ora

it’s goodbye from us.

è un arrivederci da parte nostra.

Bye!

Ciao!