Should we fear chatbots? ⏲️ 6 Minute English

Hello. This is 6 Minute English

Ciao. Questo è l'inglese di 6 minuti

from BBC Learning English.

dalla BBC Learning English.

I'm Neil.

And I'm Rob.

Sono Neill.

E io sono Rob.

Now, I'm sure most of us have interacted with a chatbot.

Ora, sono sicuro che la maggior parte di noi ha interagito con un chatbot.

These are bits of computer technology that respond to text with text

Questi sono bit di tecnologia informatica che rispondono al testo con il testo

or respond to your voice.

o rispondono alla tua voce.

You ask it a question and usually it comes up

Gli fai una domanda e di solito ti viene in mente

with an answer.

una risposta.

Yes, it's almost like talking to another human.

Sì, è quasi come parlare con un altro essere umano.

But of course, it's not.

Ma ovviamente non lo è.

It's just a clever piece of technology.

È solo un pezzo di tecnologia intelligente.

It's becoming more sophisticated, more advanced and complex,

Sta diventando più sofisticato, più avanzato e complesso,

but could they replace real human interaction altogether?

ma potrebbero sostituire del tutto la vera interazione umana? Ne

We'll discuss that more in a moment and find out if chatbots

discuteremo di più tra un momento e scopriremo se i chatbot

really think for themselves. But first,

pensano davvero da soli. Ma prima,

I have a question for you, Rob. The first computer program that allowed

ho una domanda per te, Rob. Il primo programma per computer che consentiva

some kind of plausible conversation between humans and machines

una sorta di conversazione plausibile tra uomo e macchina

was invented in 1966.

fu inventato nel 1966.

But what was it called?

Ma come si chiamava?

Was it a) Alexa.

Era a) Alexa.

b) Eliza, or c) Parry? Well, it's not Alexa,

b) Eliza, o c) Parata? Beh, non è Alexa,

that's too new, so I'll guess

è troppo nuovo, quindi immagino

c) Parry.

c) Parry.

I'll reveal the answer at the end of the programme.

Rivelerò la risposta alla fine del programma.

Now, the old chatbots of the 1960s and 70s were quite basic.

Ora, i vecchi chatbot degli anni '60 e '70 erano piuttosto basilari.

But more recently, the technology is able to predict the next word that is

Ma più di recente, la tecnologia è in grado di prevedere la parola successiva che

likely to be used in a sentence and it learns words and sentence structures.

potrebbe essere utilizzata in una frase e apprende le parole e le strutture delle frasi.

It's clever stuff.

È roba intelligente. Ho

I've experienced using them when talking to my bank

provato a usarli quando parlo con la mia banca

or when I have problems trying to book a ticket on a website.

o quando ho problemi a prenotare un biglietto su un sito web.

I no longer phone a human,

Non telefono più a un essere umano,

I speak to a virtual assistant instead.

parlo invece con un assistente virtuale.

Probably the most well known chatbot at the moment

Probabilmente il chatbot più conosciuto al momento

is ChatGTP.

è ChatGTP.

It is. The claim is that it's able to answer

È. L'affermazione è che è in grado di rispondere a

anything you ask it.

qualsiasi cosa tu gli chieda.

This includes writing

Ciò include la scrittura di

students' essays.

saggi per studenti.

Now, this is something that was discussed on the BBC

Ora, questo è qualcosa che è stato discusso nel

Radio 4 programme, Word of Mouth.

programma della BBC Radio 4, Word of Mouth.

Emily M Bender,

Emily M Bender,

Professor of Computational Linguistics at the University

professoressa di linguistica computazionale all'Università

of Washington, explained why it's dangerous to always trust

di Washington, ha spiegato perché è pericoloso fidarsi sempre di

what a chatbot is telling us.

ciò che ci dice un chatbot.

We tend to react to grammatical, fluent, coherent seeming text

Tendiamo a reagire a un testo apparentemente grammaticale, fluente e coerente

as authoritative and reliable and valuable and

come autorevole, affidabile e prezioso e

we need to be on guard against that because what is coming out of ChatGTP

dobbiamo stare in guardia perché ciò che esce da ChatGTP non

is none of that.

è niente di tutto questo.

So, Professor Bender says that well written text, that is coherent -

Quindi, il professor Bender afferma che un testo ben scritto, cioè coerente,

that means it's clear, carefully considered and sensible -

cioè chiaro, ponderato e sensato,

makes us think what we are reading is reliable and authoritative.

ci fa pensare che ciò che stiamo leggendo sia affidabile e autorevole.

So it's respected, accurate and important sounding.

Quindi è un suono rispettato, accurato e importante.

Yes, chatbots might appear to write in this way. But really,

Sì, i chatbot potrebbero sembrare scrivere in questo modo. Ma in realtà,

they are just predicting one word after another based on what they have learnt.

stanno solo prevedendo una parola dopo l'altra in base a ciò che hanno imparato.

We should therefore be on guard - be careful

Dovremmo quindi stare in guardia, stare attenti

and alert about the accuracy of what we are being told.

e attenti all'accuratezza di ciò che ci viene detto.

One concern is that chatbots - a form of artificial intelligence - work

Una preoccupazione è che i chatbot, una forma di intelligenza artificiale, funzionino

a bit like a human brain in the way it can learn and process information.

un po' come un cervello umano nel modo in cui può apprendere ed elaborare le informazioni.

They are able to learn from experience. Something called deep learning.

Sono in grado di imparare dall'esperienza. Qualcosa chiamato deep learning.

A cognitive psychologist and computer scientist called Geoffrey Hinton,

Uno psicologo cognitivo e scienziato informatico chiamato Geoffrey Hinton, ha

recently said he feared that chatbots could soon overtake the level

recentemente affermato di temere che i chatbot possano presto superare il livello

of information that a human brain holds. That is a bit scary isn't it?

di informazioni detenuto da un cervello umano . È un po' spaventoso, vero?

But for now, chatbots can be useful for practical information,

Ma per ora, i chatbot possono essere utili per informazioni pratiche,

but sometimes we start to believe they are human

ma a volte iniziamo a credere che siano umani

and we interact with them in a human like way.

e interagiamo con loro in modo umano.

This can make us believe them even more.

Questo può farci credere ancora di più.

Professor Emma Bender,

La professoressa Emma Bender,

speaking on the BBC's Word of Mouth

intervenendo al programma Word of Mouth della BBC

programme, explains why we might feel like that.

, spiega perché potremmo sentirci così.

I think what's going on there is, the kinds of answers

Penso che quello che sta succedendo lì sia, il tipo di risposte che

you get depend on the questions

ottieni dipendono dalle domande che

you put in, because it's doing likely next word, likely next word.

poni, perché sta facendo probabilmente la parola successiva, probabilmente la parola successiva.

And so, if as the human interacting with this machine

E quindi, se come essere umano che interagisce con questa macchina

and you start asking questions about how do you feel, you know, chatbot?

e inizi a fare domande su come ti senti, sai, chatbot?

And, what do you think of this?

E cosa ne pensi di questo?

What are your goals?

Quali sono i tuoi obiettivi?

You can provoke it to say things that sound like what a sentient

Puoi provocarlo per dire cose che suonano come quello che

entity would say. We are really primed to imagine a mind behind language

direbbe un'entità senziente. Siamo davvero pronti a immaginare una mente dietro il linguaggio

whenever we encounter language.

ogni volta che incontriamo il linguaggio.

And so we really have to account for that when

E quindi dobbiamo davvero tenerne conto quando

we're making decisions about these.

prendiamo decisioni al riguardo.

So, although a chatbot might sound human,

Quindi, sebbene un chatbot possa sembrare umano,

we really just ask it

in realtà gli chiediamo solo

things to get a reaction. We provoke it.

cose per ottenere una reazione. Lo provochiamo.

And it answers only with words

E risponde solo con parole che

it has learned to use before.

ha imparato a usare prima.

Not because it has come up with a clever answer,

Non perché abbia trovato una risposta intelligente,

but it does sound like a sentient entity. Sentient describes a living  

ma suona come un'entità senziente. Sentient descrive un

thing that experiences feelings. As Professor Bender says we imagine  

essere vivente che prova sentimenti. Come dice il professor Bender, immaginiamo

that when something speaks there is a mind behind it. But sorry Neil,

che quando qualcosa parla ci sia una mente dietro. Ma scusa Neil,

they are not your friend.

non sono tuoi amici.

They're just machines.

Sono solo macchine.

Yes, it's strange then

Sì, è strano quindi

that we sometimes give chatbots names. Alexa, Siri, and earlier

che a volte diamo nomi ai chatbot. Alexa, Siri e prima

I asked you what the name was for their first ever chatbot?

ti ho chiesto come si chiamava il loro primo chatbot in assoluto?

And I guessed it was Parry. Was I right?

E ho pensato che fosse Parry. Avevo ragione?

You guessed wrong, I'm afraid.

Hai indovinato male, temo.

Parry was an early form of chatbot from 1972.

Parry era una prima forma di chatbot del 1972.

But the correct answer was Eliza.

Ma la risposta corretta era Eliza.

It was considered to be the first chatterbot, as it was called then,

Era considerato il primo chatterbot, come veniva chiamato allora,

and was developed by Joseph Weizenbaum at Massachusetts Institute of Technology.

ed è stato sviluppato da Joseph Weizenbaum al Massachusetts Institute of Technology.

Fascinating stuff.

Roba affascinante.

OK, now let's recap some of the vocabulary

OK, ora ricapitoliamo parte del vocabolario che

we highlighted in this programme, starting with sophisticated,

abbiamo evidenziato in questo programma, iniziando con sofisticato,

which can describe technology that is advanced and complex.

che può descrivere una tecnologia avanzata e complessa.

Something that is coherent, is clear carefully considered and sensible.

Qualcosa che sia coerente, chiaro, ponderato e sensato.

Authoritative means respected accurate and important sounding.

Autorevole significa rispettato suono accurato e importante.

When you are on guard

Quando sei in guardia

you must be careful and alert about something.

devi stare attento e attento a qualcosa.

It could be the accuracy of what you see or hear or just being aware

Potrebbe essere l'accuratezza di ciò che vedi o senti o semplicemente essere consapevole

of the dangers around you. To provoke means to do something

dei pericoli che ti circondano. Provocare significa fare qualcosa

that causes a reaction from someone.

che provochi una reazione da parte di qualcuno.

Sentient describes something that experiences feelings.

Sentient descrive qualcosa che prova sentimenti.

So it's something that is living. Once again

Quindi è qualcosa che vive. Ancora una volta

our six minutes are up. Goodbye.

i nostri sei minuti sono scaduti. Arrivederci.

Bye bye for now.

Arrivederci per ora.