Should we fear chatbots? ⏲️ 6 Minute English

Hello. This is 6 Minute English

Bonjour. Ceci est 6 minutes d'anglais

from BBC Learning English.

de BBC Learning English.

I'm Neil.

And I'm Rob.

Je suis Neil.

Et je suis Rob.

Now, I'm sure most of us have interacted with a chatbot.

Maintenant, je suis sûr que la plupart d'entre nous ont interagi avec un chatbot.

These are bits of computer technology that respond to text with text

Ce sont des éléments de technologie informatique qui répondent au texte par du texte

or respond to your voice.

ou répondent à votre voix.

You ask it a question and usually it comes up

Vous lui posez une question et généralement il trouve

with an answer.

une réponse.

Yes, it's almost like talking to another human.

Oui, c'est presque comme parler à un autre humain.

But of course, it's not.

Mais bien sûr, ce n'est pas le cas.

It's just a clever piece of technology.

C'est juste une technologie astucieuse.

It's becoming more sophisticated, more advanced and complex,

Cela devient plus sophistiqué, plus avancé et plus complexe,

but could they replace real human interaction altogether?

mais pourraient-ils remplacer complètement la véritable interaction humaine ?

We'll discuss that more in a moment and find out if chatbots

Nous en discuterons plus en détail dans un instant et découvrirons si les chatbots

really think for themselves. But first,

pensent vraiment par eux-mêmes. Mais d'abord,

I have a question for you, Rob. The first computer program that allowed

j'ai une question pour vous, Rob. Le premier programme informatique permettant

some kind of plausible conversation between humans and machines

une sorte de conversation plausible entre les humains et les machines

was invented in 1966.

a été inventé en 1966.

But what was it called?

Mais comment s'appelait-il ?

Was it a) Alexa.

Était-ce a) Alexa.

b) Eliza, or c) Parry? Well, it's not Alexa,

b) Eliza, ou c) Parer ? Eh bien, ce n'est pas Alexa,

that's too new, so I'll guess

c'est trop nouveau, donc je suppose que

c) Parry.

c) Parry.

I'll reveal the answer at the end of the programme.

Je révélerai la réponse à la fin du programme.

Now, the old chatbots of the 1960s and 70s were quite basic.

Maintenant, les vieux chatbots des années 60 et 70 étaient assez basiques.

But more recently, the technology is able to predict the next word that is

Mais plus récemment, la technologie est capable de prédire le mot suivant

likely to be used in a sentence and it learns words and sentence structures.

susceptible d'être utilisé dans une phrase et elle apprend les mots et les structures de phrases.

It's clever stuff.

C'est un truc intelligent.

I've experienced using them when talking to my bank

Je les ai utilisés lorsque j'ai parlé à ma banque

or when I have problems trying to book a ticket on a website.

ou lorsque j'ai eu des problèmes pour réserver un billet sur un site Web.

I no longer phone a human,

Je ne téléphone plus à un humain,

I speak to a virtual assistant instead.

je parle à un assistant virtuel à la place.

Probably the most well known chatbot at the moment

Le chatbot le plus connu actuellement

is ChatGTP.

est probablement ChatGTP.

It is. The claim is that it's able to answer

C'est. L'affirmation est qu'il est capable de répondre à

anything you ask it.

tout ce que vous lui demandez.

This includes writing

Cela comprend la rédaction des

students' essays.

essais des étudiants.

Now, this is something that was discussed on the BBC

Maintenant, c'est quelque chose qui a été discuté sur le

Radio 4 programme, Word of Mouth.

programme BBC Radio 4, Word of Mouth.

Emily M Bender,

Emily M Bender,

Professor of Computational Linguistics at the University

professeur de linguistique computationnelle à l'Université

of Washington, explained why it's dangerous to always trust

de Washington, a expliqué pourquoi il est dangereux de toujours faire confiance à

what a chatbot is telling us.

ce qu'un chatbot nous dit.

We tend to react to grammatical, fluent, coherent seeming text

Nous avons tendance à réagir à un texte apparemment grammatical, fluide et cohérent

as authoritative and reliable and valuable and

comme faisant autorité, fiable et précieux et

we need to be on guard against that because what is coming out of ChatGTP

nous devons nous méfier de cela, car ce qui sort de ChatGTP n'est

is none of that.

rien de tout cela.

So, Professor Bender says that well written text, that is coherent -

Ainsi, le professeur Bender dit qu'un texte bien écrit, qui est cohérent -

that means it's clear, carefully considered and sensible -

cela signifie qu'il est clair, soigneusement réfléchi et sensé -

makes us think what we are reading is reliable and authoritative.

nous fait penser que ce que nous lisons est fiable et fait autorité.

So it's respected, accurate and important sounding.

C'est donc un son respecté, précis et important.

Yes, chatbots might appear to write in this way. But really,

Oui, les chatbots peuvent sembler écrire de cette façon. Mais en réalité,

they are just predicting one word after another based on what they have learnt.

ils ne font que prédire un mot après l'autre en fonction de ce qu'ils ont appris.

We should therefore be on guard - be careful

Nous devons donc être sur nos gardes - être prudents

and alert about the accuracy of what we are being told.

et attentifs à l'exactitude de ce qu'on nous dit. L'

One concern is that chatbots - a form of artificial intelligence - work

une des préoccupations est que les chatbots - une forme d'intelligence artificielle - fonctionnent

a bit like a human brain in the way it can learn and process information.

un peu comme un cerveau humain dans la façon dont il peut apprendre et traiter les informations.

They are able to learn from experience. Something called deep learning.

Ils sont capables d'apprendre de l'expérience. Quelque chose qui s'appelle l'apprentissage en profondeur.

A cognitive psychologist and computer scientist called Geoffrey Hinton,

Un psychologue cognitif et informaticien appelé Geoffrey Hinton, a

recently said he feared that chatbots could soon overtake the level

récemment déclaré qu'il craignait que les chatbots ne dépassent bientôt le niveau

of information that a human brain holds. That is a bit scary isn't it?

d'informations détenu par un cerveau humain . C'est un peu effrayant n'est-ce pas ?

But for now, chatbots can be useful for practical information,

Mais pour l'instant, les chatbots peuvent être utiles pour des informations pratiques,

but sometimes we start to believe they are human

mais parfois nous commençons à croire qu'ils sont humains

and we interact with them in a human like way.

et nous interagissons avec eux de manière humaine.

This can make us believe them even more.

Cela peut nous faire croire encore plus à eux.

Professor Emma Bender,

Le professeur Emma Bender,

speaking on the BBC's Word of Mouth

s'exprimant sur le programme Word of Mouth de la BBC

programme, explains why we might feel like that.

, explique pourquoi nous pourrions ressentir cela.

I think what's going on there is, the kinds of answers

Je pense que ce qui se passe là-bas, c'est que les types de réponses que

you get depend on the questions

vous obtenez dépendent des questions que

you put in, because it's doing likely next word, likely next word.

vous posez, car il s'agit probablement du mot suivant, probablement du mot suivant.

And so, if as the human interacting with this machine

Et donc, si en tant qu'humain interagissant avec cette machine

and you start asking questions about how do you feel, you know, chatbot?

et que vous commencez à poser des questions sur ce que vous ressentez, vous savez, chatbot ?

And, what do you think of this?

Et, qu'en pensez-vous ?

What are your goals?

Quels sont vos objectifs?

You can provoke it to say things that sound like what a sentient

Vous pouvez le provoquer pour qu'il dise des choses qui ressemblent à ce que

entity would say. We are really primed to imagine a mind behind language

dirait une entité sensible. Nous sommes vraiment prêts à imaginer un esprit derrière le langage

whenever we encounter language.

chaque fois que nous rencontrons un langage.

And so we really have to account for that when

Et donc nous devons vraiment en tenir compte lorsque

we're making decisions about these.

nous prenons des décisions à ce sujet.

So, although a chatbot might sound human,

Ainsi, bien qu'un chatbot puisse sembler humain,

we really just ask it

nous lui demandons simplement

things to get a reaction. We provoke it.

des choses pour obtenir une réaction. Nous le provoquons.

And it answers only with words

Et il ne répond qu'avec des mots

it has learned to use before.

qu'il a appris à utiliser auparavant.

Not because it has come up with a clever answer,

Non pas parce qu'il a trouvé une réponse intelligente,

but it does sound like a sentient entity. Sentient describes a living  

mais cela ressemble à une entité sensible. Sentient décrit une

thing that experiences feelings. As Professor Bender says we imagine  

chose vivante qui éprouve des sentiments. Comme le dit le professeur Bender, nous imaginons

that when something speaks there is a mind behind it. But sorry Neil,

que lorsque quelque chose parle, il y a un esprit derrière. Mais désolé Neil,

they are not your friend.

ils ne sont pas ton ami.

They're just machines.

Ce ne sont que des machines.

Yes, it's strange then

Oui, c'est étrange alors

that we sometimes give chatbots names. Alexa, Siri, and earlier

que nous donnions parfois des noms aux chatbots. Alexa, Siri et plus tôt

I asked you what the name was for their first ever chatbot?

je vous ai demandé comment s'appelait leur tout premier chatbot ?

And I guessed it was Parry. Was I right?

Et j'ai deviné que c'était Parry. Avais-je raison ?

You guessed wrong, I'm afraid.

Vous avez mal deviné, j'en ai peur.

Parry was an early form of chatbot from 1972.

Parry était une première forme de chatbot de 1972.

But the correct answer was Eliza.

Mais la bonne réponse était Eliza.

It was considered to be the first chatterbot, as it was called then,

Il a été considéré comme le premier chatterbot, comme on l'appelait alors,

and was developed by Joseph Weizenbaum at Massachusetts Institute of Technology.

et a été développé par Joseph Weizenbaum au Massachusetts Institute of Technology. Des

Fascinating stuff.

trucs fascinants.

OK, now let's recap some of the vocabulary

OK, récapitulons maintenant une partie du vocabulaire que

we highlighted in this programme, starting with sophisticated,

nous avons mis en évidence dans ce programme, en commençant par sophistiqué,

which can describe technology that is advanced and complex.

qui peut décrire une technologie avancée et complexe.

Something that is coherent, is clear carefully considered and sensible.

Quelque chose de cohérent, de clair réfléchi et de sensé.

Authoritative means respected accurate and important sounding.

Faire autorité signifie respecter un son précis et important.

When you are on guard

Lorsque vous êtes sur vos gardes,

you must be careful and alert about something.

vous devez être prudent et attentif à quelque chose.

It could be the accuracy of what you see or hear or just being aware

Il peut s'agir de l'exactitude de ce que vous voyez ou entendez ou simplement d'être conscient

of the dangers around you. To provoke means to do something

des dangers qui vous entourent. Provoquer signifie faire quelque chose

that causes a reaction from someone.

qui provoque une réaction de la part de quelqu'un.

Sentient describes something that experiences feelings.

Sentient décrit quelque chose qui éprouve des sentiments.

So it's something that is living. Once again

C'est donc quelque chose qui vit. Encore une fois,

our six minutes are up. Goodbye.

nos six minutes sont écoulées. Au revoir.

Bye bye for now.

Au revoir pour le moment.