Can AI have a mind of its own? ⏲️ 6 Minute English

Hello. This is 6 Minute English from

Bonjour. Ceci est 6 minutes d'anglais de

BBC Learning English. I’m Sam.

BBC Learning English. Je suis Sam.

And I’m Neil.

Et je suis Neil.

In the autumn of 2021, something

À l'automne 2021, quelque chose d'

strange happened at the Google

étrange s'est produit au

headquarters in California’s Silicon

siège de Google dans la Silicon Valley en Californie

Valley. A software engineer called,

. Un ingénieur logiciel du nom de

Blake Lemoine, was working on the

Blake Lemoine travaillait sur le

artificial intelligence project, ‘Language

projet d'intelligence artificielle, "

Models for Dialogue Applications’, or

Modèles de langage pour les applications de dialogue", ou

LaMDA for short. LaMDA is a

LaMDA en abrégé. LaMDA est un

chatbot – a computer programme

chatbot - un programme informatique

designed to have conversations with

conçu pour avoir des conversations avec des

humans over the internet.

humains sur Internet.

After months talking with LaMDA

Après des mois de discussion avec LaMDA

on topics ranging from movies to

sur des sujets allant des films

the meaning of life, Blake came to

au sens de la vie, Blake est arrivé à

a surprising conclusion: the chatbot

une conclusion surprenante : le chatbot

was an intelligent person with wishes

était une personne intelligente avec des souhaits

and rights that should be respected.

et des droits qui devaient être respectés.

For Blake, LaMDA was a Google

Pour Blake, LaMDA était un

employee, not a machine.

employé de Google, pas une machine.

He also called it his ‘friend’.

Il l'appelait aussi son "ami".

Google quickly reassigned Blake from

Google a rapidement réaffecté Blake

the project, announcing that his ideas

du projet, annonçant que ses idées

were not supported by the evidence.

n'étaient pas étayées par des preuves.

But what exactly was going on?

Mais que se passait-il exactement ?

In this programme, we’ll be

Dans ce programme, nous

discussing whether artificial intelligence

discuterons si l'intelligence artificielle

is capable of consciousness. We’ll hear

est capable de conscience. Nous

from one expert who thinks AI is not as

entendrons un expert qui pense que l'IA n'est pas aussi

intelligent as we sometimes think,

intelligente que nous le pensons parfois,

and as usual, we’ll be learning some

et comme d'habitude, nous apprendrons également un

new vocabulary as well.

nouveau vocabulaire.

But before that, I have a question for

Mais avant cela, j'ai une question pour

you, Neil. What happened to Blake Lemoine

vous, Neil. Ce qui est arrivé à Blake Lemoine

is strangely similar to the 2013 Hollywood

ressemble étrangement au film hollywoodien de 2013

movie, Her, starring Joaquin Phoenix as

, Elle, mettant en vedette Joaquin Phoenix dans le rôle d'

a lonely writer who talks with his

un écrivain solitaire qui parle avec son

computer, voiced by Scarlett Johansson.

ordinateur, exprimé par Scarlett Johansson.

But what happens at the end

Mais que se passe-t-il à la fin

of the movie? Is it:

du film ? Est-ce :

a) the computer comes to life?

a) l'ordinateur prend vie ?

b) the computer dreams about the writer? or,

b) l'ordinateur rêve de l'écrivain ? ou,

c) the writer falls in love with the computer?

c) l'écrivain tombe amoureux de l'ordinateur ?

... c) the writer falls in love with the computer.

... c) l'écrivain tombe amoureux de l'ordinateur.

OK, Neil, I’ll reveal the answer at the end

OK, Neil, je révélerai la réponse à la fin

of the programme. Although Hollywood is

du programme. Bien qu'Hollywood

full of movies about robots coming to life,

regorge de films sur des robots qui prennent vie,

Emily Bender, a professor of linguistics and

Emily Bender, professeur de linguistique et d'

computing at the University of Washington,

informatique à l'Université de Washington,

thinks AI isn’t that smart. She thinks the

pense que l'IA n'est pas si intelligente. Elle pense que les

words we use to talk about technology,

mots que nous utilisons pour parler de technologie, des

phrases like ‘machine learning’, give a

expressions comme "apprentissage automatique", donnent une

false impression about what

fausse impression de ce que les

computers can and can’t do.

ordinateurs peuvent et ne peuvent pas faire.

Here is Professor Bender discussing

Voici le professeur Bender discutant d'

another misleading phrase, ‘speech

une autre expression trompeuse, «

recognition’, with BBC World Service

reconnaissance vocale », avec le programme BBC World

programme, The Inquiry:

Service, The Inquiry :

If you talk about ‘automatic speech

si vous parlez de « reconnaissance automatique de la parole

recognition’, the term ‘recognition’

», le terme « reconnaissance »

suggests that there's something

suggère qu'il se passe quelque chose de

cognitive going on, where I think a

cognitif, où je pense qu'un

better term would be automatic transcription.

un meilleur terme serait la transcription automatique.

That just describes the input-output

Cela décrit simplement la relation entrée-sortie

relation, and not any theory or wishful

, et non une théorie ou un vœu

thinking about what the computer is

pieux sur ce que fait l'ordinateur

doing to be able to achieve that.

pour pouvoir y parvenir.

Using words like ‘recognition’ in relation

L'utilisation de mots comme «reconnaissance» en relation

to computers gives the idea that

avec les ordinateurs donne l'idée que

something cognitive is happening – something

quelque chose de cognitif se produit - quelque chose

related to the mental processes of

lié aux processus mentaux de la

thinking, knowing, learning and understanding.

pensée, de la connaissance, de l'apprentissage et de la compréhension.

But thinking and knowing are human,

Mais penser et savoir sont des activités humaines, et

not machine, activities. Professor Benders

non des machines. Le professeur Benders

says that talking about them in connection

dit que parler d'eux en relation

with computers is wishful thinking -

avec les ordinateurs est un vœu pieux -

something which is unlikely to happen.

quelque chose qui a peu de chances de se produire.

The problem with using words in this

Le problème avec l'utilisation de mots de cette

way is that it reinforces what

manière est qu'il renforce ce que le

Professor Bender calls, technical

professeur Bender appelle, le

bias – the assumption that the computer

biais technique - l'hypothèse que l'ordinateur

is always right. When we encounter

a toujours raison. Lorsque nous rencontrons un

language that sounds natural, but is

langage qui semble naturel, mais qui

coming from a computer, humans

provient d'un ordinateur, les humains

can’t help but imagine a mind behind

ne peuvent s'empêcher d'imaginer un esprit derrière

the language, even when there isn’t one.

le langage, même s'il n'y en a pas.

In other words, we anthropomorphise

En d'autres termes, nous anthropomorphisons les

computers – we treat them as if they

ordinateurs - nous les traitons comme s'ils

were human. Here’s Professor Bender

étaient humains. Voici à nouveau le professeur

again, discussing this idea with

Bender, discutant de cette idée avec

Charmaine Cozier, presenter of BBC

Charmaine Cozier, présentatrice de BBC

World Service’s, the Inquiry.

World Service, the Inquiry.

So ‘ism’ means system, ‘anthro’ or ‘anthropo’

Ainsi, « isme » signifie système, « anthro » ou « anthropo »

means human, and ‘morph’ means shape...

signifie humain, et « morph » signifie forme...

And so this is a system that puts the

Et c'est donc un système qui donne la

shape of a human on something, and

forme d'un humain à quelque chose, et

in this case the something is a computer.

dans ce cas, le quelque chose est un l'ordinateur.

We anthropomorphise animals all the time,

Nous anthropomorphisons tout le temps des animaux,

but we also anthropomorphise action figures,

mais nous anthropomorphisons également des figurines

or dolls, or companies when we talk about

articulées, des poupées ou des entreprises lorsque nous parlons d'

companies having intentions and so on.

entreprises ayant des intentions, etc.

We very much are in the habit of seeing

Nous avons l'habitude de

ourselves in the world around us.

nous voir dans le monde qui nous entoure.

And while we’re busy seeing ourselves

Et pendant que nous sommes occupés à nous voir

by assigning human traits to things that

en attribuant des traits humains à des choses qui

are not, we risk being blindsided.

ne le sont pas, nous risquons d'être pris au dépourvu.

The more fluent that text is, the more

Plus ce texte est fluide, plus

different topics it can converse on, the

il peut aborder de sujets différents,

more chances there are to get taken in.

plus il y a de chances de se laisser prendre.

If we treat computers as if they could think,

Si nous traitons les ordinateurs comme s'ils pouvaient penser,

we might get blindsided, or

nous pourrions être pris au dépourvu ou

unpleasantly surprised. Artificial intelligence

désagréablement surpris. L'intelligence artificielle

works by finding patterns in massive

fonctionne en trouvant des modèles dans des

amounts of data, so it can seem like

quantités massives de données, de sorte qu'il peut sembler que

we’re talking with a human, instead

nous parlons avec un humain, au lieu

of a machine doing data analysis.

d'une machine effectuant une analyse de données.

As a result, we get taken in – we’re tricked

En conséquence, nous sommes dupés - nous sommes trompés

or deceived into thinking we’re dealing

ou trompés en pensant que nous avons affaire

with a human, or with something intelligent.

à un humain ou à quelque chose d'intelligent.

Powerful AI can make machines appear conscious,

Une IA puissante peut donner l'impression que les machines sont conscientes,

but even tech giants like Google are years

mais même les géants de la technologie comme Google sont à des

away from building computers that can

années de construire des ordinateurs qui peuvent

dream or fall in love. Speaking of which,

rêver ou tomber amoureux. En parlant de ça,

Sam, what was the answer to your question?

Sam, quelle a été la réponse à ta question ?

I asked what happened in the 2013 movie, Her.

J'ai demandé ce qui s'était passé dans le film de 2013, Her.

Neil thought that the main character

Neil pensait que le personnage principal

falls in love with his computer, which

tombait amoureux de son ordinateur, ce qui

was the correct answer!

était la bonne réponse !

OK. Right, it’s time to recap the vocabulary

D'ACCORD. Bon, il est temps de récapituler le vocabulaire que

we’ve learned from this programme about AI,

nous avons appris de ce programme sur l'IA,

including chatbots - computer programmes

y compris les chatbots - des programmes informatiques

designed to interact with

conçus pour interagir avec les

humans over the internet.

humains sur Internet.

The adjective cognitive describes

L'adjectif cognitif décrit

anything connected with the mental

tout ce qui est lié aux processus mentaux

processes of knowing,

de connaissance, d'

learning and understanding.

apprentissage et de compréhension.

Wishful thinking means thinking that

Un vœu pieux signifie penser que

something which is very unlikely to happen

quelque chose qui est très peu susceptible de se produire

might happen one day in the future.

pourrait se produire un jour dans le futur.

To anthropomorphise an object means

Anthropomorphiser un objet

to treat it as if it were human,

signifie le traiter comme s'il était humain,

even though it’s not.

même s'il ne l'est pas.

When you’re blindsided, you’re

Lorsque vous êtes pris au dépourvu, vous êtes

surprised in a negative way.

surpris de manière négative.

And finally, to get taken in by someone means

Et enfin, se faire avoir par quelqu'un

to be deceived or tricked by them.

signifie être trompé ou trompé par lui.

My computer tells me that our six minutes

Mon ordinateur me dit que nos six minutes

are up! Join us again soon, for now

sont écoulées ! Rejoignez-nous bientôt, pour l'instant

it’s goodbye from us.

c'est au revoir de notre part.

Bye!

Au revoir!