Machine intelligence makes human morals more important | Zeynep Tufekci

Traducător: Diana Elena Serban Corector: Claudia Pravat

Mi-am început primul job ca programator

în primul an de facultate,

practic, în adolescență.

So, I started my first job as a computer programmer

Curând după ce am început să lucrez,

scriind programe la o companie,

in my very first year of college --

un manager care lucra acolo a venit la mine

basically, as a teenager.

și mi-a șoptit:

Soon after I started working,

„Știe dacă mint?”

writing software in a company,

a manager who worked at the company came down to where I was,

Nu mai era nimeni în încăpere.

and he whispered to me,

„Cine să știe dacă minți? Și de ce vorbim în șoaptă?”

"Can he tell if I'm lying?"

There was nobody else in the room.

Managerul a arătat spre calculatorul din cameră.

„Știe dacă mint?”

"Can who tell if you're lying? And why are we whispering?"

Acel manager avea o relație cu recepționista.

The manager pointed at the computer in the room.

"Can he tell if I'm lying?"

(Râsete)

Iar eu eram încă o adolescentă.

I-am strigat în șoaptă:

Well, that manager was having an affair with the receptionist.

„Da, calculatorul știe dacă minți.”

(Laughter)

(Râsete)

And I was still a teenager.

Am râs, dar de fapt m-am înșelat.

So I whisper-shouted back to him,

"Yes, the computer can tell if you're lying."

Azi, există sisteme de calcul

care deduc stările emoționale și știu dacă minți,

(Laughter)

Well, I laughed, but actually, the laugh's on me.

prin simpla procesare a chipurilor umane.

Nowadays, there are computational systems

Companiile de publicitate și guvernele sunt foarte interesate.

that can suss out emotional states and even lying

Am devenit programator,

from processing human faces.

fiindcă eram unul din acei copii înnebuniți după matematică și știință.

Advertisers and even governments are very interested.

Dar la un moment dat, am învățat despre armele nucleare

I had become a computer programmer

și m-am îngrijorat cu privire la etica științei.

because I was one of those kids crazy about math and science.

Eram tulburată.

Totuși, din cauza situației familiale,

But somewhere along the line I'd learned about nuclear weapons,

trebuia să încep să lucrez cât mai repede posibil.

and I'd gotten really concerned with the ethics of science.

M-am gândit să aleg un domeniu tehnic,

I was troubled.

However, because of family circumstances,

unde să mă pot angaja ușor

I also needed to start working as soon as possible.

și să nu trebuiască să am de a face cu întrebări supărătoare de etică.

So I thought to myself, hey, let me pick a technical field

Așa că am ales informatica.

where I can get a job easily

(Râsete)

Ei, ha, ha, ha! M-am înșelat.

and where I don't have to deal with any troublesome questions of ethics.

Azi, informaticienii construiesc platforme

So I picked computers.

care controlează ce văd un miliard de oameni zilnic.

(Laughter)

Well, ha, ha, ha! All the laughs are on me.

Dezvoltă mașini care pot decide pe cine să calce.

Nowadays, computer scientists are building platforms

that control what a billion people see every day.

Construiesc chiar și mașinării, arme

care pot omorî oameni în război.

They're developing cars that could decide who to run over.

Totul se rezumă la etică.

They're even building machines, weapons,

Inteligența artificială e aici.

that might kill human beings in war.

Folosim acum calculul pentru a lua tot felul de decizii,

It's ethics all the way down.

dar și noi tipuri de decizii.

Punem întrebări calculatoarelor care nu au un singur răspuns corect,

Machine intelligence is here.

We're now using computation to make all sort of decisions,

care sunt subiective,

but also new kinds of decisions.

cu răspuns nelimitat și relativ.

We're asking questions to computation that have no single right answers,

Punem întrebări ca:

„Pe cine ar trebui să angajăm?”

„Ce noutate și de la ce prieten ar trebui să vezi?”

that are subjective

and open-ended and value-laden.

„Ce condamnat are mai multe șanse să recidiveze?”

We're asking questions like,

"Who should the company hire?"

„Ce știre sau film ar trebui să recomandăm oamenilor?”

"Which update from which friend should you be shown?"

Folosim calculatoare de ceva timp,

"Which convict is more likely to reoffend?"

dar asta e diferit.

"Which news item or movie should be recommended to people?"

E o răsturnare de situație importantă,

deoarece nu putem să ne bazăm pe calcul pentru astfel de decizii subiective,

Look, yes, we've been using computers for a while,

but this is different.

așa cum o facem pentru pilotarea avioanelor, construirea de poduri,

This is a historical twist,

because we cannot anchor computation for such subjective decisions

mersul pe lună.

Sunt avioanele mai sigure? S-a clătinat podul și a căzut?

the way we can anchor computation for flying airplanes, building bridges,

Acolo am convenit asupra unor repere destul de clare

going to the moon.

și am lăsat legile naturii să ne ghideze.

Are airplanes safer? Did the bridge sway and fall?

Nu avem astfel de baze și repere

There, we have agreed-upon, fairly clear benchmarks,

pentru deciziile în problemele umane dificile.

and we have laws of nature to guide us.

Pentru a complica și mai mult lucrurile, programul e din ce în ce mai puternic,

We have no such anchors and benchmarks

for decisions in messy human affairs.

dar mai puțin transparent și mult mai complex.

To make things more complicated, our software is getting more powerful,

Recent, în ultimii zece ani,

algoritmii complecși au făcut mari progrese.

but it's also getting less transparent and more complex.

Pot recunoaște fețe umane.

Pot descifra scrisul de mână.

Recently, in the past decade,

Pot detecta frauda cu cardul de credit,

complex algorithms have made great strides.

pot bloca spamul

They can recognize human faces.

și pot traduce în alte limbi.

They can decipher handwriting.

Pot detecta tumori în imagistica medicală.

Îi pot bate pe oameni la șah și Go.

They can detect credit card fraud

and block spam

Majoritatea acestui progres vine dintr-o metodă numită „învățare automată”.

and they can translate between languages.

They can detect tumors in medical imaging.

Învățarea automată diferă de programarea tradițională,

They can beat humans in chess and Go.

unde poți da calculatorului indicații detaliate, exacte, minuțioase.

Much of this progress comes from a method called "machine learning."

E ca atunci când iei sistemul și îl alimentezi cu multe date,

Machine learning is different than traditional programming,

where you give the computer detailed, exact, painstaking instructions.

inclusiv date nestructurate,

ca cele pe care le generăm în viețile noastre digitale.

It's more like you take the system and you feed it lots of data,

Iar sistemul învață prin parcurgerea acestor date.

De asemenea, e esențial

including unstructured data,

că aceste sisteme nu operează cu o logică bazată pe un singur răspuns.

like the kind we generate in our digital lives.

And the system learns by churning through this data.

Nu emit un răspuns simplu, se bazează mai mult pe probabilitate:

And also, crucially,

„Asta depășește probabil ce cauți tu.”

these systems don't operate under a single-answer logic.

Avantajul e că această metodă chiar e puternică.

They don't produce a simple answer; it's more probabilistic:

Directorul sistemelor AI Google i-a spus

"This one is probably more like what you're looking for."

„eficiența irațională a datelor”.

Dezavantajul este

Now, the upside is: this method is really powerful.

că nu înțelegem ce a învățat sistemul.

The head of Google's AI systems called it,

De fapt, asta e puterea lui.

"the unreasonable effectiveness of data."

E mai puțin decât să dai instrucțiuni unui calculator;

The downside is,

we don't really understand what the system learned.

e ca și când ai antrena o creatură-cățeluș

In fact, that's its power.

This is less like giving instructions to a computer;

pe care nu o înțelegem și nu o controlăm.

Așa că asta e problema noastră.

it's more like training a puppy-machine-creature

E o problemă când acest sistem de inteligență artificială greșește.

we don't really understand or control.

E o problemă și când face lucrurile bine,

So this is our problem.

pentru că nici nu știm să deosebim atunci când e o problemă subiectivă.

It's a problem when this artificial intelligence system gets things wrong.

Nu știm ce gândește chestia asta.

It's also a problem when it gets things right,

Gândiți-vă la un algoritm de angajare,

because we don't even know which is which when it's a subjective problem.

We don't know what this thing is thinking.

un sistem utilizat să angajeze oameni, folosind sisteme de învățare automată.

So, consider a hiring algorithm --

Un astfel de sistem ar fi fost antrenat cu datele foștilor angajați

a system used to hire people, using machine-learning systems.

și instruit să găsească și să angajeze

oameni ca cei existenți, cu rezultate înalte în companie.

Such a system would have been trained on previous employees' data

Sună bine.

Am fost odată la o conferință

and instructed to find and hire

care aducea împreună manageri și directori de resurse umane,

people like the existing high performers in the company.

oameni de nivel înalt,

care foloseau aceste sisteme la angajare.

Sounds good.

I once attended a conference

Erau foarte entuziasmați.

Credeau că asta face angajarea mai obiectivă, mai puțin părtinitoare,

that brought together human resources managers and executives,

high-level people,

și oferă femeilor și minorităților o șansă mai bună

using such systems in hiring.

They were super excited.

împotriva managerilor umani ostili.

They thought that this would make hiring more objective, less biased,

Angajarea umană e părtinitoare.

and give women and minorities a better shot

Știu.

La unul dintre primele mele joburi ca programator,

against biased human managers.

șefa mea directă venea la mine uneori

And look -- human hiring is biased.

foarte devreme dimineața sau foarte târziu după-amiaza

I know.

I mean, in one of my early jobs as a programmer,

și-mi spunea: „Zeynep, hai să mâncăm!”

my immediate manager would sometimes come down to where I was

Mă nedumerea ora aleasă.

really early in the morning or really late in the afternoon,

E 16:00. Prânz?

Nu aveam bani, masa era gratis, așa că mă duceam de fiecare dată.

and she'd say, "Zeynep, let's go to lunch!"

I'd be puzzled by the weird timing.

Mai târziu, am realizat ce se întâmpla.

It's 4pm. Lunch?

Șefii mei direcți nu le spuneau superiorilor lor

I was broke, so free lunch. I always went.

că programatorul pe care l-au angajat pentru un job serios era o adolescentă

I later realized what was happening.

My immediate managers had not confessed to their higher-ups

care purta blugi și teniși la muncă.

Mereu făceam o treabă bună, doar că arătam neobișnuit

that the programmer they hired for a serious job was a teen girl

și aveam vârsta și genul greșit.

who wore jeans and sneakers to work.

Așa că angajarea bazată pe necunoașterea genului și a rasei

sună bine.

I was doing a good job, I just looked wrong

Dar e mai complicat cu aceste sisteme și motivul e următorul:

and was the wrong age and gender.

So hiring in a gender- and race-blind way

În prezent, sistemele de calcul pot deduce tot felul de lucruri despre noi,

certainly sounds good to me.

But with these systems, it is more complicated, and here's why:

de la urmele digitale,

Currently, computational systems can infer all sorts of things about you

chiar dacă nu ați dezvăluit acele lucruri;

pot deduce orientarea sexuală,

from your digital crumbs,

trăsăturile de personalitate,

even if you have not disclosed those things.

înclinațiile politice.

Au putere de predicție cu nivel ridicat de precizie.

They can infer your sexual orientation,

your personality traits,

Iar asta pentru lucruri pe care nici măcar nu le-ați dezvăluit.

your political leanings.

Asta e deducție.

They have predictive power with high levels of accuracy.

Am o prietenă care a dezvoltat astfel de sisteme de calcul

care să prezică probabilitatea depresiei clinice sau postnatale

Remember -- for things you haven't even disclosed.

This is inference.

din datele de pe rețelele de socializare.

I have a friend who developed such computational systems

Rezultatele sunt impresionante.

to predict the likelihood of clinical or postpartum depression

Sistemul ei poate prezice probabilitatea depresiei

cu luni înainte de apariția unui simptom,

from social media data.

The results are impressive.

cu luni înainte.

Her system can predict the likelihood of depression

Fără simptome, există o predicție.

Ea speră că va fi folosit pentru intervențiile timpurii. Minunat!

months before the onset of any symptoms --

months before.

Dar să luăm contextul angajării.

No symptoms, there's prediction.

She hopes it will be used for early intervention. Great!

La această conferință cu manageri de la resurse umane,

m-am apropiat de un manager de nivel înalt dintr-o companie foarte mare

But now put this in the context of hiring.

și i-am spus: „Ce-ar fi dacă, fără știrea ta,

So at this human resources managers conference,

I approached a high-level manager in a very large company,

sistemul tău elimină oameni cu o viitoare probabilitate de depresie?

and I said to her, "Look, what if, unbeknownst to you,

Nu sunt depresivi acum, dar poate în viitor sunt șanse.

your system is weeding out people with high future likelihood of depression?

Ce-ar fi dacă elimină femei care e posibil să rămână însărcinate

anul viitor sau în doi ani, dar nu sunt însărcinate acum?

They're not depressed now, just maybe in the future, more likely.

Dacă angajează oameni agresivi, pentru că așa e cultura locului de muncă?”

What if it's weeding out women more likely to be pregnant

in the next year or two but aren't pregnant now?

Nu-ți poți da seama de asta din defalcare de gen.

What if it's hiring aggressive people because that's your workplace culture?"

Trebuie să fie în echilibru.

Și din moment ce asta e învățare automată, nu programare tradițională,

nu e o variabilă etichetată „risc ridicat de depresie”,

You can't tell this by looking at gender breakdowns.

Those may be balanced.

And since this is machine learning, not traditional coding,

„risc ridicat de sarcină”,

„persoană agresivă”.

there is no variable there labeled "higher risk of depression,"

Nu doar că nu știi cum face sistemul selecția,

"higher risk of pregnancy,"

nu știi nici de unde începe să caute.

"aggressive guy scale."

E o cutie neagră.

Are putere de predicție, dar n-o înțelegi.

Not only do you not know what your system is selecting on,

Ce măsuri de protecție ai, am întrebat,

you don't even know where to begin to look.

ca să te asiguri că cutia ta neagră nu face ceva suspect?”

It's a black box.

It has predictive power, but you don't understand it.

"What safeguards," I asked, "do you have

M-a privit ca și când aș fi călcat pe zece cozi de cățeluși.

to make sure that your black box isn't doing something shady?"

(Râsete)

M-a privit și a spus:

She looked at me as if I had just stepped on 10 puppy tails.

„Nu vreau să mai aud un cuvânt despre așa ceva.”

(Laughter)

S-a întors și a plecat.

She stared at me and she said,

Rețineți, n-a fost nepoliticoasă.

"I don't want to hear another word about this."

Era clar: ce nu știu nu-i problema mea, lasă-mă, privire dușmănoasă.

And she turned around and walked away.

(Râsete)

Mind you -- she wasn't rude.

It was clearly: what I don't know isn't my problem, go away, death stare.

Un astfel de sistem poate fi mai puțin ostil

decât managerii umani câteodată.

(Laughter)

Și ar putea avea un sens din punct de vedere monetar.

Look, such a system may even be less biased

Dar ar putea duce

și la o închidere constantă dar ascunsă de pe piața muncii,

than human managers in some ways.

And it could make monetary sense.

a celor cu risc mai mare de depresie.

But it could also lead

E ăsta genul de societate pe care vrem s-o construim,

to a steady but stealthy shutting out of the job market

fără să știm că am făcut asta,

că am îndreptat luarea deciziilor spre mașini pe care nu le înțelegem bine?

of people with higher risk of depression.

Is this the kind of society we want to build,

O altă problemă e asta:

without even knowing we've done this,

aceste sisteme sunt deseori antrenate pe date generate de acțiunile noastre,

because we turned decision-making to machines we don't totally understand?

amprentele umane.

Another problem is this:

Ele ar putea doar să reflecte prejudecățile noastre

these systems are often trained on data generated by our actions,

și aceste sisteme ne-ar putea prelua prejudecățile,

human imprints.

le-ar amplifica

Well, they could just be reflecting our biases,

și ni le-ar arăta înapoi,

în timp ce ne spunem:

„Facem doar calcule obiective și neutre.”

and these systems could be picking up on our biases

and amplifying them

Cercetătorii au aflat că pe Google

and showing them back to us,

while we're telling ourselves,

"We're just doing objective, neutral computation."

posibilitatea de afișare a joburilor bine plătite e mai mică pentru femei.

Researchers found that on Google,

Și căutând nume afro-americane

women are less likely than men to be shown job ads for high-paying jobs.

e mai posibil să apară anunțuri ce sugerează antecedente penale,

chiar dacă nu există niciunul.

And searching for African-American names

Astfel de prejudecăți ascunse și algoritmi de tip cutie neagră

is more likely to bring up ads suggesting criminal history,

pe care cercetătorii le descoperă uneori, dar noi nu știm,

even when there is none.

pot avea consecințe ce pot schimba viața.

Such hidden biases and black-box algorithms

În Wisconsin, un acuzat a primit șase ani de închisoare

that researchers uncover sometimes but sometimes we don't know,

pentru că a fugit de poliție.

can have life-altering consequences.

Poate nu știți asta,

In Wisconsin, a defendant was sentenced to six years in prison

dar se folosesc tot mai mult algoritmi pentru eliberări condiționate și sentințe.

Voia să știe cum se calcula rezultatul.

for evading the police.

You may not know this,

Era o cutie neagră comercială.

but algorithms are increasingly used in parole and sentencing decisions.

Compania a refuzat ca algoritmul său să fie contestat în ședință publică.

He wanted to know: How is this score calculated?

Dar ProPublica, un ONG de investigație, a verificat anume acel algoritm

It's a commercial black box.

The company refused to have its algorithm be challenged in open court.

cu datele publice pe care le-au putut găsi

și au aflat că rezultatele lor erau ostile

But ProPublica, an investigative nonprofit, audited that very algorithm

și puterea sa de predicție era slabă, abia avea vreo șansă,

with what public data they could find,

și eticheta greșit pe acuzații de culoare ca fiind viitori infractori

and found that its outcomes were biased

la o rată de două ori mai mare față de acuzații albi.

and its predictive power was dismal, barely better than chance,

and it was wrongly labeling black defendants as future criminals

Gândiți-vă la cazul ăsta.

Această femeie a întârziat să o ia pe fata nașilor

at twice the rate of white defendants.

de la o școală din Broward, Florida,

So, consider this case:

deoarece era la plimbare cu o prietenă.

This woman was late picking up her godsister

Au văzut bicicleta unui copil și un scuter pe verandă

from a school in Broward County, Florida,

și s-au urcat pe ea.

running down the street with a friend of hers.

În timp ce prindeau viteză, o femeie a ieșit și a spus:

They spotted an unlocked kid's bike and a scooter on a porch

„Hei! Aia-i bicicleta copilului meu!”

Au lăsat-o, au plecat, dar au fost arestate.

and foolishly jumped on it.

As they were speeding off, a woman came out and said,

Greșise, făcuse ceva imprudent, dar avea 18 ani.

"Hey! That's my kid's bike!"

Avea două delicte juvenile.

They dropped it, they walked away, but they were arrested.

Între timp, acest bărbat a fost arestat pentru furt în Home Depot,

She was wrong, she was foolish, but she was also just 18.

She had a couple of juvenile misdemeanors.

lucruri în valoare de 85 de dolari, o infracțiune minoră.

Meanwhile, that man had been arrested for shoplifting in Home Depot --

Dar mai avea două condamnări anterioare pentru jaf armat.

85 dollars' worth of stuff, a similar petty crime.

Dar algoritmul a considerat-o pe femeie ca fiind un risc ridicat și nu pe el.

But he had two prior armed robbery convictions.

Doi ani mai târziu, ProPublica a aflat că ea nu recidivase.

But the algorithm scored her as high risk, and not him.

Ei i-a fost greu să-și găsească un job cu acel cazier.

El, pe de altă parte, a recidivat

Two years later, ProPublica found that she had not reoffended.

și acum ispășește o pedeapsă de opt ani de închisoare pentru o crimă ulterioară.

It was just hard to get a job for her with her record.

Evident, trebuie să examinăm cutiile negre

He, on the other hand, did reoffend

și să nu le lăsăm să aibă acest tip de putere necontrolată.

and is now serving an eight-year prison term for a later crime.

(Aplauze)

Clearly, we need to audit our black boxes

Auditul e minunat și important, dar nu ne rezolvă toate problemele.

and not have them have this kind of unchecked power.

Luați algoritmul puternic al fluxului de știri de pe Facebook,

(Applause)

cel care clasează totul și decide ce să vă arate

Audits are great and important, but they don't solve all our problems.

de la toți prietenii și paginile pe care le urmăriți.

Take Facebook's powerful news feed algorithm --

Ar trebui să vezi o altă poză de bebeluș?

you know, the one that ranks everything and decides what to show you

(Râsete)

Un articol trist de la un cunoscut?

from all the friends and pages you follow.

O știre importantă dar complicată?

Should you be shown another baby picture?

Nu există un răspuns corect.

Facebook se optimizează pentru implicarea pe site:

(Laughter)

A sullen note from an acquaintance?

like-uri, distribuiri, comentarii.

An important but difficult news item?

În august 2014,

There's no right answer.

Facebook optimizes for engagement on the site:

protestele au izbucnit în Ferguson, Missouri,

likes, shares, comments.

după uciderea unui adolescent afro-american de un polițist alb,

In August of 2014,

în condiții obscure.

protests broke out in Ferguson, Missouri,

Știrea despre proteste era peste tot,

after the killing of an African-American teenager by a white police officer,

în feedul meu Twitter, nefiltrat algoritmic,

dar nicăieri pe pagina mea de Facebook.

under murky circumstances.

Au făcut asta prietenii mei de la Facebook?

The news of the protests was all over

Am dezactivat algoritmul Facebook,

my algorithmically unfiltered Twitter feed,

ceea ce părea greu, deoarece Facebook tot vrea să te facă

but nowhere on my Facebook.

să fii sub controlul algoritmului,

Was it my Facebook friends?

și am văzut că prietenii mei vorbeau despre asta.

I disabled Facebook's algorithm,

Era doar algoritmul care nu-mi arăta.

which is hard because Facebook keeps wanting to make you

Am cercetat și am aflat că e o problemă răspândită.

come under the algorithm's control,

Povestea din Ferguson nu era prietenoasă cu algoritmii.

and saw that my friends were talking about it.

It's just that the algorithm wasn't showing it to me.

Nu era „apreciabilă”.

Cine o să dea „like”?

I researched this and found this was a widespread problem.

Nici măcar nu e ușor să lași un comentariu despre asta.

The story of Ferguson wasn't algorithm-friendly.

Fără like-uri și comentarii,

algoritmul lăsa probabil și mai puțini oameni să vadă,

It's not "likable."

Who's going to click on "like?"

așa că noi n-am văzut.

It's not even easy to comment on.

În schimb, în acea săptămână,

Without likes and comments,

algoritmii Facebook au subliniat asta:

the algorithm was likely showing it to even fewer people,

ALS Ice Bucket Challenge.

so we didn't get to see this.

Cauză demnă: îți torni apă rece, donezi pentru caritate, perfect.

Instead, that week,

Facebook's algorithm highlighted this,

Dar era super prietenoasă cu algoritmii.

which is the ALS Ice Bucket Challenge.

Mașinăria a decis asta pentru noi.

Worthy cause; dump ice water, donate to charity, fine.

O conversație foarte importantă, dar dificilă,

But it was super algorithm-friendly.

ar fi putut fi eliminată

dacă Facebook ar fi fost singurul canal.

The machine made this decision for us.

A very important but difficult conversation

Aceste sisteme pot și greși

might have been smothered,

în feluri care nu seamănă cu sistemele umane.

had Facebook been the only channel.

Vă amintiți de Watson, sistemul IBM cu inteligență artificială,

Now, finally, these systems can also be wrong

care a șters pe jos cu concurenții umani la Jeopardy?

in ways that don't resemble human systems.

A fost un jucător grozav.

Dar atunci, în finala Jeopardy, lui Watson i s-a pus această întrebare:

Do you guys remember Watson, IBM's machine-intelligence system

that wiped the floor with human contestants on Jeopardy?

„Cel mai mare aeroport al său e numit după un erou din al Doilea Război Mondial,

al doilea ca mărime din o luptă a acestui război.”

It was a great player.

But then, for Final Jeopardy, Watson was asked this question:

(Fredonează melodia finalei Jeopardy)

Chicago.

"Its largest airport is named for a World War II hero,

Cei doi oameni au răspuns corect.

Watson, pe de altă parte, a răspuns „Toronto”,

its second-largest for a World War II battle."

(Hums Final Jeopardy music)

pentru categoria unui oraș american.

Chicago.

The two humans got it right.

Sistemul impresionant a făcut și el o eroare

Watson, on the other hand, answered "Toronto" --

pe care un om n-ar face-o niciodată, un copil de clasa a doua n-ar face-o.

for a US city category!

Inteligența noastră artificială poate da greș

The impressive system also made an error

în moduri care nu se potrivesc cu tiparele de erori ale oamenilor,

that a human would never make, a second-grader wouldn't make.

în moduri neașteptate și pentru care trebuie să ne pregătim.

Our machine intelligence can fail

Ar fi groaznic ca cineva să nu primească un job pentru care e calificat,

in ways that don't fit error patterns of humans,

dar ar fi de trei ori mai rău dacă ar fi din cauza depășirii seriei

in ways we won't expect and be prepared for.

în vreo subrutină.

It'd be lousy not to get a job one is qualified for,

(Râsete)

În mai 2010,

but it would triple suck if it was because of stack overflow

un flash crash de pe Wall Street alimentat de o buclă de reacție

in some subroutine.

(Laughter)

în algoritmul de „vânzare” de pe Wall Street

In May of 2010,

a șters un trilion de dolari în 36 de minute.

a flash crash on Wall Street fueled by a feedback loop

in Wall Street's "sell" algorithm

Nici nu vreau să mă gândesc ce înseamnă „eroare”

în contextul armelor autonome letale.

wiped a trillion dollars of value in 36 minutes.

I don't even want to think what "error" means

Deci da, oamenii au avut mereu prejudecăți.

in the context of lethal autonomous weapons.

Factori de decizie și gardieni,

în instanță, la știri, în război...

So yes, humans have always made biases.

ei iau decizii și asta vreau să subliniez.

Decision makers and gatekeepers,

Nu putem scăpa de aceste întrebări dificile.

in courts, in news, in war ...

Nu ne putem externaliza responsabilitățile către mașinării.

they make mistakes; but that's exactly my point.

We cannot escape these difficult questions.

(Aplauze)

We cannot outsource our responsibilities to machines.

Inteligența artificială nu ne dă un permis care să ne scape de etică.

(Applause)

Analistul de date Fred Benenson numește asta spălarea prin matematică.

Artificial intelligence does not give us a "Get out of ethics free" card.

Avem nevoie de exact contrariul.

Trebuie să cultivăm suspiciunea algoritmului, controlul și investigația.

Data scientist Fred Benenson calls this math-washing.

Trebuie să ne asigurăm că avem contabilitate algoritmică,

We need the opposite.

We need to cultivate algorithm suspicion, scrutiny and investigation.

revizie contabilă și transparență însemnată.

Trebuie să acceptăm că aducerea matematicii și informaticii

We need to make sure we have algorithmic accountability,

în problemele umane încurcate și pline de valori

auditing and meaningful transparency.

nu aduce obiectivitate.

We need to accept that bringing math and computation

Mai degrabă, complexitatea problemelor umane invadează algoritmii.

to messy, value-laden human affairs

Putem și trebuie să folosim informatica

does not bring objectivity;

pentru a ne ajuta să luăm decizii mai bune.

rather, the complexity of human affairs invades the algorithms.

Dar trebuie să ne recunoaștem responsabilitatea morală față de judecată

Yes, we can and we should use computation

și să folosim algoritmii în acest cadru,

to help us make better decisions.

But we have to own up to our moral responsibility to judgment,

nu ca mijloc de abdicare și externalizare a responsabilităților

unul față de celălalt, de la om la om.

and use algorithms within that framework,

not as a means to abdicate and outsource our responsibilities

Inteligența artificială e aici.

Asta înseamnă că trebuie să ținem și mai bine

to one another as human to human.

de valorile și eticile umane.

Machine intelligence is here.

Vă mulțumesc!

(Aplauze)

That means we must hold on ever tighter

to human values and human ethics.

Thank you.

(Applause)