Machine intelligence makes human morals more important | Zeynep Tufekci

Översättare: Anette Smedberg Granskare: Annika Bidner

So, I started my first job as a computer programmer

Mitt första jobb var som dataprogrammerare

in my very first year of college --

under mitt första år på högskolan -

basically, as a teenager.

jag var tonåring då.

Soon after I started working,

Strax efter att jag börjat jobba,

writing software in a company,

med att utveckla programvara,

a manager who worked at the company came down to where I was,

kom en chef på företaget ner där jag satt,

and he whispered to me,

och viskade till mig,

"Can he tell if I'm lying?"

"Kan han se om jag ljuger?"

There was nobody else in the room.

Där fanns ingen annan i rummet.

"Can who tell if you're lying? And why are we whispering?"

"Kan vem se om du ljuger? Och varför viskar vi?"

The manager pointed at the computer in the room.

Chefen pekade på datorn som stod i rummet.

"Can he tell if I'm lying?"

"Kan han se om jag ljuger?"

Well, that manager was having an affair with the receptionist.

Den här chefen hade en affär med receptionisten.

(Laughter)

(Skratt)

And I was still a teenager.

Och jag var fortfarande tonåring.

So I whisper-shouted back to him,

Så jag visk-skrek tillbaka,

"Yes, the computer can tell if you're lying."

"Ja, datorn kan se om du ljuger."

(Laughter)

(Skratt)

Well, I laughed, but actually, the laugh's on me.

Jag skrattade, men egentligen är det jag som är skämtet.

Nowadays, there are computational systems

Idag finns det beräkningssystem

that can suss out emotional states and even lying

som kan sortera ut känslor och även lögner

from processing human faces.

genom att processa data från ansikten.

Advertisers and even governments are very interested.

Annonsörer och till och med regeringar är mycket intresserade.

I had become a computer programmer

Jag blev programmerare

because I was one of those kids crazy about math and science.

för som barn var jag som tokig i matematik och vetenskap.

But somewhere along the line I'd learned about nuclear weapons,

Men någonstans längs vägen fick jag vetskap om kärnvapen,

and I'd gotten really concerned with the ethics of science.

och blev mycket oroad över etiken i forskningen.

I was troubled.

Jag var bekymrad.

However, because of family circumstances,

Emellertid, på grund av familjeomständigheter,

I also needed to start working as soon as possible.

var jag också tvungen att börja arbeta tidigt.

So I thought to myself, hey, let me pick a technical field

Jag tänkte för mig själv; jag väljer ett tekniskt område

where I can get a job easily

där jag lätt kan få arbete och där

and where I don't have to deal with any troublesome questions of ethics.

jag inte behöver bekymra mig om några svårlösta etiska frågor.

So I picked computers.

Så jag valde datorer.

(Laughter)

(Skratt)

Well, ha, ha, ha! All the laughs are on me.

Ja, ha, ha, ha! Skratta gärna åt mig.

Nowadays, computer scientists are building platforms

Idag bygger datorforskare plattformar

that control what a billion people see every day.

som kontrollerar vad som visas för miljarder människor varje dag.

They're developing cars that could decide who to run over.

De utvecklar bilar

som skulle kunna bestämma vem de ska köra över.

They're even building machines, weapons,

De bygger till och med maskiner, vapen,

that might kill human beings in war.

som kan döda människor i krig.

It's ethics all the way down.

Det handlar om etik i hela ledet.

Machine intelligence is here.

De intelligenta maskinerna är här.

We're now using computation to make all sort of decisions,

Idag använder vi beräkningssystem för alla sorters beslut,

but also new kinds of decisions.

men också för nya typer av beslut.

We're asking questions to computation that have no single right answers,

Vi ställer frågor till algoritmerna som inte har ett entydigt korrekt svar,

that are subjective

frågor som är subjektiva,

and open-ended and value-laden.

öppna och värdeladdade.

We're asking questions like,

Vi ställer frågor som,

"Who should the company hire?"

"Vem ska företaget anställa?"

"Vilken av dina vänners uppdateringar

"Which update from which friend should you be shown?"

ska du kunna se?"

"Which convict is more likely to reoffend?"

"Vem återfaller troligast i brott?"

"Which news item or movie should be recommended to people?"

"Vilka nyheter eller filmer ska rekommenderas till folk?"

Look, yes, we've been using computers for a while,

Visst, vi har använt datorer ett tag,

but this is different.

men det här är annorlunda.

This is a historical twist,

Det är en historisk vridning,

because we cannot anchor computation for such subjective decisions

för vi kan inte verifiera beräkningarna för sådana subjektiva beslut

the way we can anchor computation for flying airplanes, building bridges,

på samma sätt som vi kan verifiera dem vi gör för flygplan, brokonstruktioner,

going to the moon.

eller månfärder.

Are airplanes safer? Did the bridge sway and fall?

Är flygplan säkrare? Började bron självsvänga och rasa?

There, we have agreed-upon, fairly clear benchmarks,

Där har vi kommit överens om ganska tydliga ramverk,

and we have laws of nature to guide us.

och vi har lagar som vägleder oss.

We have no such anchors and benchmarks

Såna ramverk eller normer finns inte

for decisions in messy human affairs.

för beslut gällande krångliga mänskliga relationer.

To make things more complicated, our software is getting more powerful,

För att göra det än mer komplicerat, blir vår mjukvara kraftfullare,

but it's also getting less transparent and more complex.

samtidigt som den blir både mindre transparent och mer komplex.

Recently, in the past decade,

Under det senaste årtiondet,

complex algorithms have made great strides.

har komplexa algoritmer gjort enorma framsteg.

They can recognize human faces.

De kan känna igen ansikten.

They can decipher handwriting.

De kan tolka handskriven text.

They can detect credit card fraud

De kan upptäcka kontokortsbedrägerier,

and block spam

blockera spam

and they can translate between languages.

och de kan översätta språk.

They can detect tumors in medical imaging.

De kan upptäcka tumörer genom medicinsk bildteknik.

They can beat humans in chess and Go.

De kan slå människor i schack och Go.

Much of this progress comes from a method called "machine learning."

Många av de här framstegen härrör från en metod som kallas "maskininlärning."

Machine learning is different than traditional programming,

Maskininlärning skiljer sig från traditionell programmering,

where you give the computer detailed, exact, painstaking instructions.

där du ger datorn detaljerade, exakta, noggranna instruktioner.

It's more like you take the system and you feed it lots of data,

Det här är mer som att du matar systemet med en massa data,

including unstructured data,

inkluderat ostrukturerad data,

like the kind we generate in our digital lives.

till exempel från våra digitala liv.

And the system learns by churning through this data.

Systemet lär sig genom att bearbeta datamängderna.

And also, crucially,

Avgörande är också,

these systems don't operate under a single-answer logic.

att systemen inte kommer fram till något entydigt svar.

They don't produce a simple answer; it's more probabilistic:

Du får inte ett enkelt svar, utan en sannolikhetsbedömning;

"This one is probably more like what you're looking for."

"Det här är sannolikt det du letar efter."

Now, the upside is: this method is really powerful.

Fördelen är att metoden är kraftfull.

The head of Google's AI systems called it,

Chefen för Googles AI-system kallade det

"the unreasonable effectiveness of data."

"datas orimliga effektivitet."

The downside is,

Nackdelen är

we don't really understand what the system learned.

att vi inte förstår vad systemet lär sig.

In fact, that's its power.

Faktum är att det är dess makt.

This is less like giving instructions to a computer;

Det är mindre av att ge en dator instruktioner,

it's more like training a puppy-machine-creature

och mer som att träna en Tamagotschi

we don't really understand or control.

som vi varken förstår eller kontrollerar.

So this is our problem.

Det är vårt stora problem.

It's a problem when this artificial intelligence system gets things wrong.

Det är problematiskt när såna här system får saker och ting om bakfoten.

It's also a problem when it gets things right,

Det är också ett problem när de får till det rätt,

because we don't even know which is which when it's a subjective problem.

för vi vet inte vad som är vad, när frågeställningen är subjektiv.

We don't know what this thing is thinking.

Vi vet inte vad den här tingesten tänker.

So, consider a hiring algorithm --

Föreställ er en algoritm för anställning -

a system used to hire people, using machine-learning systems.

ett maskininlärningssystem som används för att anställa människor.

Such a system would have been trained on previous employees' data

Ett sådant system har lärt sig av data över tidigare anställda

and instructed to find and hire

och instruerats att hitta och anställa

people like the existing high performers in the company.

likadana högpresterare som redan är anställda i företaget.

Sounds good.

Det låter ju bra.

I once attended a conference

Jag deltog en gång i en konferens

that brought together human resources managers and executives,

med personalchefer och chefer,

high-level people,

högt uppsatta människor,

using such systems in hiring.

som använder såna system.

They were super excited.

De var otroligt entusiastiska.

They thought that this would make hiring more objective, less biased,

De trodde att det här skulle göra anställningsprocessen objektiv,

och mindre fördomsfull,

and give women and minorities a better shot

och ge kvinnor och minoriteter en bättre chans

against biased human managers.

mot fördomsfulla, partiska personalchefer.

And look -- human hiring is biased.

Men lyssna här - anställningar är fördomsfulla.

I know.

Jag vet.

I mean, in one of my early jobs as a programmer,

Jag menar, under mitt första jobb som programmerare,

my immediate manager would sometimes come down to where I was

kom ibland min närmsta chef förbi

really early in the morning or really late in the afternoon,

antingen väldigt tidigt på morgonen eller mycket sent på eftermiddagen,

and she'd say, "Zeynep, let's go to lunch!"

och sade; "Zeynep, nu går vi på lunch!"

I'd be puzzled by the weird timing.

Jag var brydd av den märkliga tajmingen.

It's 4pm. Lunch?

Klockan är fyra på eftermiddagen. Lunch?

I was broke, so free lunch. I always went.

Jag var pank, så gratis lunch. Jag följde alltid med.

I later realized what was happening.

Senare förstod jag vad som hände.

My immediate managers had not confessed to their higher-ups

Min närmaste chef hade inte erkänt för de högre cheferna

that the programmer they hired for a serious job was a teen girl

att programmeraren de anställt var en tonårstjej

who wore jeans and sneakers to work.

i jeans och gymnastikskor.

I was doing a good job, I just looked wrong

Jag gjorde ett bra jobb, jag såg bara fel ut

and was the wrong age and gender.

och var ung och kvinna.

So hiring in a gender- and race-blind way

Så att anställa utan att ta hänsyn till kön och ras

certainly sounds good to me.

låter verkligen bra i mina öron.

But with these systems, it is more complicated, and here's why:

Men med de här systemen blir det mer komplicerat;

Currently, computational systems can infer all sorts of things about you

Idag kan beräkningssystem dra alla möjliga slutsatser om dig

from your digital crumbs,

utifrån dina digitala avtryck,

even if you have not disclosed those things.

även om du inte har avslöjat dem.

They can infer your sexual orientation,

De kan dra slutsatser om din sexuella läggning,

your personality traits,

dina karaktärsdrag,

your political leanings.

dina politiska böjelser.

They have predictive power with high levels of accuracy.

De kan prognostisera med hög noggrannhet.

Remember -- for things you haven't even disclosed.

Kom ihåg - kring saker du inte avslöjat.

This is inference.

Det är slutledningsförmåga.

I have a friend who developed such computational systems

Jag har en vän som utvecklat ett beräkningssystem

to predict the likelihood of clinical or postpartum depression

för att beräkna sannolikheten för klinisk- eller förlossningsdepression

from social media data.

utifrån digitala avtryck.

The results are impressive.

Resultaten är imponerande.

Her system can predict the likelihood of depression

Hennes system kan beräkna sannolikheten för depression

months before the onset of any symptoms --

månader innan symtomen visar sig -

months before.

månader i förväg.

No symptoms, there's prediction.

Inga symtom, bara förutsägelse.

She hopes it will be used for early intervention. Great!

Hon hoppas att det ska användas för behandling i ett tidigt stadium.

Jättebra!

But now put this in the context of hiring.

Men sätt in det i ett anställningssammanhang.

So at this human resources managers conference,

På den här personalchefskonferensen,

I approached a high-level manager in a very large company,

frågade jag en högt uppsatt chef i ett mycket stort företag,

and I said to her, "Look, what if, unbeknownst to you,

"Du, tänk om, utan att du vet,

your system is weeding out people with high future likelihood of depression?

ert system gallrar ut

personer med hög sannolikhet att drabbas av depression?

They're not depressed now, just maybe in the future, more likely.

De är inte deprimerade nu, men kanske blir någon gång i framtiden.

What if it's weeding out women more likely to be pregnant

Tänk om det gallrar ut kvinnor som kan komma att bli gravida

in the next year or two but aren't pregnant now?

inom ett till två år men som inte är gravida nu?

What if it's hiring aggressive people because that's your workplace culture?"

Tänk om aggressiva människor anställs för att det är en del av er företagskultur?"

You can't tell this by looking at gender breakdowns.

Du kan inte bedöma det utifrån könsfördelningen.

Those may be balanced.

De kan vara i balans.

And since this is machine learning, not traditional coding,

Eftersom detta gäller maskininlärning, och inte traditionell kodning,

there is no variable there labeled "higher risk of depression,"

finns det ingen variabel som säger "högre risk för depression,"

"higher risk of pregnancy,"

"högre risk för graviditet,"

"aggressive guy scale."

"macho-tendenser."

Not only do you not know what your system is selecting on,

Du vet varken

vad ditt system selekterar på,

you don't even know where to begin to look.

eller var du ska börja titta.

It's a black box.

Det är en svart låda.

It has predictive power, but you don't understand it.

Det har en förutsägbar kraft, men du förstår inte det.

"What safeguards," I asked, "do you have

"Vilka garantier, frågade jag, har du

to make sure that your black box isn't doing something shady?"

för att försäkra dig om att din svarta låda inte gör något skumt?"

She looked at me as if I had just stepped on 10 puppy tails.

Hon tittade på mig som om jag just trampat på hennes hund.

(Laughter)

(Skratt)

She stared at me and she said,

Hon stirrade på mig och sade,

"I don't want to hear another word about this."

"Jag vill inte höra ett enda ord till."

And she turned around and walked away.

Hon vände sig om och gick.

Kom ihåg - hon var inte oförskämd.

Mind you -- she wasn't rude.

It was clearly: what I don't know isn't my problem, go away, death stare.

Det var tydligt: Det jag inte vet är inte mitt problem, stick iväg.

(Laughter)

(Skratt)

Look, such a system may even be less biased

Ett sånt system kan vara mindre subjektivt

than human managers in some ways.

än personalchefer på vissa sätt.

And it could make monetary sense.

Och det kan vara ekonomiskt rimligt.

But it could also lead

Men det kan också leda till

to a steady but stealthy shutting out of the job market

ett smygande utestängande från arbetsmarknaden

of people with higher risk of depression.

av människor med högre risk för psykisk ohälsa.

Is this the kind of society we want to build,

Vill vi bygga den sortens samhälle,

without even knowing we've done this,

utan att ens märka att vi gör det,

because we turned decision-making to machines we don't totally understand?

för att vi låter maskiner ta besluten?

Maskiner som vi inte begriper oss på?

Another problem is this:

Ett annat problem är att

these systems are often trained on data generated by our actions,

dessa system ofta reagerar på data som genererats av våra aktiviteter,

human imprints.

våra digitala avtryck.

Well, they could just be reflecting our biases,

De kan ju bara reflektera våra fördomar,

and these systems could be picking up on our biases

och dessa system kan plocka upp fördomarna,

and amplifying them

förstärka dem

and showing them back to us,

och återspegla dem för oss,

while we're telling ourselves,

alltmedan vi intalar oss,

"We're just doing objective, neutral computation."

att "Vi gör bara objektiva neutrala beräkningar."

Researchers found that on Google,

Forskare fann att på Google,

women are less likely than men to be shown job ads for high-paying jobs.

är det mindre troligt att kvinnor får se annonser för välbetalda jobb än män.

And searching for African-American names

Söker man på afro-amerikanska namn

is more likely to bring up ads suggesting criminal history,

är det mer troligt att man får annonser som antyder kriminell bakgrund,

even when there is none.

även när det inte finns någon koppling.

Such hidden biases and black-box algorithms

Sådana dolda fördomar och svarta lådor-algoritmer

that researchers uncover sometimes but sometimes we don't know,

som forskare ibland upptäcker, och ibland inte,

can have life-altering consequences.

kan få livsavgörande konsekvenser.

In Wisconsin, a defendant was sentenced to six years in prison

I Wisconsin dömdes en åtalad till sex års fängelse

for evading the police.

för att ha kört från polisen.

You may not know this,

Du vet det kanske inte,

but algorithms are increasingly used in parole and sentencing decisions.

men algoritmer används mer och mer vid förelägganden och villkorliga straff.

He wanted to know: How is this score calculated?

Han ville veta: Hur beräknades straffsatsen?

It's a commercial black box.

Av en kommersiell svart låda.

The company refused to have its algorithm be challenged in open court.

Företaget vägrade att få sin algoritm bedömd

i en offentlig rättegång.

But ProPublica, an investigative nonprofit, audited that very algorithm

Men det granskande, icke-vinstdrivande företaget Pro-Publica, jämförde den

with what public data they could find,

med den offentliga data de kunde hitta, och fann

and found that its outcomes were biased

att algoritmens utfall var partiskt

and its predictive power was dismal, barely better than chance,

och dess kraftfulla beräkningar usla, knappt bättre än slumpen,

and it was wrongly labeling black defendants as future criminals

och att den felaktigt pekade ut svarta åtalade som presumtiva brottslingar

at twice the rate of white defendants.

dubbelt så ofta som vita åtalade.

So, consider this case:

Så, tänk över det här fallet:

This woman was late picking up her godsister

Den här kvinnan var sen när hon skulle hämta sitt gudbarn

from a school in Broward County, Florida,

på en skola i Broward County i Florida,

running down the street with a friend of hers.

hon och hennes vänner sprang nerför gatan.

They spotted an unlocked kid's bike and a scooter on a porch

De fick syn på en olåst barncykel och en sparkcykel på en veranda

and foolishly jumped on it.

och tog dem dumt nog.

As they were speeding off, a woman came out and said,

När de stack iväg, kom en kvinna ut och sade,

"Hey! That's my kid's bike!"

"Hallå! Det där är mitt barns prylar."

They dropped it, they walked away, but they were arrested.

De släppte dem, gick därifrån, men blev anhållna.

She was wrong, she was foolish, but she was also just 18.

Hon gjorde fel, hon betedde sig dumt, men hon var också bara arton år.

She had a couple of juvenile misdemeanors.

Hon hade några ungsdomsförseelser

sedan tidigare.

Meanwhile, that man had been arrested for shoplifting in Home Depot --

Samtidigt hade den här mannen blivit anhållen för snatteri i Home Depot,

85 dollars' worth of stuff, a similar petty crime.

prylar för 85 dollar, ett ganska litet brott.

But he had two prior armed robbery convictions.

Men han hade tidigare blivit dömd för två väpnade rån.

But the algorithm scored her as high risk, and not him.

Men algoritmen bedömde henne som en högre risk än honom.

Two years later, ProPublica found that she had not reoffended.

Två år senare fann ProPublica att hon inte återfallit i brott.

It was just hard to get a job for her with her record.

Hon hade bara svårt att få jobb med sin bakgrund.

He, on the other hand, did reoffend

Han, å andra sidan, återföll i brottslighet

and is now serving an eight-year prison term for a later crime.

och avtjänar nu ett åttaårigt fängelsestraff

för ett nytt brott.

Clearly, we need to audit our black boxes

Det är tydligt att vi måste revidera våra svarta lådor

and not have them have this kind of unchecked power.

och inte låta dem få sådan här okontrollerad makt.

(Applause)

(Applåder)

Audits are great and important, but they don't solve all our problems.

Kontroller är bra och viktiga, men de löser inte alla våra problem.

Take Facebook's powerful news feed algorithm --

Ta Facebooks kraftfulla algoritm för vårt nyhetsflöde -

you know, the one that ranks everything and decides what to show you

ni vet, den som rangordnar allt och bestämmer vad som ska visas för dig

from all the friends and pages you follow.

från alla vänner och sidor du följer.

Should you be shown another baby picture?

Ska du få se ännu en spädbarnsbild?

(Laughter)

(Skratt)

A sullen note from an acquaintance?

En vresig kommentar från en bekant?

An important but difficult news item?

En viktig men svår nyhetsnotis?

There's no right answer.

Det finns inget rätt svar.

Facebook optimizes for engagement on the site:

Facebook optimerar flödet för att få engagemang:

likes, shares, comments.

gilla, dela, kommentera.

In August of 2014,

I augusti 2014

protests broke out in Ferguson, Missouri,

bröt protester ut i Ferguson, Missouri,

after the killing of an African-American teenager by a white police officer,

efter att en vit polis dödat en afro-amerikansk tonåring,

under murky circumstances.

under märkliga omständigheter.

The news of the protests was all over

Nyheten om protesterna fanns överallt

my algorithmically unfiltered Twitter feed,

i mitt i stort sett algoritmfria Twitter-flöde,

but nowhere on my Facebook.

men inte alls på min Facebook.

Was it my Facebook friends?

Berodde det på mina Facebook-vänner?

I disabled Facebook's algorithm,

Jag inaktiverade Facebooks algoritm,

which is hard because Facebook keeps wanting to make you

vilket är svårt för de vill ha dig

come under the algorithm's control,

under algoritmens kontroll,

and saw that my friends were talking about it.

och såg att mina vänner pratade om händelsen.

It's just that the algorithm wasn't showing it to me.

Det var bara det att algoritmen inte visade det.

Jag undersökte saken och fann att det är ett vanligt problem.

I researched this and found this was a widespread problem.

The story of Ferguson wasn't algorithm-friendly.

Händelsen i Ferguson var inte algoritm-vänlig.

It's not "likable."

Den var inte "sympatisk."

Who's going to click on "like?"

Vem skulle klicka på "gilla?"

It's not even easy to comment on.

Den är inte ens lätt att kommentera.

Without likes and comments,

Utan gillanden och kommentarer

the algorithm was likely showing it to even fewer people,

skulle algoritmen troligen visa den för ännu färre människor,

so we didn't get to see this.

så därför fick vi inte se den.

Instead, that week,

Istället, den veckan,

Facebook's algorithm highlighted this,

lyfte Facebooks algoritm fram det här,

which is the ALS Ice Bucket Challenge.

ALS Ice Bucket Challenge.

Worthy cause; dump ice water, donate to charity, fine.

Häll iskallt vatten över dig, och skänk pengar för ett gott syfte.

But it was super algorithm-friendly.

Den var superalgoritmvänlig.

The machine made this decision for us.

Maskinen tog beslutet åt oss.

A very important but difficult conversation

En mycket viktig men svår diskussion

might have been smothered,

skulle förmodligen kvävts

had Facebook been the only channel.

om Facebook hade varit den enda nyhetskällan.

Now, finally, these systems can also be wrong

Till sist, de här systemen kan också göra fel

in ways that don't resemble human systems.

på sätt som människor inte skulle göra.

Do you guys remember Watson, IBM's machine-intelligence system

Kommer ni ihåg Watson, IBMs intelligenta dator

that wiped the floor with human contestants on Jeopardy?

som sopade mattan med deltagarna i Jeopardy?

Den var en duktig motståndare.

It was a great player.

But then, for Final Jeopardy, Watson was asked this question:

Men sen, som sista fråga i Jeopardy, fick Watson följande fråga:

"Its largest airport is named for a World War II hero,

"Största flygplatsen är döpt efter en hjälte i 2:a världskriget,

its second-largest for a World War II battle."

den andra största, från ett slag i samma krig."

(Hums Final Jeopardy music)

(Nynnar Jeopardy-vinjetten)

Chicago.

Chicago.

The two humans got it right.

De två människorna svarade rätt.

Watson, on the other hand, answered "Toronto" --

Watson, å sin sida, svarade "Toronto" -

for a US city category!

i kategorin amerikanska städer!

The impressive system also made an error

Den imponerande maskinen gjorde också fel

that a human would never make, a second-grader wouldn't make.

som en människa aldrig skulle göra, en lågstadieelev aldrig skulle göra.

Our machine intelligence can fail

Våra intelligenta maskiner kan misslyckas

in ways that don't fit error patterns of humans,

på sätt som inte följer mänskliga mönster,

in ways we won't expect and be prepared for.

på sätt som vi inte förväntar oss och är förberedda för.

It'd be lousy not to get a job one is qualified for,

Det är botten att inte få ett jobb man är kvalificerad för,

but it would triple suck if it was because of stack overflow

men det skulle suga om det berodde på minneshanteringen

in some subroutine.

i någon subrutin.

(Laughter)

(Skratt)

In May of 2010,

I maj 2010

a flash crash on Wall Street fueled by a feedback loop

drabbades Wall Street av en "blixtkrasch" som förstärktes av en loop

in Wall Street's "sell" algorithm

i Wall Streets sälj-algoritm

wiped a trillion dollars of value in 36 minutes.

som på 36 minuter raderade en miljard dollar.

I don't even want to think what "error" means

Jag vill inte tänka på vad "error" betyder

in the context of lethal autonomous weapons.

i samband med automatiserade vapensystem.

So yes, humans have always made biases.

Visst, människor har alltid gjort partiska antaganden.

Decision makers and gatekeepers,

Beslutsfattare och andra grindvakter,

in courts, in news, in war ...

i domstolar, i nyheter, i krig ...

they make mistakes; but that's exactly my point.

de gör misstag; och det är det här jag menar.

We cannot escape these difficult questions.

Vi kan inte rymma från de här svåra frågeställningarna.

We cannot outsource our responsibilities to machines.

Vi kan inte

lämna över ansvaret till maskiner.

(Applause)

(Applåder)

Artificial intelligence does not give us a "Get out of ethics free" card.

Artificiell intelligens ger oss inte ett frikort när det gäller etik.

Data scientist Fred Benenson calls this math-washing.

Dataanalytikern Fred Benenson kallar det för matematik-tvätt.

We need the opposite.

Vi behöver motsatsen.

We need to cultivate algorithm suspicion, scrutiny and investigation.

Vi måste förfina algoritmerna, granska och kontrollera dem.

We need to make sure we have algorithmic accountability,

Vi måste se till att ha ansvarsfulla algoritmer,

auditing and meaningful transparency.

revideringar och meningsfull transparens.

We need to accept that bringing math and computation

Vi måste förstå att användande av matematik och maskinberäkningar

to messy, value-laden human affairs

i krångliga, värdeladdade mänskliga relationer

does not bring objectivity;

inte skapar objektivitet;

rather, the complexity of human affairs invades the algorithms.

utan snarare, att komplexa handlingar påverkar algoritmerna.

Yes, we can and we should use computation

Ja, vi kan och vi bör använda maskinberäkningar

to help us make better decisions.

som en hjälp för att ta bättre beslut.

But we have to own up to our moral responsibility to judgment,

Men vi måste ta vårt moraliska ansvar i beaktande i bedömningarna

and use algorithms within that framework,

och använda algoritmerna i det ramverket,

not as a means to abdicate and outsource our responsibilities

och inte som ett sätt att frånsäga oss eller outsourca vårt ansvar

to one another as human to human.

till varandra som människa till människa.

Machine intelligence is here.

Maskinintelligens är här för att stanna.

That means we must hold on ever tighter

Det betyder att vi måste hålla ännu hårdare

to human values and human ethics.

i våra värderingar och vår etik.

Thank you.

Tack.

(Applause)

(Applåder)