The danger of AI is weirder than you think | Janelle Shane

Tłumaczenie: Kornelia Szyszka Korekta: Rysia Wand

So, artificial intelligence

Sztuczna Inteligencja (AI)

is known for disrupting all kinds of industries.

wpływa na różne gałęzie przemysłu.

What about ice cream?

A co z lodami?

What kind of mind-blowing new flavors could we generate

Jakie obłędne smaki można by stworzyć

with the power of an advanced artificial intelligence?

za pomocą zaawansowanej sztucznej inteligencji?

So I teamed up with a group of coders from Kealing Middle School

Aby odpowiedzieć na to pytanie, połączyłam siły z grupą programistów

to find out the answer to this question.

z Kealing Middle School.

They collected over 1,600 existing ice cream flavors,

Zebrali ponad 1600 istniejących smaków lodów,

and together, we fed them to an algorithm to see what it would generate.

wpisaliśmy je do algorytmu, by zobaczyć, co wygeneruje.

And here are some of the flavors that the AI came up with.

Oto niektóre smaki wymyślone przez sztuczną inteligencję.

[Dyniowa Przerwa Śmieciowa]

[Pumpkin Trash Break]

(Laughter)

(Śmiech)

[Peanut Butter Slime]

[Śluz masła orzechowego]

[Strawberry Cream Disease]

[Choroba truskawkowo-śmietankowa]

(Laughter)

(Śmiech)

These flavors are not delicious, as we might have hoped they would be.

Nie są tak smakowite, jak oczekiwaliśmy.

So the question is: What happened?

Pytanie brzmi: co się stało?

What went wrong?

Co poszło nie tak?

Is the AI trying to kill us?

Czy sztuczna inteligencja próbuje nas zabić?

Or is it trying to do what we asked, and there was a problem?

A może próbuje spełnić nasze polecenie i pojawił się problem?

In movies, when something goes wrong with AI,

Filmowe kłopoty ze sztuczną inteligencją

it's usually because the AI has decided

spowodowane są zazwyczaj wymówieniem posłuszeństwa człowiekowi.

that it doesn't want to obey the humans anymore,

and it's got its own goals, thank you very much.

"Dzięki, ale mam własne plany"

In real life, though, the AI that we actually have

W rzeczywistości dzisiejsza sztuczna inteligencja,

is not nearly smart enough for that.

nie jest aż tak mądra.

It has the approximate computing power

Ma moc obliczeniową

of an earthworm,

dżdżownicy

or maybe at most a single honeybee,

lub maksymalnie pszczoły.

and actually, probably maybe less.

Właściwie to mniejszą.

Like, we're constantly learning new things about brains

Nieustannie dowiadujemy się o mózgu rzeczy, które ujawniają,

that make it clear how much our AIs don't measure up to real brains.

jak dalece sztuczna inteligencja do nas nie dorasta.

So today's AI can do a task like identify a pedestrian in a picture,

Obecnie sztuczna inteligencja może zidentyfikować pieszego na zdjęciu,

but it doesn't have a concept of what the pedestrian is

ale nie wie, czym jest pieszy

beyond that it's a collection of lines and textures and things.

poza tym, że jest to zbiór linii, tekstur czy rzeczy.

It doesn't know what a human actually is.

Nie wie, czym jest człowiek.

So will today's AI do what we ask it to do?

Czy współczesna sztuczna inteligencja zrobi to, o co się ją prosi?

It will if it can,

Zrobi, jeśli umie,

but it might not do what we actually want.

ale efekt może się różnić od oczekiwań.

So let's say that you were trying to get an AI

Załóżmy, że chcieliście, by sztuczna inteligencja

to take this collection of robot parts

wzięła części robota

and assemble them into some kind of robot to get from Point A to Point B.

i zrobiła z nich robota, który ma dotrzeć z punktu A do B.

Now, if you were going to try and solve this problem

Gdyby podejść do problemu

by writing a traditional-style computer program,

z pomocą tradycyjnego programu komputerowego,

you would give the program step-by-step instructions

komputerowi należy dać szczegółową instrukcję,

on how to take these parts,

jak wziąć dane części,

how to assemble them into a robot with legs

złożyć robota z nogami

and then how to use those legs to walk to Point B.

i jak użyć tych nóg, by dotrzeć do punktu B.

But when you're using AI to solve the problem,

Rozwiązując problem przy użyciu sztucznej inteligencji,

it goes differently.

robi się to inaczej.

You don't tell it how to solve the problem,

Nie mówi się, jak rozwiązać problem.

you just give it the goal,

Po prostu daje się cel,

and it has to figure out for itself via trial and error

a ona sama, metodą prób i błędów,

how to reach that goal.

musi znaleźć rozwiązanie.

And it turns out that the way AI tends to solve this particular problem

Okazuje się, że sztuczna inteligencja

rozwiązuje ten konkretny problem tak:

is by doing this:

it assembles itself into a tower and then falls over

buduje z części wieżę i przewraca ją,

and lands at Point B.

lądując w punkcie B.

And technically, this solves the problem.

Technicznie rzecz biorąc, rozwiązała problem.

Technically, it got to Point B.

Dotarła do punktu B.

The danger of AI is not that it's going to rebel against us,

Niebezpieczeństwem sztucznej inteligencji nie jest bunt przeciwko nam,

it's that it's going to do exactly what we ask it to do.

lecz to, że zrobi dokładnie to, o co ją poprosiliśmy.

So then the trick of working with AI becomes:

Istotą pracy ze sztuczną inteligencją

How do we set up the problem so that it actually does what we want?

jest postawienie problemu tak, by zrobiła to, czego oczekujemy.

So this little robot here is being controlled by an AI.

Ten mały robot kontrolowany jest przez sztuczną inteligencję,

The AI came up with a design for the robot legs

która sama zaprojektowała nogi robota

and then figured out how to use them to get past all these obstacles.

i sposób ich użycia do obchodzenia przeszkód.

But when David Ha set up this experiment,

Ale kiedy David Ha stworzył ten eksperyment,

he had to set it up with very, very strict limits

musiał postawić bardzo surowe ograniczenia

on how big the AI was allowed to make the legs,

dotyczące wielkości nóg

because otherwise ...

w przeciwnym razie...

(Laughter)

(Śmiech)

And technically, it got to the end of that obstacle course.

Technicznie rzecz biorąc, doszła do końca trasy.

So you see how hard it is to get AI to do something as simple as just walk.

Czyli trudno skłonić AI do zrobienia czegoś tak prostego jak chodzenie.

So seeing the AI do this, you may say, OK, no fair,

Obserwując, jak robi to AI, można powiedzieć: "Nie fair,

you can't just be a tall tower and fall over,

nie możesz być wysoką wieżą i po prostu upaść,

you have to actually, like, use legs to walk.

musisz użyć nóg do chodzenia".

And it turns out, that doesn't always work, either.

Niestety to też nie zawsze działa.

This AI's job was to move fast.

Zadaniem sztucznej inteligencji było szybkie poruszanie się.

They didn't tell it that it had to run facing forward

Nie powiedziano, że musi biec do przodu,

or that it couldn't use its arms.

ani że nie może używać ramion.

So this is what you get when you train AI to move fast,

Tak to wygląda, gdy uczymy AI szybko się ruszać:

you get things like somersaulting and silly walks.

przewroty i dziwny chód.

It's really common.

To bardzo powszechne.

So is twitching along the floor in a heap.

Może to też wyglądać jak drgawki sterty na podłodze.

(Laughter)

(Śmiech)

So in my opinion, you know what should have been a whole lot weirder

Dla mnie dużo dziwniejsze są

is the "Terminator" robots.

roboty z "Terminatora".

Hacking "The Matrix" is another thing that AI will do if you give it a chance.

AI chętnie też włamie się do matrycy.

So if you train an AI in a simulation,

Jeśli więc wyszkolić AI w symulacji,

it will learn how to do things like hack into the simulation's math errors

nauczy się włamywać przez błędy w obliczeniach

and harvest them for energy.

i czerpać z nich energię.

Or it will figure out how to move faster by glitching repeatedly into the floor.

Wymyśli szybki ruch przez drgawki na podłodze.

When you're working with AI,

Praca ze sztuczną inteligencją

it's less like working with another human

nie przypomina pracy z człowiekiem,

and a lot more like working with some kind of weird force of nature.

lecz z jakąś dziwną siłą natury.

And it's really easy to accidentally give AI the wrong problem to solve,

Bardzo łatwo dać jej przypadkiem niewłaściwy problem do rozwiązania.

and often we don't realize that until something has actually gone wrong.

Często nie zdajemy sobie z tego sprawy, dopóki coś nie pójdzie nie tak.

Zrobiłam eksperyment,

So here's an experiment I did,

where I wanted the AI to copy paint colors,

w którym kazałam AI kopiować farby,

to invent new paint colors,

żeby stworzyć nowe kolory

given the list like the ones here on the left.

mając do wyboru listę jak ta po lewej.

And here's what the AI actually came up with.

Oto na co wpadła sztuczna inteligencja.

[Sindis Poop, Turdly, Suffer, Gray Pubic]

[Kupa Syndów, Balaskowy, Cierpieć, Szary łonowy]

(Laughter)

(Śmiech)

Technicznie rzecz biorąc,

So technically,

it did what I asked it to.

wypełniła polecenie.

I thought I was asking it for, like, nice paint color names,

Myślałam, że proszę o miłe nazwy kolorów,

but what I was actually asking it to do

ale tak naprawdę prosiłam

was just imitate the kinds of letter combinations

o imitowanie kombinacji liter

that it had seen in the original.

z oryginalnych nazw.

And I didn't tell it anything about what words mean,

Nie wyjaśniałam, co one znaczą,

or that there are maybe some words

ani że są słowa, których być może

that it should avoid using in these paint colors.

nie powinna używać do farb.

So its entire world is the data that I gave it.

Całym jej światem były moje dane.

Like with the ice cream flavors, it doesn't know about anything else.

Podobnie jak w przypadku smaków lodów, AI nie ma dodatkowej wiedzy.

So it is through the data

To przez nieodpowiednie dane często każemy AI

that we often accidentally tell AI to do the wrong thing.

robić nie to, co trzeba.

This is a fish called a tench.

To ryba zwana linem.

And there was a group of researchers

Pewna grupa badaczy

who trained an AI to identify this tench in pictures.

wytrenowała AI w rozpoznawaniu lina na ilustracjach.

But then when they asked it

Ale gdy zapytali ją,

what part of the picture it was actually using to identify the fish,

jakiej części obrazu używa do identyfikacji ryby,

here's what it highlighted.

oto co pokazała.

Yes, those are human fingers.

Tak, to są ludzkie palce.

Why would it be looking for human fingers

Dlaczego szuka palców

if it's trying to identify a fish?

podczas identyfikowania ryby?

Well, it turns out that the tench is a trophy fish,

Okazuje się, że lin jest rybą, którą warto się chwalić,

and so in a lot of pictures that the AI had seen of this fish

więc na wielu zdjęciach,

które AI widziała podczas treningu,

during training,

the fish looked like this.

ryba wyglądała tak.

(Laughter)

(Śmiech)

And it didn't know that the fingers aren't part of the fish.

AI nie wiedziała, że palce nie są częścią ryby.

So you see why it is so hard to design an AI

Widzicie więc, dlaczego tak trudno zaprojektować AI,

that actually can understand what it's looking at.

która rozumie, na co patrzy.

And this is why designing the image recognition

Dlatego też projektowanie rozpoznawania obrazów

in self-driving cars is so hard,

w samosterujących samochodach jest takie trudne

and why so many self-driving car failures

i dlatego tyle niepowodzeń samosterujących samochodów

are because the AI got confused.

było wynikiem dezorientacji SI.

I want to talk about an example from 2016.

Chciałabym wspomnieć o przykładzie z 2016 roku.

There was a fatal accident when somebody was using Tesla's autopilot AI,

Zdarzył się wtedy śmiertelny wypadek podczas używania autopilota AI Tesli,

but instead of using it on the highway like it was designed for,

ale zamiast używania go na autostradzie, do czego został zaprojektowany,

they used it on city streets.

użyto go w mieście.

And what happened was,

Ciężarówka wjechała przed samochód,

a truck drove out in front of the car and the car failed to brake.

który nie zahamował.

Now, the AI definitely was trained to recognize trucks in pictures.

AI na pewno uczono rozpoznawać ciężarówki na zdjęciach.

But what it looks like happened is

Ale wygląda na to,

the AI was trained to recognize trucks on highway driving,

że uczyła się rozpoznawać ciężarówki na autostradach,

where you would expect to see trucks from behind.

gdzie zazwyczaj widzi się je od tyłu.

Trucks on the side is not supposed to happen on a highway,

Raczej nie widzi się ciężarówki z boku.

and so when the AI saw this truck,

Widząc ciężarówkę,

pewnie wzięła ją za znak drogowy,

it looks like the AI recognized it as most likely to be a road sign

pod którym można bezpiecznie przejechać.

and therefore, safe to drive underneath.

Oto inny przykład pomyłki sztucznej inteligencji.

Here's an AI misstep from a different field.

Amazon recently had to give up on a résumé-sorting algorithm

Amazon musiał niedawno porzucić algorytm sortujący CV,

that they were working on

nad którymi pracowali,

when they discovered that the algorithm had learned to discriminate against women.

gdy odkryli, że algorytm nauczył się dyskryminować kobiety.

What happened is they had trained it on example résumés

Szkolono go na przykładach CV

of people who they had hired in the past.

osób zatrudnionych w przeszłości.

And from these examples, the AI learned to avoid the résumés of people

Na tej podstawie AI nauczyła się unikać CV osób,

who had gone to women's colleges

które chodziły do żeńskich szkół

or who had the word "women" somewhere in their resume,

lub miały słowo "kobiecy" w CV,

as in, "women's soccer team" or "Society of Women Engineers."

jak "kobieca drużyna futbolu" lub "stowarzyszenie kobiet-inżynierów".

The AI didn't know that it wasn't supposed to copy this particular thing

Sztuczna inteligencja nie wiedziała, że nie należy powielać tych zachowań,

that it had seen the humans do.

które widziała wśród ludzi.

And technically, it did what they asked it to do.

Technicznie zrobiła to, co jej kazano,

They just accidentally asked it to do the wrong thing.

ale przypadkowo poproszono ją o coś niewłaściwego.

And this happens all the time with AI.

Wciąż to obserwujemy u AI.

AI can be really destructive and not know it.

AI może być bezwiednie bardzo szkodliwa.

So the AIs that recommend new content in Facebook, in YouTube,

AI, która rekomenduje nowy materiał na FB czy YouTubie,

they're optimized to increase the number of clicks and views.

jest zoptymalizowana, by zwiększać liczbę kliknięć i odsłon.

And unfortunately, one way that they have found of doing this

Niestety jednym ze sposobów, którego się nauczyła,

is to recommend the content of conspiracy theories or bigotry.

jest rekomendowanie treści konspiracyjnych lub bigoterii.

The AIs themselves don't have any concept of what this content actually is,

AI nie rozumie samej treści

and they don't have any concept of what the consequences might be

i nie ma świadomości, jakie mogą być konsekwencje

of recommending this content.

polecania tych treści.

So, when we're working with AI,

Dlatego przy pracy ze sztuczną inteligencją

it's up to us to avoid problems.

unikanie problemów zależy od nas.

And avoiding things going wrong,

I unikania potknięć, które mogą wynikać

that may come down to the age-old problem of communication,

z odwiecznego problemu w komunikacji,

where we as humans have to learn how to communicate with AI.

gdzie my, ludzie, musimy nauczyć się porozumiewać ze sztuczną inteligencją.

We have to learn what AI is capable of doing and what it's not,

Musimy się nauczyć, co umie, a czego nie,

and to understand that, with its tiny little worm brain,

i zrozumieć, że ze swoim małym mózgiem robaka

AI doesn't really understand what we're trying to ask it to do.

AI tak naprawdę nie rozumie, czego od niej chcemy.

So in other words, we have to be prepared to work with AI

Inaczej mówiąc, trzeba się przygotować do pracy ze sztuczną inteligencją,

that's not the super-competent, all-knowing AI of science fiction.

która nie jest super kompetentna i wszechwiedząca jak na filmach.

We have to be prepared to work with an AI

Trzeba się przygotować do pracy

that's the one that we actually have in the present day.

ze sztuczną inteligencją, jaką mamy teraz.

And present-day AI is plenty weird enough.

A obecna jest wystarczająco dziwna.

Thank you.

Dziękuję.

(Applause)

(Brawa)