Don't fear superintelligent AI | Grady Booch

Tłumaczenie: Mieszko Renusch Korekta: Barbara Guzik

When I was a kid, I was the quintessential nerd.

Jako dziecko byłem typowym nerdem.

I think some of you were, too.

Niektórzy z was pewnie też.

(Laughter)

(Śmiech)

And you, sir, who laughed the loudest, you probably still are.

Pan, który zaśmiał się najgłośniej, pewnie nadal nim jest.

(Laughter)

(Śmiech)

I grew up in a small town in the dusty plains of north Texas,

Dorastałem w małym miasteczku w zakurzonym północnym Teksasie.

the son of a sheriff who was the son of a pastor.

Syn szeryfa, który był synem pastora.

Getting into trouble was not an option.

Nie mogłem sprawiać kłopotów.

And so I started reading calculus books for fun.

Dla zabawy zacząłem czytać podręczniki do matematyki.

(Laughter)

(Śmiech)

You did, too.

Pan też.

That led me to building a laser and a computer and model rockets,

Dzięki temu zbudowałem laser, komputer, modele rakiet

and that led me to making rocket fuel in my bedroom.

i stworzyłem paliwo rakietowe domowej roboty.

Now, in scientific terms,

Mówiąc naukowo,

we call this a very bad idea.

to był bardzo zły pomysł.

(Laughter)

(Śmiech)

Around that same time,

Mniej więcej w tym samym czasie

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

weszła do kin "2001: Odyseja Kosmiczna" Stanleya Kubricka,

and my life was forever changed.

która zmieniła moje życie.

I loved everything about that movie,

Wszystko mi się w tym filmie podobało,

especially the HAL 9000.

a szczególnie HAL 9000.

Now, HAL was a sentient computer

HAL to inteligentny komputer.

designed to guide the Discovery spacecraft

Zaprojektowany, żeby kierować statkiem Discovery

from the Earth to Jupiter.

w misji z Ziemi na Jowisza.

HAL was also a flawed character,

Ale HAL nie był bez skazy,

for in the end he chose to value the mission over human life.

bo postawił powodzenie misji ponad ludzkie życie.

Now, HAL was a fictional character,

HAL był postacią fikcyjną,

but nonetheless he speaks to our fears,

ale odzwierciedla nasze obawy,

our fears of being subjugated

strach przed zniewoleniem

by some unfeeling, artificial intelligence

przez bezduszną sztuczną inteligencję,

who is indifferent to our humanity.

obojętną na nasze człowieczeństwo.

I believe that such fears are unfounded.

Uważam, że taki strach jest bezzasadny.

Indeed, we stand at a remarkable time

Żyjemy w niezwykłym okresie

in human history,

w historii ludzkości,

where, driven by refusal to accept the limits of our bodies and our minds,

w którym, chcąc przezwyciężyć ograniczenia ciała i umysłu,

we are building machines

budujemy maszyny

of exquisite, beautiful complexity and grace

zachwycająco skomplikowane,

that will extend the human experience

pozwalające rozszerzyć ludzkie doznania

in ways beyond our imagining.

w niewyobrażalny sposób.

After a career that led me from the Air Force Academy

Pracowałem w Akademii Lotniczej.

to Space Command to now,

Teraz jestem w Dowództwie Kosmicznym.

I became a systems engineer,

Pracuję jako inżynier systemów.

and recently I was drawn into an engineering problem

Obecnie zajmuję się problemem

associated with NASA's mission to Mars.

związanym z misją NASA na Marsa.

Now, in space flights to the Moon,

Podczas lotów na Księżyc

we can rely upon mission control in Houston

można polegać na kontroli w Houston,

to watch over all aspects of a flight.

skąd nadzoruje się wszystkie aspekty lotu.

However, Mars is 200 times further away,

Mars jest 200 razy dalej,

and as a result it takes on average 13 minutes

dlatego potrzeba 13 minut,

for a signal to travel from the Earth to Mars.

żeby sygnał z Ziemi dotarł do Marsa.

If there's trouble, there's not enough time.

W razie problemów brakuje czasu.

And so a reasonable engineering solution

Rozsądnym rozwiązaniem byłoby

calls for us to put mission control

umieszczenie centrum dowodzenia

inside the walls of the Orion spacecraft.

wewnątrz statku Orion.

Another fascinating idea in the mission profile

Inny fascynujący pomysł

places humanoid robots on the surface of Mars

to umieszczenie humanoidalnych robotów na powierzchni Marsa,

before the humans themselves arrive,

zanim dotrą tam ludzie,

first to build facilities

żeby przygotowały zaplecze,

and later to serve as collaborative members of the science team.

a później współtworzyły zespół naukowców.

Now, as I looked at this from an engineering perspective,

Podchodząc do tego z perspektywy inżyniera,

it became very clear to me that what I needed to architect

oczywiste było, że muszę zaprojektować

was a smart, collaborative,

sprytną, współpracującą,

socially intelligent artificial intelligence.

przystosowaną społecznie sztuczną inteligencję.

In other words, I needed to build something very much like a HAL

Innymi słowy, potrzeba czegoś jak HAL,

but without the homicidal tendencies.

ale bez morderczych skłonności.

(Laughter)

(Śmiech)

Let's pause for a moment.

Zatrzymajmy się na moment.

Is it really possible to build an artificial intelligence like that?

Czy rzeczywiście można zbudować taką sztuczną inteligencję?

Actually, it is.

W zasadzie tak.

In many ways,

Pod wieloma względami

this is a hard engineering problem

to trudny problem konstruktorski

with elements of AI,

z elementami AI,

not some wet hair ball of an AI problem that needs to be engineered.

a nie problem AI dla konstruktorów.

To paraphrase Alan Turing,

Parafrazując Alana Turinga,

I'm not interested in building a sentient machine.

nie interesuje mnie budowa inteligentnej maszyny,

I'm not building a HAL.

nie buduję HALa.

All I'm after is a simple brain,

Potrzebuję prostego mózgu,

something that offers the illusion of intelligence.

takiego, który daje iluzję inteligencji.

The art and the science of computing have come a long way

Informatyka przebyła długą drogę,

since HAL was onscreen,

od kiedy HAL był na ekranach.

and I'd imagine if his inventor Dr. Chandra were here today,

Gdyby dr Chandra, konstruktor HALa, był z nami,

he'd have a whole lot of questions for us.

pewnie miałby wiele pytań.

Is it really possible for us

Czy rzeczywiście jest możliwe

to take a system of millions upon millions of devices,

użycie milionów urządzeń,

to read in their data streams,

żeby odczytały strumienie danych,

to predict their failures and act in advance?

przewidziały usterki i im zapobiegły?

Yes.

Tak.

Can we build systems that converse with humans in natural language?

Czy można stworzyć systemy komunikujące się z ludźmi ich językiem?

Yes.

Tak.

Can we build systems that recognize objects, identify emotions,

Czy można stworzyć systemy rozpoznające obiekty i emocje,

emote themselves, play games and even read lips?

okazujące emocje, grające w gry, a nawet czytające z ruchu warg?

Yes.

Tak.

Can we build a system that sets goals,

A system określający cele,

that carries out plans against those goals and learns along the way?

wdrażający plany, żeby je osiągnąć, i jednocześnie uczący się?

Yes.

Tak.

Can we build systems that have a theory of mind?

A systemy świadome umysłu?

This we are learning to do.

Pracujemy nad tym.

Can we build systems that have an ethical and moral foundation?

Czy potrafimy zbudować systemy respektujące etyczne i moralne wartości?

This we must learn how to do.

Musimy się tego nauczyć.

So let's accept for a moment

Przyjmijmy na razie,

that it's possible to build such an artificial intelligence

że można zbudować taką sztuczną inteligencję

for this kind of mission and others.

dla tej i innych misji.

The next question you must ask yourself is,

Kolejna kwestia to,

should we fear it?

czy powinniśmy się jej bać.

Now, every new technology

Każda nowa technologia

brings with it some measure of trepidation.

budzi pewne obawy.

When we first saw cars,

Pierwsze samochody

people lamented that we would see the destruction of the family.

miały być zagrożeniem dla rodziny.

When we first saw telephones come in,

Pierwsze telefony

people were worried it would destroy all civil conversation.

miały stanowić kres uprzejmej rozmowy.

At a point in time we saw the written word become pervasive,

Przez popularność słowa pisanego

people thought we would lose our ability to memorize.

mieliśmy utracić zdolność zapamiętywania.

These things are all true to a degree,

To wszystko w pewnym stopniu prawda,

but it's also the case that these technologies

ale prawdą jest też, że te technologie

brought to us things that extended the human experience

rozszerzyły ludzkie doznania

in some profound ways.

w znaczny sposób.

So let's take this a little further.

Pójdźmy dalej.

I do not fear the creation of an AI like this,

Nie obawiam się takiej sztucznej inteligencji,

because it will eventually embody some of our values.

bo w końcu uosobi ona niektóre nasze wartości.

Consider this: building a cognitive system is fundamentally different

Budowa systemu poznawczego to inna para kaloszy

than building a traditional software-intensive system of the past.

niż tworzenie zwykłych systemów silnie opartych na oprogramowaniu.

We don't program them. We teach them.

Nie programujemy ich, tylko uczymy.

In order to teach a system how to recognize flowers,

Żeby nauczyć system rozpoznawać kwiaty,

I show it thousands of flowers of the kinds I like.

pokazuję mu tysiące kwiatów, które lubię.

In order to teach a system how to play a game --

Żeby nauczyć go grać w grę...

Well, I would. You would, too.

Nauczyłbym go. Wy zresztą też.

I like flowers. Come on.

Lubię kwiaty.

To teach a system how to play a game like Go,

Żeby nauczyć system grać w grę taką jak Go,

I'd have it play thousands of games of Go,

musi rozegrać tysiące partii,

but in the process I also teach it

a ja przy okazji uczę go,

how to discern a good game from a bad game.

jak odróżniać dobrą grę od złej.

If I want to create an artificially intelligent legal assistant,

Chcąc stworzyć sztucznego asystenta prawnego,

I will teach it some corpus of law

uczę go prawa,

but at the same time I am fusing with it

ale zarazem zaszczepiam w nim

the sense of mercy and justice that is part of that law.

poczucie łaski i sprawiedliwości, które są częścią prawa.

In scientific terms, this is what we call ground truth,

Naukowo nazywamy to wiedzą bazową,

and here's the important point:

i tu ważna kwestia.

in producing these machines,

Produkując te maszyny,

we are therefore teaching them a sense of our values.

uczymy ich poczucia naszych wartości.

To that end, I trust an artificial intelligence

Ufam sztucznej inteligencji tak samo, jeśli nie bardziej,

the same, if not more, as a human who is well-trained.

jak dobrze przeszkolonemu człowiekowi.

But, you may ask,

Ale możecie zapytać,

what about rogue agents,

co w przypadku wrogich agentów,

some well-funded nongovernment organization?

bogatej organizacji pozarządowej?

I do not fear an artificial intelligence in the hand of a lone wolf.

Nie boję się sztucznej inteligencji w rękach samotnego wilka.

Clearly, we cannot protect ourselves against all random acts of violence,

Oczywiście nie można ochronić się przed wszystkimi aktami przemocy,

but the reality is such a system

ale taki system

requires substantial training and subtle training

wymaga solidnego i misternego treningu

far beyond the resources of an individual.

wykraczającego poza możliwości jednostki.

And furthermore,

Poza tym

it's far more than just injecting an internet virus to the world,

to trudniejsze niż wpuszczenie wirusa do Internetu,

where you push a button, all of a sudden it's in a million places

gdzie wystarczy wcisnąć guzik i nagle w różnych częściach świata

and laptops start blowing up all over the place.

wybuchają laptopy.

Now, these kinds of substances are much larger,

Te substancje są większe

and we'll certainly see them coming.

i na pewno nie umkną uwadze.

Do I fear that such an artificial intelligence

Czy obawiam się, że taka sztuczna inteligencja

might threaten all of humanity?

może zagrozić całej ludzkości?

If you look at movies such as "The Matrix," "Metropolis,"

Filmy jak "Matrix", "Metropolis",

"The Terminator," shows such as "Westworld,"

"Terminator", seriale jak "Westworld",

they all speak of this kind of fear.

wszystkie traktują o tym strachu.

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

W książce "Superinteligencja" filozof Nick Bostrom

he picks up on this theme

podejmuje ten temat

and observes that a superintelligence might not only be dangerous,

i zauważa, że superinteligencja nie tylko może być niebezpieczna,

it could represent an existential threat to all of humanity.

ale może stanowić egzystencjalne zagrożenie dla całej ludzkości.

Dr. Bostrom's basic argument

Dr Bostrom twierdzi, że takie systemy

is that such systems will eventually

będą miały tak bardzo niezaspokojony głód informacji,

have such an insatiable thirst for information

that they will perhaps learn how to learn

że nauczą się, jak się uczyć,

and eventually discover that they may have goals

a w efekcie odkryją, że ich cele

that are contrary to human needs.

mogą być sprzeczne z potrzebami ludzi.

Dr. Bostrom has a number of followers.

Dr Bostrom ma szereg zwolenników.

He is supported by people such as Elon Musk and Stephen Hawking.

Popierają go ludzie jak Elon Musk i Stephen Hawking.

With all due respect

Z całym szacunkiem

to these brilliant minds,

dla tych wybitnych umysłów,

I believe that they are fundamentally wrong.

uważam, że się mylą.

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

Argumentacja dra Bostroma składa się z wielu elementów,

and I don't have time to unpack them all,

nie mam czasu przybliżyć ich wszystkich,

but very briefly, consider this:

ale, w skrócie, rozważcie następującą rzecz.

super knowing is very different than super doing.

Superwiedza bardzo różni się od superdziałania.

HAL was a threat to the Discovery crew

HAL zagrażał załodze Discovery,

only insofar as HAL commanded all aspects of the Discovery.

bo kontrolował cały statek.

So it would have to be with a superintelligence.

Musiałby posiadać superinteligencję.

It would have to have dominion over all of our world.

Musiałby panować nad całym światem.

This is the stuff of Skynet from the movie "The Terminator"

Coś jak Skynet z filmu "Terminator",

in which we had a superintelligence

w którym mieliśmy superinteligencję

that commanded human will,

kontrolującą ludzką wolę

that directed every device that was in every corner of the world.

i zarządzającą urządzeniami w różnych zakątkach świata.

Practically speaking,

Praktycznie rzecz biorąc,

it ain't gonna happen.

nie ma na to szans.

We are not building AIs that control the weather,

Nie budujemy AI kontrolującej pogodę,

that direct the tides,

sterującej prądami,

that command us capricious, chaotic humans.

albo nami - kapryśnymi, chaotycznymi ludźmi.

And furthermore, if such an artificial intelligence existed,

Nawet jakby taka sztuczna inteligencja istniała,

it would have to compete with human economies,

musiałaby konkurować z ludzkimi gospodarkami,

and thereby compete for resources with us.

a więc rywalizować z nami o zasoby.

And in the end --

Koniec końców,

don't tell Siri this --

nie mówcie tego Siri,

we can always unplug them.

zawsze można je wyłączyć.

(Laughter)

(Śmiech)

We are on an incredible journey

Uczestniczymy w niesamowitej wędrówce,

of coevolution with our machines.

koewoluując wspólnie z maszynami.

The humans we are today

Współcześni ludzie

are not the humans we will be then.

to nie ludzie, którymi będziemy kiedyś.

To worry now about the rise of a superintelligence

Martwienie się rozwojem superinteligencji

is in many ways a dangerous distraction

niebezpiecznie odwraca uwagę,

because the rise of computing itself

bo sam rozwój komputerów

brings to us a number of human and societal issues

powoduje szereg ludzkich i społecznych problemów,

to which we must now attend.

które trzeba rozwiązać.

How shall I best organize society

Jak zorganizować społeczeństwo,

when the need for human labor diminishes?

kiedy zanika popyt na siłę roboczą?

How can I bring understanding and education throughout the globe

Jak nieść kaganek oświaty przez świat

and still respect our differences?

i szanować różnice?

How might I extend and enhance human life through cognitive healthcare?

Jak wydłużyć i poprawić życie za sprawą kognitywnej opieki medycznej?

How might I use computing

Jak użyć informatyki,

to help take us to the stars?

żeby dosięgnąć gwiazd?

And that's the exciting thing.

To właśnie jest fascynujące.

The opportunities to use computing

Możliwości, jakie daje komputer,

to advance the human experience

żeby polepszyć ludzkie doznania,

are within our reach,

są w naszym zasięgu,

here and now,

tu i teraz,

and we are just beginning.

a to dopiero początek.

Thank you very much.

Dziękuję bardzo.

(Applause)

(Brawa)