How to get empowered, not overpowered, by AI | Max Tegmark

Fordító: Zsuzsa Viola Lektor: Reka Lorinczy

After 13.8 billion years of cosmic history,

13,8 milliárd év kozmikus történelmét követően

our universe has woken up

univerzumunk életre kelt,

and become aware of itself.

tudatára ébredt létezésének.

From a small blue planet,

Egy kis kék bolygóról

tiny, conscious parts of our universe have begun gazing out into the cosmos

világegyetemünk kicsiny, tudatos összetevői kezdték bámulni a kozmoszt

with telescopes,

teleszkópjaikkal,

discovering something humbling.

és felfedeztek valami lehangolót:

We've discovered that our universe is vastly grander

Rájöttek, hogy univerzumunk mérhetetlenül nagyobb

than our ancestors imagined

az őseink által képzeltnél.

and that life seems to be an almost imperceptibly small perturbation

Az élet észrevehetetlen rendbontásnak tűnik

on an otherwise dead universe.

az egyébként halott világmindenségben.

But we've also discovered something inspiring,

Felfedeztünk azonban valami biztatót is,

which is that the technology we're developing has the potential

hogy fejlődő technológiánk segítségével

to help life flourish like never before,

az élet úgy fejlődhet, mint soha azelőtt,

not just for centuries but for billions of years,

évszázadok helyett évmilliárdokig

and not just on earth but throughout much of this amazing cosmos.

a Földön túl a csodás kozmoszban is.

I think of the earliest life as "Life 1.0"

A kezdeti életre "Lét 1.0"-ként gondolok,

because it was really dumb,

mivel igen ostoba volt,

like bacteria, unable to learn anything during its lifetime.

a baktériumokhoz hasonló, tanulásra képtelen.

I think of us humans as "Life 2.0" because we can learn,

Az emberiségre "Lét 2.0"-ként gondolok, mivel mi képesek vagyunk tanulni.

which we in nerdy, geek speak,

Kockaként ezt úgy értelmezhetjük,

might think of as installing new software into our brains,

mintha agyunkba új szoftvereket telepítenének:

like languages and job skills.

nyelveket és szaktudást.

"Life 3.0," which can design not only its software but also its hardware

"Lét 3.0", amely saját szoftverén túl hardverét is meg tudja tervezni

of course doesn't exist yet.

természetesen nem létezik még.

But perhaps our technology has already made us "Life 2.1,"

Eszközeinkkel talán a "Lét 2.1" vagyunk,

with our artificial knees, pacemakers and cochlear implants.

térdprotézisekkel, szívritmus- szabályzókkal, cochleáris implantátummal.

So let's take a closer look at our relationship with technology, OK?

Nézzük meg alaposabban kapcsolatunkat a technológiával!

As an example,

Például

the Apollo 11 moon mission was both successful and inspiring,

az Apolló-11 holdra szállása sikeres és biztató volt.

showing that when we humans use technology wisely,

Megmutatta, hogy a technológiát bölcsen használva

we can accomplish things that our ancestors could only dream of.

olyan dolgokat vihetünk véghez, amelyről őseink csak álmodozhattak.

But there's an even more inspiring journey

De van egy még lelkesítőbb utazás,

propelled by something more powerful than rocket engines,

a rakétánál erősebb meghajtással,

where the passengers aren't just three astronauts

ahol nem csak három űrhajós utazik,

but all of humanity.

hanem az egész emberiség.

Let's talk about our collective journey into the future

Beszéljünk közös utazásunkról a jövőbe

with artificial intelligence.

a mesterséges intelligenciával, az MI-vel!

My friend Jaan Tallinn likes to point out that just as with rocketry,

Barátom, Jaan Tallinn szeret rámutatni, hogy éppúgy, mint a rakétatechnikánál,

it's not enough to make our technology powerful.

nem elég az erős technológia.

We also have to figure out, if we're going to be really ambitious,

Ha eltökéltek vagyunk, azt is ki kell dolgozzuk,

how to steer it

hogyan irányítsuk,

and where we want to go with it.

és mire használjuk.

So let's talk about all three for artificial intelligence:

Beszéljünk az MI-vel kapcsolatosan e három tényezőről:

the power, the steering and the destination.

az erőről, az irányításról és a célról.

Let's start with the power.

Kezdjük az erővel.

I define intelligence very inclusively --

Intelligencián egyszerűen

simply as our ability to accomplish complex goals,

komplex céljaink megvalósítási képességét értem,

because I want to include both biological and artificial intelligence.

belevéve a biológiai és a mesterséges intelligenciát is.

And I want to avoid the silly carbon-chauvinism idea

Hagyjuk a buta szénsoviniszta elméletet,

that you can only be smart if you're made of meat.

hogy csak az lehet okos, ami élő.

It's really amazing how the power of AI has grown recently.

Igazán meglepő, ahogy az MI ereje növekedett mostanában!

Just think about it.

Gondoljuk csak meg.

Not long ago, robots couldn't walk.

Nemrég a robotok járni sem tudtak,

Now, they can do backflips.

most hátraszaltót csinálnak.

Not long ago,

Nemrég

we didn't have self-driving cars.

még nem volt önvezető autónk,

Now, we have self-flying rockets.

ma automata rakétáink vannak.

Not long ago,

Nemrég

AI couldn't do face recognition.

az MI nem volt képes arcfelismerésre,

Now, AI can generate fake faces

ma képes hamis arcokat előállítani,

and simulate your face saying stuff that you never said.

arcunkat szimulálva olyasmiket mondani, amit sohasem mondanánk.

Not long ago,

Nemrég

AI couldn't beat us at the game of Go.

az MI nem győzött le minket góban,

Then, Google DeepMind's AlphaZero AI took 3,000 years of human Go games

aztán a Google DeepMind AlphaZero MI megtanulta 3000 év emberi gojátszmáit

and Go wisdom,

és go-bölcsességét,

ignored it all and became the world's best player by just playing against itself.

majd figyelmen kívül hagyva őket, csak önmagával játszva vált világelsővé.

And the most impressive feat here wasn't that it crushed human gamers,

De a leglenyűgözőbb nem az emberi játékosok legyőzése volt,

but that it crushed human AI researchers

hanem az MI-kutatóké,

who had spent decades handcrafting game-playing software.

akik évtizedeket töltöttek a játék szoftverének fejlesztésével.

And AlphaZero crushed human AI researchers not just in Go but even at chess,

Az AlphaZero nem csak góban győzte le az MI-kutatókat, hanem sakkban is,

which we have been working on since 1950.

amin már 1950 óta dolgozunk.

So all this amazing recent progress in AI really begs the question:

Az MI e szédítő fejlődése felveti a kérdést:

How far will it go?

mit várhatunk még?

I like to think about this question

Szeretek erről gondolkodni

in terms of this abstract landscape of tasks,

a feladatok ezen elméleti tájképe alapján.

where the elevation represents how hard it is for AI to do each task

A magasság jelzi, milyen nehéz az MI-nek

a feladat teljesítése emberi szinten.

at human level,

and the sea level represents what AI can do today.

A tengerszint az, ahol ma az MI tart.

The sea level is rising as AI improves,

A tengerszint nő az MI fejlődésével,

so there's a kind of global warming going on here in the task landscape.

globális felmelegedés zajlik a feladattérképen,

And the obvious takeaway is to avoid careers at the waterfront --

a nyilvánvaló következtetés, hogy kerüljék a vízparti foglakozásokat,

(Laughter)

(Nevetés)

which will soon be automated and disrupted.

melyeket hamarosan elér az automatizálás.

But there's a much bigger question as well.

Van egy sokkal nagyobb kérdés is:

How high will the water end up rising?

Meddig emelkedik a víz?

Will it eventually rise to flood everything,

Elönt végül mindent,

matching human intelligence at all tasks.

emberi szinten végezve minden feladatot?

This is the definition of artificial general intelligence --

Ez a definíciója az általános mesterséges intelligenciának,

AGI,

az ÁMI-nak,

which has been the holy grail of AI research since its inception.

amely az MI-kutatók Szent Grálja a kezdetek óta.

By this definition, people who say,

Eszerint akik így beszélnek:

"Ah, there will always be jobs that humans can do better than machines,"

"Mindig lesznek foglalkozások, amelyekben az emberek jobbak a gépeknél!",

are simply saying that we'll never get AGI.

azt mondják, az ÁMI sosem jön létre.

Sure, we might still choose to have some human jobs

Lesz majd pár emberi foglalkozás,

or to give humans income and purpose with our jobs,

vagy adhatunk jövedelmet és célt az embereknek foglalkozásaikkal,

but AGI will in any case transform life as we know it

de az ÁMI mindenképp átalakítja az általunk ismert életet,

with humans no longer being the most intelligent.

mikor nem mi leszünk a legintelligensebbek.

Now, if the water level does reach AGI,

Ha a vízszint eléri az ÁMI-t,

then further AI progress will be driven mainly not by humans but by AI,

a további MI fejlődést főleg maga az MI fogja irányítani,

which means that there's a possibility

ami azt jelenti, hogy lehetséges

that further AI progress could be way faster

a további MI jelentősen gyorsabb fejlődése

than the typical human research and development timescale of years,

mint az emberi kutatás és a fejlődés években mérhető időtartama,

raising the controversial possibility of an intelligence explosion

felvetve az intelligencia kirobbanó fejlődésének vitatott lehetőségét,

where recursively self-improving AI

amikor az önmagát ismétlődően fejlesztő MI

rapidly leaves human intelligence far behind,

gyorsan messze maga mögött hagyja az emberi intelligenciát,

creating what's known as superintelligence.

és létrehozza a szuperintelligenciát.

Alright, reality check:

Mi a valóság?

Are we going to get AGI any time soon?

Elérjük az ÁMI-t hamarosan?

Some famous AI researchers, like Rodney Brooks,

Néhány híres MI-kutató, pl. Rodney Brooks szerint,

think it won't happen for hundreds of years.

ez nem következik be még pár száz évig.

But others, like Google DeepMind founder Demis Hassabis,

De mások – mint a Google DeepMind alapítója Demis Hassabis –

are more optimistic

optimistábbak.

and are working to try to make it happen much sooner.

A gyors megvalósuláson dolgoznak.

And recent surveys have shown that most AI researchers

Felmérések szerint a legtöbb MI kutató

actually share Demis's optimism,

osztja Demis optimizmusát,

expecting that we will get AGI within decades,

szerintük évtizedeken belül eljön az ÁMI.

so within the lifetime of many of us,

Sokan megéljük ezt,

which begs the question -- and then what?

ami felveti a kérdést, mi lesz utána?

What do we want the role of humans to be

Mi legyen az emberek szerepe,

if machines can do everything better and cheaper than us?

ha a gépek mindent jobban és olcsóbban végeznek el?

The way I see it, we face a choice.

Úgy látom, választás előtt állunk.

One option is to be complacent.

Az egyik az önteltség.

We can say, "Oh, let's just build machines that can do everything we can do

Azt mondjuk: "Építsünk csak gépeket, amik mindent meg tudnak tenni, amit mi,

and not worry about the consequences.

ne aggódjunk a következmények miatt!

Come on, if we build technology that makes all humans obsolete,

Ha a gépek elavulttá teszik az embereket,

what could possibly go wrong?"

mi baj lehet belőle?"

(Laughter)

(Nevetés)

But I think that would be embarrassingly lame.

Szerintem ez kínosan ostoba dolog volna.

I think we should be more ambitious -- in the spirit of TED.

Nagyra kéne törnünk a TED szellemében.

Let's envision a truly inspiring high-tech future

Képzeljünk el igazán biztató csúcstechnológiás jövőt,

and try to steer towards it.

és próbáljunk arra tartani.

This brings us to the second part of our rocket metaphor: the steering.

Ez rakétahasonlatunk második részéhez vezet: az irányításhoz.

We're making AI more powerful,

Erősebbé tesszük az MI-t,

but how can we steer towards a future

de hogyan irányítsuk olyan jövő felé,

where AI helps humanity flourish rather than flounder?

ahol az MI nem vergődéshez, hanem fejlődéshez segít bennünket?

To help with this,

Ennek előmozdítására

megalapítottuk az Élet Jövője Intézetet.

I cofounded the Future of Life Institute.

It's a small nonprofit promoting beneficial technology use,

Nonprofit, jótékony technológiai alkalmazásokat támogat.

and our goal is simply for the future of life to exist

Célunk csak az élet jövőjének biztosítása,

and to be as inspiring as possible.

és ösztönző, amennyire lehet.

You know, I love technology.

Szeretem a technológiát.

Technology is why today is better than the Stone Age.

A technológia miatt jobb ma, mint a kőkorszakban volt.

And I'm optimistic that we can create a really inspiring high-tech future ...

Optimista vagyok, hogy létrehozhatunk motiváló csúcstechnológiájú jövőt,

if -- and this is a big if --

ha – és ez egy nagy "ha" –

if we win the wisdom race --

megnyerjük a bölcsességversenyt:

the race between the growing power of our technology

technológiánk növekvő erejének

and the growing wisdom with which we manage it.

és az őt irányító bölcsességünk fejlődésének versenyét.

But this is going to require a change of strategy

Ez azonban stratégiaváltoztatást igényel,

because our old strategy has been learning from mistakes.

mert régi stratégiánk a hibákból tanulás.

We invented fire,

Felfedeztük a tüzet –

screwed up a bunch of times --

csomószor elszúrtuk –,

invented the fire extinguisher.

hát feltaláltuk a tűzoltókészüléket.

(Laughter)

(Nevetés)

We invented the car, screwed up a bunch of times --

Feltaláltuk az autót – csomószor elszúrtuk –,

feltaláltuk a közlekedési lámpákat, a biztonsági övet, a légzsákot.

invented the traffic light, the seat belt and the airbag,

but with more powerful technology like nuclear weapons and AGI,

De olyan hatalmas technológiákkal, mint a nukleáris fegyverek és az ÁMI,

learning from mistakes is a lousy strategy,

vacak stratégia a hibákból tanulni,

don't you think?

nem gondolják?

(Laughter)

(Nevetés)

It's much better to be proactive rather than reactive;

Jobb előrelátónak lenni, mint utólag javítgatni;

plan ahead and get things right the first time

tervezni, elsőre jól alkotni meg mindent,

because that might be the only time we'll get.

mert talán ez az egyetlen lehetőségünk.

But it is funny because sometimes people tell me,

Érdekes, hogy néha azt mondják nekem:

"Max, shhh, don't talk like that.

"Max, ne beszélj így,

That's Luddite scaremongering."

ez gépromboló pánikkeltés!"

De ez nem pánikkeltés.

But it's not scaremongering.

It's what we at MIT call safety engineering.

A Massachusettsi Technológiai Intézetnél ezt biztonsági tervezésnek hívjuk.

Think about it:

Gondolják meg:

before NASA launched the Apollo 11 mission,

mielőtt a NASA fellőtte az Apolló-11-et,

they systematically thought through everything that could go wrong

módszeresen átgondoltak minden hibalehetőséget,

when you put people on top of explosive fuel tanks

amikor embereket helyeznek egy robbanóanyag-tartály fölé,

and launch them somewhere where no one could help them.

és kilövik őket oda, ahol senki nem segíthet nekik.

And there was a lot that could go wrong.

És sok hibalehetőség volt.

Was that scaremongering?

Ez pánikkeltés volt?

No.

Nem.

That's was precisely the safety engineering

Ez pontosan a biztonsági tervezés volt,

that ensured the success of the mission,

ami biztosította a küldetés sikerét,

and that is precisely the strategy I think we should take with AGI.

és pontosan az a stratégia, amit követnünk kéne az ÁMI-val.

Think through what can go wrong to make sure it goes right.

Átgondolni az esetleges veszélyeket, és biztosítani, hogy jól működjön.

So in this spirit, we've organized conferences,

Erre gondolva konferenciákat szerveztünk,

bringing together leading AI researchers and other thinkers

összehozva a vezető MI-kutatókat és más gondolkodókat,

to discuss how to grow this wisdom we need to keep AI beneficial.

megvitatni, hogy fejlesszük bölcsen jótékony irányba az MI-t.

Our last conference was in Asilomar, California last year

Utolsó konferenciánk tavaly volt a kaliforniai Asilomarban,

and produced this list of 23 principles

összeállítottuk e 23 alapelvből álló listát,

which have since been signed by over 1,000 AI researchers

amelyet azóta aláírt több mint 1000 MI-kutató

és kulcsfontosságú iparágak vezetői.

and key industry leaders,

and I want to tell you about three of these principles.

Három alapelvet említenék önöknek.

One is that we should avoid an arms race and lethal autonomous weapons.

Egy: ne legyen fegyverkezési verseny és halálos önrendelkezésű fegyverek.

The idea here is that any science can be used for new ways of helping people

Az alapgondolat, hogy bármely új tudomány alkalmazható

az emberek segítésére vagy károsítására egyaránt.

or new ways of harming people.

For example, biology and chemistry are much more likely to be used

Például a biológiát és kémiát sokkal inkább használják

for new medicines or new cures than for new ways of killing people,

új gyógyszerek, kezelések fejlesztésére, mint emberek megölésére,

because biologists and chemists pushed hard --

mert a biológusok és kémikusok

and successfully --

sikeresen léptek fel

for bans on biological and chemical weapons.

a biológiai és vegyi fegyverek betiltásáért.

And in the same spirit,

Ugyanebben a szellemben

most AI researchers want to stigmatize and ban lethal autonomous weapons.

most az MI-kutatók akarják betiltani a halálos önrendelkező fegyvereket.

Another Asilomar AI principle

Egy másik Asilomar MI-alapelv,

is that we should mitigate AI-fueled income inequality.

hogy enyhítenünk kéne az MI-alapú jövedelmi egyenlőtlenséget.

I think that if we can grow the economic pie dramatically with AI

Azt gondolom, ha drasztikusan megnöveljük a gazdasági tortát az MI-vel,

and we still can't figure out how to divide this pie

de nem oldjuk meg az elosztását úgy,

so that everyone is better off,

hogy mindenkinek jobb legyen,

then shame on us.

az szégyen ránk nézve.

(Applause)

(Taps)

Alright, now raise your hand if your computer has ever crashed.

Emeljék fel a kezüket, ha számítógépük valaha is összeomlott!

(Laughter)

(Nevetés)

Wow, that's a lot of hands.

Ez rengeteg kéz!

Well, then you'll appreciate this principle

Akkor értékelniük kell ezt az alapelvet,

that we should invest much more in AI safety research,

hogy többet kéne befektetni az MI biztonságkutatásba,

because as we put AI in charge of even more decisions and infrastructure,

mert egyre több döntés és infrastruktúra irányítását bízzuk rá, így tudnunk kell,

we need to figure out how to transform today's buggy and hackable computers

hogy a mai hibás és feltörhető számítógépeinket hogyan alakítsuk át

into robust AI systems that we can really trust,

igazán megbízható MI-rendszerekbe,

because otherwise,

mivel különben

all this awesome new technology can malfunction and harm us,

e remek technológiák meghibásodhatnak és árthatnak nekünk,

or get hacked and be turned against us.

vagy feltörve őket ellenünk fordíthatók.

And this AI safety work has to include work on AI value alignment,

Az MI-biztonsági munka magába kell foglalja az MI-értékelés kidolgozását,

because the real threat from AGI isn't malice,

mert a valódi ÁMI-veszély nem a rosszindulat,

like in silly Hollywood movies,

mint a buta hollywoodi filmekben,

but competence --

hanem a hozzáértés,

AGI accomplishing goals that just aren't aligned with ours.

amivel az ÁMI a mieinktől eltérő célokat valósít meg.

For example, when we humans drove the West African black rhino extinct,

Pl. amikor mi, emberek a nyugat-afrikai fekete rinocéroszok kihalását okoztuk,

we didn't do it because we were a bunch of evil rhinoceros haters, did we?

nem azért tettük, mert ördögien gyűlöljük a rinocéroszokat, ugye?

We did it because we were smarter than them

Hanem azért, mert okosabbak voltunk náluk,

and our goals weren't aligned with theirs.

és céljaink nem egyeztek az övékkel.

But AGI is by definition smarter than us,

Az ÁMI definíció szerint okosabb nálunk,

so to make sure that we don't put ourselves in the position of those rhinos

ezért, hogy ne kerüljünk a rinocéroszok helyzetébe,

if we create AGI,

amikor létrehozzuk az ÁMI-t,

we need to figure out how to make machines understand our goals,

meg kell értetnünk vele céljainkat,

adopt our goals and retain our goals.

el kell fogadtatni, és megőrizni őket.

And whose goals should these be, anyway?

Igen, de kinek a céljai legyenek ezek?

Which goals should they be?

Milyen célok legyenek?

This brings us to the third part of our rocket metaphor: the destination.

Ez a rakétahasonlatunk harmadik részéhez vezet bennünket: a cél meghatározásához.

We're making AI more powerful,

Egyre erősebbé tesszük az MI-t,

igyekszünk kitalálni, hogyan irányítsuk,

trying to figure out how to steer it,

but where do we want to go with it?

de mit akarunk megvalósítani vele?

This is the elephant in the room that almost nobody talks about --

Ez egy tabutéma, amiről szinte senki sem beszél -

not even here at TED --

még itt a TED-nél sem,

because we're so fixated on short-term AI challenges.

mivel annyira el vagyunk foglalva rövidtávú MI-kihívásokkal.

Look, our species is trying to build AGI,

Fajunk próbálja létrehozni az ÁMI-t

motivated by curiosity and economics,

gazdasági érdekeink és kíváncsiságunk által vezérelve,

but what sort of future society are we hoping for if we succeed?

de miféle jövőbeli társadalmat remélünk felépíteni általa?

We did an opinion poll on this recently,

Közvélemény-kutatást végeztünk mostanában,

and I was struck to see

és megdöbbentem,

that most people actually want us to build superintelligence:

hogy a legtöbben egyetértünk egy szuperintelligencia építésében,

AI that's vastly smarter than us in all ways.

amely minden tekintetben messze okosabb nálunk.

What there was the greatest agreement on was that we should be ambitious

A legnagyobb egyetértés abban volt,

and help life spread into the cosmos,

hogy az életet terjesszük a világegyetemben,

but there was much less agreement about who or what should be in charge.

de sokkal kevésbé értettek egyet abban, kinek vagy minek kellene irányítania.

And I was actually quite amused

Elég jól szórakoztam,

to see that there's some some people who want it to be just machines.

mikor láttam, vannak, akik azt akarják, hogy ezek csupán gépek legyenek.

(Laughter)

(Nevetés)

And there was total disagreement about what the role of humans should be,

Az emberek jövőbeli szerepét illetően óriási volt a nézeteltérés

even at the most basic level,

még alapszinten is.

so let's take a closer look at possible futures

Nézzük meg alaposabban a lehetséges jövőképeket,

that we might choose to steer toward, alright?

amely felé tarthatunk!

So don't get me wrong here.

Ne értsenek félre,

I'm not talking about space travel,

nem az űrutazásról beszélek,

merely about humanity's metaphorical journey into the future.

csupán az emberiség képzeletbeli jövőutazásáról.

So one option that some of my AI colleagues like

Néhány munkatársam kedvelte lehetőség,

is to build superintelligence and keep it under human control,

hogy emberi felügyelet alatt tartott szuperintelligenciát építünk,

like an enslaved god,

egy rabszolga–istent,

disconnected from the internet

leválasztva az internetről,

and used to create unimaginable technology and wealth

hihetetlen technológia és vagyon megteremtésére használva,

for whoever controls it.

bárki is irányítja azt.

But Lord Acton warned us

De Lord Acton óva intett bennünket:

that power corrupts, and absolute power corrupts absolutely,

a hatalom megveszteget, az abszolút hatalom abszolút mértékben is képes rá,

so you might worry that maybe we humans just aren't smart enough,

ezért aggódhatunk, hogy az emberiség talán nem elég okos,

or wise enough rather,

vagy inkább bölcs,

to handle this much power.

hogy uralja ezt az óriási erőt.

Also, aside from any moral qualms you might have

Erkölcsi aggályaink mellett

about enslaving superior minds,

a magasabb rendű elmék szolgasorban tartását illetőleg

you might worry that maybe the superintelligence could outsmart us,

aggódhatunk, hogy ez a szuperintelligencia talán túljár az eszünkön,

break out and take over.

kitör, és átveszi az uralmat.

But I also have colleagues who are fine with AI taking over

Olyan kollégáim is vannak, akik szerint ez a hatalomátvétel rendben van,

and even causing human extinction,

még ha az emberiség kihalását is okozza,

as long as we feel the the AIs are our worthy descendants,

ha az MI-k méltó leszármazottaink,

like our children.

gyermekeink.

But how would we know that the AIs have adopted our best values

De honnan tudhatnánk, hogy az MI-k magukévá tették értékrendünket,

and aren't just unconscious zombies tricking us into anthropomorphizing them?

nem öntudatlan zombik, melyeket emberi tulajdonságokkal ruházunk fel?

Also, shouldn't those people who don't want human extinction

És nem kéne, hogy azoknak, akik nem akarják az emberiség kihalását,

have a say in the matter, too?

legyen szavuk az ügyben?

Now, if you didn't like either of those two high-tech options,

Ha egyik fejlett technológiai lehetőség sem nyerte el tetszésüket,

it's important to remember that low-tech is suicide

ne feledjék, hogy a fejletlen technológia -

kozmikus nézetből - öngyilkosság.

from a cosmic perspective,

because if we don't go far beyond today's technology,

Mivel ha nem haladjuk túl a mai technológiát,

the question isn't whether humanity is going to go extinct,

a kérdés nem az lesz, hogy kihal-e az emberiség,

merely whether we're going to get taken out

hanem az, hogy kihalásunkat egy gyilkos aszteroida,

by the next killer asteroid, supervolcano

egy szupervulkán,

or some other problem that better technology could have solved.

vagy más katasztrófa okozza majd, melyet a jobb technológia megoldhatott volna.

So, how about having our cake and eating it ...

Mi lenne, ha olyan ÁMI segítségével jutnánk a tortánkhoz,

with AGI that's not enslaved

amely nincs szolgaságban,

but treats us well because its values are aligned with ours?

de jól viszonyul hozzánk, mert értékrendje egyezik a miénkkel?

This is the gist of what Eliezer Yudkowsky has called "friendly AI,"

Ez a lényege annak, amit Eliezer Yudkowsky "barátságos MI"-nek nevezett el.

and if we can do this, it could be awesome.

Ez nagyszerű volna, ha megvalósítanánk!

It could not only eliminate negative experiences like disease, poverty,

Nem csupán megszüntetné a betegségeket, szegénységet,

crime and other suffering,

bűnözést és más szenvedést hozó dolgokat,

but it could also give us the freedom to choose

de szabadon választhatnánk

from a fantastic new diversity of positive experiences --

a pozitív élmények fantasztikusan szélesedő skálájáról.

basically making us the masters of our own destiny.

Saját sorsunk irányítóivá tenne minket.

So in summary,

Összegezve,

our situation with technology is complicated,

kapcsolatunk a technológiával bonyolult,

but the big picture is rather simple.

de a nagy kép egyszerű.

Most AI researchers expect AGI within decades,

Az ÁMI-t pár évtizeden belül várja a legtöbb MI-kutató.

and if we just bumble into this unprepared,

Ha felkészületlenül ér bennünket,

it will probably be the biggest mistake in human history --

az valószínűleg az emberi történelem legnagyobb hibája lesz.

let's face it.

Nézzünk szembe vele!

It could enable brutal, global dictatorship

Brutális, globális diktatúrát hozhat létre

with unprecedented inequality, surveillance and suffering,

soha nem látott egyenlőtlenséggel, felügyelettel és szenvedéssel,

and maybe even human extinction.

és akár az emberiség kihalásával.

But if we steer carefully,

De gondos irányítás mellett

we could end up in a fantastic future where everybody's better off:

fantasztikus jövőben találhatjuk magunk, ahol mindenki élete jobb:

the poor are richer, the rich are richer,

a szegény gazdag, a gazdag még gazdagabb.

everybody is healthy and free to live out their dreams.

Mindenki egészséges, és szabadon valósíthatja meg álmait.

Now, hang on.

De várjunk csak!

Do you folks want the future that's politically right or left?

Jobb- vagy baloldali politikát akarunk?

Do you want the pious society with strict moral rules,

Istenfélő társadalmat szigorú erkölcsi szabályokkal,

vagy hedonisztikusat, korlátozások nélkül,

or do you an hedonistic free-for-all,

more like Burning Man 24/7?

akár a folyamatos Burning Man fesztivál.

Do you want beautiful beaches, forests and lakes,

Gyönyörű partok, erdők, tavak legyenek,

or would you prefer to rearrange some of those atoms with the computers,

vagy inkább rendezzünk át néhány ilyen részt számítógépekkel,

enabling virtual experiences?

virtuális élmények létrehozására?

With friendly AI, we could simply build all of these societies

Egy barátságos MI-vel mindegyik társadalmat létrehozhatjuk,

and give people the freedom to choose which one they want to live in

szabadon választva, hol akarunk élni,

because we would no longer be limited by our intelligence,

mivel már nem korlátoznának bennünket intelligenciánk határai,

merely by the laws of physics.

csupán a fizikai törvények.

So the resources and space for this would be astronomical --

Így a források és a hely erre szó szerint

csillagászati mértékű lenne.

literally.

So here's our choice.

Választhatunk.

We can either be complacent about our future,

Lehetünk önteltek a jövőt illetően,

taking as an article of blind faith

vak hittel,

that any new technology is guaranteed to be beneficial,

hogy bármely új technológia garantáltan jót hoz számunkra,

and just repeat that to ourselves as a mantra over and over and over again

és ismételgethetjük ezt mantraként,

as we drift like a rudderless ship towards our own obsolescence.

kormányát vesztett hajóként sodródva saját elértéktelenedésünk felé,

Or we can be ambitious --

vagy lehetünk igényesek,

thinking hard about how to steer our technology

komolyan átgondolva, hogyan irányítsuk technológiánkat

and where we want to go with it

és hova akarunk eljutni vele,

to create the age of amazement.

létrehozva a csodák korát.

We're all here to celebrate the age of amazement,

Mind azért vagyunk itt, hogy ünnepeljük a csodák korát,

and I feel that its essence should lie in becoming not overpowered

és úgy érzem, ennek lényege az, hogy ne legyőzötté váljunk,

but empowered by our technology.

hanem megerősödjünk technológiánk által.

Thank you.

Köszönöm.

(Applause)

(Taps)