Can we build AI without losing control over it? | Sam Harris

Translator: Marek Bednárik Reviewer: Linda Magáthová

I'm going to talk about a failure of intuition

Budem hovoriť o zlyhaní intuície,

that many of us suffer from.

ktorým trpí mnoho z nás.

It's really a failure to detect a certain kind of danger.

Vlastne ide o zlyhanie odhalenia určitého druhu nebezpečia.

I'm going to describe a scenario

Popíšem vám situáciu,

that I think is both terrifying

o ktorej si myslím, že je desivá

and likely to occur,

a zároveň pravdepodobná,

and that's not a good combination,

čo, ako vieme,

as it turns out.

nie je dobrá kombinácia.

And yet rather than be scared, most of you will feel

A aj tak, mnohí z vás nebudú vystrašení, ale budú

that what I'm talking about is kind of cool.

si myslieť, že to, o čom hovorím, je cool.

I'm going to describe how the gains we make

Budem hovoriť o tom, ako nás pokrok,

in artificial intelligence

ktorý dosahujeme v umelej inteligencii,

could ultimately destroy us.

môže nakoniec úplne zničiť.

And in fact, I think it's very difficult to see how they won't destroy us

A vskutku si myslím, že je ťažké nevidieť, že nás zničí, alebo nás

or inspire us to destroy ourselves.

inšpiruje, aby sme sa zničili sami.

And yet if you're anything like me,

A pokiaľ ste ako ja,

you'll find that it's fun to think about these things.

je pre vás zábavou zamýšľať sa nad tým.

And that response is part of the problem.

Naše reakcie sú súčasťou toho problému.

OK? That response should worry you.

Tieto reakcie by vás mali trápiť.

And if I were to convince you in this talk

Ak by som vás teraz presvedčoval,

that we were likely to suffer a global famine,

že ľudstvo pravdepodobne zasiahne globálny hladomor,

either because of climate change or some other catastrophe,

buď kvôli klimatickým zmenám, alebo z dôvodu inej katastrofy,

and that your grandchildren, or their grandchildren,

a že vaše vnúčatá a ich vnúčatá

are very likely to live like this,

budú pravdepodobne žiť takto,

you wouldn't think,

určite si nepomyslíte,

"Interesting.

"Zaujímavé.

I like this TED Talk."

To je pekná prednáška."

Famine isn't fun.

Hladomor nie je zábava.

Death by science fiction, on the other hand, is fun,

Na druhú stranu, smrť v sci-fi zábavná je,

and one of the things that worries me most about the development of AI at this point

jedna z vecí, ktorá ma na vývoji umelej inteligencie trápi najviac, je, že nie sme

is that we seem unable to marshal an appropriate emotional response

schopní primerane emocionálne reagovať

to the dangers that lie ahead.

na nebezpečie, ktoré leží pred nami.

I am unable to marshal this response, and I'm giving this talk.

Ja sám nie som toho schopný a sám o tom teraz prednášam.

It's as though we stand before two doors.

Pomyslite si, že stojíme pred dvoma dvermi.

Behind door number one,

Za dvermi číslo jedna

we stop making progress in building intelligent machines.

zastavíme vývoj a budovanie inteligentných strojov.

Our computer hardware and software just stops getting better for some reason.

Počítačový software a hardware sa prosto z nejakého dôvodu prestane vylepšovať.

Now take a moment to consider why this might happen.

Zastavme sa na chvíľu a premýšľajme, prečo by toto mohlo nastať.

I mean, given how valuable intelligence and automation are,

S ohľadom nato, akým prínosom inteligencia a automatizácia pre nás je,

we will continue to improve our technology if we are at all able to.

budeme technológie stále zlepšovať, pokiaľ toho budeme vôbec schopní.

What could stop us from doing this?

Čo by nás mohlo v tomto zastaviť?

A full-scale nuclear war?

Celosvetová nukleárna vojna?

A global pandemic?

Globálna pandémia?

An asteroid impact?

Dopad asteroidu?

Justin Bieber becoming president of the United States?

Justin Bieber prezidentom USA?

(Laughter)

(smiech)

The point is, something would have to destroy civilization as we know it.

Ide o to, že by našu súčasnú civilizáciu, tak ako ju poznáme, muselo niečo zničiť.

You have to imagine how bad it would have to be

Predstavte si, ako zlé by to muselo byť,

to prevent us from making improvements in our technology

aby sme neboli schopní ďalej vylepšovať naše technológie,

permanently,

neustále,

generation after generation.

generáciu za generáciou.

Almost by definition, this is the worst thing

V zásade je to tá najhoršia vec,

that's ever happened in human history.

aká by mohla v ľudských dejinách nastať.

So the only alternative,

Takže jedinou alternatívou,

and this is what lies behind door number two,

ktorá je za dvermi číslo dva,

is that we continue to improve our intelligent machines

je pokračovať v zdokonaľovaní našich inteligentných strojov,

year after year after year.

postupne rok za rokom.

At a certain point, we will build machines that are smarter than we are,

A v určitom okamžiku postavíme stroje, ktoré budú chytrejšie než my sami,

and once we have machines that are smarter than we are,

a keď budeme mať stroje, ktoré budú chytrejšie od nás,

they will begin to improve themselves.

tak sa začnú zdokonaľovať samy.

And then we risk what the mathematician IJ Good called

A v tom okamihu hrozí situácia, ktorú matematik I.J.Good

an "intelligence explosion,"

nazval "inteligenčná explózia,"

that the process could get away from us.

a vtedy by sa to mohlo vymknúť z rúk.

Now, this is often caricatured, as I have here,

Ako vidíte napríklad tu, táto téma sa často karikuje,

as a fear that armies of malicious robots

ako obava z armád zlých robotov,

will attack us.

ktoré na nás zaútočia.

But that isn't the most likely scenario.

Ale toto nie je najpravdepodobnejší scenár.

It's not that our machines will become spontaneously malevolent.

Nie je to tak, že by stroje zrazu začali byť zlé.

The concern is really that we will build machines

Problém je v tom, že vytvoríme stroje,

that are so much more competent than we are

ktoré budú oveľa schopnejšie než sme my,

that the slightest divergence between their goals and our own

takže aj tá najjemnejšia odchýlka medzi ich a našimi cieľmi,

could destroy us.

by nás mohla zničiť.

Just think about how we relate to ants.

Zamyslite sa, ako sa chováme k mravcom.

We don't hate them.

Nemáme nič proti nim.

We don't go out of our way to harm them.

Neubližujeme im cielene.

In fact, sometimes we take pains not to harm them.

Dokonca občas znesieme bolesť a neubližujeme im.

We step over them on the sidewalk.

Prekračujeme ich na chodníku.

But whenever their presence

Ale kedykoľvek je ich prítomnosť

seriously conflicts with one of our goals,

vo vážnom konflikte s našimi cieľmi,

let's say when constructing a building like this one,

povedzme, keď staviame budovu ako táto,

we annihilate them without a qualm.

tak ich bez mihnutia oka zničíme.

The concern is that we will one day build machines

Obávam sa, že jedného dňa vytvoríme stroje,

that, whether they're conscious or not,

ktoré, vedome alebo nevedome, budú s nami

could treat us with similar disregard.

zachádzať s podobnou ľahostajnosťou.

Now, I suspect this seems far-fetched to many of you.

Mnohím z vás to príde pritiahnuté za vlasy.

I bet there are those of you who doubt that superintelligent AI is possible,

Vsadím sa, že mnohí z vás pochybujú, že super inteligentné stroje sú možné,

much less inevitable.

tobôž, že by to nevyhnutne nastalo.

But then you must find something wrong with one of the following assumptions.

Potom však musíte nájsť niečo nesprávne v nasledujúcich predpokladoch.

And there are only three of them.

A v podstate sú len tri.

Intelligence is a matter of information processing in physical systems.

Inteligencia je výsledkom spracovania informácie v hmotných systémoch.

Actually, this is a little bit more than an assumption.

Vlastne, toto je trochu viac než len predpoklad.

We have already built narrow intelligence into our machines,

Do strojov sme už obmedzenú inteligenciu zabudovali

and many of these machines perform

a veľa z týchto strojov už pracuje

at a level of superhuman intelligence already.

na úrovni super inteligentných ľudí.

And we know that mere matter

A vieme, že bežná hmota

can give rise to what is called "general intelligence,"

môže byť vznikom takzvanej "všeobecnej inteligencie",

an ability to think flexibly across multiple domains,

teda schopnosti flexibilne myslieť naprieč rôznymi oblasťami,

because our brains have managed it. Right?

pretože naše mozgy to už dokázali, však?

I mean, there's just atoms in here,

Mám na mysli, že naše mozgy sa skladajú len z atómov,

and as long as we continue to build systems of atoms

a pokiaľ budeme pokračovať v budovaní systémov z atómov,

that display more and more intelligent behavior,

ktoré vykazujú čoraz inteligentnejšie správanie,

we will eventually, unless we are interrupted,

tak nakoniec, pokiaľ nás niečo nezastaví,

we will eventually build general intelligence

zabudujeme všeobecnú inteligenciu

into our machines.

do našich strojov.

It's crucial to realize that the rate of progress doesn't matter,

Kľúčové je si uvedomiť, že na rýchlosti pokroku nezáleží,

because any progress is enough to get us into the end zone.

pretože k dosiahnutiu cieľa stačí akékoľvek tempo.

We don't need Moore's law to continue. We don't need exponential progress.

Nepotrebujeme Mooreov zákon, nie je nutný exponenciálny vývoj.

We just need to keep going.

Jednoducho stačí pokračovať.

The second assumption is that we will keep going.

Druhým predpokladom je, že budeme pokračovať.

We will continue to improve our intelligent machines.

Budeme naďalej zlepšovať naše inteligentné stroje.

And given the value of intelligence --

A keďže inteligencia je pre nás dôležitá -

I mean, intelligence is either the source of everything we value

mám na mysli, že inteligencia je buď zdrojom všetkého, čo si ceníme,

or we need it to safeguard everything we value.

alebo ju potrebujeme na ochranu všetkého, čo si ceníme.

It is our most valuable resource.

Je to náš najhodnotnejší zdroj.

So we want to do this.

Takže v tom chceme pokračovať.

We have problems that we desperately need to solve.

Máme problémy, ktoré zúfalo musíme vyriešiť.

We want to cure diseases like Alzheimer's and cancer.

Chceme liečiť choroby ako Alzheimer a rakovina.

We want to understand economic systems. We want to improve our climate science.

Chceme porozumieť ekonomickým systémom. Chceme zlepšiť náš klimatický výskum.

So we will do this, if we can.

Takže, pokiaľ to pôjde, budeme pokračovať.

The train is already out of the station, and there's no brake to pull.

Tento vlak je už rozbehnutý a nejde ho zastaviť.

Finally, we don't stand on a peak of intelligence,

A, nakoniec, my nestojíme na vrchole inteligencie a pravdepodobne

or anywhere near it, likely.

ani niekde blízko vrcholu.

And this really is the crucial insight.

Toto je skutočne kľúčový pohľad.

This is what makes our situation so precarious,

To je dôvod, prečo je naša situácia taká prekérna,

and this is what makes our intuitions about risk so unreliable.

a dôvod, prečo je naša intuícia taká nespoľahlivá pri posudzovaní rizík.

Now, just consider the smartest person who has ever lived.

Vezmite si trebárs najmúdrejšiu osobu, ktorá kedy žila.

On almost everyone's shortlist here is John von Neumann.

Takmer každý by do najužšieho výberu zaradil Johna von Neumanna.

I mean, the impression that von Neumann made on the people around him,

To, akým dojmom pôsobil van Neumann na ľudí okolo seba,

and this included the greatest mathematicians and physicists of his time,

medzi ktorých patrili najlepší matematici a fyzici tej doby,

is fairly well-documented.

je veľmi dobre zdokumentované.

If only half the stories about him are half true,

Ak by len polovica historiek o ňom bola aspoň z polovice pravdivá,

there's no question

tak nie je pochýb,

he's one of the smartest people who has ever lived.

že patril medzi najmúdrejších ľudí v histórii.

So consider the spectrum of intelligence.

Takže zvážme spektrum inteligencie.

Here we have John von Neumann.

Tu máme John von Neumanna.

And then we have you and me.

A tu ste vy a ja.

And then we have a chicken.

A tu máme kura.

(Laughter)

(smiech)

Sorry, a chicken.

Pardon, kura.

(Laughter)

(smiech)

There's no reason for me to make this talk more depressing than it needs to be.

Nie je dôvod, aby bola táto prednáška depresívnejšia, než je nutné.

(Laughter)

(smiech)

It seems overwhelmingly likely, however, that the spectrum of intelligence

Zdá sa nanajvýš pravdepodobné, že rozsah inteligencie

extends much further than we currently conceive,

je oveľa širší, než ako ho v súčasnosti vnímame,

and if we build machines that are more intelligent than we are,

a keď postavíme stroje, ktoré budú inteligentnejšie než sme my,

they will very likely explore this spectrum

tak budú veľmi pravdepodobne skúmať to spektrum

in ways that we can't imagine,

spôsobom, ktorý si nevieme predstaviť,

and exceed us in ways that we can't imagine.

a presiahnu nás spôsobom, ktorý si nevieme predstaviť.

And it's important to recognize that this is true by virtue of speed alone.

A je dôležité rozoznať, že je tomu tak už vďaka samotnej rýchlosti.

Right? So imagine if we just built a superintelligent AI

Predstavte si, že sme vytvorili super inteligentnú umelú inteligenciu (AI),

that was no smarter than your average team of researchers

ktorá je rovnako chytrá ako priemerný tím vedcov

at Stanford or MIT.

na Stanforde alebo MIT.

Well, electronic circuits function about a million times faster

Lenže elektronické obvody fungujú asi miliónkrát rýchlejšie

than biochemical ones,

než biochemické,

so this machine should think about a million times faster

takže, takýto stroj by mohol myslieť asi miliónkrát rýchlejšie

than the minds that built it.

ako myseľ, ktorá ho zostrojila.

So you set it running for a week,

Takže, keď ho spustíte na týždeň,

and it will perform 20,000 years of human-level intellectual work,

tak vykoná rovnakú intelektuálnu prácu, ktorá by ľuďom trvala 20 000 rokov,

week after week after week.

týždeň za týždňom.

How could we even understand, much less constrain,

Ako by sme vôbec mohli pochopiť, či snáď nejako obmedziť

a mind making this sort of progress?

myseľ schopnú takéhoto pokroku?

The other thing that's worrying, frankly,

Úprimne, je tu ďalšia znepokojivá vec -

is that, imagine the best case scenario.

predstavte si najlepší možný scenár.

So imagine we hit upon a design of superintelligent AI

Predstavte si, že sa nám podarí navrhnúť super inteligentnú AI, ktorá nebude mať

that has no safety concerns.

žiadne bezpečnostné hrozby.

We have the perfect design the first time around.

Budeme mať perfektnú verziu hneď na prvý pokus.

It's as though we've been handed an oracle

Ako keby sa naplnila veštba a všetko

that behaves exactly as intended.

by fungovalo, tak ako bolo zamýšľané.

Well, this machine would be the perfect labor-saving device.

Takýto stroj by ľuďom perfektne uľahčoval prácu.

It can design the machine that can build the machine

Dokázal by navrhnúť stroj, ktorý by zostrojil stroje,

that can do any physical work,

čo vykonajú akúkoľvek fyzickú prácu,

powered by sunlight,

napájané slnečným žiarením,

more or less for the cost of raw materials.

viac-menej za cenu vstupných materiálov.

So we're talking about the end of human drudgery.

Takže, hovoríme o konci ľudskej driny.

We're also talking about the end of most intellectual work.

Hovoríme taktiež o konci väčšiny intelektuálnej práce.

So what would apes like ourselves do in this circumstance?

Ale čo by také opice ako sme my robili za takýchto okolností?

Well, we'd be free to play Frisbee and give each other massages.

No, mali by sme čas hrať Frisbee a vzájomne sa masírovať.

Add some LSD and some questionable wardrobe choices,

Pridali by sme nejaké to LSD a pochybné oblečenie

and the whole world could be like Burning Man.

a celý svet by mohol byť ako "Burning Man".

(Laughter)

(smiech)

Now, that might sound pretty good,

Teraz, aj keď to znie lákavo,

but ask yourself what would happen

ale spýtajte sa sami seba, čo by mohlo nastať,

under our current economic and political order?

keby ekonomika a politika fungovali tak ako dnes?

It seems likely that we would witness

Zdá sa pravdepodobné, že by sme boli svedkami

a level of wealth inequality and unemployment

takej sociálnej nerovnosti a nezamestnanosti,

that we have never seen before.

ako nikdy predtým.

Absent a willingness to immediately put this new wealth

Absencia ochoty poskytnúť toto nové bohatstvo

to the service of all humanity,

do služieb celého ľudstva.

a few trillionaires could grace the covers of our business magazines

Niekoľko miliardárov by zdobilo titulky obchodných magazínov,

while the rest of the world would be free to starve.

zatiaľčo zbytok sveta by pokojne hladoval.

And what would the Russians or the Chinese do

A čo by urobili Rusi a Číňania, ak by sa

if they heard that some company in Silicon Valley

dozvedeli, že nejaká spoločnosť v Silicon Valley

was about to deploy a superintelligent AI?

sa chystá nasadiť super inteligentnú AI?

This machine would be capable of waging war,

Takýto stroj by bol schopný viesť vojnu,

whether terrestrial or cyber,

či už pozemnú alebo kybernetickú

with unprecedented power.

s nebývalou silou.

This is a winner-take-all scenario.

To je scenár, kde víťaz berie všetko.

To be six months ahead of the competition here

Šesťmesačný náskok pred konkurenciou

is to be 500,000 years ahead,

by znamenal minimálne náskok

at a minimum.

500 000 rokov.

So it seems that even mere rumors of this kind of breakthrough

Zdá sa, že číre fámy o prelome v tejto oblasti

could cause our species to go berserk.

by nás mohli priviesť k nepríčetnosti.

Now, one of the most frightening things,

Jedna z najdesivejších vecí

in my view, at this moment,

v tejto chvíli z môjho pohľadu

are the kinds of things that AI researchers say

je to, čo hovoria vedci, ktorí vyvíjajú umelú inteligenciu,

when they want to be reassuring.

keď nás chcú upokojiť.

And the most common reason we're told not to worry is time.

Najčastejším dôvodom, prečo sa vraj nemáme obávať, je čas.

This is all a long way off, don't you know.

Toto všetko je ešte ďaleko, všakže.

This is probably 50 or 100 years away.

Ešte to potrvá pravdepodobne 50 alebo 100 rokov.

One researcher has said,

Jeden výskumník povedal:

"Worrying about AI safety

"Obávať sa bezpečnosti AI

is like worrying about overpopulation on Mars."

je ako báť sa preľudnenia Marsu."

This is the Silicon Valley version

Toto je je verzia Silicon Valley:

of "don't worry your pretty little head about it."

"Nechaj to koňovi, ten má väčšiu hlavu."

(Laughter)

(smiech)

No one seems to notice

Zdá sa, že nikto nezaznamenal,

that referencing the time horizon

že odvolávať sa na časový horizont

is a total non sequitur.

je totálne nelogické.

If intelligence is just a matter of information processing,

Ak je inteligencia len spôsob spracovania informácií

and we continue to improve our machines,

a my budeme pokračovať v zlepšovaní našich strojov,

we will produce some form of superintelligence.

tak vytvoríme nejakú formu super inteligencie.

And we have no idea how long it will take us

A nemáme poňatia, ako dlho nám bude trvať,

to create the conditions to do that safely.

než ju vytvoríme za bezpečných podmienok.

Let me say that again.

Poviem to ešte raz.

We have no idea how long it will take us

Nemáme poňatia, ako dlho nám bude trvať,

to create the conditions to do that safely.

než ju vytvoríme za bezpečných podmienok.

And if you haven't noticed, 50 years is not what it used to be.

A možno ste si nevšimli, že 50 rokov už nie je to, čo bývalo.

This is 50 years in months.

Toto je 50 rokov v mesiacoch.

This is how long we've had the iPhone.

Takto dlho máme iPhone.

This is how long "The Simpsons" has been on television.

Takto dlho sa vysielajú Simpsonovci.

Fifty years is not that much time

50 rokov nie je tak veľa času,

to meet one of the greatest challenges our species will ever face.

aby si náš druh poradil s najväčšou výzvou, pred ktorou kedy stál.

Once again, we seem to be failing to have an appropriate emotional response

Ešte raz - zdá sa, že nemáme primeranú emocionálnu odpoveď

to what we have every reason to believe is coming.

na niečo, čo podľa všetkého nastane.

The computer scientist Stuart Russell has a nice analogy here.

Počítačový vedec Stuart Russell má nato peknú analógiu.

He said, imagine that we received a message from an alien civilization,

Povedal, predstavte si, že dostaneme správu od mimozemskej civilizácie,

which read:

v ktorej bude:

"People of Earth,

"Pozemšťania,

we will arrive on your planet in 50 years.

za 50 rokov dorazíme na vašu planétu.

Get ready."

Pripravte sa."

And now we're just counting down the months until the mothership lands?

A teraz budeme len počítať mesiace do pristátia mimozemskej lode?

We would feel a little more urgency than we do.

Asi by sme cítili trochu viac naliehavosti ako teraz.

Another reason we're told not to worry

Ďalší dôvod, prečo sa nemáme obávať, je,

is that these machines can't help but share our values

že týmto strojom nezostane nič iné, len zdieľať naše hodnoty,

because they will be literally extensions of ourselves.

pretože budú doslovne naším vlastným rozšírením.

They'll be grafted onto our brains,

Budú zabudované do našich mozgov

and we'll essentially become their limbic systems.

a my budeme v podstate ich limbickým systémom.

Now take a moment to consider

Zamyslite sa a zvážte,

that the safest and only prudent path forward,

že tou najbezpečnejšou a jedinou rozvážnou cestou,

recommended,

ktorá sa odporúča,

is to implant this technology directly into our brains.

je nasadiť tieto technológie priamo do našich mozgov.

Now, this may in fact be the safest and only prudent path forward,

Fakticky, ona to môže byť najbezpečnejšia a jediná rozvážna cesta vpred,

but usually one's safety concerns about a technology

ale zvyčajne je dobré obávať sa bezpečnosti technológií,

have to be pretty much worked out before you stick it inside your head.

pretože by to malo byť celkom dobre vyladené, než si to vložíte do hlavy.

(Laughter)

(smiech)

The deeper problem is that building superintelligent AI on its own

Hlbším problémom je, že budovanie samotnej super inteligentnej AI sa zdá byť

seems likely to be easier

pravdepodobne jednoduchšie,

than building superintelligent AI

než budovanie super inteligentnej AI

and having the completed neuroscience

a mať vyriešenú neurovedu, ktorá nám

that allows us to seamlessly integrate our minds with it.

dovolí bezproblémovú integráciu našich myslí s ňou.

And given that the companies and governments doing this work

A keďže firmy a vlády, ktoré sa na tom podieľajú,

are likely to perceive themselves as being in a race against all others,

to pravdepodobne vnímajú ako závod so všetkými ostatnými,

given that to win this race is to win the world,

pretože vyhrať tento závod znamená dobyť svet,

provided you don't destroy it in the next moment,

za predpokladu, že ho hneď vzápätí nezničíte,

then it seems likely that whatever is easier to do

tak potom je pravdepodobné, že to, čo bude jednoduchšie,

will get done first.

sa urobí ako prvé.

Now, unfortunately, I don't have a solution to this problem,

Bohužiaľ, teraz nemám riešenie tohto problému,

apart from recommending that more of us think about it.

okrem odporúčania, že by sme o tom mali viac premýšľať.

I think we need something like a Manhattan Project

Myslím, že je nutné niečo ako "Manhattan Projekt"

on the topic of artificial intelligence.

na tému umelej inteligencie.

Not to build it, because I think we'll inevitably do that,

Nie ako ju vytvoriť, pretože si myslím, že to nevyhnutne

but to understand how to avoid an arms race

nastane, ale v pochopení ako sa vyhnúť závodom v zbrojení

and to build it in a way that is aligned with our interests.

a ako ju vytvoriť spôsobom, ktorý je v súlade s našimi záujmami.

When you're talking about superintelligent AI

Keď hovoríme o super inteligentnej AI,

that can make changes to itself,

ktorá dokáže meniť samu seba,

it seems that we only have one chance to get the initial conditions right,

tak sa zdá, že máme len jednu šancu, ako nastaviť východiskové podmienky správne,

and even then we will need to absorb

a aj vtedy budeme musieť tlmiť

the economic and political consequences of getting them right.

ekonomické a politické následky.

But the moment we admit

Ale vo chvíli, keď pripustíme,

that information processing is the source of intelligence,

že spracovanie informácií je zdrojom inteligencie,

that some appropriate computational system is what the basis of intelligence is,

že nejaký vhodný počítačový systém je to, čo môže byť základom inteligencie,

and we admit that we will improve these systems continuously,

a keď pripustíme, že budeme tieto systémy neustále zdokonaľovať,

and we admit that the horizon of cognition very likely far exceeds

a keď pripustíme, že horizont poznania veľmi pravdepodobne prekročí to,

what we currently know,

čo v súčasnosti vieme,

then we have to admit

tak si musíme pripustiť,

that we are in the process of building some sort of god.

že sme v procese budovania istého druhu boha.

Now would be a good time

Teraz by bolo dobré sa uistiť,

to make sure it's a god we can live with.

že to bude boh, s ktorým budeme môcť žiť.

Thank you very much.

Ďakujem veľmi pekne.

(Applause)

(potlesk)