Can we build AI without losing control over it? | Sam Harris

Fordító: Rita Hajnal Lektor: Reka Lorinczy

I'm going to talk about a failure of intuition

A hibás előérzetekről fogok beszélni,

that many of us suffer from.

amitől oly sokan szenvedünk.

It's really a failure to detect a certain kind of danger.

Valóban hibás egy bizonyos fajta veszély felismerése.

I'm going to describe a scenario

Felvázolok egy forgatókönyvet,

that I think is both terrifying

amelyről úgy gondolom egyszerre ijesztő,

and likely to occur,

és bekövetkezése egyben valószínűsíthető,

and that's not a good combination,

és ez a kettő együtt nem jó kombináció,

as it turns out.

ahogy az bebizonyosodik majd.

And yet rather than be scared, most of you will feel

Ennek ellenére a többségetek az ijedtség helyett úgy érzi majd,

that what I'm talking about is kind of cool.

hogy amiről beszélek, egy menő dolog.

I'm going to describe how the gains we make

El fogom magyarázni,

hogy a mesterséges intelligencia fejlődése

in artificial intelligence

could ultimately destroy us.

miként semmisíthet meg bennünket.

And in fact, I think it's very difficult to see how they won't destroy us

Úgy vélem, nehezebb felismerni, hogyan nem pusztítanak el minket,

or inspire us to destroy ourselves.

vagy buzdítanak minket önmagunk elpusztítására.

And yet if you're anything like me,

De ha kicsit is hasonlítasz rám,

you'll find that it's fun to think about these things.

rájössz majd, mennyire vicces dolog ezeken elmélkedni.

And that response is part of the problem.

És ez a fajta reakció szintén a probléma része.

OK? That response should worry you.

Értitek ugye? A reakció miatt aggódnotok kellene.

And if I were to convince you in this talk

Ha az előadással meg tudlak győzni benneteket,

that we were likely to suffer a global famine,

hogy a globális éhínség várhatóan bekövetkezik majd,

either because of climate change or some other catastrophe,

klímaváltozás vagy más katasztrófa hatására,

and that your grandchildren, or their grandchildren,

és hogy az unokátokra, vagy az ő unokáikra

are very likely to live like this,

nagy valószínűséggel hasonló élet vár,

you wouldn't think,

magatokban nem gondolnátok:

"Interesting.

"Érdekes.

I like this TED Talk."

Tetszik ez a TED előadás."

Famine isn't fun.

Az éhínség nem vicc.

Death by science fiction, on the other hand, is fun,

A tudományos-fantasztikum általi halál ezzel ellentétben vicces,

and one of the things that worries me most about the development of AI at this point

de ami engem aggaszt leginkább, a MI jelenlegi állapotát illetően,

is that we seem unable to marshal an appropriate emotional response

hogy képtelenek vagyunk az előttünk álló veszélyekhez

to the dangers that lie ahead.

megfelelő érzelmi reakciót párosítani.

I am unable to marshal this response, and I'm giving this talk.

Képtelen vagyok irányítani a reakciót, pedig én tartom az előadást.

It's as though we stand before two doors.

Olyan, mintha két ajtó előtt állnánk.

Behind door number one,

Az egyes számú ajtó mögött

we stop making progress in building intelligent machines.

leállunk az intelligens gépek fejlesztésével.

Our computer hardware and software just stops getting better for some reason.

Valamilyen okból a hardverek és szoftverek fejlesztése leáll.

Now take a moment to consider why this might happen.

Egy percre kérlek, gondoljatok bele, miért történne ilyesmi.

I mean, given how valuable intelligence and automation are,

Tudván, mekkora érték rejlik az intelligenciában és automatizálásban,

we will continue to improve our technology if we are at all able to.

ha mód van rá, folytatni fogjuk a technológiai fejlesztéseket.

What could stop us from doing this?

Mi állhatna az utunkba?

A full-scale nuclear war?

Egy mindent elsöprő nukleáris háború?

A global pandemic?

Egy globális járvány?

An asteroid impact?

Egy aszteroida becsapódása?

Justin Bieber becoming president of the United States?

Justin Biebert megválasztják elnöknek?

(Laughter)

(Nevetés)

The point is, something would have to destroy civilization as we know it.

Bármi legyen is, az általunk ismert civilizációt kellene megsemmisítse.

You have to imagine how bad it would have to be

Képzeld el, mennyire borzasztónak kellene lennie ahhoz,

to prevent us from making improvements in our technology

hogy leálljunk a technológiai fejlesztésekkel,

permanently,

egyik nemzedék a másik után,

generation after generation.

mindörökre.

Almost by definition, this is the worst thing

Fogalmazhatnánk úgy is, hogy ez a legrosszabb,

that's ever happened in human history.

ami valaha történhet az emberiség történelmében.

So the only alternative,

Így az egyetlen alternatíva,

and this is what lies behind door number two,

és ez rejlik a kettes számú ajtó mögött,

is that we continue to improve our intelligent machines

hogy folytatjuk az intelligens gépek fejlesztését,

year after year after year.

egyik évről a másikra.

At a certain point, we will build machines that are smarter than we are,

És elérkezünk a ponthoz, amikor nálunk okosabb gépeket hozunk létre.

and once we have machines that are smarter than we are,

És amint létrehoztuk a minket meghaladó okos gépeket,

they will begin to improve themselves.

megkezdik majd önmaguk fejlesztését.

And then we risk what the mathematician IJ Good called

És ezzel megkockáztatjuk azt, amit IJ Good matematikus

an "intelligence explosion,"

úgy hívott: "intelligencia-robbanás".

that the process could get away from us.

Amikor a fejlődésük kicsúszik a kezünk közül.

Now, this is often caricatured, as I have here,

Sokszor kifigurázzák, mint én is itt,

as a fear that armies of malicious robots

miként rettegünk a rosszindulatú robotok

will attack us.

támadásától.

But that isn't the most likely scenario.

De nem ez a legvalószínűbb forgatókönyv.

It's not that our machines will become spontaneously malevolent.

A gépek nem fognak egyik pillanatról a másikra gonosszá válni.

The concern is really that we will build machines

A valós aggály abban rejlik, hogy olyan gépeket hozunk létre,

that are so much more competent than we are

melyek meghaladják a mi képességeinket,

that the slightest divergence between their goals and our own

és a legapróbb összeférhetetlenség az ő és saját céljaink között

could destroy us.

a végünket jelentheti.

Just think about how we relate to ants.

Csak gondoljatok bele, mi hogyan viszonyulunk a hangyákhoz.

We don't hate them.

Nem utáljuk őket.

We don't go out of our way to harm them.

Nem akarjuk szándékosan bántalmazni őket.

In fact, sometimes we take pains not to harm them.

Sőt, néha megóvásukra áldozatokat is hozunk értük.

We step over them on the sidewalk.

Kikerüljük őket a járdán.

But whenever their presence

De amint összeütközik a jelenlétük

seriously conflicts with one of our goals,

a céljaink megvalósításával,

let's say when constructing a building like this one,

mint például egy ilyen épület felhúzásakor,

we annihilate them without a qualm.

szemrebbenés nélkül kiírtjuk valamennyit.

The concern is that we will one day build machines

A gond az, hogy egy napon olyan gépeket hozunk létre,

that, whether they're conscious or not,

amelyek, akár tudatosak akár nem,

could treat us with similar disregard.

hasonlóképpen viszonyulnak majd hozzánk.

Now, I suspect this seems far-fetched to many of you.

Gondolom, ez sokatok számára, elképzelhetetlennek tűnik.

I bet there are those of you who doubt that superintelligent AI is possible,

Fogadni mernék, hogy egyesek a MI lehetőségét is megkérdőjelezik,

much less inevitable.

mintsem elkerülhetetlennek véljék.

But then you must find something wrong with one of the following assumptions.

De akkor valami mégsem stimmel a következő feltevésekkel.

And there are only three of them.

Amiből mindössze csak három van.

Intelligence is a matter of information processing in physical systems.

Az intelligencia a fizikai rendszerekben feldolgozott információból származik.

Actually, this is a little bit more than an assumption.

Tulajdonképpen, ez kicsivel több puszta feltevésnél.

We have already built narrow intelligence into our machines,

A közvetlen intelligenciát már beépítettük a gépeinkbe,

and many of these machines perform

mely gépek többsége már most

at a level of superhuman intelligence already.

emberfeletti teljesítményekre képes.

And we know that mere matter

Azt is tudjuk, hogy az anyag önmagában

can give rise to what is called "general intelligence,"

életre tudja hívni az úgynevezett "alap intelligenciát,"

an ability to think flexibly across multiple domains,

a különböző tartományokon belüli rugalmas gondolkodás képességét,

because our brains have managed it. Right?

hiszen saját agyunk is képes volt rá, nem igaz?

I mean, there's just atoms in here,

Mivel itt legbelül csak atomok vannak,

and as long as we continue to build systems of atoms

és amíg atomokból álló rendszereket építünk,

that display more and more intelligent behavior,

melyek egyre intelligensebb viselkedést mutatnak,

we will eventually, unless we are interrupted,

akkor egyszer, hacsak nem lépünk közbe,

we will eventually build general intelligence

akkor egyszer megépítjük az alap intelligenciával

into our machines.

rendelkező gépeket.

It's crucial to realize that the rate of progress doesn't matter,

Mindennél fontosabb azonban felismerni, hogy a fejlődés üteme lényegtelen,

because any progress is enough to get us into the end zone.

mert a fejlődés önmagában elegendő ahhoz, hogy célba érjünk.

We don't need Moore's law to continue. We don't need exponential progress.

Nincs szükségünk Moore-törvényre, sem exponenciális növekedésre.

We just need to keep going.

Csak haladnunk kell tovább.

The second assumption is that we will keep going.

A második feltevés, hogy haladunk tovább.

We will continue to improve our intelligent machines.

Egyre intelligensebb gépeket hozunk létre.

And given the value of intelligence --

És ami az intelligencia értékét illeti --

I mean, intelligence is either the source of everything we value

az intelligencia, vagy a forrása a számunkra értékesnek,

or we need it to safeguard everything we value.

vagy megóvja számunkra mindazt, amit értékesnek tartunk.

It is our most valuable resource.

Az egyik legértékesebb erőforrásunk.

So we want to do this.

Szóval megakarjuk alkotni.

We have problems that we desperately need to solve.

Vannak problémák, melyeket haladéktalanul meg kell oldanunk.

We want to cure diseases like Alzheimer's and cancer.

Meg akarjuk gyógyítani az Alzheimert, a rákot és hasonló betegségeket.

We want to understand economic systems. We want to improve our climate science.

Érteni akarjuk a gazdasági rendszereket. Javítani akarjuk a klímaismereteinket.

So we will do this, if we can.

Amint mód van rá, megtesszük ezeket.

The train is already out of the station, and there's no brake to pull.

A vonat már elhagyta az állomást, és nincs fék, amit behúzhatnánk.

Finally, we don't stand on a peak of intelligence,

Végül is nem vagyunk az intelligencia tetőfokán,

or anywhere near it, likely.

de még csak a közelében sem járunk.

And this really is the crucial insight.

És ez itt a lényeges momentum.

This is what makes our situation so precarious,

Ez teszi a helyzetünket különösen bizonytalanná,

and this is what makes our intuitions about risk so unreliable.

és pont ezért megbízhatatlanok a veszélyhez fűződő előérzeteink.

Now, just consider the smartest person who has ever lived.

Képzeljük el a valaha élt legokosabb embert.

On almost everyone's shortlist here is John von Neumann.

Minden bizonnyal Neumann János szerepel mindenki listáján.

I mean, the impression that von Neumann made on the people around him,

Ahogy Neumann hatni tudott a körülötte lévő emberekre,

and this included the greatest mathematicians and physicists of his time,

többek között minden idők legjobb matematikusaira és fizikusaira,

is fairly well-documented.

annak bárki utánajárhat.

If only half the stories about him are half true,

Ha a róla szóló történeteknek csak a fele is igaz,

there's no question

akkor kétségkívül

he's one of the smartest people who has ever lived.

ő a világon valaha élt legokosabb ember.

So consider the spectrum of intelligence.

Képzeljük el az intelligencia tartományát.

Here we have John von Neumann.

Itt van Neumann János.

And then we have you and me.

És itt vagytok ti és én.

And then we have a chicken.

Itt pedig egy csirke.

(Laughter)

(Nevetés)

Sorry, a chicken.

Elnézést, egy kiscsirke.

(Laughter)

(Nevetés)

There's no reason for me to make this talk more depressing than it needs to be.

Nem akarom ezt a beszédet még lesújtóbbá tenni.

(Laughter)

(Nevetés)

It seems overwhelmingly likely, however, that the spectrum of intelligence

Valószínűsíthető, hogy az intelligencia tartománya

extends much further than we currently conceive,

sokkalta tágabb, mint ahogy azt gondolnánk,

and if we build machines that are more intelligent than we are,

és ha magunknál intelligensebb gépeket építünk,

akkor azok valószínűleg olyan területeket tárnak fel,

they will very likely explore this spectrum

in ways that we can't imagine,

melyeket elképzelni sem tudunk,

and exceed us in ways that we can't imagine.

és ott múlnak felül minket, ahol nem is sejtjük.

And it's important to recognize that this is true by virtue of speed alone.

Fontos belátni, hogy ez pusztán a sebességet tekintve már igaz.

Right? So imagine if we just built a superintelligent AI

Ugye? Mi lenne, ha olyan szuperintelligens MI-t hoznánk létre,

that was no smarter than your average team of researchers

ami semmivel sem okosabb egy hétköznapi kutatócsoportnál

at Stanford or MIT.

az MIT-n vagy a Stanford Egyetemen.

Well, electronic circuits function about a million times faster

Az elektronikus áramkörök milliószor gyorsabban működnek,

than biochemical ones,

mint a biokémiaiak,

so this machine should think about a million times faster

ezért ez a gép milliószor gyorsabb gondolkodásra lesz képes,

than the minds that built it.

mind azok az elmék, akik ezt létrehozták.

So you set it running for a week,

Szóval életre kelted, és alig egy hét alatt

and it will perform 20,000 years of human-level intellectual work,

20 000 évnyi emberi szellemi munkát végez el.

week after week after week.

És ezt hétről hétre megismétli.

How could we even understand, much less constrain,

Képtelenség felfogni, nemhogy kordában tartani

a mind making this sort of progress?

egy elmét, ami ilyen mértékű fejlődésre képes.

The other thing that's worrying, frankly,

A másik, ami aggodalomra ad okot, őszintén szólva,

is that, imagine the best case scenario.

ez a legjobb, ami megtörténhet velünk.

So imagine we hit upon a design of superintelligent AI

Képzeljük el, hogy olyan szuperintelligens MI-t alkotunk,

that has no safety concerns.

ami nem rejt biztonsági kockázatokat.

We have the perfect design the first time around.

Rögtön, elsőre létrehozzuk a legtökéletesebb változatát.

It's as though we've been handed an oracle

Mintha kezünkbe kapnánk a mindentudást,

that behaves exactly as intended.

ami pont úgy működik, ahogy kell.

Well, this machine would be the perfect labor-saving device.

Ez a gép lenne a leghatékonyabb munkaerő-helyettesítő berendezés.

It can design the machine that can build the machine

Létrehozná a gépet, amely létrehozná azt a gépet,

amely bármilyen fizikai munkát elvégez,

that can do any physical work,

powered by sunlight,

napenergia hajtja,

more or less for the cost of raw materials.

és költségét csak az anyagköltség okozza.

So we're talking about the end of human drudgery.

Az emberi robotolás végéről beszélünk.

We're also talking about the end of most intellectual work.

De ez egyben a szellemi munka végét is jelenti.

So what would apes like ourselves do in this circumstance?

Vajon ilyen esetben mit tennének a hozzánk hasonló emberszabásúak?

Well, we'd be free to play Frisbee and give each other massages.

Nos, bármikor frizbizhetnénk, vagy masszírozhatnánk egymást.

Add some LSD and some questionable wardrobe choices,

Jöhet egy kis LSD, pár extravagáns ruhadarab,

and the whole world could be like Burning Man.

és az egész világ Burning Manné változhatna.

(Laughter)

(Nevetés)

Now, that might sound pretty good,

Ez tényleg jó mókának hangzik,

but ask yourself what would happen

de tegyétek fel magatoknak a kérdést,

under our current economic and political order?

hogy mi történne a jelenlegi gazdasági és politika rendszerekkel.

It seems likely that we would witness

Azt hiszem, szemtanúi lehetnénk

a level of wealth inequality and unemployment

egy soha nem látott mértékű

jóléti aránytalanságnak és munkanélküliségnek.

that we have never seen before.

Absent a willingness to immediately put this new wealth

Hacsak nem állítanánk ezt az újfajta jólétet

to the service of all humanity,

az emberiség szolgálatába,

a few trillionaires could grace the covers of our business magazines

akkor pár milliárdos villogna az üzleti magazinok címlapján,

while the rest of the world would be free to starve.

miközben a világ többi része éhen pusztulna.

And what would the Russians or the Chinese do

Vajon mit tennének az oroszok vagy a kínaiak,

if they heard that some company in Silicon Valley

ha megtudnák, hogy az egyik Szilícium-völgyben lévő cég

was about to deploy a superintelligent AI?

bevetni készül a szuperintelligens MI-t?

This machine would be capable of waging war,

Ez a gép a hadviselésre is képes lenne,

whether terrestrial or cyber,

akár földön, akár a kibertérben,

with unprecedented power.

soha nem tapasztalt erőfölénnyel.

This is a winner-take-all scenario.

Ez a győztes-mindent-visz forgatókönyv.

To be six months ahead of the competition here

Ezt a versenyt hat hónappal beelőzni,

is to be 500,000 years ahead,

minimum

at a minimum.

500 000 év szükséges.

So it seems that even mere rumors of this kind of breakthrough

Ezért már az ilyen áttörésről szóló leghalványabb pletyka is

could cause our species to go berserk.

fajunk totális megvadulásába torkollhat.

Now, one of the most frightening things,

A legijesztőbb dolog azonban

in my view, at this moment,

- az én meglátásom szerint - jelen pillanatban az,

are the kinds of things that AI researchers say

amit az MI-kutatók mondogatnak,

when they want to be reassuring.

amikor meg akarnak nyugtatni minket.

And the most common reason we're told not to worry is time.

Az aggodalmakra adott leggyakoribb válaszuk az idő.

This is all a long way off, don't you know.

Annyira messze van még, hát nem tudjátok.

This is probably 50 or 100 years away.

50 vagy 100 év is eltelik addig.

One researcher has said,

Az egyik kutató szerint:

"Worrying about AI safety

"A MI biztonsága miatt aggódni olyan,

is like worrying about overpopulation on Mars."

mintha a túlnépesedés miatt aggódnánk a Marson."

This is the Silicon Valley version

Ez a szilícium-völgyi változata annak,

of "don't worry your pretty little head about it."

hogy "ne törd ezen a szép kis buksidat".

(Laughter)

(Nevetés)

No one seems to notice

Senkinek nem tűnik fel,

that referencing the time horizon

hogy az időhorizontra való hivatkozás,

is a total non sequitur.

totál nem passzol a képbe.

If intelligence is just a matter of information processing,

Ha az intelligencia csupán az információ feldolgozásából áll,

and we continue to improve our machines,

és mi folytatjuk a gépek fejlesztését,

we will produce some form of superintelligence.

akkor létre fogunk hozni valamiféle szuperintelligenciát.

And we have no idea how long it will take us

És fogalmunk sincs mennyi időbe telik majd megteremteni

to create the conditions to do that safely.

a biztonságos kivitelezés feltételeit.

Let me say that again.

Hadd ismételjem meg:

We have no idea how long it will take us

Fogalmunk sincs mennyi időbe telik majd megteremteni

to create the conditions to do that safely.

a biztonságos kivitelezés feltételeit.

And if you haven't noticed, 50 years is not what it used to be.

Ha nem tűnt volna fel, az elmúlt 50 év sem olyan, mint az előzőek.

This is 50 years in months.

Ez az 50 év hónapokra bontva.

This is how long we've had the iPhone.

Ilyen régóta létezik az iPhone.

This is how long "The Simpsons" has been on television.

Ilyen régóta megy a tévében a "Simpson család".

Fifty years is not that much time

50 év nem egy hosszú idő,

to meet one of the greatest challenges our species will ever face.

hogy elérkezzünk fajunk egyik legnagyobb kihívásához.

Once again, we seem to be failing to have an appropriate emotional response

Ismétlem: képtelenek vagyunk megfelelő érzelmi reakcióval kezelni,

to what we have every reason to believe is coming.

ami minden kétséget kizáróan előttünk áll.

The computer scientist Stuart Russell has a nice analogy here.

Stuart Russell számítógéptudósnak van egy szép analógiája.

He said, imagine that we received a message from an alien civilization,

Azt mondta: Képzeljük el, hogy kapunk egy üzenetet egy idegen civilizációtól,

which read:

amiben ez áll:

"People of Earth,

"Földi népség,

we will arrive on your planet in 50 years.

50 év múlva érkezünk.

Get ready."

Készüljetek fel!"

And now we're just counting down the months until the mothership lands?

Elkezdenénk visszaszámlálni, amíg meg nem érkezik az anyahajó?

We would feel a little more urgency than we do.

Sokkal sürgetőbbnek éreznénk, mint most.

Another reason we're told not to worry

Az aggodalmakra adott másik válasz,

is that these machines can't help but share our values

hogy ezek a gépek osztják a mi nézeteinket,

because they will be literally extensions of ourselves.

mivel ők a mi saját kiterjesztéseink.

They'll be grafted onto our brains,

Az agyunkba lesznek ültetve,

and we'll essentially become their limbic systems.

aminek folytán limbikus rendszerükké válunk.

Now take a moment to consider

Egyetlen pillanatra gondoljunk csak bele,

that the safest and only prudent path forward,

azt javasolják,

recommended,

hogy az egyetlen biztonságos és megbízható módszer az,

is to implant this technology directly into our brains.

ha ezt a technológiát közvetlenül az agyunkba ültetjük be.

Now, this may in fact be the safest and only prudent path forward,

Nos, lehet, hogy az egyetlen biztonságos és megbízható módszer,

but usually one's safety concerns about a technology

de a technológiák biztonsági kockázatait

have to be pretty much worked out before you stick it inside your head.

alaposan tesztelni kéne, mielőtt bármit bárki fejébe ültetnék.

(Laughter)

(Nevetés)

The deeper problem is that building superintelligent AI on its own

A mélyebb probléma az, hogy egy szuperintelligens MI létrehozása,

már önmagában is egyszerűbbnek bizonyul,

seems likely to be easier

than building superintelligent AI

mint létrehozni a szuperintelligens MI-t,

and having the completed neuroscience

és megalkotni hozzá a szükséges idegtudományt,

that allows us to seamlessly integrate our minds with it.

amely lehetővé teszi a saját elménkkel való gond nélküli összekapcsolását.

And given that the companies and governments doing this work

És mivel az ezen dolgozó vállalatok és kormányok

are likely to perceive themselves as being in a race against all others,

vetélytársként tekintenek egymásra,

given that to win this race is to win the world,

mondván, hogy a verseny győzelme egyben a világ feletti győzelem is,

provided you don't destroy it in the next moment,

hacsak nem rombolják le a következő pillanatban,

then it seems likely that whatever is easier to do

akkor valószínűleg a könnyebb megoldás

will get done first.

fog előbb megvalósulni.

Now, unfortunately, I don't have a solution to this problem,

Nos, sajnos a problémára nem tudom a megoldást.

apart from recommending that more of us think about it.

Csak javasolni tudom, hogy minél többen gondolkodjunk el ezen.

I think we need something like a Manhattan Project

Úgy vélem, szükségünk lenne a mesterséges intelligencia

on the topic of artificial intelligence.

Manhattan-projektjére.

Not to build it, because I think we'll inevitably do that,

Nem a megépítéséhez, mert azt hiszem, ez elkerülhetetlen,

but to understand how to avoid an arms race

hanem hogy megértsük, hogyan kerüljük el a fegyverkezési versenyt,

and to build it in a way that is aligned with our interests.

és hozzuk létre úgy, hogy összhangban legyen az érdekeinkkel.

When you're talking about superintelligent AI

Ha szuperintelligens MI-ról beszélünk,

that can make changes to itself,

amely önmaga megváltoztatására is képes,

it seems that we only have one chance to get the initial conditions right,

akkor egyetlen esélyünk van a kezdeti feltételek helyes meghatározására,

and even then we will need to absorb

és még akkor is szükség lesz az ezzel járó

the economic and political consequences of getting them right.

gazdasági és politikai következmények elfogadására.

But the moment we admit

És amint elfogadjuk,

that information processing is the source of intelligence,

hogy az intelligencia forrása az információ feldolgozásában rejlik,

that some appropriate computational system is what the basis of intelligence is,

és hogy az intelligencia alapja egy megfelelő számítógépes rendszer,

and we admit that we will improve these systems continuously,

és elfogadjuk, hogy ezeket a rendszereket folyamatosan fejleszteni fogjuk,

and we admit that the horizon of cognition very likely far exceeds

és hogy a megismerés horizontja messze meghaladja

what we currently know,

jelenlegi tudásunkat,

then we have to admit

akkor be kell majd látnunk,

that we are in the process of building some sort of god.

hogy valamiféle isten megalkotása felé haladunk.

Now would be a good time

Most van itt a pillanat,

to make sure it's a god we can live with.

hogy olyan istent alkossunk, amellyel együtt is tudunk élni.

Thank you very much.

Nagyon köszönöm.

(Applause)

(Taps)