Jeff Hawkins: How brain science will change computing

Fordító: Zalán Bodó Lektor: Krisztián Pintér

I do two things:

Két dolgot csinálok. Mobil számítógépeket tervezek és az agyat tanulmányozom.

I design mobile computers and I study brains.

Today's talk is about brains and -- (Audience member cheers)

A mai előadás pedig az agyról szól, és ...

Yay! I have a brain fan out there.

hurrá, valahol van egy agy-rajongó.

(Laughter)

(Nevetés)

Ha kérhetném az első slide-omat megjeleníteni,

If I could have my first slide,

látható lesz az előadásom címe és a két vállalatom.

you'll see the title of my talk and my two affiliations.

So what I'm going to talk about is why we don't have a good brain theory,

Amiről tehát beszélni fogok az, hogy miért is nincs egy jó agyelméletünk,

why it is important that we should develop one

miért lenne fontos ennek a kidolgozása, és mit tudunk tenni ennek érdekében.

and what we can do about it.

I'll try to do all that in 20 minutes.

És mindezt megpróbálom 20 perc alatt megtenni. Két vállalatom van.

I have two affiliations.

Most of you know me from my Palm and Handspring days,

A többség bizonyára a Palm és Handspring-es napjaimból ismer,

but I also run a nonprofit scientific research institute

de vezetek egy nonprofit tudományos kutatóintézetet is

called the Redwood Neuroscience Institute in Menlo Park.

a Menlo Parkban, Redwood Neuroscience Institute névvel,

We study theoretical neuroscience and how the neocortex works.

ahol elméleti idegtudománnyal foglalkozunk

és a neokortex működését tanulmányozzuk.

I'm going to talk all about that.

És erről fogok beszélni.

I have one slide on my other life, the computer life,

Van egy slide-om a másik életemről, a számítógépes életről, ez látható most.

and that's this slide here.

These are some of the products I've worked on over the last 20 years,

Ez itt néhány termék, amelyen az utóbbi 20 évben dolgoztam,

starting from the very original laptop

kezdve a laptoptól az első tablet pc-kig

to some of the first tablet computers

and so on, ending up most recently with the Treo,

és így tovább, egészen a legújabb Treo-ig,

and we're continuing to do this.

és ezt a továbbiakban is folytatjuk.

I've done this because I believe mobile computing

Tettem ezeket azért, mert hiszem, hogy a mobil számítástechnika

is the future of personal computing,

a személyi számítástechnika jövője, és ezeken dolgozva

and I'm trying to make the world a little bit better

megpróbálom a világot egy kicsivel jobbá tenni.

by working on these things.

But this was, I admit, all an accident.

De ez, be kell, hogy valljam, a véletlen műve volt.

I really didn't want to do any of these products.

Én valójában nem akartam egyik ilyen terméket sem kifejleszetni,

Very early in my career

és már a pályafutásom kezdetén elhatároztam,

I decided I was not going to be in the computer industry.

hogy nem szállok be a számítógépiparba.

Before that, I just have to tell you

Mielőtt ezt elmesélném, elmondom

about this picture of Graffiti I picked off the web the other day.

a kis Graffitis kép történetét, amit a minap szedtem le a webről.

I was looking for a picture for Graffiti that'll text input language.

A Graffitiről kerestem képet, a kézírásfelismerő programról,

I found a website dedicated to teachers who want to make script-writing things

és találtam egy tanároknak ajánlott weboldalt, akik ilyen

kezírásos betűket akarnak a tábla tetejére tenni,

across the top of their blackboard,

and they had added Graffiti to it, and I'm sorry about that.

és Graffitist is tettek hozzá, szóval bocsánatot kérek.

(Laughter)

(Nevetés)

So what happened was,

Tehát az történt, hogy amikor fiatal voltam és kijöttem a mérnökiről,

when I was young and got out of engineering school at Cornell in '79,

a Cornellről '79-ben, eldöntöttem, hogy elmegyek az Intelhez dolgozni.

I went to work for Intel and was in the computer industry,

and three months into that, I fell in love with something else.

A számítógépiparban voltam, és három hónap alatt

beleszerettem valami másba, és azt mondtam "rossz pályát választottam",

I said, "I made the wrong career choice here,"

and I fell in love with brains.

és beleszerettem az agyba.

This is not a real brain.

Ez nem egy igazi agy. Csak egynek a képe, egy vonalrajz.

This is a picture of one, a line drawing.

And I don't remember exactly how it happened,

Nem emlékszem, pontosan hogy is történt,

but I have one recollection, which was pretty strong in my mind.

de van egy emlékem, ami elég erősen megmaradt a fejemben.

In September of 1979,

1979 szeptemberében a Scientific American

Scientific American came out with a single-topic issue about the brain.

kijött egy tematikus számmal az agyról. És egész jó volt.

It was one of their best issues ever.

A valaha megjelent egyik legjobb szám volt. És beszéltek a neuronról,

They talked about the neuron, development, disease, vision

a fejlődésről, a betegségekről, a látásról és mindenről,

and all the things you might want to know about brains.

amit tudni szeretnénk az agyról. Teljesen lenyűgöző volt.

It was really quite impressive.

One might've had the impression we knew a lot about brains.

És azt a benyomást kelthették, hogy tényleg sokat tudunk az agyról.

But the last article in that issue was written by Francis Crick of DNA fame.

De a szám utolsó cikkét a DNS-ről elhíresült Francis Crick írta.

Today is, I think, the 50th anniversary of the discovery of DNA.

Ma, azt hiszem, a DNS felfedezésének 50-edik születésnapját ünnepeljük.

And he wrote a story basically saying, this is all well and good,

És ő írt egy történetet, amelyben alapjában véve azt mondja,

hogy ez mind nagyon szép és jó, de mondok valamit,

but you know, we don't know diddly squat about brains,

az égvilágon semmit sem tudunk az agyról

and no one has a clue how they work,

és halvány gőze sincs senkinek arról, hogyan működenek ezek a dolgok,

so don't believe what anyone tells you.

tehát ne higgyétek el, amit mások mondanak nektek.

This is a quote from that article, he says:

Egy idézet a cikkből. Azt mondta "Ami szembetűnően hiányzik,"

"What is conspicuously lacking" -- he's a very proper British gentleman --

ő egy valódi angol úriember, tehát "Ami szembetűnően hiányzik,

"What is conspicuously lacking is a broad framework of ideas

az egy átfogó keretrendszer, amelyben értelmeznénk ezeket az eltérő megközelítéseket."

in which to interpret these different approaches."

I thought the word "framework" was great.

Azt gondoltam, hogy a keretrendszer szó nagyszerű.

He didn't say we didn't have a theory.

Nem mondja, hogy még csak elméletünk sincs. Azt mondja,

He says we don't even know how to begin to think about it.

hogy még csak azt sem tudjuk, hogyan kezdjünk el gondolkozni róla,

még csak egy keretrendszerünk sincs.

We don't even have a framework.

Thomas Kuhn szavait használva, a pre-paradigma napjaiban élünk.

We are in the pre-paradigm days, if you want to use Thomas Kuhn.

És így beleszerettem ebbe, és azt mondtam, nézd,

So I fell in love with this.

I said, look: We have all this knowledge about brains -- how hard can it be?

ismerjük ezeket a dolgokat az agyról. Mennyire lehet ez nehéz?

It's something we can work on in my lifetime; I could make a difference.

Ezen egy életen át lehet dolgozni. Úgy éreztem, hogy itt tudnék valamit tenni,

So I tried to get out of the computer business, into the brain business.

ezért megpróbáltam átlépni a számítógépes üzletből az agy-üzletbe.

First, I went to MIT, the AI lab was there.

Először elmentem az MIT-hoz, az MI laboratóriumba,

I said, I want to build intelligent machines too,

és azt mondtam, hogy nos, én is intelligens gépeket akarok építeni,

but I want to study how brains work first.

de oly módon, hogy először az agy működését tanulmányozom.

And they said, "Oh, you don't need to do that.

És ők azt mondták, hogy ó, nincs arra szükség.

You're just going to program computers, that's all.

Mi csak számítógépeket programozunk, ennyi nekünk elég.

I said, you really ought to study brains.

Azt mondtam, tényleg tanulmányoznotok kellene az agyat. Ők azt mondták,

They said, "No, you're wrong."

I said, "No, you're wrong," and I didn't get in.

tévedsz. Erre én azt mondtam, ti tévedtek, és nem kerültem be.

(Laughter)

(Nevetés)

I was a little disappointed -- pretty young --

Egy kicsit csalódott voltam, és eléggé fiatal, de néhány évvel később

but I went back again a few years later,

visszamentem, ezúttal Kaliforniába, és elmentem a Berkeley-re.

this time in California, and I went to Berkeley.

És azt gondoltam, a biológiai oldalról fogom megközelíteni.

And I said, I'll go in from the biological side.

So I got in the PhD program in biophysics.

Tehát bejutottam a doktorátusra biofizikából, és azt gondoltam, rendben,

I was like, I'm studying brains now. Well, I want to study theory.

mostmár az agyat tanulmányozom. Az elméletet akartam tanulmányozni.

They said, "You can't study theory about brains.

Erre ők azt mondták, hogy ó, nem, nem tanulmányozhatod az agy elméletét.

You can't get funded for that.

Ezt nem fogod csinálni. Erre nem kapsz finanszírozást.

And as a graduate student, you can't do that."

És végzős hallgatóként ezt nem teheted. Erre azt gondoltam, ó, istenem.

So I said, oh my gosh.

I was depressed; I said, but I can make a difference in this field.

Nagyon szomorú lettem. Azt mondtam, én akkor is el tudok érni valamit.

Így azt tettem, hogy visszatértem a számítógépiparhoz,

I went back in the computer industry

and said, I'll have to work here for a while.

és azt mondtam magamnak, nos, itt kell dolgozz egy ideig, csinálj valamit.

That's when I designed all those computer products.

Ekkor terveztem azokat a számítógépes termékeket.

(Laughter)

(Nevetés)

I said, I want to do this for four years, make some money,

És azt mondtam, hogy négy évig csinálom ezt, szerzek egy kis pénzt,

I was having a family, and I would mature a bit,

mivel családom is volt, és kicsit érettebbé válok,

and maybe the business of neuroscience would mature a bit.

és hátha az idegtudomány is érettebbé válik egy kicsit.

Well, it took longer than four years. It's been about 16 years.

Hát, tovább tartott négy évnél. Körülbelül 16 évet.

But I'm doing it now, and I'm going to tell you about it.

De most ezt csinálom, és erről fogok beszélni.

So why should we have a good brain theory?

Miért lenne szükségünk egy jó agyelméletre?

Well, there's lots of reasons people do science.

Hát, elég sok oka van annak, hogy az emberek tudománnyal foglalkoznak.

The most basic one is, people like to know things.

Az egyik, a legalapvetőbb az, hogy az emberek szeretnek megtudni dolgokat.

We're curious, and we go out and get knowledge.

Kíváncsiak vagyunk, elmegyünk és megszerezzük a tudást.

Why do we study ants? It's interesting.

Miért tanulmányozzuk a hangyákat? Hát, mert érdekes.

Maybe we'll learn something useful, but it's interesting and fascinating.

Lehet, hogy megtudunk valami ténylegesen hasznosat is, de érdekes és lenyűgöző.

But sometimes a science has other attributes

De néha más sajátosságai

which makes it really interesting.

teszik a tudományt igazán érdekfeszítővé.

Sometimes a science will tell something about ourselves;

Egy tudomány olykor saját magunkról mond el valamit,

it'll tell us who we are.

megmondja, kik vagyunk.

Evolution did this and Copernicus did this,

Az evolúció megmagyarázta, Kopernikusz megmagyarázta,

where we have a new understanding of who we are.

és egy új magyarázatot kaptunk arra, hogy kik is vagyunk.

And after all, we are our brains. My brain is talking to your brain.

És elvégre mi a saját agyunk vagyunk. Az én agyam a te agyadhoz beszél.

Our bodies are hanging along for the ride,

A testünk is ott van, de az agyam beszél a te a agyadhoz.

but my brain is talking to your brain.

And if we want to understand who we are and how we feel and perceive,

És ha meg akarjuk érteni, kik vagyunk és hogyan érzünk és érzékelünk,

valójában az agyunkat akarjuk megérteni.

we need to understand brains.

Another thing is sometimes science leads to big societal benefits, technologies,

Másrészt a tudomány néha

nagy társadalmi haszonhoz, technológiához

or businesses or whatever.

vagy üzletekhez vezet, vagy akármihez. És ez is az,

This is one, too, because when we understand how brains work,

mivel ha megértjük, hogyan műküdik az agy, képesek leszünk

we'll be able to build intelligent machines.

intelligens gépeket építeni, és úgy gondolom, hogy ez egészében véve jó dolog,

That's a good thing on the whole,

with tremendous benefits to society,

és óriási hasznára válik a társadalomnak,

just like a fundamental technology.

mint egy alapvető technológia.

So why don't we have a good theory of brains?

Tehát miért is nincs egy jó elméletünk az agyról?

People have been working on it for 100 years.

Pedig 100 éve dolgoznak rajta az emberek.

Let's first take a look at what normal science looks like.

Először is nézzük meg, hogyan is néz ki egy normális tudomány.

This is normal science.

Ez egy normális tudomány.

Normal science is a nice balance between theory and experimentalists.

Egy normális tudomány egy szép egyensúly az elmélet és a kísérlet között.

The theorist guy says, "I think this is what's going on,"

Az elméleti fickók azt mondják, nos, azt hiszem ez megy végbe,

the experimentalist says, "You're wrong."

a kísérletezők pedig azt mondják, nem, tévedsz.

It goes back and forth, this works in physics, this in geology.

És ez így megy oda-vissza.

Ez működik a fizikában. Működik a geológiában. De ha ez a normális tudomány,

But if this is normal science, what does neuroscience look like?

hogyan néz ki az idegtudomány? Így néz ki az idegtudomány.

This is what neuroscience looks like.

Van ez a hegyoldalnyi adat, ami valójában anatómia, pszichológia és viselkedés.

We have this mountain of data,

which is anatomy, physiology and behavior.

You can't imagine how much detail we know about brains.

El sem tudják képzelni, mennyi részletet tudunk az agyról.

There were 28,000 people who went to the neuroscience conference this year,

Összesen 28000 ember vett részt az idei idegtudományi konferencián,

and every one of them is doing research in brains.

és mindegyikük az agyat kutatja.

A lot of data, but no theory.

Rengeteg adat. De nincs elmélet. Ott van egy kicsi tehetetlen doboz az egésznek a tetején.

There's a little wimpy box on top there.

And theory has not played a role in any sort of grand way

Az elmélet soha nem kapott nagy szerepet a idegtudományban.

in the neurosciences.

And it's a real shame.

És ez egy igazi szégyen. Miért történt mindez?

Now, why has this come about?

If you ask neuroscientists why is this the state of affairs,

Ha megkérdezzük a idegtudósokat, hogy miért ez a helyzet?

first, they'll admit it.

Először is bevallják, hogy így van. De ha megkérdezzük őket, azt fogják mondani,

But if you ask them, they say,

there's various reasons we don't have a good brain theory.

nos, többféle oka is van annak, hogy nincs egy jó agyelméletünk.

Some say we still don't have enough data,

Egyesek azt mondják, hogy még mindig nincs elég adatunk,

we need more information, there's all these things we don't know.

több információra van szükség, itt van ez a csomó dolog, amit nem tudunk.

Well, I just told you there's data coming out of your ears.

Nemrég mondtam, olyan sok adatunk van, hogy már a fülünkön is az folyik ki.

We have so much information, we don't even know how to organize it.

Nagyon sok információnk van, de nem tudjuk, hogyan rendezzük azokat.

What good is more going to do?

Mire lenne jó ennél is több?

Maybe we'll be lucky and discover some magic thing, but I don't think so.

Talán szerencsénk lesz és felfedezünk valamilyen mágikus dolgot, ezt nem igazán hiszem.

This is a symptom of the fact that we just don't have a theory.

Ez tulajdonképpen annak a tünete, hogy nincs elméletünk.

We don't need more data, we need a good theory.

Nincs szükségünk több adatra, egy jó elméletre van szükségünk azokra vonatkozóan.

Another one is sometimes people say,

Néha az emberek azt mondják, hogy az agy annyira bonyolult,

"Brains are so complex, it'll take another 50 years."

még 50 évbe beletelik.

I even think Chris said something like this yesterday, something like,

Azt hiszem, éppen Chris mondott valami hasonlót tegnap.

Nem vagyok benne biztos, hogy mit mondtál, Chris, de valami olyasmit,

it's one of the most complicated things in the universe.

hogy az egyik legbonyolultabb dolog a világegyetemben. Ez nem igaz.

That's not true -- you're more complicated than your brain.

Te sokkal bonyolultabb vagy az agyadnál. Neked részed az agyad.

You've got a brain.

És habár az agy nagyon bonyolultnak tűnik,

And although the brain looks very complicated,

a dolgok csak addig tűnnek bonyolultnak, amíg meg nem értjük őket.

things look complicated until you understand them.

That's always been the case.

Mindig is ez volt a helyzet. Mondhatjuk, hogy

So we can say, my neocortex, the part of the brain I'm interested in,

a neokortexem, az agyterület, ami engem érdekel, 30 milliárd sejtet tartalmaz.

has 30 billion cells.

But, you know what? It's very, very regular.

De mondjak valamit? Nagyon, de nagyon szabályos.

In fact, it looks like it's the same thing repeated over and over again.

Tulajdonképpen ugyanaz a dolog van megismételve sokszor egymás után.

It's not as complex as it looks. That's not the issue.

Nem olyan összetett, mint ahogy látszik. Nem ez a lényeg.

Some people say, brains can't understand brains.

Egyesek azt mondják, az agy nem tudja megérteni az agyat.

Very Zen-like. Woo.

Nagyon zenként hangzik. Úú. Tudják ...

(Laughter)

(Nevetés)

You know, it sounds good, but why? I mean, what's the point?

Hangzani jól hangzik, de miért? Úgy értem, mi az értelme?

It's just a bunch of cells. You understand your liver.

Csak egy halom sejt. A tündőnket értjük.

It's got a lot of cells in it too, right?

Abban is egy halom sejt van, igaz?

So, you know, I don't think there's anything to that.

Ezért én nem hiszem, hogy ennél több lenne.

And finally, some people say,

Erre egyes emberek azt mondják, hogy

"I don't feel like a bunch of cells -- I'm conscious.

én nem egy kupac sejtnek érzem magam. Én tudatos vagyok.

I've got this experience, I'm in the world.

Tudatos vagyok, a világon vagyok.

I can't be just a bunch of cells."

Nem lehetek csak egy kupac sejt. Nos,

Well, people used to believe there was a life force to be living,

az emberek hajlamosak azt hinni, hogy létezett egy bizonyos életerő, amely az életet létrehozta,

and we now know that's really not true at all.

de ma már tudjuk, hogy ez egyáltalán nem igaz.

And there's really no evidence,

És valójában nincs olyan bizonyíték, az emberek

other than that people just disbelieve that cells can do what they do.

hitetlenkedésén túl, hogy a sejtek képesek minderre.

So some people have fallen into the pit of metaphysical dualism,

Még ha néhányan bele is estek a metafizikai dualizmus vermébe,

some really smart people, too, but we can reject all that.

néhány igazán eszes ember is, elvethetjük ezt az egészet.

(Laughter)

(Nevetés)

Nem, én elmondom önöknek, hogy másról van szó,

No, there's something else,

something really fundamental, and it is:

egy nagyon alapvető dologról, és ez a következő:

another reason why we don't have a good brain theory

egy másik oka annak, hogy nincs egy jó agyelméletünk az,

is because we have an intuitive, strongly held but incorrect assumption

hogy egy intuitív, beidegződött

de helytelen feltevésünk meggátolt minket a válasz meglátásától.

that has prevented us from seeing the answer.

There's something we believe that just, it's obvious, but it's wrong.

Van valami, amit nyilvánvalónak tartunk, de helytelenül.

Now, there's a history of this in science and before I tell you what it is,

Ennek múltja van a tudományban, és mielőtt elmondanám, hogy mi is ez,

I'll tell you about the history of it in science.

elmondok egy keveset ennek múltjáról a tudományban.

Look at other scientific revolutions --

Most néhány forradalmi jelentőségű tudományos felfedezést láthatnak,

the solar system, that's Copernicus,

éspedig a naprendszert, ez Kopernikusz nevéhez fűződik,

Darwin's evolution, and tectonic plates, that's Wegener.

Darwin evolúcióelméletét és a lemeztektonikát, ami Wegener elmélete.

Mindegyik sok hasonlóságot mutat az agytudománnyal.

They all have a lot in common with brain science.

First, they had a lot of unexplained data. A lot of it.

Először is mindenhol nagyon sok tisztázatlan adat volt. Nagyon sok.

But it got more manageable once they had a theory.

De egyből kezelhetőbbé vált, amint volt egy elmélet.

The best minds were stumped -- really smart people.

A legnagyobb elméket, a nagyon de nagyon eszes embereket is zavarba ejtették.

We're not smarter now than they were then;

Mi sem vagyunk okosabbak, mint ők voltak akkor.

it just turns out it's really hard to think of things,

Rájövünk, hogy nagyon nehéz gondolkodni a dolgokról,

but once you've thought of them, it's easy to understand.

de ha egyszer gondolkoztunk, elég könnyen megértjük azokat.

My daughters understood these three theories,

A lányaim is megértették ezt a három elméletet

még óvodás korukban.

in their basic framework, in kindergarten.

It's not that hard -- here's the apple, here's the orange,

Nem olyan nehéz, tudják, itt az alma, itt a narancs,

the Earth goes around, that kind of stuff.

a Föld körbemegy, valahogy így.

Another thing is the answer was there all along,

Valójában a válasz mindvégig ott volt,

but we kind of ignored it because of this obvious thing.

de valahogy figyelmen kívül hagytuk emiatt a magától értetődőség miatt, és ez az a valami.

It was an intuitive, strongly held belief that was wrong.

Egy intuitív, beidegződött meggyőződés, ami helytelen volt.

In the case of the solar system,

A naprendszer esetében a gondolat, hogy a Föld forog,

the idea that the Earth is spinning,

the surface is going a thousand miles an hour,

és a Föld felülete körülbelül ezer mérföldes sebességgel mozog,

and it's going through the solar system at a million miles an hour --

és a Föld körülbelül egymillió mérföldes sebességgel száguld a naprendszeren keresztül.

this is lunacy; we all know the Earth isn't moving.

Ez őrültség. Mindannyian tudjuk, hogy a Föld nem mozog.

Do you feel like you're moving a thousand miles an hour?

Te úgy érzed, hogy ezer mérföldes sebességgel mozogsz?

Persze, hogy nem. Ha valaki azt mondta volna,

If you said Earth was spinning around in space and was huge --

hogy körbe forog az űrben és olyan hatalmas,

they would lock you up, that's what they did back then.

azt bezárták volna, és ezt meg is tették akkoriban.

(Nevetés)

So it was intuitive and obvious. Now, what about evolution?

Tehát intuitív és nyilvánvaló volt. Mi a helyzet az evolúcióval?

Evolution, same thing.

Az evolúció ugyanaz a mese. Azt tanítottuk a gyermekeinknek, hogy a Biblia azt mondja,

We taught our kids the Bible says God created all these species,

Isten teremtette az összes fajt, a macskák macskák, a kutyák kutyák,

cats are cats; dogs are dogs; people are people; plants are plants;

az emberek emberek, a növények növények, és ezek nem változnak.

they don't change.

Noé ilyen sorrendben vitte fel őket a bárkájára, bla, bla, bla. A helyzet az,

Noah put them on the ark in that order, blah, blah.

The fact is, if you believe in evolution, we all have a common ancestor.

hogy ha hiszünk az evolúciónak, akkor egyetlen közös őstől származunk,

We all have a common ancestor with the plant in the lobby!

és nekünk valamint az előszobai növénynek közös őseink vannak.

This is what evolution tells us. And it's true. It's kind of unbelievable.

Ezt mondja nekünk az evolúció. És ez az igazság. Mennyire hihetetlen.

And the same thing about tectonic plates.

És ugyanez a helyzet a tektonikai lemezekkel is.

All the mountains and the continents

Az összes hegy és kontinens valahogy

are kind of floating around on top of the Earth.

a Föld tetején úszik. Ennek sincs semmi értelme.

It doesn't make any sense.

So what is the intuitive, but incorrect assumption,

Tehát, mi az az intuitív de helytelen feltevés,

that's kept us from understanding brains?

ami meggátolt minket az agy megértésében?

I'll tell you. It'll seem obvious that it's correct. That's the point.

Ezt fogom most most elmondani, és nyilvánvaló lesz, hogy ez helyes,

és ez a lényeg, rendben? Ezután meg kell majd indokolnom,

Then I'll make an argument why you're incorrect on the other assumption.

hogy miért is tévednek a másik feltevéssel kapcsolatban.

The intuitive but obvious thing is:

Az intuitív, de nyilvánvaló dolog az, hogy valamilyen módon az intelligenciát

somehow, intelligence is defined by behavior;

a viselkedés határozza meg,

we're intelligent because of how we do things

vagyis intelligensek vagyunk, amiatt ahogyan teszünk dolgokat

and how we behave intelligently.

és mert intelligensen viselkedünk, de elárulom, hogy ez helytelen.

And I'm going to tell you that's wrong.

Intelligence is defined by prediction.

Valójában az intelligenciát a predikció határozza meg.

I'm going to work you through this in a few slides,

A következő néhány slide-on ezen fogunk végigmenni,

and give you an example of what this means.

és adok egy példát arra, hogy ez mit is jelent. Ez egy rendszer.

Here's a system.

Engineers and scientists like to look at systems like this.

A mérnökök szeretnek így tekinteni egy rendszerre. A tudósok szeretnek így tekinteni egy rendszerre.

They say, we have a thing in a box. We have its inputs and outputs.

Azt mondják, van valami egy dobozban, továbbá vannak bemeneteink es kimeneteink.

The AI people said, the thing in the box is a programmable computer,

Az MI-sek azt mondják, hogy a dolog a dobozban egy programozható számítógép,

because it's equivalent to a brain.

mivel az egyenértékű egy aggyal, adunk neki valamilyen bemenetet,

We'll feed it some inputs and get it to do something, have some behavior.

és az produkálni fog valamit, valamilyen viselkedést.

Alan Turing definiálta a Turing-tesztet, ami tulajdonképpen azt mondja,

Alan Turing defined the Turing test, which essentially says,

hogy valami intelligens, ha az emberhez hasonlóan viselkedik.

we'll know if something's intelligent if it behaves identical to a human --

Az intelligenciának egy viselkedési metrikája,

a behavioral metric of what intelligence is

that has stuck in our minds for a long time.

amely hosszú ideig megragadt az eszünkben.

Reality, though -- I call it real intelligence.

A valóságot azonban én az igazi intelligenciának nevezem.

Real intelligence is built on something else.

Az igazi intelligencia valami máson alapszik.

We experience the world through a sequence of patterns,

A világot minták sorozatán keresztül ismerjük meg, eltároljuk azokat,

and we store them, and we recall them.

majd visszaemlékezünk rájuk. És amikor visszaemlékszünk, összevetjük azokat

When we recall them, we match them up against reality,

a valósággal, és minden alkalommal jóslást végzünk.

and we're making predictions all the time.

It's an internal metric; there's an internal metric about us,

Ez egy állandó metrika. Van egy állandó metrika, amely valami olyasmit mond,

saying, do we understand the world, am I making predictions, and so on.

értjük mi a világot? Most jóslásokat végzek? És így tovább.

You're all being intelligent now, but you're not doing anything.

Mindenki önök közül intelligens, pedig nem is csinálnak semmit.

Lehet, hogy egyesek vakaróznak, piszkálják az orrukat,

Maybe you're scratching yourself, but you're not doing anything.

nem tudom, de épp most nem csinálnak semmit,

But you're being intelligent; you're understanding what I'm saying.

azonban intelligensek, értik, amit mondok.

Because you're intelligent and you speak English,

Mivel mindenki intelligens és beszél angolul,

you know the word at the end of this

ezért tudják, hogy milyen

szó lesz a végén ennek a ... mondatnak.

sentence.

The word came to you; you make these predictions all the time.

Megtalálták a szót, és ilyen predikciókat végeznek minden alkalommal.

What I'm saying is,

Az akarom mondani,

the internal prediction is the output in the neocortex,

hogy az állandó jóslás a neokortex kimenete.

És valahogyan a jóslás intelligens viselkedéshez vezet.

and somehow, prediction leads to intelligent behavior.

Here's how that happens:

És ez a következőképpen történik. Kezdjük egy nem-intelligens aggyal.

Let's start with a non-intelligent brain.

Egy nem-intelligens aggyal fogok érvelni, vegyünk egy régi agyat,

I'll argue a non-intelligent brain, we'll call it an old brain.

And we'll say it's a non-mammal, like a reptile,

mondjuk egy nem-emlős agyat, például hüllőt,

say, an alligator; we have an alligator.

például egy aligátort. Van egy aligátorunk.

And the alligator has some very sophisticated senses.

Az aligátornak nagyon kifinomult érzékei vannak.

It's got good eyes and ears and touch senses and so on,

Nagyon jó szeme van és hallása és tapintóérzéke és így tovább,

a mouth and a nose.

szája és orra. Nagyon bonyolult viselkedéssel rendelkezik.

It has very complex behavior.

It can run and hide. It has fears and emotions. It can eat you.

Tud szaladni és el tud rejtőzni. Vannak félelmei és érzelmei. Meg tudja enni önöket.

It can attack. It can do all kinds of stuff.

Tud támadni. Mindenféle dolgot tud csinálni.

But we don't consider the alligator very intelligent,

De mi nem igazán tekintjük az aligátort nagyon intelligensnek, legalábbis nem úgy mint az embereket.

not in a human sort of way.

But it has all this complex behavior already.

De akkor is rendelkezik ezzel a bonyolult viselkedéssel.

Now in evolution, what happened?

Mi történt az evolúció során?

First thing that happened in evolution with mammals

Az első dolog, ami az evolúció során történt az emlősökkel az,

is we started to develop a thing called the neocortex.

hogy elkezdtük kifejleszteni ezt a neokortexnek nevezett dolgot.

I'm going to represent the neocortex by this box on top of the old brain.

Itt a neokortexet ez a kis doboz

fogja ábrázolni, a régi agy tetejére illesztve.

Neocortex means "new layer." It's a new layer on top of your brain.

A neokortex egy új réteget jelent. Egy új réteget az agyunkon.

It's the wrinkly thing on the top of your head

Ha még nem ismerik, ez az a barázdás dolog a fejünk tetején, ami

that got wrinkly because it got shoved in there and doesn't fit.

azért lett barázdás, mert betuszkolták oda és nem fér el.

(Laughter)

(Nevetés)

Literally, it's about the size of a table napkin

Nem, tényleg, ez így van. Körülbelül egy asztalkendő méretű.

and doesn't fit, so it's wrinkly.

És nem fér el, tehát összegyűrődik. Most figyeljék meg, hogyan rajzoltam itt le.

Now, look at how I've drawn this.

The old brain is still there.

A régi agy még mindig itt van. Mindenkinek aligátoragya van.

You still have that alligator brain. You do. It's your emotional brain.

Mindenkinek. Ez az érzelmi agyunk.

It's all those gut reactions you have.

Mindezek a dolgok és az ösztönös reakcióink.

On top of it, we have this memory system called the neocortex.

És mindennek a tetején ott van ez a memóriarendszer, amit neokortexnek nevezünk.

And the memory system is sitting over the sensory part of the brain.

És a memóriarendszer az agy érzékelési részén ül.

So as the sensory input comes in and feeds from the old brain,

És így, amint az érzékelt dolog bejön majd továbbmegy a régi agyból,

it also goes up into the neocortex.

felmegy a neokortexbe is. És a neokortex csak tárol.

And the neocortex is just memorizing.

It's sitting there saying, I'm going to memorize all the things going on:

Ott ül és azt mondja, eltárolok minden dolgot amit történik,

where I've been, people I've seen, things I've heard, and so on.

ahol voltam, az embereket, akiket láttam, a dolgokat, amit hallottam, és így tovább.

And in the future, when it sees something similar to that again,

És a jövőben, ha valami ezekhez hasonlót lát,

in a similar environment, or the exact same environment,

tehát egy hasonló környezetben vagy ugyanabban a környezetben,

it'll start playing it back: "Oh, I've been here before,"

akkor visszajátssza. Elkezdi visszajátszani.

Ó, jártam én már itt. És amikor ezelőtt itt voltunk,

and when you were here before, this happened next.

ez történt ezután. Lehetővé teszi, hogy megjósoljuk a jövőt.

It allows you to predict the future.

It literally feeds back the signals into your brain;

Szó szerint visszacsatolja a jeleket az agyunkba,

they'll let you see what's going to happen next,

megmutatja mi fog történni a következő pillanatban,

will let you hear the word "sentence" before I said it.

megmondja a "mondat" szót, mielőtt én kimondanám.

And it's this feeding back into the old brain

És ez a régi agyba való visszacsatolás az,

that will allow you to make more intelligent decisions.

ami alapján sokkal intelligensebb döntésekre vagyunk képesek.

This is the most important slide of my talk, so I'll dwell on it a little.

Ez az előadásom legfontosabb slide-ja, ezért el fogok időzni kicsit ennél.

And all the time you say, "Oh, I can predict things,"

Tehát egyfolytában azt mondjuk, ó, meg tudom jósolni a dolgokat.

so if you're a rat and you go through a maze, and you learn the maze,

És ha egy patkány vagyok és keresztülmegyek egy labirintuson, és megtanulom a labirintust,

next time you're in one, you have the same behavior.

a következő alkalommal, amikor egy labirintusban leszek, ugyanúgy fogok viselkedni,

But suddenly, you're smarter; you say, "I recognize this maze,

de hirtelen sokkal okosabb leszek,

mert felismerem a labirintust, tudom, merre kell mennem,

I know which way to go; I've been here before; I can envision the future."

már jártam itt, előre tudom vetíteni a jövőt. És ez az mit csinál.

That's what it's doing.

This is true for all mammals --

Az emberek esetében, egyébként ez igaz minden emlősre,

in humans, it got a lot worse.

igaz más emlősökre, de az emberek esetén ez sokkal rosszabb lett.

Humans actually developed the front of the neocortex,

Mi, az emberek, kifejlesztettük a neokortex egy új részét,

called the anterior part of the neocortex.

amit a neokortex elülső részének hívunk. És a természet elkövetett egy csínyt.

And nature did a little trick.

It copied the posterior, the back part, which is sensory,

Lemásolta a hátsó, vagyis az érzékelő részt,

and put it in the front.

és betette az elülső részbe.

Humans uniquely have the same mechanism on the front,

És az emberekben egyedülálló módon ugyanaz a mechanizmus a frontális részben,

but we use it for motor control.

de ezt a motoros funckiókra használjuk.

So we're now able to do very sophisticated motor planning, things like that.

Így mostmár nagyon kifinomult mozgásterveket tudunk készíteni.

I don't have time to explain, but to understand how a brain works,

Nincs rá idő, hogy igazán belemenjek ezekbe, de ha meg akarjuk érteni, hogyan működik az agy,

you have to understand how the first part of the mammalian neocortex works,

meg kell értenünk, hogyan működik az emlősök neokortexének első része,

hogyan tároljuk a mintákat és hogyan jósolunk.

how it is we store patterns and make predictions.

Hadd mutassak be néhány jóslási példát.

Let me give you a few examples of predictions.

I already said the word "sentence."

Már elmondtam a mondatos dolgot. A zenében,

In music, if you've heard a song before,

ha hallottunk egy dalt valamikor, ha már hallottuk Jillt énekelni azokat a dalokat,

when you hear it, the next note pops into your head already --

amikor énekel, a rákövetkező hang egyből beugrik a fejünkbe,

you anticipate it.

előre halljuk menet közben. Ha egy zenealbumról van szó,

With an album, at the end of a song, the next song pops into your head.

a szám végén beugrik a következő dal.

It happens all the time, you make predictions.

És ezek a dolgok egyfolytában megtörténnek. Ilyen jóslásokat végzünk.

I have this thing called the "altered door" thought experiment.

Van ez a dolog, amit a megváltozott ajtó kísérletének hívunk.

It says, you have a door at home;

A megváltozott ajtó kísérlete úgy szól, hogy van egy ajtód otthon,

when you're here, I'm changing it --

és amíg te itt vagy, én megváltoztatom. Most épp ott van

I've got a guy back at your house right now, moving the door around,

egy fickó a házadnál, épp az ajtót piszkálgatja,

moving your doorknob over two inches.

majd le fogja venni a kilincsgombot és két hüvelykkel feljebb teszi.

When you go home tonight, you'll put your hand out, reach for the doorknob,

És amikor ma este hazamész, kinyújtod a kezed,

el akarod majd érni a kilincsgombot, és észreveszed,

notice it's in the wrong spot

hogy rossz helyen van, és azt mondod, várjunk csak, valami történt.

and go, "Whoa, something happened."

It may take a second, but something happened.

Beletelhet egy másodpercbe, hogy rágyere mi is az, de valami történt.

I can change your doorknob in other ways --

Sokféleképpen meg lehetne még változtatni a kilincsgombot.

make it larger, smaller, change its brass to silver, make it a lever,

Lehetne nagyobb vagy kisebb, rézből ezüst,

kicserélhetem fogantyúsra. Vagy magát az ajtót befesthetném,

I can change the door; put colors on, put windows in.

tehetnék rá ablakokat. Ezer dolgot megváltoztathatnék az ajtódon,

I can change a thousand things about your door

de a két másodperc alatt, amíg kinyitnád az ajtót

and in the two seconds you take to open it,

észrevennéd, hogy valami megváltozott.

you'll notice something has changed.

Now, the engineering approach, the AI approach to this,

A mérnöki megközelítése ennek, az MI megközelítés az

is to build a door database with all the door attributes.

hogy készítünk egy ajtóadatbázist. Ez minden ajtóattribútumot tartalmaz.

And as you go up to the door, we check them off one at time:

És ahogy az ajtó felé mész, megvizsgáljuk azokat, egyszerre csak egyet.

door, door, color ...

Ajtó, ajtó, ajtó, szín, értik, amit mondok.

We don't do that. Your brain doesn't do that.

Ilyet nem csinálunk. Az agyunk nem csinál ilyet.

Your brain is making constant predictions all the time

Amit az agyunk tesz az az állandó jóslás egész idő alatt

about what will happen in your environment.

arról, hogy mi fog történni a környezetünkben.

As I put my hand on this table, I expect to feel it stop.

Ahogy ráteszem a kezem erre az asztalra, azt várom, hogy érezzem, az megállítja.

When I walk, every step, if I missed it by an eighth of an inch,

Amikor megyek, minden egynyolcad hüvelykkel elvétett lépésnél

I'll know something has changed.

tudom, hogy valami megváltozott.

You're constantly making predictions about your environment.

Állandóan jóslásokat végzünk a környezetünkről.

I'll talk about vision, briefly.

Beszélek röviden a látásról is. Ez a kép egy hölgyet ábrázol.

This is a picture of a woman.

When we look at people, our eyes saccade over two to three times a second.

Amikor egy emberre nézünk, a szemünket másodpercenként

kétszer vagy háromszor elkapjuk.

We're not aware of it, but our eyes are always moving.

Nem vagyunk tudatában ennek, de a szemünk egyfolytában mozog.

Ha valakinek az arcát nézzük,

When we look at a face, we typically go from eye to eye to nose to mouth.

akkor az egyik szeméről a másikra, vissza, az orrára, a szájára nézünk.

When your eye moves from eye to eye,

Amikor a szemünk az egyik szemről a másikra megy,

if there was something else there like a nose,

ha ott valami mást talál, mondjuk egy orrot,

you'd see a nose where an eye is supposed to be and go, "Oh, shit!"

ha egy orrot látunk ott ahol egy szemnek kellene lennie,

akkor azt mondjuk, basszus ...

(Laughter)

"There's something wrong about this person."

(Nevetés)

Valami baj van ezzel az alakkal.

That's because you're making a prediction.

És ez azért van, mert jóslást végzünk.

It's not like you just look over and say, "What am I seeing? A nose? OK."

Nem úgy, hogy csak végigpillantunk és azt mondjuk, mit is látok én most?

Egy orrot, az rendben van. Nem, van egy elvárásunk, hogy mit kellene látnunk.

No, you have an expectation of what you're going to see.

(Nevetés)

Every single moment.

Minden egyes pillanatban. Végül gondoljuk meg, hogyan vizsgáljuk az intelligenciát.

And finally, let's think about how we test intelligence.

We test it by prediction: What is the next word in this ...?

Jóslással vizsgáljuk. Mi a következő szó ebben a, ismerik?

This is to this as this is to this. What is the next number in this sentence?

Ez ehhez, ahogy amaz ahhoz. Mi lesz a következő szám ebben a mondatban?

Here's three visions of an object. What's the fourth one?

Itt van három tárgy képe.

Mi a negyedik? Így történik a vizsgálat. Minden a jóslásról szól.

That's how we test it. It's all about prediction.

So what is the recipe for brain theory?

Szóval mi lenne a recept az agyelméletre?

First of all, we have to have the right framework.

Először is rendelkeznünk kell a megfelelő keretrendszerrel.

And the framework is a memory framework,

És a keretrendszer egy memória-keretrendszer,

not a computational or behavior framework,

nem egy számítási vagy viselkedési keretrendszer. Egy memória-keretrendszer.

it's a memory framework.

How do you store and recall these sequences of patterns?

Hogyan tároljuk és hívjuk vissza ezeket a mintaszekvenciákat? A tér- és időbeli mintákat.

It's spatiotemporal patterns.

Then, if in that framework, you take a bunch of theoreticians --

Ha megvan a keretrendszer, akkor veszünk egy halom teoretikust.

biologists generally are not good theoreticians.

A biológusok általában nem jó teoretikusok.

Ez nem mindig igaz, de elmondható, hogy a biológiában az elméletnek nincs jó múltja.

Not always, but generally, there's not a good history of theory in biology.

I've found the best people to work with are physicists,

Rájöttem, hogy akikkel a legjobban lehet dolgozni azok a fizikusok,

engineers and mathematicians,

mérnökök és matematikusok, akik hajlamosak algoritmikusan gondolkodni.

who tend to think algorithmically.

Then they have to learn the anatomy and the physiology.

Meg kell tanulják az anatómiát, és meg kell tanulják az élettant.

You have to make these theories very realistic in anatomical terms.

Ezeket az elméleteket anatómiai értelemben nagyon realisztikussá kell tenni.

Bárki, aki kiáll és elmondja az elméletét az agy működéséről,

Anyone who tells you their theory about how the brain works

and doesn't tell you exactly how it's working

és nem mondja el, pontosan hogyan is működik az az agyban

and how the wiring works --

és hogyan működnek a kapcsolatok az agyban, az nem elmélet.

it's not a theory.

And that's what we do at the Redwood Neuroscience Institute.

Ez az amit mi a Redwood Neuroscience Institute-nál csinálunk.

I'd love to tell you we're making fantastic progress in this thing,

Szerettem volna, ha több időm van, hogy elmondjam milyen fantasztikusuan haladunk e téren,

and I expect to be back on this stage sometime in the not too distant future,

de szeretnék visszatérni erre a színpadra,

talán valamikor a nem túl távoli jövőben és akkor elmondom önöknek.

to tell you about it.

I'm really excited; this is not going to take 50 years.

Teljesen, teljesen izgatott vagyok. Ez egyáltalán nem fog 50 évbe beletelni.

What will brain theory look like?

Hogyan is fog kinézni az agyelmélet?

First of all, it's going to be about memory.

Először is egy elmélet lesz, amely a memóriáról szól.

Not like computer memory -- not at all like computer memory.

Nem olyanról, mint a számítógépes memória. Ez egyáltalán nem olyan, mint a számítógép memóriája.

It's very different.

Nagyon, de nagyon különbözik attól. Egy memória ezekkel a

It's a memory of very high-dimensional patterns,

nagyon nagydimenziós mintákkal, mint amilyenek a szemünkbe érkező dolgok.

like the things that come from your eyes.

It's also memory of sequences:

De egyúttal a egymásutániság memóriája is.

you cannot learn or recall anything outside of a sequence.

Egymásutániság nélkül nem tudunk tanulni vagy visszaemlékezni.

A song must be heard in sequence over time,

Egy dalt időbeni egymásutániságában kell meghallgatnunk,

and you must play it back in sequence over time.

és időbeni egymásutániságában kell visszajátszanunk.

And these sequences are auto-associatively recalled,

És ezek az egymásutániságok autoasszociatívan felidéződnek, így ha látok valamit,

so if I see something, I hear something, it reminds me of it,

hallok valamit, az agyam eszembe juttatja és automatikusan visszajátssza.

and it plays back automatically.

It's an automatic playback.

Egy automatikus visszajátszás. Ahol a kívánt kimenetet a jövőbeli bemenetek képezik.

And prediction of future inputs is the desired output.

And as I said, the theory must be biologically accurate,

És ahogy már mondtam, az elméletnek biológiailag pontosnak kell lennie,

it must be testable and you must be able to build it.

vizsgálhatónak kell lennie, és képesek kell legyünk azt felépíteni.

If you don't build it, you don't understand it.

Ha nem tudjuk felépíteni, akkor nem is értjük. Hadd mutassak még egy slide-ot.

One more slide.

What is this going to result in?

Mi lesz ennek a következménye? Képesek leszünk valóban intelligens gépeket építeni?

Are we going to really build intelligent machines?

Teljes mértékben. És különbözni fog attól, ahogy az emberek gondolják.

Absolutely. And it's going to be different than people think.

Semmi kétségem afelől, hogy ez meg fog történni.

No doubt that it's going to happen, in my mind.

First of all, we're going to build this stuff out of silicon.

Meg fog épülni, meg fogjuk építeni ezt a dolgot szilikonból.

The same techniques we use to build silicon computer memories,

Ugyanaz a módszer, amit a szilkon alapú számítógépes memóriánál használunk,

we can use here.

használható itt is.

But they're very different types of memories.

De ezek nagyon különböző típusú memóriák.

And we'll attach these memories to sensors,

És ezeket a memóriákat szenzorokhoz fogjuk csatolni,

and the sensors will experience real-live, real-world data,

és a szenzorok valós életbeli, valós világbeli adatokat fognak tapasztalni,

and learn about their environment.

és ezek a dolgok tanulni fognak a környezetükből.

Now, it's very unlikely the first things you'll see are like robots.

Elég valószínűtlen, hogy az első dolgok, amiket látni fogunk azok robotszerűek lesznek.

Not that robots aren't useful; people can build robots.

Nem mintha a robotok ne lennének hasznosak, és az emberek tudnak robotokat építeni.

But the robotics part is the hardest part. That's old brain. That's really hard.

De a robotikai rész a legnehezebb. Az a régi agy. Az nagyon nehéz.

The new brain is easier than the old brain.

Az új agy kicsit egyszerűbb a régi agynál.

So first we'll do things that don't require a lot of robotics.

Tehát az első dolog, amit csinálni fogunk, olyan lesz, ami nem igényel sok robotikát.

So you're not going to see C-3PO.

Nem fogjuk látni C-3PO-t.

You're going to see things more like intelligent cars

Inkább olyasmiket fogunk látni, mint az intelligens autók,

that really understand what traffic is, what driving is

amelyek valóban értik, mit jelent a közlekedés, mit jelent a vezetés,

and have learned that cars with the blinkers on for half a minute

és megtanulták, hogy bizonyos, fél percen keresztül jelzőlámpájukat villogtató autók

probably aren't going to turn.

valószínűleg nem fognak befordulni, és hasonló dolgokat.

(Laughter)

(Nevetés)

We can also do intelligent security systems.

Készíthetünk intelligens biztonsági rendszereket is.

Anytime we're basically using our brain but not doing a lot of mechanics --

Bárhol, ahol alapvetően az agyunkat használjuk, és nincs sok mechanika.

those are the things that will happen first.

Ezek lesznek azok a dolgok, amelyeket először létrehozunk.

But ultimately, the world's the limit.

De végső soron csak a képzelet szab határt ezeknek.

I don't know how this will turn out.

Nem tudom, hogyan fog ez alakulni.

I know a lot of people who invented the microprocessor.

Ismerek egy csomó embert, akik feltalálták a mikroprocesszort,

And if you talk to them,

és ha megkérdezed tőlük, tudták, hogy amit csinálnak az nagy jelentőséggel bír,

they knew what they were doing was really significant,

but they didn't really know what was going to happen.

de nem igazán tudták, hogy mi fog utána történni.

They couldn't anticipate cell phones and the Internet

Nem tudták megjósolni a mobiltelefont és az Internetet és ezeket a dolgokat.

and all this kind of stuff.

They just knew like, "We're going to build calculators

Csak olyasmit tudtak, hogy számológépeket fognak építeni

and traffic-light controllers.

és forgalomirányító lámpákat. De valami nagy dolog lesz.

But it's going to be big!"

In the same way, brain science and these memories

Ugyanígy van ez az agytudománnyal is, és ezek a memóriák

are going to be a very fundamental technology,

egy nagyon alapvető technológiát fognak képezni, és hihetetlen

and it will lead to unbelievable changes in the next 100 years.

változásokhoz fognak vezetni az elkövetkezendő 100 évben.

And I'm most excited about how we're going to use them in science.

És a legjobban aziránt vagyok izgatott, hogy hogyan fogjuk ezeket a tudományban felhasználni.

So I think that's all my time -- I'm over,

Azt hiszem ennyi volt az én időm, túl is léptem, és itt

and I'm going to end my talk right there.

be is fejezem az előadásomat.