What Is an AI Anyway? | Mustafa Suleyman | TED

Fordító: Reka Lorinczy Lektor: Peter Pallos

I want to tell you what I see coming.

El akarom mondani, mi következik.

I've been lucky enough to be working on AI for almost 15 years now.

Szerencsés vagyok: már majdnem 15 éve az MI-n dolgozom.

Back when I started, to describe it as fringe would be an understatement.

A kezdeteket jelentéktelennek nevezni lebecsülő lenne.

Researchers would say, “No, no, we’re only working on machine learning.”

Kutatók azt mondanák: „Nem, nem, csak a gépi tanuláson dolgozunk.”

Because working on AI was seen as way too out there.

Mert az MI-n végzett munkát túlzó ötletnek tekintették.

In 2010, just the very mention of the phrase “AGI,”

2010-ben az AGI kifejezés,

artificial general intelligence,

a mesterséges általános intelligencia említése

would get you some seriously strange looks

fura tekintetet

and even a cold shoulder.

és rideg fogadtatást váltott ki.

"You're actually building AGI?" people would say.

„Tényleg AGI-t építesz?” – kérdezgették.

"Isn't that something out of science fiction?"

„Ez nem valami tudományos fantasztikum?”

People thought it was 50 years away or 100 years away,

Azt hitték, hogy 50-100 évre vagyunk tőle,

if it was even possible at all.

ha egyáltalán megvalósul.

Talk of AI was, I guess, kind of embarrassing.

A mesterséges intelligenciáról beszélni kínos volt.

People generally thought we were weird.

Furcsának tartottak minket.

And I guess in some ways we kind of were.

Bizonyos szempontból azok is voltunk.

It wasn't long, though, before AI started beating humans

Nem telt el sok idő, mire az MI elkezdte legyőzni az embereket

at a whole range of tasks

számos olyan feladatban,

that people previously thought were way out of reach.

amelyeket addig kizártnak hittek.

Understanding images,

Képek elemzésében,

translating languages,

nyelvek fordításában,

transcribing speech,

beszédátírásban,

playing Go and chess

go- és sakkjátékban,

and even diagnosing diseases.

sőt, betegségek diagnosztizálásában is.

People started waking up to the fact

Az emberek kezdtek ráébredni,

that AI was going to have an enormous impact,

hogy az MI hatása óriási,

and they were rightly asking technologists like me

és tényleg nehéz kérdéseket tettek fel

some pretty tough questions.

a magamfajta technológusoknak.

Is it true that AI is going to solve the climate crisis?

Igaz, hogy az MI megoldja az éghajlati válságot?

Will it make personalized education available to everyone?

Mindenkinek elérhetővé teszi a személyre szabott oktatást?

Does it mean we'll all get universal basic income

Eszerint mindannyian egyetemes alapjövedelmet kapunk,

and we won't have to work anymore?

és nem kell többé dolgoznunk?

Should I be afraid?

Félnem kéne?

What does it mean for weapons and war?

Mit jelent ez a fegyvereket és a háborút illetően?

And of course, will China win?

És természetesen, Kína nyer?

Are we in a race?

Versenyben vagyunk?

Are we headed for a mass misinformation apocalypse?

Tömeges téves információs apokalipszis felé tartunk?

All good questions.

Mindegyik kérdés jó.

But it was actually a simpler

De valójában egy sima

and much more kind of fundamental question that left me puzzled.

és sokkal alapvetőbb kérdés ejtett zavarba.

One that actually gets to the very heart of my work every day.

Olyan, amelyik mindennap a munkám középpontjába kerül.

One morning over breakfast,

Reggeli közben hatéves unokaöcsém,

my six-year-old nephew Caspian was playing with Pi,

Caspian játszott Pi-vel, a mesterséges intelligenciával,

the AI I created at my last company, Inflection.

amelyet az utolsó cégemnél, az Inflectionnál hoztam létre.

With a mouthful of scrambled eggs,

Tojásrántottával teli szájjal

he looked at me plain in the face and said,

egyenesen az arcomba nézett, és azt mondta:

"But Mustafa, what is an AI anyway?"

„De Mustafa, egyébként mi az MI?”

He's such a sincere and curious and optimistic little guy.

Olyan őszinte, kíváncsi és optimista kissrác!

He'd been talking to Pi about how cool it would be if one day in the future,

Beszélt Pi-vel arról, milyen jó lenne

a jövőben egy nap meglátogatni a dinoszauruszokat az állatkertben,

he could visit dinosaurs at the zoo.

And how he could make infinite amounts of chocolate at home.

és hogyan tudna végtelen mennyiségű csokoládét készíteni otthon.

And why Pi couldn’t yet play I Spy.

De miért nem tud a Pi még „Én, a kém” játékot játszani?

"Well," I said, "it's a clever piece of software

„Hát – mondtam –, ez okos szoftver,

amely a szöveg nagy részét a nyílt interneten elolvassa,

that's read most of the text on the open internet,

and it can talk to you about anything you want."

és bármiről beszélhet veled, amiről szeretnél.”

"Right.

„Rendben.

So like a person then?"

Tehát olyan, mint az ember?”

I was stumped.

Megdöbbentem.

Genuinely left scratching my head.

Zavartan megvakartam a fejem.

All my boring stock answers came rushing through my mind.

Minden unalmas szabványválaszom átfutott az agyamon.

"No, but AI is just another general-purpose technology,

„Nem, hanem az MI csak újabb általános célú technológia,

like printing or steam."

mint a nyomtatás vagy a gőz.

It will be a tool that will augment us

Olyan eszköz lesz, amely kiegészít minket,

and make us smarter and more productive.

okosabbá és termelékenyebbé tesz minket.

And when it gets better over time,

Idővel fejlődik,

it'll be like an all-knowing oracle

mindentudó orákulumhoz hasonlít,

that will help us solve grand scientific challenges."

amely segít megoldani a nagy tudományos feladatokat.”

You know, all of these responses started to feel, I guess,

Úgy éreztem, hogy ezek a válaszaim

a little bit defensive.

kissé védekezőnek tűntek.

And actually better suited to a policy seminar

Jobban illettek politikai szemináriumra,

than breakfast with a no-nonsense six-year-old.

mint hatéves gyermekkel folytatott komoly beszélgetésre.

"Why am I hesitating?" I thought to myself.

„Miért habozok?” – gondoltam magamban.

You know, let's be honest.

Legyünk őszinték.

My nephew was asking me a simple question

Unokaöcsém egyszerű kérdést tett fel nekem,

that those of us in AI just don't confront often enough.

amellyel az MI-ben dolgozók nem elég gyakran szembesülünk.

What is it that we are actually creating?

Mit alkotunk valójában?

What does it mean to make something totally new,

Mit jelent valami teljesen újat készíteni,

fundamentally different to any invention that we have known before?

ami alapvetően különbözik a korábban ismert találmányoktól?

It is clear that we are at an inflection point

Nyilvánvaló, hogy az emberiség történetének fordulópontján vagyunk.

in the history of humanity.

On our current trajectory,

Jelenlegi pályánkon

we're headed towards the emergence of something

valami megjelenése felé haladunk,

that we are all struggling to describe,

amit nehezen tudunk leírni,

and yet we cannot control what we don't understand.

és még nem tudjuk irányítani azt, amit nem értünk.

And so the metaphors,

Tehát a metaforák,

the mental models,

a mentális modellek,

the names, these all matter

a nevek, ezek mind számítanak,

if we’re to get the most out of AI whilst limiting its potential downsides.

ha a legtöbbet akarjuk kihozni az MI-ből, miközben szűkítjük lehetséges hátrányait.

As someone who embraces the possibilities of this technology,

Mivel értékeljük e technológia lehetőségeit,

but who's also always cared deeply about its ethics,

de mindig kiemelt figyelmet szenteltünk az etikájának is,

we should, I think,

meg kell tudnunk egyszerűen fogalmazni,

be able to easily describe what it is we are building.

hogy mit fejlesztünk.

And that includes the six-year-olds.

Még a hatéves gyerekeknek is.

So it's in that spirit that I offer up today the following metaphor

E szellemben ajánlom fel ma a következő metaforát,

for helping us to try to grapple with what this moment really is.

amely segít megragadni ezt a pillanatot.

I think AI should best be understood

Az MI-t legjobb digitális új fajként értelmezni.

as something like a new digital species.

Now, don't take this too literally,

Ne vegyék egészen szó szerint,

but I predict that we'll come to see them as digital companions,

de azt jósolom, hogy digitális társunk,

new partners in the journeys of all our lives.

életre szóló új partnerünk lesz.

Whether you think we’re on a 10-, 20- or 30-year path here,

Akár úgy is vehetik, hogy 10, 20 vagy 30 éves út áll előttünk,

this is, in my view, the most accurate and most fundamentally honest way

ez a legpontosabb és legalapvetőbb őszinte leírása annak,

of describing what's actually coming.

hogy mi várható.

And above all, it enables everybody to prepare for

Mindenekelőtt módot ad rá,

and shape what comes next.

hogy felkészüljünk és alakítsuk a jövőnket.

Now I totally get, this is a strong claim,

Tökéletesen értem, hogy ez erős állítás,

and I'm going to explain to everyone as best I can why I'm making it.

de a lehető legjobban elmagyarázom, miért mondom.

But first, let me just try to set the context.

De először hadd próbáljam meg meghatározni a kontextusomat.

From the very first microscopic organisms,

Az első mikroszkopikus organizmusoktól kezdve

life on Earth stretches back billions of years.

a földi élet évmilliárdokra nyúlik vissza.

Over that time, life evolved and diversified.

Ez idő alatt az élet fejlődött és változatossá vált.

Then a few million years ago, something began to shift.

Majd pár millió éve valami megváltozott.

After countless cycles of growth and adaptation,

Számtalan növekedési és alkalmazkodási ciklus után az élet egyik ága

one of life’s branches began using tools, and that branch grew into us.

eszközöket kezdett használni, és ez az ág emberré fejlődött.

We went on to produce a mesmerizing variety of tools,

Továbbá elbűvölő eszközöket gyártottunk,

at first slowly and then with astonishing speed,

először lassan, majd elképesztő sebességgel áttértünk

we went from stone axes and fire

a kőbaltáról és a tűzről

to language, writing and eventually industrial technologies.

a nyelvre, az írásra, és végül az ipari technológiákra.

One invention unleashed a thousand more.

Egy találmány ezernyi újabbat ihletett.

And in time, we became homo technologicus.

Idővel homo technologicus lettünk.

Around 80 years ago,

Körülbelül 80 éve jelent meg

another new branch of technology began.

a technológia újabb ága.

With the invention of computers,

A számítógépek feltalálásával gyorsan ugrottunk

we quickly jumped from the first mainframes and transistors

az első nagygépektől és tranzisztoroktól

to today's smartphones and virtual-reality headsets.

a mai okostelefonokig és virtuálisvalóság-fejhallgatókig.

Information, knowledge, communication, computation.

Információ, tudás, kommunikáció, gépi vezérlés.

In this revolution,

Ebben a forradalomban

creation has exploded like never before.

az alkotás úgy robbant be, mint még soha.

And now a new wave is upon us.

Most új hullám áll előttünk.

Artificial intelligence.

A mesterséges intelligencia, azaz MI.

These waves of history are clearly speeding up,

A történelem e hullámai egyértelműen felgyorsulnak,

as each one is amplified and accelerated by the last.

mivel mindegyiket felerősíti és felgyorsítja az előző.

And if you look back,

Ha visszanéznek,

it's clear that we are in the fastest

egyértelmű, hogy a valaha volt leggyorsabb

and most consequential wave ever.

és legmeghatározóbb hullámban vagyunk.

The journeys of humanity and technology are now deeply intertwined.

Az emberiség és a technológia most mélyen összefonódnak.

In just 18 months,

Mindössze 18 hónap alatt

over a billion people have used large language models.

több mint egymilliárd ember használt nagy nyelvi modelleket.

We've witnessed one landmark event after another.

Egymást követték a mérföldkövet jelentő események.

Just a few years ago, people said that AI would never be creative.

Néhány éve még azt mondták, hogy az MI soha nem lesz kreatív.

And yet AI now feels like an endless river of creativity,

Az MI-t ma már a kreativitás végtelen folyamaként észleljük:

making poetry and images and music and video that stretch the imagination.

verset ír és képet, zenét és videókat készít, amelyek meghaladják a képzeletet.

People said it would never be empathetic.

Azt mondták, hogy soha nem lesz empatikus.

And yet today, millions of people enjoy meaningful conversations with AIs,

Ma millióik élvezik az értelmes beszélgetéseket az MI-kkel,

talking about their hopes and dreams

beszélnek reményeikről és álmaikról,

and helping them work through difficult emotional challenges.

és átsegítik őket a nehéz érzelmi megpróbáltatásokon.

AIs can now drive cars,

Az MI-k már autót is képesek vezetni,

manage energy grids

energiahálózatokat kezelni,

and even invent new molecules.

sőt, új molekulákat is feltalálhatnak.

Just a few years ago, each of these was impossible.

Néhány évvel ezelőtt ezek mindegyike lehetetlen volt.

And all of this is turbocharged by spiraling exponentials of data

Mindezt az adatok és a számítások exponenciális növekedése

and computation.

turbózza fel.

Last year, Inflection 2.5, our last model,

Tavaly az Inflection 2.5, az utolsó modellünk,

used five billion times more computation

ötmilliárdszor több számítást használt,

than the DeepMind AI that beat the old-school Atari games

mint a DeepMind MI, amely alig több mint 10 évvel ezelőtt

just over 10 years ago.

legyőzte a régi iskolai Atari játékokat.

That's nine orders of magnitude more computation.

Ez kilenc nagyságrenddel több számítás.

10x per year,

Évente tízszer több,

every year for almost a decade.

minden évben alig egy évtized alatt.

Over the same time, the size of these models has grown

Ugyanakkor e modellek mérete az első tízmillió paraméterről

from first tens of millions of parameters to then billions of parameters,

több milliárd paraméterre nőtt,

and very soon, tens of trillions of parameters.

és hamarosan több tízbillió paraméter lesz.

If someone did nothing but read 24 hours a day for their entire life,

Ha valaki a nap 24 órájában egész életében csak olvasna,

they'd consume eight billion words.

nyolcmilliárd szóig jutna el.

And of course, that's a lot of words.

Persze, ez rengeteg szó.

But today, the most advanced AIs consume more than eight trillion words

De ma a legfejlettebb MI-k több mint nyolcbillió szót használnak

in a single month of training.

egyetlen hónapos képzés alatt.

And all of this is set to continue.

És mindez folytatódik.

The long arc of technological history is now in an extraordinary new phase.

A technológiai történelem hosszú íve most rendkívüli új szakaszba jutott.

So what does this mean in practice?

Mit jelent ez a gyakorlatban?

Well, just as the internet gave us the browser

Ahogy az internet böngészőt adott nekünk,

and the smartphone gave us apps,

az okostelefon pedig alkalmazásokat,

the cloud-based supercomputer is ushering in a new era

a felhőalapú szuperszámítógép

of ubiquitous AIs.

a mindenütt jelen lévő MI új korszakát nyitja meg.

Everything will soon be represented by a conversational interface.

Hamarosan minden beszélgetős felületen jelenik meg.

Or, to put it another way, a personal AI.

Vagy másképp fogalmazva, személyes MI-nk lesz.

And these AIs will be infinitely knowledgeable,

Ezek az MI-k végtelenül hozzáértők lesznek,

and soon they'll be factually accurate and reliable.

és hamarosan tényszerűen pontosak és megbízhatók is.

They'll have near-perfect IQ.

Majdnem tökéletes IQ-juk lesz.

They’ll also have exceptional EQ.

Kivételes EQ-juk is lesz.

They’ll be kind, supportive, empathetic.

Kedvesek lesznek, támogatók, empatikusak.

These elements on their own would be transformational.

Ezek az elemek önmagukban megváltoztatják a világot.

Just imagine if everybody had a personalized tutor in their pocket

Képzeljék el, ha mindenki zsebében személyre szabott oktató lenne,

and access to low-cost medical advice.

és hozzáférne olcsó orvosi tanácsokhoz.

A lawyer and a doctor,

Egy ügyvéd és egy orvos,

a business strategist and coach --

egy üzleti tanácsadó és edző,

all in your pocket 24 hours a day.

mindez a nap 24 órájában a zsebében.

But things really start to change when they develop what I call AQ,

De a dolgok valóban megváltoznak, amikor kifejlesztik azt,

amit AQ-nak nevezek, az alkalmazkodási intelligenciahányadost.

their “actions quotient.”

This is their ability to actually get stuff done

Ez a mutató kifejezi képességüket, hogy ténylegesen tevékenykedjenek

in the digital and physical world.

a digitális és a fizikai világban.

And before long, it won't just be people that have AIs.

Nemsokára nem csak az embereknek lesz MI-je.

Bármennyire furcsán hangzik, minden szervezetnek: a kisvállalkozástól

Strange as it may sound, every organization,

from small business to nonprofit to national government,

a nonprofit szervezeten át a nemzeti kormányig,

each will have their own.

mindegyiknek lesz sajátja.

Every town, building and object

Minden városnak, épületnek és objektumnak

will be represented by a unique interactive persona.

egyedi interaktív MI-je lesz.

And these won't just be mechanistic assistants.

Ezek nemcsak gépies asszisztensek lesznek,

They'll be companions, confidants,

hanem társak, bizalmasok,

colleagues, friends and partners,

kollégák, barátok és partnerek is,

as varied and unique as we all are.

olyan változatosak és egyediek, mint mi mindannyian.

At this point, AIs will convincingly imitate humans at most tasks.

Ekkor az MI-k meggyőzően utánozzák a legtöbb feladatban az embereket.

And we'll feel this at the most intimate of scales.

A legbensőségesebb mértékig kapcsolódunk hozzájuk.

An AI organizing a community get-together for an elderly neighbor.

MI, amely közösségi összejövetelt szervez egy idős szomszédnak.

A sympathetic expert helping you make sense of a difficult diagnosis.

Együttérző szakértő, aki segít megérteni a bonyolult diagnózist.

But we'll also feel it at the largest scales.

De a legáltalánosabb dolgokban is érezni fogjuk.

Accelerating scientific discovery,

Felgyorsuló tudományos felfedezések,

autonomous cars on the roads,

önvezető autók az utakon,

drones in the skies.

drónok az égen.

They'll both order the takeout and run the power station.

Mindent tesznek: Kaját rendelnek, és üzemeltetik az erőművet.

They’ll interact with us and, of course, with each other.

Kapcsolatba fognak lépni velünk, és természetesen egymással.

They'll speak every language,

Minden nyelven beszélnek,

take in every pattern of sensor data,

minden érzékelő adatot felfognak,

sights, sounds,

látványokat, hangokat,

streams and streams of information,

adatfolyamokat és információáramlásokat fogadnak,

far surpassing what any one of us could consume in a thousand lifetimes.

messze többet, mint amennyit bármelyikünk ezer élet alatt feldolgozni képes.

So what is this?

Szóval, mi ez?

What are these AIs?

Mik ezek az MI-k?

If we are to prioritize safety above all else,

Ha mindenekelőtt a biztonságot akarjuk előtérbe helyezni,

to ensure that this new wave always serves and amplifies humanity,

hogy az új hullám mindig az emberiséget szolgálja és erősítse,

then we need to find the right metaphors for what this might become.

akkor meg kell találnunk a megfelelő metaforákat arra, hogy ez mivé válhat.

For years, we in the AI community, and I specifically,

Évek óta az MI közösségben mi, és főleg én,

have had a tendency to refer to this as just tools.

hajlamosak vagyunk csak eszközként hivatkozni rá.

But that doesn't really capture what's actually happening here.

De ez nem igazán rögzíti, hogy mi történik itt valójában.

AIs are clearly more dynamic,

Az MI-k egyértelműen dinamikusabbak,

more ambiguous, more integrated

kétségesebbek, integráltabbak

and more emergent than mere tools,

és kiemelkedőbbek a puszta eszközöknél,

which are entirely subject to human control.

amelyeket teljes mértékben emberek kezelnek.

So to contain this wave,

Hogy visszaszorítsuk ezt a hullámot,

to put human agency at its center

és az embert helyezzük a középpontba,

és enyhítsük a felmerülő elkerülhetetlen és váratlan következményeket,

and to mitigate the inevitable unintended consequences

that are likely to arise,

amelyek valószínű, hogy felbukkannak,

we should start to think about them as we might a new kind of digital species.

úgy kell gondoljunk rájuk, mint újabb digitális fajra.

Now it's just an analogy,

Ez csak analógia,

it's not a literal description, and it's not perfect.

nem szó szerinti leírás, és nem tökéletes.

For a start, they clearly aren't biological in any traditional sense,

Kezdetben nyilvánvalóan semmilyen hagyományos értelemben

nem biológiai jellegűek; de álljunk meg egy pillanatra,

but just pause for a moment

and really think about what they already do.

és tényleg gondoljuk át, amit már tesznek.

They communicate in our languages.

Nyelveinken kommunikálnak.

They see what we see.

Látják, amit mi látunk.

They consume unimaginably large amounts of information.

Elképzelhetetlenül nagy mennyiségű információt dolgoznak fel.

They have memory.

Emlékezetük van.

They have personality.

Személyiségük van.

They have creativity.

Kreativitásuk van.

They can even reason to some extent and formulate rudimentary plans.

Érvelhetnek bizonyos területeken, és kezdeti terveket fogalmazhatnak meg.

They can act autonomously if we allow them.

Önálló módon tudnak cselekedni, ha megengedjük nekik.

And they do all this at levels of sophistication

Mindezt kifinomultan teszik,

that is far beyond anything that we've ever known from a mere tool.

amely messze meghaladja mindazt, amit valaha puszta eszközként ismertünk.

And so saying AI is mainly about the math or the code

Azt állítani, hogy az MI főleg a matematikáról vagy a kódról szól,

is like saying we humans are mainly about carbon and water.

olyan, mint azt mondani, hogy mi emberek főleg szénből és vízből állunk.

It's true, but it completely misses the point.

Ez igaz, de így teljesen figyelmen kívül hagyjuk a lényeget.

And yes, I get it, this is a super arresting thought

Igen, értem, ez teljesen elrettentő gondolat,

but I honestly think this frame helps sharpen our focus on the critical issues.

de őszintén úgy gondolom, hogy ez segít a kritikus kérdésekre összpontosítani.

What are the risks?

Mik a kockázatok?

What are the boundaries that we need to impose?

Melyek azok a határok, amelyeket elő kell írnunk?

What kind of AI do we want to build or allow to be built?

Milyen MI-t akarunk építeni vagy engedélyezni?

This is a story that's still unfolding.

Ez még mindig folyamatban van.

Nothing should be accepted as a given.

Semmit sem szabad adottként elfogadni.

We all must choose what we create.

Együtt döntjük el, mit teremtünk.

What AIs we bring into the world, or not.

Milyen MI-ket hozunk a világra, vagy nem.

These are the questions for all of us here today,

Ezek a kérdések itt mindannyiunknak szólnak,

and all of us alive at this moment.

és mindannyian e pillanatban éljük meg.

For me, the benefits of this technology are stunningly obvious,

Számomra e technológia előnyei lenyűgözően nyilvánvalók,

and they inspire my life's work every single day.

és mindennap ösztönzik életem munkáját.

But quite frankly, they'll speak for themselves.

De őszintén szólva, az MI-k magukért fognak beszélni.

Over the years, I've never shied away from highlighting risks

Az évek során soha nem zárkóztam el a kockázatok kiemelésétől,

and talking about downsides.

sem a hátrányokról való beszélgetéstől.

Thinking in this way helps us focus on the huge challenges

E gondolkodás segít összpontosítani a hatalmas kihívásokra,

that lie ahead for all of us.

amelyek mindannyiunk előtt állnak.

But let's be clear.

De tisztázzuk!

There is no path to progress

Nincs a fejlődésnek olyan útja,

where we leave technology behind.

amelyikből kihagyjuk a technológiát.

The prize for all of civilization is immense.

Az egész civilizációnak óriási a tét.

We need solutions in health care and education, to our climate crisis.

Megoldások kellenek az egészségügy, az oktatás terén, az éghajlati válságra.

And if AI delivers just a fraction of its potential,

Ha az MI csak töredékét nyújtja a lehetőségeinek,

the next decade is going to be the most productive in human history.

akkor a következő évtized lesz

a legtermékenyebb az emberiség történetében.

Here's another way to think about it.

Gondolhatunk rá másképp is.

In the past,

A múltban

unlocking economic growth often came with huge downsides.

a gazdasági növekedés beindulása gyakran hatalmas hátrányokkal is járt.

The economy expanded as people discovered new continents

A gazdaság bővült, amikor az emberek új földrészeket fedeztek fel,

and opened up new frontiers.

és új határokat nyitottak meg.

But they colonized populations at the same time.

De gyarmatosították a népességet.

We built factories,

Gyárakat építettünk,

but they were grim and dangerous places to work.

de komor és veszélyes munkahelyek születtek.

We struck oil,

Olajat bányásztunk,

but we polluted the planet.

de szennyeztük a bolygót.

Now because we are still designing and building AI,

Most, mivel még tervezzük és építjük az MI-t,

we have the potential and opportunity to do it better,

van lehetőségünk jobbat létrehozni,

radically better.

gyökeresen jobbá tenni.

And today, we're not discovering a new continent

Ma nem fedezünk fel új kontinenst,

and plundering its resources.

és nem fosztjuk ki az erőforrásait.

We're building one from scratch.

A semmiből építünk egyet.

Sometimes people say that data or chips are the 21st century’s new oil,

Néha azt mondják, hogy az adatok vagy a csipek a 21. század új olaja,

but that's totally the wrong image.

de ez hibás megközelítés.

AI is to the mind

Az MI az elmének az,

what nuclear fusion is to energy.

ami a nukleáris fúzió az energiának.

Limitless, abundant,

Korlátlan, bőséges,

world-changing.

világot megváltoztató.

And AI really is different,

Az MI valóban más,

and that means we have to think about it creatively and honestly.

és ez azt jelenti, hogy kreatívan és őszintén kell gondoljunk rá.

We have to push our analogies and our metaphors

Analógiáinkat és metaforáinkat

to the very limits

a határokig kell tolnunk,

to be able to grapple with what's coming.

hogy megküzdjünk azzal, ami várható.

Because this is not just another invention.

Mert ez nem csak újabb találmány.

AI is itself an infinite inventor.

Az MI maga a végtelen feltaláló.

And yes, this is exciting and promising and concerning

Igen, ez egyszerre izgalmas és ígéretes,

and intriguing all at once.

aggasztó és érdekes.

To be quite honest, it's pretty surreal.

Hogy őszinte legyek, elég szürreális.

But step back,

De lépjünk hátra,

see it on the long view of glacial time,

nézzük meg a jégkorszak távlatában,

and these really are the very most appropriate metaphors that we have today.

és ezek valóban a létező legmegfelelőbb metaforák.

Since the beginning of life on Earth,

A földi élet kezdete óta fejlődünk,

we've been evolving, changing

változunk,

and then creating everything around us in our human world today.

majd mindent megteremtünk magunk körül a mai emberi világunkban.

And AI isn't something outside of this story.

Az MI nem esik kívül ezen a történeten.

In fact, it's the very opposite.

Valójában éppen ellenkezőleg.

It's the whole of everything that we have created,

Az MI az általunk létrehozott egész mindenség kivonata,

distilled down into something that we can all interact with

amellyel mindannyian kölcsönhatásba léphetünk,

and benefit from.

és profitálhatunk belőle.

It's a reflection of humanity across time,

Ez az emberiség tükröződése az időben,

and in this sense,

és ebben az értelemben

it isn't a new species at all.

egyáltalán nem új faj.

This is where the metaphors end.

Itt végződnek a metaforák.

Here's what I'll tell Caspian next time he asks.

Íme, a válaszom, Caspian, amikor legközelebb megkérdezel.

AI isn't separate.

Az MI nem különálló.

AI isn't even in some senses, new.

Az MI bizonyos értelemben egyáltalán nem új.

AI is us.

Mi vagyunk az MI.

It's all of us.

Mindenki.

And this is perhaps the most promising and vital thing of all

Íme talán a legígéretesebb és létfontosságú dolog minden közül,

that even a six-year-old can get a sense for.

amit még egy hatéves gyerek is érthet:

As we build out AI,

Ahogy kiépítjük az MI-t,

we can and must reflect all that is good,

tükrözhetjük és kell tükröznünk mindazt, ami jó,

all that we love,

mindent, amit szeretünk,

all that is special about humanity:

mindent, ami az emberiségben különleges:

our empathy, our kindness,

empátiánkat, kedvességünket,

our curiosity and our creativity.

kíváncsiságunkat és kreativitásunkat.

This, I would argue, is the greatest challenge of the 21st century,

Ez a 21. század legnagyobb kihívása,

but also the most wonderful,

de egyben a legcsodálatosabb is,

inspiring and hopeful opportunity for all of us.

Ösztönző és reményteli lehetőség mindannyiunknak,

Thank you.

Köszönöm.

(Applause)

(Taps)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Köszönöm, Mustafa.

It's an amazing vision and a super powerful metaphor.

Ez csodálatos elképzelés és nagyon erős metafora.

You're in an amazing position right now.

Fantasztikus helyzetben vagy most.

I mean, you were connected at the hip

Csípőből kapcsolódtál

to the amazing work happening at OpenAI.

az OpenAI-n zajló csodálatos munkához.

You’re going to have resources made available,

Forrásokat biztosítanak hozzá,

there are reports of these giant new data centers,

ismertetik az óriási új adatközpontokat,

100 billion dollars invested and so forth.

100 milliárd dollárt fektetnek bele.

And a new species can emerge from it.

Új faj alakulhat ki belőle.

I mean, in your book,

A könyvedben,

you did, as well as painting an incredible optimistic vision,

hihetetlen optimista víziót festettél,

you were super eloquent on the dangers of AI.

de nyomatékosan szóltál az MI veszélyeiről is.

And I'm just curious, from the view that you have now,

Kíváncsi vagyok,

mi nem hagy aludni mostanában?

what is it that most keeps you up at night?

Mustafa Suleyman: I think the great risk is that we get stuck

MS: Nagy a kockázata, hogy elakadunk:

in what I call the pessimism aversion trap.

pesszimizmus-irtózás csapdának nevezem.

You know, we have to have the courage to confront

Bátran szembe kell nézzünk

the potential of dark scenarios

a sötét forgatókönyvek lehetőségével,

in order to get the most out of all the benefits that we see.

hogy a legtöbbet hozhassuk ki a látható előnyökből.

So the good news is that if you look at the last two or three years,

A jó hír, hogy az elmúlt két-három évben

there have been very, very few downsides, right?

nagyon-nagyon kevés mélypont volt.

It’s very hard to say explicitly what harm an LLM has caused.

Nehéz egyértelműen azonosítani a nagy nyelvi modellek okozta károkat.

But that doesn’t mean that that’s what the trajectory is going to be

De ebből nem következik, hogy ez lesz az irány

over the next 10 years.

a következő évtizedekben.

So I think if you pay attention to a few specific capabilities,

Néhány konkrét képességre figyeljünk,

take for example, autonomy.

például az önállóságra.

Autonomy is very obviously a threshold

Az önállóság nyilvánvalóan olyan küszöb,

over which we increase risk in our society.

amely felett megnő a társadalmi kockázat.

And it's something that we should step towards very, very closely.

De el kell menni a lehetőségek határáig.

The other would be something like recursive self-improvement.

A másik a rekurzív önfejlesztés lenne.

If you allow the model to independently self-improve,

Ha megengedjük, hogy a modell önállóan fejlődjön,

update its own code,

frissítse saját kódját,

explore an environment without oversight, and, you know,

felfedezzen felügyelet nélküli környezetet,

és emberi beavatkozás nélkül változtassa működését,

without a human in control to change how it operates,

az nyilván veszélyesebb lenne.

that would obviously be more dangerous.

But I think that we're still some way away from that.

De még messze vagyunk ettől.

I think it's still a good five to 10 years before we have to really confront that.

Még jó öt-tíz év telik el, mire tényleg szembe kell néznünk ezzel.

But it's time to start talking about it now.

De már ideje beszélnünk róla.

CA: A digitális faj a biológiai fajoktól eltérően nem kilenc hónap alatt,

CA: A digital species, unlike any biological species,

can replicate not in nine months,

hanem kilenc nanoszekundum alatt képes lemásolni magát,

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

s végtelen sok példányt készíthet magáról,

all of which have more power than we have in many ways.

amelynek sok tekintetben több hatalma van nálunk.

I mean, the possibility for unintended consequences seems pretty immense.

A nem kívánt következmények lehetősége elég hatalmasnak tűnik.

And isn't it true that if a problem happens,

Ha baj merül fel,

it could happen in an hour?

az egy órán belül megtörténhet, ugye?

MS: No.

MS: Nem.

That is really not true.

Egyáltalán nem így van.

I think there's no evidence to suggest that.

Nincs erre utaló bizonyíték.

And I think that, you know,

Gyakran nevezik ezt

that’s often referred to as the “intelligence explosion.”

tudásrobbanásnak.

And I think it is a theoretical, hypothetical maybe

Ez elméleti, feltételezett dolog,

that we're all kind of curious to explore,

amelyet kíváncsian kutatunk,

but there's no evidence that we're anywhere near anything like that.

de nincs ilyesmire utaló jel a láthatáron.

And I think it's very important that we choose our words super carefully.

Lényeges, hogy körültekintően válogassuk meg szavainkat.

Because you're right, that's one of the weaknesses of the species framing,

Mert igazad van, ez a faj elnevezés egyik gyengesége,

that we will design the capability for self-replication into it

hogy megtervezzük az önszaporító képességet,

if people choose to do that.

ha az emberek ezt választják.

And I would actually argue that we should not,

Amondó vagyok, hogy nem kellene beletenni,

that would be one of the dangerous capabilities

mert veszélyes képesség lenne,

that we should step back from, right?

és jobb lenne kihagyni.

So there's no chance that this will "emerge" accidentally.

Nincs esély arra, hogy ez véletlenül megjelenjen.

I really think that's a very low probability.

Egészen kicsi a valószínűsége.

It will happen if engineers deliberately design those capabilities in.

Csak akkor történik meg, ha a mérnökök szándékosan tervezik bele.

And if they don't take enough efforts to deliberately design them out.

Ha nem törik magukat, hogy szándékosan beletervezzék, nem lesz.

And so this is the point of being explicit

Ezért lényeges az egyértelműség és az átláthatóság,

and transparent about trying to introduce safety by design very early on.

hogy már a tervezés elején írjuk elő a biztonságot.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Köszönöm, hogy látomásodba

önmagunk legjobb részei kerülnek bele,

the best parts of ourselves,

avoiding all those weird, biological, freaky,

elkerülve azokat a furcsa, eszement, szörnyű biológiai hajlamokat,

horrible tendencies that we can have in certain circumstances,

melyek néha előfordulnak.

I mean, that is a very inspiring vision.

Biztató jövőkép.

And thank you so much for coming here and sharing it at TED.

Köszönöm, hogy eljöttél, és véleményedet elmondtad a TED-en.

Thank you, good luck.

Köszönöm, sok szerencsét.

(Applause)

(Taps)