Is AI the most important technology of the century?

Fordító: Zsuzsanna Sipos Lektor: Zsófia Herczeg

What's the most important century in human history?

Melyik az emberiség történelmének legfontosabb évszázada?

Some might argue it’s a period of extensive military campaigning,

Egyesek azt állíthatják, hogy a kiterjedt katonai hadjáratok időszaka,

like Alexander the Great’s in the 300s BCE,

mint például Nagy Sándor kora az i.e. 300-as években,

which reshaped political and cultural borders.

amely átformálta a politikai és kulturális határokat.

Others might cite the emergence of a major religion,

Mások talán egy kiemelkedő vallás megjelenését említenék,

such as Islam in the 7th century,

mint az iszlám a 7. században,

which codified and spread values across such borders.

amely határokon átívelő értékeket hirdetett és foglalt törvénybe.

Or perhaps it’s the Industrial Revolution of the 1700s

Vagy talán az 1700-as évekbeli ipari forradalmat emelhetnénk ki,

that transformed global commerce

mely átalakította a globális kereskedelmet,

and redefined humanity's relationship with labor.

és újradefiniálta az emberiség munkához való viszonyát.

Whatever the answer, it seems like any century vying for that top spot

Úgy tűnik, bármelyik század igyekszik is az első helyet megszerezni,

is at a moment of great change—

mind nagy változásokat hozott,

when the actions of our ancestors shifted humanity’s trajectory

és elődeink akkori cselekedetei évszázadokra megváltoztatták

for centuries to come.

az emberiség sorsának alakulását.

So if this is our metric, is it possible that right now—

Amennyiben helyes ez a meghatározás, lehetséges-e,

hogy a jelenlegi évszázad az eddigi legfontosabb?

this century— is the most important one yet?

The 21st century has already proven to be a period of rapid technological growth.

A 21. század bizonyítottan a gyors technikai fejlődés időszaka.

Phones and computers have accelerated the pace of life.

A telefonok és számítógépek felgyorsították életünk ütemét.

And we’re likely on the cusp of developing new transformative technologies,

Feltehetően olyan új,

mindent megváltoztató technika kifejlesztése áll előttünk,

like advanced artificial intelligence,

mint a fejlett mesterséges intelligencia, az AI,

that could entirely change the way people live.

amely teljesen megváltoztathatja az emberek életmódját.

Meanwhile, many technologies we already have

Eközben számos korábbi technikai vívmány is hozzájárul

contribute to humanity’s unprecedented levels of existential risk—

egy olyan, korábban elképzelhetetlen egzisztenciális válsághoz,

that’s the risk of our species going extinct

mely akár fajunk kihalásához

or experiencing some kind of disaster that permanently limits

vagy egy olyan katasztrófához vezethet, mely tartósan korlátozza majd

humanity’s ability to grow and thrive.

az emberiség növekedési és gyarapodási képességeit.

The invention of the atomic bomb marked a major rise in existential risk,

Az atombomba feltalálása jelentősen növelte ezt az egzisztenciális kockázatot,

and since then we’ve only increased the odds against us.

és azóta csak fokoztuk a minket fenyegető veszélyek számát.

It’s profoundly difficult to estimate the odds

Meglehetősen nehéz megjósolni,

of an existential collapse occurring this century.

mennyi esélye van századunkban egy egzisztenciális összeomlásnak.

Very rough guesses put the risk of existential catastrophe

Durva becslések szerint a nukleáris tél

due to nuclear winter and climate change at around 0.1%,

vagy a klímaváltozás okozta egzisztenciális katasztrófa esélye 0,1%,

with the odds of a pandemic causing the same kind of collapse

de egy világjárvány ezt az esélyt 3%-ra növeli.

at a frightening 3%.

Given that any of these disasters could mean the end of life as we know it,

Mivel az ilyen katasztrófák ma ismert világunk végét jelenthetik,

these aren’t exactly small figures,

ezek a számok nem jelentéktelenek.

And it’s possible this century could see the rise of new technologies

A technika jelenlegi térhódítása pedig

that introduce more existential risks.

még több egzisztenciális veszélyt jelenthet.

AI experts have a wide range of estimates regarding

Az AI szakértők csak nagy léptékben tudják megjósolni,

when artificial general intelligence will emerge,

mikor jelenik meg az általános mesterséges intelligencia,

but according to some surveys, many believe it could happen this century.

de néhány felmérés szerint már ebben a században.

Currently, we have relatively narrow forms of artificial intelligence,

Jelenleg leszűkített formában használjuk a mesterséges intelligenciát

which are designed to do specific tasks like play chess or recognize faces.

specifikus feladatok elvégzésére,

mint például a sakkozás vagy az arcfelismerés.

Even narrow AIs that do creative work are limited to their singular specialty.

Még a kreatív munkát végző szűk AI is egy bizonyos szakterületre korlátozódik.

But artificial general intelligences, or AGIs,

A mesterséges általános intelligenciák, vagy AGI-k,

would be able to adapt to and perform any number of tasks,

képesek lennének bármilyen feladathoz alkalmazkodni és végrehajtani azt,

quickly outpacing their human counterparts.

gyorsan megelőzve az embereket.

There are a huge variety of guesses about what AGI could look like,

Számtalan elképzelés létezik arról, hogyan nézhet majd ki az AGI,

and what it would mean for humanity to share the Earth

és mit jelentene az emberiség számára egy másik érző lény jelenléte a Földön.

with another sentient entity.

AGIs might help us achieve our goals,

Talán segítenének bennünket céljaink elérésében,

they might regard us as inconsequential,

talán jelentéktelennek minősítenének minket,

or, they might see us as an obstacle to swiftly remove.

vagy akár akadálynak, amit gyorsan el kell távolítani.

So in terms of existential risk,

Ami az egzisztenciális kockázatot illeti, rendkívül fontos,

it's imperative the values of this new technology align with our own.

hogy az új technika által képviselt értékek összhangban legyenek a mieinkkel.

This is an incredibly difficult philosophical and engineering challenge

Ez rendkívül nehéz filozófiai és mérnöki kihívás,

that will require a lot of delicate, thoughtful work.

amely alapos és átgondolt munkát igényel.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Ha sikerrel járunk is,

az AGI más bonyolult lehetőségeket is tartogathat számunkra.

Let’s imagine an AGI emerges with deep respect for human life

Képzeljünk el egy olyan AGI-t, amely mély tisztelettel van az ember iránt,

and a desire to solve all humanity’s troubles.

és vágyik arra, hogy megoldja az emberiség problémáit.

But to avoid becoming misaligned,

A zűrzavar elkerülése érdekében azonban úgy fejlesztették ki,

it's been developed to be incredibly rigid about its beliefs.

hogy nézeteit illetően szilárd álláspontja legyen.

If these machines became the dominant power on Earth,

Ha ezek a gépek uralnák a Földet,

their strict values might become hegemonic,

szigorú értékrendjük lenne az irányadó,

locking humanity into one ideology that would be incredibly resistant to change.

mely az emberiséget egy olyan ideológiába zárná,

amit nagyon nehéz lenne megváltoztatni.

History has taught us that no matter how enlightened

A történelemből kiderül:

bármilyen felvilágosultnak tartja magát egy civilizáció,

a civilization thinks they are,

they are rarely up to the moral standards of later generations.

ritkán képes megfelelni az elkövetkező generációk erkölcsi normáinak.

And this kind of value lock in could permanently distort or constrain

Ez a fajta értékzárolás véglegesen torzíthatná

humanity’s moral growth.

vagy korlátozhatná az emberiség morális fejlődését.

There's a ton of uncertainty around AGI,

Rengeteg a bizonytalanság az AGI körül,

and it’s profoundly difficult to predict how any existential risks

és rendkívül nehéz megjósolni,

hogyan alakulnak az egzisztenciális kockázatok a következő évszázadban.

will play out over the next century.

It’s also possible that new, more pressing concerns

Benne van a pakliban,

hogy új, sürgetőbb problémákkal találjuk szembe magunkat.

might render these risks moot.

But even if we can't definitively say that ours is the most important century,

Még akkor is, ha nem tudjuk biztosan, hogy a mi évszázadunk a legfontosabb,

it still seems like the decisions we make might have a major impact

úgy tűnik, minden döntés, amit hozunk,

nagy hatással lehet az emberiség jövőjére.

on humanity’s future.

So maybe we should all live like the future depends on us—

Talán mindannyian úgy kellene éljünk, mintha a jövő tőlünk függne -

because actually, it just might.

hiszen megtörténhet, hogy ez így is van.