Is AI the most important technology of the century?

Translator: Rebecca Gilbert Reviewer: Thomas Bedin

What's the most important century in human history?

Hvilket århundre er det viktigste i menneskets historie?

Some might argue it’s a period of extensive military campaigning,

Noen vil si det er en periode med mange militære felttog,

like Alexander the Great’s in the 300s BCE,

som de av Alexander den store, på 300-tallet f.v.t.,

which reshaped political and cultural borders.

som endret politiske og kulturelle grenser.

Others might cite the emergence of a major religion,

Andre vil nevne fremveksten av en stor religion,

such as Islam in the 7th century,

som islam i det 7. århundre,

which codified and spread values across such borders.

som kodifiserte og spredde verdier over slike grenser.

Or perhaps it’s the Industrial Revolution of the 1700s

Eller kanskje den industrielle revolusjonen på 1700-tallet

that transformed global commerce

som omformet global handel

and redefined humanity's relationship with labor.

og redefinerte menneskehetens forhold til arbeid.

Whatever the answer, it seems like any century vying for that top spot

Uansett svar, det ser ut som at århundrer som konkurrerer om den øverste plassen

is at a moment of great change—

er tider med store forandringer –

when the actions of our ancestors shifted humanity’s trajectory

da handlingene til forfedrene våre endret menneskehetens retning

for centuries to come.

i århundrer fremover.

So if this is our metric, is it possible that right now—

Så hvis dette er vår målestokk, er det mulig at akkurat nå,

this century— is the most important one yet?

dette århundret, er det aller viktigste til nå?

The 21st century has already proven to be a period of rapid technological growth.

Det 21. århundret har allerede vist seg

å være en periode med rask teknologisk vekst.

Phones and computers have accelerated the pace of life.

Telefoner og datamaskiner har akselerert livets tempo.

And we’re likely on the cusp of developing new transformative technologies,

Vi er sannsynligvis ved vendepunktet av utviklingen av ny transformativ teknologi,

like advanced artificial intelligence,

slik som avansert kunstig intelligens,

that could entirely change the way people live.

som totalt kan endre måten folk lever på.

Meanwhile, many technologies we already have

Samtidig bidrar mange teknologier vi allerede har,

contribute to humanity’s unprecedented levels of existential risk—

uten sidestykke til menneskehetens eksistensielle risiko –

that’s the risk of our species going extinct

det vil si risikoen for at vår art blir utryddet

or experiencing some kind of disaster that permanently limits

eller opplever en type katastrofe som permanent hindrer

humanity’s ability to grow and thrive.

menneskehetens mulighet til å vokse og blomstre.

The invention of the atomic bomb marked a major rise in existential risk,

Oppfinnelsen av atombomben markerte en betydelig økning i eksistensiell risiko,

and since then we’ve only increased the odds against us.

og siden da har vi bare økt sjansen mot oss.

It’s profoundly difficult to estimate the odds

Det er spesielt vanskelig å estimere sjansen

of an existential collapse occurring this century.

for at en eksistensiell kollaps skjer i dette århundret.

Very rough guesses put the risk of existential catastrophe

Veldig grove gjetninger setter risikoen for eksistensiell katastrofe

due to nuclear winter and climate change at around 0.1%,

fra atomvinter og klimaendringer til rundt 0,1 %,

with the odds of a pandemic causing the same kind of collapse

med sjansen for at en pandemi fører til samme type kollaps

at a frightening 3%.

på skumle 3 %.

Given that any of these disasters could mean the end of life as we know it,

Gitt at hver av disse katastrofene betyr slutten for liv som vi kjenner det,

these aren’t exactly small figures,

er ikke dette små tall,

And it’s possible this century could see the rise of new technologies

og det er mulig at det kommer flere slike teknologier dette århundret

that introduce more existential risks.

som skaper flere eksistensielle risikoer.

AI experts have a wide range of estimates regarding

KI-eksperter har et bredt spekter av estimater om

when artificial general intelligence will emerge,

når kunstig generell intelligens vil oppstå,

but according to some surveys, many believe it could happen this century.

men ifølge noen undersøkelser, tror mange det kan skje i dette århundret.

Currently, we have relatively narrow forms of artificial intelligence,

I dag har vi relativt smale typer av kunstig intelligens,

which are designed to do specific tasks like play chess or recognize faces.

designet for å gjøre spesifikke oppgaver som å spille sjakk eller gjenkjenne ansikt

Even narrow AIs that do creative work are limited to their singular specialty.

Selv smale KI som gjør kreativt arbeid er begrenset til sin ene spesialitet.

But artificial general intelligences, or AGIs,

Men kunstig generell intelligens, eller KGI,

would be able to adapt to and perform any number of tasks,

vil kunne tilpasse seg og utføre mange typer oppgaver,

quickly outpacing their human counterparts.

og raskt overgå deres menneskelige motpart.

There are a huge variety of guesses about what AGI could look like,

Det er stor variasjon i hva man tror KGI vil se ut som,

and what it would mean for humanity to share the Earth

og hva det vil bety for menneskeheten å dele jorden

with another sentient entity.

med et annet selvbevisst vesen.

AGIs might help us achieve our goals,

KGI kan kanskje hjelpe oss nå våre mål,

they might regard us as inconsequential,

kanskje de anser oss som uviktige,

or, they might see us as an obstacle to swiftly remove.

eller kanskje de anser oss som en hindring som må fjernes raskt.

So in terms of existential risk,

Når det gjelder eksistensiell risiko,

it's imperative the values of this new technology align with our own.

er det avgjørende at verdiene til slik ny teknologi samsvarer med vår egen.

This is an incredibly difficult philosophical and engineering challenge

Dette er en svært utfordrende filosofisk og ingeniørvitenskaplig utfordring

that will require a lot of delicate, thoughtful work.

som vil kreve mye delikat, gjennomtenkt arbeid.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Selv om vi lykkes, kan KGI likevel føre til et annet komplisert utfall.

Let’s imagine an AGI emerges with deep respect for human life

La oss forestille oss at en KGI oppstår med dyp respekt for menneskeliv

and a desire to solve all humanity’s troubles.

og et ønske om å løse alle menneskehetens problemer.

But to avoid becoming misaligned,

Men, for å unngå at den blir feiljustert,

it's been developed to be incredibly rigid about its beliefs.

har den blitt utviklet for å være urokkelig i sin tro.

If these machines became the dominant power on Earth,

Hvis disse maskinene blir den dominante makten på jorden,

their strict values might become hegemonic,

kan deres strenge verdier bli hegemonisk,

locking humanity into one ideology that would be incredibly resistant to change.

og låse menneskeheten til én ideologi som er utrolig motstandsdyktig mot endring.

History has taught us that no matter how enlightened

Historien har lært oss at uansett hvor opplyste

a civilization thinks they are,

en sivilisasjon tror at de er,

they are rarely up to the moral standards of later generations.

lever de sjelden opp til de moralske standardene til senere generasjoner.

And this kind of value lock in could permanently distort or constrain

En slik verdi-låsing vil kunne permanent forstyrre eller begrense

humanity’s moral growth.

menneskehetens moralske vekst.

There's a ton of uncertainty around AGI,

Det er stor usikkerhet rundt KGI,

and it’s profoundly difficult to predict how any existential risks

og veldig vanskelig å forutse hvordan noen eksistensiell risiko

will play out over the next century.

vil utspille seg i det neste århundret.

It’s also possible that new, more pressing concerns

Det er også mulig at nye, mer akutte bekymringer

might render these risks moot.

gjør slike risikoer irrelevante.

But even if we can't definitively say that ours is the most important century,

Selv om vi ikke kan si med sikkerhet at vårt århundre er det viktigste,

it still seems like the decisions we make might have a major impact

kan det se ut som at beslutninger vi tar kan ha stor effekt

on humanity’s future.

på menneskehetens framtid.

So maybe we should all live like the future depends on us—

Så kanskje vi burde leve som om framtiden avhenger av oss –

because actually, it just might.

fordi kanskje den nettopp gjør det.