Is AI the most important technology of the century?

Översättare: Susanna Baier Granskare: Lisbeth Pekkari

What's the most important century in human history?

Vilket är det viktigaste århundradet i mänsklighetens historia?

Some might argue it’s a period of extensive military campaigning,

Vissa kanske hävdar att det är en period med omfattande militär aktivitet,

like Alexander the Great’s in the 300s BCE,

som Alexander den stores tid på 300-talet f.Kr.

which reshaped political and cultural borders.

som omformade politiska och kulturella gränser.

Others might cite the emergence of a major religion,

Andra kanske hävdar uppkomsten av en stor religion,

such as Islam in the 7th century,

som islam på 600-talet,

which codified and spread values across such borders.

som kodifierade och spred värden över sådana gränser.

Or perhaps it’s the Industrial Revolution of the 1700s

Eller kanske är det den industriella revolutionen på 1700-talet

that transformed global commerce

som transformerade global handel

and redefined humanity's relationship with labor.

och omdefinierade mänsklighetens förhållande till arbete.

Whatever the answer, it seems like any century vying for that top spot

Oavsett svaret verkar det som att de sekel som tävlar om förstaplatsen

is at a moment of great change—

upplevde ögonblick av stor förändring

when the actions of our ancestors shifted humanity’s trajectory

när våra förfäders handlingar förändrade mänsklighetens riktning

for centuries to come.

för de kommande århundranden.

So if this is our metric, is it possible that right now—

Så om det är vårt mått, är det möjligt att just nu -

this century— is the most important one yet?

detta århundrade - är det mest viktiga hittills?

The 21st century has already proven to be a period of rapid technological growth.

2000-talet har redan visat sig vara en period av snabb teknisk tillväxt.

Phones and computers have accelerated the pace of life.

Telefoner och datorer har accelererat livets takt.

And we’re likely on the cusp of developing new transformative technologies,

Och vi är sannolikt på gränsen att utveckla ny transformativ teknik,

like advanced artificial intelligence,

som avancerad artificiell intelligens, som helt kan förändra hur människor lever.

that could entirely change the way people live.

Meanwhile, many technologies we already have

Under tiden kommer befintlig teknik

contribute to humanity’s unprecedented levels of existential risk—

bidra till mänsklighetens aldrig tidigare skådade nivåer av existentiell risk-

that’s the risk of our species going extinct

risken för att vår art ska dö ut

or experiencing some kind of disaster that permanently limits

eller uppleva någon form av katastrof som permanent begränsar

humanity’s ability to grow and thrive.

människans förmåga att växa och frodas.

The invention of the atomic bomb marked a major rise in existential risk,

Uppfinningen av atombomben innebar en stor ökning av existentiell risk,

and since then we’ve only increased the odds against us.

och sedan dess har vi bara ökat oddsen mot oss.

It’s profoundly difficult to estimate the odds

Det är väldigt svårt att uppskatta oddsen

of an existential collapse occurring this century.

för att en existentiell kollaps ska ske detta århundrade.

Very rough guesses put the risk of existential catastrophe

Grova gissningar uppskattar risken för existensiell katastrof

due to nuclear winter and climate change at around 0.1%,

på grund av atomvinter och klimatförändringar till cirka 0,1 %,

with the odds of a pandemic causing the same kind of collapse

medan risken för att en pandemi ska orsaka samma typ av kollaps

at a frightening 3%.

är skrämmande 3 %.

Given that any of these disasters could mean the end of life as we know it,

Givet att alla dessa katastrofer skulle kunna betyda slutet på vårt liv,

these aren’t exactly small figures,

är inte dessa precis små siffror,

And it’s possible this century could see the rise of new technologies

och det är möjligt att detta sekel kan se uppkomsten av ny teknik

that introduce more existential risks.

som för med sig högre existentiell risk.

AI experts have a wide range of estimates regarding

AI-experter har gjort många uppskattningar gällande

when artificial general intelligence will emerge,

när allmän artificiell intelligens kommer att finnas,

but according to some surveys, many believe it could happen this century.

men enligt vissa undersökningar, tror många att det kan hända detta sekel.

Currently, we have relatively narrow forms of artificial intelligence,

För närvarande har vi relativt begränsade former av artificiell intelligens,

which are designed to do specific tasks like play chess or recognize faces.

utformade att utföra specifika uppgifter som schackspel eller känna igen ansikten.

Even narrow AIs that do creative work are limited to their singular specialty.

Även smala AI som utför kreativt jobb är begränsade till sina specialiteter.

But artificial general intelligences, or AGIs,

Men allmänna artificiella intelligenser, eller AGI,

would be able to adapt to and perform any number of tasks,

skulle kunna anpassa sig till och utföra valfritt antal uppgifter,

quickly outpacing their human counterparts.

och snabbt överträffa sin mänskliga motsvarighet.

There are a huge variety of guesses about what AGI could look like,

Det finns en enorm variation av gissningar om hur AGI kan se ut,

and what it would mean for humanity to share the Earth

och vad det skulle betyda för mänskligheten att dela jorden

with another sentient entity.

med en annan medveten enhet.

AGIs might help us achieve our goals,

AGI:er kan hjälpa oss att nå våra mål,

they might regard us as inconsequential,

de kan betrakta oss som obetydliga,

or, they might see us as an obstacle to swiftly remove.

eller så kanske de ser oss som ett hinder att snabbt avlägsna.

So in terms of existential risk,

Så när det gäller existentiell risk,

it's imperative the values of this new technology align with our own.

är det avgörande att den nya teknikens värderingar stämmer överens med våra egna.

This is an incredibly difficult philosophical and engineering challenge

Detta är en väldigt svår filosofisk och teknisk utmaning

that will require a lot of delicate, thoughtful work.

som kommer att kräva mycket försiktigt, eftertänksamt arbete.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Även om vi lyckas, kan AGI fortfarande leda till ett annat komplicerat utfall.

Let’s imagine an AGI emerges with deep respect for human life

Låt oss föreställa oss att en AGI uppstår med djup respekt för mänskligt liv

and a desire to solve all humanity’s troubles.

och en vilja att lösa alla mänsklighetens problem.

But to avoid becoming misaligned,

Men för att undvika att hamna fel,

it's been developed to be incredibly rigid about its beliefs.

har det utvecklats för att vara otroligt fast i sina övertygelser.

If these machines became the dominant power on Earth,

Om dessa maskiner blev den dominerande makten på jorden,

their strict values might become hegemonic,

skulle deras strikta värderingar kunna bli rådande,

locking humanity into one ideology that would be incredibly resistant to change.

och låsa fast mänskligheten i en ideologi som vore mycket svår att förändra.

History has taught us that no matter how enlightened

Historien har lärt oss att oavsett hur upplyst

a civilization thinks they are,

en civilisation tror att den är,

they are rarely up to the moral standards of later generations.

följer den sällan framtida generationers moraliska värderingar.

And this kind of value lock in could permanently distort or constrain

Och den här typen av värdelås kan permanent förvränga eller begränsa

humanity’s moral growth.

mänsklighetens moraliska utveckling.

There's a ton of uncertainty around AGI,

Det finns massor av osäkerhet kring AGI,

and it’s profoundly difficult to predict how any existential risks

och det är väldigt svårt att förutse hur eventuella existentiella risker

will play out over the next century.

kommer att utvecklas under det kommande seklet.

It’s also possible that new, more pressing concerns

Det är också möjligt att nya, mer angelägna orosmoln

might render these risks moot.

kan göra dessa risker irrelevanta.

But even if we can't definitively say that ours is the most important century,

Men även om vi inte definitivt kan säga att vårt är det viktigaste seklet,

it still seems like the decisions we make might have a major impact

verkar det fortfarande som att besluten vi fattar kan ha stor påverkan

on humanity’s future.

på mänsklighetens framtid.

So maybe we should all live like the future depends on us—

Så vi kanske alla borde leva som om framtiden beror på oss,

because actually, it just might.

för det kanske den faktiskt gör.