Is AI the most important technology of the century?

Çeviri: Emel Çırakoğlu Gözden geçirme: Ömer Faruk Zeren

What's the most important century in human history?

İnsanlık tarihindeki en önemli yüzyıl hangisidir?

Some might argue it’s a period of extensive military campaigning,

Bazıları, kapsamlı askeri harekatların olduğu dönemler olduğunu savunabilir,

like Alexander the Great’s in the 300s BCE,

Milattan önce 300′lerde yaşamış,

siyasi ve kültürel sınırları yeniden şekillendiren Büyük İskender gibi.

which reshaped political and cultural borders.

Others might cite the emergence of a major religion,

Diğerleri ise önemli bir dinin çıkışından bahsedebilir,

such as Islam in the 7th century,

7. yüzyılda değerlerini kodlayan ve yayan İslamiyet gibi.

which codified and spread values across such borders.

Or perhaps it’s the Industrial Revolution of the 1700s

Ya da belki de 1700′lerde dünya ekonomisini dönüştüren

that transformed global commerce

ve insanların iş ile olan ilişkisini

and redefined humanity's relationship with labor.

yeniden tanımlayan Sanayi Devrimi olabilir

Whatever the answer, it seems like any century vying for that top spot

Cevap ne olursa olsun, öyle görünüyor ki

o en üst nokta için yarışan herhangi bir yüzyıl

is at a moment of great change—

atalarımızın hareketleri, insanlığın yörüngesini

when the actions of our ancestors shifted humanity’s trajectory

gelecek yüzyıllar için değiştirildiğinde

for centuries to come.

büyük değişimin anına denk geliyor gibi.

So if this is our metric, is it possible that right now—

Eğer bu bizim metriğimiz ise, şimdinin—

this century— is the most important one yet?

bu yüzyılın— en önemlisi olma ihtimali var mı?

The 21st century has already proven to be a period of rapid technological growth.

21. yüzyıl halihazırda

hızlı teknolojik gelişmelerin bir dönemi olduğunu kanıtladı.

Phones and computers have accelerated the pace of life.

Telefonlar ve bilgisayarlar hayatın her alanına hızla girdi.

And we’re likely on the cusp of developing new transformative technologies,

Muhtemelen yeni dönüştürücü teknolojiler geliştirmenin de eşiğindeyiz,

like advanced artificial intelligence,

insanların hayatını tamamen değiştirebilecek

that could entirely change the way people live.

ileri düzey yapay zeka gibi.

Meanwhile, many technologies we already have

Bu arada, sahip olduğumuz çoğu teknoloji

contribute to humanity’s unprecedented levels of existential risk—

insanlığa benzeri görülmemiş varoluşsal bir risk oluşturuyor—

that’s the risk of our species going extinct

soyumuzun tükenmesine neden olacak bir risk veya

or experiencing some kind of disaster that permanently limits

insanlığın büyümesini limitleyen bir çeşit felaket.

humanity’s ability to grow and thrive.

The invention of the atomic bomb marked a major rise in existential risk,

Atom bombasının bulunması varouşsal riskte büyük bir yükselişe neden oldu,

and since then we’ve only increased the odds against us.

ve o zamandan bu zamana sadece bize karşı olanı arttırdık.

It’s profoundly difficult to estimate the odds

Bu yüzyılda olacak varoluşsal çöküşün

of an existential collapse occurring this century.

olasılığını tahmin etmek oldukça zor.

Very rough guesses put the risk of existential catastrophe

Kabaca tahminler varoluşsal riskin felaketini

due to nuclear winter and climate change at around 0.1%,

nükleer kış ve iklim değişikliği nedeniyle %0.1,

with the odds of a pandemic causing the same kind of collapse

pandeminin aynı tarz çöküşü yaratmasıyla

at a frightening 3%.

korkutucu bir %3 olduğunu ortaya koyuyor.

Given that any of these disasters could mean the end of life as we know it,

Bu felaketlerin herhangi birinin yaşamı bitirebileceğini bilsek de,

these aren’t exactly small figures,

bunlar tam olarak küçük figürler değil.

And it’s possible this century could see the rise of new technologies

Bu yüzyılda yeni teknolojilerin yükselişinin

that introduce more existential risks.

daha çok varoluşsal risk oluşturabilmesi mümkün.

AI experts have a wide range of estimates regarding

Yapay zeka uzmanlarının, genel yapay zekanın ne zaman ortaya çıkacağına dair

when artificial general intelligence will emerge,

geniş bir tahmin aralığı var

but according to some surveys, many believe it could happen this century.

ancak bazı anketlere göre çoğu bu yüzyılda olabileceğini düşünüyor.

Currently, we have relatively narrow forms of artificial intelligence,

Şu anda yapay zekanın sınırlı formlarına sahibiz

which are designed to do specific tasks like play chess or recognize faces.

ki bunlar satranç oynayan veya yüz tanımak gibi

spesifik görevleri yapmak için tasarlanmış olanlar.

Even narrow AIs that do creative work are limited to their singular specialty.

Yaratıcı çalışmalar yapan sınırlı yapay zekalar bile

tekil uzmanlıklarıyla sınırlı.

But artificial general intelligences, or AGIs,

Ama genel yapay zekalar, diğer bir deyişle AGI’ler,

would be able to adapt to and perform any number of tasks,

hızla insanları geride bırakarak,

quickly outpacing their human counterparts.

uyum sağlayabiliyor ve birçok görevi tamamlayabiliyor.

There are a huge variety of guesses about what AGI could look like,

AGI’nin nasıl görünebileceğine dair bir sürü çeşitli tahmin bulunuyor

and what it would mean for humanity to share the Earth

ve başka bir duyarlı varlıkla Dünya’yı paylaşmanın

with another sentient entity.

insanlık için ne anlama gelebileceği konusunda.

AGIs might help us achieve our goals,

AGI’ler amaçlarımıza ulaşmamızda bize yardım edebilir,

they might regard us as inconsequential,

veya bizi önemsiz görebilirler

or, they might see us as an obstacle to swiftly remove.

ya da bizi kaldırılması gereken bir engel olarak görebilirler.

So in terms of existential risk,

Varoluşsal risk konusunda,

it's imperative the values of this new technology align with our own.

bu yeni teknolojinin değerlerinin

bizimkilerle uyumlu olması kaçınılmazdır.

This is an incredibly difficult philosophical and engineering challenge

Bu oldukça zor, çok fazla hassas ve düşünceli iş gerektirecek

that will require a lot of delicate, thoughtful work.

felsefenin ve mühendislik ile ilgili olan bir mücadelede şeklidir.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Başarsak bile, AGI hala karışık farklı bir sonuca neden olabilir.

Let’s imagine an AGI emerges with deep respect for human life

Bir AGI’ın insan hayatına derin bir saygı duyduğunu

and a desire to solve all humanity’s troubles.

ve tüm insanlığın sorunlarını çözmeye istekli olduğunu hayal edelim.

But to avoid becoming misaligned,

Ama yanlış yolla sapmaması için

it's been developed to be incredibly rigid about its beliefs.

inançlar konusunda oldukça katı bir şekilde geliştirildi.

If these machines became the dominant power on Earth,

Bu makinalar Dünya üzerindeki baskın güç olsa bile,

their strict values might become hegemonic,

hegemonik olabilecek katı değerleri,

locking humanity into one ideology that would be incredibly resistant to change.

değişime oldukça karşı olan tek bir ideolojiye insanlığı kilitleyebilir.

History has taught us that no matter how enlightened

Tarih bize bir toplumun kendilerini aydınlık görmesine karşın,

a civilization thinks they are,

ne kadar aydınlanmış olursa olsun

they are rarely up to the moral standards of later generations.

gelecek nesillerin ahlak sınırlarına nadiren ulaştığını öğretti.

And this kind of value lock in could permanently distort or constrain

Bu tarz bir değer kilidi insanlığın ahlaki gelişimine

humanity’s moral growth.

kalıcı olarak zarar verebilir veya kısıtlayabilir.

There's a ton of uncertainty around AGI,

AGI konusunda tonla belirsizlik var,

and it’s profoundly difficult to predict how any existential risks

ve varoluşsal riskin gelecek yüzyılda nasıl olacağını

will play out over the next century.

tahmin etmek oldukça zor.

It’s also possible that new, more pressing concerns

Yeni daha baskılayıcı endişelerin

might render these risks moot.

bu riskleri tartışmalı hale getirmesi pek muhtemel görünüyor.

But even if we can't definitively say that ours is the most important century,

Ama kesin olarak bizim yüzyılımızın

en önemlisi olduğunu söyleyemesek de

it still seems like the decisions we make might have a major impact

öyle görünüyor ki, vereceğimiz kararların insanlığın geleceği üzerinde

on humanity’s future.

büyük bir etkisi olabilir.

So maybe we should all live like the future depends on us—

Belki de hepimiz gelecek bize bağlıymış gibi yaşamalıyız—

because actually, it just might.

gerçekten de belki gelecek bize bağlıdır.