What Is an AI Anyway? | Mustafa Suleyman | TED

Översättare: Tinna Grönvik Granskare: Lisbeth Pekkari

I want to tell you what I see coming.

Jag vill berätta vad jag ser komma.

I've been lucky enough to be working on AI for almost 15 years now.

Jag har haft turen att jobba med AI i nästan 15 år nu.

Back when I started, to describe it as fringe would be an understatement.

När jag började, var det en underdrift att kalla det ytterligheter.

Researchers would say, “No, no, we’re only working on machine learning.”

Forskare sa, “Nej, nej, vi jobbar bara med maskin-inlärning.”

Because working on AI was seen as way too out there.

För att jobba med AI ansågs alldeles för extremt.

In 2010, just the very mention of the phrase “AGI,”

Om man nämnde begreppet “AGI”, artificiell allmän intelligens, 2010,

artificial general intelligence,

would get you some seriously strange looks

kunde man få riktigt konstiga blickar

and even a cold shoulder.

eller till och med kalla handen.

"You're actually building AGI?" people would say.

“Bygger du verkligen AGI?” sade man.

"Isn't that something out of science fiction?"

“Är inte det något taget ur science fiction?”

People thought it was 50 years away or 100 years away,

Folk trodde att det var 50 år bort eller 100 år bort,

if it was even possible at all.

om det ens var möjligt alls.

Talk of AI was, I guess, kind of embarrassing.

Att prata om AI var lite pinsamt, antar jag.

People generally thought we were weird.

Folk tyckte i allmänhet att vi var konstiga.

And I guess in some ways we kind of were.

Och jag antar att vi var det på sätt och vis.

It wasn't long, though, before AI started beating humans

Det tog inte lång tid dock, innan AI började utklassa människan

at a whole range of tasks

i alla möjliga uppgifter

that people previously thought were way out of reach.

som vi tidigare trott var helt utom räckhåll.

Understanding images,

Att förstå bilder,

translating languages,

översätta språk,

transcribing speech,

transkribera tal,

playing Go and chess

spela Go och schack

and even diagnosing diseases.

till och med att diagnosticera sjukdomar.

People started waking up to the fact

Folk började inse fakta

that AI was going to have an enormous impact,

att AI skulle komma att få en enorm påverkan,

and they were rightly asking technologists like me

och de frågade rättmätigt teknologer som mig

some pretty tough questions.

riktigt tuffa frågor.

Is it true that AI is going to solve the climate crisis?

Är det sant att AI kommer att lösa klimatkrisen?

Will it make personalized education available to everyone?

Kommer det göra individanpassad utbildning tillgänglig för alla?

Does it mean we'll all get universal basic income

Betyder det att vi alla kommer att få universiell basinkomst

and we won't have to work anymore?

och att vi inte behöver jobba längre?

Should I be afraid?

Borde jag vara rädd?

What does it mean for weapons and war?

Vad betyder det för vapen och krigsföring?

And of course, will China win?

Och självklart, kommer Kina att vinna?

Are we in a race?

Är det en tävling?

Are we headed for a mass misinformation apocalypse?

Är vi på väg mot en apokalyps av felaktig information?

All good questions.

Alla väldigt bra frågor.

But it was actually a simpler

Men det var faktiskt en enklare

and much more kind of fundamental question that left me puzzled.

och mer fundamental fråga som gjorde mig förbryllad.

One that actually gets to the very heart of my work every day.

En som faktiskt når hjärtat av mitt arbete varje dag.

One morning over breakfast,

En morgon vid frukost,

my six-year-old nephew Caspian was playing with Pi,

lekte min sexåriga brorson Caspian med Pi,

the AI I created at my last company, Inflection.

AI:n jag skapade på mitt senaste företag, Inflection.

With a mouthful of scrambled eggs,

Med en munfull av äggröra,

he looked at me plain in the face and said,

tittade han mig rakt i ögonen och sa:

"But Mustafa, what is an AI anyway?"

“Men Mustafa, vad är egentligen AI?”

He's such a sincere and curious and optimistic little guy.

Han är en så uppriktig, nyfiken och optimistisk liten kille.

He'd been talking to Pi about how cool it would be if one day in the future,

Han hade pratat med Pi om hur häftigt det vore om han en dag i framtiden

he could visit dinosaurs at the zoo.

kunde titta på dinosaurier på zoo.

And how he could make infinite amounts of chocolate at home.

Och hur han skulle kunna göra oändliga mängder choklad hemma.

And why Pi couldn’t yet play I Spy.

Och varför Pi ännu inte kunde leka “Jag ser, jag ser, vad du inte ser”

"Well," I said, "it's a clever piece of software

“Nåväl,” sa jag, “det är en smart liten mjukvara

that's read most of the text on the open internet,

som har läst det mesta av texten på det öppna internet,

and it can talk to you about anything you want."

och den kan prata med dig om vad du vill.”

"Right.

“Okej.

So like a person then?"

Så det är som en person?”

I was stumped.

Jag var förvirrad.

Genuinely left scratching my head.

Genuint kliade jag mitt huvud.

All my boring stock answers came rushing through my mind.

Alla mina tråkiga standardsvar susade genom huvudet.

"No, but AI is just another general-purpose technology,

“Nej, men AI är bara ytterligare en teknik för allmänt bruk,

like printing or steam."

som att skriva ut, eller ånga.”

It will be a tool that will augment us

Det kommer vara ett verktyg som förhöjer oss

and make us smarter and more productive.

och gör oss smartare och mer produktiva.

And when it gets better over time,

Och när det blir bättre över tid,

it'll be like an all-knowing oracle

kommer det bli som ett allvetande orakel

that will help us solve grand scientific challenges."

som kommer att hjälpa oss att lösa stora vetenskapliga utmaningar.”

You know, all of these responses started to feel, I guess,

Du vet, alla de här svaren började kännas

a little bit defensive.

lite defensiva, antar jag.

Och faktiskt bättre lämpade för ett politiskt seminarium

And actually better suited to a policy seminar

than breakfast with a no-nonsense six-year-old.

än för frukost med en sexåring utan krusiduller.

"Why am I hesitating?" I thought to myself.

Jag tänkte: “Varför tvekar jag?”

You know, let's be honest.

Låt oss vara ärliga.

My nephew was asking me a simple question

Min brorson ställde en enkel fråga

that those of us in AI just don't confront often enough.

som vi som jobbar med AI helt enkelt inte konfronterar ofta nog.

What is it that we are actually creating?

Vad är det vi faktiskt skapar?

What does it mean to make something totally new,

Vad innebär det att skapa något helt nytt,

fundamentally different to any invention that we have known before?

fundamentalt åtskilt från alla uppfinningar vi hittills känt till?

It is clear that we are at an inflection point

Det är tydligt att vi är vid en vändpunkt

in the history of humanity.

i människans historia.

On our current trajectory,

På vår nuvarande bana,

we're headed towards the emergence of something

är vi på väg mot uppkomsten av något

that we are all struggling to describe,

som vi alla kämpar med att beskriva,

and yet we cannot control what we don't understand.

och vi kan inte kontrollera det vi inte förstår.

And so the metaphors,

Så metaforerna, de mentala modellerna,

the mental models,

the names, these all matter

namnen, allt är av betydelse

if we’re to get the most out of AI whilst limiting its potential downsides.

om vi ska få ut det mesta av AI medan vi begränsar dess potentiella nackdelar.

As someone who embraces the possibilities of this technology,

Som någon som omfamnar möjligheterna i denna teknologi,

but who's also always cared deeply about its ethics,

men också alltid har lagt väldigt mycket vikt på etiken,

we should, I think,

borde vi, tycker jag, med enkelhet kunna förklara vad vi skapar.

be able to easily describe what it is we are building.

And that includes the six-year-olds.

Och det innefattar sexåringarna.

So it's in that spirit that I offer up today the following metaphor

Så det är i den andan som jag idag erbjuder följande metafor

for helping us to try to grapple with what this moment really is.

för att hjälpa oss att försöka greppa vad det här tillfället verkligen är.

I think AI should best be understood

Jag tror att AI bäst kan förklaras

as something like a new digital species.

som något som liknar en ny digital art.

Now, don't take this too literally,

Ta nu inte detta för bokstavligt,

but I predict that we'll come to see them as digital companions,

men jag förutspår att vi kommer att se dem som digitala följeslagare,

new partners in the journeys of all our lives.

nya partners på vår livsresa.

Whether you think we’re on a 10-, 20- or 30-year path here,

Oavsett om du tror att vi är på en 10-, 20- eller 30-årsresa här,

this is, in my view, the most accurate and most fundamentally honest way

så är det, i mina ögon, det mest korrekta och mest fundamentalt ärliga sättet

of describing what's actually coming.

att förklara vad som verkligen är på väg.

And above all, it enables everybody to prepare for

Och framför allt, det möjliggör för alla att förbereda för

and shape what comes next.

och forma vad som kommer sedan.

Now I totally get, this is a strong claim,

Jag förstår fullständigt att det här är ett starkt påstående,

and I'm going to explain to everyone as best I can why I'm making it.

och jag ska förklara så gott jag kan varför jag säger detta.

But first, let me just try to set the context.

Men först, låt mig bara försöka att skapa sammanhanget.

From the very first microscopic organisms,

Från de absolut första mikroskopiska organismerna,

life on Earth stretches back billions of years.

sträcker sig livet på jorden tillbaka flera miljarder år.

Over that time, life evolved and diversified.

På den tiden har livet utvecklats och diversifierats.

Then a few million years ago, something began to shift.

För några miljoner år sedan, började något att förändras.

After countless cycles of growth and adaptation,

Efter otaliga cykler av tillväxt och anpassning,

one of life’s branches began using tools, and that branch grew into us.

började en av livets grenar att använda verktyg, och den grenen blev till oss.

We went on to produce a mesmerizing variety of tools,

Vi fortsatte med att producera ett fascinerande utbud av verktyg.

at first slowly and then with astonishing speed,

Till en början långsamt och sedan med en häpnadsväckande hastighet,

we went from stone axes and fire

gick vi från stenyxor och eld

to language, writing and eventually industrial technologies.

till språk, skrift och tids nog industriell teknologi.

One invention unleashed a thousand more.

En uppfinning frigjorde tusen till.

And in time, we became homo technologicus.

Och med tiden blev vi homo technologicus.

Around 80 years ago,

För cirka 80 år sedan startade ännu en ny teknologisk gren.

another new branch of technology began.

With the invention of computers,

Med datorernas uppkomst,

we quickly jumped from the first mainframes and transistors

hoppade vi snabbt från de första stordatorerna och transistorerna

to today's smartphones and virtual-reality headsets.

till dagens smart-telefoner och headset för virtuell verklighet.

Information, knowledge, communication, computation.

Information, kunskap, kommunikation, beräkning.

In this revolution,

I den här revolutionen har skapandet exploderat som aldrig förr.

creation has exploded like never before.

And now a new wave is upon us.

Och nu är en ny våg här.

Artificial intelligence.

Artificiell intelligens.

These waves of history are clearly speeding up,

De här historiska vågorna ökar tydligt i fart,

as each one is amplified and accelerated by the last.

eftersom var och en förstärks och påskyndas av den förra.

And if you look back,

Och om man ser tillbaka är det tydligt att vi är i den snabbaste

it's clear that we are in the fastest

and most consequential wave ever.

och mest följdriktiga vågen någonsin.

The journeys of humanity and technology are now deeply intertwined.

Mänsklighetens och teknikens resor är nu djupt sammanflätade.

In just 18 months,

På bara 18 månader,

over a billion people have used large language models.

har över en miljard människor använt stora språkmodeller.

We've witnessed one landmark event after another.

Vi har bevittnat ett landmärke efter det andra

Just a few years ago, people said that AI would never be creative.

För bara ett par år sedan, sa människor att AI aldrig skulle bli kreativt.

And yet AI now feels like an endless river of creativity,

Och ändå känns AI nu som en oändlig flod av kreativitet

making poetry and images and music and video that stretch the imagination.

som skapar poesi, bilder, musik och video som tänjer fantasins gränser.

People said it would never be empathetic.

Man sa att det aldrig skulle bli empatiskt.

And yet today, millions of people enjoy meaningful conversations with AIs,

Och ändå har miljontals människor idag meningsfulla konversationer med AI,

talking about their hopes and dreams

de talar om sina förhoppningar och drömmar

and helping them work through difficult emotional challenges.

och hjälper dem att ta sig igenom svåra känslomässiga utmaningar.

AIs can now drive cars,

AI kan nu köra bilar,

manage energy grids

hantera energinät och till och med uppfinna nya molekyler.

and even invent new molecules.

Just a few years ago, each of these was impossible.

För bara några år sedan var allt det här omöjligt.

And all of this is turbocharged by spiraling exponentials of data

Och allt det här turboladdas av exponentiellt växande mängder data

and computation.

och beräkningar.

Last year, Inflection 2.5, our last model,

Förra året gjorde Inflection 2.5, vår senaste modell,

used five billion times more computation

fem miljarder gånger fler beräkningar

than the DeepMind AI that beat the old-school Atari games

än DeepMind AI som slog de gamla Atarispelen

just over 10 years ago.

för strax över 10 år sedan.

That's nine orders of magnitude more computation.

Det är nio storleksordningar fler beräkningar.

10x per year,

10x per år,

every year for almost a decade.

varje år i nästan ett decennium.

Over the same time, the size of these models has grown

Under samma tid har storleken på de här modellerna vuxit

from first tens of millions of parameters to then billions of parameters,

från först tiotals miljoner parametrar till sedan miljarder parametrar,

and very soon, tens of trillions of parameters.

och väldigt snart, tiotals triljoner parametrar.

If someone did nothing but read 24 hours a day for their entire life,

Om någon inte gjorde annat än att läsa 24 timmar om dygnet i hela sitt liv,

they'd consume eight billion words.

skulle de konsumera åtta miljarder ord.

And of course, that's a lot of words.

Och det är såklart en väldig massa ord.

But today, the most advanced AIs consume more than eight trillion words

Men idag konsumerar den mest avancerade AI:n mer än åtta triljoner ord

in a single month of training.

på en enda månad av träning.

And all of this is set to continue.

Och allt det här kommer att fortsätta.

The long arc of technological history is now in an extraordinary new phase.

Den långa teknikhistorien är nu inne i en enastående ny fas.

So what does this mean in practice?

Så vad betyder det i praktiken?

Well, just as the internet gave us the browser

Ja, precis som internet gav oss webbläsaren

and the smartphone gave us apps,

och smart-telefonen gav oss appar,

the cloud-based supercomputer is ushering in a new era

inleder den nya molnbaserade superdatorn en ny era av ständigt närvarande AI.

of ubiquitous AIs.

Everything will soon be represented by a conversational interface.

Allt kommer snart att representeras av ett gränssnitt för konversation.

Or, to put it another way, a personal AI.

Eller, med andra ord, en personlig AI.

And these AIs will be infinitely knowledgeable,

Och dessa AI:er kommer att vara oändligt kunniga,

and soon they'll be factually accurate and reliable.

och snart kommer de att vara sakligt korrekta och tillförlitliga.

They'll have near-perfect IQ.

De kommer att ha nästan perfekt IQ.

They’ll also have exceptional EQ.

De kommer också att ha exceptionell EQ.

They’ll be kind, supportive, empathetic.

De kommer att vara vänliga, stöttande, empatiska.

These elements on their own would be transformational.

Dessa element var för sig skulle vara omvälvande.

Just imagine if everybody had a personalized tutor in their pocket

Tänk om alla hade en personlig handledare i fickan

and access to low-cost medical advice.

och tillgång till billig medicinsk rådgivning.

A lawyer and a doctor,

En advokat och en läkare, en företagsstrateg och coach --

a business strategist and coach --

all in your pocket 24 hours a day.

alla i din ficka 24 timmar om dygnet.

But things really start to change when they develop what I call AQ,

Men saker kommer verkligen börja förändras när de utvecklar vad jag kallar AQ,

their “actions quotient.”

deras “handlingskvot.”

This is their ability to actually get stuff done

Detta är deras möjlighet att faktiskt få saker gjorda

in the digital and physical world.

i den digitala och fysiska världen.

And before long, it won't just be people that have AIs.

Inom kort kommer det inte bara vara människor som har AI.

Strange as it may sound, every organization,

Det kanske låter märkligt, men varje organisation,

from small business to nonprofit to national government,

från litet företag till ideell förening till nationell regering,

each will have their own.

alla kommer att ha sin egen.

Every town, building and object

Varje stad, byggnad och objekt

will be represented by a unique interactive persona.

kommer att representeras av en unik interaktiv persona.

And these won't just be mechanistic assistants.

Och dessa kommer inte bara vara mekaniska assistenter.

They'll be companions, confidants,

De kommer att vara följeslagare, förtrogna,

colleagues, friends and partners,

kollegor, vänner och partners,

as varied and unique as we all are.

lika varierade och unika som oss alla.

At this point, AIs will convincingly imitate humans at most tasks.

I det här läget, kommer AI övertygande att imitera människor i det mesta.

And we'll feel this at the most intimate of scales.

Och vi kommer att märka det på den mest personliga nivån.

An AI organizing a community get-together for an elderly neighbor.

En AI som organiserar en gemenskaplig sammankomst för en äldre granne.

A sympathetic expert helping you make sense of a difficult diagnosis.

En sympatisk expert som hjälper dig förstå innebörden av en svår diagnos.

But we'll also feel it at the largest scales.

Men vi kommer också att känna det på den största skalan.

Accelerating scientific discovery,

Påskyndade vetenskapliga upptäckter,

autonomous cars on the roads,

autonoma bilar på vägarna, drönare i skyarna.

drones in the skies.

They'll both order the takeout and run the power station.

De kommer att både beställa hämtmat och driva kraftverk.

They’ll interact with us and, of course, with each other.

De kommer att interagera med oss och såklart med varandra.

They'll speak every language,

De kommer att tala alla språk, ta in alla datamönster från sensorer,

take in every pattern of sensor data,

sights, sounds,

sevärdheter, ljud, strömmar och strömmar av information,

streams and streams of information,

far surpassing what any one of us could consume in a thousand lifetimes.

vida överträffande vad någon av oss skulle kunna förbruka under tusen liv.

So what is this?

Så vad är det här?

What are these AIs?

Vad är dessa AI?

If we are to prioritize safety above all else,

Om vi ska prioritera säkerhet framför allt,

to ensure that this new wave always serves and amplifies humanity,

för att säkerställa att denna nya våg alltid tjänar och förstärker mänskligheten

then we need to find the right metaphors for what this might become.

då måste vi hitta rätt metaforer för vad detta kan bli.

For years, we in the AI community, and I specifically,

I åratal har vi i AI-gemenskapen, och jag specifikt,

have had a tendency to refer to this as just tools.

har haft en tendens att hänvisa till detta som bara verktyg.

But that doesn't really capture what's actually happening here.

Men det fångar inte riktigt vad som egentligen händer här.

AIs are clearly more dynamic,

AI är klart mer dynamiskt,

more ambiguous, more integrated

mer tvetydigt, mer integrerat

and more emergent than mere tools,

och mer framträdande än ett enkelt verktyg

which are entirely subject to human control.

som är helt och hållet föremål för mänsklig kontroll.

So to contain this wave,

Så för att hålla tillbaka denna våg,

att sätta mänsklig handlingsfrihet i centrum

to put human agency at its center

och för att mildra de oundvikliga, oavsiktliga konsekvenser

and to mitigate the inevitable unintended consequences

that are likely to arise,

som sannolikt kommer att uppstå,

we should start to think about them as we might a new kind of digital species.

borde vi börja tänka på dem som en ny typ av digital art.

Now it's just an analogy,

Det är bara en analogi,

it's not a literal description, and it's not perfect.

det är inte en bokstavlig beskrivning och den är inte perfekt.

For a start, they clearly aren't biological in any traditional sense,

Till att börja med är de uppenbarligen inte biologiska i traditionell mening,

but just pause for a moment

men pausa en stund och fundera på vad de redan gör.

and really think about what they already do.

They communicate in our languages.

De kommunicerar på våra språk.

They see what we see.

De ser vad vi ser.

They consume unimaginably large amounts of information.

De konsumerar ofattbart stora mängder information.

They have memory.

De har minne.

They have personality.

De har personlighet.

They have creativity.

De har kreativitet.

They can even reason to some extent and formulate rudimentary plans.

De kan till och med resonera till viss del och formulera rudimentära planer.

They can act autonomously if we allow them.

De kan agera självständigt om vi tillåter dem.

And they do all this at levels of sophistication

Och de gör allt detta på nivåer

that is far beyond anything that we've ever known from a mere tool.

långt bortom allt som vi någonsin sett hos ett simpelt verktyg.

And so saying AI is mainly about the math or the code

Så att säga AI främst är matematik eller kod

is like saying we humans are mainly about carbon and water.

är som att säga vi människor främst är kol och vatten.

It's true, but it completely misses the point.

Det är sant, men det missar poängen helt.

And yes, I get it, this is a super arresting thought

Och ja, jag förstår, det här är en väldigt fängslande tanke

but I honestly think this frame helps sharpen our focus on the critical issues.

men jag tror ärligt att det skärper vårt fokus på de viktigaste frågorna.

What are the risks?

Vilka är riskerna?

What are the boundaries that we need to impose?

Vilka gränser behöver vi sätta?

What kind of AI do we want to build or allow to be built?

Vilken typ av AI vill vi bygga eller låta byggas?

This is a story that's still unfolding.

Det här är en historia som fortfarande utvecklas.

Nothing should be accepted as a given.

Ingenting ska tas för givet.

We all must choose what we create.

Vi måste alla välja vad vi skapar.

What AIs we bring into the world, or not.

Vilka AI vi för till världen, eller ej.

These are the questions for all of us here today,

Det här är frågorna för oss alla här idag,

and all of us alive at this moment.

och oss alla som lever i detta ögonblick.

For me, the benefits of this technology are stunningly obvious,

För mig är fördelarna med denna teknik förbluffande uppenbara,

and they inspire my life's work every single day.

och de inspirerar mitt livsverk varje dag.

But quite frankly, they'll speak for themselves.

Men helt ärligt, de kommer att tala för sig själva.

Over the years, I've never shied away from highlighting risks

Under årens lopp har jag aldrig skyggat från att belysa risker

and talking about downsides.

och prata om nackdelar.

Att tänka på detta sätt hjälper oss fokusera på de stora utmaningarna

Thinking in this way helps us focus on the huge challenges

that lie ahead for all of us.

som ligger framför oss alla.

But let's be clear.

Men låt oss vara tydliga.

There is no path to progress

Det finns ingen väg till framsteg

where we leave technology behind.

där vi lämnar teknologin bakom oss.

The prize for all of civilization is immense.

Civilisationens vinster är enorma.

We need solutions in health care and education, to our climate crisis.

Vi behöver lösningar inom vården och utbildning, på klimatkrisen.

And if AI delivers just a fraction of its potential,

Och om AI bara levererar en bråkdel av dess potential,

the next decade is going to be the most productive in human history.

kommer nästa decennium vara det mest produktiva i mänsklighetens historia.

Here's another way to think about it.

Här är ett annat sätt att tänka på det.

In the past,

Förr kom ekonomisk tillväxt ofta med stora nackdelar.

unlocking economic growth often came with huge downsides.

The economy expanded as people discovered new continents

Ekonomin expanderade allt eftersom människor upptäckte nya kontinenter

and opened up new frontiers.

och öppnade nya gränser.

But they colonized populations at the same time.

Men de koloniserade befolkningar på samma gång.

We built factories,

Vi byggde fabriker,

but they were grim and dangerous places to work.

men de var dystra och farliga arbetsplatser.

We struck oil,

Vi borrade efter olja,

but we polluted the planet.

men vi förorenade planeten.

Now because we are still designing and building AI,

Eftersom vi fortfarande designar och bygger AI,

we have the potential and opportunity to do it better,

har vi potential och möjlighet att göra det bättre,

radically better.

mycket bättre.

And today, we're not discovering a new continent

Och idag upptäcker vi inte en ny kontinent

and plundering its resources.

och plundrar dess resurser.

We're building one from scratch.

Vi bygger en från grunden.

Sometimes people say that data or chips are the 21st century’s new oil,

Ibland säger folk att data eller chips är 2000-talets nya olja,

but that's totally the wrong image.

men det är helt fel bild.

AI is to the mind

AI är för sinnet vad kärnfusion är för energi.

what nuclear fusion is to energy.

Limitless, abundant,

Gränslös, riklig,

world-changing.

världsomvälvande.

And AI really is different,

Och AI är verkligen annorlunda,

and that means we have to think about it creatively and honestly.

och det betyder att vi måste tänka på det kreativt och ärligt.

We have to push our analogies and our metaphors

Vi måste driva på våra analogier och våra metaforer

to the very limits

till yttersta gränserna för att kunna brottas med det som kommer.

to be able to grapple with what's coming.

Because this is not just another invention.

För det här är inte bara ännu en uppfinning.

AI is itself an infinite inventor.

AI är i sig självt en oändlig uppfinnare.

And yes, this is exciting and promising and concerning

Och ja, det här är spännande och lovande och oroande

and intriguing all at once.

och exalterande på en gång.

To be quite honest, it's pretty surreal.

För att vara helt ärlig så är det ganska overkligt.

But step back,

Men ta ett steg tillbaka, se det långsiktigt över glacial tid,

see it on the long view of glacial time,

and these really are the very most appropriate metaphors that we have today.

och dessa är verkligen de mest lämpliga metaforer som vi har idag.

Since the beginning of life on Earth,

Sedan livets början på jorden,

we've been evolving, changing

har vi utvecklats, förändrats

and then creating everything around us in our human world today.

och sedan skapat allt omkring oss i vår mänskliga värld idag.

And AI isn't something outside of this story.

Och AI står inte utanför denna berättelse.

In fact, it's the very opposite.

I själva verket är det precis tvärtom.

It's the whole of everything that we have created,

Det är helheten av allt som vi har skapat,

distilled down into something that we can all interact with

destillerat till något som vi alla kan interagera med

and benefit from.

och dra nytta av.

It's a reflection of humanity across time,

Det är en återspegling av mänskligheten över tid,

and in this sense,

och i denna mening är det inte alls en ny art.

it isn't a new species at all.

This is where the metaphors end.

Det är här metaforerna slutar.

Here's what I'll tell Caspian next time he asks.

Så här ska jag svara Caspian nästa gång han frågar.

AI isn't separate.

AI är inte separat.

AI isn't even in some senses, new.

AI är inte ens i vissa bemärkelser, nytt.

AI is us.

AI är oss.

It's all of us.

Det är vi alla.

And this is perhaps the most promising and vital thing of all

Och det här är kanske det mest lovande och viktiga av allt

that even a six-year-old can get a sense for.

som även en sexåring kan få en känsla för.

As we build out AI,

När vi bygger ut AI, kan och måste vi spegla allt som är bra,

we can and must reflect all that is good,

all that we love,

allt som vi älskar, allt som är speciellt med mänskligheten:

all that is special about humanity:

our empathy, our kindness,

vår empati, vår vänlighet, vår nyfikenhet och vår kreativitet.

our curiosity and our creativity.

This, I would argue, is the greatest challenge of the 21st century,

Detta, vill jag hävda, är 2000-talets största utmaning,

but also the most wonderful,

men också den mest underbara,

inspiring and hopeful opportunity for all of us.

inspirerande och hoppfulla möjligheten för oss alla.

Thank you.

Tack.

(Applause)

(Applåder)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Tack Mustafa.

It's an amazing vision and a super powerful metaphor.

Det är en fantastisk vision och en väldigt kraftig metafor.

You're in an amazing position right now.

Du är i en fantastisk position just nu.

I mean, you were connected at the hip

Jag menar, du var djupt involverad

to the amazing work happening at OpenAI.

i det fantastiska arbete som sker på OpenAI.

You’re going to have resources made available,

Du kommer att göra resurser tillgängliga,

there are reports of these giant new data centers,

det finns rapporter om enorma nya datacenter,

100 billion dollars invested and so forth.

100 miljarder dollar investerat och så vidare.

And a new species can emerge from it.

Och en ny art kan växa fram ur det.

I mean, in your book,

I din bok, likväl som att måla upp en otrolig optimistisk vision,

you did, as well as painting an incredible optimistic vision,

you were super eloquent on the dangers of AI.

var du väldigt vältalig om farorna med AI.

And I'm just curious, from the view that you have now,

Jag är nyfiken. Från ditt nuvarande perspektiv,

what is it that most keeps you up at night?

vad är det som mest håller dig vaken på natten?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Suleyman: Den stora risken är nog att vi fastnar

in what I call the pessimism aversion trap.

i vad jag kallar den pessimistiska motviljefällan.

You know, we have to have the courage to confront

Vi måste våga tänka på potentiella mörka scenarier

the potential of dark scenarios

in order to get the most out of all the benefits that we see.

för att få ut det mesta av alla fördelar som vi ser.

So the good news is that if you look at the last two or three years,

Så den goda nyheten är att om du tittar på de senaste två eller tre åren,

there have been very, very few downsides, right?

har det varit väldigt få nackdelar, eller hur?

It’s very hard to say explicitly what harm an LLM has caused.

Det är väldigt svårt att säga explicit vilken skada en LLM har orsakat.

But that doesn’t mean that that’s what the trajectory is going to be

Men det betyder inte att det är så det kommer att se ut

over the next 10 years.

under de kommande 10 åren.

So I think if you pay attention to a few specific capabilities,

Så jag tror att om du är uppmärksam på några specifika förmågor,

take for example, autonomy.

ta till exempel autonomi.

Autonomy is very obviously a threshold

Autonomi är mycket uppenbart en tröskel

over which we increase risk in our society.

där vi ökar riskerna i vårt samhälle.

And it's something that we should step towards very, very closely.

Och det är något som vi borde närma oss mycket försiktigt.

The other would be something like recursive self-improvement.

Den andra skulle vara något liknande rekursiv självförbättring.

If you allow the model to independently self-improve,

Om du tillåter modellen att självständigt förbättra sig själv,

update its own code,

uppdatera sin egen kod,

explore an environment without oversight, and, you know,

utforska en miljö utan tillsyn,

without a human in control to change how it operates,

utan att en människa kan ändra hur den agerar,

that would obviously be more dangerous.

så vore det uppenbarligen farligare.

But I think that we're still some way away from that.

Men jag tror att vi fortfarande är en bit ifrån det.

Det är nog minst 5-10 år tills vi måste hantera det.

I think it's still a good five to 10 years before we have to really confront that.

Men det är dags att prata om det.

But it's time to start talking about it now.

CA: En digital art, till skillnad från alla biologiska arter,

CA: A digital species, unlike any biological species,

can replicate not in nine months,

kan replikeras, inte på nio månader men på nio nanosekunder,

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

och producera ett oändligt antal kopior av sig själv,

all of which have more power than we have in many ways.

som alla på sätt och vis har mer makt än vi har.

I mean, the possibility for unintended consequences seems pretty immense.

Risken för oavsiktliga konsekvenser verkar ganska stor.

And isn't it true that if a problem happens,

Och är det inte så att om ett problem uppstår,

it could happen in an hour?

kan det hända om en timme?

MS: No.

MS: Nej. Det är verkligen inte så.

That is really not true.

I think there's no evidence to suggest that.

Jag tror inte att det finns några bevis som pekar på det.

And I think that, you know,

that’s often referred to as the “intelligence explosion.”

Det kallas ofta för “intelligensexplosionen”.

And I think it is a theoretical, hypothetical maybe

Och jag tror att det är ett teoretiskt, hypotetisk “kanske”

that we're all kind of curious to explore,

som vi alla är lite nyfikna på att utforska,

but there's no evidence that we're anywhere near anything like that.

men det finns inga bevis för att vi är ens i närheten av något sådant.

And I think it's very important that we choose our words super carefully.

Och det är viktigt att vi väljer våra ord noggrant.

För du har rätt, det är en av svagheterna i att se det som en art,

Because you're right, that's one of the weaknesses of the species framing,

that we will design the capability for self-replication into it

att vi ska designa förmågan till självreplikering i den

if people choose to do that.

om folk väljer att göra det.

And I would actually argue that we should not,

Och jag vill faktiskt hävda att vi inte borde det.

that would be one of the dangerous capabilities

Det skulle vara en av de farliga förmågorna

that we should step back from, right?

som vi borde backa undan från.

So there's no chance that this will "emerge" accidentally.

Så det finns ingen chans att detta kommer att “uppstå” av misstag.

I really think that's a very low probability.

Jag tror verkligen att det är en mycket låg sannolikhet.

It will happen if engineers deliberately design those capabilities in.

Det kommer att hända om ingenjörer medvetet designar in dessa förmågor.

And if they don't take enough efforts to deliberately design them out.

Och om de inte anstränger sig tillräckligt att medvetet designa bort dem.

And so this is the point of being explicit

Det är poängen med att vara tydlig

and transparent about trying to introduce safety by design very early on.

och transparent med att introducera säkerhet genom design mycket tidigt.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Så din vision är att vi

injicerar det bästa av oss själva i det här nya

the best parts of ourselves,

avoiding all those weird, biological, freaky,

och undviker alla de konstiga, biologiska, galna,

horrible tendencies that we can have in certain circumstances,

hemska tendenser som vi kan ha under vissa omständigheter,

I mean, that is a very inspiring vision.

Jag menar, det är en väldigt inspirerande vision.

And thank you so much for coming here and sharing it at TED.

Tack så mycket för att du kom hit och delade den på TED.

Thank you, good luck.

Tack, och lycka till.

(Applause)

(Applåder)