How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Fordító: Reka Lorinczy Lektor: Zsuzsa Viola

When I talk to people about artificial intelligence,

Amikor mesterséges intelligenciáról beszélgetek,

something I hear a lot from non-experts is “I don’t understand AI.”

sokat hallom laikusoktól, hogy: „Nem értem az MI-t”.

But when I talk to experts, a funny thing happens.

De amikor szakértőkkel beszélgetek, vicces,

They say, “I don’t understand AI, and neither does anyone else.”

mert azt mondják: „Nem értem az MI-t, és senki más sem érti.”

This is a pretty strange state of affairs.

Ez elég furcsa helyzet.

Normally, the people building a new technology

Általában az új technológiát fejlesztők

understand how it works inside and out.

töviről hegyire ismerik annak működését.

But for AI, a technology that's radically reshaping the world around us,

De az MI esetében, ami a körülöttünk lévő világot radikálisan átalakító technológia,

that's not so.

ez másképp van.

Experts do know plenty about how to build and run AI systems, of course.

A szakértők persze rengeteget tudnak

az MI-rendszerek fejlesztéséről, futtatásáról.

But when it comes to how they work on the inside,

De mikor a pontos működése kerül szóba,

komoly határokra bukkanunk, hogy mennyit is tudunk.

there are serious limits to how much we know.

And this matters because without deeply understanding AI,

Ez nem mindegy, mert az MI mélységeinek megértése nélkül

it's really difficult for us to know what it will be able to do next,

nagyon nehéz megtudnunk, hogy mire lesz képes,

or even what it can do now.

vagy akár mire képes most.

And the fact that we have such a hard time understanding

Nehezen értelmezzük, mi történik a technológiával és merre tart,

what's going on with the technology and predicting where it will go next,

is one of the biggest hurdles we face in figuring out how to govern AI.

és ez egyik legnagyobb akadálya, hogy kitaláljuk,

hogyan tartsuk kézben az MI irányítását.

But AI is already all around us,

De az MI már mindenütt körülöttünk van,

so we can't just sit around and wait for things to become clearer.

így nem ülhetünk türelmesen arra várva, hogy a dolgok egyértelműbbé váljanak.

We have to forge some kind of path forward anyway.

Meg kell határozzuk a fejlődés irányát.

I've been working on these AI policy and governance issues

Körülbelül nyolc éve dolgozom

az MI szabályozási és irányítási kérdésein,

for about eight years,

First in San Francisco, now in Washington, DC.

először San Franciscóban, most Washingtonban.

Along the way, I've gotten an inside look

Közben közelebbről is szemügyre vehettem,

at how governments are working to manage this technology.

hogyan kezelik a kormányok ezt a technológiát.

And inside the industry, I've seen a thing or two as well.

Az iparban is láttam egy-két dolgot.

So I'm going to share a couple of ideas

Ezért megosztok néhány ötletet,

for what our path to governing AI could look like.

hogyan nézhet ki az MI irányításához vezető utunk.

But first, let's talk about what actually makes AI so hard to understand

De először beszéljünk arról, hogy mitől nehéz megérteni az MI-t

and predict.

és előre látni a jövőt.

One huge challenge in building artificial "intelligence"

Az MI kiépítésének egyik hatalmas kihívása az,

is that no one can agree on what it actually means

hogy nincs egyértelmű meghatározása az intelligenciának.

to be intelligent.

This is a strange place to be in when building a new tech.

Furcsa terepre tévedünk az új technika építésével.

When the Wright brothers started experimenting with planes,

Amikor a Wright testvérek kísérletezni kezdtek a repülőgépekkel,

they didn't know how to build one,

nem tudták, hogyan építsék meg,

but everyone knew what it meant to fly.

de mindenki tudta, mit jelent repülni.

With AI on the other hand,

Ellenben az MI-nél

different experts have completely different intuitions

különböző szakértők teljesen másképp képzelik el,

about what lies at the heart of intelligence.

hogy mi az intelligencia lényege.

Is it problem solving?

Problémamegoldás?

Is it learning and adaptation,

Tanulás és alkalmazkodás,

are emotions,

érzelmek,

or having a physical body somehow involved?

vagy a fizikai testhez is van köze valahogy?

We genuinely don't know.

Őszintén nem tudjuk.

But different answers lead to radically different expectations

De a különböző válaszok radikálisan eltérő elvárásokhoz vezetnek,

about where the technology is going and how fast it'll get there.

hogy merre tart a technológia, és milyen gyorsan jut oda.

An example of how we're confused is how we used to talk

Pl. össze vagyunk zavarodva, mikor összehasonlítjuk

about narrow versus general AI.

a célzott vagy az általános MI-t.

For a long time, we talked in terms of two buckets.

Hosszú ideig két malomban őröltünk.

A lot of people thought we should just be dividing between narrow AI,

Sokan úgy gondolták, hogy különbséget kell tenni a célzott MI,

trained for one specific task,

amely egy adott feladatra képes,

like recommending the next YouTube video,

pl. a következő YouTube-videó ajánlására,

versus artificial general intelligence, or AGI,

és az általános mesterséges intelligencia, azaz AGI között,

that could do everything a human could do.

amely mindenre képes, amire az emberek.

We thought of this distinction, narrow versus general,

Erre a célzott és általános közti különbségre

as a core divide between what we could build in practice

akartunk építeni a gyakorlatban,

and what would actually be intelligent.

hogy ezzel határozzuk meg, mi számít intelligensnek.

But then a year or two ago, along came ChatGPT.

De aztán egy-két évvel ezelőtt jött a ChatGPT.

If you think about it,

Ha jól belegondolunk,

you know, is it narrow AI, trained for one specific task?

ez vajon célzott MI, amely egy adott feladatra lett képezve,

Or is it AGI and can do everything a human can do?

vagy AGI, és mindent megtehet, amit az ember?

Clearly the answer is neither.

Nyilvánvaló, hogy egyik sem.

It's certainly general purpose.

Minden bizonnyal általános célja van.

It can code, write poetry,

Kódolhat, verseket írhat,

analyze business problems, help you fix your car.

üzleti problémákat elemezhet, segíthet az autó javításában.

But it's a far cry from being able to do everything

De messze van attól, hogy mindent olyan jól megtegyen, mint bármelyikünk.

as well as you or I could do it.

So it turns out this idea of generality

Vagyis kiderült, hogy az általánosság ezen elképzelése

doesn't actually seem to be the right dividing line

nem tűnik megfelelő választóvonalnak intelligens és nem intelligens között.

between intelligent and not.

And this kind of thing

Ez a kérdés

is a huge challenge for the whole field of AI right now.

jelenleg hatalmas kihívás az MI egész világának.

We don't have any agreement on what we're trying to build

Nincs konszenzus abban, mit próbálunk fejleszteni,

or on what the road map looks like from here.

vagy hogyan tovább.

We don't even clearly understand the AI systems that we have today.

Még a már létező MI-rendszereket sem értjük teljesen.

Why is that?

Miért van ez?

Researchers sometimes describe deep neural networks,

A kutatók néha fekete dobozként írják le a mély neurális hálózatokat,

the main kind of AI being built today,

as a black box.

a mai MI fő típusát.

But what they mean by that is not that it's inherently mysterious

De ez alatt nem azt értik, hogy eredendően titokzatosak,

and we have no way of looking inside the box.

és semmiképp nem tudunk belenézni a dobozba.

The problem is that when we do look inside,

Azzal van a gond, hogy amikor belenézünk,

what we find are millions,

millió, milliárd vagy akár billió számot találunk,

billions or even trillions of numbers

that get added and multiplied together in a particular way.

amelyek sajátos módon adódnak és szorzódnak össze.

A szakértők dolgát egyszerűen megnehezíti a túl sok szám,

What makes it hard for experts to know what's going on

is basically just, there are too many numbers,

and we don't yet have good ways of teasing apart what they're all doing.

és még nincs jó módszer annak meghatározására, mi is történik.

There's a little bit more to it than that, but not a lot.

Ennél kicsit többről van szó, de nem sokkal.

So how do we govern this technology

Hogyan irányíthatjuk hát ezt a technológiát,

that we struggle to understand and predict?

amelynek megértéséért és előre vetítéséért küzdünk?

I'm going to share two ideas.

Két ötletről számolok be:

One for all of us and one for policymakers.

egy mindannyiunk számára és egy a döntéshozóknak.

First, don't be intimidated.

Először is, ne ijedj meg tőle!

Either by the technology itself

Sem a technológiától, sem a létrehozóktól vagy cégektől.

or by the people and companies building it.

On the technology,

A technológia szempontjából

AI can be confusing, but it's not magical.

az MI zavarba ejtő lehet, de nem varázslat.

There are some parts of AI systems we do already understand well,

A MI-rendszerek egyes részeit már jól értjük,

and even the parts we don't understand won't be opaque forever.

és az érthetetlen részek sem lesznek örökké átláthatatlanok.

An area of research known as “AI interpretability”

Az „MI értelmezhetősége” néven ismert kutatási terület

has made quite a lot of progress in the last few years

az elmúlt években meglehetősen nagy előrelépést tett,

in making sense of what all those billions of numbers are doing.

hogy értelmezze, mit csinál a több milliárd szám.

One team of researchers, for example,

Egy kutatócsoport például módot talált arra,

found a way to identify different parts of a neural network

hogy azonosítsa az ideghálózat különböző részeit, amelyek szabályozták,

that they could dial up or dial down

to make the AI's answers happier or angrier,

hogy az MI válaszai boldogabbak dühösebbek, őszintébbek,

more honest,

more Machiavellian, and so on.

machiavellisebbek stb. legyenek.

If we can push forward this kind of research further,

E kutatás fejlesztésével öt vagy tíz év múlva

then five or 10 years from now,

we might have a much clearer understanding of what's going on

sokkal jobban megérthetjük, mi történik az ún. fekete dobozban.

inside the so-called black box.

And when it comes to those building the technology,

Ami pedig a technológiát építőket illeti:

technologists sometimes act as though

a technológusok néha azt mondják,

if you're not elbows deep in the technical details,

hogy ha nem vagyunk benne mélyen a technikai részletekben,

then you're not entitled to an opinion on what we should do with it.

akkor nem is vagyunk jogosultak véleményt mondani a teendőkről.

Expertise has its place, of course,

A szakértelemnek természetesen megvan a helye,

but history shows us how important it is

de a történelem megmutatja, mennyire fontos,

that the people affected by a new technology

hogy az új technológiát használók

get to play a role in shaping how we use it.

szerepet játszhassanak abban, hogyan használjuk azt.

Like the factory workers in the 20th century who fought for factory safety,

Mint a 20. századi gyári munkások, akik a gyár biztonságáért küzdöttek,

or the disability advocates

vagy a fogyatékossággal élők szószólói,

who made sure the world wide web was accessible.

akik gondoskodtak arról, hogy a világháló elérhetővé váljon.

You don't have to be a scientist or engineer to have a voice.

Nem kell tudósnak vagy mérnöknek lenned ahhoz, hogy hangod legyen.

(Applause)

(Taps)

Second, we need to focus on adaptability, not certainty.

Másodszor, az alkalmazkodóképességre kell összpontosítanunk, nem a bizonyosságra.

A lot of conversations about how to make policy for AI

Sok beszélünk az MI szabályzatának kialakításáról.

get bogged down in fights between, on the one side,

A viták során az egyik oldalon azt mondják:

people saying, "We have to regulate AI really hard right now

„Most nagyon keményen kell szabályoznunk az MI-t,

because it's so risky."

mert ez annyira kockázatos.”

And on the other side, people saying,

A másik oldalon pedig azt mondják:

“But regulation will kill innovation, and those risks are made up anyway.”

„De a szabályozás megöli az innovációt, és a kockázatok egyébként is előjönnek.”

But the way I see it,

De ahogy én látom,

it’s not just a choice between slamming on the brakes

nem csak a fékre taposás vagy a gyorsítás közül választunk.

or hitting the gas.

If you're driving down a road with unexpected twists and turns,

Ha váratlan kanyarokkal teli úton haladsz, akkor sokat segítenek a következők:

then two things that will help you a lot

are having a clear view out the windshield

tiszta kilátás a szélvédőn

and an excellent steering system.

és kiváló kormányrendszer.

In AI, this means having a clear picture of where the technology is

Az MI esetében ez azt jelenti, hogy legyen világos,

hol és merre tart a technológia,

and where it's going,

and having plans in place for what to do in different scenarios.

és tervezzük meg, mit tegyünk a különböző esetekben.

Concretely, this means things like investing in our ability to measure

Konkrétan fektessünk pl. abba, hogy fel tudjuk mérni,

mire képesek az MI-rendszerek.

what AI systems can do.

This sounds nerdy, but it really matters.

Ez furcsán hangzik, de tényleg számít.

Right now, if we want to figure out

Jelenleg, ha meg akarjuk tudni, hogy az MI tehet-e valami aggasztót,

whether an AI can do something concerning,

like hack critical infrastructure

például feltörhet-e kritikus infrastruktúrát,

or persuade someone to change their political beliefs,

vagy meggyőzhet-e valakit, hogy változtassa meg politikai meggyőződését,

our methods of measuring that are rudimentary.

erre kezdetleges mérési módszereink vannak.

We need better.

Jobbakra van szükségünk.

We should also be requiring AI companies,

Azt is meg kell követelnünk az MI-cégektől,

especially the companies building the most advanced AI systems,

különösen a legfejlettebb MI-rendszereket fejlesztő vállalatoktól,

to share information about what they're building,

hogy osszák meg információikat arról, mit építenek, mit tudnak tenni a rendszereik,

what their systems can do

and how they're managing risks.

és hogyan kezelik a kockázatokat.

And they should have to let in external AI auditors to scrutinize their work

Be kellene engedniük külső MI auditorokat, hogy vizsgálják a munkájukat,

so that the companies aren't just grading their own homework.

hogy a vállalatok ne csak saját házi feladataikat osztályozzák.

(Applause)

(Taps)

A final example of what this can look like

Még egy utolsó példa, hogyan nézhet ki az eseménykövető-rendszer kiépítése,

is setting up incident reporting mechanisms,

so that when things do go wrong in the real world,

hogy amikor a valós világban rosszra fordulnak a dolgok,

we have a way to collect data on what happened

lehetőségünk legyen adatokat gyűjteni, hogy mi történt,

and how we can fix it next time.

és hogyan tudjuk legközelebb elkerülni,

Just like the data we collect on plane crashes and cyber attacks.

a repülőgép-balesetekről és kiber- támadásokról gyűjtött adatokhoz hasomlóan.

None of these ideas are mine,

Egyik ötlet sem a sajátom.

and some of them are already starting to be implemented in places like Brussels,

Némelyiket már kezdik megvalósítani Brüsszelben,

London, even Washington.

Londonban, sőt Washingtonban is.

But the reason I'm highlighting these ideas,

Azért emelem ki ezeket az ötleteket,

measurement, disclosure, incident reporting,

méréseket, a nyilvánosságra hozatalt, az eseményjelentést,

is that they help us navigate progress in AI

mert segítenek eligazodni az MI fejlődésében,

by giving us a clearer view out the windshield.

tisztább képet mutatnak.

If AI is progressing fast in dangerous directions,

Ha az MI hirtelen veszélyes irányba fordul,

these policies will help us see that.

ezek az előírások segítenek meglátni azt.

And if everything is going smoothly, they'll show us that too,

Ha minden zökkenőmentes, azt is megmutatják,

and we can respond accordingly.

és ennek megfelelően tudunk reagálni.

What I want to leave you with

Azzal a következtetéssel zárom,

is that it's both true that there's a ton of uncertainty

hogy mindkettő igaz:

rengeteg a bizonytalanság és nézeteltérés az MI területén.

and disagreement in the field of AI.

And that companies are already building and deploying AI

A vállalatok már mindenütt fejlesztik és telepítik

all over the place anyway in ways that affect all of us.

a mindnyájunkat érintő MI-ket.

A saját eszközeikkel úgy tűnik,

Left to their own devices,

it looks like AI companies might go in a similar direction

az MI-cégek talán hasonló irányba haladnak,

to social media companies,

mint a közösségi média cégek,

spending most of their resources on building web apps

erőforrásaik nagy részét webalkalmazások építésére

and for users' attention.

és a felhasználók figyelmének felkeltésére fordítják.

And by default, it looks like the enormous power of more advanced AI systems

A dolgok jelenlegi állása alapján úgy tűnik,

might stay concentrated in the hands of a small number of companies,

hogy a fejlettebb MI rendszerek hatalmas ereje kis számú vállalat,

or even a small number of individuals.

vagy akár pár magánszemély kezében koncentrálódhat.

But AI's potential goes so far beyond that.

De az MI hatásköre messze túlmutat ezen.

AI already lets us leap over language barriers

Az MI már lehetővé teszi, hogy átlépjünk a nyelvi akadályokon,

and predict protein structures.

és meghatározzuk a fehérjeszerkezeteket.

More advanced systems could unlock clean, limitless fusion energy

A fejlettebb rendszerek tiszta, korlátlan fúziós energiát szabadíthatnak fel,

or revolutionize how we grow food

vagy forradalmasíthatják az élelmiszeripart vagy ezer más dolgot.

or 1,000 other things.

And we each have a voice in what happens.

Mindenkinek van beleszólása abba, mi történik.

We're not just data sources,

Nemcsak adatforrások, hanem felhasználók, munkavállalók, polgárok is vagyunk.

we are users,

we're workers,

we're citizens.

So as tempting as it might be,

Bármennyire is csábító lehet, nem várhatjuk tétlenül

we can't wait for clarity or expert consensus

a dolgok tisztázását vagy a szakértői konszenzust,

to figure out what we want to happen with AI.

hogy megmondják, mihez kezdjünk az MI-vel.

AI is already happening to us.

Az MI már itt van velünk.

What we can do is put policies in place

Amit tehetünk, hogy szabályokat állítunk fel,

to give us as clear a picture as we can get

hogy minél világosabb képünk legyen a technológia változásáról,

of how the technology is changing,

and then we can get in the arena and push for futures we actually want.

aztán belépjetünk a küzdőtérre, és törekedhetünk a kívánt jövőre.

Thank you.

Köszönöm.

(Applause)

(Taps)