How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Vertaald door: Selma El Mahyaoui Nagekeken door: Tahlia Flora

When I talk to people about artificial intelligence,

Als ik met mensen praat over kunstmatige intelligentie

something I hear a lot from non-experts is “I don’t understand AI.”

hoor ik vaak van leken: “Ik begrijp AI niet.”

But when I talk to experts, a funny thing happens.

Maar als ik met experts praat, gebeurt er iets grappigs.

They say, “I don’t understand AI, and neither does anyone else.”

Ze zeggen: “Ik begrijp AI niet, en andere mensen ook niet.”

This is a pretty strange state of affairs.

Dit is een vrij vreemde stand van zaken.

Normally, the people building a new technology

Normaal gesproken begrijpen de mensen die een nieuwe technologie ontwikkelen

understand how it works inside and out.

hoe alles tot in de puntjes werkt.

But for AI, a technology that's radically reshaping the world around us,

Maar voor AI, een technologie

die de wereld om ons heen radicaal verandert,

that's not so.

is dat niet zo.

Experts do know plenty about how to build and run AI systems, of course.

Experts weten natuurlijk veel

over het bouwen en beheren van AI-systemen.

But when it comes to how they work on the inside,

Maar als het gaat om hoe ze van binnen werken,

there are serious limits to how much we know.

zijn er ernstige grenzen aan hoeveel we weten.

And this matters because without deeply understanding AI,

En dat is belangrijk, want zonder diepgaand inzicht in AI,

it's really difficult for us to know what it will be able to do next,

is het erg moeilijk voor ons om te weten wat het vervolgens kan doen,

or even what it can do now.

of zelfs wat het nu kan doen.

And the fact that we have such a hard time understanding

Het feit dat het voor ons zo moeilijk is om te begrijpen

what's going on with the technology and predicting where it will go next,

wat er met de technologie aan de hand is

en te voorspellen waar de technologie naartoe zal gaan,

is one of the biggest hurdles we face in figuring out how to govern AI.

is een van de grootste hindernissen bij het aansturen van AI.

But AI is already all around us,

Maar AI is al overal om ons heen,

so we can't just sit around and wait for things to become clearer.

dus we kunnen niet blijven wachten tot alles duidelijker wordt.

We have to forge some kind of path forward anyway.

We moeten hoe dan ook een weg vooruit vinden.

I've been working on these AI policy and governance issues

Ik werk al ongeveer acht jaar aan deze beleids- en bestuurskwesties.

for about eight years,

First in San Francisco, now in Washington, DC.

Eerst in San Francisco, nu in Washington, D.C.

Along the way, I've gotten an inside look

Gaandeweg heb ik een kijkje genomen

at how governments are working to manage this technology.

in hoe overheden werken om deze technologie te beheren.

And inside the industry, I've seen a thing or two as well.

En binnen de branche heb ik ook het een en ander gezien.

(Gelach)

So I'm going to share a couple of ideas

Dus ik ga een paar ideeën delen

for what our path to governing AI could look like.

over hoe onze weg naar het besturen van AI eruit zou kunnen zien.

Maar laten we eerst eens bespreken

But first, let's talk about what actually makes AI so hard to understand

wat het zo moeilijk maakt om AI te begrijpen

and predict.

en te voorspellen.

One huge challenge in building artificial "intelligence"

Een grote uitdaging bij het bouwen van kunstmatige ‘intelligentie’

is that no one can agree on what it actually means

is dat niemand het eens kan worden over wat het eigenlijk betekent

to be intelligent.

om intelligent te zijn.

Dit is vreemd wanneer je een nieuwe technologie bouwt.

This is a strange place to be in when building a new tech.

When the Wright brothers started experimenting with planes,

Toen de Wright broers begonnen te experimenteren met vliegtuigen,

they didn't know how to build one,

wisten ze niet hoe ze er een moesten bouwen,

but everyone knew what it meant to fly.

maar iedereen wist wat vliegen betekende.

With AI on the other hand,

Bij AI daarentegen,

different experts have completely different intuitions

hebben verschillende experten totaal verschillende opvattingen

about what lies at the heart of intelligence.

over wat de kern van intelligentie is.

Is it problem solving?

Is het een probleemoplossing?

Is it learning and adaptation,

Is het leren en aanpassen?

are emotions,

Zijn emoties,

or having a physical body somehow involved?

of een fysiek lichaam er enigszins bij betrokken?

We genuinely don't know.

We weten het echt niet.

But different answers lead to radically different expectations

Maar verschillende antwoorden leiden tot totaal verschillende verwachtingen

about where the technology is going and how fast it'll get there.

over waar de technologie naartoe gaat en hoe snel die daar zal komen.

An example of how we're confused is how we used to talk

Een voorbeeld van hoe verward we zijn, is hoe we het vroeger hadden

about narrow versus general AI.

over nauwe versus algemene AI.

For a long time, we talked in terms of two buckets.

We hebben lang gesproken in termen van twee emmers.

A lot of people thought we should just be dividing between narrow AI,

Veel mensen dachten dat we onderscheid moesten maken tussen nauwe AI,

trained for one specific task,

getraind voor één specifieke taak,

like recommending the next YouTube video,

zoals het aanbevelen van de volgende YouTube-video,

versus artificial general intelligence, or AGI,

versus kunstmatige algemene intelligentie, of AGI,

that could do everything a human could do.

die alles kan wat een mens ook kan.

We thought of this distinction, narrow versus general,

We beschouwden dit onderscheid, specifiek versus algemeen,

as a core divide between what we could build in practice

als een kernkloof tussen wat we in de praktijk konden bouwen

and what would actually be intelligent.

en wat eigenlijk intelligent zou zijn.

But then a year or two ago, along came ChatGPT.

Maar een jaar of twee geleden kwam ChatGPT.

If you think about it,

Als je erover nadenkt,

you know, is it narrow AI, trained for one specific task?

is het beperkte AI, getraind voor één specifieke taak?

Or is it AGI and can do everything a human can do?

Of is het AGI en kan het alles doen wat een mens ook kan?

Het antwoord is duidelijk geen van beide.

Clearly the answer is neither.

It's certainly general purpose.

Het is zeker een algemeen doel.

It can code, write poetry,

Het kan coderen, poëzie schrijven,

analyze business problems, help you fix your car.

zakelijke problemen analyseren, helpen bij het repareren van je auto.

But it's a far cry from being able to do everything

Maar het kan in geen enkel opzicht

het net zo goed doen als jij en ik.

as well as you or I could do it.

So it turns out this idea of generality

Het blijkt dus dat dit idee van algemeenheid

doesn't actually seem to be the right dividing line

niet de juiste scheidslijn lijkt te zijn

between intelligent and not.

tussen wel of geen intelligentie.

En dit soort dingen

And this kind of thing

is a huge challenge for the whole field of AI right now.

zijn momenteel een enorme uitdaging voor de hele sector van AI.

We don't have any agreement on what we're trying to build

We hebben geen overeenstemming over wat we proberen te bouwen

or on what the road map looks like from here.

of over hoe de routekaart eruitziet.

We don't even clearly understand the AI systems that we have today.

We begrijpen de AI-systemen die er tegenwoordig zijn niet eens goed.

Waarom is dat zo?

Why is that?

Onderzoekers beschrijven diepe neurale netwerken,

Researchers sometimes describe deep neural networks,

the main kind of AI being built today,

de belangrijkste vorm van AI die nu gebouwd wordt,

as a black box.

soms als een zwarte doos.

But what they mean by that is not that it's inherently mysterious

Maar daarmee bedoelen ze niet dat het inherent mysterieus is

and we have no way of looking inside the box.

en dat we op geen enkele manier in de doos kunnen kijken.

The problem is that when we do look inside,

Het probleem is dat als we erin kijken,

what we find are millions,

we miljoenen, miljarden of zelfs biljoenen getallen vinden

billions or even trillions of numbers

that get added and multiplied together in a particular way.

die op een bepaalde manier bij elkaar worden opgeteld en vermenigvuldigd.

Wat het experts moeilijk maakt om te weten wat er gaande is,

What makes it hard for experts to know what's going on

is basically just, there are too many numbers,

is dat er eigenlijk te veel cijfers zijn,

and we don't yet have good ways of teasing apart what they're all doing.

en we hebben nog geen manier om te weten wat ze allemaal doen.

There's a little bit more to it than that, but not a lot.

Er is meer aan de hand, maar niet veel.

So how do we govern this technology

Hoe besturen we dan deze technologie

that we struggle to understand and predict?

die we moeilijk kunnen begrijpen en voorspellen?

I'm going to share two ideas.

Ik ga twee ideeën met jullie delen.

One for all of us and one for policymakers.

Een voor ons allemaal en een voor beleidsmakers.

First, don't be intimidated.

Ten eerste, laat je niet intimideren.

Either by the technology itself

Ofwel door de technologie zelf,

or by the people and companies building it.

of door de mensen en bedrijven die de technologie bouwen.

On the technology,

Wat de technologie betreft,

AI can be confusing, but it's not magical.

kan AI verwarrend zijn, maar het is niet magisch.

There are some parts of AI systems we do already understand well,

Sommige onderdelen van AI-systemen begrijpen we al goed,

and even the parts we don't understand won't be opaque forever.

en de onderdelen die we niet begrijpen, zullen niet altijd onduidelijk zijn.

An area of research known as “AI interpretability”

Een onderzoeksgebied dat bekend staat als ‘AI-interpreteerbaarheid’

has made quite a lot of progress in the last few years

heeft de afgelopen jaren behoorlijk wat vooruitgang geboekt

in making sense of what all those billions of numbers are doing.

bij het inzichtelijk maken van wat al die miljarden cijfers doen.

One team of researchers, for example,

Een team van onderzoekers, bijvoorbeeld,

found a way to identify different parts of a neural network

vond een manier om verschillende delen van een neuraal netwerk te identificeren

that they could dial up or dial down

die ze naar een hoger of lager niveau konden zetten

to make the AI's answers happier or angrier,

om de AI-antwoorden vrolijker, bozer, eerlijker en machiavellistischer te maken,

more honest,

more Machiavellian, and so on.

en zo verder.

If we can push forward this kind of research further,

Als we dit soort onderzoek verder kunnen voortzetten,

then five or 10 years from now,

dan hebben we binnen vijf of tien jaar,

we might have a much clearer understanding of what's going on

misschien een veel beter begrip

van wat er in de zogenaamde zwarte doos gebeurt.

inside the so-called black box.

And when it comes to those building the technology,

Als het gaat om degenen die de technologie ontwikkelen,

technologists sometimes act as though

gedragen technologen zich alsof degenen die de kleinste details niet beheersen,

if you're not elbows deep in the technical details,

then you're not entitled to an opinion on what we should do with it.

geen mening mogen hebben over wat we ermee moeten doen.

Expertise has its place, of course,

Expertise is natuurlijk op zijn plaats,

but history shows us how important it is

maar de geschiedenis leert ons hoe belangrijk het is

that the people affected by a new technology

dat de mensen die door een nieuwe technologie beïnvloed worden,

get to play a role in shaping how we use it.

een rol kunnen spelen in de manier waarop we die gebruiken.

Like the factory workers in the 20th century who fought for factory safety,

Zoals de fabrieksarbeiders in de 20e eeuw

die vochten voor fabrieksveiligheid,

or the disability advocates

of de voorstanders van gehandicapten

who made sure the world wide web was accessible.

die ervoor zorgden dat het wereldwijde web toegankelijk was.

You don't have to be a scientist or engineer to have a voice.

Je hoeft geen wetenschapper of ingenieur te zijn

om een stem te hebben.

(Applause)

(Applaus)

Second, we need to focus on adaptability, not certainty.

Ten tweede moeten we ons concentreren op aanpassingsvermogen,

niet op zekerheid.

A lot of conversations about how to make policy for AI

Veel gesprekken over hoe je beleid voor AI kunt maken,

get bogged down in fights between, on the one side,

verzanden in ruzies tussen, aan de ene kant,

people saying, "We have to regulate AI really hard right now

mensen die zeggen: “We moeten AI op dit moment heel hard reguleren

because it's so risky."

omdat het zo riskant is.”

And on the other side, people saying,

Aan de andere kant zeggen mensen:

“Maar regelgeving zal innovatie uitschakelen,

“But regulation will kill innovation, and those risks are made up anyway.”

en die risico’s worden hoe dan ook verzonnen.”

But the way I see it,

Maar volgens mij,

it’s not just a choice between slamming on the brakes

is het niet alleen een keuze tussen remmen

or hitting the gas.

of gas geven.

If you're driving down a road with unexpected twists and turns,

Als je over een weg rijdt met onverwachte wendingen,

then two things that will help you a lot

dan zijn er twee dingen die je heel erg helpen:

are having a clear view out the windshield

goed zicht door de voorruit

and an excellent steering system.

en een uitstekend stuursysteem.

In AI, this means having a clear picture of where the technology is

Bij AI betekent dit, een duidelijk beeld hebben

van waar de technologie zich bevindt

and where it's going,

en waar die naartoe gaat,

and having plans in place for what to do in different scenarios.

en dat je plannen hebt voor wat je in verschillende scenario’s moet doen.

Concretely, this means things like investing in our ability to measure

Concreet, betekent dit zaken als investeren in ons vermogen om te meten

what AI systems can do.

wat AI-systemen kunnen doen.

This sounds nerdy, but it really matters.

Dit klinkt nerdy, maar het is echt belangrijk.

Right now, if we want to figure out

Als we nu willen weten

whether an AI can do something concerning,

of een AI iets zorgwekkends kan doen,

like hack critical infrastructure

zoals kritieke infrastructuur hacken

or persuade someone to change their political beliefs,

of iemand overtuigen om zijn politieke mening te veranderen,

our methods of measuring that are rudimentary.

dan zijn onze meetmethoden rudimentair.

We need better.

We hebben betere methoden nodig.

We should also be requiring AI companies,

We zouden AI-bedrijven,

especially the companies building the most advanced AI systems,

zeker bedrijven die de meest geavanceerde AI-systemen bouwen,

to share information about what they're building,

ook moeten verplichten om informatie te delen over wat ze bouwen,

what their systems can do

wat hun systemen allemaal kunnen

and how they're managing risks.

en hoe ze risico's beheersen.

And they should have to let in external AI auditors to scrutinize their work

En ze zouden externe AI-auditors moeten inschakelen

om hun werk onder de loep te nemen,

so that the companies aren't just grading their own homework.

zodat de bedrijven niet alleen hun eigen huiswerk beoordelen.

(Applause)

(Applaus)

A final example of what this can look like

Een laatste voorbeeld van hoe dit eruit kan zien,

is setting up incident reporting mechanisms,

is het opzetten van mechanismen voor het melden van incidenten,

zodat als er iets misgaat in de echte wereld,

so that when things do go wrong in the real world,

we have a way to collect data on what happened

we een manier hebben om gegevens te verzamelen

over wat er gebeurde en hoe we dit de volgende keer oplossen.

and how we can fix it next time.

Just like the data we collect on plane crashes and cyber attacks.

Net zoals de gegevens die we verzamelen

over vliegtuigongelukken en cyberaanvallen.

None of these ideas are mine,

Geen van deze ideeën is van mij,

and some of them are already starting to be implemented in places like Brussels,

en sommige ervan worden al geïmplementeerd

in plaatsen zoals Brussel, Londen en zelfs Washington.

London, even Washington.

But the reason I'm highlighting these ideas,

Maar de reden waarom ik deze ideeën,

measurement, disclosure, incident reporting,

metingen, openbaarmaking en incidentrapportage benadruk,

is that they help us navigate progress in AI

is dat ze ons helpen vooruitgang te boeken in AI

by giving us a clearer view out the windshield.

door ons een duidelijker zicht door de voorruit te geven.

If AI is progressing fast in dangerous directions,

Als AI snel vooruitgang boekt in gevaarlijke richtingen,

these policies will help us see that.

zal dit beleid ons helpen dat te zien.

And if everything is going smoothly, they'll show us that too,

En als alles goed gaat, laten ze ons dat ook zien,

and we can respond accordingly.

en kunnen we dienovereenkomstig reageren.

What I want to leave you with

Wat ik je wil meegeven

is that it's both true that there's a ton of uncertainty

is dat er zowel veel onzekerheid

and disagreement in the field of AI.

als onenigheid is op het gebied van AI.

And that companies are already building and deploying AI

En dat bedrijven sowieso al overal AI bouwen en inzetten

all over the place anyway in ways that affect all of us.

op manieren die ons allemaal aangaan.

Als het aan hun lot wordt overgelaten,

Left to their own devices,

it looks like AI companies might go in a similar direction

lijkt het erop dat AI-bedrijven dezelfde kant opgaan

to social media companies,

als sociale mediabedrijven,

spending most of their resources on building web apps

en hun middelen grotendeels besteden

aan het bouwen van webapps en voor de aandacht van gebruikers.

and for users' attention.

And by default, it looks like the enormous power of more advanced AI systems

En standaard, lijkt het erop

dat de enorme kracht van meer geavanceerde AI-systemen

might stay concentrated in the hands of a small number of companies,

geconcentreerd blijven in de handen van een klein aantal bedrijven,

or even a small number of individuals.

of zelfs van een klein aantal individuen.

But AI's potential goes so far beyond that.

Maar het potentieel van AI gaat veel verder.

AI already lets us leap over language barriers

Met AI kunnen we nu al over taalbarrières heen springen

and predict protein structures.

en eiwitstructuren voorspellen.

More advanced systems could unlock clean, limitless fusion energy

Meer geavanceerde systemen kunnen schone, onbegrensde fusie-energie ontsluiten

of de manier waarop we voedsel verbouwen revolutioneren

or revolutionize how we grow food

or 1,000 other things.

of 1.000 andere dingen.

And we each have a voice in what happens.

En we hebben allemaal een mening in wat er gebeurt.

We're not just data sources,

We zijn niet alleen gegevensbronnen,

we are users,

we zijn gebruikers,

we're workers,

we zijn werknemers,

we're citizens.

we zijn burgers.

So as tempting as it might be,

Hoe verleidelijk het ook mag zijn,

we can't wait for clarity or expert consensus

we kunnen niet wachten op duidelijkheid of consensus van experts

to figure out what we want to happen with AI.

om erachter te komen wat we willen dat er gebeurt met AI.

AI is already happening to us.

AI is ons al aan het overkomen.

What we can do is put policies in place

We kunnen wel beleid invoeren

to give us as clear a picture as we can get

om zo duidelijk mogelijk een beeld te geven

of how the technology is changing,

van hoe de technologie verandert,

and then we can get in the arena and push for futures we actually want.

en dan kunnen we de arena betreden

en ons inzetten voor een toekomst die we echt willen.

Thank you.

Bedankt.

(Applause)

(Applaus)