How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Übersetzung: Cornelia Schlesinger Lektorat: P Hakenberg

When I talk to people about artificial intelligence,

Wenn ich mit Leuten über künstliche Intelligenz spreche

something I hear a lot from non-experts is “I don’t understand AI.”

sagen Laien oft:

„Ich verstehe KI nicht.“

But when I talk to experts, a funny thing happens.

Aber wenn ich mit Experten spreche, passiert etwas Lustiges.

They say, “I don’t understand AI, and neither does anyone else.”

Sie sagen: „Ich verstehe KI nicht.

Niemand versteht sie.“

This is a pretty strange state of affairs.

Das ist ein ziemlich seltsamer Zustand.

Normally, the people building a new technology

Normalerweise verstehen die Leute, die eine neue Technologie entwickeln,

understand how it works inside and out.

ganz genau, wie sie funktioniert.

But for AI, a technology that's radically reshaping the world around us,

Aber bei KI,

einer Technologie, die die Welt um uns herum radikal verändert,

that's not so.

ist das nicht der Fall.

Experts do know plenty about how to build and run AI systems, of course.

Experten wissen natürlich viel darüber, wie man KI-Systeme baut und betreibt.

But when it comes to how they work on the inside,

Aber wenn es darum geht, wie sie im Inneren funktionieren,

there are serious limits to how much we know.

ist unser Wissen sehr begrenzt.

And this matters because without deeply understanding AI,

Und das ist wichtig, denn ohne tieferes Verständnis von KI

it's really difficult for us to know what it will be able to do next,

ist es schwierig zu wissen, was sie als Nächstes können könnte

or even what it can do now.

oder sogar was sie jetzt schon kann.

And the fact that we have such a hard time understanding

Dass es uns so schwer fällt zu verstehen,

what's going on with the technology and predicting where it will go next,

was mit der Technologie vor sich geht,

und vorherzusagen was als Nächstes kommt,

is one of the biggest hurdles we face in figuring out how to govern AI.

ist eine der größten Hürden, bei der Regulierung von KI.

But AI is already all around us,

Aber wir sind jetzt schon von KI umgeben,

so we can't just sit around and wait for things to become clearer.

also können wir nicht einfach herumsitzen und auf mehr Klarheit warten.

We have to forge some kind of path forward anyway.

Wir müssen irgendeinen Weg vorwärts finden.

I've been working on these AI policy and governance issues

Ich arbeite an Fragen der KI-Politik und Regulierung

for about eight years,

seit über acht Jahren,

First in San Francisco, now in Washington, DC.

zuerst in San Francisco, jetzt in Washington, DC.

Along the way, I've gotten an inside look

Dabei habe ich einen Einblick bekommen,

at how governments are working to manage this technology.

wie Regierungen daran arbeiten, wie sie mit der Technologie umgehen.

And inside the industry, I've seen a thing or two as well.

Innerhalb der Branche habe ich auch ein, zwei Dinge erlebt.

So I'm going to share a couple of ideas

Deshalb werde ich Ihnen ein paar Ideen vorstellen,

for what our path to governing AI could look like.

wie unser Weg zur Regulierung von KI aussehen könnte.

Aber lassen Sie uns erst darüber sprechen,

But first, let's talk about what actually makes AI so hard to understand

warum KI so schwer zu verstehen und vorherzusagen ist.

and predict.

One huge challenge in building artificial "intelligence"

Eine große Herausforderung

bei der Entwicklung von künstlicher „Intelligenz“ ist,

is that no one can agree on what it actually means

dass man sich nicht einig ist,

was das eigentlich heißt, intelligent zu sein.

to be intelligent.

This is a strange place to be in when building a new tech.

Das macht es schwierig, wenn man eine neue Technologie entwickelt.

When the Wright brothers started experimenting with planes,

Als die Gebrüder Wright anfingen mit Flugzeugen zu experimentieren,

they didn't know how to build one,

wussten sie nicht, wie man eines baut,

but everyone knew what it meant to fly.

aber jeder wusste, was fliegen ist.

With AI on the other hand,

Bei KI hingegen haben verschiedene Experten

different experts have completely different intuitions

völlig unterschiedliche Anschauungen davon

about what lies at the heart of intelligence.

was den Kern der Intelligenz ausmacht.

Is it problem solving?

Ist es das Lösen von Problemen?

Is it learning and adaptation,

Ist es Lernen und Anpassung?

are emotions,

Spielen Emotionen

or having a physical body somehow involved?

oder die Existenz eines physischen Körpers eine Rolle?

We genuinely don't know.

Wir wissen es nicht.

But different answers lead to radically different expectations

Aber unterschiedliche Antworten

führen zu komplett unterschiedlichen Erwartungen,

about where the technology is going and how fast it'll get there.

wohin sich die Technologie entwickelt und wie schnell sie dort hin kommt.

An example of how we're confused is how we used to talk

Ein Beispiel dafür, wie verwirrend es ist, ist die Art, wie früher

about narrow versus general AI.

über schwache und allgemeine KI gesprochen wurde.

For a long time, we talked in terms of two buckets.

Lange Zeit sprachen wir von zwei Bereichen.

A lot of people thought we should just be dividing between narrow AI,

Viele glaubten, wir sollten zwischen schwacher KI,

trained for one specific task,

die für bestimmte Aufgaben trainiert ist,

like recommending the next YouTube video,

wie das Vorschlagen des nächsten YouTube-Videos,

versus artificial general intelligence, or AGI,

und künstlicher allgemeiner Intelligenz oder AGI,

that could do everything a human could do.

die alles kann, was ein Mensch kann, unterscheiden.

We thought of this distinction, narrow versus general,

Wir betrachteten diese Unterscheidung, schwach oder allgemein,

as a core divide between what we could build in practice

als Hauptunterschied zwischen dem

was wir entwickeln können,

and what would actually be intelligent.

und dem, was tatsächlich intelligent wäre.

But then a year or two ago, along came ChatGPT.

Vor ein oder zwei Jahren kam dann ChatGPT.

If you think about it,

Wenn man darüber nachdenkt --

you know, is it narrow AI, trained for one specific task?

ist es eine schwache KI,

die für eine bestimmte Aufgabe trainiert ist?

Or is it AGI and can do everything a human can do?

Oder ist es AGI und kann alles, was ein Mensch kann?

Clearly the answer is neither.

Die Antwort lautet: Weder noch.

It's certainly general purpose.

Es ist sicherlich generell einsetzbar.

It can code, write poetry,

Es kann programmieren, Gedichte schreiben,

analyze business problems, help you fix your car.

Geschäftsprobleme analysieren und helfen das Auto zu reparieren.

But it's a far cry from being able to do everything

Aber es ist weit davon entfernt alles so gut machen zu können

as well as you or I could do it.

wie Sie oder ich es könnten.

So it turns out this idea of generality

Die Idee der Generalität scheint also nicht die richtige Trennlinie

doesn't actually seem to be the right dividing line

between intelligent and not.

zwischen intelligent und nicht intelligent zu sein.

And this kind of thing

Diese Dinge sind derzeit eine große Herausforderung

is a huge challenge for the whole field of AI right now.

für den gesamten Bereich von KI.

We don't have any agreement on what we're trying to build

Wir sind uns nicht einig darüber, was wir bauen wollen

or on what the road map looks like from here.

oder wie das weitere Vorgehen aussieht.

We don't even clearly understand the AI systems that we have today.

Wir verstehen die KI-Systeme, die wir heute haben, nicht einmal genau.

Why is that?

Warum ist das so?

Researchers sometimes describe deep neural networks,

Forscher beschreiben manchmal tiefe neuronale Netze,

the main kind of AI being built today,

die wichtigste Art von KI, die heute gebaut wird,

as a black box.

als Blackbox.

But what they mean by that is not that it's inherently mysterious

Aber damit meinen sie nicht, dass es von Natur aus rätselhaft ist

and we have no way of looking inside the box.

und wir keine Möglichkeit haben in die Box hineinzuschauen.

The problem is that when we do look inside,

Das Problem ist, dass wir, wenn wir hineinschauen,

what we find are millions,

Millionen, Milliarden

billions or even trillions of numbers

oder sogar Billionen von Zahlen vorfinden,

that get added and multiplied together in a particular way.

die auf eine bestimmte Weise addiert und multipliziert werden.

Was es für Experten schwierig macht, zu wissen, was vor sich geht,

What makes it hard for experts to know what's going on

is basically just, there are too many numbers,

ist im Grunde nur, dass es zu viele Zahlen gibt

and we don't yet have good ways of teasing apart what they're all doing.

und wir noch keine guten Möglichkeiten haben,

das, was sie alle tun, zu verstehen.

There's a little bit more to it than that, but not a lot.

Es steckt ein bisschen mehr dahinter, aber nicht viel.

So how do we govern this technology

Wie regulieren wir also diese Technologie,

that we struggle to understand and predict?

die wir nur schwer verstehen und vorhersagen können?

I'm going to share two ideas.

Ich werde Ihnen zwei Ideen vorstellen.

One for all of us and one for policymakers.

Eine für uns alle und eine für politische Entscheidungsträger.

First, don't be intimidated.

Lassen Sie sich nicht einschüchtern.

Either by the technology itself

Weder von die Technologie selbst

or by the people and companies building it.

noch von den Menschen und Unternehmen, die sie entwickeln.

On the technology,

Was die Technologie angeht kann KI verwirrend sein,

AI can be confusing, but it's not magical.

aber ist keine Zauberei.

There are some parts of AI systems we do already understand well,

Es gibt Teile von KI-Systemen, die wir bereits gut verstehen,

and even the parts we don't understand won't be opaque forever.

und selbst das was wir nicht verstehen, wird nicht für immer undurchsichtig sein.

An area of research known as “AI interpretability”

Das Forschungsgebiet der „KI-Interpretierbarkeit“,

has made quite a lot of progress in the last few years

hat in den letzten Jahren große Fortschritte beim Verständnis,

in making sense of what all those billions of numbers are doing.

was all diese Milliarden von Zahlen bewirken, gemacht.

One team of researchers, for example,

Ein Forscherteam fand beispielsweise einen Weg

found a way to identify different parts of a neural network

verschiedene Teile eines neuronalen Nezes zu identifizieren

that they could dial up or dial down

die sie hoch- oder runterstufen konnte,

to make the AI's answers happier or angrier,

um die Antworten der KI erfreulicher oder wütender,

more honest,

ehrlicher,

more Machiavellian, and so on.

machiavellistischer und so weiter zu machen.

If we can push forward this kind of research further,

Wenn wir diese Art der Forschung weiter vorantreiben können,

then five or 10 years from now,

werden wir in fünf oder zehn Jahren

we might have a much clearer understanding of what's going on

vielleicht viel besser verstehen,

was in der sogenannten Blackbox passiert.

inside the so-called black box.

And when it comes to those building the technology,

Wenn es um die geht, die die Technologie entwickeln --

technologists sometimes act as though

Technologen tun manchmal so, als ob,

if you're not elbows deep in the technical details,

Leute ohne tiefes Verständnis der technischen Details,

then you're not entitled to an opinion on what we should do with it.

kein Recht auf eine Meinung haben, was wir damit machen sollten.

Expertise has its place, of course,

Fachwissen ist natürlich wichtig,

but history shows us how important it is

aber die Geschichte zeigt

wie wichtig es ist, dass die Menschen,

that the people affected by a new technology

die von einer neuen Technologie betroffen sind

get to play a role in shaping how we use it.

mitgestalten, wie sie genutzt wird.

Like the factory workers in the 20th century who fought for factory safety,

Wie die Fabrikarbeiter im 20. Jahrhundert,

die für die Sicherheit in Fabriken kämpften,

or the disability advocates

oder die Behindertenvertreter,

who made sure the world wide web was accessible.

die dafür sorgten, das das World Wide Web zugänglich wurde.

You don't have to be a scientist or engineer to have a voice.

Sie müssen kein Wissenschaftler oder Ingenieur sein,

um ein Mitspracherecht zu haben.

(Applause)

(Applaus)

Second, we need to focus on adaptability, not certainty.

Zweitens müssen wir uns auf Anpassungsfähigkeit konzentrieren

statt auf Sicherheit.

A lot of conversations about how to make policy for AI

Viele Diskussionen über KI-Regulierung

get bogged down in fights between, on the one side,

verzetteln sich in Kämpfen zwischen den Leuten, die sagen:

people saying, "We have to regulate AI really hard right now

„Wir müssen KI jetzt hart regulieren, weil sie so riskant ist.“

because it's so risky."

And on the other side, people saying,

Und Leute auf der anderen Seite, die sagen:

“But regulation will kill innovation, and those risks are made up anyway.”

„Regulierung macht Innovation zunichte, und diese Risiken sind sowieso erfunden.“

But the way I see it,

Ich denke, man hat nicht nur die Wahl,

it’s not just a choice between slamming on the brakes

zwischen auf die Bremse treten

or hitting the gas.

oder Gas geben.

If you're driving down a road with unexpected twists and turns,

Wenn Sie eine Straße mit unerwarteten Kurven entlangfahren,

then two things that will help you a lot

dann werden Ihnen zwei Dinge sehr helfen:

are having a clear view out the windshield

Eine klare Sicht durch die Windschutzscheibe

and an excellent steering system.

und ein hervorragendes Lenksystem.

In AI, this means having a clear picture of where the technology is

Bei KI heißt das ein klares Bild davon zu haben,

wo die Technologie steht und wohin sie sich entwickelt,

and where it's going,

and having plans in place for what to do in different scenarios.

und Pläne für verschiedene Szenarien zu haben.

Concretely, this means things like investing in our ability to measure

Konkret bedeutet das beispielsweise

in unsere Fähigkeit zu investieren, zu messen was KI-Systeme leisten können.

what AI systems can do.

This sounds nerdy, but it really matters.

Das klingt nerdig, aber es ist wichtig.

Right now, if we want to figure out

Wenn wir herausfinden wollen,

whether an AI can do something concerning,

ob eine KI etwas Beunruhigendes tun kann,

like hack critical infrastructure

wie zum Beispiel kritische Infrastrukturen hacken

or persuade someone to change their political beliefs,

oder jemanden überzeugen, seine politische Meinung zu ändern,

our methods of measuring that are rudimentary.

sind unsere Messmethoden rudimentär.

We need better.

Wir brauchen bessere.

We should also be requiring AI companies,

Wir sollten auch von KI-Unternehmen verlangen,

especially the companies building the most advanced AI systems,

insbesondere von Unternehmen,

die die fortschrittlichsten KI-Systeme entwickeln,

to share information about what they're building,

dass sie offenlegen was sie entwickeln,

what their systems can do

was ihre Systeme können

and how they're managing risks.

und wie sie mit Risiken umgehen.

And they should have to let in external AI auditors to scrutinize their work

Sie sollten externe KI-Auditoren hinzuziehen müssen,

um ihre Arbeit zu überprüfen,

so that the companies aren't just grading their own homework.

damit die Unternehmen nicht nur ihre eigenen Hausaufgaben bewerten.

(Applause)

(Applaus)

A final example of what this can look like

Ein letztes Beispiel dafür wie das aussehen kann,

is setting up incident reporting mechanisms,

ist die Einrichtung von Mechanismen zur Meldung von Vorfällen,

so that when things do go wrong in the real world,

sodass wir, wenn in der realen Welt etwas schief geht,

we have a way to collect data on what happened

eine Möglichkeit haben, Daten darüber zu sammeln, was passiert ist

and how we can fix it next time.

und wie wir es beim nächsten Mal beheben können.

Just like the data we collect on plane crashes and cyber attacks.

So wie wir bei Flugzeugabstürzen und Cyberangriffen Daten sammeln.

None of these ideas are mine,

Keine dieser Ideen stammt von mir,

and some of them are already starting to be implemented in places like Brussels,

und einige von ihnen werden bereits an Orten wie Brüssel,

London, even Washington.

London oder Washington umgesetzt.

But the reason I'm highlighting these ideas,

Aber der Grund, warum ich diese Ideen hervorhebe,

measurement, disclosure, incident reporting,

Messung, Offenlegung und Meldung von Vorfällen, ist,

is that they help us navigate progress in AI

dass sie uns helfen, Fortschritte bei der KI zu steuern,

by giving us a clearer view out the windshield.

indem sie uns einen klareren Blick durch die Windschutzscheibe erlauben.

If AI is progressing fast in dangerous directions,

Wenn KI schnell in gefährliche Richtungen voranschreitet,

these policies will help us see that.

helfen diese Richtlinien dabei das zu erkennen.

And if everything is going smoothly, they'll show us that too,

Und wenn alles glatt läuft zeigen sie uns das auch

and we can respond accordingly.

und wir können entsprechend reagieren.

What I want to leave you with

Was ich Ihnen mit auf den Weg geben möchte, ist,

is that it's both true that there's a ton of uncertainty

dass es im Bereich der KI tatsächlich eine Menge Unsicherheiten

and disagreement in the field of AI.

und Meinungsverschiedenheiten gibt.

And that companies are already building and deploying AI

Und dass Unternehmen sowieso schon überall KI entwickeln und einsetzen,

all over the place anyway in ways that affect all of us.

und zwar auf eine Weise, die uns alle betrifft.

Wenn sie sich selbst überlassen werden,

Left to their own devices,

it looks like AI companies might go in a similar direction

könnten KI-Unternehmen eine ähnliche Richtung einschlagen

to social media companies,

wie Social-Media-Unternehmen

spending most of their resources on building web apps

und den Großteil ihrer Ressourcen für die Entwicklung von Web-Apps

and for users' attention.

und Benutzeraufmerksamkeit ausgeben.

Es sieht ganz danach aus

And by default, it looks like the enormous power of more advanced AI systems

dass die enorme Leistungsfähigkeit fortschrittlicherer KI-Systeme

might stay concentrated in the hands of a small number of companies,

in den Händen weniger Unternehmen

or even a small number of individuals.

oder sogar einer kleinen Zahl von Einzelpersonen liegt.

But AI's potential goes so far beyond that.

Aber das Potenzial von KI geht weit darüber hinaus.

AI already lets us leap over language barriers

KI ermöglicht es uns bereits, Sprachbarrieren zu überwinden

and predict protein structures.

und Proteinstrukturen vorherzusagen.

More advanced systems could unlock clean, limitless fusion energy

Fortschrittlichere Systeme könnten saubere,

grenzenlose Fusionsenergie erschließen

or revolutionize how we grow food

oder die Art und Weise, wie wir Lebensmittel anbauen

or 1,000 other things.

oder 1.000 andere Dinge revolutionieren.

And we each have a voice in what happens.

Wir alle haben Mitspracherecht bei dem, was passiert.

We're not just data sources,

Wir sind nicht nur Datenquellen,

we are users,

wir sind Nutzer,

we're workers,

wir sind Arbeiter,

we're citizens.

wir sind Bürger.

So as tempting as it might be,

So verlockend es auch sein mag,

we can't wait for clarity or expert consensus

wir können nicht auf Klarheit oder Expertenkonsens warten

to figure out what we want to happen with AI.

um herauszufinden, wie wir mit KI umgehen wollen.

AI is already happening to us.

KI umgibt uns bereits.

What we can do is put policies in place

Was wir tun können, ist Richtlinien einzuführen,

to give us as clear a picture as we can get

die uns ein möglichst klares Bild davon vermitteln,

of how the technology is changing,

wie sich die Technologie verändert,

and then we can get in the arena and push for futures we actually want.

dann können wir auf eine Zukunft drängen, die wir uns tatsächlich wünschen.

Thank you.

Danke.

(Applause)

(Applaus)