How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

תרגום: zeeva livshitz עריכה: aknv tso

When I talk to people about artificial intelligence,

כשאני משוחחת עם אנשים על בינה מלאכותית,

something I hear a lot from non-experts is “I don’t understand AI.”

מה שאני מרבה לשמוע מאנשים שאינם מומחים הוא,

“אני לא מבין מהי בינה מלאכותית“.

But when I talk to experts, a funny thing happens.

אבל כשאני משוחחת עם מומחים,

קורה דבר מצחיק. הם אומרים,

They say, “I don’t understand AI, and neither does anyone else.”

“אני לא מבין מהי בינה מלאכותית --

“וגם אף אחד אחר לא.”

This is a pretty strange state of affairs.

זהו מצב עניינים משונה למדי.

Normally, the people building a new technology

בדרך כלל, מי שבונה טכנולוגיה חדשה

understand how it works inside and out.

מבין איך היא עובדת בכל המובנים.

But for AI, a technology that's radically reshaping the world around us,

אבל כשמדובר בבינה מלאכותית,

טכנולוגיה שמעצבת מחדש ובאופן קיצוני את עולמנו,

that's not so.

זה לא כך.

Experts do know plenty about how to build and run AI systems, of course.

המומחים אמנם יודעים המון על בניה ותפעול של מערכות בינה מלאכותית, כמובן.

But when it comes to how they work on the inside,

אבל כשהשאלה היא איך הן באמת עובדות,

הידע שלנו סובל ממגבלה חמורה.

there are serious limits to how much we know.

And this matters because without deeply understanding AI,

וזה חשוב, כי בלי להבין לעומק את הבינה המלאכותית,

it's really difficult for us to know what it will be able to do next,

מאוד קשה לנו לדעת מה היא תוכל לעשות בעתיד,

or even what it can do now.

או אפילו מה היא יכולה לעשות עכשיו.

And the fact that we have such a hard time understanding

והעובדה שאנו מתקשים כל-כך להבין

what's going on with the technology and predicting where it will go next,

מה קורה עם הטכנולוגיה ולחזות לאן היא תמשיך,

is one of the biggest hurdles we face in figuring out how to govern AI.

היא אחד המכשולים הגדולים ביותר על הבנתנו כיצד לשלוט בבינה מלאכותית.

But AI is already all around us,

אבל הבינה המלאכותית נמצאת כבר על כל סביבותינו

so we can't just sit around and wait for things to become clearer.

אז אנו לא יכולים פשוט לשבת ולחכות שהדברים יתבהרו.

We have to forge some kind of path forward anyway.

ממילא עלינו ליצור איזושהי דרך להתקדמות.

I've been working on these AI policy and governance issues

אני עובדת על מדיניות הבינה המלאכותית ועל סוגיות שליטה כאלה

for about eight years,

מזה כשמונה שנים,

First in San Francisco, now in Washington, DC.

תחילה בסן-פרנסיסקו, עכשיו בוושינגטון הבירה.

Along the way, I've gotten an inside look

לאורך הדרך, זכיתי לראות מבפנים

at how governments are working to manage this technology.

איך ממשלות פועלות לניהול הטכנולוגיה הזו.

And inside the industry, I've seen a thing or two as well.

וגם בתוך התעשיה עצמה ראיתי דבר או שניים.

So I'm going to share a couple of ideas

אז אני הולכת לשתף אתכם ברעיונות אחדים,

for what our path to governing AI could look like.

כיצד עשוי להיראות הכיוון שלנו לשליטה בבינה המלאכותית.

אבל ראשית, הבה נדבר על מה שבעצם

But first, let's talk about what actually makes AI so hard to understand

הופך את הבינה המלאכותית לקשה כל-כך להבנה ולחיזוי.

and predict.

One huge challenge in building artificial "intelligence"

אתגר עצום אחד בבניית “בינה” מלאכותית,

is that no one can agree on what it actually means

הוא שאיש איננו מסכים מהי המשמעות של “נבון“.

to be intelligent.

מוזר להימצא במצב הזה כשבונים טכנולוגיה חדשה.

This is a strange place to be in when building a new tech.

When the Wright brothers started experimenting with planes,

כשהאחים רייט החלו לערוך ניסויים בהטסת מטוסים,

they didn't know how to build one,

הם לא ידעו איך לבנות מטוס,

but everyone knew what it meant to fly.

אבל כולם ידעו מה זה “לטוס” או “לעוף“.

With AI on the other hand,

עם הבינה המלאכותית לעומת זאת,

different experts have completely different intuitions

למומחים שונים יש אינטואיציות שונות לחלוטין

about what lies at the heart of intelligence.

לגבי מהותה של בינה.

Is it problem solving?

האם מדובר בפתרון בעיות?

Is it learning and adaptation,

למידה והסתגלות?

are emotions,

האם מעורבים בכך איכשהו רגשות או גוף פיזי?

or having a physical body somehow involved?

We genuinely don't know.

אנו באמת לא יודעים.

But different answers lead to radically different expectations

אבל תשובות שונות מעוררות ציפיות שונות באופן קיצוני

about where the technology is going and how fast it'll get there.

לגבי לאן הטכנולוגיה הולכת וכמה מהר היא תגיע לשם.

An example of how we're confused is how we used to talk

דוגמה לבלבול שלנו היא,

שנהגנו לדבר על בינה מלאכותית “צרה” לעומת “כללית“.

about narrow versus general AI.

For a long time, we talked in terms of two buckets.

במשך זמן רב דיברנו על דימוי של שני דליים.

A lot of people thought we should just be dividing between narrow AI,

רבים חשבו שעלינו פשוט לחלק בין בינה מלאכותית צרה,

trained for one specific task,

כזו שמאומנת למשימה ספציפית אחת,

like recommending the next YouTube video,

כמו המלצה על סרטון ה“יו-טיוב” הבא,

versus artificial general intelligence, or AGI,

לעומת בינה מלאכותית כללית,

that could do everything a human could do.

שיכולה לעשות כל מה שאדם יכול לעשות.

We thought of this distinction, narrow versus general,

חשבנו על ההבחנה הזו, צרה לעומת כללית,

as a core divide between what we could build in practice

כעל חלוקה עקרונית בין מה שנוכל לבנות בפועל

and what would actually be intelligent.

לבין משהו שיהיה באמת נבון.

But then a year or two ago, along came ChatGPT.

אבל אז, לפני שנה או שנתיים, הופיעה צ‘אט-ג’י-פי-טי.

If you think about it,

אם חושבים על זה,

you know, is it narrow AI, trained for one specific task?

האם זו בינה מלאכותית צרה, שמאומנת למשימה אחת ספציפית?

Or is it AGI and can do everything a human can do?

או שזו בינה מלאכותית כללית שיכולה לעשות כל מה שאדם יכול לעשות?

Clearly the answer is neither.

ברור שהתשובה היא לא זה ולא זה.

It's certainly general purpose.

התכלית שלה היא בהחלט כללית.

It can code, write poetry,

היא יכולה לקודד, לכתוב שירה,

analyze business problems, help you fix your car.

לנתח בעיות עסקיות, לעזור לכם לתקן את המכונית.

But it's a far cry from being able to do everything

אבל היא רחוקה מאוד מהיכולת לעשות הכל,

as well as you or I could do it.

כמוכם או כמוני.

So it turns out this idea of generality

אז מסתבר שהרעיון הזה, של הכלליות

doesn't actually seem to be the right dividing line

לא נראה למעשה כקו המפריד הנכון

between intelligent and not.

בין נבון לבין לא-נבון.

And this kind of thing

ודברים כאלה

is a huge challenge for the whole field of AI right now.

מהווים כיום אתגר עצום בכל תחום הבינה המלאכותית.

We don't have any agreement on what we're trying to build

אין לנו שום הסכמה על מה שאנו מנסים לבנות

or on what the road map looks like from here.

או איך נראית מפת הדרכים מכאן ולהבא.

We don't even clearly understand the AI systems that we have today.

אנו אפילו לא מבינים לגמרי את מערכות הבינה המלאכותית שיש לנו כיום.

Why is that?

מדוע זה כך?

Researchers sometimes describe deep neural networks,

יש חוקרים שמתארים רשתות עצביות עמוקות,

the main kind of AI being built today,

הסוג העיקרי של הבינה המלאכותית שנבנית כיום,

as a black box.

כקופסה שחורה.

But what they mean by that is not that it's inherently mysterious

אבל הם לא מתכוונים בכך שזה מסתורי מטבעו

and we have no way of looking inside the box.

ושאין לנו דרך להציץ לתוך הקופסה.

The problem is that when we do look inside,

הבעיה היא שכאשר אנו כן מסתכלים פנימה,

what we find are millions,

מה שאנו מוצאים הם מיליונים, מיליארדים או אפילו טריליוני מספרים

billions or even trillions of numbers

that get added and multiplied together in a particular way.

שמחוברים ומוכפלים יחד בצורה מסוימת.

What makes it hard for experts to know what's going on

מה שמקשה על מומחים לדעת מה קורה

is basically just, there are too many numbers,

הוא בעצם זה שפשוט יש יותר מדי מספרים,

and we don't yet have good ways of teasing apart what they're all doing.

ועדיין אין לנו דרכים טובות להבחין מה כולם עושים.

There's a little bit more to it than that, but not a lot.

זה קצת יותר מורכב, אבל לא בהרבה.

So how do we govern this technology

אז איך באמת נשתלט על הטכנולוגיה הזו,

that we struggle to understand and predict?

שאנו מתקשים להבין ולחזות?

I'm going to share two ideas.

אשתף אתכם בשני רעיונות.

One for all of us and one for policymakers.

אחד לכולנו, ואחד לקובעי המדיניות.

First, don't be intimidated.

ראשית, אל תחושו מאוימים,

Either by the technology itself

לא מהטכנולוגיה עצמה

or by the people and companies building it.

ולא מהאנשים והחברות שבונים אותה.

On the technology,

מבחינת הטכנולוגיה,

AI can be confusing, but it's not magical.

הבינה המלאכותית יכולה להיות מבלבלת, אבל זה לא קסם.

There are some parts of AI systems we do already understand well,

יש במערכות הבינה המלאכותית חלקים שאנו כבר מבינים היטב,

and even the parts we don't understand won't be opaque forever.

ואפילו החלקים שאיננו מבינים לא יהיו סגורים בפנינו לנצח.

An area of research known as “AI interpretability”

תחום המחקר המכונה “פרשנות הבינה המלאכותית”

has made quite a lot of progress in the last few years

עשה בשנים האחרונות כברת-דרך

in making sense of what all those billions of numbers are doing.

להבנת מה עושים כל אותם מיליארדי מספרים.

One team of researchers, for example,

צוות אחד של חוקרים, למשל,

found a way to identify different parts of a neural network

מצא דרך לזהות חלקים שונים ברשת עצבית

that they could dial up or dial down

שהם הצליחו להגביר או להחליש

to make the AI's answers happier or angrier,

כדי להפוך את תשובותיה של הבינה המלאכותית לשמחות יותר או כעוסות יותר,

more honest,

לכנות יותר,

more Machiavellian, and so on.

למקיאווליאניות יותר וכן הלאה.

If we can push forward this kind of research further,

אם נוכל להתקדם הלאה במחקר מהסוג הזה,

then five or 10 years from now,

הרי שבעוד חמש או עשר שנים,

we might have a much clearer understanding of what's going on

אולי תהיה לנו הבנה ברורה בהרבה של מה שקורה

inside the so-called black box.

בתוך “הקופסה השחורה“.

And when it comes to those building the technology,

וכשמדובר באלה שבונים את הטכנולוגיה,

אנשי טכנולוגיה מתנהגים לפעמים

technologists sometimes act as though

if you're not elbows deep in the technical details,

כאילו שמי שלא מתמצא היטב בפרטים הטכניים,

then you're not entitled to an opinion on what we should do with it.

לא זכאי לחוות דעה על מה שיש לעשות איתה.

Expertise has its place, of course,

יש מקום למומחיות, כמובן,

but history shows us how important it is

אבל ההיסטוריה מראה לנו עד כמה חשוב

that the people affected by a new technology

שמי שמושפעים מטכנולוגיה חדשה

get to play a role in shaping how we use it.

יזכו למלא תפקיד בעיצוב דרכי השימוש בה,

Like the factory workers in the 20th century who fought for factory safety,

כמו עובדי המפעל במאה ה-20 שנאבקו למען בטיחות במפעל,

or the disability advocates

או התומכים בזכויות הנכים

who made sure the world wide web was accessible.

שהבטיחו שהרשת העולמית תהיה נגישה.

You don't have to be a scientist or engineer to have a voice.

אינכם צריכים להיות מדענים או מהנדסים כדי שתהיה לכם אמירה.

(Applause)

(מחיאות כפיים)

Second, we need to focus on adaptability, not certainty.

שנית, עלינו להתמקד בכושר הסתגלות, ולא בוודאות.

A lot of conversations about how to make policy for AI

שיחות רבות בנושאי קביעת מדיניות לבינה המלאכותית

get bogged down in fights between, on the one side,

נתקעות במריבות שבהן, מצד אחד, יש אנשים שאומרים,

people saying, "We have to regulate AI really hard right now

“צריך כבר עכשיו להסדיר בנוקשות את הבינה המלאכותית,

because it's so risky."

“כי היא כל-כך מסוכנת“,

And on the other side, people saying,

ולעומתם, אנשים שאומרים,

“But regulation will kill innovation, and those risks are made up anyway.”

“אבל הרגולציה תהרוג את החדשנות, והסיכונים האלה הם ממילא פרי הדמיון.”

But the way I see it,

אבל בעיני,

it’s not just a choice between slamming on the brakes

זו לא רק בחירה בין לחיצה על הבלמים

or hitting the gas.

לבין לחיצה על הגז.

If you're driving down a road with unexpected twists and turns,

אם אתם נוסעים בכביש עם פיתולים בלתי-צפויים,

then two things that will help you a lot

שני דברים שיעזרו לכם מאוד

are having a clear view out the windshield

הם נוף ברור מהשמשה הקדמית

and an excellent steering system.

ומערכת היגוי משובחת.

In AI, this means having a clear picture of where the technology is

מבחינת הבינה המלאכותית זה אומר תמונה ברורה של מצב הטכנולוגיה כרגע

and where it's going,

ולאן היא מתקדמת,

and having plans in place for what to do in different scenarios.

ותוכניות מוכנות לכל מיני תרחישים.

Concretely, this means things like investing in our ability to measure

באופן קונקרטי, זה אומר דברים כמו השקעה ביכולתנו למדוד

what AI systems can do.

מה יכולות לעשות מערכות הבינה המלאכותית.

This sounds nerdy, but it really matters.

זה נשמע חנוני, אבל זה באמת חשוב.

Right now, if we want to figure out

לפי שעה, אם ברצוננו לגלות

whether an AI can do something concerning,

אם בינה מלאכותית מסוימת עלולה לעשות משהו מדאיג,

like hack critical infrastructure

כמו לפרוץ לתשתיות חיוניות

or persuade someone to change their political beliefs,

או לשכנע מישהו לשנות את אמונותיו הפוליטיות,

our methods of measuring that are rudimentary.

יש לנו שיטות מדידה בסיסיות בלבד.

We need better.

אנו צריכים משהו טוב יותר.

We should also be requiring AI companies,

עלינו גם לדרוש מחברות הבינה המלאכותית,

especially the companies building the most advanced AI systems,

ובמיוחד החברות שבונות את מערכות הבינה המלאכותית המתקדמות ביותר,

to share information about what they're building,

לשתף מידע לגבי מה שהן מפתחות,

what their systems can do

מה שהמערכות שלהן יכולות לעשות

and how they're managing risks.

וכיצד הן מנהלות סיכונים.

And they should have to let in external AI auditors to scrutinize their work

ועליהן להכניס בוחני בינה מלאכותית חיצוניים שיבקרו את עבודתם

so that the companies aren't just grading their own homework.

כך שהחברות לא יתנו בעצמן ציונים לשיעורי הבית שלהן.

(Applause)

(מחיאות כפיים)

A final example of what this can look like

דוגמה אחרונה לאופן שבו זה עשוי להיראות

is setting up incident reporting mechanisms,

היא הקמת מנגנוני דיווח על תקלות,

so that when things do go wrong in the real world,

כך שכאשר דברים אכן ישתבשו בעולם האמיתי,

we have a way to collect data on what happened

תהיה לנו דרך לאסוף נתונים על מה שקרה

and how we can fix it next time.

וללמוד לתקן זאת בפעם הבאה,

Just like the data we collect on plane crashes and cyber attacks.

בדיוק כמו איסוף הנתונים שלנו על התרסקויות מטוסים והתקפות סייבר.

None of these ideas are mine,

אף אחד מהרעיונות האלה איננו שלי,

and some of them are already starting to be implemented in places like Brussels,

וחלקם כבר מתחילים להיות מיושמים במקומות כמו בריסל,

London, even Washington.

לונדון ואפילו וושינגטון.

But the reason I'm highlighting these ideas,

אבל הסיבה שאני מדגישה דווקא את הרעיונות האלה -

measurement, disclosure, incident reporting,

מדידה, חשיפה ודיווח על אירועים -

is that they help us navigate progress in AI

היא שהם יעזרו לנו לנווט את התקדמות הבינה המלאכותית

by giving us a clearer view out the windshield.

בכך שהם יעניקו לנו מבט ברור יותר מבעד לשמשה הקדמית.

If AI is progressing fast in dangerous directions,

אם הבינה המלאכותית תתקדם במהירות בכיוונים מסוכנים,

these policies will help us see that.

המדיניות הזו תעזור לנו לראות זאת.

And if everything is going smoothly, they'll show us that too,

ואם הכל יתנהל בצורה חלקה, היא תראה לנו גם את זה,

and we can respond accordingly.

ואנו נוכל להגיב בהתאם.

What I want to leave you with

אני רוצה לסיים עם זה:

is that it's both true that there's a ton of uncertainty

נכון שיש המון אי-ודאות וחוסר-הסכמה

and disagreement in the field of AI.

בתחום הבינה המלאכותית,

And that companies are already building and deploying AI

ושחברות כבר ממילא בונות ומתקינות בינה מלאכותית

all over the place anyway in ways that affect all of us.

בכל מקום בדרכים שמשפיעות על כולנו.

Left to their own devices,

אם יעזבו אותן לנפשן,

it looks like AI companies might go in a similar direction

נראה שחברות הבינה המלאכותית עשויות ללכת בכיוון דומה

to social media companies,

לזה של חברות המדיה החברתית,

spending most of their resources on building web apps

ולהשקיע את רוב משאביהן על בניית יישומוני אינטרנט

and for users' attention.

ובתחרות על תשומת לב המשתמשים.

And by default, it looks like the enormous power of more advanced AI systems

וברירת המחדל היא כנראה שהכוח העצום של מערכות הבינה המלאכותית המתקדמות יותר

might stay concentrated in the hands of a small number of companies,

עלול להישאר מרוכז בידי מספר קטן של חברות,

or even a small number of individuals.

או אפילו מספר קטן של אנשים.

But AI's potential goes so far beyond that.

אבל הפוטנציאל של הבינה המלאכותית גדול בהרבה.

AI already lets us leap over language barriers

הבינה המלאכותית כבר מאפשרת לנו לדלג מעל מחסומי שפה

and predict protein structures.

ולחזות מבנים של חלבון.

More advanced systems could unlock clean, limitless fusion energy

מערכות מתקדמות יותר תוכלנה לאפשר לנו אנרגיית היתוך נקיה ובלתי-מוגבלת

or revolutionize how we grow food

או לחולל מהפכה בגידול המזון שלנו,

or 1,000 other things.

או אלף דברים אחרים.

And we each have a voice in what happens.

ולכל אחד ואחת מאיתנו יש זכות דיבור לגבי מה שקורה.

We're not just data sources,

אנחנו איננו לא רק משאבי נתונים,

we are users,

אנחנו משתמשים,

we're workers,

עובדים,

we're citizens.

אזרחים.

So as tempting as it might be,

אז מפתה ככל שזה יהיה,

we can't wait for clarity or expert consensus

אסור לנו לחכות להבהרות או קונצנזוס בין מומחים

to figure out what we want to happen with AI.

כדי להבין מה אנו רוצים שיקרה עם הבינה המלאכותית.

AI is already happening to us.

הבינה המלאכותית כבר קורית לנו.

What we can do is put policies in place

מה שאנו יכולים לעשות זה להנהיג מדיניות

to give us as clear a picture as we can get

שתיתן לנו תמונה ברורה ככל האפשר

of how the technology is changing,

של האופן שבו הטכנולוגיה משתנה,

and then we can get in the arena and push for futures we actually want.

ואז נוכל להיכנס לזירה ולקדם את העתיד שבאמת רצוי לנו.

Thank you.

תודה לכם.

(Applause)

(מחיאות כפיים)