A bold idea to replace politicians | César Hidalgo

תרגום: Zeeva Livshitz עריכה: Ido Dekkers

Is it just me,

האם זה רק אני,

or are there other people here

או שיש כאן עוד אנשים

that are a little bit disappointed with democracy?

שמאוכזבים קצת מדמוקרטיה?

(Applause)

(מחיאות כפיים)

So let's look at a few numbers.

אז בואו ונסתכל על כמה מספרים.

If we look across the world,

אם נסתכל על העולם,

the median turnout in presidential elections

חציון ההשתתפות בבחירות לנשיאות

over the last 30 years

ב -30 השנים האחרונות

has been just 67 percent.

היה רק 67 אחוזים.

Now, if we go to Europe

ואם נלך לאירופה

and we look at people that participated in EU parliamentary elections,

ונסתכל על אנשים שהשתתפו בבחירות לפרלמנט האירופי,

the median turnout in those elections

חציון ההצבעה בבחירות אלה

is just 42 percent.

הוא רק 42 אחוזים.

Now let's go to New York,

עכשיו בואו ונלך לניו יורק,

and let's see how many people voted in the last election for mayor.

ונראה כמה אנשים הצביעו בבחירות האחרונות לראשות העיר.

We will find that only 24 percent of people showed up to vote.

נמצא שרק 24% מהאנשים הגיעו להצביע.

What that means is that, if "Friends" was still running,

פירוש הדבר הוא, שאם הסדרה"חברים" עדיין רצה,

Joey and maybe Phoebe would have shown up to vote.

ג'ואי ואולי פיבי היו מופיעים להצביע.

(Laughter)

(צחוק)

And you cannot blame them because people are tired of politicians.

ואתם לא יכולים להאשים אותם כי אנשים עייפים מפוליטיקאים.

And people are tired of other people using the data that they have generated

ואנשים עייפים מאנשים אחרים שמשתמשים בנתונים שיש בידם

to communicate with their friends and family,

כדי לתקשר עם חבריהם ובני משפחתם,

to target political propaganda at them.

ולכוון לתעמולה פוליטית אליהם.

But the thing about this is that this is not new.

אבל העניין הוא שזה לא חדש.

Nowadays, people use likes to target propaganda at you

כיום, אנשים משתמשים בלייקים כדי לכוון אליכם תעמולה

before they use your zip code or your gender or your age,

לפני שהם משתמשים במיקוד שלכם או במין שלכם או הגיל שלכם,

because the idea of targeting people with propaganda for political purposes

כי הרעיון לכוון לאנשים תעמולה פוליטית

is as old as politics.

הוא ישן כמו הפוליטיקה.

And the reason why that idea is there

והסיבה לכך שהרעיון הזה קיים

is because democracy has a basic vulnerability.

היא שהדמוקרטיה סובלת מפגיעות בסיסית.

This is the idea of a representative.

זהו הרעיון של נציג.

In principle, democracy is the ability of people to exert power.

עקרונית, הדמוקרטיה היא יכולתם של אנשים להפעיל כוח.

But in practice, we have to delegate that power to a representative

אבל בפועל, אנחנו צריכים להאציל את הכוח הזה לנציג

that can exert that power for us.

שיכול להפעיל את הכוח עבורנו.

That representative is a bottleneck,

נציג זה הוא צוואר הבקבוק,

or a weak spot.

או נקודה חלשה.

It is the place that you want to target if you want to attack democracy

זה המקום שאליו אתם רוצים לכוון אם ברצונכם לתקוף את הדמוקרטיה

because you can capture democracy by either capturing that representative

כי אתם יכולים ללכוד את הדמוקרטיה על ידי לכידת נציג זה

or capturing the way that people choose it.

או ללכוד את הדרך שאנשים בוחרים בזה.

So the big question is:

אז השאלה הגדולה היא:

Is this the end of history?

האם זו סופה של ההיסטוריה?

Is this the best that we can do

האם זה הכי טוב שאנחנו יכולים לעשות

or, actually, are there alternatives?

או, למעשה, האם יש חלופות?

Some people have been thinking about alternatives,

יש אנשים שחושבים על חלופות,

and one of the ideas that is out there is the idea of direct democracy.

ואחד הרעיונות שעולים שם בחוץ הוא רעיון של דמוקרטיה ישירה.

This is the idea of bypassing politicians completely

זה הרעיון של עקיפת הפוליטיקאים לחלוטין

and having people vote directly on issues,

ולאפשר לאנשים להצביע ישירות על סוגיות,

having people vote directly on bills.

לאפשר לאנשים להצביע ישירות על הצעות חוק.

But this idea is naive

אבל הרעיון הזה הוא תמים

because there's too many things that we would need to choose.

כי יש יותר מדי דברים שנצטרך לבחור.

If you look at the 114th US Congress,

אם תסתכלו על הקונגרס ה-114 של ארה"ב,

you will have seen that the House of Representatives

תיווכחו שבית הנבחרים

considered more than 6,000 bills,

שקל יותר מ 6,000 הצעות חוק,

the Senate considered more than 3,000 bills

הסנאט שקל יותר מ -3,000 הצעות חוק

and they approved more than 300 laws.

והם אישרו יותר מ -300 חוקים.

Those would be many decisions

אלו הן הרבה החלטות

that each person would have to make a week

שכל אדם יצטרך לקבל בשבוע

on topics that they know little about.

על נושאים שהם יודעים עליהם מעט.

So there's a big cognitive bandwidth problem

אז יש בעיה קוגניטיבית גדולה של רוחב פס

if we're going to try to think about direct democracy as a viable alternative.

אם ננסה לחשוב על דמוקרטיה ישירה כעל אלטרנטיבה ברת קיימא

So some people think about the idea of liquid democracy, or fluid democracy,

אז כמה אנשים חושבים על הרעיון של דמוקרטיה נוזלית, או דמוקרטיה גמישה,

which is the idea that you endorse your political power to someone,

שזה הרעיון שאתה מסב את הכוח הפוליטי שלך למישהו,

who can endorse it to someone else,

שיכול להסב אותו למישהו אחר,

and, eventually, you create a large follower network

ובסופו של דבר, אתה יוצר רשת תומכים גדולה

in which, at the end, there's a few people that are making decisions

שבה בסופו של דבר, ישנם מעט אנשים שמקבלים את ההחלטות

on behalf of all of their followers and their followers.

בשם כל תומכיהם והחסידים שלהם.

But this idea also doesn't solve the problem of the cognitive bandwidth

אבל גם רעיון זה אינו פותר את בעיית רוחב הפס הקוגניטיבי

and, to be honest, it's also quite similar to the idea of having a representative.

ולמען האמת, זה גם די דומה לרעיון של נציג.

So what I'm going to do today is I'm going to be a little bit provocative,

אז היום אני הולך להיות קצת פרובוקטיבי,

and I'm going to ask you, well:

ואני עומד לשאול אתכם, טוב:

What if, instead of trying to bypass politicians,

מה אם, במקום לנסות לעקוף פוליטיקאים,

we tried to automate them?

ננסה לאִטְמֵט אותם?

The idea of automation is not new.

הרעיון של אוטומציה אינו חדש.

It was started more than 300 years ago,

זה התחיל לפני יותר מ -300 שנה,

when French weavers decided to automate the loom.

כאשר האורגים הצרפתיים החליטו להפוך את הנול לאוטומטי.

The winner of that industrial war was Joseph-Marie Jacquard.

המנצח במלחמה התעשייתית היה ג'וזף-מארי ז'אקארד.

He was a French weaver and merchant

הוא היה אורג צרפתי וסוחר

that married the loom with the steam engine

ששידך את הנול עם מנוע הקיטור

to create autonomous looms.

כדי ליצור נולים אוטונומיים.

And in those autonomous looms, he gained control.

ובנולים אוטונומיים אלה, הוא זכה לשליטה.

He could now make fabrics that were more complex and more sophisticated

עכשיו הוא יכול היה לייצר בדים מורכבים יותר ומתוחכמים יותר

than the ones they were able to do by hand.

מאשר אלה שהיו מסוגלים לייצר ביד.

But also, by winning that industrial war,

אבל גם, בעזרת נצחון המלחמה התעשייתית,

he laid out what has become the blueprint of automation.

הוא יסד את מה שהפך להיות תוכנית האב של האוטומציה.

The way that we automate things for the last 300 years

האופן שבו אנו מְאֻטְמָטִים דברים ב-300 השנים האחרונות

has always been the same:

תמיד היה זהה:

we first identify a need,

תחילה אנו מזהים צורך,

then we create a tool to satisfy that need,

ואז אנחנו יוצרים כלי שיספק את הצורך,

like the loom, in this case,

כמו הנול, במקרה הזה,

and then we study how people use that tool

ואז אנו לומדים כיצד אנשים משתמשים בכלי זה

to automate that user.

כדי לאטמט את המשתמש הזה .

That's how we came from the mechanical loom

כך הגענו מהנול המכני

to the autonomous loom,

אל הנול האוטונומי,

and that took us a thousand years.

וזה לקח לנו אלף שנים.

Now, it's taken us only a hundred years

עכשיו, זה לקח לנו רק מאה שנים

to use the same script to automate the car.

כדי להשתמש באותו תסריט כדי להפוך את המכונית לאוטומטית.

But the thing is that, this time around,

אבל העניין הוא, שהפעם,

automation is kind of for real.

אוטומציה היא סוג של דבר אמיתי.

This is a video that a colleague of mine from Toshiba shared with me

זהו וידאו שעמית שלי מטושיבה שיתף איתי

that shows the factory that manufactures solid state drives.

שמראה את המפעל שמייצר כוננים קשיחים שבביים

The entire factory is a robot.

כל המפעל הוא רובוט.

There are no humans in that factory.

אין בני אדם במפעל הזה.

And the robots are soon to leave the factories

והרובוטים יצאו בקרוב מהמפעלים

and become part of our world,

ויהפכו להיות חלק מהעולם שלנו,

become part of our workforce.

יהפכו להיות חלק מכוח העבודה שלנו.

So what I do in my day job

אז מה שאני עושה בעבודת יומי

is actually create tools that integrate data for entire countries

זה למעשה יוצר כלים שישלבו נתונים עבור מדינות שלמות

so that we can ultimately have the foundations that we need

כדי שבסופו של דבר יהיו לנו היסודות שאנחנו צריכים

for a future in which we need to also manage those machines.

עבור עתיד שבו נצטרך גם לנהל את המכונות האלו.

But today, I'm not here to talk to you about these tools

אבל היום, אני לא כאן כדי לדבר איתכם על כלים אלה

that integrate data for countries.

שמשלבים נתונים עבור מדינות.

But I'm here to talk to you about another idea

אלא אני כאן כדי לדבר איתכם על רעיון אחר

that might help us think about how to use artificial intelligence in democracy.

שעשוי לעזור לנו לחשוב איך להשתמש בבינה מלאכותית בדמוקרטיה.

Because the tools that I build are designed for executive decisions.

משום שהכלים שאני בונה מעוצבים עבור החלטות מנהלים.

These are decisions that can be cast in some sort of term of objectivity --

אלו החלטות שניתן להטיל בסוג מסוים של אובייקטיביות --

public investment decisions.

החלטות בנושא השקעה ציבורית.

But there are decisions that are legislative,

אבל יש החלטות שהן תחוקתיות,

and these decisions that are legislative require communication among people

והחלטות תחוקתיות אלו מצריכות תקשורת בין אנשים

that have different points of view,

בעלי נקודות מבט שונות,

require participation, require debate,

ומצריכות השתתפות, מצריכות דיונים,

require deliberation.

מצריכות דיון מעמיק.

And for a long time, we have thought that, well,

ובמשך זמן רב, חשבנו,

what we need to improve democracy is actually more communication.

שמה שנחוץ לנו כדי לשפר את הדמוקרטיה זה למעשה יותר תקשורת.

So all of the technologies that we have advanced in the context of democracy,

אז כל הטכנולוגיות שקידמנו בהקשר של דמוקרטיה,

whether they are newspapers or whether it is social media,

בין אם בעיתונים או במדיה חברתית,

have tried to provide us with more communication.

ניסו לספק לנו יותר תקשורת.

But we've been down that rabbit hole,

אך כבר היינו במורד מחילת הארנב

and we know that's not what's going to solve the problem.

ואנחנו יודעים שזה לא מה שיפתור את הבעיה.

Because it's not a communication problem,

כי זה לא בעייה של תקשורת,

it's a cognitive bandwidth problem.

זוהי בעיית רוחב פס קוגניטיבי.

So if the problem is one of cognitive bandwidth,

אז אם הבעיה היא של רוחב פס קוגניטיבי,

well, adding more communication to people

הוספה של יותר תקשורת לאנשים

is not going to be what's going to solve it.

לא הולכת לפתור אותה.

What we are going to need instead is to have other technologies

מה שנצטרך במקום זה, שיהיו טכנולוגיות אחרות

that help us deal with some of the communication

שיעזרו לנו להתמודד עם חלק מהתקשורת

that we are overloaded with.

שאנחנו עמוסים איתה.

Think of, like, a little avatar,

חישבו על משהו במקצת כמו אווטאר,

a software agent,

סוכן תוכנה,

a digital Jiminy Cricket --

ג'ימיני הצרצר (מפינוקיו) דיגיטלי --

(Laughter)

(צחוק)

that basically is able to answer things on your behalf.

שבעצם מסוגל לענות על דברים בשמכם.

And if we had that technology,

ואם היתה לנו הטכנולוגיה הזאת,

we would be able to offload some of the communication

היינו יכולים לפרוק מעלינו חלק מהתקשורת

and help, maybe, make better decisions or decisions at a larger scale.

שתעזור, אולי, לקבל החלטות טובות יותר או החלטות בקנה מידה גדול יותר.

And the thing is that the idea of software agents is also not new.

וגם הרעיון של סוכני תוכנה אינו חדש.

We already use them all the time.

אנחנו כבר משתמשים בהם כל הזמן.

We use software agents

אנו משתמשים בסוכני תוכנה

to choose the way that we're going to drive to a certain location,

כדי לבחור את הדרך בה אנו רוצים לנסוע למקום מסוים,

the music that we're going to listen to

את המוזיקה שאנו רוצים להקשיב לה

or to get suggestions for the next books that we should read.

או לקבל הצעות לספרים שאנו צריכים לקרוא.

So there is an obvious idea in the 21st century

אז יש רעיון ברור במאה ה 21

that was as obvious as the idea

שהיה ברור כמו הרעיון

of putting together a steam engine with a loom at the time of Jacquard.

של שילוב מנוע קיטור עם נול בזמנו של ז'קארד.

And that idea is combining direct democracy with software agents.

והרעיון הזה הוא שילוב דמוקרטיה ישירה עם סוכני תוכנה.

Imagine, for a second, a world

תארו לעצמכם לרגע, עולם

in which, instead of having a representative that represents you

שבו, במקום שיש נציג שמייצג אתכם

and millions of other people,

ומיליונים של אנשים אחרים,

you can have a representative that represents only you,

יכול להיות לכם נציג שמייצג רק אתכם

with your nuanced political views --

עם ההשקפה הפוליטית שלכם --

that weird combination of libertarian and liberal

הקומבינציה המוזרה של ליברטריאן וליברלי

and maybe a little bit conservative on some issues

ואולי מעט שמרן בנושאים מסוימים

and maybe very progressive on others.

ואולי מאוד פרוגרסיבי באחרים.

Politicians nowadays are packages, and they're full of compromises.

פוליטיקאים היום הם מארזים, והם מלאים בפשרות.

But you might have someone that can represent only you,

אבל אולי יהיה לכם מישהו שמייצג רק אתכם,

if you are willing to give up the idea

אם תהיו מוכנים לוותר על הרעיון

that that representative is a human.

שהנציג הזה הוא אנושי.

If that representative is a software agent,

אם נציג זה הוא סוכן תוכנה,

we could have a senate that has as many senators as we have citizens.

היה יכול להיות לנו סנאט עם מס. סנטורים זהה למס. האזרחים.

And those senators are going to be able to read every bill

וסנטורים אלה יהיו מסוגלים לקרוא כל הצעת חוק

and they're going to be able to vote on each one of them.

והם יהיו מסוגלים להצביע על כל אחת מהן.

So there's an obvious idea that maybe we want to consider.

אז יש רעיון ברור שאולי נרצה לחשוב עליו.

But I understand that in this day and age,

אבל אני מבין שביום זה ובתקופה הזו,

this idea might be quite scary.

הרעיון הזה יכול להישמע די מפחיד.

In fact, thinking of a robot coming from the future

למעשה, לחשוב על רובוט שמגיע מהעתיד

to help us run our governments

לעזור לנו לנהל את הממשלות שלנו

sounds terrifying.

נשמע מפחיד.

But we've been there before.

אבל היינו שם כבר קודם.

(Laughter)

(צחוק)

And actually he was quite a nice guy.

ולמעשה הוא היה ברנש די נחמד.

So what would the Jacquard loom version of this idea look like?

אז איך תיראה גרסת הנול של ז'קארד של הרעיון הזה?

It would be a very simple system.

זו תהיה מערכת מאוד פשוטה.

Imagine a system that you log in and you create your avatar,

דמיינו מערכת שאתם נכנסים אליה ויוצרים את האווטאר שלכם

and then you're going to start training your avatar.

ואז אתם תתחילו לאמן את האווטאר שלכם.

So you can provide your avatar with your reading habits,

כך תוכלו להקנות לאווטאר שלכם את הרגלי הקריאה שלכם,

or connect it to your social media,

או לחבר אותו למדיה החברתית שלכם,

or you can connect it to other data,

או שתוכלו לחבר אותו לנתונים אחרים,

for example by taking psychological tests.

למשל לעבור מבחנים פסיכולוגיים.

And the nice thing about this is that there's no deception.

והדבר היפה בזה הוא שאין כאן הונאה.

You are not providing data to communicate with your friends and family

אינכם מספקים נתונים כדי לתקשר עם חברים שלכם ובני משפחה

that then gets used in a political system.

שישמשו אחר כך במערכת פוליטית.

You are providing data to a system that is designed to be used

אתם מספקים נתונים למערכת שנועדה לשמש

to make political decisions on your behalf.

כדי לקבל החלטות פוליטיות בשמכם.

Then you take that data and you choose a training algorithm,

ואז אתם לוקחים את הנתונים האלה ובוחרים אלגוריתם הדרכה,

because it's an open marketplace

משום שזה שוק פתוח

in which different people can submit different algorithms

שבו אנשים שונים יכולים להגיש אלגוריתמים שונים

to predict how you're going to vote, based on the data you have provided.

כדי לחזות איך אתם הולכים להצביע בהתבסס על הנתונים שסיפקתם.

And the system is open, so nobody controls the algorithms;

והמערכת פתוחה, כך שאף אחד לא שולט באלגוריתמים;

there are algorithms that become more popular

יש אלגוריתמים שהופכים יותר פופולריים

and others that become less popular.

ואחרים שהופכים פחות פופולריים.

Eventually, you can audit the system.

בסופו של דבר, תוכלו לבדוק את המערכת

You can see how your avatar is working.

אתם יכולים לראות איך האווטאר שלכם עובד.

If you like it, you can leave it on autopilot.

אם תרצו תוכלו להשאיר אותו על טייס אוטומטי.

If you want to be a little more controlling,

אם אתם רוצים קצת יותר שליטה,

you can actually choose that they ask you

אתם יכולים למעשה לבחור שהם ישאלו אתכם

every time they're going to make a decision,

בכל פעם שהם עומדים לקבל החלטה,

or you can be anywhere in between.

או שתוכלו להיות במקום כלשהו באמצע.

One of the reasons why we use democracy so little

אחת הסיבות לכך שאנו משתמשים כל כך מעט בדמוקרטיה

may be because democracy has a very bad user interface.

יכולה להיות, כי לדמוקרטיה יש ממשק משתמש רע מאוד.

And if we improve the user interface of democracy,

ואם נשפר את ממשק המשתמש של הדמוקרטיה,

we might be able to use it more.

ייתכן שנוכל להשתמש בו יותר.

Of course, there's a lot of questions that you might have.

כמובן שיכולות להיות לכם הרבה שאלות.

Well, how do you train these avatars?

ובכן, איך אתם מאמנים את האווטארים האלה?

How do you keep the data secure?

איך אתם שומרים את הנתונים מאובטחים?

How do you keep the systems distributed and auditable?

איך אתם שומרים את המערכות מבוזרות וניתנות לביקורת?

How about my grandmother, who's 80 years old

מה עם סבתא שלי, בת ה-80

and doesn't know how to use the internet?

שאינה יודעת איך להשתמש באינטרנט?

Trust me, I've heard them all.

האמינו לי, שמעתי את כולם.

So when you think about an idea like this, you have to beware of pessimists

אז כשחושבים על רעיון כזה, צריך להיזהר מפסימיסטים

because they are known to have a problem for every solution.

כי הם ידועים כמי שיש להם בעיה עבור כל פתרון.

(Laughter)

(צחוק)

So I want to invite you to think about the bigger ideas.

אז אני רוצה להזמין אתכם לחשוב על הרעיונות היותר גדולים.

The questions I just showed you are little ideas

השאלות שהצגתי בפניכם הן רעיונות קטנים

because they are questions about how this would not work.

כי הן שאלות על איך זה לא יעבוד.

The big ideas are ideas of:

הרעיונות הגדולים הם רעיונות של:

What else can you do with this

מה עוד תוכלו לעשות עם זה

if this would happen to work?

אם זה כן יוכל לעבוד?

And one of those ideas is, well, who writes the laws?

ואחד הרעיונות האלה הוא, ובכן, מי כותב את החוקים?

In the beginning, we could have the avatars that we already have,

בהתחלה, יכלו האווטארים שיש לנו כבר

voting on laws that are written by the senators or politicians

להצביע על חוקים שנכתבים על ידי הסנטורים או הפוליטיקאים

that we already have.

שכבר יש לנו.

But if this were to work,

אבל כדי שזה יעבוד,

you could write an algorithm

תוכלו לכתוב אלגוריתם

that could try to write a law

שיכול לנסות לכתוב חוק

that would get a certain percentage of approval,

שיקבל אחוז מסוים של אישורים,

and you could reverse the process.

ויכולתם להפוך את התהליך.

Now, you might think that this idea is ludicrous and we should not do it,

עכשיו, אתם עשויים לחשוב שרעיון זה מגוחך ושאנחנו לא צריכים לעשות את זה,

but you cannot deny that it's an idea that is only possible

אבל אתם לא יכולים להכחיש שזה רעיון שאפשרי רק

in a world in which direct democracy and software agents

בעולם שבו דמוקרטיה ישירה וסוכני תוכנה

are a viable form of participation.

הם צורה ישומית של השתתפות,

So how do we start the revolution?

אז איך אנחנו מתחילים את המהפכה?

We don't start this revolution with picket fences or protests

איננו מתחילים את המהפכה הזאת עם מחאות או השבתות

or by demanding our current politicians to be changed into robots.

או בדרישה שהפוליטיקאים הנוכחיים שלנו יהפכו לרובוטים.

That's not going to work.

זה לא יעבוד.

This is much more simple,

זה הרבה יותר פשוט,

much slower

הרבה יותר איטי

and much more humble.

והרבה יותר צנוע.

We start this revolution by creating simple systems like this in grad schools,

אנו מתחילים את המהפכה הזאת ביצירת מערכות פשוטות כמו זו

in libraries, in nonprofits.

בבתי"ס להשכלה גבוהה,בספריות, ובמלכ"רים.

And we try to figure out all of those little questions

ואנו מנסים להבין את כל השאלות הקטנות האלו

and those little problems

ואת הבעיות הקטנות האלו

that we're going to have to figure out to make this idea something viable,

שנצטרך להבין כדי להפוך את הרעיון הזה למשהו בר קיימא,

to make this idea something that we can trust.

כדי להפוך את הרעיון הזה למשהו שנוכל לסמוך עליו.

And as we create those systems that have a hundred people, a thousand people,

וכאשר אנו יוצרים אותן מערכות שיש להן מאה איש, אלף איש,

a hundred thousand people voting in ways that are not politically binding,

מאה אלף איש שמצביעים בדרכים שאינן מחייבות פוליטית,

we're going to develop trust in this idea,

אנו הולכים לפתח אמון ברעיון הזה,

the world is going to change,

העולם עומד להשתנות,

and those that are as little as my daughter is right now

ואלה שהם קטנים כמו הבת שלי עכשיו

are going to grow up.

יגדלו.

And by the time my daughter is my age,

וכאשר הבת שלי תהיה בגילי,

maybe this idea, that I know today is very crazy,

אולי הרעיון הזה, שאני יודע שהיום הוא מטורף מאוד,

might not be crazy to her and to her friends.

עשוי לא להיראות מטורף בעיניה ובעיני חבריה.

And at that point,

ובנקודה זו,

we will be at the end of our history,

אנחנו נהיה בסופה של ההיסטוריה שלנו,

but they will be at the beginning of theirs.

אבל הם יהיו בתחילת שלהם.

Thank you.

תודה.

(Applause)

(מחיאות כפיים)