AI and the Paradox of Self-Replacing Workers | Madison Mohns | TED

תרגום: hila scherba עריכה: zeeva livshitz

I'm going about my day, normal Tuesday of meetings

אני ממשיכה ביום שלי, יום שלישי רגיל של פגישות

when I get a ping from my manager's manager's manager.

כאשר אני מקבלת הודעה מהמנהל של המנהל של המנהל שלי.

It says: “Get me a document by the end of the day

כתוב: “תארגני לי מסמך עד סוף היום

that records everything your team has been working on related to AI."

שמתעד את כל מה שהצוות שלך עבד עליו שקשור ל- AI.”

As it turns out, the board of directors of my large company

כפי שמתברר, הדירקטוריון של החברה הגדולה שלי

had been hearing buzz about this new thing called ChatGPT,

שמע באזז על הדבר החדש הזה שנקרא ChatGPT,

and they wanted to know what we were doing about it.

והם רצו לדעת מה אנחנו עושים בקשר לזה.

They are freaking out about the future,

הם מתחרפנים מהעתיד,

I'm freaking out about this measly document,

אני מתחרפנת מהמסמך העלוב הזה,

it sounds like the perfect start

זה נשמע כמו התחלה מושלמת

to solving the next hottest problem in tech, right?

לפתרון הבעיה החמה הבאה בטכנולוגיה, נכון?

As someone who works with machine-learning models

כמי שעובדת עם מודלים של למידת מכונה

every single day,

מדי יום,

I know firsthand that the rapid development of these technologies

אני יודעת ממקור ראשון שההתפתחות המהירה של טכנולוגיות אלו

poses endless opportunities for innovation.

מציבה אינסוף הזדמנויות לחדשנות.

However, the same exponential improvement in AI systems

עם זאת, אותו שיפור אקספוננציאלי במערכות AI

is becoming a looming existential threat to the team I manage.

הופך לאיום קיומי המרחף מעל הצוות אותו אני מנהלת.

With increasing accessibility

עם הנגישות הגוברת

and creepily human-like results coming out of the field of AI research,

ותוצאות דמויות אנושיות מפחידות שיוצאות מתחום מחקר הבינה המלאכותית,

companies like my own are turning toward automation to make things more efficient.

חברות כמו שלי פונות לאוטומציה כדי להפוך את הדברים ליעילים יותר.

Now on the surface, this seems like a pretty great vision.

עכשיו על פני השטח, זה נראה כמו חזון די נהדר.

But as we start to dig deeper, we uncover an uncomfortable paradox.

אבל כשאנחנו מתחילים לחפור עמוק יותר, אנו חושפים פרדוקס לא נוח.

Let's break this down.

בואו נפרק את זה.

In order to harness the power of AI systems,

על מנת לרתום את כוחן של מערכות AI,

these systems must be trained and fine-tuned

יש לאמן מערכות אלה ולהתאים אותן

to match a high-quality standard.

כך שיגיעו לרמת איכות גבוהה.

But who defines quality,

אבל מי מגדיר איכות,

and who trains these systems in the first place?

ומי מאמן את המערכות האלה מלכתחילה?

As you may have guessed, real-life subject matter experts,

כפי שאולי ניחשתם, מומחי נושאים בחיים האמיתיים,

oftentimes the same exact people who are currently doing the job.

לעתים קרובות אותם אנשים בדיוק שעושים את העבודה כרגע.

Imagine my predicament here.

תארו לעצמכם את המצב הקשה שלי כאן.

I get to go to my trusted team, whom I've worked with for years,

אני זוכה ללכת לצוות המהימן שלי, שעבדתי איתו במשך שנים,

look them in the eyes

להסתכל להם בעיניים

and pitch them on training the very systems that might displace them.

ולהציע להם לאמן את המערכות שעשויות לעקור אותם.

This paradox had led me to rely on three ethical principles

פרדוקס זה הוביל אותי להסתמך על שלושה עקרונות אתיים

that can ensure that managers can grapple with the implications

שיכולים להבטיח שמנהלים יוכלו להתמודד עם ההשלכות

of a self-replacing workforce.

של כוח עבודה להחלפה עצמית.

One, transformational transparency,

אחת, שקיפות טרנספורמטיבית,

Two, collaborative AI augmentation.

שתיים, הגדלת בינה מלאכותית שיתופית.

And three, reskilling to realize potential.

ושלוש, מיומנות מחדש למימוש הפוטנציאל.

Now before we get into solutions, let’s zoom out a little bit.

עכשיו לפני שניכנס לפתרונות, בואו נעלה קצת למבט מעל.

How deep is this problem of self-replacing workers, really?

עד כמה עמוקה הבעיה הזו של עובדים להחלפה עצמית, באמת?

Research from this year coming out of OpenAI

מחקרים שנערכו השנה מתוך OpenAI

indicates that approximately 80 percent of the US workforce

מצביעים על כך שכ-80% מכוח העבודה בארה“ב

could see up to 10 percent of their tasks impacted

יכולים לראות עד 10% מהמשימות שלהם

by the introduction of AI,

מושפעות מהכנסת AI,

while around 19 percent of the workforce

בעוד שכ -19% מכוח העבודה

could see up to 50 percent of their tasks impacted.

יכולים לראות עד 50% מהמשימות שלהם מושפעות.

The craziest thing about all of this is,

הדבר המטורף ביותר בכל זה

is that these technologies do not discriminate.

הוא שהטכנולוגיות האלה לא מפלות.

Occupations that have historically required an immense amount of training

עיסוקים שדרשו היסטורית כמות עצומה של הכשרה

or education are equally as vulnerable to being outsourced to AI.

או חינוך פגיעים באותה מידה למיקור חוץ ל- AI.

Now before we throw our hands up and let the robots take over,

עכשיו לפני שנרים ידיים ונניח לרובוטים להשתלט,

let's put this all into perspective.

בואו נשים את כל זה בפרספקטיבה.

Fortunately for us,

למרבה המזל,

this is not the first time in history that this has happened.

זו לא הפעם הראשונה בהיסטוריה שזה קורה.

Let's go back to the Industrial revolution.

בואו נחזור למהפכה התעשייתית.

Picture Henry Ford’s iconic Model T automobile production line.

דמיינו את קו ייצור הרכב האייקוני של הנרי פורד דגם T.

In this remarkable setup,

במערך מדהים זה,

workers and machines engage in a synchronous dance.

עובדים ומכונות עוסקים בריקוד סינכרוני.

They were tasked with specific repetitive tasks,

הוטלו עליהם משימות חוזרות ונשנות ספציפיות,

such as tightening bolts or fitting components

כגון הידוק ברגים או התאמת רכיבים

as the product moved down the line.

כשהמוצר נע במורד הקו.

Ironically, and not dissimilar to my current predicament,

למרבה האירוניה, ולא שונה מהמצוקה הנוכחית שלי,

the humans themselves played a crucial role in training the systems

בני האדם עצמם מילאו תפקיד מכריע בהכשרת המערכות

that would eventually replace their once multi-skilled roles.

שבסופו של דבר יחליפו את תפקידיהם המרובים.

They were the ones who honed their craft, perfected the techniques

הם היו אלה שחידדו את מלאכתם, שיכללו את הטכניקות

and ultimately handed off the knowledge to the technicians

ובסופו של דבר העבירו את הידע לטכנאים

and engineers involved in automating their entire process.

ולמהנדסים המעורבים באוטומציה של כל התהליך שלהם.

Now on the outset, this situation seems pretty dire.

עכשיו בהתחלה, המצב הזה נראה די חמור.

Yet despite initial fears and hesitations

עם זאת, למרות הפחדים וההיסוסים הראשוניים

involved in these technological advancements,

הכרוכים בהתקדמות הטכנולוגית הזו,

history has proven that humans have continuously found ways

ההיסטוריה הוכיחה שבני אדם מצאו ללא הרף דרכים

to adapt and innovate.

להסתגל ולחדש.

While some roles were indeed replaced, new roles emerged,

בעוד שחלק מהתפקידים אכן הוחלפו, צצו תפקידים חדשים

requiring higher-level skills like creativity

הדורשים מיומנויות ברמה גבוהה יותר כמו יצירתיות

and creative problem solving that machines just simply couldn't replicate.

ופתרון בעיות יצירתי שמכונות פשוט לא יכלו לשכפל.

Reflecting on this historical example

הרהור בדוגמה היסטורית זו

reminds us that the relationship between humans and machines

מזכיר לנו שהיחסים בין בני אדם למכונות

has always been a delicate balancing act.

היו תמיד פעולת איזון עדינה.

We are the architects of our own progress,

אנחנו האדריכלים של ההתקדמות שלנו,

often training machines to replace us

לעתים קרובות מאמנים מכונות שיחליפו אותנו

while simultaneously carving out unique roles for ourselves

ובמקביל מעצבים לעצמנו תפקידים ייחודיים

and discovering new possibilities.

ומגלים אפשרויות חדשות.

Now coming back to the present day, we are on the cusp of the AI revolution.

עכשיו כשחוזרים לימינו, אנו נמצאים על סף מהפכת הבינה המלאכותית.

As someone responsible for moving that revolution forward,

כמי שאחראית לקדם את המהפכה ההיא,

the tension becomes omnipresent.

המתח הופך להיות נוכח בכל מקום.

Option one, I can innovate quickly and risk displacing my team.

אפשרות אחת, אני יכולה לחדש במהירות ולהסתכן בעקירת הצוות שלי מתפקידם.

Or option two, I can refuse to innovate in an effort to protect my team,

או אפשרות שנייה, אני יכולה לסרב לחדש במאמץ להגן על הצוות שלי,

but ultimately still lose people because the company falls behind.

אבל בסופו של דבר עדיין לאבד אנשים כי החברה נשארת מאחור.

So what am I supposed to do

אז מה אני אמורה לעשות

as a mere middle manager in this situation?

כמנהלת ביניים בלבד במצב הזה?

Knowingly introducing this complex paradox for your team

הצגה ביודעין של פרדוקס מורכב זה לצוות שלכם

presents strong challenges for people management.

מציבה אתגרים חזקים לניהול אנשים.

Luckily, we can refer back to those three ethical principles

למזלנו, אנו יכולים לחזור לשלושת העקרונות האתיים

I addressed at the beginning of the talk

אליהם התייחסתי בתחילת השיחה

to ensure that you can continue to move ahead

כדי להבטיח שתוכלו להמשיך להתקדם

without leaving your people behind.

מבלי להשאיר את אנשיכם מאחור.

First and foremost,

בראש ובראשונה,

AI transformation needs to be transparent.

טרנספורמציה של AI צריכה להיות שקופה.

As leaders, it is imperative to foster dialogue,

כמנהיגים, חובה לטפח דיאלוג,

address key concerns,

לטפל בחששות מרכזיים

and offer concise explanations regarding the purpose

ולהציע הסברים תמציתיים לגבי המטרה

and potential challenges entailed in implementing AI.

והאתגרים הפוטנציאליים הכרוכים ביישום AI.

This requires actively involving your employees

זה דורש מעורבות פעילה של העובדים

in the decision-making process

בתהליך קבלת ההחלטות

and valuing their autonomy.

והערכת האוטונומיה שלהם.

By introducing the concept of consent,

על ידי הצגת מושג ההסכמה,

especially for employees who are tasked

במיוחד עבור עובדים עליהם מוטל לבצע

with automating their core responsibilities,

אוטומציה של אחריות הליבה שלהם,

we can ensure that they maintain a strong voice

אנו יכולים להבטיח שהם שומרים על קול חזק

in carving out their professional destiny.

בעיצוב גורלם המקצועי.

Next, now that we've gotten folks bought into this grandiose vision

בשלב הבא, עכשיו כשגרמנו לאנשים להתחבר לחזון הגרנדיוזי הזה

while acknowledging the journey that lies ahead,

תוך הכרה במסע שעומד לפנינו,

let's talk about how to use AI as an augmentation device.

בואו נדבר על איך להשתמש ב-AI כמכשיר הגדלה.

Picture the worst part of your job today.

דמיינו את החלק הגרוע ביותר בעבודה שלכם היום.

What if you could delegate it?

מה אם הייתם יכולים להאציל את זה?

And no, not hand it off to some other sad soul at work,

ולא, אל תעבירו את זה לאיזו נשמה עצובה אחרת בעבודה,

but hand it to a system that can do your rote tasks for you.

אלא תעבירו את זה למערכת שיכולה לבצע את המשימות הקטנות שלכם בשבילכם.

Instead of perceiving AI as a complete replacement,

במקום לתפוס את AI כתחליף מלא,

identify opportunities where you can use it

זהו הזדמנויות שבהן תוכלו להשתמש בו

to enhance your employees' potential and productivity.

כדי לשפר את הפוטנציאל והפרודוקטיביות של העובדים שלכם.

Collaboratively with your team,

בשיתוף פעולה עם הצוות שלכם,

identify areas and tasks that can be automated,

זהו אזורים ומשימות שניתן לעשות להן אוטומציה,

carving out more room for higher-value activities

וכך לפנות יותר מקום לפעילויות בעלות ערך גבוה יותר

requiring critical thinking that machines just aren't very good at doing.

הדורשות חשיבה ביקורתית שמכונות פשוט לא ממש טובות בביצוע.

Let's put this into an example.

בואו נכניס את זה לדוגמא.

Recently, I completed a project with my team at work

לאחרונה סיימתי פרויקט עם הצוות שלי בעבודה

that's going to save our company over 12,000 working hours.

שעומד לחסוך לחברה שלנו מעל 12,000 שעות עבודה.

The folks involved in training this algorithm

האנשים המעורבים בהכשרת אלגוריתם זה

are the same subject matter experts that worked tirelessly last year

הם אותם מומחי נושא שעבדו ללא לאות בשנה שעברה

to hand-curate and research data to optimize segmented experiences

כדי לאצור נתונים ולחקור ידנית כדי לייעל חוויות מפולחות

across our website.

ברחבי האתר שלנו.

Now because of the sheer amount of time spent and the level of detail involved,

עכשיו בגלל משך הזמן העצום ורמת הפירוט הכרוכה בכך,

I would have expected

הייתי מצפה

that there was an immense amount of pride behind this workflow.

שיש כמות עצומה של גאווה מאחורי זרימת העבודה הזו.

But to my surprise, as it turns out,

אבל להפתעתי, כפי שמתברר,

the subject matter experts who built this model

מומחי הנושא שבנו את המודל הזה

were actually excited to hand these tasks off to automation.

התרגשו למעשה למסור את המשימות הללו לאוטומציה.

There were things that they would have much rather spent their time on,

היו דברים שהם היו יותר מעדיפים להקדיש להם את זמנם,

like in optimizing existing data to perform better on product surfaces

כמו אופטימיזציה של נתונים קיימים לביצועים טובים יותר על משטחי מוצר

or even researching and developing new insights to augment

או אפילו לחקור ולפתח תובנות חדשות כדי להגדיל

where the model just simply doesn't do as well.

היכן שהמודל פשוט לא מצליח כל כך.

Lastly, we must reskill in order to avoid replacement.

לבסוף, עלינו לחדש מיומנויות על מנת להימנע מהחלפה.

Knowingly investing in the professional development

השקעה ביודעין בפיתוח המקצועי

and well-being of our workforce

וברווחה של כוח העבודה שלנו

ensures that they are equipped with the skills and knowledge

מבטיחה שהם מצוידים במיומנויות ובידע

needed to thrive in an AI-powered future.

הדרושים כדי לשגשג בעתיד המופעל על ידי AI.

By providing opportunities for upskilling and reskilling,

על ידי מתן הזדמנויות לשיפור מיומנות ומיומנות מחדש,

we can empower our employees to rethink their roles as they exist today

אנו יכולים להעצים את העובדים שלנו לחשוב מחדש על תפקידיהם כפי שהם קיימים כיום

and carve out new possibilities that align with their evolving expertise

ולחשוף אפשרויות חדשות המתאימות למומחיות

and interests.

ולתחומי העניין המתפתחים שלהם.

So how does this work in practice?

אז איך זה עובד בפועל?

When I started introducing AI as a way to accelerate my team's workflows,

כשהתחלתי להציג בינה מלאכותית כדרך להאיץ את זרימות העבודה של הצוות שלי,

I used it as an opportunity to improve my team's technical literacy.

השתמשתי בה כהזדמנות לשפר את האוריינות הטכנית של הצוות שלי.

I worked with my team of engineers on a tool

עבדתי עם צוות המהנדסים שלי על כלי

that could transparently identify

שיכול לזהות באופן שקוף

the impact of data on a model's outcomes.

את השפעת הנתונים על תוצאות המודל.

I then went to my operations analyst,

לאחר מכן הלכתי לאנליסט התפעול שלי,

who didn't have technical training at the time,

שלא היתה לו הכשרה טכנית באותה תקופה,

and they were able to quickly identify areas where the model was underperforming

והם הצליחו לזהות במהירות אזורים שבהם המודל לא הצליח

and hand off direct suggestions to my data science team

ולהעביר הצעות ישירות לצוות מדעי הנתונים שלי

to make those models do better next time.

כדי לגרום למודלים האלה להשתפר בפעם הבאה.

Fostering a culture of continuous learning

טיפוח תרבות של למידה מתמשכת

and reskilling is paramount.

ומיומנות מחדש הם בעלי חשיבות עליונה.

It makes AI transformation a lot more exciting and a lot less scary.

זה הופך את הטרנספורמציה של AI להרבה יותר מרגשת והרבה פחות מפחידה.

We have reached a critical juncture

הגענו לצומת קריטי

where the rapid development of AI technology

שבו ההתפתחות המהירה של טכנולוגיית AI

poses both opportunities and challenges.

מציבה הזדמנויות ואתגרים כאחד.

As managers and leaders,

כמנהלים ומנהיגים,

it is imperative that we navigate this terrain

חובה שננווט בשטח זה

with both sensitivity and foresight.

ברגישות ובראיית הנולד כאחד.

By embracing innovation,

על ידי אימוץ חדשנות,

fostering a culture of adaptation,

טיפוח תרבות של הסתגלות

and ultimately intentionally investing in the professional development

ובסופו של דבר השקעה מכוונת בפיתוח המקצועי

and well-being of our workforce,

וברווחת כוח העבודה שלנו,

we can ensure that we are preparing our team

אנו יכולים להבטיח שאנו מכינים את הצוות שלנו

for the challenges that lie ahead

לאתגרים העומדים לפנינו

while addressing the complexities of introducing AI.

תוך התייחסות למורכבות של הצגת AI.

Together, let's forge a future that harmoniously combines human ingenuity

יחד, בואו ליצור עתיד המשלב בהרמוניה כושר המצאה אנושי

and technological progress,

והתקדמות טכנולוגית,

where AI enhances human potential

שבו AI משפר את הפוטנציאל האנושי

rather than replacing it.

במקום להחליף אותו.

Thank you.

תודה לך.

(Applause)

(מחיאות כפיים)