AI and the Paradox of Self-Replacing Workers | Madison Mohns | TED

번역: Sarah Hong 검토: DK Kim

I'm going about my day, normal Tuesday of meetings

평상시처럼 화요일 회의를 하러 가는데

when I get a ping from my manager's manager's manager.

상사의 상사의 상사에게 연락을 받습니다.

It says: “Get me a document by the end of the day

이렇게 적혀 있네요.

“오늘 안으로 인공 지능과 관련하여 팀이 작업하고 있는

that records everything your team has been working on related to AI."

모든 것을 기록해서 보고서를 올리세요.”

As it turns out, the board of directors of my large company

알고 보니, 저희 대기업의 이사회가

had been hearing buzz about this new thing called ChatGPT,

챗지피티라는 새로운 것에 대한 소문을 듣고 있었는데,

and they wanted to know what we were doing about it.

우리가 그에 대해 무엇을 하고 있는지 알고 싶었던 것입니다.

They are freaking out about the future,

그들은 미래에 대해 겁을 먹고 있고,

I'm freaking out about this measly document,

저는 이 보잘것없는 문서 때문에 겁이 나고 있습니다.

기술 분야에서 가장 뜨거운 문제를 해결하는 완벽한 시작인 것 같죠?

it sounds like the perfect start

to solving the next hottest problem in tech, right?

As someone who works with machine-learning models

매일같이 머신러닝 모델을 다루는 사람으로서

every single day,

I know firsthand that the rapid development of these technologies

저는 이러한 기술들의 급속한 발전이

poses endless opportunities for innovation.

무한한 혁신 기회를 가져온다는 것을 직접적으로 알고 있습니다.

However, the same exponential improvement in AI systems

그러나 인공 지능의 지수적인 개선은

is becoming a looming existential threat to the team I manage.

제가 맡은 팀에 다가오는 실존적 위협이 되고 있습니다.

With increasing accessibility

접근성이 향상되고 소름끼칠 정도로 인간과 유사한 결과가

and creepily human-like results coming out of the field of AI research,

인공 지능 연구 분야에서 나오면서

companies like my own are turning toward automation to make things more efficient.

제가 다니는 회사 같은 회사들은

업무를 더 효율적으로 만들기 위해 자동화로 전환하고 있습니다.

Now on the surface, this seems like a pretty great vision.

이제 표면적으로는, 꽤 훌륭한 전망처럼 보입니다.

But as we start to dig deeper, we uncover an uncomfortable paradox.

하지만 더 깊이 파고들면 불편한 역설이 드러납니다.

Let's break this down.

좀 더 자세히 설명해 보죠.

In order to harness the power of AI systems,

인공 지능의 성능을 활용하려면,

시스템을 높은 기준에 맞게 학습하고 미세 조정해야 합니다.

these systems must be trained and fine-tuned

to match a high-quality standard.

But who defines quality,

하지만 누가 품질을 정의하며,

and who trains these systems in the first place?

애초에 이러한 시스템을 훈련하는 사람은 누구일까요?

As you may have guessed, real-life subject matter experts,

짐작하셨겠지만, 주제별 인간 전문가들입니다.

흔히 현재 그 일을 하고 있는 바로 그 사람들이죠.

oftentimes the same exact people who are currently doing the job.

Imagine my predicament here.

제가 처한 이 곤경을 생각해 보세요.

수년 동안 함께 일해 온, 제가 믿는 팀에 가서

I get to go to my trusted team, whom I've worked with for years,

look them in the eyes

그들을 마주 바라보며

and pitch them on training the very systems that might displace them.

자신들을 대체할 수도 있는 시스템을 교육하도록 제안합니다.

This paradox had led me to rely on three ethical principles

이러한 역설로 인해 저는 세 가지 윤리 원칙을 세우게 되었습니다.

that can ensure that managers can grapple with the implications

이 원칙들은 관리자가 인력의 자기 대체가 미치는 영향을

of a self-replacing workforce.

해결할 수 있도록 보장해 줍니다.

첫째는 전환 과정의 투명성이고,

One, transformational transparency,

Two, collaborative AI augmentation.

둘째는 협업적 인공 지능 증강입니다.

And three, reskilling to realize potential.

그리고, 세 번째는 잠재력을 실현하기 위한 재교육입니다.

Now before we get into solutions, let’s zoom out a little bit.

이제 해법을 살펴보기 전에, 조금 물러나서 보겠습니다.

How deep is this problem of self-replacing workers, really?

자기 대체 인력 문제는 실제로 얼마나 심각할까요?

Research from this year coming out of OpenAI

OpenAI가 올해 발표한 연구에 따르면

indicates that approximately 80 percent of the US workforce

미국 근로자의 약 80%는 인공 지능 도입으로 인해

그들 업무의 최대 10%가 영향을 받을 것으로 봅니다.

could see up to 10 percent of their tasks impacted

by the introduction of AI,

while around 19 percent of the workforce

한편, 근로자의 약 19%는

업무의 50%까지 영향을 받을 것으로 봅니다.

could see up to 50 percent of their tasks impacted.

The craziest thing about all of this is,

이 중에서 가장 놀라운 점은,

is that these technologies do not discriminate.

이 기술이 차별을 하지 않는다는 것입니다.

Occupations that have historically required an immense amount of training

역사적으로 엄청난 훈련이나 교육이 필요한 직종들도

or education are equally as vulnerable to being outsourced to AI.

인공 지능으로 넘어갈 위험이 마찬가지로 높습니다.

Now before we throw our hands up and let the robots take over,

이제 우리가 손을 들어버리고 로봇에게 작업을 맡기기 전에

let's put this all into perspective.

이것들을 살펴보겠습니다.

Fortunately for us,

다행스럽게도 이런 일이 일어난 게 역사상 처음은 아닙니다.

this is not the first time in history that this has happened.

Let's go back to the Industrial revolution.

산업 혁명으로 돌아가 봅시다.

Picture Henry Ford’s iconic Model T automobile production line.

헨리 포드의 상징적인 모델 T 자동차 생산 공장을 상상해 보세요.

In this remarkable setup,

이 놀라운 작업 배치에서

workers and machines engage in a synchronous dance.

작업자와 기계가 조화롭게 움직이고 있습니다.

They were tasked with specific repetitive tasks,

이들은 특정한 반복 작업을 합니다.

such as tightening bolts or fitting components

제품이 조립 과정을 따라 움직일 때 나사를 조이거나 부품을 넣는 거죠.

as the product moved down the line.

역설적이게도, 그리고 제가 현재 처한 상황과 다르지 않게,

Ironically, and not dissimilar to my current predicament,

the humans themselves played a crucial role in training the systems

인간들이 한때 다방면으로 숙련되어 있던 역할을

결국 대체할 시스템을 훈련하는 데 인간 자신들이 중요한 역할을 했습니다.

that would eventually replace their once multi-skilled roles.

They were the ones who honed their craft, perfected the techniques

자신의 기술을 연마하고, 기술을 완성하고,

and ultimately handed off the knowledge to the technicians

궁극적으로 전체 과정을 자동화하는 데 관련된 기술자와 공학자에게

and engineers involved in automating their entire process.

자신들의 지식을 넘겨준 것은 바로 그들이었습니다.

Now on the outset, this situation seems pretty dire.

지금 초기에는 이런 상황이 매우 심각해 보입니다.

Yet despite initial fears and hesitations

하지만 이러한 기술 발전에 대한

involved in these technological advancements,

초기의 두려움과 망설임에도 불구하고

history has proven that humans have continuously found ways

역사를 통해 증명된 것은

인류는 계속해서 적응하고 혁신할 방법을 찾아왔다는 것입니다.

to adapt and innovate.

While some roles were indeed replaced, new roles emerged,

일부 역할은 실제로 대체되었지만 새로운 역할이 생겨났기 때문에

requiring higher-level skills like creativity

기계로는 재현할 수 없는 창의성과

and creative problem solving that machines just simply couldn't replicate.

창의적인 문제 해결과 같은 더 높은 수준의 기술이 필요했습니다.

Reflecting on this historical example

이 역사적 사례를 생각해 보면

reminds us that the relationship between humans and machines

인간과 기계의 관계는 언제나 섬세한 균형을

has always been a delicate balancing act.

유지해 왔다는 것을 상기할 수 있습니다.

We are the architects of our own progress,

우리는 자신의 발전을 설계하면서

often training machines to replace us

흔히 자신을 대체할 기계를 훈련합니다.

while simultaneously carving out unique roles for ourselves

자신의 고유한 역할을 개척하는 동시에

and discovering new possibilities.

새로운 가능성을 발견하기도 합니다.

이제 현재로 돌아와서, 우리는 인공 지능 혁명의 발단에 서 있습니다.

Now coming back to the present day, we are on the cusp of the AI revolution.

As someone responsible for moving that revolution forward,

그 혁명을 전진시키는 책임을 맡은 사람으로서

the tension becomes omnipresent.

긴장감은 어디에나 존재하게 됩니다.

Option one, I can innovate quickly and risk displacing my team.

이 경우 저는 신속하게 혁신하고 팀을 대체하는 위험을 감수할 수 있죠.

아니면 두 번째 방법으로는,

Or option two, I can refuse to innovate in an effort to protect my team,

팀을 보호하려는 노력의 일환으로 혁신을 거부할 수도 있습니다.

but ultimately still lose people because the company falls behind.

하지만 회사가 뒤처지기 때문에 궁극적으로 역시 사람을 잃습니다.

So what am I supposed to do

이런 상황에서 그저 중간 관리자인 제가 할 일은 무엇일까요?

as a mere middle manager in this situation?

Knowingly introducing this complex paradox for your team

이러한 복잡한 역설을 알면서 팀에 도입하는 것은

presents strong challenges for people management.

인력 관리에 큰 어려움을 안겨줍니다.

Luckily, we can refer back to those three ethical principles

다행스럽게도 제가 강연 초반에 말한 세 가지 윤리 원칙을 참고하면

I addressed at the beginning of the talk

to ensure that you can continue to move ahead

직원들이 뒤처지지 않게 하면서 계속 앞으로 나갈 수 있습니다.

without leaving your people behind.

First and foremost,

무엇보다도 인공 지능으로 전환하는 것은 투명해야 합니다.

AI transformation needs to be transparent.

As leaders, it is imperative to foster dialogue,

리더로서 대화를 촉진하고, 주요 문제를 해결하고,

address key concerns,

and offer concise explanations regarding the purpose

AI 구현에 수반되는 목적과 잠재적 과제에 대해

and potential challenges entailed in implementing AI.

간결하게 설명하는 것이 필수입니다.

This requires actively involving your employees

이를 위해서는 의사결정 과정에

in the decision-making process

직원을 적극적으로 참여시키고 직원의 자율성을 존중해야 합니다.

and valuing their autonomy.

By introducing the concept of consent,

특히 자신의 핵심 업무를 자동화하는 임무를 맡은 직원들에게

especially for employees who are tasked

with automating their core responsibilities,

동의의 개념을 도입함으로써,

직원들이 강력한 목소리를 유지하면서

we can ensure that they maintain a strong voice

in carving out their professional destiny.

자신의 직업 전망을 개척하게 할 수 있습니다.

다음으로, 앞으로 펼쳐질 미래를 인정하면서

Next, now that we've gotten folks bought into this grandiose vision

while acknowledging the journey that lies ahead,

사람들이 이 장대한 미래를 받아들이게 했으면

let's talk about how to use AI as an augmentation device.

이제 인공 지능을 증강 장치로 사용하는 방법을 알아보겠습니다.

Picture the worst part of your job today.

현재 업무에서 가장 안 좋은 부분을 떠올려 보세요.

What if you could delegate it?

그걸 위임할 수 있다면 어떨까요?

And no, not hand it off to some other sad soul at work,

아니요, 다른 불운한 동료에게 넘겨주는 것이 아니라,

but hand it to a system that can do your rote tasks for you.

여러분 대신 단순 반복 작업을 할 수 있는 시스템에 넘기는 겁니다.

Instead of perceiving AI as a complete replacement,

인공 지능을 완전한 대체물로 인식하는 대신,

identify opportunities where you can use it

직원의 잠재력과 생산성을 향상하는 데

to enhance your employees' potential and productivity.

인공 지능을 사용할 수 있는 기회를 찾아 보세요.

Collaboratively with your team,

여러분의 팀과 협력하여,

identify areas and tasks that can be automated,

자동화할 수 있는 영역과 작업을 식별하여

기계로는 잘 수행할 수 없는, 비판적 사고가 필요한

carving out more room for higher-value activities

requiring critical thinking that machines just aren't very good at doing.

고부가 가치 활동을 위한 여지를 더 많이 확보하세요.

Let's put this into an example.

예를 들어 보겠습니다.

Recently, I completed a project with my team at work

최근에 저는 회사 팀원들과 함께 일을 완료했습니다.

that's going to save our company over 12,000 working hours.

이 일을 통해 회사의 근무 시간을

12,000시간 이상 절약할 수 있을 것입니다.

The folks involved in training this algorithm

이 알고리즘 교육에 참여한 사람들은

are the same subject matter experts that worked tirelessly last year

작년에 우리 웹사이트 전반에 걸쳐 세분화된 경험을 최적화하기 위해

to hand-curate and research data to optimize segmented experiences

데이터를 직접 선별하고 조사하며

쉬지 않고 일한 동일 분야 전문가들입니다.

across our website.

Now because of the sheer amount of time spent and the level of detail involved,

엄청나게 소요된 시간과 관련된 세부 사항의 수준으로 인해

I would have expected

저는 이 작업 후에 엄청난 자부심을 느낄 것으로 예상했습니다.

that there was an immense amount of pride behind this workflow.

But to my surprise, as it turns out,

그러나 놀랍게도, 알고 보니

the subject matter experts who built this model

이 모델을 구축한 해당 분야 전문가들은

were actually excited to hand these tasks off to automation.

사실 이러한 작업을 자동화에 맡기는 것을 기쁘게 생각했습니다.

There were things that they would have much rather spent their time on,

시간을 훨씬 더 투자하고 싶은 일들이 있었던 거죠.

제품이 더 나은 성능을 발휘하도록 기존 데이터를 최적화한다거나

like in optimizing existing data to perform better on product surfaces

or even researching and developing new insights to augment

모델이 제대로 수행하지 못하는 부분을 보강하기 위해

where the model just simply doesn't do as well.

새로운 방법을 연구하고 개발하는 일 등 말입니다.

Lastly, we must reskill in order to avoid replacement.

마지막으로, 대체를 피하려면 기술 교육을 다시 받아야 합니다.

Knowingly investing in the professional development

직원의 전문성 개발과 복지에 알맞게 투자하면

and well-being of our workforce

ensures that they are equipped with the skills and knowledge

인공 지능을 기초로 한 미래에 성공하는 데 필요한

needed to thrive in an AI-powered future.

기술과 지식을 갖추게 됩니다.

By providing opportunities for upskilling and reskilling,

기술 향상과 재교육 기회를 제공함으로써

we can empower our employees to rethink their roles as they exist today

직원들이 현재 하는 역할을 다시 점검하고

and carve out new possibilities that align with their evolving expertise

진화하는 전문성과 관심사에 맞는

새로운 가능성을 개척하도록 힘을 실어줄 수 있습니다.

and interests.

So how does this work in practice?

그렇다면 이것을 어떻게 실행할까요?

When I started introducing AI as a way to accelerate my team's workflows,

팀의 작업 속도를 올리는 방법으로 인공 지능을 도입하기 시작했을 때,

I used it as an opportunity to improve my team's technical literacy.

저는 이를 팀의 기술 활용 능력을 향상하는 기회로 활용했습니다.

I worked with my team of engineers on a tool

저의 엔지니어 팀과 함께

that could transparently identify

모델 결과에 대한 데이터의 영향을

the impact of data on a model's outcomes.

투명하게 식별할 수 있는 도구를 개발했습니다.

I then went to my operations analyst,

그런 다음 기술 교육을 받지 않은 운영 분석가를 찾아갔고,

who didn't have technical training at the time,

and they were able to quickly identify areas where the model was underperforming

그들은 모델이 제대로 작동하지 않는 부분을 빠르게 찾아내고

and hand off direct suggestions to my data science team

데이터 과학팀에 직접 제안을 전달해서

to make those models do better next time.

다음 번에는 모델이 더 잘 작동하도록 하게 했습니다.

Fostering a culture of continuous learning

지속적인 학습과 재교육 문화를 조성하는 것이 무엇보다 중요합니다.

and reskilling is paramount.

이를 통해 인공 지능 혁신은 훨씬 더 흥미롭고 덜 무서워집니다.

It makes AI transformation a lot more exciting and a lot less scary.

We have reached a critical juncture

우리는 인공 지능 기술의 급속한 발전이

where the rapid development of AI technology

기회와 도전을 동시에 안겨주는 중대한 국면에 이르렀습니다.

poses both opportunities and challenges.

As managers and leaders,

관리자이자 리더로서,

it is imperative that we navigate this terrain

민감성과 예지력을 둘 다 갖추고 이 지형을 탐색하는 것이 필수입니다.

with both sensitivity and foresight.

By embracing innovation,

혁신을 수용하고, 적응하는 문화를 조성하고,

fostering a culture of adaptation,

and ultimately intentionally investing in the professional development

궁극적으로 인력의 전문성 개발과 복지에 면밀하게 투자함으로써,

and well-being of our workforce,

we can ensure that we are preparing our team

인공 지능 도입의 복잡성을 해결하는 동시에

for the challenges that lie ahead

while addressing the complexities of introducing AI.

팀이 앞으로 닥칠 도전에 대비하도록 할 수 있습니다.

Together, let's forge a future that harmoniously combines human ingenuity

인간의 독창성과 기술 진보가 조화롭게 결합되는 미래,

and technological progress,

where AI enhances human potential

인공 지능이 인간의 잠재력을 대체하는 것이 아니라

rather than replacing it.

향상하는 미래를 다 함께 만듭시다.

Thank you.

감사합니다.

(Applause)

(박수)(환호)