War, AI and the New Global Arms Race | Alexandr Wang | TED

번역: MI AE KIM 검토: DK Kim

Artificial intelligence and warfare.

전쟁에 인공 지능을 결합하면

Let's talk about what this really could look like.

어떤 상황이 벌어지는지 진지하게 이야기해 보죠.

Swarms of lethal drones with facial recognition

치명적인 드론 무리는

안면 인식 기능으로 여러분 하나하나를 감시하죠.

that know your every move.

Or unmanned armed robots that are near impossible to defeat.

그런가 하면 무인 무장 로봇은 맞서 싸우는 것이 거의 불가능해요.

Autonomous fighter jets that can travel at supersonic speeds

초음속으로 비행하는 무인 전투기는

and can withstand greater gravitational force

인간 조종사보다 더 큰 중력을 견딜 수 있습니다.

than a human pilot could survive.

Cyberattacks that incapacitate critical port infrastructure

핵심 항만 시설을 무력화하는 사이버 공격도 있고

or disinformation campaigns and deepfakes that throw presidential elections.

대통령 선거 운동을 뒤엎는 허위 정보나 딥페이크도 있죠.

Or even foreign adversaries taking out satellites,

혹은 우주에서 적대국들이 인공위성을 탈취해

our eyes and ears in space,

세계에서 일어나는 일들에서 우리 눈과 귀를 가릴 것입니다.

rendering us blind to global events.

All superintelligent weapons of terror.

모두 공포스러운 초지능 무기들이죠.

We are at the dawn of a new age of warfare.

우리는 새로운 전쟁 시대의 서막에 있습니다.

I grew up in the birthplace of a technology

제가 자란 곳은 전쟁의 마지막 시대로 불리는 기술의 발상지입니다.

that defined the last era of warfare,

the atomic bomb.

바로 원자 폭탄이죠.

I was keenly aware of how this technology had fundamentally shaped geopolitics

저는 이 기술이 어떻게 지정학과 전쟁의 성격을

근본적으로 형성했는지 절실히 깨달았습니다.

and the nature of war.

My parents were both scientists at Los Alamos National Laboratory.

제 부모님은 로스 알라모스 국립 연구소의 과학자입니다.

My dad’s a physicist, and my mom’s an astrophysicist.

아버지는 물리학자이고 어머니는 천체 물리학자입니다.

Their scientific work in plasma fluid dynamics

부모님께서 연구한 플라즈마 유체 역학은

will have deep implications for how we understand our universe.

우리가 우주를 이해하는 방법에 큰 영향을 줄 것입니다.

So naturally, I knew I wanted to work on something just as impactful.

자연스레 저도 그렇게 영향력 있는 일을 하고 싶어

인공 지능을 연구하는 프로그래머가 되기로 했어요.

I decided to become a programmer and study artificial intelligence.

AI is one of the most critical technologies of our time

우리가 사는 시대에 AI 기술은 너무나 중요해서

and with deep implications for national security

전 세계 국가 안보와 민주주의 곳곳에 깊숙이 영향을 미칩니다.

and democracy globally.

원자 폭탄을 사용한 제2차 세계 대전에서 본 것처럼

As we saw in World War II with the atomic bomb,

the country that is able to most rapidly and effectively

전쟁에서 가장 빠르고 효과적으로 실행할 수 있는

integrate new technology into warfighting wins.

신기술을 갖출 수 있는 국가가 전쟁에서 승리합니다.

There's no reason to believe this will be any different with AI.

AI 시대가 되었다고 해서 이 현실이 달라지지는 않을 것입니다.

But in the AI arms race, we're already behind.

하지만 AI 무기 경쟁에서 우리는 이미 뒤처지고 있어요.

From a technological perspective,

기술적인 면에서 보면

China is already ahead of the United States

중국은 컴퓨터 시각 AI에서 이미 미국을 앞서고 있습니다.

in computer vision AI.

또한 챗GPT와 같은 언어 모델에서 중국은 미국을 빠르게 추격하고 있죠.

And in large language models, like ChatGPT,

they are fast followers.

군사 작전에서 중국은 우리보다 지출을 더 많이 해요.

In terms of military implementations,

they're outspending us:

adjusted for total military budget,

중국이 쓰는 총 군사 예산은 미국의 열 배가 넘습니다.

China's spending ten times more than the United States.

Why are we so far behind?

우리는 왜 이렇게 뒤처진 것일까요?

The answer is twofold.

답은 두 가지입니다.

First, data supremacy.

첫째, 데이터 지상주의입니다.

Despite having the largest fleet of military hardware in the world,

우리 군용 하드웨어는 세계 최대이지만

most of the data from this fleet is thrown away or inaccessible,

여기에서 나오는 데이터 대부분은 폐기되거나 활용하지 못합니다.

hidden away on hard drives that never see the light of day.

하드디스크 드라이브에 숨겨져 다시는 빛을 볼 수 없습니다.

This is our Achilles heel.

이것이 미국의 아킬레스건이죠.

In an AI war, everything boils down to data.

AI 전쟁에서 모든 것은 결국 데이터로 이어져요.

For defense AI,

방어 AI는 인터넷에서 온 데이터만으로는 충분하지 않아요.

data from the internet is not enough.

Most of the data needs to come from our military assets,

데이터 대부분은 우리의 군사 자산,

sensors and collaborations with tech companies.

감지기 그리고 기술 회사와의 협력에서 생성됩니다.

Military commanders need to know how to use data as a military asset.

지휘관은 데이터를 군사 자산으로 사용하는 방법을 알아야 하는 거죠.

I've heard this first-hand many times,

이 이야기는 군인들과 대화하면서 여러 차례 들었어요.

from my conversations with military personnel,

including most recently

최근엔 미 육군 미래 사령부 부사령관인

from Lieutenant General Richard R. Coffman,

deputy commanding general for United States Army Futures Command.

리처드 R. 코프만 중장이 있었죠.

Second, despite being home to the leading technology companies

둘째, 미국은 인공 지능 최전선에서 선 선두 기술 기업들의 본거지인데도

at the forefront of artificial intelligence,

the US tech industry has largely shied away

미국 기술 업계의 대부분은 정부와 계약하는 것에 몸을 사려왔어요.

from taking on government contracts.

Somewhere along the line,

언제부터인가 기술 업계의 대표들은 정부에 협력하는 것을 꺼리게 되었죠.

tech leaders decided that working with the government was taboo.

As a technologist,

기술자인 저는 이 세상을 어떻게 개선하고 있는지 자주 질문받습니다.

I'm often asked how I'm bettering this world.

This is how I'm improving the future of our world:

저는 세계의 미래를 이렇게 개선합니다.

by helping my country succeed

미국 정부가 성공하도록 최고의 도구와 기술을 제공하여

and providing the best tools and technology

to ensure that the United States government can defend its citizens,

미국이 우리 국민, 동맹국 그리고 동반자를 굳건히 지키도록 하는 것이죠.

allies and partners.

(Applause)

(박수)

The Ukraine war has demonstrated that the nature of war has changed.

우크라이나 전쟁은 전쟁의 성격이 바뀌었다는 것을 보여주었습니다.

Through AI overmatch, Ukraine is challenging an adversary

우크라이나는 압도적인 AI를 이용해서

훨씬 많은 병력과 무기를 자랑하는 적과 싸우고 있죠.

with far superior numbers of troops and weapons.

Before the Ukraine war,

우크라이나 전쟁이 일어나기 전에

러시아는 군사비 지출에 대략 650억 달러를 소비했지만

Russia had spent an estimated 65 billion US dollars

on its military expenditures,

whereas Ukraine only spent about six billion dollars.

우크라이나는 약 60억 달러밖에 지출하지 않았습니다.

It's estimated that Russia had over 900,000 military troops

추정 자료를 보면 러시아는 군인 90만 명 이상과

and 1,300 aircraft,

항공기 1,300대를 보유하고 있는데

whereas Ukraine only had 200,000 military troops and 130 aircraft.

우크라이나는 고작 군인 20만 명과 항공기 130대에 그칩니다.

Technologies such as drones,

하지만 우크라이나는 드론 같은 기술, AI를 사용한 조준 및 영상 정보,

AI-based targeting and image intelligence

and Javelin missiles

그리고 재블린 미사일을 이용해 놀랄 정도로 잘 방어하고 있죠.

have enabled a shocking defense of Ukraine.

AI is proving invaluable for defending Ukrainian cities and infrastructure

AI는 미사일과 드론 폭격에 맞서

우크라이나의 도시와 기반 시설을 보호하는 데 정말 중요합니다.

against missile and drone bombardment.

At Scale, we’re using our novel machine learning algorithm

우리는 새로운 기계 학습 알고리즘을 대규모로 사용해

중요 지역의 전쟁 피해를 측정하고 있습니다.

for battle damage assessment in key areas affected by the war.

We've rapidly analyzed over 2,000 square kilometers

2천 제곱킬로미터 이상을 신속하게 분석하고

and have identified over 370,000 structures,

37만 개가 넘는 건축물을 확인했습니다.

including thousands not previously identified

다른 개방 데이터에서 확인하지 못한 것도 수천 개 있었죠.

by other open source data sets.

우리는 키이우, 하르키우, 드니프로를 중점으로 조사했고

We focused on Kyiv, Kharkiv and Dnipro

and provided our data directly

좀 더 광범위한 AI 커뮤니티에

in a publicly accessible data set to the broader AI community.

누구나 볼 수 있는 파일로 우리 데이터를 직접 올렸습니다.

One of the key problems we're solving

우리가 당면한 주요 과제는

is using AI to analyze massive amounts of imagery and detect objects

AI로 대규모 영상을 분석하고 대상을 인식하는 것인데

because humans just can't keep up.

인간이 감당하기에는 역부족이거든요.

We've received an overwhelming response from our free AI-ready data set

우리가 올린 공개 AI 자료에는 엄청난 반응이 있었고

and have provided it directly to the United States and NATO allies.

우리는 그 반응들을 미국과 NATO 동맹국에 직접 제공했습니다.

And it's been downloaded over 2,000 times by AI companies, researchers,

AI 기업들, 연구자들, 개발자들과 지리정보체계 실무자들이

그 자료를 2천 회 이상 내려받았습니다.

developers and GIS practitioners.

AI can also be used for change detection.

AI는 변화를 감지하는 데도 사용할 수 있어요.

Simply put, algorithms can constantly monitor imagery

간단히 설명하면 알고리즘이 지속적으로 영상을 관찰하고

and notify a human to investigate further if there's a change or a movement.

변화나 움직임이 있으면 더 조사하도록 인간에게 알리죠.

It's clear that AI is increasingly powering warfare.

AI는 분명 점점 전쟁에 힘이 될 것입니다.

And based on the rate of progress in the AI field,

AI 분야가 발전하는 속도를 보면

I predict that in ten years, it will be the dominant force.

10년 후에는 주류가 되어 있을 것입니다.

Disinformation and misinformation are already huge problems.

거짓 정보나 잘못된 정보는 이미 큰 문제입니다.

And this technology is only going to make it worse.

그리고 이 기술은 점점 더 피해를 줄 것입니다.

Tools like ChatGPT have enabled AI to generate imagery,

챗GPT 같은 AI는

영상, 문자, 음성, 동영상, 코딩과 추론까지 가능합니다.

text, audio, video, code and even reason.

These tools can generate realistic-looking and realistic-sounding content,

이런 도구들은 실제처럼 보이고 들리는 영상을 생성하기 때문에

which on top of bot-run social media accounts

봇이 실행하는 소셜 미디어 계정에서

will make it nearly impossible to identify disinformation

거짓 정보나 잘못된 정보를 식별하는 것은 거의 불가능해요.

and misinformation online.

Bad actors can use these tools to supercharge misinformation

악의적인 사람은 이러한 도구로 잘못된 정보를 지나치게 부풀리거나

and propagate falsehoods.

거짓말을 퍼뜨릴 수 있습니다.

China already uses disinformation campaigns

중국은 이미 대만에서 대규모로 거짓 정보를 퍼트리고

and social media manipulations heavily in Taiwan,

소셜 미디어 조작을 하고 있는데 특히 선거에 개입하고 있죠.

particularly during elections.

Or take Russia's propaganda machine,

러시아 또한 우크라이나 침공에 이어 선전 기관까지 동원해

which in the wake of Russia's invasion of Ukraine

created a deepfake of Ukrainian President Zelensky

우크라이나의 젤렌스키 대통령이 우크라이나 군대에 항복을 촉구하는

calling for Ukrainian troops to surrender.

가짜 영상을 만들었죠.

이 가짜 영상은 구별이 쉬웠지만 다음에는 아닐 수도 있어요.

This deepfake was easy to spot,

but the next one may not be.

This also takes place within our borders,

이런 일은 미국 내에서도 일어날 것입니다.

from social media algorithm manipulation

소셜 미디어의 알고리즘 조작부터

광고의 미세 표적 선정과 가상 울타리 설정,

to advertising microtargeting and geofencing,

to deepfakes of politicians and bot-run social media accounts.

가짜 정치인도 있고 봇이 운영하는 소셜 미디어 계정도 있죠.

The United States is not excused

거짓 정보나 잘못된 정보에 당하는 건 미국도 예외일 수 없습니다.

from exacerbating disinformation and misinformation.

These tools are universally accessible at low or no cost,

이런 도구들은 보편적이며 저렴하거나 무료입니다.

세계 어느 지역의 누구든 사용 가능하고

meaning they can be employed by anyone anywhere

to undermine the sanctity of democracy globally.

민주주의의 정당성을 훼손할 수 있다는 말이죠.

However, all hope is not lost.

하지만 희망이 모두 사라진 것은 아닙니다.

If we properly invest

데이터 기반 시설과 데이터 준비에 제대로 투자를 한다면

into data infrastructure and data preparation,

all this can be avoided.

이 모든 것을 예방할 수 있어요.

Deterrence is nothing new to military thinking.

군에서 억제력은 낯선 개념이 아니죠.

As we saw in World War II with the atomic bomb,

우리는 제2차 세계 대전에서 이미 원자폭탄을 경험했기에

it was a primary factor in deterring foreign adversaries

외부의 적으로부터 핵전쟁 발생 억제를 위해

from going to nuclear war for more than six decades.

60년 이상 핵을 주요 요소로 취급했습니다.

전쟁에 그런 기술이 쓰일 위험이 너무 크거든요.

Because the stakes of going to war with such a technology

were simply too high.

We're likely to see a new calculus emerge with AI.

AI를 이용한 새로운 논리가 등장할 것입니다.

It's uncharted territory, nobody knows what it will look like

그건 알 수 없는 영역이고

그게 어떤 것이고 대가는 무엇일지 아무도 알지 못하죠.

or the toll it will take.

How do we know if our AI is better than our adversaries'?

우리 AI가 적의 것보다 나은 걸 어떻게 알 수 있을까요?

We won't.

우린 모릅니다.

But one thing is clear:

하지만 한 가지는 확실해요.

AI는 알고리즘을 돌리는 데이터만큼만 강력합니다.

AI can only be as powerful as the underlying data

that is used to fuel its algorithms.

Data will be a new kind of ammunition in the era of AI warfare.

AI 전쟁 시대에 데이터는 새로운 종류의 무기가 되는 거죠.

In the tech industry, we often talk about missions.

기술 업계에서는 곧잘 사명을 이야기합니다.

They're often frivolous.

사명은 어처구니없을 때가 많습니다.

Do they really change the world or save lives?

그들이 정말로 세상을 바꾸고 인류를 구할까요?

This mission, on the other hand, really matters.

반면에 이 일은 진짜로 중요합니다.

The AI war will define the future of our world

AI 전쟁은 세계의 미래를 결정하고

and has the potential to shift the balance of diplomatic power.

외교의 균형을 옮길 수도 있습니다.

디지털 전쟁은 머나먼 미래에 있을

It's clear that digital warfare

is not some dystopian reality, tucked away in a faraway future.

어떤 디스토피아적 상황이 아니라는 것은 확실합니다.

It is taking place in the here and now.

바로 지금 이곳에서 일어나고 있습니다.

We cannot sit by the sidelines

권위주의 정권이 등장하는 것을 손 놓고 바라만 볼 수는 없어요.

and watch the rise of an authoritarian regime.

It is in moments like this

지금은 기술자들이 도전에 맞서든 외면하든

that technologists can either rise to the challenge or stand idle.

선택할 순간입니다.

I encourage my fellow technologists

저는 동료 기술자들이 우리 시대의 재정적 어려움과 심각성을 인식하여

to understand the austerity and severity of our times

and commit themselves to supporting national security.

국가 안보를 지원하러 나서길 바랍니다.

대다수 미국 AI 기업들이 국가 안보를 지원하지 않기로 한 건 충격이지만

While I find it shocking that most American AI companies

have chosen not to support national security,

I do hope others join us.

다른 분들은 우리와 함께해 주시길 바랍니다.

We must fight for the world we want to live in.

우리가 원하는 세상에 살기 위해 반드시 싸워야 합니다.

It's never mattered more.

이게 지금보다 더 중요한 때는 없었습니다.

Thank you.

감사합니다.

(Applause)

(박수)