War, AI and the New Global Arms Race | Alexandr Wang | TED

翻訳: Yasushi Aoki

Artificial intelligence and warfare.

ＡＩを使った戦争

Let's talk about what this really could look like.

それがどんなものか 話しましょう

Swarms of lethal drones with facial recognition

こちらの動きを逐一把握している 顔認識する攻撃ドローン

that know your every move.

こちらの動きを逐一把握している 顔認識する攻撃ドローン

Or unmanned armed robots that are near impossible to defeat.

ほぼ倒しようがない 武装自律ロボット

Autonomous fighter jets that can travel at supersonic speeds

超音速で飛び

パイロットの耐えられないＧを ものともしない

and can withstand greater gravitational force

than a human pilot could survive.

無人戦闘機

Cyberattacks that incapacitate critical port infrastructure

重要な港湾施設の機能を奪う サイバー攻撃

or disinformation campaigns and deepfakes that throw presidential elections.

大統領選を操作する 偽情報やディープフェイク

Or even foreign adversaries taking out satellites,

宇宙にある目であり耳である 衛星を無効化し

宇宙にある目であり耳である 衛星を無効化し

our eyes and ears in space,

rendering us blind to global events.

世界の状況に盲目にさせること

All superintelligent weapons of terror.

どれも知的で恐ろしい兵器と なりえるものです

We are at the dawn of a new age of warfare.

私たちは戦争における 新時代の幕開けにいます

I grew up in the birthplace of a technology

前の時代の戦争を 決定づけていた技術である

that defined the last era of warfare,

原子爆弾の発祥地で 生まれた私は

the atomic bomb.

原子爆弾の発祥地で 生まれた私は

I was keenly aware of how this technology had fundamentally shaped geopolitics

この技術により 地政学や戦争の性質が 条件づけられていることを

and the nature of war.

強く感じていました

My parents were both scientists at Los Alamos National Laboratory.

私の両親はどちらも ロスアラモス国立研究所の科学者でした

My dad’s a physicist, and my mom’s an astrophysicist.

父は物理学者 母は天体物理学者です

Their scientific work in plasma fluid dynamics

二人のプラズマ流体力学の研究は

will have deep implications for how we understand our universe.

宇宙の理解に深い影響を もたらすことでしょう

So naturally, I knew I wanted to work on something just as impactful.

自分もそのような影響力のある 何かをしたいと思うようになり

プログラマーとなって ＡＩの研究をすることにしました

I decided to become a programmer and study artificial intelligence.

AI is one of the most critical technologies of our time

ＡＩは今の時代の 最も重要な技術の一つであり

and with deep implications for national security

国家安全保障や 世界の民主主義にも 大きく関わるものです

and democracy globally.

国家安全保障や 世界の民主主義にも 大きく関わるものです

As we saw in World War II with the atomic bomb,

第二次世界大戦での 原子爆弾の登場は

the country that is able to most rapidly and effectively

技術を戦争と 最も素早く効果的に 結びつけられる国が

integrate new technology into warfighting wins.

戦争に勝つことを 示しました

There's no reason to believe this will be any different with AI.

ＡＩにも同じことが 言えますが

But in the AI arms race, we're already behind.

ＡＩの軍拡競争では 私たちは既に遅れを取っています

From a technological perspective,

技術的な観点で

China is already ahead of the United States

コンピュータービジョンにおいて 中国はアメリカより進んでおり

in computer vision AI.

コンピュータービジョンにおいて 中国はアメリカより進んでおり

ChatGPTのような 大規模言語モデルでも

And in large language models, like ChatGPT,

they are fast followers.

急速に追い上げています

In terms of military implementations,

軍用ＡＩに対し 中国はアメリカよりも多く投資しており

they're outspending us:

軍用ＡＩに対し 中国はアメリカよりも多く投資しており

adjusted for total military budget,

軍事費に占める割合だと

China's spending ten times more than the United States.

10倍以上になります

Why are we so far behind?

我々はなぜそんなに 遅れを取っているのか？

The answer is twofold.

二つ理由があります

First, data supremacy.

一つはデータにおける優位

Despite having the largest fleet of military hardware in the world,

世界最大の軍事力を 持っていようと

most of the data from this fleet is thrown away or inaccessible,

そこから出てくるデータは ほとんどが捨てられるか

決して日の目を見ることのない ハードディスクに隠され アクセス不能です

hidden away on hard drives that never see the light of day.

This is our Achilles heel.

これは我々のアキレス腱です

In an AI war, everything boils down to data.

ＡＩ戦争においては データが全ての拠り所になります

For defense AI,

国防用ＡＩには

data from the internet is not enough.

インターネットのデータだけでは 不十分です

Most of the data needs to come from our military assets,

データの多くが もたらされるのは

軍事資産や センサー 技術系企業との共同からです

sensors and collaborations with tech companies.

Military commanders need to know how to use data as a military asset.

指揮官は データの軍事資産としての使い方を わかっている必要があります

I've heard this first-hand many times,

私はそれを軍関係者との会話で 何度も直接耳にしており

from my conversations with military personnel,

私はそれを軍関係者との会話で 何度も直接耳にしており

including most recently

最近お話しした アメリカ陸軍将来コマンド副司令

from Lieutenant General Richard R. Coffman,

最近お話しした アメリカ陸軍将来コマンド副司令

deputy commanding general for United States Army Futures Command.

リチャード・Ｒ・コフマン中将も そのひとりです

Second, despite being home to the leading technology companies

もう一つの理由は

ＡＩで最先端の技術系企業が 国内にあるにしても

at the forefront of artificial intelligence,

the US tech industry has largely shied away

米国のハイテク業界は 政府の仕事を敬遠する傾向があることです

from taking on government contracts.

米国のハイテク業界は 政府の仕事を敬遠する傾向があることです

Somewhere along the line,

ハイテク業界のリーダーの間では

tech leaders decided that working with the government was taboo.

いつの間にか政府と仕事するのが タブーになったのです

As a technologist,

科学技術者として私は

I'm often asked how I'm bettering this world.

世界をどう良くしているのか 聞かれることがありますが

This is how I'm improving the future of our world:

私が世界の未来を より良くする方法は

by helping my country succeed

この国の成功を助け

and providing the best tools and technology

最高のツールと技術を 提供して

to ensure that the United States government can defend its citizens,

米国政府が 国民や同盟国や仲間を 確かに守れるようにするということです

allies and partners.

米国政府が 国民や同盟国や仲間を 確かに守れるようにするということです

(Applause)

(拍手)

The Ukraine war has demonstrated that the nature of war has changed.

ウクライナの戦争は 戦争の性質が変わったことを見せつけました

Through AI overmatch, Ukraine is challenging an adversary

ＡＩにおける優位のおかげで

ウクライナは 兵員や兵器の数で はるかに勝る相手と互角に戦えています

with far superior numbers of troops and weapons.

Before the Ukraine war,

この戦争以前には

軍事費としてロシアは 推定650億ドルを費やす一方

Russia had spent an estimated 65 billion US dollars

on its military expenditures,

軍事費としてロシアは 推定650億ドルを費やす一方

whereas Ukraine only spent about six billion dollars.

ウクライナは60億ドルしか 使っていませんでした

It's estimated that Russia had over 900,000 military troops

ロシア軍には 90万以上の兵員と 1,300機の航空機があったのに対し

and 1,300 aircraft,

ロシア軍には 90万以上の兵員と 1,300機の航空機があったのに対し

whereas Ukraine only had 200,000 military troops and 130 aircraft.

ウクライナ軍には 20万の兵員と 130機の航空機があるだけでした

Technologies such as drones,

諸々の技術— ドローンや

AI-based targeting and image intelligence

ＡＩを使った目標識別と 画像認識

and Javelin missiles

ジャベリンミサイルなどにより

have enabled a shocking defense of Ukraine.

ウクライナは 驚異的な防衛力を 手にしました

AI is proving invaluable for defending Ukrainian cities and infrastructure

ミサイルやドローン爆撃から ウクライナの都市やインフラを守るためには

against missile and drone bombardment.

ＡＩが欠かせないことも 示されています

At Scale, we’re using our novel machine learning algorithm

Scale AI社では 最新の機械学習アルゴリズムを使って

戦争の影響を受ける主要地域の 被害評価を行っています

for battle damage assessment in key areas affected by the war.

We've rapidly analyzed over 2,000 square kilometers

２千平方キロの範囲を 素早く分析して

and have identified over 370,000 structures,

37万件の建物を特定し

including thousands not previously identified

他のオープンソースのデータセットでは 特定されていなかった

by other open source data sets.

数千件を見つけました

We focused on Kyiv, Kharkiv and Dnipro

私たちは特にキーウと ハルキウと ドニプロに焦点を当て

and provided our data directly

ＡＩ関係者が自由に使える データセットとして提供しました

in a publicly accessible data set to the broader AI community.

ＡＩ関係者が自由に使える データセットとして提供しました

One of the key problems we're solving

私たちが取り組んでいる 主要な問題の一つが

is using AI to analyze massive amounts of imagery and detect objects

ＡＩを使って膨大な画像を解析し 物の識別をするということで

because humans just can't keep up.

人の目では 追いつかないからです

We've received an overwhelming response from our free AI-ready data set

ＡＩですぐに使える私たちの公開データセットには ものすごい反響があり

and have provided it directly to the United States and NATO allies.

アメリカとNATO同盟国に 直接届けています

And it's been downloaded over 2,000 times by AI companies, researchers,

ＡＩ関係の企業や研究者や開発者 GIS実務者などにより

developers and GIS practitioners.

２千回以上 ダウンロードされています

AI can also be used for change detection.

ＡＩはまた変化の 検出にも使えます

Simply put, algorithms can constantly monitor imagery

プログラムで画像を絶えず監視し

and notify a human to investigate further if there's a change or a movement.

何か変化や動きがあったら 調べるよう人間に通知するのです

It's clear that AI is increasingly powering warfare.

ＡＩが戦争において より重要に なっているのは明らかです

And based on the rate of progress in the AI field,

ＡＩ分野の進歩の スピードからすれば

I predict that in ten years, it will be the dominant force.

10年もすれば 主要な戦力になることでしょう

Disinformation and misinformation are already huge problems.

偽情報や誤情報は すでに大きな問題になっていますが

And this technology is only going to make it worse.

ＡＩはそれを さらに悪化させるでしょう

Tools like ChatGPT have enabled AI to generate imagery,

ChatGPTのようなツールは ＡＩの力により

画像や文章 音声 映像 プログラム 説明まで生成できます

text, audio, video, code and even reason.

These tools can generate realistic-looking and realistic-sounding content,

そういうツールは 本物のように見え 聞こえるコンテンツを生成でき

which on top of bot-run social media accounts

ボットが運用するソーシャル・メディア・ アカウントが加われば

will make it nearly impossible to identify disinformation

ネット上での偽情報や誤情報の識別が ほとんど不可能になるでしょう

and misinformation online.

ネット上での偽情報や誤情報の識別が ほとんど不可能になるでしょう

Bad actors can use these tools to supercharge misinformation

悪人たちはそういうツールを使い 誤情報を生み出し

and propagate falsehoods.

嘘を広めることができます

China already uses disinformation campaigns

中国は既に

偽情報拡散やソーシャルメディア操作を 台湾で大々的に行っており

and social media manipulations heavily in Taiwan,

particularly during elections.

選挙の際に特に 力を入れています

Or take Russia's propaganda machine,

ロシアのプロパガンダ機関は

which in the wake of Russia's invasion of Ukraine

ウクライナ侵攻時に

created a deepfake of Ukrainian President Zelensky

兵に降伏を呼びかける ゼレンスキー大統領の

calling for Ukrainian troops to surrender.

ディープフェイク動画を 作成しました

This deepfake was easy to spot,

このディープフェイクは 簡単に見分けられましたが

but the next one may not be.

次回はどうかわかりません

This also takes place within our borders,

これは国内でも 起きています

from social media algorithm manipulation

ソーシャル・メディア・ アルゴリズムの操作

to advertising microtargeting and geofencing,

広告でのマイクロ・ターゲティングや ジオフェンシングの利用

to deepfakes of politicians and bot-run social media accounts.

政治家のディープフェイク映像 中身がボットのソーシャル・メディア・アカウント

The United States is not excused

偽情報や誤情報を 悪化させている点では

from exacerbating disinformation and misinformation.

アメリカも 無罪ではありません

These tools are universally accessible at low or no cost,

これらのツールは 安価ないしは 無コストであまねく利用でき

meaning they can be employed by anyone anywhere

どこの誰だろうと

to undermine the sanctity of democracy globally.

世界の民主主義を損なう目的でも 使うことができます

However, all hope is not lost.

希望が全て失われた というわけではありません

If we properly invest

データ・インフラやデータ準備に 適切に投資するなら

into data infrastructure and data preparation,

データ・インフラやデータ準備に 適切に投資するなら

all this can be avoided.

避けうることなのです

Deterrence is nothing new to military thinking.

抑止は 軍事において 新しい考えではありません

As we saw in World War II with the atomic bomb,

第二次世界大戦で生まれた 原子爆弾は

it was a primary factor in deterring foreign adversaries

外敵が核戦争に踏み切るのを 60年以上にわたって抑止する上で

from going to nuclear war for more than six decades.

主要な力となっていました

Because the stakes of going to war with such a technology

そのような技術の元で 戦争に臨むのは

were simply too high.

あまりに危険だからです

We're likely to see a new calculus emerge with AI.

ＡＩによって新たな論理が生まれるのを 見ることになるでしょう

It's uncharted territory, nobody knows what it will look like

それが どんなものになり どれほどの犠牲を強いるのか

or the toll it will take.

誰もわからない 未知の領域です

How do we know if our AI is better than our adversaries'?

こちらのＡＩが 敵より優れていると どうしたらわかるでしょう？

We won't.

わかりはしません

But one thing is clear:

でも明らかなのは

AI can only be as powerful as the underlying data

ＡＩがどこまで強くなれるかは その下にあるデータ次第だということです

that is used to fuel its algorithms.

ＡＩがどこまで強くなれるかは その下にあるデータ次第だということです

Data will be a new kind of ammunition in the era of AI warfare.

データはＡＩ戦争の時代における 弾薬なのです

In the tech industry, we often talk about missions.

ハイテク業界では よくミッションを口にしますが

They're often frivolous.

浅薄なことが多いです

Do they really change the world or save lives?

彼らが本当に世界を変えたり 命を救ったりするのでしょうか？

This mission, on the other hand, really matters.

でも このミッションは 本当に重要です

The AI war will define the future of our world

ＡＩ戦争は世界の未来を決め

and has the potential to shift the balance of diplomatic power.

外交力のバランスを 変える可能性があります

It's clear that digital warfare

デジタル戦争が遠い未来のディストピアにしか 訪れないものでないのは確かです

is not some dystopian reality, tucked away in a faraway future.

デジタル戦争が遠い未来のディストピアにしか 訪れないものでないのは確かです

It is taking place in the here and now.

今 ここで 起きている ことなのです

We cannot sit by the sidelines

独裁体勢に覆われていくのを

and watch the rise of an authoritarian regime.

傍観者として 座して見ているわけにはいきません

It is in moments like this

このような時にこそ 科学技術者たる者は

that technologists can either rise to the challenge or stand idle.

挑戦のため立ち上がるのか 決めねばなりません

I encourage my fellow technologists

技術者仲間の皆さんには

to understand the austerity and severity of our times

今の時代の緊迫感と 重大さを認識し

and commit themselves to supporting national security.

安全保障のため協力するよう お勧めします

While I find it shocking that most American AI companies

アメリカのＡＩ企業の多くが 国家安全保障に協力しないのが

have chosen not to support national security,

私にはショックですが

I do hope others join us.

他の人たちが加わってくれることを 望みます

We must fight for the world we want to live in.

私たちが居たいと思う世界のために 戦わねばなりません

It's never mattered more.

それが今ほど重要なときは ありません

Thank you.

ありがとうございました

(Applause)

(拍手)