War, AI and the New Global Arms Race | Alexandr Wang | TED

Переводчик: Anastasiya Trubei Редактор: Natalia Savvidi

Artificial intelligence and warfare.

Искусственный интеллект и ведение войны.

Let's talk about what this really could look like.

Давайте посмотрим, как это может выглядеть в реальности.

Swarms of lethal drones with facial recognition

Множество дронов-камикадзе с системой распознавания лиц,

that know your every move.

которые в курсе каждого вашего шага.

Or unmanned armed robots that are near impossible to defeat.

Или неуязвимые беспилотные боевые роботы.

Autonomous fighter jets that can travel at supersonic speeds

Беспилотные реактивные истребители, способные развивать сверхзвуковую скорость

and can withstand greater gravitational force

и преодолевать силу гравитации, несовместимую с жизнью пилота.

than a human pilot could survive.

Cyberattacks that incapacitate critical port infrastructure

Кибератаки, которые выводят из строя ключевые порты,

or disinformation campaigns and deepfakes that throw presidential elections.

или дизинформация и поддельные новости, меняющие исход президентских выборов.

Or even foreign adversaries taking out satellites,

Или внешние враги, уничтожающие наши спутники,

our eyes and ears in space,

наши космические глаза и уши,

rendering us blind to global events.

лишая нас информации о происходящем в мире.

All superintelligent weapons of terror.

Все сверхразумные орудия террора.

We are at the dawn of a new age of warfare.

Мы находимся на рассвете новой эпохи способов ведения войны.

I grew up in the birthplace of a technology

Я вырос в месте, где зародилась атомная бомба,

that defined the last era of warfare,

технология, правившая предыдущей эпохой,

the atomic bomb.

I was keenly aware of how this technology had fundamentally shaped geopolitics

Я чётко осознавал, как эта технология определила геополитику

and the nature of war.

и природу войны.

My parents were both scientists at Los Alamos National Laboratory.

Мои родители были учёными в Лос-Аламосской национальной лаборатории.

My dad’s a physicist, and my mom’s an astrophysicist.

Отец занимался физикой, а мать — астрофизикой.

Their scientific work in plasma fluid dynamics

Их исследования магнитной гидродинамики

will have deep implications for how we understand our universe.

окажут значительное влияние на наше понимание Вселенной.

So naturally, I knew I wanted to work on something just as impactful.

Разумеется, я знал, что хочу заниматься чем-то таким же значимым.

I decided to become a programmer and study artificial intelligence.

Я решил стать программистом и изучать искусственный интеллект.

AI is one of the most critical technologies of our time

ИИ — одна из важнейших технологий нашего времени,

and with deep implications for national security

влияющая на государственную безопасность и демократию по всему миру.

and democracy globally.

As we saw in World War II with the atomic bomb,

Как показала Вторая мировая война в случае с атомной бомбой,

the country that is able to most rapidly and effectively

побеждает та страна, которая быстрее и эффективнее

integrate new technology into warfighting wins.

внедряет новою технологию в боевые действия.

There's no reason to believe this will be any different with AI.

Нет причин считать, что ИИ будет исключением.

But in the AI arms race, we're already behind.

Но в гонке вооружений в области ИИ мы уже отстаём.

From a technological perspective,

С точки зрения технологий Китай уже сегодня опережает США

China is already ahead of the United States

in computer vision AI.

в области компьютерного зрения.

And in large language models, like ChatGPT,

Так же стремительно в Китае внедряют языковые модели вроде ChatGPT.

they are fast followers.

In terms of military implementations,

На внедрение же ИИ в военное дело Китай выделяет гораздо больше средств:

they're outspending us:

adjusted for total military budget,

с учётом общих военных расходов Китай тратит в 10 раз больше, чем США.

China's spending ten times more than the United States.

Why are we so far behind?

Почему же мы так отстаём?

The answer is twofold.

На это есть две причины.

First, data supremacy.

Первая причина — владение информацией.

Despite having the largest fleet of military hardware in the world,

Несмотря на обладание самым большим количеством военной техники,

most of the data from this fleet is thrown away or inaccessible,

данные с этой техники либо удалены,

либо, спрятанные на жёстких дисках, недоступны.

hidden away on hard drives that never see the light of day.

This is our Achilles heel.

Это наша ахиллесова пята.

In an AI war, everything boils down to data.

В битве ИИ всё сводится к обладанию данными.

For defense AI,

Оборонному ИИ недостаточно данных из интернета.

data from the internet is not enough.

Most of the data needs to come from our military assets,

Большая часть информации должна поступать с военных объектов,

sensors and collaborations with tech companies.

сенсоров или в результате сотрудничества с технологическими компаниями.

Military commanders need to know how to use data as a military asset.

Военачальники должны уметь использовать данные как военное орудие.

I've heard this first-hand many times,

Я много раз слышал это лично в разговорах с военными,

from my conversations with military personnel,

including most recently

в том числе в недавнем разговоре

from Lieutenant General Richard R. Coffman,

с генерал-лейтенантом Ричардом Р. Коффманом,

deputy commanding general for United States Army Futures Command.

главой Командования перспективных разработок сухопутных войск США.

Second, despite being home to the leading technology companies

Вторая причина: несмотря на то, что США — родина многих компаний,

at the forefront of artificial intelligence,

лидирующих в области ИИ,

the US tech industry has largely shied away

эти компании не стремятся брать государственные заказы.

from taking on government contracts.

Somewhere along the line,

В какой-то момент лидеры компаний решили,

tech leaders decided that working with the government was taboo.

что сотрудничество с правительством — табу.

As a technologist,

Меня, как специалиста в области технологий,

I'm often asked how I'm bettering this world.

часто спрашивают, как я делаю мир лучше.

This is how I'm improving the future of our world:

Я забочусь о будущем мира, помогая моей стране преуспеть,

by helping my country succeed

разрабатывая лучшие инструменты и технологии,

and providing the best tools and technology

to ensure that the United States government can defend its citizens,

чтобы правительство США могло защитить своих граждан,

allies and partners.

союзников и партнёров.

(Applause)

(Аплодисменты)

The Ukraine war has demonstrated that the nature of war has changed.

Война в Украине показала, что природа войны изменилась.

Through AI overmatch, Ukraine is challenging an adversary

Благодаря превосходству в ИИ Украина противостоит врагу,

with far superior numbers of troops and weapons.

на стороне которого большее количество воиск и оружия.

Before the Ukraine war,

До войны в Украине

Russia had spent an estimated 65 billion US dollars

Россия выделяла около 65 миллиардов долларов США

on its military expenditures,

на военные расходы,

whereas Ukraine only spent about six billion dollars.

в то время как военный бюджет Украины составлял около 6 миллиардов.

It's estimated that Russia had over 900,000 military troops

По оценкам, численность российской армии составляет более 900 000 человек,

and 1,300 aircraft,

а авиации — 1 300 единиц,

whereas Ukraine only had 200,000 military troops and 130 aircraft.

численность же украинской армии составляет 200 000 человек, авиации — 130 единиц.

Technologies such as drones,

Такие технологии, как дроны,

AI-based targeting and image intelligence

прицелы на базе ИИ, видовая разведка и противотанковые комплексы «Джавелин»

and Javelin missiles

have enabled a shocking defense of Ukraine.

обеспечили мощную защиту Украине.

AI is proving invaluable for defending Ukrainian cities and infrastructure

Роль ИИ в защите украинских городов и инфраструктуры

against missile and drone bombardment.

от ракетных обстрелов и атак дронов оказывается неоценимой.

At Scale, we’re using our novel machine learning algorithm

В нашей компании Scale мы применяем новейший алгоритм машинного обучения

for battle damage assessment in key areas affected by the war.

для оценки ущерба в местах, наиболее пострадавших от войны.

We've rapidly analyzed over 2,000 square kilometers

Мы оперативно проанализировали около 2 000 кв. км

and have identified over 370,000 structures,

и опознали более 370 000 структур, включая тысячи ранее не опознанных

including thousands not previously identified

by other open source data sets.

в других базах данных с открытым доступом.

We focused on Kyiv, Kharkiv and Dnipro

Мы сосредоточились на Киеве, Харькове и Днепре

and provided our data directly

и при помощи базы данных с открытым доступом

in a publicly accessible data set to the broader AI community.

предоставили данные другим командам, занимающимся ИИ.

One of the key problems we're solving

Одна из наших главных задач — это использование ИИ

is using AI to analyze massive amounts of imagery and detect objects

для анализа большого числа изображений и обнаружения объектов,

because humans just can't keep up.

потому что человек уступает в этом ИИ.

We've received an overwhelming response from our free AI-ready data set

Наша бесплатная база данных получила широкий отклик.

and have provided it directly to the United States and NATO allies.

Мы предоставили её непосредственно США и союзникам НАТО.

And it's been downloaded over 2,000 times by AI companies, researchers,

Более 2 000 раз база данных была скачана компаниями из сферы ИИ, исследователями,

разработчиками и специалистами в области создания геоинформационных систем.

developers and GIS practitioners.

AI can also be used for change detection.

ИИ также подходит для обнаружения изменений.

Simply put, algorithms can constantly monitor imagery

Алгоритмы постоянно отслеживают изображения

and notify a human to investigate further if there's a change or a movement.

и сигнализируют о необходимости проверки, если было замечено изменение или движение.

It's clear that AI is increasingly powering warfare.

Совершенно очевидно, что ИИ — мощное орудие войны.

And based on the rate of progress in the AI field,

И, судя по темпам развития в области ИИ,

I predict that in ten years, it will be the dominant force.

по моим прогнозам, через 10 лет ИИ станет господствующей силой.

Disinformation and misinformation are already huge problems.

Распространение ложной информации уже сегодня является большой проблемой.

And this technology is only going to make it worse.

И технологии ИИ только ухудшат ситуацию.

Tools like ChatGPT have enabled AI to generate imagery,

Инструменты вроде ChatGPT позволили ИИ генерировать изображения,

text, audio, video, code and even reason.

текст, аудио, видео, код и даже доводы.

These tools can generate realistic-looking and realistic-sounding content,

Эти инструменты способны создавать реалистичный контент,

which on top of bot-run social media accounts

который в сочетании с аккаунтами-ботами

will make it nearly impossible to identify disinformation

сделает практически невозможным распознавание ложной информации онлайн.

and misinformation online.

Bad actors can use these tools to supercharge misinformation

Злоумышленники смогут воспользоваться этим,

чтобы дезинформировать и распространять ложную информацию.

and propagate falsehoods.

China already uses disinformation campaigns

Китай уже сейчас полагается на распространение дезинформации

and social media manipulations heavily in Taiwan,

и манипуляции в социальных сетях в Тайване,

particularly during elections.

особенно во время выборов.

Or take Russia's propaganda machine,

Другой пример — российская машина пропаганды,

which in the wake of Russia's invasion of Ukraine

которая после нападения России на Украину

про помощи ИИ создала видео, в котором президент Украины Зеленский

created a deepfake of Ukrainian President Zelensky

calling for Ukrainian troops to surrender.

призывает украинские воиска сдаваться.

This deepfake was easy to spot,

Эту ложь было легко разоблачить,

but the next one may not be.

однако следующая может оказаться не такой очевидной.

This also takes place within our borders,

Подобное происходит и в нашей стране:

from social media algorithm manipulation

манипуляции с алгоритмами социальных сетей,

to advertising microtargeting and geofencing,

микротаргетинг рекламных объявлений, геозонирование,

to deepfakes of politicians and bot-run social media accounts.

поддельные материалы с политиками, управляемые ботами социальные сети.

The United States is not excused

В распространении ложной информации есть и вина США.

from exacerbating disinformation and misinformation.

These tools are universally accessible at low or no cost,

Эти инструменты доступны каждому бесплатно или за небольшую плату,

meaning they can be employed by anyone anywhere

то есть они могут использоваться кем угодно и где угодно,

to undermine the sanctity of democracy globally.

чтобы подрывать демократию во всём мире.

However, all hope is not lost.

Но надежда на лучшее ещё жива.

If we properly invest

Если мы будем правильно инвестировать

into data infrastructure and data preparation,

в развитие инфраструктуры и подготовки данных,

all this can be avoided.

подобных последствий можно избежать.

Deterrence is nothing new to military thinking.

Устрашение — давно известный в военной сфере метод.

As we saw in World War II with the atomic bomb,

Например, во время Второй мировой войны

it was a primary factor in deterring foreign adversaries

атомная бомба стала главным фактором, который более 60 лет

from going to nuclear war for more than six decades.

сдерживал государства от развязывания ядерной войны.

Because the stakes of going to war with such a technology

Потому что цена войны с применением подобной технологии

were simply too high.

была слишком высока.

We're likely to see a new calculus emerge with AI.

Вероятно, с развитием ИИ появятся новые планы.

It's uncharted territory, nobody knows what it will look like

Это неизведанная территория.

or the toll it will take.

Неизвестно, как она будет развиваться и какую цену придётся заплатить.

How do we know if our AI is better than our adversaries'?

Будет ли наш ИИ лучше, чем ИИ противников?

We won't.

Мы не можем знать ответа на этот вопрос.

But one thing is clear:

Но одно мы знаем точно:

AI can only be as powerful as the underlying data

возможности ИИ напрямую зависят от данных,

that is used to fuel its algorithms.

используемых для работы его алгоритмов.

Data will be a new kind of ammunition in the era of AI warfare.

Данные станут новым оружием в эпоху войны ИИ.

In the tech industry, we often talk about missions.

В индустрии высоких технологий мы нередко обсуждаем миссии.

They're often frivolous.

Часто они легкомысленны.

Do they really change the world or save lives?

Действительно ли они меняют мир или спасают жизни?

This mission, on the other hand, really matters.

Эта же миссия на самом деле имеет значение.

The AI war will define the future of our world

Война ИИ определяет будущее мира

and has the potential to shift the balance of diplomatic power.

и обладает потенциалом сдвинуть баланс сил.

It's clear that digital warfare

Очевидно, что цифровая война —

is not some dystopian reality, tucked away in a faraway future.

это не антиутопическая реальность далёкого будущего.

It is taking place in the here and now.

Она происходит здесь и сейчас.

We cannot sit by the sidelines

Мы не можем оставаться в стороне и наблюдать подъём авторитарного режима.

and watch the rise of an authoritarian regime.

It is in moments like this

В такие моменты

that technologists can either rise to the challenge or stand idle.

ИТ-специалисты могут либо принять вызов, либо бездействовать.

I encourage my fellow technologists

Я призываю моих коллег осознать серьёзность нынешней ситуации

to understand the austerity and severity of our times

and commit themselves to supporting national security.

и посвятить себя поддержанию государственной безопасности.

While I find it shocking that most American AI companies

И хотя я шокирован тем, что большинство американских компаний в сфере ИИ

have chosen not to support national security,

решили отстраниться от проблемы госбезопасности,

I do hope others join us.

надеюсь, остальные присоединятся к нам.

We must fight for the world we want to live in.

Мы должны бороться за мир, в котором хотим жить.

It's never mattered more.

Это важно, как никогда раньше.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)