Military robots and the future of war | P.W. Singer

P.W. Singer ile Askeri Robotlar ve Savaşların Geleceği Üzerine

233,615 views

2009-04-03 ・ TED


New videos

Military robots and the future of war | P.W. Singer

P.W. Singer ile Askeri Robotlar ve Savaşların Geleceği Üzerine

233,615 views ・ 2009-04-03

TED


Videoyu oynatmak için lütfen aşağıdaki İngilizce altyazılara çift tıklayınız.

Çeviri: Çağrı Mert Bakırcı Gözden geçirme: osman oguz ahsen
00:13
I thought I'd begin with a scene of war.
0
13160
2000
Şu anda yapacağımız şey şu:
00:15
There was little to warn of the danger ahead.
1
15160
2000
Size şu anda savaşlarda kullanılmakta olan
00:17
The Iraqi insurgent had placed the IED,
2
17160
2000
ya da prototip aşamasında olan robotların
00:19
an Improvised Explosive Device,
3
19160
3000
savaşların gerçekliğini nasıl değiştirdiğini gösteren bir dizi fotoğraf göstereceğim.
00:22
along the side of the road with great care.
4
22160
2000
Bu sadece size biraz tat vermek için.
00:24
By 2006, there were more than 2,500
5
24160
4000
Bunu söylemenin bir başka yolu; şu anda görecekleriniz Vulcan teknolojisi ile (ÇN: Star Trek'e gönderme yapıyor)
00:28
of these attacks every single month,
6
28160
3000
gençlerin büyücülük hormonlarıyla ve başka bir şeyle alakası olmadığıdır;
00:31
and they were the leading cause of
7
31160
2000
burada göreceğiniz her şey gerçektir.
00:33
casualties among American soldiers
8
33160
2000
O zaman başlayalım ve size fotoğrafları göstereyim.
00:35
and Iraqi civilians.
9
35160
2000
Günümüzde savaşlarda büyük bir şeyler oluyor
00:37
The team that was hunting for this IED
10
37160
2000
ve belki de insanlık tarihinde de bu oluyor.
00:39
is called an EOD team—
11
39160
2000
Amerikan Ordusu, Irak'a girdiğinde
00:41
Explosives Ordinance Disposal—and
12
41160
2000
elimizde bir avuç olan insansız hava araçlarından
00:43
they're the pointy end of the spear in the
13
43160
2000
şu anda 5.300 adede sahibiz.
00:45
American effort to suppress these roadside bombs.
14
45160
3000
Oraya insansız kara araçlarımız olmadan gittik
00:48
Each EOD team goes out on about
15
48160
2000
ve şu anda 12.000 adede sahibiz.
00:50
600 of these bomb calls every year,
16
50160
2000
Ve teknik bir terim olan "öldürücü uygulamalar"
00:52
defusing about two bombs a day.
17
52160
3000
bu uzayda yeni bir anlam kazanıyor.
00:55
Perhaps the best sign of how valuable they
18
55160
2000
Unutmamamız gerekir ki bahsettiklerimiz
00:57
are to the war effort, is that
19
57160
2000
yakında yeni model olarak geleceklere kıyasla
00:59
the Iraqi insurgents put a $50,000 bounty
20
59160
2000
Model T4'ler ve Wright kardeşlerin uçakları gibi kalır.
01:01
on the head of a single EOD soldier.
21
61160
3000
Bu, şu anda olduğumuz noktadır.
01:04
Unfortunately, this particular call
22
64160
2000
Yeni tanıştığım insanlardan biri Hava Kuvvetleri'nde 3 yıldızlı bir generaldi
01:06
would not end well.
23
66160
2000
ve bana dedi ki: "Şu anda daha yeni yola koyulduk ancak çok yakın zamanda,
01:08
By the time the soldier advanced close
24
68160
2000
on binlerce robot, cephelerimizde görev alacaktır."
01:10
enough to see the telltale wires
25
70160
2000
Bu sayılar önemlidir çünkü sadece günümüzdeki
01:12
of the bomb, it exploded in a wave of flame.
26
72160
3000
on binlerce robottan bahsetmiyoruz;
01:15
Now, depending how close you are
27
75160
2000
bunun üzerine elimizde olan on binlerce prototipi ve geleceğin robotlarınıd a eklemeliyiz.
01:17
and how much explosive has been packed
28
77160
2000
Çünkü elbette ki, teknolojide işleyen Moore Kuralı'na göre
01:19
into that bomb, it can cause death
29
79160
2000
bu robotlara sürekli daha fazla güç ekleyebilirsiniz.
01:21
or injury. You have to be as far as
30
81160
2000
Öyleyse 25 yıl sonrasını hayal edin;
01:23
50 yards away to escape that.
31
83160
2000
eğer Moore Kuralı doğruysa bu robotlar
01:25
The blast is so strong it can even break
32
85160
2000
günümüzdekilerden yaklaşık 1 milyar kat daha güçlü
01:27
your limbs, even if you're not hit.
33
87160
2000
bilgi işleme gücüne sahip olacaklardır.
01:29
That soldier had been on top of the bomb.
34
89160
2000
Bu da demek oluyor ki, bizlerin Comicon'da (ÇN: Bir çizgi roman fuarı)
01:31
And so when the rest of the team advanced
35
91160
3000
konuştuğu güç tapınakları hikayeleri
01:34
they found little left. And that night the unit's
36
94160
2000
Pentagon gibi yerlerde
01:36
commander did a sad duty, and he wrote
37
96160
2000
konuşulmaya başlanacaktır.
01:38
a condolence letter back to the United
38
98160
2000
Bir robot, bizim için bir devrimdir.
01:40
States, and he talked about how hard the
39
100160
2000
Bu noktada açık olmam gerekiyor.
01:42
loss had been on his unit, about the fact
40
102160
2000
Burada, California valisinin bir gün kapınızda birden
01:44
that they had lost their bravest soldier,
41
104160
2000
Terminatör olarak belirmesinden bahsetmiyorum. (ÇN: Arnold Schwarzenegger'den bahsediyor)
01:46
a soldier who had saved their lives
42
106160
2000
Gelecekte tarihçiler bu zaman dilimine baktıklarında
01:48
many a time.
43
108160
2000
değişik bir tip devrimde olduğumuzu görecekler,
01:50
And he apologized
44
110160
2000
bir savaş devriminde,
01:52
for not being able to bring them home.
45
112160
2000
tıplı atom bombasının icadında olduğu gibi.
01:54
But then he talked up the silver lining
46
114160
2000
Fakat belki de bundan çok daha büyük bir şey olacak çünkü
01:56
that he took away from the loss.
47
116160
2000
bizlerin insansız sistemleri sadece savaşın "nasıl" olduğunu değil
01:58
"At least," as he wrote, "when a robot dies,
48
118160
2000
aynı zamanda en temelde savaşta "kimin" savaşacağını da etkileyecektir.
02:00
you don't have to write a letter
49
120160
2000
Diğer bir deyişle, savaş konusunda tüm gerçekleşmiş devrimlerde,
02:02
to its mother."
50
122160
2000
gerek makinalı tüfekte, gerek atom bombasında,
02:04
That scene sounds like science fiction,
51
124160
2000
ulaşılmaya çalışılan şeyler
02:06
but is battlefield reality already.
52
126160
2000
hızlı vurmak, daha uzağa gitmek,
02:08
The soldier in that case
53
128160
3000
daha büyük bir patlama yapabilmek idi
02:11
was a 42-pound robot called a PackBot.
54
131160
3000
ki bunlar robotik için de geçerlidir.
02:14
The chief's letter went, not to some
55
134160
3000
Fakat bunlar aynı zamanda savaşçıların savaş deneyimini
02:17
farmhouse in Iowa like you see
56
137160
2000
ve hatta savaşçının kimliğini bile değiştirdiler.
02:19
in the old war movies, but went to
57
139160
3000
Bunu bir diğer değişle söylersek, insanların
02:22
the iRobot Company, which is
58
142160
2000
5.000 yıldır tekeline almaya çalıştıkları savaş
02:24
named after the Asimov novel
59
144160
3000
günümüzde çökmeye başlamaktadır.
02:27
and the not-so-great Will Smith movie,
60
147160
2000
Son birkaç yılımı
02:29
and... um... (Laughter)...
61
149160
2000
bu alada çalışan robotik araştırmacılarından
02:31
if you remember that
62
151160
2000
onları etkileyen bilim kurgu yazarlarına,
02:33
in that fictional world, robots started out
63
153160
2000
Nevada'da 19 yaşında savaşan insansız hava aracı pilotlarından
02:35
carrying out mundane chores, and then
64
155160
2000
onlara komuta eden 4 yıldızlı generallere,
02:37
they started taking on life-and-death decisions.
65
157160
2000
ve hatta tüm bunların hedefi olan Iraklı askerlere kadar
02:39
That's a reality we face today.
66
159160
2000
sistemlerimiz hakkında ne düşündüklerini sormakla geçirdim.
02:41
What we're going to do is actually just
67
161160
2000
İlginç bulduğum sadece hayat hikayeleri değil,
02:43
flash a series of photos behind me that
68
163160
2000
bu sistemlerin bir dalgalanma etkisiyle nasıl
02:45
show you the reality of robots used in war
69
165160
3000
toplumun içerisine, yasalarımıza
02:48
right now or already at the prototype stage.
70
168160
2000
etiğimize vb. konulara yayıldığı oldu.
02:50
It's just to give you a taste.
71
170160
3000
Geri kalan zamanımı basitçe
02:53
Another way of putting it is you're not
72
173160
2000
bunların bazılarını açıklamak için kullanacağım.
02:55
going to see anything that's powered
73
175160
2000
Şimdi, ilk olarak söylemek istediğim şey, gelecekte olan bir savaş,
02:57
by Vulcan technology, or teenage
74
177160
2000
hatta olabilecek robotik bir savaş bile, sadece Amerika'dan kaynaklı olmayacaktır.
02:59
wizard hormones or anything like that.
75
179160
2000
Şu anda A.B.D. askeri robotik konusunda ilerdedir,
03:01
This is all real. So why don't we
76
181160
2000
fakat biliyoruz ki teknolojide
03:03
go ahead and start those pictures.
77
183160
2000
önden başlama avantajı diye bir şey yoktur.
03:05
Something big is going on in war today,
78
185160
2000
Hızlıca el kaldırabilir miyiz, şu anda bu odadaki kaç kişi
03:07
and maybe even the history of humanity
79
187160
2000
hala Wang bilgisayarlarından kullanıyor?
03:09
itself. The U.S. military went into Iraq with
80
189160
3000
Bu savaşta da aynı şekildedir.
03:12
a handful of drones in the air.
81
192160
2000
İngiliz ve Fransızlar tankı icat etti,
03:14
We now have 5,300.
82
194160
3000
Almanlar onu nasıl doğru kullanacağını buldu.
03:17
We went in with zero unmanned ground
83
197160
2000
Ve dolayısıyla şu anda A.B.D. için düşünmemiz gereken
03:19
systems. We now have 12,000.
84
199160
4000
şu anda ileride olsak da,
03:23
And the tech term "killer application"
85
203160
2000
oralarda bir yerlerde 43 diğer ülkenin de
03:25
takes on new meaning in this space.
86
205160
3000
askeri robotik konusunda çalıştığını
03:28
And we need to remember that we're
87
208160
2000
ve bunların arasında Rusya, Çin, Pakistan ve İran gibi
03:30
talking about the Model T Fords,
88
210160
2000
ilginç ülkelerin de bulunduğudur.
03:32
the Wright Flyers, compared
89
212160
2000
Ve bu benim için daha büyük bir endişe yaratmaktadır.
03:34
to what's coming soon.
90
214160
2000
Bu devrimde, elimizdeki üretim teknolojisini
03:36
That's where we're at right now.
91
216160
2000
ve okullarımızdaki bilim ve matematik eğitimini de göze alarak
03:38
One of the people that I recently met with
92
218160
2000
nasıl daha ileriye gidebiliriz?
03:40
was an Air Force three-star general, and he
93
220160
2000
Bunu düşünmenin bir başka yolu da,
03:42
said basically, where we're headed very
94
222160
2000
donanımı Çin'de ve yazılımı Hindistan'da yapıldıktan sonra
03:44
soon is tens of thousands of robots
95
224160
2000
asker sayılarımızı arttırarak
03:46
operating in our conflicts, and these
96
226160
2000
savaşa girmenin anlamı nedir?
03:48
numbers matter, because we're not just
97
228160
2000
Fakat yazılımların açık kaynağa geçmesiyle
03:50
talking about tens of thousands of today's
98
230160
2000
savaşlar da geçmiştir.
03:52
robots, but tens of thousands of these
99
232160
2000
Uçak gemisi ya da atom bombasının aksine,
03:54
prototypes and tomorrow's robots, because
100
234160
2000
robot yapmak için devasa bir üretim sistemine ihtiyaç duymazsınız;
03:56
of course, one of the things that's operating
101
236160
3000
pek çok malzemesi sadece raflarda durur
03:59
in technology is Moore's Law,
102
239160
2000
ve bir çoğunu da kendi ellerinizle yaparsınız.
04:01
that you can pack in more and more
103
241160
2000
Az önce geçen fotoğraflardan biri Raven insansız aracı idi
04:03
computing power into those robots, and so
104
243160
2000
ve elle yapıldı. Sadece 1.000 dolar harcayarak
04:05
flash forward around 25 years,
105
245160
2000
siz de kendinize bir tane yapabilirsiniz,
04:07
if Moore's Law holds true,
106
247160
2000
hem de Irak'taki askerlerin kullandığıyla aynı olan bir tane!
04:09
those robots will be close to a billion times
107
249160
3000
İşte burada bir sorun ortaya çıkmaktadır:
04:12
more powerful in their computing than today.
108
252160
3000
iyi insanlar sadece oynamak amacıyla ve hobi olarak bunlara ulaşabilirler,
04:15
And so what that means is the kind of
109
255160
2000
ama aynı şekilde kötü insanlar da...
04:17
things that we used to only talk about at
110
257160
2000
Robotik ve terörizm gibi kavramların çelişkisi
04:19
science fiction conventions like Comic-Con
111
259160
2000
gittikçe ilginç ve rahatsız edici bir hal almaktadır.
04:21
have to be talked about in the halls
112
261160
2000
Bunun başladığını çoktan gördük.
04:23
of power and places like the Pentagon.
113
263160
2000
Bir ülke olan İsrail ile
04:25
A robots revolution is upon us.
114
265160
3000
ülke olmayan Hizbullah arasındaki savaşta,
04:28
Now, I need to be clear here.
115
268160
2000
ülke olmayan, İsrail'e karşı 4 farklı insansız araç kullandı.
04:30
I'm not talking about a revolution where you
116
270160
2000
Şu anda Irak'ta bulunan IED'ye
04:32
have to worry about the Governor of
117
272160
2000
oturduğunuz bilgisayardan para bağışı yapabileceğiniz
04:34
California showing up at your door,
118
274160
2000
bir cihadi site bulunuyor.
04:36
a la the Terminator. (Laughter)
119
276160
2000
Ve dolayısıyla, bu konuda 2 farklı akım göreceğiz diye düşünüyorum.
04:38
When historians look at this period, they're
120
278160
2000
İlki, bireylerin devletlere karşı olan
04:40
going to conclude that we're in a different
121
280160
2000
güçlerini destekleyeceksiniz.
04:42
type of revolution: a revolution in war,
122
282160
2000
İkincisi ise,
04:44
like the invention of the atomic bomb.
123
284160
2000
terörizm gerçeğinde bir artış göreceğiz.
04:46
But it may be even bigger than that,
124
286160
2000
Geleceğimiz, El Kaide'nin 2.0 sürümü ile,
04:48
because our unmanned systems don't just
125
288160
2000
gelecek nesil bir Unabomber arasında olabilir.
04:50
affect the "how" of war-fighting,
126
290160
2000
Bunu düşünmenin bir diğer yolu da, unutmamalıyız ki
04:52
they affect the "who" of fighting
127
292160
2000
bir robotun kendisini havaya uçurmasını sağlamak için
04:54
at its most fundamental level.
128
294160
2000
onu ölümünden sonra 72 adet bakireye sahip olacağına dair
04:56
That is, every previous revolution in war, be
129
296160
2000
ikna etmek zorunda değilsinizdir.
04:58
it the machine gun, be it the atomic bomb,
130
298160
2000
Fakat dalga etkisiyle bu durum politikaya da sıçrayacaktır.
05:00
was about a system that either shot faster,
131
300160
3000
Yeni tanıştığım insanlardan biri, Ronald Reagen döneminde görevli olan bir
05:03
went further, had a bigger boom.
132
303160
3000
Savunma Müsteşarlığı Yardımcı Sekreteri idi. O, durumu şöyle anlattı:
05:06
That's certainly the case with robotics, but
133
306160
3000
"Bu sistemleri seviyorum, çünkü Amerikalıların hayatlarını kurtarıyor,
05:09
they also change the experience of the warrior
134
309160
3000
fakat endişe duyduğum şey savaşların bir piyasa haline gelmesi,
05:12
and even the very identity of the warrior.
135
312160
3000
ve savaşların maliyetlerini karşılamak için daha fazla şok ve hayranlık konuşması yapmamız gerekeceği.
05:15
Another way of putting this is that
136
315160
3000
İnsanlar bunun ücretsiz olduğunu gördükçe,
05:18
mankind's 5,000-year-old monopoly
137
318160
2000
gücü desteklemeye eğilim göstereceklerdir."
05:20
on the fighting of war is breaking down
138
320160
3000
Robotlar şimdiden temel politikamızda
05:23
in our very lifetime. I've spent
139
323160
2000
yer almaya başlamışlardır
05:25
the last several years going around
140
325160
2000
ve gelecekte mantıksal bir sona da götüreceklerdir.
05:27
meeting with all the players in this field,
141
327160
2000
Artık gemimizi batıran çatlaklarımız olmayacak.
05:29
from the robot scientists to the science
142
329160
2000
Savaş ilanlarımız olmayacak.
05:31
fiction authors who inspired them to the
143
331160
2000
Savaş için senetler almayacağız artık.
05:33
19-year-old drone pilots who are fighting
144
333160
2000
Ve şimdi şu gerçekle karşı karşıyayız: Canları yanabilecek
05:35
from Nevada, to the four-star generals
145
335160
2000
Amerikan askerlerini durmadan makinalara dönüştüreceğiz
05:37
who command them, to even the Iraqi
146
337160
2000
ve böylelikle
05:39
insurgents who they are targeting and what
147
339160
2000
savaşlarda gittikçe alçalmakta olan yükseklik sınırını
05:41
they think about our systems, and
148
341160
2000
yer düzeyine kadar indirebileceğiz.
05:43
what I found interesting is not just
149
343160
2000
Geleceğin savaşı bir YouTube savaşı olacak.
05:45
their stories, but how their experiences
150
345160
2000
Bu şu demek: Teknolojilerimiz sadece insanları riskten kurtarmıyor,
05:47
point to these ripple effects that are going
151
347160
2000
aynı zamanda gördükleri her şeyi kaydediyorlar.
05:49
outwards in our society, in our law
152
349160
2000
Böylece halkı savaştan koparmayacaklar
05:51
and our ethics, etc. And so what I'd like
153
351160
2000
ve insanların savaşla olan ilişkilerini şekillendirecekler.
05:53
to do with my remaining time is basically
154
353160
2000
Şu anda bile YouTube'da birkaç bin tane
05:55
flesh out a couple of these.
155
355160
2000
Irak Savaşı görüntüsü bulunmakta ve bunların çoğu
05:57
So the first is that the future of war,
156
357160
2000
insansız araçlarca kaydedildi.
05:59
even a robotics one, is not going to be
157
359160
2000
Bu iyi bir şey olabilir, şimdiye kadar hiç olmadığı şekilde, evlerimiz ile
06:01
purely an American one.
158
361160
2000
savaş alanını birbirine bağlayabilir.
06:03
The U.S. is currently ahead in military
159
363160
2000
Fakat unutmayın ki bu bizim ilginç garip dünyamızda
06:05
robotics right now, but we know that in
160
365160
2000
olacaktır ve
06:07
technology there's no such thing as
161
367160
2000
kaçınılmaz olarak bu görüntüleri
06:09
a permanent first move or advantage.
162
369160
3000
iPod'unuza ya da Zune'unuza indirebileceksiniz.
06:12
In a quick show of hands, how many
163
372160
2000
Ve bu da, savaşı bir eğlence aracı haline getirecek.
06:14
people in this room still use
164
374160
2000
Askerler buna kendi aralarında bir isim vermişler:
06:16
Wang Computers? (Laughter)
165
376160
2000
"Savaş pornosu" diyorlar buna.
06:18
It's the same thing in war. The British and
166
378160
2000
Tipik bir örneği, bana da gönderilen
06:20
the French invented the tank.
167
380160
3000
ve görüntüde bir avcı uçağının füzelerle
06:23
The Germans figured out how
168
383160
2000
düşman bölgesini vurduğu
06:25
to use it right, and so what we have to
169
385160
2000
ve saçılan bedenlerin gözüktüğü görüntüdür.
06:27
think about for the U.S. is that we are
170
387160
2000
Görüntüye bir de müzik eklenmişti;
06:29
ahead right now, but you have
171
389160
2000
Sugar Ray'e ait bir pop şarkısı olan
06:31
43 other countries out there
172
391160
2000
"I Just Want to Fly" (ÇN: Sadece Uçmak İstiyorum) idi.
06:33
working on military robotics, and they
173
393160
2000
Bu daha fazla izleme
06:35
include all the interesting countries like
174
395160
2000
ama daha az deneyimleme,
06:37
Russia, China, Pakistan, Iran.
175
397160
3000
halkın savaşla olan ilişkisini bozacaktır.
06:40
And this raises a bigger worry for me.
176
400160
3000
Ben bunu spora benzetiyorum.
06:43
How do we move forward in this revolution
177
403160
2000
Bu aynen oyuncuların ekranda küçücük göründükleri
06:45
given the state of our manufacturing
178
405160
2000
profesyonel bir basketbol maçı olan bir NBA maçını
06:47
and the state of our science and
179
407160
2000
televizyonda izlemeye benziyor.
06:49
mathematics training in our schools?
180
409160
2000
Ve o basketbol maçında, şahsen bulunmak
06:51
Or another way of thinking about this is,
181
411160
2000
ve 7 feet (2 metre) uzunluktaki birinin nasıl göründüğünü hissetmek farklıdır.
06:53
what does it mean to go to war increasingly
182
413160
2000
Fakat unutmamız gerekir ki, bunlar sadece görüntülerdir,
06:55
with soldiers whose hardware is made
183
415160
3000
bunlar sadece gerçeklerin, ESPN spor kanalının bakış açısı ve kameralarından gördüklerimizdir.
06:58
in China and software is written in India?
184
418160
5000
Arka planı yok ederler, stratejiyi yok ederler,
07:03
But just as software has gone open-source,
185
423160
3000
insanlığı yok ederler; savaş sadece smaçlar ve akıllı bombalar halini almıştır.
07:06
so has warfare.
186
426160
2000
Şimdi, ironu şuradadır ki;
07:08
Unlike an aircraft carrier or an atomic bomb,
187
428160
3000
her ne kadar geleceğin savaşlarında hep daha fazla makinalar kullanılacak olsa da,
07:11
you don't need a massive manufacturing
188
431160
2000
bizi bütün bunlara iten şey insan psikolojisidir,
07:13
system to build robotics. A lot of it is
189
433160
2000
bizi bu savaşlara önderlik ettiren, insani duygularımızdır.
07:15
off the shelf. A lot of it's even do-it-yourself.
190
435160
2000
Bunun siyaset alanında derin etki yaratan bir örneği
07:17
One of those things you just saw flashed
191
437160
2000
radikal gruplara karşı sürdürdüğümüz
07:19
before you was a raven drone, the handheld
192
439160
2000
akıl savaşlarında bunların nasıl işlediğidir.
07:21
tossed one. For about a thousand dollars,
193
441160
2000
Bu makinalar aracılığıyla
07:23
you can build one yourself, equivalent to
194
443160
2000
ne mesaj gönderdiğimiz ve bu makinalar aracılığıyla
07:25
what the soldiers use in Iraq.
195
445160
2000
ne mesajlar aldığımızdır.
07:27
That raises another wrinkle when it comes
196
447160
2000
Tanıştığım insanlardan biri, Bush yönetimiyle çalışan biriydi
07:29
to war and conflict. Good guys might play
197
449160
2000
ve bizim savaşı insansızlaştırmamızla ilgili şunlar söyledi:
07:31
around and work on these as hobby kits,
198
451160
2000
"Bu, bizim gücümüze oynuyor.
07:33
but so might bad guys.
199
453160
2000
İnsanları korkutan şey, bizim teknolojimiz."
07:35
This cross between robotics and things like
200
455160
2000
Fakat gidip de öte yandaki bir insanla konuştuğunuzda, örneğin bir Lübnanlı ile,
07:37
terrorism is going to be fascinating
201
457160
2000
hikayenin tamamen farklı olduğunu görürsünüz. Lübnan'da tanıştığım insanlardan biri
07:39
and even disturbing,
202
459160
2000
bir haber editörü idi ve üzerinden geçen bir insansız araçtan bahsediyorduk.
07:41
and we've already seen it start.
203
461160
2000
Bana söylediği şey şuydu:
07:43
During the war between Israel, a state,
204
463160
2000
"Bu sadece, korkaklılarından dolayı bizimle savaşmak üzere makinalar gönderen
07:45
and Hezbollah, a non-state actor,
205
465160
3000
soğuk kalpli ve vahşi İsraillilerin ve Amerikalıların
07:48
the non-state actor flew
206
468160
2000
diğer bir işaretidir.
07:50
four different drones against Israel.
207
470160
2000
Bizimle gerçek bir erkek gibi savaşmak istemezler, çünkü savaşmaktan korkarlar.
07:52
There's already a jihadi website
208
472160
2000
Dolayısıyla yenmemiz için onların sadece birkaç askerini
07:54
that you can go on and remotely
209
474160
2000
öldürmemiz yeterlidir."
07:56
detonate an IED in Iraq while sitting
210
476160
2000
Savaşların geleceğinde, yeni tip bir savaçşının yıldızı parlayacaktır.
07:58
at your home computer.
211
478160
2000
Ve bu aslında savaş deneyimini yeniden tanımlayacaktır,
08:00
And so I think what we're going to see is
212
480160
2000
buna "hücre savaşçısı" diyebilirsiniz.
08:02
two trends take place with this.
213
482160
2000
Bu, bir insansız avcı aracı pilotunun
08:04
First is, you're going to reinforce the power
214
484160
2000
Irak savaşındaki deneyimini anlatmak için kullandığı tanımlamadır;
08:06
of individuals against governments,
215
486160
4000
Nevada'dan hiç ayrılmadığı halde, şöyle demiştir:
08:10
but then the second is that
216
490160
2000
"Savaşmak için 12 saat boyunca yol gidersiniz,
08:12
we are going to see an expansion
217
492160
2000
silahlarınızla hedefleri vurursunuz, düşmanları öldürürsünüz,
08:14
in the realm of terrorism.
218
494160
2000
ve sonra arabanıza atlar ve evinize gidersiniz,
08:16
The future of it may be a cross between
219
496160
2000
ve 20 dakika içerisinde akşam yemeğinizi yiyor
08:18
al Qaeda 2.0 and the
220
498160
2000
ve çocuklarınızın ev ödevleri konusunda konuşuyor olursunuz."
08:20
next generation of the Unabomber.
221
500160
2000
Şimdi, böyle deneyimlerde psikolojiyi dengelemek çok zordur.
08:22
And another way of thinking about this
222
502160
2000
Ve gerçekten de, bu insansız araç pilotları,
08:24
is the fact that, remember, you don't have
223
504160
2000
fiziksel olarak Irak'ta savaşan askerlerin çoğuna göre
08:26
to convince a robot that they're gonna
224
506160
2000
çok daha yüksek PTSD (ÇN: Post Traumatic Stress Disorder, bir çeşit psikolojik hastalık) değerlerine sahiptir.
08:28
receive 72 virgins after they die
225
508160
3000
Fakat bazıları daha başka bir konudan,
08:31
to convince them to blow themselves up.
226
511160
3000
bu kadar mesafe olduğu zaman, savaş suçlarının çok daha kolay işleneceğinden
08:34
But the ripple effects of this are going to go
227
514160
2000
endişe duymaktadırlar.
08:36
out into our politics. One of the people that
228
516160
2000
Bir pilotun bana tanımladığı gibi, uzaklardan düşman birliklerini
08:38
I met with was a former Assistant Secretary of
229
518160
2000
yok etmek, "tıpkı bir bilgisayar oyunu gibidir".
08:40
Defense for Ronald Reagan, and he put it
230
520160
2000
Grand Theft Auto (GTA) oynayan herkes bilir ki,
08:42
this way: "I like these systems because
231
522160
2000
yüzyüze asla yapamayacağımız şeyleri,
08:44
they save American lives, but I worry about
232
524160
2000
sanal dünyada yapabiliriz.
08:46
more marketization of wars,
233
526160
2000
Dolayısıyla, benden şu anda duyduğunuz şey,
08:48
more shock-and-awe talk,
234
528160
3000
teknolojik devrimlerin bir diğer tarafı daha olduğudur,
08:51
to defray discussion of the costs.
235
531160
2000
ve bu, bugünümüzü şekillendirir ve muhtemelen savaşların geleceğini de şekillendirecektir.
08:53
People are more likely to support the use
236
533160
2000
Moore Kuralı işler,
08:55
of force if they view it as costless."
237
535160
3000
ama aynı zamanda Murphy Kanunları da işler.
08:58
Robots for me take certain trends
238
538160
2000
Savaşın sisi kalkmamıştır
09:00
that are already in play in our body politic,
239
540160
3000
ve şu kesindir ki, inanılmaz yeni yetenekler ediniyoruz.
09:03
and maybe take them to
240
543160
2000
Ancak aynı zamanda yeni insani çelişkilerle karşılaşıyoruz.
09:05
their logical ending point.
241
545160
2000
Bazı zamanlar bu sadece "Uuups" diyeceğiniz zamanlardır,
09:07
We don't have a draft. We don't
242
547160
2000
tıpkı bir robotik firmasının müdürünün tanımladığı gibi,
09:09
have declarations of war anymore.
243
549160
3000
"Elbette uups dediğiniz zamanlar olacaktır." Peki, uuups dediğimiz zamanların
09:12
We don't buy war bonds anymore.
244
552160
2000
robotlar ve savaşlarla ne ilgisi vardır? Bu bazen komik olabilir.
09:14
And now we have the fact that we're
245
554160
2000
Bazen tıpkı Eddie Murphy'nin "Best Defense"
09:16
converting more and more of our American
246
556160
2000
isimli filminde olduğu gibi, gerçek hayatta,
09:18
soldiers that we would send into harm's
247
558160
2000
bir makinalı tüfeğe sahip bir robot kolunu denerken,
09:20
way into machines, and so we may take
248
560160
3000
gösteri sırasında kol birden
09:23
those already lowering bars to war
249
563160
3000
daireler çizerek dönmeye başlar
09:26
and drop them to the ground.
250
566160
3000
izleme alanındaki bir VIP'yi hedef alır.
09:29
But the future of war is also going to be
251
569160
2000
Neyse ki silah dolu değildir ve kimse yaralanmaz.
09:31
a YouTube war.
252
571160
2000
Fakat bazı zamanlar uuups dediğimiz anlar trajedik olabilir,
09:33
That is, our new technologies don't merely
253
573160
2000
tıpkı geçen sene Güney Afrika'da olduğu gibi:
09:35
remove humans from risk.
254
575160
2000
Bir uçaksavar silahı, söylendiği gibi;
09:37
They also record everything that they see.
255
577160
3000
"yazılım hatası" sebebiyle
09:40
So they don't just delink the public:
256
580160
3000
olduğu yerde dönmüş ve ateş ederek
09:43
they reshape its relationship with war.
257
583160
3000
9 askerin ölümüne sebep olmuştu.
09:46
There's already several thousand
258
586160
2000
Yeni savaş kuralları ve güvenilirlik konusunda sorunlarımız var.
09:48
video clips of combat footage from Iraq
259
588160
2000
İnsansız kıyımlar için ne yapacağız?
09:50
on YouTube right now,
260
590160
2000
İnsansız araçlarla yapılan kıyım nedir?
09:52
most of it gathered by drones.
261
592160
2000
Daha şimdiden Bin Ladin'in olduğunu düşündüğümüz
09:54
Now, this could be a good thing.
262
594160
2000
bölgelere yapılmış 3 adet avcı saldırısı var
09:56
It could be building connections between
263
596160
2000
ve görünüşe göre Bin Ladin orada değilmiş.
09:58
the home front and the war front
264
598160
2000
Bu, şu anda nerede olduğumuzdur.
10:00
as never before.
265
600160
2000
Şu anda otonom (ÇN: Kendi kararlarını verebilen) sistemlerle donanmış araçlardan
10:02
But remember, this is taking place
266
602160
2000
bahsetmiyoruz bile, ki bunların güç kullanmaya tam yetkisi vardır,
10:04
in our strange, weird world, and so
267
604160
3000
ve bu günlerin gelmeyeceğine inanmayın.
10:07
inevitably the ability to download these
268
607160
2000
Araştırmalarım sırasında Pentagon'a ait, bu konu üzerinde
10:09
video clips to, you know, your iPod
269
609160
2000
4 adet çalışmaya rastladım.
10:11
or your Zune gives you
270
611160
3000
Ve sonuçta, şu soruyla karşı karşıyasınız: Bu savaş suçlarına yönlendiren nedir?
10:14
the ability to turn it into entertainment.
271
614160
4000
Robotlar duygusuzdurlar,
10:18
Soldiers have a name for these clips.
272
618160
2000
arkadaşları öldürülürse üzülmezler.
10:20
They call it war porn.
273
620160
2000
Öfkeyle ya da öç almak için öldürmezler.
10:22
The typical one that I was sent was
274
622160
2000
Fakat robotlar duygusuz olduğundan,
10:24
an email that had an attachment of
275
624160
2000
80 yaşında ve tekerlekli sandalyeyle hareket edebilen bir nineyi
10:26
video of a Predator strike taking out
276
626160
2000
bir T80 tankını gördükleri gibi görürler.
10:28
an enemy site. Missile hits,
277
628160
2000
İkisi de sadece bir dizi 1 ve 0'dır.
10:30
bodies burst into the air with the explosion.
278
630160
3000
Dolayısıyla bu soruya bir cevap vermemiz gerekir:
10:33
It was set to music.
279
633160
2000
Şu anda elimizde bulunan ve
10:35
It was set to the pop song
280
635160
2000
günümüze uyum sağlamayan 20. yüzyıla ait savaş yasalarını,
10:37
"I Just Want To Fly" by Sugar Ray.
281
637160
3000
nasıl 21. yüzyıla uygun hale getireceğiz?
10:40
This ability to watch more
282
640160
3000
Sonuç olarak, geleceğin savaşlarının neye benzeyeceğinden bahsettim,
10:43
but experience less creates a wrinkle
283
643160
3000
fakat dikkat edin, sadece gerçek hayattan örnekler kullandım
10:46
in the public's relationship with war.
284
646160
2000
ve sizler gerçek hayattan fotoğraflar ve videolar gördünüz.
10:48
I think about this with a sports parallel.
285
648160
2000
Bu, bizim için gerçek bir sorun yaratıyor,
10:50
It's like the difference between
286
650160
3000
bu sorunlar hakkında, Roomba robotunuzun (ÇN: Bir temizlik robotu)
10:53
watching an NBA game, a professional
287
653160
3000
hayatınızı emmesinden endişelenmenizden önce endişelenmeniz gerekiyor.
10:56
basketball game on TV, where the athletes
288
656160
3000
Şu anda, günümüzdeki savaşlarda kullanılamakta olan aletleri,
10:59
are tiny figures on the screen, and
289
659160
2000
sırf bize bilim-kurgu gibi geldiği için
11:01
being at that basketball game in person
290
661160
3000
reddederek, kullanılmasına izin mi vereceğiz?
11:04
and realizing what someone seven feet
291
664160
2000
Yoksa 21. yüzyılın gerçeğiyle yüzleşecek miyiz?
11:06
really does look like.
292
666160
2000
Bizim jenerasyonumuz da, geçmiş jenerasyonun atom silahları konusunda
11:08
But we have to remember,
293
668160
2000
düştüğü hataya düşerek
11:10
these are just the clips.
294
670160
2000
Pandora'nın Kutusu açılana kadar, bu sorunların
11:12
These are just the ESPN SportsCenter
295
672160
2000
etrafını saran konularla ilgilenmeyecek mi?
11:14
version of the game. They lose the context.
296
674160
2000
Bunda yanılıyor olabilirim ama bir Pentagon robot bilimcisi bana şöyle söylemişti:
11:16
They lose the strategy.
297
676160
2000
"Konu robotlara geldiğinde; gerçek, sosyal, etik ve ahlaki meselelere yer yoktur.
11:18
They lose the humanity. War just
298
678160
2000
Diğer bir deyişle", diye ekledi, "makina yanlış insanları üst üste öldümediği sürece."
11:20
becomes slam dunks and smart bombs.
299
680160
3000
Daha sonra da dedi ki: "Ancak bundan sonra, konuyu bir sorun olarak değerlendiririz."
11:23
Now the irony of all this is that
300
683160
3000
Ve böylece, bitirmek için vardığım nokta şudur ki,
11:26
while the future of war may involve
301
686160
2000
gerçekten hayatımız Hollywood'a dönebilir.
11:28
more and more machines,
302
688160
2000
Geçtiğimiz yıllarda Hollywood en iyi 100 kahramanını
11:30
it's our human psychology that's driving
303
690160
2000
ve 100 kötü adamını bir araya getirerek bir liste hazırladı
11:32
all of this, it's our human failings
304
692160
2000
ve liste tüm Hollywood tarihini içeriyordu,
11:34
that are leading to these wars.
305
694160
2000
bunlar insanlığın en iyi ve en kötülerini temsil ediyordu
11:36
So one example of this that has
306
696160
2000
ve sadece bir karakter, hem iyiler hem kötüler listesinde yerini aldı:
11:38
big resonance in the policy realm is
307
698160
2000
Terminatör, robot ölüm makinası.
11:40
how this plays out on our very real
308
700160
2000
Bu da gösteriyor ki makinalarımız
11:42
war of ideas that we're fighting
309
702160
2000
hem iyi hem de kötü amaçlarla kullanılabilir
11:44
against radical groups.
310
704160
2000
ama burada bir nokta daha karşımıza çıkıyor ki o da,
11:46
What is the message that we think we are
311
706160
2000
insanlığın bir ikilik içerisinde olduğudur.
11:48
sending with these machines versus what
312
708160
2000
Bu hafta, bizim yaratıcılığımız için bir kutlamadır.
11:50
is being received in terms of the message.
313
710160
3000
Yaratıcılığımız, türümüzü yıldızlara ulaştırmıştır.
11:53
So one of the people that I met was
314
713160
2000
Yaratıcılığımız, sanat eserleri yaratmıştır
11:55
a senior Bush Administration official,
315
715160
2000
ve aşkımızı anlatabileceğimiz edebi eserler var etmiştir
11:57
who had this to say about
316
717160
2000
ve şimdi bu yaratıcılığımızı belirli bir yönde kullanıyoruz;
11:59
our unmanning of war:
317
719160
2000
akıl almaz yeteneklere sahip
12:01
"It plays to our strength. The thing that
318
721160
2000
muhteşem makinalar inşa etmek için.
12:03
scares people is our technology."
319
723160
2000
Hatta bunlar, belki günün birinde, yepyeni bir tür haline gelebilirler.
12:05
But when you go out and meet with people,
320
725160
2000
Fakat bunu yapmamızdaki en temel sebeplerden biri
12:07
for example in Lebanon, it's a very
321
727160
2000
birbirimizi yok etmek konusundaki isteğimizdir.
12:09
different story. One of the people
322
729160
2000
Dolayısıyla sormamız gereken soru şudur:
12:11
I met with there was a news editor, and
323
731160
2000
Bizi savaşa bağlayan şey; makinalarımız mı yoksa kendimiz miyiz?
12:13
we're talking as a drone is flying above him,
324
733160
2000
Teşekkür ederim.
12:15
and this is what he had to say.
325
735160
2002
(Alkışlar)
12:17
"This is just another sign of the coldhearted
326
737162
1998
12:19
cruel Israelis and Americans,
327
739160
3006
12:22
who are cowards because
328
742166
1992
12:24
they send out machines to fight us.
329
744158
2006
12:26
They don't want to fight us like real men,
330
746164
1992
12:28
but they're afraid to fight,
331
748156
2007
12:30
so we just have to kill a few of their soldiers
332
750163
1991
12:32
to defeat them."
333
752154
3005
12:35
The future of war also is featuring
334
755159
2007
12:37
a new type of warrior,
335
757166
1977
12:39
and it's actually redefining the experience
336
759159
3006
12:42
of going to war.
337
762165
1998
12:44
You can call this a cubicle warrior.
338
764163
1976
12:46
This is what one Predator drone pilot
339
766154
2007
12:48
described of his experience fighting
340
768161
2007
12:50
in the Iraq War while never leaving Nevada.
341
770168
2989
12:53
"You're going to war for 12 hours,
342
773157
2005
12:55
shooting weapons at targets,
343
775162
1991
12:57
directing kills on enemy combatants,
344
777168
2991
13:00
and then you get in the car
345
780159
2006
13:02
and you drive home and within 20 minutes,
346
782165
1982
13:04
you're sitting at the dinner table
347
784163
1991
13:06
talking to your kids about their homework."
348
786169
1993
13:08
Now, the psychological balancing
349
788162
1991
13:10
of those experiences is incredibly tough,
350
790168
1993
13:12
and in fact those drone pilots have
351
792161
2992
13:15
higher rates of PTSD than many
352
795153
2008
13:17
of the units physically in Iraq.
353
797161
3005
13:20
But some have worries that this
354
800166
1992
13:22
disconnection will lead to something else,
355
802158
1994
13:24
that it might make the contemplation of war
356
804167
1998
13:26
crimes a lot easier when you have
357
806165
2005
13:28
this distance. "It's like a video game,"
358
808170
1999
13:30
is what one young pilot described to me
359
810169
1999
13:32
of taking out enemy troops from afar.
360
812168
1960
13:34
As anyone who's played Grand Theft Auto
361
814158
2995
13:37
knows, we do things in the video world
362
817168
3000
13:40
that we wouldn't do face to face.
363
820168
2996
13:43
So much of what you're hearing from me
364
823164
1998
13:45
is that there's another side
365
825162
1993
13:47
to technologic revolutions,
366
827155
2008
13:49
and that it's shaping our present
367
829163
1994
13:51
and maybe will shape our future of war.
368
831157
3001
13:54
Moore's Law is operative,
369
834158
2001
13:56
but so's Murphy's Law.
370
836159
1998
13:58
The fog of war isn't being lifted.
371
838157
2005
14:00
The enemy has a vote.
372
840162
2010
14:02
We're gaining incredible new capabilities,
373
842172
1989
14:04
but we're also seeing and experiencing
374
844161
2006
14:06
new human dilemmas. Now,
375
846167
2000
14:08
sometimes these are just "oops" moments,
376
848167
1999
14:10
which is what the head of a robotics
377
850166
1992
14:12
company described it, you just have
378
852158
2011
14:14
"oops" moments. Well, what are
379
854169
2000
14:16
"oops" moments with robots in war?
380
856169
1996
14:18
Well, sometimes they're funny. Sometimes,
381
858165
2001
14:20
they're like that scene from the
382
860166
2002
14:22
Eddie Murphy movie "Best Defense,"
383
862168
2001
14:24
playing out in reality, where they tested out
384
864169
2001
14:26
a machine gun-armed robot, and during
385
866170
1988
14:28
the demonstration it started spinning
386
868158
2001
14:30
in a circle and pointed its machine gun
387
870159
3009
14:33
at the reviewing stand of VIPs.
388
873168
2995
14:36
Fortunately the weapon wasn't loaded
389
876163
1993
14:38
and no one was hurt, but other times
390
878156
2010
14:40
"oops" moments are tragic,
391
880166
1992
14:42
such as last year in South Africa, where
392
882158
2002
14:44
an anti-aircraft cannon had a
393
884160
2999
14:47
"software glitch," and actually did turn on
394
887159
2999
14:50
and fired, and nine soldiers were killed.
395
890158
3004
14:53
We have new wrinkles in the laws of war
396
893162
2997
14:56
and accountability. What do we do
397
896159
1997
14:58
with things like unmanned slaughter?
398
898156
2010
15:00
What is unmanned slaughter?
399
900166
1998
15:02
We've already had three instances of
400
902164
2000
15:04
Predator drone strikes where we thought
401
904164
2000
15:06
we got bin Laden, and it turned out
402
906164
1994
15:08
not to be the case.
403
908158
2002
15:10
And this is where we're at right now.
404
910160
2008
15:12
This is not even talking about armed,
405
912168
2000
15:14
autonomous systems
406
914168
1989
15:16
with full authority to use force.
407
916157
2013
15:18
And do not believe that that isn't coming.
408
918170
1994
15:20
During my research I came across
409
920164
2007
15:22
four different Pentagon projects
410
922171
1985
15:24
on different aspects of that.
411
924156
2012
15:26
And so you have this question:
412
926168
2002
15:28
what does this lead to issues like
413
928170
1993
15:30
war crimes? Robots are emotionless, so
414
930163
1992
15:32
they don't get upset if their buddy is killed.
415
932155
3012
15:35
They don't commit crimes of rage
416
935167
1994
15:37
and revenge.
417
937161
2007
15:39
But robots are emotionless.
418
939168
2997
15:42
They see an 80-year-old grandmother
419
942165
1999
15:44
in a wheelchair the same way they see
420
944164
2000
15:46
a T-80 tank: they're both
421
946164
3002
15:49
just a series of zeroes and ones.
422
949166
2993
15:52
And so we have this question to figure out:
423
952159
3003
15:55
How do we catch up our 20th century
424
955162
2003
15:57
laws of war, that are so old right now
425
957165
1989
15:59
that they could qualify for Medicare,
426
959154
3008
16:02
to these 21st century technologies?
427
962162
3008
16:05
And so, in conclusion, I've talked about
428
965170
2987
16:08
what seems the future of war,
429
968157
3011
16:11
but notice that I've only used
430
971168
1990
16:13
real world examples and you've only seen
431
973158
2012
16:15
real world pictures and videos.
432
975170
2001
16:17
And so this sets a great challenge for
433
977171
2000
16:19
all of us that we have to worry about well
434
979171
1986
16:21
before you have to worry about your
435
981157
2009
16:23
Roomba sucking the life away from you.
436
983166
2001
16:25
Are we going to let the fact that what's
437
985167
1999
16:27
unveiling itself right now in war
438
987166
3000
16:30
sounds like science fiction and therefore
439
990166
2991
16:33
keeps us in denial?
440
993157
2005
16:35
Are we going to face the reality
441
995162
2004
16:37
of 21st century war?
442
997166
1993
16:39
Is our generation going to make the same
443
999159
2001
16:41
mistake that a past generation did
444
1001160
2009
16:43
with atomic weaponry, and not deal with
445
1003169
1998
16:45
the issues that surround it until
446
1005167
1995
16:47
Pandora's box is already opened up?
447
1007162
2007
16:49
Now, I could be wrong on this, and
448
1009169
1998
16:51
one Pentagon robot scientist told me
449
1011167
2004
16:53
that I was. He said, "There's no real
450
1013171
1994
16:55
social, ethical, moral issues when it comes
451
1015165
1995
16:57
to robots.
452
1017160
1998
16:59
That is," he added, "unless the machine
453
1019158
2001
17:01
kills the wrong people repeatedly.
454
1021159
3010
17:04
Then it's just a product recall issue."
455
1024169
2989
17:07
And so the ending point for this is
456
1027158
3011
17:10
that actually, we can turn to Hollywood.
457
1030169
5002
17:15
A few years ago, Hollywood gathered
458
1035171
1996
17:17
all the top characters and created
459
1037167
3006
17:20
a list of the top 100 heroes and
460
1040173
1997
17:22
top 100 villains of all of Hollywood history,
461
1042170
2990
17:25
the characters that represented the best
462
1045160
2006
17:27
and worst of humanity.
463
1047166
1992
17:29
Only one character made it onto both lists:
464
1049158
4015
17:33
The Terminator, a robot killing machine.
465
1053173
2996
17:36
And so that points to the fact that
466
1056169
1988
17:38
our machines can be used
467
1058157
2013
17:40
for both good and evil, but for me
468
1060170
1999
17:42
it points to the fact that there's a duality
469
1062169
1996
17:44
of humans as well.
470
1064165
3000
17:47
This week is a celebration
471
1067165
1998
17:49
of our creativity. Our creativity
472
1069163
1999
17:51
has taken our species to the stars.
473
1071162
1998
17:53
Our creativity has created works of arts
474
1073160
2007
17:55
and literature to express our love.
475
1075167
2996
17:58
And now, we're using our creativity
476
1078163
1998
18:00
in a certain direction, to build fantastic
477
1080161
1993
18:02
machines with incredible capabilities,
478
1082169
2987
18:05
maybe even one day
479
1085156
2009
18:07
an entirely new species.
480
1087165
2997
18:10
But one of the main reasons that we're
481
1090162
2005
18:12
doing that is because of our drive
482
1092167
1998
18:14
to destroy each other, and so the question
483
1094165
3000
18:17
we all should ask:
484
1097165
1994
18:19
is it our machines, or is it us
485
1099159
2000
18:21
that's wired for war?
486
1101159
2007
18:23
Thank you. (Applause)
487
1103166
2098
Bu web sitesi hakkında

Bu site size İngilizce öğrenmek için yararlı olan YouTube videolarını tanıtacaktır. Dünyanın dört bir yanından birinci sınıf öğretmenler tarafından verilen İngilizce derslerini göreceksiniz. Videoyu oradan oynatmak için her video sayfasında görüntülenen İngilizce altyazılara çift tıklayın. Altyazılar video oynatımı ile senkronize olarak kayar. Herhangi bir yorumunuz veya isteğiniz varsa, lütfen bu iletişim formunu kullanarak bizimle iletişime geçin.

https://forms.gle/WvT1wiN1qDtmnspy7