Chris Domas: The 1s and 0s behind cyber warfare

161,815 views ・ 2014-06-30

TED


אנא לחץ פעמיים על הכתוביות באנגלית למטה כדי להפעיל את הסרטון.

מתרגם: Shlomo Adam מבקר: Ido Dekkers
00:12
This is a lot of ones and zeros.
0
12770
2262
אלה המוני אחדות ואפסים.
00:15
It's what we call binary information.
1
15032
3099
זה מה שמכונה "מידע בינארי".
00:18
This is how computers talk.
2
18131
1442
ככה מחשבים מדברים.
00:19
It's how they store information.
3
19573
1929
ככה הם מאחסנים מידע.
00:21
It's how computers think.
4
21502
1626
ככה מחשבים חושבים.
00:23
It's how computers do
5
23128
1619
ככה מחשבים עושים
00:24
everything it is that computers do.
6
24747
2382
את כל מה שמחשבים עושים.
00:27
I'm a cybersecurity researcher,
7
27129
2047
אני חוקר בתחום הסייבר (אבטחת מחשבים),
00:29
which means my job is to sit down with this information
8
29176
2070
כלומר, העבודה שלי היא לשבת עם המידע הזה
00:31
and try to make sense of it,
9
31246
1684
לנסות למצוא בו הגיון
00:32
to try to understand what all the ones and zeroes mean.
10
32930
2753
ולנסות להבין מה אומרים כל האחדות והאפסים האלה.
00:35
Unfortunately for me, we're not just talking
11
35683
1843
לרוע מזלי, לא מדובר
00:37
about the ones and zeros I have on the screen here.
12
37526
2234
רק באחדות ובאפסים שעל המסך כאן,
00:39
We're not just talking about a few pages of ones and zeros.
13
39760
2683
ולא רק בעמודים ספורים של אחדות ואפסים.
00:42
We're talking about billions and billions
14
42443
2609
מדובר במיליארדים רבים
00:45
of ones and zeros,
15
45052
1333
של אחדות ואפסים,
00:46
more than anyone could possibly comprehend.
16
46385
2641
יותר מכפי שמישהו מסוגל לתפוש.
00:49
Now, as exciting as that sounds,
17
49026
1859
מרגש ככל שזה נשמע,
00:50
when I first started doing cyber —
18
50885
2492
כשהתחלתי בתחום הסייבר --
00:53
(Laughter) —
19
53377
1743
[צחוק] --
00:55
when I first started doing cyber, I wasn't sure
20
55120
2003
כשהתחלתי בתחום הסייבר,
לא הייתי בטוח אם חיטוט באחדות ובאפסים
00:57
that sifting through ones and zeros
21
57123
1473
00:58
was what I wanted to do with the rest of my life,
22
58596
2294
הוא מה שארצה לעשות כל חיי,
01:00
because in my mind, cyber
23
60890
2020
כי אבטחת המחשבים, כפי שדמיינתי אותה,
01:02
was keeping viruses off of my grandma's computer,
24
62910
3681
היתה למנוע מווירוסים לחדור למחשב של סבתא שלי, [צחוק]
01:06
it was keeping people's Myspace pages from being hacked,
25
66591
3348
למנוע פריצה לאתרי "מייספייס",
01:09
and maybe, maybe on my most glorious day,
26
69939
2185
ואולי, אולי בשיא הצלחתי,
01:12
it was keeping someone's credit card information from being stolen.
27
72124
3751
למנוע גניבת מידע של כרטיס אשראי.
01:15
Those are important things,
28
75875
1363
אלה דברים חשובים,
01:17
but that's not how I wanted to spend my life.
29
77238
2758
אבל לא כך רציתי לבלות את חיי.
01:19
But after 30 minutes of work
30
79996
1934
אבל אחרי 30 דקות עבודה
01:21
as a defense contractor,
31
81930
1353
כקבלן הגנה,
01:23
I soon found out that my idea of cyber
32
83283
2790
גיליתי במהרה שהמושג שלי על אבטחת מחשבים
01:26
was a little bit off.
33
86073
1869
היה קצת מוטעה.
01:27
In fact, in terms of national security,
34
87942
1945
למעשה, בעיני האחראים על הבטחון הלאומי,
01:29
keeping viruses off of my grandma's computer
35
89887
2071
מניעת חדירה של וירוסים למחשב של סבתא שלי
01:31
was surprisingly low on their priority list.
36
91958
3186
היתה בעדיפות נמוכה להפתיע. [צחוק]
01:35
And the reason for that is cyber
37
95144
1301
והסיבה לכך היא שאבטחת המחשבים
01:36
is so much bigger than any one of those things.
38
96445
3793
היא הרבה יותר גדולה מכל הדברים האלה.
01:40
Cyber is an integral part of all of our lives,
39
100238
2825
אבטחת המחשבים היא חלק בלתי-נפרד מחיי כולנו,
01:43
because computers are an integral part of all of our lives,
40
103063
3060
כי המחשבים הם חלק בלתי-נפרד מחיי כולנו,
01:46
even if you don't own a computer.
41
106123
1952
אפילו מחייו של מי שאין לו מחשב.
01:48
Computers control everything in your car,
42
108075
2646
המחשבים שולטים בכל דבר במכונית,
01:50
from your GPS to your airbags.
43
110721
1880
החל מהאיכון הלווייני ועד כריות האוויר.
01:52
They control your phone.
44
112601
1316
הם שולטים בטלפונים.
01:53
They're the reason you can call 911
45
113917
1171
הם הסיבה לכך שאתם יכולים לחייג למוקד החירום
01:55
and get someone on the other line.
46
115088
1796
ולשמוע מישהו בצד השני.
01:56
They control our nation's entire infrastructure.
47
116884
2794
הם שולטים בכל התשתיות של הארץ שלנו.
01:59
They're the reason you have electricity,
48
119678
1676
הם הסיבה לכך שיש לנו חשמל,
02:01
heat, clean water, food.
49
121354
2338
חימום, מים זכים, מזון.
02:03
Computers control our military equipment,
50
123692
1901
המחשבים שולטים בציוד הצבאי שלנו,
02:05
everything from missile silos to satellites
51
125593
1677
מפירי טילים ולוויינים
02:07
to nuclear defense networks.
52
127270
3914
ועד רשתות הגנה גרעינית.
02:11
All of these things are made possible
53
131184
1989
כל הדברים האלה מתאפשרים
02:13
because of computers,
54
133173
1416
הודות למחשבים,
02:14
and therefore because of cyber,
55
134589
1983
ולכן, הודות לאבטחת המחשבים,
02:16
and when something goes wrong,
56
136572
1504
כשדברים משתבשים,
02:18
cyber can make all of these things impossible.
57
138076
3118
פגיעה באבטחת המחשבים עלולה למנוע את כל אלה.
02:21
But that's where I step in.
58
141194
1585
אבל כאן אני נכנס לתמונה.
02:22
A big part of my job is defending all of these things,
59
142779
2940
חלק גדול מעבודתי הוא להגן על כל הדברים האלה
02:25
keeping them working,
60
145719
1662
ולדאוג שימשיכו לפעול,
02:27
but once in a while, part of my job is to break one of these things,
61
147381
2328
אבל מידי פעם, חלק מעבודתי הוא לפרק אחד מהדברים האלה,
02:29
because cyber isn't just about defense,
62
149709
2396
כי אבטחת מחשבים איננה רק הגנה,
02:32
it's also about offense.
63
152105
2273
אלא גם התקפה.
02:34
We're entering an age where we talk about
64
154378
1576
אנו נכנסים לעידן שבו אנו כבר מדברים
02:35
cyberweapons.
65
155954
1461
על כלי-נשק ממוחשבים.
02:37
In fact, so great is the potential for cyber offense
66
157415
3135
למעשה, הפוטנציאל הטמון במתקפה ממוחשבת הוא כה גדול,
02:40
that cyber is considered a new domain of warfare.
67
160550
3621
עד כי אבטחת המחשבים נחשבת לתחום לחימה בפני עצמו.
02:44
Warfare.
68
164171
1800
לוחמה
02:45
It's not necessarily a bad thing.
69
165971
1929
אינה דבר רע כשלעצמו.
02:47
On the one hand, it means we have whole new front
70
167900
2751
מצד אחד זה אומר חזית חדשה לגמרי
02:50
on which we need to defend ourselves,
71
170651
1743
שבה עלינו להגן על עצמנו,
02:52
but on the other hand,
72
172394
1485
אבל מצד שני,
02:53
it means we have a whole new way to attack,
73
173879
1842
זה אומר גם דרך חדשה לגמרי של התקפה,
02:55
a whole new way to stop evil people
74
175721
1859
דרך חדשה לגמרי למנוע מאנשים רעים
02:57
from doing evil things.
75
177580
2227
לעשות דברים רעים.
02:59
So let's consider an example of this
76
179807
1811
הבה נראה דוגמה לכך,
03:01
that's completely theoretical.
77
181618
1689
דוגמה תיאורטית לגמרי.
03:03
Suppose a terrorist wants to blow up a building,
78
183307
2258
נניח שאיזה מחבל רוצה לפוצץ בניין,
03:05
and he wants to do this again and again
79
185565
2068
ובעתיד הוא ירצה לעשות זאת שוב ושוב
03:07
in the future.
80
187633
1451
03:09
So he doesn't want to be in that building when it explodes.
81
189084
2840
הוא לא חייב להימצא באותו בניין בעת הפיגוע;
03:11
He's going to use a cell phone
82
191924
1518
הוא ישתמש בטלפון נייד כשלט-רחוק.
03:13
as a remote detonator.
83
193442
2335
03:15
Now, it used to be the only way we had
84
195777
1871
פעם, הדרך היחידה שעמדה לרשותנו
03:17
to stop this terrorist
85
197648
1636
כדי לעצור את המחבל הזה
03:19
was with a hail of bullets and a car chase,
86
199284
2673
היתה מטר כדורים ומרדף מכוניות,
03:21
but that's not necessarily true anymore.
87
201957
2332
אבל זה כבר לא בהכרח כך.
03:24
We're entering an age where we can stop him
88
204289
1563
אנו נכנסים לעידן שבו ביכולתנו לעצור בעדו
03:25
with the press of a button
89
205852
1110
בלחיצת כפתור
03:26
from 1,000 miles away,
90
206962
2007
ממרחק אלפי קילומטרים,
03:28
because whether he knew it or not,
91
208969
1589
כי בין אם הוא ידע או לא,
03:30
as soon as he decided to use his cell phone,
92
210558
1711
ברגע בו הוא החליט להשתמש בטלפון הנייד שלו
03:32
he stepped into the realm of cyber.
93
212269
3134
הוא נכנס לעולם הממוחשב.
03:35
A well-crafted cyber attack could break into his phone,
94
215403
3117
התקפה ממוחשבת מיומנת מסוגלת לפרוץ לטלפון שלו,
03:38
disable the overvoltage protections on his battery,
95
218520
2149
לנטרל את הגנות הסוללה שלו נגד עומס-יתר,
03:40
drastically overload the circuit,
96
220669
1755
לחולל עומס-יתר קיצוני במעגלים,
03:42
cause the battery to overheat, and explode.
97
222424
2357
לגרום לסוללה להתחמם מדי ולהתפוצץ.
03:44
No more phone, no more detonator,
98
224781
2446
אין כבר טלפון, אין שלט-רחוק,
03:47
maybe no more terrorist,
99
227227
1923
ואולי גם אין מחבל
03:49
all with the press of a button
100
229150
1031
והכל בלחיצת כפתור
03:50
from a thousand miles away.
101
230181
2680
ממרחק אלפי קילומטרים.
03:52
So how does this work?
102
232861
1751
איך זה עובד?
03:54
It all comes back to those ones and zeros.
103
234612
2268
הכל מתמצה באחדות ובאפסים האלה.
03:56
Binary information makes your phone work,
104
236880
3005
המידע הבינארי הוא זה שגורם לטלפונים שלכם לפעול,
03:59
and used correctly, it can make your phone explode.
105
239885
3584
ובשימוש נכון, בכוחו גם לגרום להם להתפוצץ.
04:03
So when you start to look at cyber from this perspective,
106
243469
2472
אז כשמסתכלים על אבטחת המחשבים מנקודת-השקפה זו,
04:05
spending your life sifting through binary information
107
245941
3163
בילוי החיים בחיטוט במידע בינארי
04:09
starts to seem kind of exciting.
108
249104
2417
מתחיל להיראות מלהיב למדי.
04:11
But here's the catch: This is hard,
109
251521
2646
אבל הנה המילכוד: זה קשה,
04:14
really, really hard,
110
254167
1685
מאד מאד קשה,
04:15
and here's why.
111
255852
1834
וזו הסיבה:
04:17
Think about everything you have on your cell phone.
112
257686
2766
חישוב על כל מה שיש לכם בטלפון הנייד.
04:20
You've got the pictures you've taken.
113
260452
1963
התמונות שצילמתם.
04:22
You've got the music you listen to.
114
262415
1786
המוסיקה שאתם מאזינים לה.
04:24
You've got your contacts list,
115
264201
1648
רשימת אנשי הקשר,
04:25
your email, and probably 500 apps
116
265849
1625
הודעות הדוא"ל, וכנראה איזה 500 יישומונים
04:27
you've never used in your entire life,
117
267474
3001
שבחיים לא השתמשתם בהם, [צחוק]
04:30
and behind all of this is the software, the code,
118
270475
3987
ומאחורי כל אלה - התוכנה, הקוד,
04:34
that controls your phone,
119
274462
1380
ששולטים בטלפון שלכם,
04:35
and somewhere, buried inside of that code,
120
275842
2656
ובמקום כלשהו, קבור בעומק הקוד הזה,
04:38
is a tiny piece that controls your battery,
121
278498
2548
יש קטע זעיר ששולט בסוללה שלכם,
04:41
and that's what I'm really after,
122
281046
1871
ואותו בעצם אני מחפש,
04:42
but all of this, just a bunch of ones and zeros,
123
282917
3686
אבל כל זה הוא סתם אוסף של אחדות ואפסים,
04:46
and it's all just mixed together.
124
286603
1531
שכולם מעורבבים ביחד.
04:48
In cyber, we call this finding a needle in a stack of needles,
125
288134
3545
באבטחת המחשבים אנו מכנים זאת "למצוא מחט בערימת מחטים",
04:51
because everything pretty much looks alike.
126
291679
2349
כי הכל נראה די דומה.
04:54
I'm looking for one key piece,
127
294028
1732
אני מחפש יחידת קוד מרכזית אחת,
04:55
but it just blends in with everything else.
128
295760
3234
אבל היא מתמזגת עם כל יתר הדברים.
04:58
So let's step back from this theoretical situation
129
298994
2252
אז בואו נעזוב את המצב התיאורטי
05:01
of making a terrorist's phone explode,
130
301246
2344
שבו אנו גורמים לטלפון של המחבל להתפוצץ,
05:03
and look at something that actually happened to me.
131
303590
2816
ונראה משהו שקרה לי.
05:06
Pretty much no matter what I do,
132
306406
1343
לא משנה מה אני עושה,
05:07
my job always starts with sitting down
133
307749
1442
העבודה שלי תמיד מתחילה בכל שאני יושב
05:09
with a whole bunch of binary information,
134
309191
2372
עם ערימה שלמה של מידע בינארי,
05:11
and I'm always looking for one key piece
135
311563
1727
ואני תמיד מחפש פיסת קוד מרכזית
05:13
to do something specific.
136
313290
1987
כדי לבצע משהו ספציפי.
05:15
In this case, I was looking for a very advanced,
137
315277
2077
במקרה זה חיפשתי
פיסת-קוד מאד מתקדמת ועתירת-ידע
05:17
very high-tech piece of code
138
317354
1518
05:18
that I knew I could hack,
139
318872
1215
שידעתי שאוכל לפרוץ,
05:20
but it was somewhere buried
140
320087
1714
אבל היא היתה קבורה
05:21
inside of a billion ones and zeroes.
141
321801
2026
בתוך מיליארדי אחדות ואפסים.
05:23
Unfortunately for me, I didn't know
142
323827
1578
למזלי הרע,
05:25
quite what I was looking for.
143
325405
1691
לא ידעתי מה בדיוק לחפש.
05:27
I didn't know quite what it would look like,
144
327096
1196
לא ידעתי איך בדיוק זה נראה,
05:28
which makes finding it really, really hard.
145
328292
2918
מה שהקשה עלי מאד למצוא את זה.
05:31
When I have to do that, what I have to do
146
331210
2039
כשעלי לעשות דבר כזה, אני צריך, בעקרון,
05:33
is basically look at various pieces
147
333249
2342
לבחון כל מיני קטעים
05:35
of this binary information,
148
335591
1723
של מידע בינארי כזה,
05:37
try to decipher each piece, and see if it might be
149
337314
2202
לנסות לפענח כל אחת מהן ולראות אם היא זו
05:39
what I'm after.
150
339516
1224
שאני מחפש.
05:40
So after a while, I thought I had found the piece
151
340740
1625
אז אחרי זמן-מה חשבתי שמצאתי את הקטע שחיפשתי.
05:42
I was looking for.
152
342365
1337
05:43
I thought maybe this was it.
153
343702
2104
חשבתי שאולי זה הקטע הנכון.
05:45
It seemed to be about right, but I couldn't quite tell.
154
345806
2032
הוא די התאים, אבל לא הייתי לגמרי בטוח.
05:47
I couldn't tell what those ones and zeros represented.
155
347838
2918
לא יכולתי לקבוע מה ייצגו אותם אחדות ואפסים.
05:50
So I spent some time trying to put this together,
156
350756
3374
אז השקעתי זמן בנסיון לחבר ביניהם,
05:54
but wasn't having a whole lot of luck,
157
354130
1670
אבל לא הצלחתי מי יודע מה
05:55
and finally I decided,
158
355800
1186
ולבסוף החלטתי
05:56
I'm going to get through this,
159
356986
1609
שאני מוכרח להצליח בזה.
05:58
I'm going to come in on a weekend,
160
358595
1511
אני אבוא לעבודה בסוף השבוע,
06:00
and I'm not going to leave
161
360106
1340
ולא אפסיק
06:01
until I figure out what this represents.
162
361446
1712
עד שאגלה מה זה מייצג.
06:03
So that's what I did. I came in on a Saturday morning,
163
363158
2166
אז זה מה שעשיתי. הגעתי לעבודה בבוקר יום א',
06:05
and about 10 hours in, I sort of had all the pieces to the puzzle.
164
365324
3645
ואחרי כ-10 שעות היו בידי כל פיסות התצרף.
06:08
I just didn't know how they fit together.
165
368969
1392
אלא שלא ידעתי איך הן משתלבות.
06:10
I didn't know what these ones and zeros meant.
166
370361
2790
לא ידעתי מה המשמעות של האחדות והאפסים האלה.
06:13
At the 15-hour mark,
167
373151
2067
כשהשעון מנה 15 שעות,
06:15
I started to get a better picture of what was there,
168
375218
2602
התחלתי לקבל תמונה טובה יותר מה היה שם,
06:17
but I had a creeping suspicion
169
377820
1772
אבל כירסם בי חשד
06:19
that what I was looking at
170
379592
1589
שהדבר בו אני מתבונן
06:21
was not at all related to what I was looking for.
171
381181
2923
בכלל לא קשור למה שחיפשתי.
06:24
By 20 hours, the pieces started to come together
172
384104
2487
אחרי 20 שעות הפיסות החלו להשתלב
06:26
very slowly — (Laughter) —
173
386591
3764
לאט לאט -- [צחוק]
06:30
and I was pretty sure I was going down
174
390355
1266
וכעת הייתי בטוח למדי שאני בכיוון הלא-נכון.
06:31
the wrong path at this point,
175
391621
1939
06:33
but I wasn't going to give up.
176
393560
2251
אבל לא התכוונתי לוותר.
06:35
After 30 hours in the lab,
177
395811
2834
אחרי 30 שעות במעבדה,
06:38
I figured out exactly what I was looking at,
178
398645
2261
הבנתי בדיוק במה אני מתבונן,
06:40
and I was right, it wasn't what I was looking for.
179
400906
2818
וצדקתי. זה לא היה מה שחיפשתי.
06:43
I spent 30 hours piecing together
180
403724
1699
הקדשתי 30 שעות לשילוב
06:45
the ones and zeros that formed a picture of a kitten.
181
405423
2722
של אחדות ואפסים שיוצרים תמונה של חתלתול.
06:48
(Laughter)
182
408145
1795
[צחוק]
06:49
I wasted 30 hours of my life searching for this kitten
183
409940
3806
בזבזתי 30 שעות מחיי בחיפוש אחר החתלתול הזה
06:53
that had nothing at all to do
184
413746
1838
שלא היה קשור בשום אופן
06:55
with what I was trying to accomplish.
185
415584
1987
למה שניסיתי להשיג.
06:57
So I was frustrated, I was exhausted.
186
417571
3863
אז הייתי מתוסכל, הייתי מותש.
07:01
After 30 hours in the lab, I probably smelled horrible.
187
421434
3226
אחרי 30 שעות במעבדה ודאי גם הסרחתי,
07:04
But instead of just going home
188
424660
2230
אבל במקום ללכת הביתה
07:06
and calling it quits, I took a step back
189
426890
2530
ולהגיד שנכשלתי, עצרתי
07:09
and asked myself, what went wrong here?
190
429420
2541
ושאלתי את עצמי מה השתבש כאן.
07:11
How could I make such a stupid mistake?
191
431961
2212
איך יכולתי לעשות טעות כה מטופשת?
07:14
I'm really pretty good at this.
192
434173
1398
אני ממש טוב בעבודה הזאת.
07:15
I do this for a living.
193
435571
1319
אני מתפרנס מכך.
07:16
So what happened?
194
436890
2148
אז מה קרה?
07:19
Well I thought, when you're looking at information at this level,
195
439038
2775
חשבתי לעצמי, שכאשר בוחנים מידע ברמה הזאת,
07:21
it's so easy to lose track of what you're doing.
196
441813
2827
קל מאד ללכת לאיבוד,
07:24
It's easy to not see the forest through the trees.
197
444640
1744
קל להפסיק לראות את היער מרוב עצים.
07:26
It's easy to go down the wrong rabbit hole
198
446384
2164
קל לתעות במבוך
07:28
and waste a tremendous amount of time
199
448548
1762
ולבזבז כמויות עצומות של זמן
07:30
doing the wrong thing.
200
450310
1820
על הדבר הלא-נכון.
07:32
But I had this epiphany.
201
452130
1600
אבל אז היתה לי התגלות.
07:33
We were looking at the data completely incorrectly
202
453730
2999
אנו הסתכלנו על המידע בצורה מוטעית לגמרי
07:36
since day one.
203
456729
1490
כבר מההתחלה.
07:38
This is how computers think, ones and zeros.
204
458219
2103
ככה מחשבים חושבים: באחדות ואפסים.
07:40
It's not how people think,
205
460322
1392
אבל אנשים לא חושבים כך.
07:41
but we've been trying to adapt our minds
206
461714
2314
אלא שאנו ניסינו לאלץ את המוח שלנו
07:44
to think more like computers
207
464028
1345
לחשוב כמו המחשב
07:45
so that we can understand this information.
208
465373
2597
כדי שנוכל להבין את המידע הזה.
07:47
Instead of trying to make our minds fit the problem,
209
467970
1950
במקום להתאים את המוח שלנו לבעיה,
07:49
we should have been making the problem
210
469920
1648
היה עלינו לגרום לבעיה להתאים למוח שלנו,
07:51
fit our minds,
211
471568
969
07:52
because our brains have a tremendous potential
212
472537
2109
כי למוח שלנו יש פוטנציאל עצום
07:54
for analyzing huge amounts of information,
213
474646
3086
לנתח כמויות-ענק של מידע,
07:57
just not like this.
214
477732
1297
אבל לא בצורה הזאת.
07:59
So what if we could unlock that potential
215
479029
1467
מה אם נוכל לנצל את הפוטנציאל הזה
08:00
just by translating this
216
480496
1527
בכך שפשוט נתרגם זאת לסוג המידע הנכון?
08:02
to the right kind of information?
217
482023
2848
08:04
So with these ideas in mind,
218
484871
1194
אז עם הרעיון הזה,
08:06
I sprinted out of my basement lab at work
219
486065
1618
יצאתי בריצה ממעבדת המרתף שבעבודה,
08:07
to my basement lab at home,
220
487683
1307
אל מעבדת המרתף בבית,
08:08
which looked pretty much the same.
221
488990
1996
שנראית דומה לה למדי,
08:10
The main difference is, at work,
222
490986
1824
כשההבדל העיקרי הוא, שבעבודה,
08:12
I'm surrounded by cyber materials,
223
492810
1579
אני מוקף בדברים של סייבר,
08:14
and cyber seemed to be the problem in this situation.
224
494389
2605
וכנראה שהסייבר עצמו היה הבעיה במצב הזה.
08:16
At home, I'm surrounded by everything else I've ever learned.
225
496994
3353
בבית אני מוקף בכל יתר הדברים שלמדתי.
08:20
So I poured through every book I could find,
226
500347
1872
אז עברתי על כל ספר שיכולתי למצוא,
08:22
every idea I'd ever encountered,
227
502219
1332
על כל רעיון שאי-פעם נתקלתי בו,
08:23
to see how could we translate a problem
228
503551
2146
כדי לראות אם אפשר לתרגם בעיה
08:25
from one domain to something completely different?
229
505697
3132
מתחום אחד לתחום אחר, שונה לגמרי.
08:28
The biggest question was,
230
508829
1394
השאלה הגדולה היתה: למה כדאי לתרגם את זה?
08:30
what do we want to translate it to?
231
510223
1968
08:32
What do our brains do perfectly naturally
232
512191
2112
מה המוח שלנו עושה באופן טבעי ומושלם
08:34
that we could exploit?
233
514303
1878
שבו ניתן להשתמש?
08:36
My answer was vision.
234
516181
2289
התשובה שלי היתה כושר הראייה.
08:38
We have a tremendous capability to analyze visual information.
235
518470
3149
יש לנו יכולת עצומה לנתח מידע חזותי.
08:41
We can combine color gradients, depth cues,
236
521619
2583
אנו מסוגלים למזג גוונים ודרגות בהירות,
08:44
all sorts of these different signals
237
524202
1788
כל מיני אותות כאלה,
08:45
into one coherent picture of the world around us.
238
525990
2395
לתמונה מגובשת אחת של העולם הסובב אותנו.
08:48
That's incredible.
239
528385
1407
זה מדהים.
08:49
So if we could find a way to translate
240
529792
1381
אז אם נוכל למצוא דרך לתרגם
08:51
these binary patterns to visual signals,
241
531173
2186
את הדפוסים הבינאריים האלה לאותות חזותיים,
08:53
we could really unlock the power of our brains
242
533359
1832
נוכל באמת לשחרר את עוצמת מוחנו
08:55
to process this stuff.
243
535191
2710
לצורך עיבוד הדברים האלה.
08:57
So I started looking at the binary information,
244
537901
1843
אז התחלתי להתבונן במידע הבינארי
08:59
and I asked myself, what do I do
245
539744
1090
ושאלתי את עצמי מה אני עושה
09:00
when I first encounter something like this?
246
540834
1876
כשאני נתקל לראשונה במשהו כזה?
09:02
And the very first thing I want to do,
247
542710
1623
והדבר הראשון שאני רוצה לעשות,
09:04
the very first question I want to answer,
248
544333
1359
השאלה הראשונה שאני רוצה לשאול
09:05
is what is this?
249
545692
1278
היא: "מה זה?"
09:06
I don't care what it does, how it works.
250
546970
2528
לא איכפת לי מה זה עושה או איך זה עובד.
09:09
All I want to know is, what is this?
251
549498
2479
אני רק רוצה לדעת מה זה.
09:11
And the way I can figure that out
252
551977
1675
והדרך בה אני יכול לגלות מה זה
09:13
is by looking at chunks,
253
553652
1683
היא להתבונן בגושים,
09:15
sequential chunks of binary information,
254
555335
2453
גושים רציפים של מידע בינארי,
09:17
and I look at the relationships between those chunks.
255
557788
2902
ואני מתבונן ביחסים שבין הגושים האלה.
09:20
When I gather up enough of these sequences,
256
560690
1772
כשיש לי מספיק רצפים כאלה,
09:22
I begin to get an idea of exactly
257
562462
2004
אני מתחיל לקבל מושג מדויק
09:24
what this information must be.
258
564466
2634
מהו ודאי המידע הזה.
09:27
So let's go back to that
259
567100
1184
אז כעת הבה נחזור
09:28
blow up the terrorist's phone situation.
260
568284
2090
לדוגמה של פיצוץ הטלפון של המחבל.
09:30
This is what English text looks like
261
570374
2203
ככה נראה טקסט באנגלית
09:32
at a binary level.
262
572577
1313
ברמה הבינארית.
09:33
This is what your contacts list would look like
263
573890
2326
ככה נראית רשימת אנשי-קשר
09:36
if I were examining it.
264
576216
1560
אילו בדקנו אותה.
09:37
It's really hard to analyze this at this level,
265
577776
2234
קשה מאד לנתח את זה ברמה הזאת,
09:40
but if we take those same binary chunks
266
580010
2104
אבל אם ניקח את אותם גושי מידע בינארי
09:42
that I would be trying to find,
267
582114
1182
שאני מנסה למצוא, ונתרגם אותם
09:43
and instead translate that
268
583296
1764
09:45
to a visual representation,
269
585060
1920
לייצוג חזותי,
09:46
translate those relationships,
270
586980
1797
נתרגם את היחסים ביניהם,
09:48
this is what we get.
271
588777
1556
זה מה שנקבל.
09:50
This is what English text looks like
272
590333
1914
ככה נראה טקסט באנגלית
09:52
from a visual abstraction perspective.
273
592247
2671
מנקודת-מבט חזותית מופשטת.
09:54
All of a sudden,
274
594918
1140
לפתע פתאום אנו רואים את אותו המידע
09:56
it shows us all the same information
275
596058
1435
09:57
that was in the ones and zeros,
276
597493
1172
שהיה קודם בצורת אחדות ואפסים,
09:58
but show us it in an entirely different way,
277
598665
2321
בצורה שונה לחלוטין,
10:00
a way that we can immediately comprehend.
278
600986
1717
צורה שאנו יכולים לתפוש מיד.
10:02
We can instantly see all of the patterns here.
279
602703
2965
אנו רואים כאן מיד את כל הדפוסים.
10:05
It takes me seconds to pick out patterns here,
280
605668
2592
אני מזהה תוך שניות את הדפוסים כאן,
10:08
but hours, days, to pick them out
281
608260
2254
אבל יידרשו לי שעות וימים לזהות אותם
10:10
in ones and zeros.
282
610514
1320
באחדות ואפסים.
10:11
It takes minutes for anybody to learn
283
611834
1736
כל אחד יכול ללמוד תוך דקות
10:13
what these patterns represent here,
284
613570
1665
מה מייצגים כאן הדפוסים האלה,
10:15
but years of experience in cyber
285
615235
2247
אבל יידרשו לו שנים של נסיון-סייבר
10:17
to learn what those same patterns represent
286
617482
1654
ללמוד מה אותם הדפוסים מייצגים
10:19
in ones and zeros.
287
619136
1586
באחדות ואפסים.
10:20
So this piece is caused by
288
620722
1662
הקטע הזה נוצר
10:22
lower case letters followed by lower case letters
289
622384
2024
ע"י אותיות קטנות אחרי אותיות קטנות
10:24
inside of that contact list.
290
624408
1767
ברשימת אנשי הקשר.
10:26
This is upper case by upper case,
291
626175
1341
כאן זו אות גדולה אחרי אות גדולה,
10:27
upper case by lower case, lower case by upper case.
292
627516
2685
אות גדולה אחרי אות קטנה, אות קטנה אחרי אות גדולה.
10:30
This is caused by spaces. This is caused by carriage returns.
293
630201
2686
זה נוצר ע"י תווי רווח, זה נוצר ע"י תווי "אנטר".
10:32
We can go through every little detail
294
632887
1508
אפשר לעבור על כל פרט ופרט של המידע הבינארי תוך שניות,
10:34
of the binary information in seconds,
295
634395
2966
10:37
as opposed to weeks, months, at this level.
296
637361
3534
לעומת שבועות וחודשים ברמה הזאת.
10:40
This is what an image looks like
297
640895
1512
ככה נראית תמונה
10:42
from your cell phone.
298
642407
1876
מהטלפון הנייד שלכם.
10:44
But this is what it looks like
299
644283
1013
אבל ככה היא נראית
10:45
in a visual abstraction.
300
645296
1891
כהפשטה חזותית.
10:47
This is what your music looks like,
301
647187
1985
ככה נראית המוסיקה שלכם,
10:49
but here's its visual abstraction.
302
649172
2203
אבל זאת ההפשטה החזותית שלה.
10:51
Most importantly for me,
303
651375
1760
הכי חשוב, מבחינתי,
10:53
this is what the code on your cell phone looks like.
304
653135
3275
כך נראה הקוד בטלפון הנייד שלכם.
10:56
This is what I'm after in the end,
305
656410
2157
ואותו אני מחפש, בסופו של דבר,
10:58
but this is its visual abstraction.
306
658567
2140
אבל זאת ההפשטה החזותית שלו.
11:00
If I can find this, I can't make the phone explode.
307
660707
2509
אם אוכל למצוא את זה, אוכל לגרום לטלפון להתפוצץ.
11:03
I could spend weeks trying to find this
308
663216
2619
אני יכול לחפש את זה במשך שבועות
11:05
in ones and zeros,
309
665835
1177
באחדות ואפסים,
11:07
but it takes me seconds to pick out
310
667012
1784
אבל אני אזהה זאת תוך שניות
11:08
a visual abstraction like this.
311
668796
3304
בהפשטה חזותית כזאת.
11:12
One of those most remarkable parts about all of this
312
672100
2492
אחד הדברים הכי מעניינים בכל זה
11:14
is it gives us an entirely new way to understand
313
674592
2832
הוא שזה נותן לנו דרך חדשה לגמרי להבין
11:17
new information, stuff that we haven't seen before.
314
677424
3239
מידע חדש, דברים שלא ראינו לפני כן.
11:20
So I know what English looks like at a binary level,
315
680663
2504
אז אני יודע איך נראית אנגלית ברמה הבינארית,
11:23
and I know what its visual abstraction looks like,
316
683167
2110
ואני יודע איך היא נראית בהפשטה חזותית,
11:25
but I've never seen Russian binary in my entire life.
317
685277
3315
אבל מעולם לא ראיתי רוסית בינארית.
11:28
It would take me weeks just to figure out
318
688592
1800
יידרשו לי שבועות רק כדי להבין
11:30
what I was looking at from raw ones and zeros,
319
690392
2997
מה אני רואה ברמה הגולמית של אחדות ואפסים,
11:33
but because our brains can instantly pick up
320
693389
1751
אבל היות שהמוח שלנו מסוגל לראות מיד
11:35
and recognize these subtle patterns inside
321
695140
2817
ולזהות את הדפוסים העדינים האלה
11:37
of these visual abstractions,
322
697957
1488
שבהפשטות החזותיות האלו,
11:39
we can unconsciously apply those
323
699445
1832
הרי שאנו יכולים באופן בלתי-מודע ליישם זאת
11:41
in new situations.
324
701277
1573
במצבים חדשים.
11:42
So this is what Russian looks like
325
702850
1482
אז כך נראית רוסית
11:44
in a visual abstraction.
326
704332
1580
בהפשטה חזותית.
11:45
Because I know what one language looks like,
327
705912
1804
העובדה שאני יודע איך נראית שפה אחת,
11:47
I can recognize other languages
328
707716
1576
מאפשרת לי לזהות שפות אחרות
11:49
even when I'm not familiar with them.
329
709292
1870
אפילו אם הן זרות לי.
11:51
This is what a photograph looks like,
330
711162
1786
כך נראה צילום,
11:52
but this is what clip art looks like.
331
712948
1887
וכך נראה קובץ גרפי.
11:54
This is what the code on your phone looks like,
332
714835
2555
כך נראה הקוד בטלפון שלכם,
11:57
but this is what the code on your computer looks like.
333
717390
2707
וכך נראה הקוד במחשב שלכם.
12:00
Our brains can pick up on these patterns
334
720097
1864
מוחנו מסוגל לזהות דפוסים אלה
12:01
in ways that we never could have
335
721961
1951
כפי שלא היינו מצליחים
12:03
from looking at raw ones and zeros.
336
723912
2496
מתוך התבוננות באחדות ובאפסים גולמיים.
12:06
But we've really only scratched the surface
337
726408
1856
אבל אנו רק מגרדים את פני השטח
12:08
of what we can do with this approach.
338
728264
2137
של מה שאפשר להשיג בגישה הזאת.
12:10
We've only begun to unlock the capabilities
339
730401
1678
רק התחלנו לשחרר את היכולות האלה של מוחנו
12:12
of our minds to process visual information.
340
732079
3315
בעיבוד מידע חזותי.
12:15
If we take those same concepts and translate them
341
735394
1990
אם ניקח את התפישות האלה ונתרגם אותן
12:17
into three dimensions instead,
342
737384
1651
לשלושה מימדים,
12:19
we find entirely new ways of making sense of information.
343
739035
3195
נגלה דרכים חדשות לגמרי להבנת מידע.
12:22
In seconds, we can pick out every pattern here.
344
742230
2485
נוכל תוך שניות לזהות כאן כל דפוס.
12:24
we can see the cross associated with code.
345
744715
1820
נוכל לראות את הצלב הקשור לקוד.
12:26
We can see cubes associated with text.
346
746535
1932
נוגל לראות קוביות שקשורות לטקסט.
12:28
We can even pick up the tiniest visual artifacts.
347
748467
2476
נוכל אפילו לזהות את הפריטים החזותיים הזעירים ביותר.
12:30
Things that would take us weeks,
348
750943
2130
דברים שהיו נדרשים לנו שבועות וחודשים
12:33
months to find in ones and zeroes,
349
753073
2194
כדי לאתר באחדות ואפסים,
12:35
are immediately apparent
350
755267
1803
נגלים מיד לעין
12:37
in some sort of visual abstraction,
351
757070
2270
בסוג כלשהו של הפשטה חזותית,
12:39
and as we continue to go through this
352
759340
1132
וככל שנמשיך לעבור על זה
12:40
and throw more and more information at it,
353
760472
2016
ולערום עוד ועוד מידע,
12:42
what we find is that we're capable of processing
354
762488
2281
נגלה שאנו מסוגלים לעבד
12:44
billions of ones and zeros
355
764769
2416
מיליארדי אחדות ואפסים
12:47
in a matter of seconds
356
767185
1168
תוך שניות
12:48
just by using our brain's built-in ability
357
768353
3234
פשוט בכך שנשתמש ביכולת הטבעית של מוחנו
12:51
to analyze patterns.
358
771587
1954
לנתח דפוסים.
12:53
So this is really nice and helpful,
359
773541
2303
אז זה נחמד ומועיל,
12:55
but all this tells me is what I'm looking at.
360
775844
2359
אבל זה רק אומר לי על מה אני מסתכל.
12:58
So at this point, based on visual patterns,
361
778203
1484
אז בשלב זה, על סמך דפוסים חזותיים,
12:59
I can find the code on the phone.
362
779687
2409
אני מסוגל למצוא את הקוד בטלפון.
13:02
But that's not enough to blow up a battery.
363
782096
2665
אבל אין בכך די כדי לפוצץ סוללה.
13:04
The next thing I need to find is the code
364
784761
1568
הדבר הבא שעלי למצוא הוא הקוד
13:06
that controls the battery, but we're back
365
786329
1761
ששולט בסוללה, אבל אז אנו חוזרים
13:08
to the needle in a stack of needles problem.
366
788090
1731
לבעיית המחט בערימת המחטים.
13:09
That code looks pretty much like all the other code
367
789821
2389
הקוד נראה דומה למדי לכל יתר הביטויים
13:12
on that system.
368
792210
2238
במערכת.
13:14
So I might not be able to find the code that controls the battery,
369
794448
2401
אז ייתכן שלא אצליח למצוא את הקוד ששולט בסוללה,
13:16
but there's a lot of things that are very similar to that.
370
796849
2011
אבל יש המון דברים דומים לו.
13:18
You have code that controls your screen,
371
798860
1854
יש קודים ששולטים במסך,
13:20
that controls your buttons, that controls your microphones,
372
800714
2216
בלחצנים, במיקרופון,
13:22
so even if I can't find the code for the battery,
373
802930
1928
אז אפילו אם לא אצליח לאתר את הקוד של הסוללה,
13:24
I bet I can find one of those things.
374
804858
2245
בטוח שאצליח למצוא אחד מהדברים האלה.
13:27
So the next step in my binary analysis process
375
807103
2705
אז השלב הבא בתהליך הניתוח הבינארי שלי
13:29
is to look at pieces of information
376
809808
1231
הוא לבחון קטעי מידע שדומים זה לזה.
13:31
that are similar to each other.
377
811039
2018
13:33
It's really, really hard to do at a binary level,
378
813057
3983
מאד מאד קשה לעשות זאת ברמה הבינארית,
13:37
but if we translate those similarities to a visual abstraction instead,
379
817040
3643
אבל אם נתרגם את הזהויות האלה להפשטה חזותית,
13:40
I don't even have to sift through the raw data.
380
820683
2438
אני לא צריך אפילו לחטט בנתונים הגולמיים.
13:43
All I have to do is wait for the image to light up
381
823121
2155
עלי רק להמתין עד שהתמונה תתבהר
13:45
to see when I'm at similar pieces.
382
825276
2236
כדי לראות אם יש לי קטעים דומים.
13:47
I follow these strands of similarity like a trail of bread crumbs
383
827512
3028
אני עוקב אחרי חוטי זהות אלה כמו אחרי נתיב פירורי-לחם
13:50
to find exactly what I'm looking for.
384
830540
3106
כדי למצוא בדיוק את מה שאני מחפש.
13:53
So at this point in the process,
385
833646
1734
אז בשלב הזה בתהליך
13:55
I've located the code
386
835380
1318
איתרתי את הקוד
13:56
responsible for controlling your battery,
387
836698
1685
שאחראי לשליטה בסוללה שלכם,
13:58
but that's still not enough to blow up a phone.
388
838383
2576
אבל זה עדיין לא מספיק כדי לפוצץ טלפון.
14:00
The last piece of the puzzle
389
840959
1564
הפיסה האחרונה בתצרף
14:02
is understanding how that code
390
842523
2679
היא להבין איך הקוד הזה שולט בסוללה שלכם.
14:05
controls your battery.
391
845202
1202
14:06
For this, I need to identify
392
846404
2388
לשם כך עלי לזהות
14:08
very subtle, very detailed relationships
393
848792
1716
יחסים סמויים ומפורטים מאד
14:10
within that binary information,
394
850508
2089
בתוך המידע הבינארי הזה,
14:12
another very hard thing to do
395
852597
1755
וגם את זה קשה מאד לעשות כשבוחנים אחדות ואפסים.
14:14
when looking at ones and zeros.
396
854352
2312
14:16
But if we translate that information
397
856664
1396
אבל אם נתרגם את המידע הזה לייצוג פיזי
14:18
into a physical representation,
398
858060
2180
14:20
we can sit back and let our visual cortex do all the hard work.
399
860240
3016
אפשר לשבת בנוחות ולהשאיר את כל העבודה הקשה לקליפת הראייה במוח.
14:23
It can find all the detailed patterns,
400
863256
1734
היא מסוגלת למצוא את כל הדפוסים המפורטים,
14:24
all the important pieces, for us.
401
864990
2020
את כל הקטעים החשובים, למעננו.
14:27
It can find out exactly how the pieces of that code
402
867010
2593
היא יכולה למצוא איך בדיוק קטעי הקוד הזה
14:29
work together to control that battery.
403
869603
2934
פועלים במשולב כדי לשלוט בסוללה.
14:32
All of this can be done in a matter of hours,
404
872537
3004
אפשר לעשות את כל זה תוך שעות ספורות,
14:35
whereas the same process
405
875541
1356
בעוד שאותו תהליך דרש בעבר חודשים.
14:36
would have taken months in the past.
406
876897
2922
14:39
This is all well and good
407
879819
1189
כל זה טוב ויפה
14:41
in a theoretical blow up a terrorist's phone situation.
408
881008
2942
כשמדובר בתרחיש תיאורטי של פיצוץ טלפון של מחבל.
14:43
I wanted to find out if this would really work
409
883950
2847
רציתי לגלות אם זה יצליח
14:46
in the work I do every day.
410
886797
2629
בעבודה היומיומית שלי.
14:49
So I was playing around with these same concepts
411
889426
3055
אז השתעשעתי לי עם רעיונות כאלה
14:52
with some of the data I've looked at in the past,
412
892481
3024
בחלק מהמידע שבחנתי בעבר,
14:55
and yet again, I was trying to find
413
895505
2492
ושוב, ניסיתי למצוא
14:57
a very detailed, specific piece of code
414
897997
2208
קטע קוד מפורט וספציפי מאד
15:00
inside of a massive piece of binary information.
415
900205
3595
בתוך גוש מסיבי של מידע בינארי.
15:03
So I looked at it at this level,
416
903800
1773
אז בחנתי את זה ברמה הזו,
15:05
thinking I was looking at the right thing,
417
905573
1950
במחשבה שאני מתבונן בדבר הנכון,
15:07
only to see this doesn't have
418
907523
2321
אבל גיליתי
15:09
the connectivity I would have expected
419
909844
1740
שאין כאן הקישוריות שהייתי מצפה למצוא
15:11
for the code I was looking for.
420
911584
1905
בקוד שאני מחפש.
15:13
In fact, I'm not really sure what this is,
421
913489
2603
למעשה, בכלל לא ידעתי מה זה,
15:16
but when I stepped back a level
422
916092
1012
אבל כשעליתי רמה ובחנתי את הזהויות שבתוך הקוד,
15:17
and looked at the similarities within the code
423
917104
1715
15:18
I saw, this doesn't have similarities
424
918819
2294
ראיתי שאין בו זהויות כמו בכל קוד אחר.
15:21
like any code that exists out there.
425
921113
1491
15:22
I can't even be looking at code.
426
922604
2225
אולי אני בכלל לא מסתכל על קטע קוד.
15:24
In fact, from this perspective,
427
924829
2386
למעשה, מנקודת המבט הזאת,
15:27
I could tell, this isn't code.
428
927215
2048
יכולתי לקבוע שזה איננו קוד.
15:29
This is an image of some sort.
429
929263
2048
זאת תמונה כלשהי.
15:31
And from here, I can see,
430
931311
1682
ומכאן אני יכול לראות
15:32
it's not just an image, this is a photograph.
431
932993
2911
שזאת לא סתם תמונה, אלא צילום.
15:35
Now that I know it's a photograph,
432
935904
1392
משהתברר לי שזה צילום,
15:37
I've got dozens of other binary translation techniques
433
937296
2930
עומדות לרשותי עשרות טכניקות תרגום בינארי
15:40
to visualize and understand that information,
434
940226
2421
כדי להפוך מידע זה לחזותי ולהבינו,
15:42
so in a matter of seconds, we can take this information,
435
942647
2543
אז אנו יכולים תוך שניות לקחת את המידע הזה,
15:45
shove it through a dozen other visual translation techniques
436
945190
2397
להעביר אותו דרך עוד עשר טכניקות תרגום חזותי
15:47
in order to find out exactly what we were looking at.
437
947587
3731
כדי לגלות על מה אנו בעצם מסתכלים.
15:51
I saw — (Laughter) —
438
951318
1682
ראיתי -- [צחוק]
15:53
it was that darn kitten again.
439
953000
3456
זה שוב החתלתול המעצבן הזה.
15:56
All this is enabled
440
956456
1050
כל זה התאפשר
15:57
because we were able to find a way
441
957506
1495
הודות לכך שיכולנו למצוא דרך
15:59
to translate a very hard problem
442
959001
2029
לתרגם בעיה קשה מאד
16:01
to something our brains do very naturally.
443
961030
2512
למשהו שמוחנו מסוגל לעשות באופן טבעי ביותר.
16:03
So what does this mean?
444
963542
2238
אז מה זה אומר?
16:05
Well, for kittens, it means
445
965780
1545
מבחינת החתלתולים זה אומר
16:07
no more hiding in ones and zeros.
446
967325
2417
שהם כבר לא יכולים להסתתר בין האחדות והאפסים.
16:09
For me, it means no more wasted weekends.
447
969742
3303
מבחינתי זה אומר לא עוד סופי-שבוע מבוזבזים.
16:13
For cyber, it means we have a radical new way
448
973045
2612
מבחינת אבטחת המחשבים זה אומר שיש לנו שיטה חדשה ורדיקלית
16:15
to tackle the most impossible problems.
449
975657
2965
להתמודדות עם הבעיות הכי בלתי-אפשריות.
16:18
It means we have a new weapon
450
978622
1812
זה אומר שיש לנו נשק חדש
16:20
in the evolving theater of cyber warfare,
451
980434
2416
בזירה המתפתחת של הלוחמה הממוחשבת,
16:22
but for all of us,
452
982850
1420
אבל מבחינת כולנו,
16:24
it means that cyber engineers
453
984270
1475
זה אומר שמהנדסי אבטחת המחשבים
16:25
now have the ability to become first responders
454
985745
2146
מצוידים כעת ביכולת להגיב ראשונים
16:27
in emergency situations.
455
987891
2583
במצבי חירום.
16:30
When seconds count,
456
990474
1047
כשכל שניה קובעת,
16:31
we've unlocked the means to stop the bad guys.
457
991521
3409
גילינו את האמצעים כיצד לעצור את הרעים.
16:34
Thank you.
458
994930
2000
תודה לכם.
16:36
(Applause)
459
996930
2962
[מחיאות כפיים]
על אתר זה

אתר זה יציג בפניכם סרטוני YouTube המועילים ללימוד אנגלית. תוכלו לראות שיעורי אנגלית המועברים על ידי מורים מהשורה הראשונה מרחבי העולם. לחץ פעמיים על הכתוביות באנגלית המוצגות בכל דף וידאו כדי להפעיל את הסרטון משם. הכתוביות גוללות בסנכרון עם הפעלת הווידאו. אם יש לך הערות או בקשות, אנא צור איתנו קשר באמצעות טופס יצירת קשר זה.

https://forms.gle/WvT1wiN1qDtmnspy7