Lorrie Faith Cranor: What's wrong with your pa$$w0rd?

139,691 views ・ 2014-06-24

TED


אנא לחץ פעמיים על הכתוביות באנגלית למטה כדי להפעיל את הסרטון.

מתרגם: Shira Salingré מבקר: Oren Szekatch
00:12
I am a computer science and engineering professor here at Carnegie Mellon,
0
12535
3445
אני פרופסור להנדסת מחשבים ומדעי המחשב כאן בקרנגי מלון
00:15
and my research focuses on usable privacy and security,
1
15980
4248
והמחקר שלי מתמקד בפרטיות ואבטחת מידע שמישים.
00:20
and so my friends like to give me examples
2
20228
2768
אז חברים שלי אוהבים לתת לי דוגמאות
00:22
of their frustrations with computing systems,
3
22996
2202
של התסכול שלהם ממערכות ממוחשבות
00:25
especially frustrations related to
4
25198
3354
במיוחד כשזה מתקשר
00:28
unusable privacy and security.
5
28552
4112
לפרטיות ואבטחה לא-שמישיים.
00:32
So passwords are something that I hear a lot about.
6
32664
2711
אז סיסמאות זה משהו שאני שומעת עליו הרבה.
00:35
A lot of people are frustrated with passwords,
7
35375
2880
הרבה אנשים מתוסכלים מסיסמאות,
00:38
and it's bad enough
8
38255
1694
וזה מספיק גרוע
00:39
when you have to have one really good password
9
39949
2644
כשאתם צריכים למצוא סיסמה אחת ממש טובה
00:42
that you can remember
10
42593
1822
שאתם יכולים לזכור
00:44
but nobody else is going to be able to guess.
11
44415
2894
אבל אף אחד אחר לא יוכל לנחש.
00:47
But what do you do when you have accounts
12
47309
1637
אבל מה אתם עושים כשיש לכם חשבונות משתמשים
00:48
on a hundred different systems
13
48946
1808
במאות מערכות שונות
00:50
and you're supposed to have a unique password
14
50754
2276
ואמורה להיות לכם סיסמה ייחודית
00:53
for each of these systems?
15
53030
3037
לכל אחת מהן?
00:56
It's tough.
16
56067
2184
זה כבר מסובך.
00:58
At Carnegie Mellon, they used to make it
17
58251
1759
בקרנגי מלון, זה היה
01:00
actually pretty easy for us
18
60010
1299
די פשוט עבורנו
01:01
to remember our passwords.
19
61309
1737
לזכור סיסמאות.
01:03
The password requirement up through 2009
20
63046
2403
עד לשנת 2009 הדרישה לסיסמה
01:05
was just that you had to have a password
21
65449
2379
הייתה רק שתהיה לך סיסמה
01:07
with at least one character.
22
67828
2211
עם תו אחד לפחות.
01:10
Pretty easy. But then they changed things,
23
70039
2888
די פשוט. אבל אז הדברים השתנו,
01:12
and at the end of 2009, they announced
24
72927
2670
ובסוף שנת 2009, הודיעו
01:15
that we were going to have a new policy,
25
75597
2376
שבקרוב תהיה מדיניות חדשה,
01:17
and this new policy required
26
77973
1863
והמדיניות החדשה דרשה
01:19
passwords that were at least eight characters long,
27
79836
2681
סיסמה שאורכה לפחות 8 תווים
01:22
with an uppercase letter, lowercase letter,
28
82517
1775
שכוללת אותיות גדולות, אותיות קטנות,
01:24
a digit, a symbol,
29
84292
1288
ספרה, סימן,
01:25
you couldn't use the same character more than three times,
30
85580
2638
אסור להשתמש באותו תו יותר משלוש פעמים
01:28
and it wasn't allowed to be in a dictionary.
31
88218
2434
ואסור היה שזה יופיע במילון.
01:30
Now, when they implemented this new policy,
32
90652
2182
עכשיו, כשהמדיניות החדשה נכנסה לתוקף,
01:32
a lot of people, my colleagues and friends,
33
92834
2310
הרבה אנשים, הקולגות שלי וחבריי,
01:35
came up to me and they said, "Wow,
34
95144
1854
פנו אליי ואמרו: "וואו,
01:36
now that's really unusable.
35
96998
1512
עכשיו זה ממש לא שימושי.
01:38
Why are they doing this to us,
36
98510
1193
למה הם עושים לנו את זה,
01:39
and why didn't you stop them?"
37
99703
1711
ולמה לא עצרת בעדם?"
01:41
And I said, "Well, you know what?
38
101414
1356
ואני אומרת: "אתם יודעים מה?
01:42
They didn't ask me."
39
102770
1508
אף אחד לא שאל אותי."
01:44
But I got curious, and I decided to go talk
40
104278
3465
אבל זה סקרן אותי, והחלטתי לדבר
01:47
to the people in charge of our computer systems
41
107743
1937
עם האנשים שאחראים על המערכות הממוחשבות שלנו
01:49
and find out what led them to introduce
42
109680
2831
ולברר מה הוביל אותם להנהיג
01:52
this new policy,
43
112511
1848
את המדיניות החדשה הזו,
והם אמרו שהאוניברסיטה
01:54
and they said that the university
44
114359
1584
01:55
had joined a consortium of universities,
45
115943
2366
הצטרפה להתאגדות של אוניברסיטאות
01:58
and one of the requirements of membership
46
118309
2634
ואחד התנאים להצטרפות היה
02:00
was that we had to have stronger passwords
47
120943
2248
שיהיו לנו סיסמאות יותר חזקות
02:03
that complied with some new requirements,
48
123191
2272
שיענו על כמה דרישות חדשות,
02:05
and these requirements were that our passwords
49
125463
2104
והדרישות הללו היו שבסיסמאות שלנו
02:07
had to have a lot of entropy.
50
127567
1604
תהיה חייבת להיות הרבה אנתרופיה.
02:09
Now entropy is a complicated term,
51
129171
2278
עכשיו, אנתרופיה זה מושג מסובך,
02:11
but basically it measures the strength of passwords.
52
131449
2798
אבל בגדול, זה מדד לחוזק של סיסמה.
02:14
But the thing is, there isn't actually
53
134247
1979
העניין הוא שאין בעצם
02:16
a standard measure of entropy.
54
136226
1949
יחידת מידה מקובלת לאנתרופיה.
02:18
Now, the National Institute of Standards and Technology
55
138175
2399
למכון הלאומי לסטנדרטים וטכנולוגיה
02:20
has a set of guidelines
56
140574
1553
יש סדרה של קווים מנחים
02:22
which have some rules of thumb
57
142127
2568
שמורכבים מכללי אצבע
02:24
for measuring entropy,
58
144695
1440
עבור מדידת אנתרופיה,
02:26
but they don't have anything too specific,
59
146135
2895
אבל אין להם משהו מוגדר מדי.
02:29
and the reason they only have rules of thumb
60
149030
2337
ומסתבר שהסיבה שיש להם רק כללי אצבע,
02:31
is it turns out they don't actually have any good data
61
151367
3136
היא שאין להם נתונים איכותיים
02:34
on passwords.
62
154503
1520
בנוגע לסיסמאות.
02:36
In fact, their report states,
63
156023
2312
למען האמת, בדו"ח שלהם הם מצהירים:
02:38
"Unfortunately, we do not have much data
64
158335
2328
"למרבה הצער, אין לי די נתונים
02:40
on the passwords users choose under particular rules.
65
160663
2842
על הסיסמאות שמשתמשים בוחרים על פי כללים ספציפיים...
02:43
NIST would like to obtain more data
66
163505
2333
מלס"ט שואף להשיג נתונים נוספים
02:45
on the passwords users actually choose,
67
165838
2462
בנוגע לסיסמאות שמשתמשים אכן בוחרים,
02:48
but system administrators are understandably reluctant
68
168300
2463
אך מנהלי מערכות מסתייגים, כמובן,
02:50
to reveal password data to others."
69
170763
2940
מחשיפת נתוני סיסמאות לאחרים."
02:53
So this is a problem, but our research group
70
173703
3097
אז יש לנו כאן בעיה, אבל קבוצת המחקר שלנו
02:56
looked at it as an opportunity.
71
176800
2140
הסתכלה על זה כהזדמנות.
02:58
We said, "Well, there's a need for good password data.
72
178940
3100
אמרנו "טוב, יש כאן איזה צורך לנתונים איכותיים על סיסמאות,
03:02
Maybe we can collect some good password data
73
182040
2148
אולי נוכל לאסוף נתונים שכאלה
03:04
and actually advance the state of the art here.
74
184188
2704
ובכך לקדם את עדכניות הנתונים הקיימים."
03:06
So the first thing we did is,
75
186892
1672
אז הדבר הראשון שעשינו,
03:08
we got a bag of candy bars
76
188564
1556
לקחנו שק של ממתקים,
03:10
and we walked around campus
77
190120
1086
הסתובבנו בקמפוס
03:11
and talked to students, faculty and staff,
78
191206
2798
ודיברנו עם סטודנטים, סגל ההוראה והצוות,
03:14
and asked them for information
79
194004
1530
וביקשנו מהם מידע
03:15
about their passwords.
80
195534
1552
בנוגע לסיסמאות שלהם.
03:17
Now we didn't say, "Give us your password."
81
197086
3004
עכשיו, לא ניגשנו אליהם ושאלנו "מה הסיסמה שלך?"
03:20
No, we just asked them about their password.
82
200090
2661
לא ולא, רק שאלנו אותם שאלות בנוגע לסיסמאות שלהם.
03:22
How long is it? Does it have a digit?
83
202751
1478
מה אורך הסיסמה? האם יש בה ספרה?
03:24
Does it have a symbol?
84
204229
1068
האם יש בה סימן?
03:25
And were you annoyed at having to create
85
205297
2045
והאם הרגיז אתכם הצורך ליצור
03:27
a new one last week?
86
207342
2744
סיסמה חדשה שבוע שעבר?
03:30
So we got results from 470 students,
87
210086
3206
קיבלנו תוצאות מ-470 סטודנטים,
03:33
faculty and staff,
88
213292
971
סגל הוראה וצוות,
03:34
and indeed we confirmed that the new policy
89
214263
2514
ואכן מצאנו שהמדיניות החדשה
03:36
was very annoying,
90
216777
1453
הייתה מאוד מרגיזה.
03:38
but we also found that people said
91
218230
1792
אבל מצאנו גם כן, שאנשים אמרו
03:40
they felt more secure with these new passwords.
92
220022
3130
שהם מרגישים בטוחים יותר עם הסיסמאות הללו.
03:43
We found that most people knew
93
223152
2306
מצאנו שרוב האנשים ידעו
03:45
they were not supposed to write their password down,
94
225458
2152
שהם לא אמורים לרשום את הסיסמה שלהם בשום מקום
03:47
and only 13 percent of them did,
95
227610
2391
ורק 13 אחוזים מהם עשו זאת,
03:50
but disturbingly, 80 percent of people
96
230001
2416
אך, באופן מטריד, 80 אחוזים מהם
03:52
said they were reusing their password.
97
232417
2124
אמרו כי הם "ממחזרים" את הסיסמה שלהם.
03:54
Now, this is actually more dangerous
98
234541
1796
האמת היא שזה יותר מסוכן
03:56
than writing your password down,
99
236337
2022
מאשר לרשום את הסיסמה איפשהו,
03:58
because it makes you much more susceptible to attackers.
100
238359
3561
כיוון שזה הופך אתכם להרבה יותר פגיעים.
04:01
So if you have to, write your passwords down,
101
241920
3118
אז אם אתם מוכרחים, רשמו לכם את הסיסמה שלכם,
04:05
but don't reuse them.
102
245038
1799
אך אל תמחזרו אותה.
04:06
We also found some interesting things
103
246837
1751
מצאנו גם נתונים מעניינים
04:08
about the symbols people use in passwords.
104
248588
2961
על סימנים שאנשים עושים בהם שימוש בסיסמאות.
04:11
So CMU allows 32 possible symbols,
105
251549
2799
האוניברסיטה מאפשרת להכניס 32 תווים סימנים
04:14
but as you can see, there's only a small number
106
254348
2433
אך כמו שניתן לראות, אנשים משתמשים
04:16
that most people are using,
107
256781
1802
רק במספר קטן של תווים,
04:18
so we're not actually getting very much strength
108
258583
2941
כך שלמעשה איננו מקבלים סיסמאות חזקות יותר
04:21
from the symbols in our passwords.
109
261524
2466
משימוש בסימנים בסיסמאות שלנו.
04:23
So this was a really interesting study,
110
263990
2711
זה היה מחקר מעניין,
04:26
and now we had data from 470 people,
111
266701
2464
ועכשיו היו לנו נתונים מ-470 אנשים,
04:29
but in the scheme of things,
112
269165
1305
אבל במכלול של הדברים,
04:30
that's really not very much password data,
113
270470
2580
אין כאן הרבה נתוני סיסמאות.
04:33
and so we looked around to see
114
273050
1445
אז אנחנו מסתכלים סביב ומחפשים
04:34
where could we find additional password data?
115
274495
2560
איפה נוכל למצוא נתוני סיסמאות נוספים?
04:37
So it turns out there are a lot of people
116
277055
2176
מתברר שיש הרבה אנשים
04:39
going around stealing passwords,
117
279231
2202
שגונבים סיסמאות.
04:41
and they often go and post these passwords
118
281433
2477
ולעיתים תכופות הם יפרסמו את
04:43
on the Internet.
119
283910
1337
הסיסמאות הללו באינטרנט.
04:45
So we were able to get access
120
285247
1673
אז הצלחנו לקבל גישה
04:46
to some of these stolen password sets.
121
286920
3970
לכמה מן הסיסמאות הגנובות הללו.
04:50
This is still not really ideal for research, though,
122
290890
2328
זה עדיין לא אידיאלי עבור מחקר
04:53
because it's not entirely clear
123
293218
2037
כיוון שלא לגמרי ברור
04:55
where all of these passwords came from,
124
295255
2184
מאין הגיעו כל הסיסמאות הללו,
04:57
or exactly what policies were in effect
125
297439
2242
או מה הייתה המדיניות
04:59
when people created these passwords.
126
299681
2108
בעת שאנשים יצרו את הסיסמאות הללו.
05:01
So we wanted to find some better source of data.
127
301789
3552
לכן רצינו למצוא מקור טוב יותר עבור הנתונים.
05:05
So we decided that one thing we could do
128
305341
1634
החלטנו שיש דבר אחד שנוכל לעשות
05:06
is we could do a study and have people
129
306975
2129
וזה מחקר, בו
05:09
actually create passwords for our study.
130
309104
3240
אנשים ייצרו סיסמאות עבור המחקר שלנו.
05:12
So we used a service called Amazon Mechanical Turk,
131
312344
2821
אז השתמשנו בשירות שנקרא "אמאזון מכניקל טורק"
05:15
and this is a service where you can post
132
315165
2334
זהו שירות שבו ניתן לפרסם באינטרנט
05:17
a small job online that takes a minute,
133
317499
2304
עבודות קטנות שלוקחות דקה,
05:19
a few minutes, an hour,
134
319803
1500
כמה דקות, שעה,
05:21
and pay people, a penny, ten cents, a few dollars,
135
321303
2584
ולשלם לאנשים, פני, 10 סנט, כמה דולרים,
05:23
to do a task for you,
136
323887
1346
עבור העבודה שהם עושים עבורך,
05:25
and then you pay them through Amazon.com.
137
325233
2122
ואז משלמים להם דרך אמאזון.קום.
05:27
So we paid people about 50 cents
138
327355
2294
אז שילמנו לאנשים בערך 50 סנט
05:29
to create a password following our rules
139
329649
2596
כדי שייצרו עבורנו סיסמאות על פי הכללים שלנו
05:32
and answering a survey,
140
332245
1410
ויענו על סקר.
05:33
and then we paid them again to come back
141
333655
2525
ואז שילמנו להם שוב
05:36
two days later and log in
142
336180
2071
כדי שיחזרו יומיים לאחר מכן ויתחברו למערכת
05:38
using their password and answering another survey.
143
338251
2574
בעזרת הסיסמה שיצרו ויענו על סקר נוסף.
05:40
So we did this, and we collected 5,000 passwords,
144
340825
4464
כך אספנו 5000 סיסמאות.
05:45
and we gave people a bunch of different policies
145
345289
2695
נתנו לאנשים מקבץ של מדיניויות שונות
05:47
to create passwords with.
146
347984
1508
על מנת שייצרו איתם סיסמאות.
05:49
So some people had a pretty easy policy,
147
349492
1910
חלק מהאנשים קיבלו מדיניות מאוד קלה ופשוטה,
05:51
we call it Basic8,
148
351402
1539
קראנו למדיניות הזו בייסיק8,
05:52
and here the only rule was that your password
149
352941
2146
ובה יש רק כלל אחד,
05:55
had to have at least eight characters.
150
355087
3416
שאומר שהסיסמה חייבת להכיל לפחות 8 תווים.
05:58
Then some people had a much harder policy,
151
358503
2251
חלק מהאנשים קיבלו מדיניות הרבה יותר קשה,
06:00
and this was very similar to the CMU policy,
152
360754
2537
שהייתה מאוד דומה למדיניות של אוניברסיטת קרנגי מלון,
06:03
that it had to have eight characters
153
363291
1934
בה הסיסמה הייתה חייבת להכיל 8 תווים,
06:05
including uppercase, lowercase, digit, symbol,
154
365225
2376
המורכבים מאותיות גדולות, אותיות קטנות, ספרה, סימן,
06:07
and pass a dictionary check.
155
367601
2389
ולעבור בדיקה מילונית.
06:09
And one of the other policies we tried,
156
369990
1335
מדיניות נוספת שניסינו,
06:11
and there were a whole bunch more,
157
371325
1270
והיו הרבה יותר,
06:12
but one of the ones we tried was called Basic16,
158
372595
2240
אבל אחת מהן נקראה בייסיק 16
06:14
and the only requirement here
159
374835
2632
וכאן, הדרישה היחידה הייתה
06:17
was that your password had to have at least 16 characters.
160
377467
3153
שהסיסמה תכלול לפחות 16 תווים.
06:20
All right, so now we had 5,000 passwords,
161
380620
2458
טוב, אז בשלב הזה היו לנו 5000 סיסמאות,
06:23
and so we had much more detailed information.
162
383078
3563
כך שהיה לנו מידע הרבה יותר מפורט.
06:26
Again we see that there's only a small number
163
386641
2559
שוב, אנו רואים שאנשים משתמשים
06:29
of symbols that people are actually using
164
389200
1915
רק בסמפר מועט של
06:31
in their passwords.
165
391115
1886
סימנים בסיסמאות שלהם.
06:33
We also wanted to get an idea of how strong
166
393001
2599
רצינו גם לקבל מושג בנוגע לכמה חזקות
06:35
the passwords were that people were creating,
167
395600
2771
היו הסיסמאות שאנשים יצרו,
06:38
but as you may recall, there isn't a good measure
168
398371
2620
אך, כמו שאתם זוכרים, אין אמת מידה
06:40
of password strength.
169
400991
1754
לחוזק של סיסמה.
06:42
So what we decided to do was to see
170
402745
2312
אז החלטנו לבדוק
06:45
how long it would take to crack these passwords
171
405057
2370
כמה זמן ייקח לפצח את הסיסמאות הללו,
06:47
using the best cracking tools
172
407427
1414
בעזרת הכלים הטובים ביותר לפיצוח,
06:48
that the bad guys are using,
173
408841
1808
שהחבר'ה הרעים משתמשים בהם,
06:50
or that we could find information about
174
410649
2016
או כלים שנוכל למצוא מידע עליהם
06:52
in the research literature.
175
412665
1537
בספרות מחקרית.
06:54
So to give you an idea of how bad guys
176
414202
2758
אז כדי לתת לכם מושג איך החבר'ה הרעים
06:56
go about cracking passwords,
177
416960
2170
מצליחים לפצח סיסמאות,
06:59
they will steal a password file
178
419130
1951
הם יגנבו קובץ סיסמה,
07:01
that will have all of the passwords
179
421081
2153
שמכיל את כל הסיסמאות
07:03
in kind of a scrambled form, called a hash,
180
423234
2889
בצורה מפוזרת שכזו, שנקראת האש (גיבוב),
07:06
and so what they'll do is they'll make a guess
181
426123
2562
ואז ינחשו
07:08
as to what a password is,
182
428685
1712
מהי הסיסמה,
07:10
run it through a hashing function,
183
430397
1897
יריצו את זה בפונקציה של גיבוב,
07:12
and see whether it matches
184
432294
1765
ויראו אם זה מתאים
07:14
the passwords they have on their stolen password list.
185
434059
3950
לסיסמאות שיש להם ברשימה הגנובה.
07:18
So a dumb attacker will try every password in order.
186
438009
3105
אז תוקף טיפש ינסה כל סיסמה לפי הסדר.
07:21
They'll start with AAAAA and move on to AAAAB,
187
441114
3568
הם יתחילו עם AAAAA, ימשיכו ל AAAAB
07:24
and this is going to take a really long time
188
444682
2418
וזה ייקח המון זמן
07:27
before they get any passwords
189
447100
1526
עד שיצליחו למצוא סיסמה כלשהי
07:28
that people are really likely to actually have.
190
448626
2697
שסביר שאנשים ישתמשו בה.
07:31
A smart attacker, on the other hand,
191
451323
2183
מצד שני, תוקף חכם
07:33
does something much more clever.
192
453506
1386
יעשה דבר הרבה יותר מתוחכם.
07:34
They look at the passwords
193
454892
1826
הם יסתכלו על הסיסמאות,
07:36
that are known to be popular
194
456718
1800
שידועות כפופולריות
07:38
from these stolen password sets,
195
458518
1727
מהסדרות של הגנובות הללו של הסיסמאות,
07:40
and they guess those first.
196
460245
1189
והם ינחשו את הסיסמאות האלה קודם כל.
07:41
So they're going to start by guessing "password,"
197
461434
2134
כך שהם יתחילו בניחוש "סיסמה"
07:43
and then they'll guess "I love you," and "monkey,"
198
463568
2751
והם ינחשו "אני אוהב אותך" ו"קוף",
07:46
and "12345678,"
199
466319
2583
וגם "12345678"
07:48
because these are the passwords
200
468902
1312
כיוון שאלה סיסמאות
07:50
that are most likely for people to have.
201
470214
1905
שהסבירות שאנשים משתמשים בהן היא גבוהה.
07:52
In fact, some of you probably have these passwords.
202
472119
3261
למען האמת, ייתכן כי חלק מכם משתמשים בסיסמאות הללו.
07:57
So what we found
203
477191
1298
אז מה שמצאנו
07:58
by running all of these 5,000 passwords we collected
204
478489
3406
על ידי הרצה, של כל 5000 הסיסמאות שאספנו,
08:01
through these tests to see how strong they were,
205
481895
4106
במערכת הזו, על מנת לבדוק כמה חזקות הסיסמאות האלה,
08:06
we found that the long passwords
206
486001
2752
מצאנו שסיסמאות ארוכות
08:08
were actually pretty strong,
207
488753
1280
היו דווקא חזקות יחסית,
08:10
and the complex passwords were pretty strong too.
208
490033
3262
והסיסמאות המורכבות היו גם חזקות יחסית.
08:13
However, when we looked at the survey data,
209
493295
2442
מצד שני, כשהסתכלנו בנתוני הסקר,
08:15
we saw that people were really frustrated
210
495737
3024
ראינו שאנשים היו מאוד מתוסכלים
08:18
by the very complex passwords,
211
498761
2339
מהסיסמאות המורכבות,
08:21
and the long passwords were a lot more usable,
212
501100
2630
והסיסמאות הארוכות היו הרבה יותר שמישות,
08:23
and in some cases, they were actually
213
503730
1325
ובמקרים מסוימים, הן אפילו
08:25
even stronger than the complex passwords.
214
505055
2908
היו יותר חזקות מסיסמאות מורכבות.
08:27
So this suggests that,
215
507963
1169
זה מצביע על כך
08:29
instead of telling people that they need
216
509132
1703
שבמקום לומר לאנשים שהם צריכים
08:30
to put all these symbols and numbers
217
510835
1522
להכליל סימנים ומספרים
08:32
and crazy things into their passwords,
218
512357
2842
ודברים משוגעים בסיסמאות שלהם,
08:35
we might be better off just telling people
219
515199
2022
אולי עדיף שפשוט נאמר להם
08:37
to have long passwords.
220
517221
2652
שייצרו סיסמאות ארוכות.
08:39
Now here's the problem, though:
221
519873
1792
עכשיו אנו ניצבים בפני בעיה:
08:41
Some people had long passwords
222
521665
2255
יש אנשים שהיו להם סיסמאות ארוכות
08:43
that actually weren't very strong.
223
523920
1555
שבעצם לא היו ממש חזקות.
08:45
You can make long passwords
224
525475
1997
ניתן ליצור סיסמאות ארוכות
08:47
that are still the sort of thing
225
527472
1556
שעדיין יהיו משהו
08:49
that an attacker could easily guess.
226
529028
1742
שהתוקף יצליח לנחש בקלות.
08:50
So we need to do more than just say long passwords.
227
530770
3365
לפיכך אנחנו צריכים לדרוש יותר מרק סיסמה ארוכה.
08:54
There has to be some additional requirements,
228
534135
1936
צריכות להיות דרישות נוספות.
08:56
and some of our ongoing research is looking at
229
536071
2969
וחלק מהמחקר המתמשך שלנו מנסה לבחון
08:59
what additional requirements we should add
230
539040
2439
אילו דרישות עלינו להוסיף
09:01
to make for stronger passwords
231
541479
2104
על מנת ליצור סיסמאות חזקות יותר
09:03
that also are going to be easy for people
232
543583
2312
שגם יהיו קלות דיים על מנת
09:05
to remember and type.
233
545895
2698
שאנשים יוכלו לזכור ולהקליד אותן.
09:08
Another approach to getting people to have
234
548593
2126
גישה נוספת כדי להוביל אנשים
09:10
stronger passwords is to use a password meter.
235
550719
2257
ליצירת סיסמאות חזקות היא מד סיסמה.
09:12
Here are some examples.
236
552976
1385
הנה כמה דוגמאות:
09:14
You may have seen these on the Internet
237
554361
1401
ייתכן שראיתם את זה באינטרנט
09:15
when you were creating passwords.
238
555762
3057
כשיצרתם סיסמאות חדשות.
09:18
We decided to do a study to find out
239
558819
2248
החלטנו לעשות מחקר על מנת לגלות
09:21
whether these password meters actually work.
240
561067
2887
האם מדי הסיסמאות הללו אכן עובדים.
09:23
Do they actually help people
241
563954
1421
האם הם באמת עוזרים לאנשים
09:25
have stronger passwords,
242
565375
1453
ליצור סיסמאות חזקות יותר,
09:26
and if so, which ones are better?
243
566828
2086
ואם כן, אילו טובים יותר?
09:28
So we tested password meters that were
244
568914
2507
אז ניסינו מדי סיסמאות
09:31
different sizes, shapes, colors,
245
571421
2098
מגדלים, צורות וצבעים שונים,
09:33
different words next to them,
246
573519
1416
עם מילים שונות מוצמדות אליהם,
09:34
and we even tested one that was a dancing bunny.
247
574935
3275
ואפילו בדקנו אחד עם ארנבון שרוקד.
09:38
As you type a better password,
248
578210
1582
כשאתם מקלידים סיסמה טובה יותר,
09:39
the bunny dances faster and faster.
249
579792
2539
הארנבון רוקד מהר יותר ויותר.
09:42
So this was pretty fun.
250
582331
2529
אז זה היה די כיף.
09:44
What we found
251
584860
1567
מה שמצאנו
09:46
was that password meters do work.
252
586427
3572
זה שמדי סיסמאות אכן עובדים.
09:49
(Laughter)
253
589999
1801
09:51
Most of the password meters were actually effective,
254
591800
3333
רוב מדי הסיסמאות אכן היו אפקטיביים,
09:55
and the dancing bunny was very effective too,
255
595133
2521
והארנבון הרוקד היה אפקטיבי גם הוא,
09:57
but the password meters that were the most effective
256
597654
2881
אך מדי הסיסמאות האפקטיביים ביותר
10:00
were the ones that made you work harder
257
600535
2355
היו אלה שגרמו לך לעבוד קשה יותר
10:02
before they gave you that thumbs up and said
258
602890
1980
לפני שנתנו לך אור ירוק והודיעו לך
10:04
you were doing a good job,
259
604870
1377
שאת/ה עושה עבודה טובה,
10:06
and in fact we found that most
260
606247
1512
ולמעשה אנחנו מצאנו שרוב
10:07
of the password meters on the Internet today
261
607759
2281
מדי הסיסמאות שנמצאים באינטרנט היום
10:10
are too soft.
262
610040
952
10:10
They tell you you're doing a good job too early,
263
610992
2203
הם עדינים מדי.
הם אומרים לנו שאנו עושים עבודה טובה מוקדם מדי,
10:13
and if they would just wait a little bit
264
613195
1929
ואם הם רק יחכו עוד קצת
10:15
before giving you that positive feedback,
265
615124
2049
לפני שהם נותנים לכם משוב חיובי
10:17
you probably would have better passwords.
266
617173
3160
כנראה שהיו לנו סיסמאות יותר טובות.
10:20
Now another approach to better passwords, perhaps,
267
620333
3847
גישה אפשרית נוספת לסיסמאות טובות יותר
10:24
is to use pass phrases instead of passwords.
268
624180
2890
היא להשתמש במשפט-סיסמה במקום במילה.
10:27
So this was an xkcd cartoon from a couple of years ago,
269
627070
3418
זהו קומיקס של XKCD מלפני כשנתיים
10:30
and the cartoonist suggests
270
630488
1674
וצייר הקומיקס מציע
10:32
that we should all use pass phrases,
271
632162
2196
שכולנו נשתמש במשפטי-סיסמאות,
10:34
and if you look at the second row of this cartoon,
272
634358
3170
ואם תסתכלו בשורה השנייה של הקומיקס
10:37
you can see the cartoonist is suggesting
273
637528
1857
תוכלו לראות שהצייר מצביע על כך
10:39
that the pass phrase "correct horse battery staple"
274
639385
3441
שמשפט-הסיסמה: "נכון סוס סוללה סיכה"
10:42
would be a very strong pass phrase
275
642826
2481
יהווה סיסמה מאוד חזקה
10:45
and something really easy to remember.
276
645307
1916
וגם קלה לזכירה.
10:47
He says, in fact, you've already remembered it.
277
647223
2797
למעשה, הוא אומר, אתם כבר זוכרים אותו.
10:50
And so we decided to do a research study
278
650020
2150
ולכן החלטנו לעשות מחקר
10:52
to find out whether this was true or not.
279
652170
2592
על מנת לגלות אם זה אכן נכון.
10:54
In fact, everybody who I talk to,
280
654762
1775
למען האמת, כל מי שדיברתי איתם,
10:56
who I mention I'm doing password research,
281
656537
2042
והסברתי להם שאני עושה מחקר בנושא סיסמאות,
10:58
they point out this cartoon.
282
658579
1400
הזכירו את הקומיקס הזה.
10:59
"Oh, have you seen it? That xkcd.
283
659979
1574
"אה, ראית את זה? XKCD האלה.
11:01
Correct horse battery staple."
284
661553
1602
נכון סוס סוללה סיכה"
11:03
So we did the research study to see
285
663155
1806
אז המשכנו לחקור כדי לפענח
11:04
what would actually happen.
286
664961
2359
לאן זה יוביל.
11:07
So in our study, we used Mechanical Turk again,
287
667320
3060
אז במחקר הזה שלנו, השתמשנו שוב ב"אמאזון מכניקל טורק"
11:10
and we had the computer pick the random words
288
670380
4167
והמחשב בחר עבורנו מילים אקראיות
11:14
in the pass phrase.
289
674547
1100
במשפט-סיסמה.
11:15
Now the reason we did this
290
675647
1153
הסיבה שעשינו זאת היא
11:16
is that humans are not very good
291
676800
1586
מכיוון שבני אנוש לא מוצלחים כל כך
11:18
at picking random words.
292
678386
1384
בבחירת מילים אקראיות.
11:19
If we asked a human to do it,
293
679770
1262
אם בן אנוש היה עושה זאת
11:21
they would pick things that were not very random.
294
681032
2998
הוא היה בוחר מילים שאינן אקראיות כל כך.
11:24
So we tried a few different conditions.
295
684030
2032
אז ניסינו מספר תנאים שונים.
11:26
In one condition, the computer picked
296
686062
2090
על פי תנאי אחד, המחשב בחר
11:28
from a dictionary of the very common words
297
688152
2216
מתוך מילון של מילים מאוד נפוצות
11:30
in the English language,
298
690368
1362
בשפה האנגלית.
11:31
and so you'd get pass phrases like
299
691730
1764
וכך התקבלו משפטי-סיסמה כמו
11:33
"try there three come."
300
693494
1924
"נסה שם שלוש בוא".
11:35
And we looked at that, and we said,
301
695418
1732
הסתכלנו על זה ואמרנו,
11:37
"Well, that doesn't really seem very memorable."
302
697150
3050
"טוב, זה לא ממש נראה כמו משהו שניתן לזכור בקלות"
11:40
So then we tried picking words
303
700200
2240
אז ניסינו לבחור מילים
11:42
that came from specific parts of speech,
304
702440
2521
שמשמשות כחלקים שונים בהבעה,
11:44
so how about noun-verb-adjective-noun.
305
704961
2182
למשל שם עצם-שם תואר-פועל-שם עצם.
11:47
That comes up with something that's sort of sentence-like.
306
707143
2577
שיופיעו כסוג של משהו שמדמה משפט.
11:49
So you can get a pass phrase like
307
709720
2070
כך שנוכל לקבל משפט-סיסמה כמו
11:51
"plan builds sure power"
308
711790
1308
"תכנית בונה כוח מהימן"
11:53
or "end determines red drug."
309
713098
2786
או "סיום קובע סם אדום"
11:55
And these seemed a little bit more memorable,
310
715884
2676
ואלה נראו כקלים יותר לזכירה.
11:58
and maybe people would like those a little bit better.
311
718560
2822
ואולי אנשים יאהבו אותם קצת יותר.
12:01
We wanted to compare them with passwords,
312
721382
2572
רצינו להשוות את אלה למילות-סיסמה,
12:03
and so we had the computer pick random passwords,
313
723954
3196
אז המחשב בחר עבורנו מילות-סיסמה אקראיות,
12:07
and these were nice and short, but as you can see,
314
727150
1990
והן היו נחמדות וקצרות, אך כמו שאתם יכולים לראות
12:09
they don't really look very memorable.
315
729140
2806
הן לא נראות כל כך בלתי-נשכחות.
12:11
And then we decided to try something called
316
731946
1396
אז החלטנו לנסות משהו שנקרא
12:13
a pronounceable password.
317
733342
1646
"סיסמה ניתנת לביטוי"
12:14
So here the computer picks random syllables
318
734988
2245
כך המחשב בוחר הברות אקראיות
12:17
and puts them together
319
737233
1134
ומחבר ביניהן
12:18
so you have something sort of pronounceable,
320
738367
2475
עך שמתקבל משהו יחסית ניתן לביטוי
12:20
like "tufritvi" and "vadasabi."
321
740842
2602
כמו "מדשאיני" או "לביבסאבי"
12:23
That one kind of rolls off your tongue.
322
743444
2147
שדי מתגלגל לך על הלשון.
12:25
So these were random passwords that were
323
745591
2216
אז אלה היו מילות-סיסמה אקראיות
12:27
generated by our computer.
324
747807
2744
שנוצרו על ידי המחשב שלנו.
12:30
So what we found in this study was that, surprisingly,
325
750551
2978
כך שמה שמצאנו במחקר הזה, באופן מפתיע,
12:33
pass phrases were not actually all that good.
326
753529
3768
משפטי-סיסמה לא היו כאלה מצוינים בסופו של דבר.
12:37
People were not really better at remembering
327
757297
2793
אנשים לא זכרו אותם טוב יותר
12:40
the pass phrases than these random passwords,
328
760090
2953
מאשר את מילות הסיסמה.
12:43
and because the pass phrases are longer,
329
763043
2754
וגם כיוון שמשפטי-סיסמה ארוכים יותר,
12:45
they took longer to type
330
765797
1226
ולקח יותר זמן להקליד אותם
12:47
and people made more errors while typing them in.
331
767023
3010
אנשים טעו יותר בזמן הקלדתם.
12:50
So it's not really a clear win for pass phrases.
332
770033
3227
לכן אין כאן הכרעה ברורה בנושא משפטי-הסיסמה.
12:53
Sorry, all of you xkcd fans.
333
773260
3345
מצטערת, חובבי XKCD.
12:56
On the other hand, we did find
334
776605
1892
מאידך, מצאנו
12:58
that pronounceable passwords
335
778497
1804
שמילות סיסמה שניתנות לביטוי
13:00
worked surprisingly well,
336
780301
1471
עבדו מעולה, באופן מפתיע.
13:01
and so we actually are doing some more research
337
781772
2418
אז אנחנו כרגע חוקרים לעומק
13:04
to see if we can make that approach work even better.
338
784190
3195
על מנת לראות אם נוכל לפתח את הגישה הזו.
13:07
So one of the problems
339
787385
1812
אחת הבעיות
13:09
with some of the studies that we've done
340
789197
1623
עם חלק מהמחקרים שביצענו
13:10
is that because they're all done
341
790820
1683
זה בגלל שכולם נעשו
13:12
using Mechanical Turk,
342
792503
1590
בעזרת "מכניקל טורק"
13:14
these are not people's real passwords.
343
794093
1812
אלה לא סיסמאות אמיתיות של מישהו.
13:15
They're the passwords that they created
344
795905
2105
אלה הן סיסמאות שהם יצרו
13:18
or the computer created for them for our study.
345
798010
2495
או שמחשב יצר אותם עבור המחקר שלנו.
13:20
And we wanted to know whether people
346
800505
1568
ורצינו לדעת האם אנשים
13:22
would actually behave the same way
347
802073
2312
יתנהגו באותו אופן
13:24
with their real passwords.
348
804385
2227
עם הסיסמאות האמיתיות שמשמשות אותם.
13:26
So we talked to the information security office at Carnegie Mellon
349
806612
3681
אז דיברנו עם אחראי אבטחת המידע באוניברסיטת קרנגי מלון
13:30
and asked them if we could have everybody's real passwords.
350
810293
3803
וביקשנו אם נוכל לקבל את כל הסיסמאות האמיתיות במערכת.
13:34
Not surprisingly, they were a little bit reluctant
351
814096
1754
כמובן, הם היו די מסויגים
13:35
to share them with us,
352
815850
1550
לשתף אותנו בפרטים הללו,
13:37
but we were actually able to work out
353
817400
1810
אבל הצלחנו למצוא,
13:39
a system with them
354
819210
1040
יחד איתם, שיטה
13:40
where they put all of the real passwords
355
820250
2109
לפיה הם ישימו את כל הסיסמאות
13:42
for 25,000 CMU students, faculty and staff,
356
822359
3091
של 25000 סטודנטים, סגל וצוות האוניברסיטה
13:45
into a locked computer in a locked room,
357
825450
2448
במחשב נעול, בחדר נעול,
13:47
not connected to the Internet,
358
827898
1394
שאינו מחובר לאינטרנט,
13:49
and they ran code on it that we wrote
359
829292
1848
והם הריצו עליו צופן שאנחנו רשמנו
13:51
to analyze these passwords.
360
831140
2152
כדי לנתח את הסיסמאות הללו.
13:53
They audited our code.
361
833292
1326
הם ביקרו את הצופן שלנו.
13:54
They ran the code.
362
834618
1312
הם הריצו את הקוד.
13:55
And so we never actually saw
363
835930
1738
כך שבעצם לא ראינו כלל
13:57
anybody's password.
364
837668
2817
אף אחת מהסיסמאות.
14:00
We got some interesting results,
365
840485
1515
קיבלנו תוצאות מעניינות.
14:02
and those of you Tepper students in the back
366
842000
1696
ואתם שם מאחור, הסטודנטים בטפר (בי"ס לעסקים),
14:03
will be very interested in this.
367
843696
2875
זה יעניין אתכם מאוד.
14:06
So we found that the passwords created
368
846571
3731
מצאנו שהסיסמאות שנוצרו
14:10
by people affiliated with the school of computer science
369
850302
2158
על ידי אנשים שמשויכים לביה"ס למדעי המחשב
14:12
were actually 1.8 times stronger
370
852460
2324
היו פי 1.8 חזקות יותר
14:14
than those affiliated with the business school.
371
854784
3738
מהסיסמאות של המשויכים לביה"ס לעסקים.
14:18
We have lots of other really interesting
372
858522
2040
יש לנו עוד הרבה
14:20
demographic information as well.
373
860562
2238
מידע דמוגרפי מעניין גם כן.
14:22
The other interesting thing that we found
374
862800
1846
דבר מעניין נוסף שמצאנו
14:24
is that when we compared the Carnegie Mellon passwords
375
864646
2440
זה שבהשוואה בין הסיסמאות מהאוניברסיטה
14:27
to the Mechanical Turk-generated passwords,
376
867086
2283
לסיסמאות שנוצרו דרך "מכניקל טורק"
14:29
there was actually a lot of similarities,
377
869369
2619
מצאנו שיש הרבה דמיון ביניהן,
14:31
and so this helped validate our research method
378
871988
1948
כך שזה נתן תוקף לשיטת המחקר שלנו
14:33
and show that actually, collecting passwords
379
873936
2510
והוכיח שבעצם, איסוף סיסמאות
14:36
using these Mechanical Turk studies
380
876446
1808
על ידי שימוש בסקרים ב"מכניקל טורק"
14:38
is actually a valid way to study passwords.
381
878254
2788
זו אכן שיטה תקפה ללמידה של סיסמאות.
14:41
So that was good news.
382
881042
2285
אז אלה היו חדשות טובות.
14:43
Okay, I want to close by talking about
383
883327
2414
רציתי לסיים בלדבר על
14:45
some insights I gained while on sabbatical
384
885741
2068
כמה תובנות שצברתי במהלך שנת שבתון
14:47
last year in the Carnegie Mellon art school.
385
887809
3201
שלקחתי בשנה שעברה בביה"ס לאומנות של קרנגי מלון.
14:51
One of the things that I did
386
891010
1281
אחד הדברים שעשיתי
14:52
is I made a number of quilts,
387
892291
1524
זה הכנתי מספר שמיכות טלאים
14:53
and I made this quilt here.
388
893815
1548
והכנתי את שמיכת הטלאים הזו כאן.
14:55
It's called "Security Blanket."
389
895363
1899
זה נקרא "שמיכת אבטחה"
14:57
(Laughter)
390
897262
2431
14:59
And this quilt has the 1,000
391
899693
3095
ובשמיכה הזאת יש אלף
15:02
most frequent passwords stolen
392
902788
2328
סיסמאות שהן הנגנבות ביותר
15:05
from the RockYou website.
393
905116
2571
מאתר RockYou
15:07
And the size of the passwords is proportional
394
907687
2061
והאורך של הסיסמאות הוא פרופורציונלי
15:09
to how frequently they appeared
395
909748
1901
לתכיפות בה הסיסמה מופיעה
15:11
in the stolen dataset.
396
911649
2248
בנתונים של סיסמאות גנובות.
15:13
And what I did is I created this word cloud,
397
913897
2632
ומה שעשיתי זה יצרתי את ענן-המילים הזה,
15:16
and I went through all 1,000 words,
398
916529
2132
עברתי על כל אלף המילים,
15:18
and I categorized them into
399
918661
1795
וקיטלגתי אותם
15:20
loose thematic categories.
400
920456
2380
למערכת נושאית כללית.
15:22
And it was, in some cases,
401
922836
1903
ובחלק מהמקרים, זה היה
15:24
it was kind of difficult to figure out
402
924739
2038
די קשה להחליט
15:26
what category they should be in,
403
926777
1755
באיזו קטגוריה לקטלג אותן,
15:28
and then I color-coded them.
404
928532
1899
ואז סידרתי אותם על פי צבעים.
15:30
So here are some examples of the difficulty.
405
930431
2619
אז הנה כמה דוגמאות של הקושי בפיענוח.
15:33
So "justin."
406
933050
1181
אז לדוגמה "ג'סטין"
15:34
Is that the name of the user,
407
934231
1829
האם זה שם המשתמש,
15:36
their boyfriend, their son?
408
936060
1322
שם החבר או הבן?
15:37
Maybe they're a Justin Bieber fan.
409
937382
2888
אולי הם בכלל מעריצים של ג'סטין ביבר.
15:40
Or "princess."
410
940270
2225
או "נסיכה"
15:42
Is that a nickname?
411
942495
1635
האם זה שם חיבה?
15:44
Are they Disney princess fans?
412
944130
1595
האם אלה הם מעריצים של נסיכת דיסני?
15:45
Or maybe that's the name of their cat.
413
945725
3694
או אולי זהו שם החתולה שלהם.
15:49
"Iloveyou" appears many times
414
949419
1655
"אניאוהבאותך" מופיע הרבה פעמים
15:51
in many different languages.
415
951074
1545
בהרבה שפות שונות.
15:52
There's a lot of love in these passwords.
416
952619
3735
יש הרבה "אהבה" בסיסמאות הללו.
15:56
If you look carefully, you'll see there's also
417
956354
1680
אם תביטו היטב תוכלו לראות
15:58
some profanity,
418
958034
2267
שיש שם גם תועבה,
16:00
but it was really interesting to me to see
419
960301
1950
אבל זה היה מאוד מעניין עבורי
16:02
that there's a lot more love than hate
420
962251
2307
לראות שיש הרבה יותר אהבה משנאה
16:04
in these passwords.
421
964558
2292
בסיסמאות הללו.
16:06
And there are animals,
422
966850
1490
ויש בעלי חיים,
16:08
a lot of animals,
423
968340
1360
הרבה בעלי חיים,
16:09
and "monkey" is the most common animal
424
969700
2304
ו"קוף" זה הנפוץ ביותר מביניהם
16:12
and the 14th most popular password overall.
425
972004
3675
והסיסמה ה-14 הנפוצה ביותר ברשימה.
16:15
And this was really curious to me,
426
975679
2231
וזה מאוד סיקרן אותי
16:17
and I wondered, "Why are monkeys so popular?"
427
977910
2523
וחשבתי לעצמי "למה קופים הם כל כך פופולריים?"
16:20
And so in our last password study,
428
980433
3352
וכך, במחקר הסיסמאות האחרון שלנו
16:23
any time we detected somebody
429
983785
1686
כל פעם שזיהינו מישהו
16:25
creating a password with the word "monkey" in it,
430
985471
2649
שיצר סיסמה עם המילה "קוף"
16:28
we asked them why they had a monkey in their password.
431
988120
3030
שאלנו אותם למה הם החליטו לכלול קוף בסיסמה שלהם
16:31
And what we found out --
432
991150
1910
ומה שגילינו...
16:33
we found 17 people so far, I think,
433
993060
2103
גילינו ש-17 אנשים, עד כה, אני חושבת
16:35
who have the word "monkey" --
434
995163
1283
שכללו את המילה "קוף"...
16:36
We found out about a third of them said
435
996446
1812
מצאנו שכשליש מהם אמרו
16:38
they have a pet named "monkey"
436
998258
1740
שיש להם חיית מחמד שקוראים לה "קוף"
16:39
or a friend whose nickname is "monkey,"
437
999998
2291
או חבר שהכינוי שלו זה "קוף"
16:42
and about a third of them said
438
1002289
1660
ושליש מהם אמרו
16:43
that they just like monkeys
439
1003949
1533
שהם פשוט אוהבים קופים
16:45
and monkeys are really cute.
440
1005482
1638
ושקופים ממש חמודים.
16:47
And that guy is really cute.
441
1007120
3639
והבחור הזה ממש חמוד.
16:50
So it seems that at the end of the day,
442
1010759
3408
כך שנראה, בסופו של יום,
16:54
when we make passwords,
443
1014167
1783
כשאנחנו יוצרים סיסמאות
16:55
we either make something that's really easy
444
1015950
1974
אנחנו יוצרים משהו שהוא ממש קל להקליד
16:57
to type, a common pattern,
445
1017924
3009
כמו תבנית נפוצה,
17:00
or things that remind us of the word password
446
1020933
2486
או דברים שמזכירים לנו את מילת הסיסמה
17:03
or the account that we've created the password for,
447
1023419
3312
או את החשבון שעבורו יצרנו את הסיסמה,
17:06
or whatever.
448
1026731
2617
או כל דבר.
17:09
Or we think about things that make us happy,
449
1029348
2642
או שאנחנו חושבים על דברים שגורמים לנו לשמוח.
17:11
and we create our password
450
1031990
1304
ואנחנו יוצרים את הסיסמאות שלנו
17:13
based on things that make us happy.
451
1033294
2238
בהתבסס על דברים שגורמים לנו לשמוח.
17:15
And while this makes typing
452
1035532
2863
ואמנם זה גורם להקלדה
17:18
and remembering your password more fun,
453
1038395
2870
ולזכירה של הסיסמה שלנו להיות מהנים יותר,
17:21
it also makes it a lot easier
454
1041265
1807
אבל זה גם הופך את הסיסמה שלנו
17:23
to guess your password.
455
1043072
1506
להרבה יותר קלה לניחוש.
17:24
So I know a lot of these TED Talks
456
1044578
1748
אז אני יודעת שהרבה מהסרטונים הללו ב TED
17:26
are inspirational
457
1046326
1634
הם מעוררי השראה
17:27
and they make you think about nice, happy things,
458
1047960
2461
והם גורמים לכם לחשוב על דברים נחמדים ומשמחים,
17:30
but when you're creating your password,
459
1050421
1897
אבל כשאתם יוצרים לעצמכם סיסמה,
17:32
try to think about something else.
460
1052318
1991
נסו לחשוב על משהו אחר.
17:34
Thank you.
461
1054309
1107
תודה.
17:35
(Applause)
462
1055416
553
על אתר זה

אתר זה יציג בפניכם סרטוני YouTube המועילים ללימוד אנגלית. תוכלו לראות שיעורי אנגלית המועברים על ידי מורים מהשורה הראשונה מרחבי העולם. לחץ פעמיים על הכתוביות באנגלית המוצגות בכל דף וידאו כדי להפעיל את הסרטון משם. הכתוביות גוללות בסנכרון עם הפעלת הווידאו. אם יש לך הערות או בקשות, אנא צור איתנו קשר באמצעות טופס יצירת קשר זה.

https://forms.gle/WvT1wiN1qDtmnspy7