Daniel Suarez: The kill decision shouldn't belong to a robot

Translator: Joseph Geni Reviewer: Morton Bast

Μετάφραση: Nikolaos Benias Επιμέλεια: Helena Galani

I write fiction sci-fi thrillers,

Γράφω θρίλερ επιστημονικής φαντασίας,

so if I say "killer robots,"

οπότε εάν πω «ρομπότ δολοφόνοι»,

you'd probably think something like this.

πιθανότατα θα σκεφτείτε κάτι σαν αυτό.

But I'm actually not here to talk about fiction.

Αλλά, δεν είμαι εδώ για να μιλήσω για επιστημονική φαντασία.

I'm here to talk about very real killer robots,

Είμαι εδώ για να μιλήσω για πολύ πραγματικά ρομπότ δολοφόνους,

autonomous combat drones.

αυτόνομα μη επανδρωμένα μέσα μάχης.

Now, I'm not referring to Predator and Reaper drones,

Τώρα, δεν αναφέρομαι στα μη επανδρωμένα αεροσκάφη Predator και Reaper,

which have a human making targeting decisions.

στα οποία κάποιος άνθρωπος παίρνει αποφάσεις στοχοποίησης.

I'm talking about fully autonomous robotic weapons

Μιλάω για πλήρως αυτόνομα ρομποτικά όπλα

that make lethal decisions about human beings

που παίρνουν θανατηφόρες αποφάσεις σχετικές με τον άνθρωπο

all on their own.

τελείως μόνα τους.

There's actually a technical term for this: lethal autonomy.

Για την ακρίβεια υπάρχει ένας τεχνικός όρος γι' αυτό: θανατηφόρα αυτονομία.

Now, lethally autonomous killer robots

Τώρα, τα θανατηφόρα αυτόνομα ρομπότ δολοφόνοι

would take many forms -- flying, driving,

θα μπορούσαν να πάρουν πολλές μορφές -ιπτάμενα, εποχούμενα

or just lying in wait.

ή απλά ευρισκόμενα σε αναμονή.

And actually, they're very quickly becoming a reality.

Και μάλιστα, γίνονται πολύ γρήγορα πραγματικότητα.

These are two automatic sniper stations

Αυτοί είναι δύο αυτόματοι σταθμοί ελεύθερου σκοπευτή

currently deployed in the DMZ between North and South Korea.

που τώρα παρατάσσονται στην αποστρατικοποιημένη ζώνη μεταξύ Β. & Ν. Κορέας.

Both of these machines are capable of automatically

Και τα δύο αυτά μηχανήματα είναι σε θέση ν' αναγνωρίσουν

identifying a human target and firing on it,

αυτόματα έναν ανθρώπινο στόχο και να ρίξουν σε αυτόν,

the one on the left at a distance of over a kilometer.

αυτό στα αριστερά σε απόσταση μεγαλύτερη του ενός χιλιομέτρου.

Now, in both cases, there's still a human in the loop

Τώρα, και στις δύο περιπτώσεις, υπάρχει ακόμη κάποιος άνθρωπος στη διαδικασία

to make that lethal firing decision,

για να παρθεί αυτή η απόφαση θανάσιμης βολής,

but it's not a technological requirement. It's a choice.

αλλά δεν είναι μια τεχνολογική απαίτηση. Είναι μια επιλογή.

And it's that choice that I want to focus on,

Και είναι αυτή η επιλογή στην οποία θα ήθελα να εστιάσω,

because as we migrate lethal decision-making

γιατί καθώς μεταφέρουμε τη λήψη θανατηφόρων αποφάσεων

from humans to software,

από τους ανθρώπους στο λογισμικό,

we risk not only taking the humanity out of war,

κινδυνεύουμε όχι μόνο να θέσουμε την ανθρωπιά εκτός πολέμου,

but also changing our social landscape entirely,

αλλά, ν' αλλάξουμε επίσης το κοινωνικό μας τοπίο εξ' ολοκλήρου,

far from the battlefield.

μακριά από το πεδίο της μάχης.

That's because the way humans resolve conflict

Αυτό γιατί ο τρόπος με τον οποίο οι άνθρωποι επιλύουν τις διαφορές τους

shapes our social landscape.

διαμορφώνει το κοινωνικό μας τοπίο.

And this has always been the case, throughout history.

Και πάντα αυτό ήταν το ζήτημα, σε όλη την Ιστορία.

For example, these were state-of-the-art weapons systems

Για παράδειγμα, αυτά ήταν τα τελευταίας τεχνολογίας οπλικά συστήματα

in 1400 A.D.

το 1400 μ.Χ..

Now they were both very expensive to build and maintain,

Ήταν και τα δύο πολύ ακριβά να κατασκευαστούν και να διατηρηθούν,

but with these you could dominate the populace,

αλλά με αυτά θα μπορούσατε να εξουσιάσετε τον λαό

and the distribution of political power in feudal society reflected that.

κι αυτό αντικατοπτρίστηκε στην κατανομή της πολιτικής εξουσίας στην φεουδαρχική κοινωνία.

Power was focused at the very top.

Η εξουσία ήταν συγκεντρωμένη στην κορυφή.

And what changed? Technological innovation.

Και τι άλλαξε; Η τεχνολογική καινοτομία.

Gunpowder, cannon.

Μπαρούτι, κανόνι.

And pretty soon, armor and castles were obsolete,

Κι αρκετά σύντομα, πανοπλίες και κάστρα απαρχαιώθηκαν

and it mattered less who you brought to the battlefield

και είχε λιγότερη σημασία ποιον φέρνατε στο πεδίο της μάχης

versus how many people you brought to the battlefield.

σε αντίθεση με τον αριθμό των ατόμων που φέρνατε στο πεδίο της μάχης.

And as armies grew in size, the nation-state arose

Και καθώς οι στρατοί μεγάλωναν σε μέγεθος, προέκυψε το έθνος-κράτος

as a political and logistical requirement of defense.

ως μια πολιτική και υλικοτεχνική απαίτηση της άμυνας.

And as leaders had to rely on more of their populace,

Και καθώς οι ηγέτες έπρεπε να βασίζονται περισσότερο στον λαό τους,

they began to share power.

άρχισαν να μοιράζουν την εξουσία.

Representative government began to form.

Άρχισε να δημιουργείται η αντιπροσωπευτική κυβέρνηση.

So again, the tools we use to resolve conflict

Έτσι και πάλι, τα εργαλεία που χρησιμοποιούμε για την επίλυση διαφορών

shape our social landscape.

διαμορφώνουν το κοινωνικό μας τοπίο.

Autonomous robotic weapons are such a tool,

Τα αυτόνομα ρομποτικά όπλα είναι ένα τέτοιο εργαλείο,

except that, by requiring very few people to go to war,

εκτός απ' το ότι, απαιτώντας πολύ λίγους ανθρώπους να πάνε στον πόλεμο,

they risk re-centralizing power into very few hands,

ρισκάρουν την επανακεντρικοποίηση της εξουσίας σε ελάχιστα χέρια,

possibly reversing a five-century trend toward democracy.

αντιστρέφοντας ενδεχομένως μια τάση πέντε αιώνων προς τη δημοκρατία.

Now, I think, knowing this,

Τώρα, πιστεύω ότι, γνωρίζοντας αυτό,

we can take decisive steps to preserve our democratic institutions,

μπορούμε να λάβουμε αποφασιστικά μέτρα για να διατηρήσουμε τους δημοκρατικούς μας θεσμούς,

to do what humans do best, which is adapt.

να κάνουμε αυτό που ο άνθρωπος κάνει καλύτερα, που είναι η προσαρμογή.

But time is a factor.

Αλλά ο χρόνος είναι ένας παράγοντας.

Seventy nations are developing remotely-piloted

Εβδομήντα χώρες αναπτύσσουν δικά τους τηλεκατευθυνόμενα

combat drones of their own,

μη επανδρωμένα μέσα μάχης

and as you'll see, remotely-piloted combat drones

κι όπως θα δείτε, τα τηλεκατευθυνόμενα μη επανδρωμένα μέσα

are the precursors to autonomous robotic weapons.

είναι ο πρόδρομος των αυτόματων ρομποτικών όπλων.

That's because once you've deployed remotely-piloted drones,

Αυτό συμβαίνει γιατί άπαξ κι αναπτυχθούν τηλεκατευθυνόμενα μη επανδρωμένα μέσα,

there are three powerful factors pushing decision-making

υπάρχουν τρεις ισχυροί παράγοντες που σπρώχνουν τη λήψη αποφάσεων

away from humans and on to the weapon platform itself.

μακριά από τον άνθρωπο και προς την ίδια την οπλική πλατφόρμα.

The first of these is the deluge of video that drones produce.

Ο πρώτος από αυτούς είναι ο κατακλυσμός από βίντεο που παράγουν τα μη επανδρωμένα μέσα.

For example, in 2004, the U.S. drone fleet produced

Για παράδειγμα, το 2004, ο στόλος των μη επανδρωμένων μέσων των ΗΠΑ παρήγαγε

a grand total of 71 hours of video surveillance for analysis.

ένα γενικό σύνολο 71 ωρών βιντεοεπιτήρησης για ανάλυση.

By 2011, this had gone up to 300,000 hours,

Μέχρι το 2011, αυτό είχε ανέβει στις 300.000 ώρες,

outstripping human ability to review it all,

ξεπερνώντας την ανθρώπινη ικανότητα για την ολική του αξιολόγηση,

but even that number is about to go up drastically.

αλλά ακόμη κι αυτός ο αριθμός είναι έτοιμος ν' αυξηθεί δραστικά.

The Pentagon's Gorgon Stare and Argus programs

Τα προγράμματα Gorgon Stare και Argus του Πενταγώνου

will put up to 65 independently operated camera eyes

θα θέσουν μέχρι 65 λειτουργικώς ανεξάρτητα μάτια καμερών

on each drone platform,

σε κάθε πλατφόρμα μη επανδρωμένου μέσου

and this would vastly outstrip human ability to review it.

κι αυτό θα ξεπερνούσε κατά πολύ την ανθρώπινη ικανότητα για αξιολόγηση.

And that means visual intelligence software will need

Αυτό σημαίνει ότι το λογισμικό οπτικής νοημοσύνης θα πρέπει

to scan it for items of interest.

να το εξετάζει για στοιχεία που παρουσιάζουν ενδιαφέρον.

And that means very soon

Κι αυτό σημαίνει ότι πολύ σύντομα

drones will tell humans what to look at,

τα μη επανδρωμένα μέσα θα λένε στους ανθρώπους τι να κοιτάξουν,

not the other way around.

όχι το αντίστροφο.

But there's a second powerful incentive pushing

Αλλά υπάρχει ένα δεύτερο ισχυρό κίνητρο που ωθεί

decision-making away from humans and onto machines,

τη λήψη αποφάσεων μακριά από τους ανθρώπους και προς τις μηχανές

and that's electromagnetic jamming,

κι αυτό είναι οι ηλεκτρομαγνητικές παρεμβολές

severing the connection between the drone

που διακόπτουν τη σύνδεση μεταξύ του μη επανδρωμένου μέσου

and its operator.

και του χειριστή του.

Now we saw an example of this in 2011

Είδαμε ένα τέτοιο παράδειγμα το 2011

when an American RQ-170 Sentinel drone

όταν ένα αμερικανικό μη επανδρωμένο αεροσκάφος RQ-170 Sentinel

got a bit confused over Iran due to a GPS spoofing attack,

μπερδεύτηκε λίγο πάνω από το Ιράν, λόγω μιας επίθεσης εξαπάτησης του GPS, αλλά

but any remotely-piloted drone is susceptible to this type of attack,

οποιοδήποτε τηλεκατευθυνόμενο μη επανδρωμένο μέσο είναι ευπαθές σε αυτού του είδους την επίθεση

and that means drones

κι αυτό σημαίνει ότι τα μη επανδρωμένα μέσα

will have to shoulder more decision-making.

θα πρέπει να αναλάβουν περισσότερες λήψεις αποφάσεων.

They'll know their mission objective,

Θα γνωρίζουν τον αντικειμενικό σκοπό της αποστολής τους

and they'll react to new circumstances without human guidance.

και θα αντιδρούν στα νέα δεδομένα χωρίς ανθρώπινη καθοδήγηση.

They'll ignore external radio signals

Θα αγνοούν εξωτερικά ραδιοσήματα

and send very few of their own.

και θα στέλνουν ελάχιστα δικά τους.

Which brings us to, really, the third

Αυτό μας φέρνει, πραγματικά, στο τρίτο

and most powerful incentive pushing decision-making

και πιο ισχυρό κίνητρο πίεσης της λήψης αποφάσεων

away from humans and onto weapons:

μακριά από τον άνθρωπο και προς τα όπλα:

plausible deniability.

την εύλογη δυνατότητα άρνησης.

Now we live in a global economy.

Ζούμε σε μια παγκόσμια οικονομία.

High-tech manufacturing is occurring on most continents.

Κατασκευές υψηλής τεχνολογίας πραγματοποιούνται στις περισσότερες ηπείρους.

Cyber espionage is spiriting away advanced designs

Η κυβερνοκατασκοπεία διακτινίζει προηγμένα σχέδια μακριά

to parts unknown,

σε άγνωστα μέρη

and in that environment, it is very likely

και σε αυτό το περιβάλλον, είναι πολύ πιθανό

that a successful drone design will be knocked off in contract factories,

ότι ένας επιτυχής σχεδιασμός μη επανδρωμένου μέσου θα ξεφύγει από τα εργοστάσια της σύμβασης,

proliferate in the gray market.

θα εξαπλωθεί στην γκρίζα αγορά.

And in that situation, sifting through the wreckage

Και σε αυτή την περίπτωση, σε μια προσεκτική εξέταση των συντριμμιών

of a suicide drone attack, it will be very difficult to say

μιας επίθεσης αυτοκτονίας μη επανδρωμένου μέσου, πολύ δύσκολα θα μπορεί να ειπωθεί

who sent that weapon.

ποιος έστειλε το εν λόγω όπλο.

This raises the very real possibility

Αυτό εγείρει την πολύ πραγματική πιθανότητα

of anonymous war.

του ανώνυμου πολέμου.

This could tilt the geopolitical balance on its head,

Αυτό θα μπορούσε να ταρακουνήσει τις γεωπολιτικές ισορροπίες κατακέφαλα,

make it very difficult for a nation to turn its firepower

να καταστήσει πολύ δύσκολο σε ένα έθνος να στρέψει τη δύναμη πυρός του

against an attacker, and that could shift the balance

εναντίον ενός εισβολέα και αυτό θα μπορούσε να μετατοπίσει την ισορροπία

in the 21st century away from defense and toward offense.

του 21ου αιώνα, μακριά από την άμυνα και προς την επίθεση.

It could make military action a viable option

Θα μπορούσε να κάνει τη στρατιωτική δράση μία βιώσιμη επιλογή

not just for small nations,

όχι μόνο για τα μικρά έθνη,

but criminal organizations, private enterprise,

αλλά για εγκληματικές οργανώσεις, ιδιωτικές επιχειρήσεις,

even powerful individuals.

ακόμη και ισχυρών ατόμων.

It could create a landscape of rival warlords

Αυτό θα μπορούσε να δημιουργήσει ένα πεδίο από αντίπαλους πολέμαρχους

undermining rule of law and civil society.

υπονομεύοντας το κράτος δικαίου και την κοινωνία των πολιτών.

Now if responsibility and transparency

Εάν η υπευθυνότητα και η διαφάνεια

are two of the cornerstones of representative government,

είναι δύο από τους ακρογωνιαίους λίθους της αντιπροσωπευτικής κυβέρνησης,

autonomous robotic weapons could undermine both.

τα αυτόνομα ρομποτικά όπλα θα μπορούσαν να υποσκάψουν και τα δύο.

Now you might be thinking that

Μπορεί να σκέφτεστε ότι

citizens of high-tech nations

οι πολίτες των εθνών υψηλής τεχνολογίας

would have the advantage in any robotic war,

θα είχαν το πλεονέκτημα σε κάθε ρομποτικό πόλεμο,

that citizens of those nations would be less vulnerable,

ότι οι πολίτες αυτών των εθνών θα ήταν λιγότερο ευάλωτοι,

particularly against developing nations.

ιδιαίτερα ενάντια στις αναπτυσσόμενες χώρες.

But I think the truth is the exact opposite.

Αλλά νομίζω ότι η αλήθεια είναι το ακριβώς αντίθετο.

I think citizens of high-tech societies

Νομίζω ότι οι πολίτες των κοινωνιών υψηλής τεχνολογίας

are more vulnerable to robotic weapons,

είναι πιο ευάλωτοι στα ρομποτικά όπλα

and the reason can be summed up in one word: data.

και η αιτία μπορεί να συνοψιστεί σε μία λέξη: Δεδομένα.

Data powers high-tech societies.

Τα δεδομένα κινούν τις κοινωνίες υψηλής τεχνολογίας.

Cell phone geolocation, telecom metadata,

Γεωτοποθεσία κινητού τηλεφώνου, μεταδεδομένα τηλεπικοινωνιών,

social media, email, text, financial transaction data,

κοινωνικά μέσα, ηλεκτρονικό ταχυδρομείο, κείμενα, δεδομένα οικονομικών συναλλαγών,

transportation data, it's a wealth of real-time data

μεταφορά δεδομένων, είναι μία πληθώρα δεδομένων πραγματικού χρόνου

on the movements and social interactions of people.

σχετικά με τις κινήσεις και τις κοινωνικές αλληλεπιδράσεις των ατόμων.

In short, we are more visible to machines

Εν ολίγοις, είμαστε πιο ορατοί στις μηχανές

than any people in history,

από οποιαδήποτε πληθυσμιακή ομάδα στην ιστορία

and this perfectly suits the targeting needs of autonomous weapons.

κι αυτό ταιριάζει απόλυτα στις ανάγκες στόχευσης των αυτόνομων όπλων.

What you're looking at here

Αυτό που βλέπετε εδώ

is a link analysis map of a social group.

είναι ένας χάρτης ανάλυσης συνδέσμων μιας κοινωνικής ομάδας.

Lines indicate social connectedness between individuals.

Οι γραμμές υποδηλώνουν κοινωνική συνεκτικότητα μεταξύ των ατόμων.

And these types of maps can be automatically generated

Κι αυτοί οι τύποι των χαρτών μπορούν να δημιουργηθούν αυτόματα

based on the data trail modern people leave behind.

με βάση τα ίχνη δεδομένων που οι σύγχρονοι άνθρωποι αφήνουν πίσω τους.

Now it's typically used to market goods and services

Συνήθως χρησιμοποιούνται για την προώθηση αγαθών και υπηρεσιών

to targeted demographics, but it's a dual-use technology,

με δημογραφική στόχευση, αλλά είναι μια τεχνολογία διττής χρήσης,

because targeting is used in another context.

επειδή η στόχευση χρησιμοποιείται σ' ένα άλλο πλαίσιο.

Notice that certain individuals are highlighted.

Παρατηρήστε ότι ορισμένα άτομα είναι επισημασμένα.

These are the hubs of social networks.

Είναι οι κόμβοι των κοινωνικών δικτύων.

These are organizers, opinion-makers, leaders,

Πρόκειται για διοργανωτές, διαμορφωτές της κοινής γνώμης, ηγέτες

and these people also can be automatically identified

κι αυτοί οι άνθρωποι επίσης μπορούν ν' αναγνωριστούν αυτόματα

from their communication patterns.

από τα μοτίβα επικοινωνίας τους.

Now, if you're a marketer, you might then target them

Τώρα, εάν είστε έμποροι, ίσως μετά να τους στοχοποιούσατε

with product samples, try to spread your brand

με δείγματα προϊόντων, ίσως επιχειρούσατε να προωθήσετε τη μάρκα σας

through their social group.

μέσω των κοινωνικών τους ομάδων.

But if you're a repressive government

Αλλά, αν είστε μια τυραννική κυβέρνηση

searching for political enemies, you might instead remove them,

που αναζητά πολιτικούς εχθρούς, αντί αυτού μπορείτε ίσως να τους απομακρύνετε,

eliminate them, disrupt their social group,

να τους εξαλείψετε, να διαταράξετε την κοινωνική ομάδα τους

and those who remain behind lose social cohesion

κι εκείνοι που παραμείνουν πίσω χάνουν την κοινωνική συνοχή

and organization.

και οργάνωση.

Now in a world of cheap, proliferating robotic weapons,

Τώρα σε έναν κόσμο από φτηνά, πολλαπλασιαζόμενα ρομποτικά όπλα,

borders would offer very little protection

τα σύνορα θα προσέφεραν πολύ μικρή προστασία

to critics of distant governments

στους επικριτές απόμακρων κυβερνήσεων

or trans-national criminal organizations.

ή διακρατικών εγκληματικών οργανώσεων.

Popular movements agitating for change

Λαϊκά κινήματα διψασμένα για αλλαγή

could be detected early and their leaders eliminated

θα μπορούσαν να εντοπιστούν νωρίς και οι ηγέτες τους να εξαλειφθούν

before their ideas achieve critical mass.

πριν οι ιδέες τους επιτύχουν την κρίσιμη μάζα.

And ideas achieving critical mass

Και οι ιδέες που επιτυγχάνουν την κρίσιμη μάζα

is what political activism in popular government is all about.

αφορούν τον πολιτικό ακτιβισμό στη λαϊκή κυβέρνηση.

Anonymous lethal weapons could make lethal action

Ανώνυμα θανατηφόρα όπλα θα μπορούσαν να κάνουν τη θανατηφόρο δράση

an easy choice for all sorts of competing interests.

μια εύκολη επιλογή για όλα τα είδη των ανταγωνιστικών συμφερόντων.

And this would put a chill on free speech

Κι αυτό θα πάγωνε την ελευθερία του λόγου

and popular political action, the very heart of democracy.

και την λαϊκή πολιτική δράση, την ίδια την καρδιά της Δημοκρατίας.

And this is why we need an international treaty

Γι' αυτό χρειαζόμαστε μια διεθνή συνθήκη

on robotic weapons, and in particular a global ban

για τα ρομποτικά όπλα και ειδικότερα μια καθολική απαγόρευση

on the development and deployment of killer robots.

στη δημιουργία και ανάπτυξη των ρομπότ δολοφόνων.

Now we already have international treaties

Ήδη έχουμε διεθνείς συνθήκες

on nuclear and biological weapons, and, while imperfect,

για πυρηνικά και βιολογικά όπλα και, παρότι ελλιπείς,

these have largely worked.

αυτές έχουν λειτουργήσει σε μεγάλο βαθμό.

But robotic weapons might be every bit as dangerous,

Αλλά τα ρομποτικά όπλα μπορεί να είναι εξίσου επικίνδυνα,

because they will almost certainly be used,

επειδή σχεδόν σίγουρα θα χρησιμοποιηθούν

and they would also be corrosive to our democratic institutions.

κι επίσης θα διάβρωναν τους δημοκρατικούς μας θεσμούς.

Now in November 2012 the U.S. Department of Defense

Το Νοέμβριο του 2012, το Υπουργείο Άμυνας των ΗΠΑ

issued a directive requiring

εξέδωσε μια οδηγία που απαιτούσε

a human being be present in all lethal decisions.

την παρουσία ανθρώπου σε όλες τις θανατηφόρες αποφάσεις.

This temporarily effectively banned autonomous weapons in the U.S. military,

Αυτό προσωρινά απαγόρευσε αποτελεσματικά τα αυτόνομα όπλα του αμερικάνικου στρατού,

but that directive needs to be made permanent.

αλλά, η εν λόγω οδηγία χρειάζεται να γίνει μόνιμη.

And it could set the stage for global action.

Και θα μπορούσε να θέσει τη βάση για παγκόσμια δράση.

Because we need an international legal framework

Διότι χρειαζόμαστε ένα διεθνές νομικό πλαίσιο

for robotic weapons.

για τα ρομποτικά όπλα.

And we need it now, before there's a devastating attack

Και το χρειαζόμαστε τώρα, προτού να υπάρξει μια καταστροφική επίθεση

or a terrorist incident that causes nations of the world

ή ένα τρομοκρατικό περιστατικό που θα προκαλέσει στα έθνη του κόσμου

to rush to adopt these weapons

να βιαστούν να υιοθετήσουν αυτά τα όπλα

before thinking through the consequences.

πριν σκεφτούν τις συνέπειες.

Autonomous robotic weapons concentrate too much power

Τα αυτόνομα ρομποτικά όπλα επικεντρώνουν πάρα πολύ δύναμη

in too few hands, and they would imperil democracy itself.

σε λιγοστά χέρια κι αυτά θα έθεταν σε κίνδυνο την ίδια τη δημοκρατία.

Now, don't get me wrong, I think there are tons

Μην με παρεξηγείτε, πιστεύω ότι υπάρχουν πάμπολες

of great uses for unarmed civilian drones:

σπουδαίες χρήσεις των αμάχων μη επανδρωμένων μέσων:

environmental monitoring, search and rescue, logistics.

περιβαλλοντική παρακολούθηση, έρευνα και διάσωση, μεταφορά προμηθειών.

If we have an international treaty on robotic weapons,

Αν έχουμε μια διεθνή συνθήκη για τα ρομποτικά όπλα,

how do we gain the benefits of autonomous drones

πώς κερδίζουμε τα οφέλη των αυτόνομων μη επανδρωμένων μέσων

and vehicles while still protecting ourselves

και οχημάτων ενόσω προστατεύουμε παράλληλα τους εαυτούς μας

against illegal robotic weapons?

από τα παράνομα ρομποτικά όπλα;

I think the secret will be transparency.

Νομίζω ότι το μυστικό θα είναι η διαφάνεια.

No robot should have an expectation of privacy

Κανένα ρομπότ δεν θα πρέπει να έχει την προσδοκία της ιδιωτικότητας

in a public place.

σε δημόσιο χώρο.

(Applause)

(Χειροκρότημα)

Each robot and drone should have

Κάθε ρομπότ και μη επανδρωμένο μέσο θα πρέπει να έχει

a cryptographically signed I.D. burned in at the factory

μια ψηφιακά κρυπτογραφημένη ταυτότητα που να δημιουργείται στο εργοστάσιο και

that can be used to track its movement through public spaces.

να μπορεί να χρησιμοποιηθεί για να παρακολουθείται η κίνησή του σε δημόσιους χώρους.

We have license plates on cars, tail numbers on aircraft.

Έχουμε πινακίδες στα αυτοκίνητα, αριθμούς σειράς στα αεροσκάφη.

This is no different.

Αυτό δεν είναι κάτι διαφορετικό.

And every citizen should be able to download an app

Κάθε πολίτης θα πρέπει να είναι σε θέση να κατεβάσει μια εφαρμογή

that shows the population of drones and autonomous vehicles

που θα δείχνει τον πληθυσμό των μη επανδρωμένων μέσων και αυτόνομων οχημάτων

moving through public spaces around them,

που κινούνται μέσα σε δημόσιους χώρους γύρω του,

both right now and historically.

τόσο αυτή τη στιγμή όσο και ιστορικά.

And civic leaders should deploy sensors and civic drones

Και οι πολιτικοί ηγέτες θα πρέπει να αναπτύξουν αισθητήρες και πολιτικά μη επανδρωμένα μέσα

to detect rogue drones,

για τον εντοπισμό έκνομων μη επανδρωμένων μέσων,

and instead of sending killer drones of their own up to shoot them down,

κι αντί της αποστολής δικών τους φονικών μη επανδρωμένων μέσων για να τα καταστρέψουν,

they should notify humans to their presence.

θα πρέπει να ενημερώνουν τους ανθρώπους για την παρουσία τους.

And in certain very high-security areas,

Και σε ορισμένες περιοχές πολύ υψηλής ασφάλειας,

perhaps civic drones would snare them

ίσως τα πολιτικά μη επανδρωμένα μέσα να τα παγιδεύουν

and drag them off to a bomb disposal facility.

και να τα παρασέρνουν σε μια εγκατάσταση εξουδετέρωσης βομβών.

But notice, this is more an immune system

Αλλά προσέξτε, αυτό είναι περισσότερο ένα ανοσοποιητικό σύστημα

than a weapons system.

από ένα σύστημα όπλων.

It would allow us to avail ourselves of the use

Θα μας επέτρεπε να επωφεληθούμε οι ίδιοι τη χρήση

of autonomous vehicles and drones

αυτόνομων οχημάτων και μη επανδρωμένων μέσων,

while still preserving our open, civil society.

διατηρώντας ακόμα την ανοικτή μας κοινωνία των πολιτών.

We must ban the deployment and development

Πρέπει να απαγορεύσουμε την ανάπτυξη και δημιουργία

of killer robots.

ρομπότ δολοφόνων

Let's not succumb to the temptation to automate war.

Ας μην υποκύψουμε στον πειρασμό να αυτοματοποιήσουμε τον πόλεμο.

Autocratic governments and criminal organizations

Αυταρχικές κυβερνήσεις κι εγκληματικές οργανώσεις

undoubtedly will, but let's not join them.

αναμφίβολα θα το κάνουν, αλλά ας μην τους συμμεριστούμε.

Autonomous robotic weapons

Τα αυτόνομα ρομποτικά όπλα

would concentrate too much power

θα συγκέντρωναν υπερβολική εξουσία

in too few unseen hands,

σε ελάχιστα αθέατα χέρια

and that would be corrosive to representative government.

κι αυτό θα ήταν διαβρωτικό για την αντιπροσωπευτική κυβέρνηση.

Let's make sure, for democracies at least,

Ας σιγουρευτούμε ότι, τουλάχιστον στις δημοκρατίες,

killer robots remain fiction.

τα ρομπότ δολοφόνοι θα παραμείνουν επιστημονική φαντασία.

Thank you.

Ευχαριστώ.

(Applause)

(Χειροκρότημα)

Thank you. (Applause)

Σας ευχαριστώ. (Χειροκρότημα)