Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Μετάφραση: PANAGIOTA KIRMIZAKI Επιμέλεια: Nikolaos Benias

Look at these images.

Δείτε αυτές τις εικόνες.

Now, tell me which Obama here is real.

Τώρα, πείτε μου ποιος Ομπάμα είναι αληθινός.

(Video) Barack Obama: To help families refinance their homes,

(Βίντεο) Μπάρακ Ομπάμα: Να βοηθήσουμε τις οικογένειες οικονομικά,

to invest in things like high-tech manufacturing,

να επενδύσουμε πχ στην παραγωγή υψηλής τεχνολογίας,

clean energy

στην καθαρή ενέργεια

and the infrastructure that creates good new jobs.

και σε υποδομές που δημιουργούν καλές νέες θέσεις εργασίας.

Supasorn Suwajanakorn: Anyone?

Σούπασορν Σουβαγιακόρν: Κάποιος;

The answer is none of them.

Η απάντηση είναι κανείς.

(Laughter)

(Γέλια)

None of these is actually real.

Κανείς τους δεν είναι αληθινός.

So let me tell you how we got here.

Αφήστε με να σας πω πώς φτάσαμε εδώ.

My inspiration for this work

Η έμπνευση μου γι' αυτό

was a project meant to preserve our last chance for learning about the Holocaust

ήταν ένα πρότζεκτ που ήταν η τελευταία ελπίδα να μάθουμε για το Ολοκαύτωμα

from the survivors.

από τους επιζήσαντες.

It's called New Dimensions in Testimony,

Λέγεται «Νέες Διαστάσεις στη Μαρτυρία»

and it allows you to have interactive conversations

και σου επιτρέπει διαδραστικές συζητήσεις

with a hologram of a real Holocaust survivor.

με ένα ολόγραμμα ενός πραγματικού επιζώντα.

(Video) Man: How did you survive the Holocaust?

(Βίντεο) Άνδρας: Πώς επιβιώσατε από το Ολοκαύτωμα;

(Video) Hologram: How did I survive?

Πώς επιβίωσα;

I survived,

Επιβίωσα,

I believe,

πιστεύω,

because providence watched over me.

γιατί με προστάτευε η Θεία Πρόνοια.

SS: Turns out these answers were prerecorded in a studio.

ΣΣ: Οι απαντήσεις έχουν προ-ηχογραφηθεί σε στούντιο.

Yet the effect is astounding.

Ωστόσο, το αποτέλεσμα είναι εκπληκτικό.

You feel so connected to his story and to him as a person.

Νιώθεις τέτοια σύνδεση με την ιστορία του, αλλά και με τον ίδιο σαν άτομο.

I think there's something special about human interaction

Νομίζω ότι υπάρχει κάτι μοναδικό στην ανθρώπινη αλληλεπίδραση

that makes it much more profound

που κάνει ακόμα πιο βαθύ

and personal

και προσωποποιημένο

than what books or lectures or movies could ever teach us.

αυτό που τα βιβλία, οι ομιλίες ή οι ταινίες θα μπορούσαν να μας διδάξουν.

So I saw this and began to wonder,

Είδα λοιπόν αυτό και ξεκίνησα να αναρωτιέμαι,

can we create a model like this for anyone?

μπορούμε να φτιάξουμε ένα μοντέλο όπως αυτό για τον καθένα;

A model that looks, talks and acts just like them?

Ένα μοντέλο που θα μοιάζει, θα μιλάει και θα δρα όπως αυτοί;

So I set out to see if this could be done

Ξεκίνησα λοιπόν να δω τι μπορεί να γίνει

and eventually came up with a new solution

και τελικά σκέφτηκα μια νέα λύση

that can build a model of a person using nothing but these:

που μπορεί να φτιάξει το μοντέλο ενός ανθρώπου χρησιμοποιώντας μόνο αυτά:

existing photos and videos of a person.

Υπάρχουσες φωτογραφίες και βίντεό του.

If you can leverage this kind of passive information,

Αν μπορείς να αξιοποιήσεις τέτοια παθητικά δεδομένα,

just photos and video that are out there,

απλώς φωτογραφίες και βίντεο που υπάρχουν,

that's the key to scaling to anyone.

είναι το κλειδί για να φτάσεις σε όλους.

By the way, here's Richard Feynman,

Παρεμπιπτόντως, ο Ρίτσαρντ Φέιμαν,

who in addition to being a Nobel Prize winner in physics

εκτός από κάτοχος Νόμπελ στη Φυσική

was also known as a legendary teacher.

ήταν γνωστός και ως ένας θρυλικός δάσκαλος.

Wouldn't it be great if we could bring him back

Δεν θα ήταν υπέροχο να τον φέρναμε πίσω

to give his lectures and inspire millions of kids,

να μιλήσει και να εμπνεύσει εκατομμύρια παιδιά,

perhaps not just in English but in any language?

ίσως όχι μόνο στα Αγγλικά, αλλά σε οποιαδήποτε γλώσσα;

Or if you could ask our grandparents for advice and hear those comforting words

Ή αν ζήταγες τη συμβουλή των παππούδων σου και άκουγες αυτά τα παρηγορητικά λόγια

even if they're no longer with us?

ακόμα κι αν δεν είναι πια μαζί μας;

Or maybe using this tool, book authors, alive or not,

Ή ίσως με αυτό το εργαλείο συγγραφείς, εν ζωή ή όχι,

could read aloud all of their books for anyone interested.

να μπορούσαν να διαβάσουν τα βιβλία τους σε όποιον το ήθελε.

The creative possibilities here are endless,

Οι δημιουργικές δυνατότητες εδώ είναι απεριόριστες

and to me, that's very exciting.

και για μένα, αυτό είναι συναρπαστικό.

And here's how it's working so far.

Ας δούμε πώς λειτουργεί μέχρι τώρα.

First, we introduce a new technique

Πρώτα εισάγουμε μία νέα μέθοδο που μπορεί να ανακατασκευάσει

that can reconstruct a high-detailed 3D face model from any image

ένα λεπτομερές τρισδιάστατο μοντέλο προσώπου οποιασδήποτε εικόνας,

without ever 3D-scanning the person.

χωρίς ποτέ να σαρώσει τρισδιάστατα το άτομο.

And here's the same output model from different views.

Ορίστε το ίδιο προϊόν-μοντέλο από διαφορετικές θέσεις.

This also works on videos,

Αυτό λειτουργεί και στα βίντεο,

by running the same algorithm on each video frame

τρέχοντας τον ίδιο αλγόριθμο σε κάθε καρέ του βίντεο

and generating a moving 3D model.

και δημιουργεί ένα κινούμενο μοντέλο.

And here's the same output model from different angles.

Ορίστε το ίδιο προϊόν-μοντέλο από διαφορετικές γωνίες.

It turns out this problem is very challenging,

Εν τέλει, το πρόβλημα είναι ιδιαίτερα απαιτητικό,

but the key trick is that we are going to analyze

αλλά το κλειδί είναι η ανάλυση

a large photo collection of the person beforehand.

μίας μεγάλης συλλογής φωτογραφιών του ατόμου εκ των προτέρων.

For George W. Bush, we can just search on Google,

Για τον Τζωρτζ O. Μπους, ψάχνουμε στο Google

and from that, we are able to build an average model,

και μπορούμε να φτιάξουμε ένα συνηθισμένο μοντέλο,

an iterative, refined model to recover the expression

ένα συνεχές, επεξεργασμένο μοντέλο που αναδομεί την έκφραση

in fine details, like creases and wrinkles.

με πολλές λεπτομέρειες, όπως γραμμές και ρυτίδες.

What's fascinating about this

Το φοβερό με αυτό είναι

is that the photo collection can come from your typical photos.

ότι η συλλογή των φωτογραφιών μπορεί να είναι απλές φωτογραφίες σου.

It doesn't really matter what expression you're making

Δεν έχει σημασία τι εκφράσεις έχεις

or where you took those photos.

ή από πού είναι αυτές οι φωτογραφίες.

What matters is that there are a lot of them.

Σημασία έχει να είναι πολλές.

And we are still missing color here,

Μας λείπει όμως ακόμα λίγο χρώμα,

so next, we develop a new blending technique

γι' αυτό, αναπτύσσουμε μια νέα μέθοδο ανάμειξης

that improves upon a single averaging method

που βελτιώνει μία συνηθισμένη μέθοδο

and produces sharp facial textures and colors.

και παράγει πιο ευκρινείς υφές και χρώματα προσώπου.

And this can be done for any expression.

Και αυτό μπορεί να γίνει για όλες τις εκφράσεις.

Now we have a control of a model of a person,

Τώρα ελέγχουμε το μοντέλο ενός ανθρώπου,

and the way it's controlled now is by a sequence of static photos.

βάζοντας στην σειρά στατικές φωτογραφίες.

Notice how the wrinkles come and go, depending on the expression.

Παρατηρήστε πως οι ρυτίδες αλλάζουν ανάλογα την έκφραση.

We can also use a video to drive the model.

Επίσης μπορούμε να κατευθύνουμε το μοντέλο με ένα βίντεο.

(Video) Daniel Craig: Right, but somehow,

(Βίντεο) Ντάλιελ Γκρεγκ: Σωστά, αλλά με κάποιο τρόπο,

we've managed to attract some more amazing people.

καταφέραμε να προσελκύσουμε περισσότερους υπέροχους ανθρώπους.

SS: And here's another fun demo.

ΣΣ: Να μία άλλη ωραία παρουσίαση.

So what you see here are controllable models

Αυτό που βλέπετε εδώ είναι ελεγχόμενα μοντέλα

of people I built from their internet photos.

ανθρώπων που έφτιαξα με εικόνες τους στο διαδίκτυο.

Now, if you transfer the motion from the input video,

Τώρα, αν μεταφέρουμε την κίνηση από το καταχωρημένο βίντεο,

we can actually drive the entire party.

μπορούμε να κατευθύνουμε ολόκληρη την ομάδα.

George W. Bush: It's a difficult bill to pass,

Τζορτζ Ο. Μπους: Είναι ένα δύσκολο νομοσχέδιο προς ψήφιση,

because there's a lot of moving parts,

καθώς υπάρχουν πολλά μέρη μεταφερόμενα κομμάτια

and the legislative processes can be ugly.

και δύσκολη νομοθετική διαδικασία.

(Applause)

(Χειροκρότημα)

SS: So coming back a little bit,

Επιστρέφοντας λίγο πιο πίσω,

our ultimate goal, rather, is to capture their mannerisms

ο τελικός στόχος μας είναι πιο πολύ να απαθανατίσουμε το ύφος τους

or the unique way each of these people talks and smiles.

ή τον μοναδικό τρόπο με τον οποίο μιλούν και γελάνε.

So to do that, can we actually teach the computer

Μπορούμε λοιπόν να διδάξουμε στον υπολογιστή

to imitate the way someone talks

να μιμείται τον τρόπο που μιλάει κάποιος

by only showing it video footage of the person?

δείχνοντας του μόνο πλάνα από βίντεο του ανθρώπου;

And what I did exactly was, I let a computer watch

Για την ακρίβεια, άφησα τον υπολογιστή να παρακολουθεί

14 hours of pure Barack Obama giving addresses.

14 ώρες ομιλίες μόνο του Μπάρακ Ομπάμα.

And here's what we can produce given only his audio.

Ορίστε τι μπορούμε να φτιάξουμε μόνο από το ακουστικό υλικό.

(Video) BO: The results are clear.

(Βίντεο) ΜΟ: Τα αποτελέσματα είναι εμφανή.

America's businesses have created 14.5 million new jobs

Οι αμερικάνικες επιχειρήσεις έχουν δημιουργήσει 14.5 εκ. νέες θέσεις εργασίας

over 75 straight months.

σε περισσότερο από 75 μήνες.

SS: So what's being synthesized here is only the mouth region,

ΣΣ: Εδώ επεξεργάστηκε μόνο η περιοχή του στόματος

and here's how we do it.

και ορίστε πώς το κάνουμε.

Our pipeline uses a neural network

Γίνεται χρήση ενός νευρολογικού δικτύου

to convert and input audio into these mouth points.

που μετατρέπει και εισάγει τον ήχο στα σημεία του στόματος.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Βίντεο) ΜΟ: Το αποκτούμε μέσω της εργασίας ή του Medicare ή Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

ΣΣ: Μετά επεξεργαζόμαστε την υφή, βελτιώνουμε λεπτομέρειες και δόντια

and blend it into the head and background from a source video.

και τα συνδυάζουμε με το κεφάλι και το φόντο του βίντεο.

(Βίντεο) ΜΟ: Οι γυναίκες δικαιούνται δωρεάν τσεκάπ

(Video) BO: Women can get free checkups,

and you can't get charged more just for being a woman.

και δεν χρεώνεστε παραπάνω απλώς γιατί είστε γυναίκες.

Young people can stay on a parent's plan until they turn 26.

Οι νέοι μπορούν να παραμείνουν στο πρόγραμμα ενός γονέα μέχρι τα 26.

SS: I think these results seem very realistic and intriguing,

ΣΣ: Νομίζω τα αποτελέσματα είναι πολύ ρεαλιστικά και ενδιαφέροντα,

but at the same time frightening, even to me.

αλλά ταυτόχρονα τρομακτικά, ακόμα και για εμένα.

Our goal was to build an accurate model of a person, not to misrepresent them.

Στόχος μας είναι να φτιάξουμε ένα ακριβές μοντέλο για όλους, όχι να παραποιήσουμε.

But one thing that concerns me is its potential for misuse.

Όμως, αυτό που με ανησυχεί είναι η πιθανότητα της κατάχρησης.

People have been thinking about this problem for a long time,

Οι άνθρωποι το σκέφτονται εδώ και πολύ καιρό,

since the days when Photoshop first hit the market.

από τότε που εμφανίστηκε το Photoshop στην αγορά.

As a researcher, I'm also working on countermeasure technology,

Ως ερευνητής, δουλεύω επίσης πάνω στην αντισταθμιστική τεχνολογία

and I'm part of an ongoing effort at AI Foundation,

και σε μια συνεχή προσπάθεια του Οργανισμού Τεχνητής Νοημοσύνης

which uses a combination of machine learning and human moderators

που συνδυάζει τη μηχανική μάθηση και ανθρώπους συντονιστές

to detect fake images and videos,

για να εντοπίζει ψεύτικες εικόνες και βίντεο,

fighting against my own work.

καταπολεμώντας τη δουλειά μου.

And one of the tools we plan to release is called Reality Defender,

Ένα από τα εργαλεία που θα διαθέσουμε ονομάζεται Reality Defender,

which is a web-browser plug-in that can flag potentially fake content

είναι ένα πρόσθετο στον φυλλομετρητή που εντοπίζει πιθανό ψεύτικο περιεχόμενο

automatically, right in the browser.

αυτόματα, μέσα στον φυλλομετρητή.

(Applause)

(Χειροκρότημα)

Despite all this, though,

Παρόλα αυτά,

fake videos could do a lot of damage,

τα ψεύτικα βίντεο μπορούν να βλάψουν,

even before anyone has a chance to verify,

πριν προλάβει κάποιος να τα επαληθεύσει,

so it's very important that we make everyone aware

γι' αυτό είναι πολύ σημαντικό να ενημερώσουμε όλους

of what's currently possible

για το τι είναι προς το παρόν εφικτό,

so we can have the right assumption and be critical about what we see.

ώστε να κάνουμε σωστές υποθέσεις και να ξέρουμε τι βλέπουμε.

There's still a long way to go before we can fully model individual people

Πρέπει να γίνουν πολλά πριν φτάσουμε να μοντελοποιήσουμε πλήρως τους ανθρώπους

and before we can ensure the safety of this technology.

και πριν να διασφαλίσουμε την προστασία αυτής της τεχνολογίας.

But I'm excited and hopeful,

Όμως ενθουσιάζομαι και αισιοδοξώ,

because if we use it right and carefully,

γιατί αν το χρησιμοποιήσουμε σωστά και προσεκτικά,

this tool can allow any individual's positive impact on the world

αυτό το εργαλείο μπορεί να επιτρέψει η θετική επίδραση κάθε ατόμου στον κόσμο

to be massively scaled

να μεγιστοποιηθεί μαζικά

and really help shape our future the way we want it to be.

και να βοηθήσει να φτιάξουμε το μέλλον μας όπως θέλουμε.

Thank you.

Σας ευχαριστώ.

(Applause)

(Χειροκρότημα)