When AI Can Fake Reality, Who Can You Trust? | Sam Gregory | TED

Traducător: Claudia Pravat

It's getting harder, isn't it, to spot real from fake,

E din ce în ce mai greu să identifici ceva real de ceva fals,

AI-generated from human-generated.

ceva generat de AI și ceva creat de om.

Cu inteligența artificială generativă

With generative AI,

along with other advances in deep fakery,

și alte progrese din domeniul conținutului falsificat,

it doesn't take many seconds of your voice,

e nevoie de câteva secunde din vocea ta,

many images of your face,

câteva imagini ale feței tale,

to fake you,

pentru a-ți fi furată identitatea,

and the realism keeps increasing.

iar precizia e din ce în ce mai mare.

I first started working on deepfakes in 2017,

Am început să lucrez la deepfakes în 2017,

when the threat to our trust in information was overhyped,

când crescuse amenințarea la adresa încrederii în informații,

and the big harm, in reality, was falsified sexual images.

iar cel mai grav a fost apariția de imagini sexuale falsificate.

Now that problem keeps growing, harming women and girls worldwide.

Această problemă a crescut și afectează femei și fete din întreaga lume.

But also, with advances in generative AI, we're now also approaching a world

De asemenea, odată cu progresele AI, ne apropiem acum de o lume

where it's broadly easier to make fake reality,

în care e ușor să creezi o realitate falsă,

but also to dismiss reality as possibly faked.

dar și să respingi realitatea și s-o consideri falsă.

Now, deceptive and malicious audiovisual AI

Inteligența artificială audiovizuală înșelătoare și rău intenționată

is not the root of our societal problems,

nu e rădăcina problemelor noastre din societate,

but it's likely to contribute to them.

dar poate contribui la ele.

Audio clones are proliferating in a range of electoral contexts.

Clonele audio proliferează într-o serie de contexte electorale.

"Is it, isn't it" claims cloud human-rights evidence from war zones,

Afirmațiile „E adevărat”/„Nu e adevărat” nu aduc dovezi reale din zonele de război,

sexual deepfakes target women in public and in private,

falsificările sexuale vizează femeile în public și în privat,

and synthetic avatars impersonate news anchors.

iar avatarurile artificiale se deghizează în prezentatori de știri.

I lead WITNESS.

Sunt director la WITNESS,

un grup pentru drepturile omului,

We're a human-rights group

that helps people use video and technology to protect and defend their rights.

care ajută oamenii să-și apere drepturile, folosind tehnologia video.

And for the last five years, we've coordinated a global effort,

În ultimii cinci ani, am coordonat un efort global,

"Prepare, Don't Panic,"

„Pregătiți-vă, nu vă panicați”,

around these new ways to manipulate and synthesize reality,

în jurul noilor modalități de manipulare și sintetizare a realității

and on how to fortify the truth

și a modului de a consolida adevărul,

of critical frontline journalists and human-rights defenders.

oferit de jurnaliștii din prima linie și apărătorii drepturilor omului.

Now, one element in that is a deepfakes rapid-response task force,

O componentă a lui e grupul de lucru care verifică rapid falsurile,

made up of media-forensics experts

format din experți în media criminalistică

and companies who donate their time and skills

și companii care își donează timpul și abilitățile

to debunk deepfakes and claims of deepfakes.

pentru a dezvălui falsurile atunci când apar.

The task force recently received three audio clips,

Grupul de lucru a primit recent trei clipuri audio,

from Sudan, West Africa and India.

din Sudan, Africa de Vest și India.

People were claiming that the clips were deepfaked, not real.

Oamenii susțineau că nu erau reale, ci falsificate.

In the Sudan case,

În cazul Sudanului,

experts used a machine-learning algorithm

experții au folosit un algoritm de învățare automată,

trained on over a million examples of synthetic speech

testat în peste un milion de exemple de vorbire contrafăcută,

to prove, almost without a shadow of a doubt,

pentru a dovedi, aproape fără umbră de îndoială,

that it was authentic.

că este autentic.

In the West Africa case,

În cazul Africii de Vest,

they couldn't reach a definitive conclusion

nu s-a putut ajunge la o concluzie definitivă,

because of the challenges of analyzing audio from Twitter,

din cauza problemelor la analiza audio de pe Twitter

and with background noise.

și a zgomotului de fundal.

The third clip was leaked audio of a politician from India.

Al treilea clip a fost difuzat audio și era al unui politician din India.

Nilesh Christopher of “Rest of World” brought the case to the task force.

Nilesh Christopher, de la „Rest of World”, a prezentat cazul grupului de lucru.

The experts used almost an hour of samples

Experții au folosit o oră de eșantioane

to develop a personalized model of the politician's authentic voice.

pentru a dezvolta un model personalizat al vocii reale a politicianului.

Despite his loud and fast claims that it was all falsified with AI,

În ciuda afirmațiilor sale că totul a fost falsificat cu AI,

experts concluded that it at least was partially real, not AI.

experții au ajuns la concluzia că era parțial real, nu doar AI.

As you can see,

După cum puteți vedea,

even experts cannot rapidly and conclusively separate true from false,

nici experții nu pot separa rapid și concludent adevărul de fals,

and the ease of calling "that's deepfaked" on something real

iar ușurința de a cataloga drept deepfake ceva real

is increasing.

este în creștere.

The future is full of profound challenges,

Viitorul e plin de provocări profunde,

both in protecting the real and detecting the fake.

atât în protejarea realului, cât și în detectarea falsului.

We're already seeing the warning signs

Vedem deja semnele de avertizare

of this challenge of discerning fact from fiction.

ale acestei provocări de a discerne realul de ficțiune.

Audio and video deepfakes have targeted politicians,

Deepfake-urile audio și video au vizat politicieni, lideri politici

major political leaders in the EU, Turkey and Mexico,

din UE, Turcia și Mexic

and US mayoral candidates.

și candidați pentru primăriile din SUA.

Political ads are incorporating footage of events that never happened,

Reclamele politice conțin imagini cu evenimente care nu s-au întâmplat,

and people are sharing AI-generated imagery from crisis zones,

iar oamenii distribuie imagini generate de AI din zonele de criză,

claiming it to be real.

susținând că sunt reale.

Now, again, this problem is not entirely new.

Această problemă nu e deloc nouă.

The human-rights defenders and journalists I work with

Apărătorii drepturilor omului și jurnaliștii cu care lucrez

are used to having their stories dismissed,

sunt obișnuiți să li se respingă reportajele

and they're used to widespread, deceptive, shallow fakes,

și cunosc falsurile răspândite, înșelătoare, superficiale,

videos and images taken from one context or time or place

videoclipuri și imagini luate din context, timp sau loc

and claimed as if they're in another,

și prezentate ca și cum s-ar fi întâmplat în altă parte,

used to share confusion and spread disinformation.

folosite pentru a stârni confuzie și a răspândi dezinformare.

And of course, we live in a world that is full of partisanship

Trăim într-o lume plină de partizanat

and plentiful confirmation bias.

și prejudecăți de tot felul.

Given all that,

De aceea,

the last thing we need is a diminishing baseline

ultimul lucru de care avem nevoie e o bază din ce în ce mai mică

of the shared, trustworthy information upon which democracies thrive,

de informații de încredere pe care prosperă democrațiile,

where the specter of AI

unde spectrul AI e folosit

is used to plausibly believe things you want to believe,

pentru a crede în mod plauzibil lucruri pe care dorim să le credem

and plausibly deny things you want to ignore.

și pentru a nega lucrurile pe care dorim să le ignorăm.

Dar există o modalitate prin care putem preveni acel viitor,

But I think there's a way we can prevent that future,

if we act now;

dacă acționăm acum;

that if we "Prepare, Don't Panic,"

dacă ne „Pregătim, nu intrăm în panică”,

we'll kind of make our way through this somehow.

vom reuși să trecem prin asta.

Panic won't serve us well.

Panica nu aduce nimic bun.

[It] plays into the hands of governments and corporations

[Ea] e folosită de guverne și corporații,

who will abuse our fears,

care abuzează de fricile noastre,

and into the hands of people who want a fog of confusion

și de cei care vor să provoace confuzie

and will use AI as an excuse.

și folosesc AI ca pretext.

How many people were taken in, just for a minute,

Câți au fost păcăliți, fie și doar pentru un minut,

by the Pope in his dripped-out puffer jacket?

de jacheta Papei?

You can admit it.

Recunoașteti.

(Laughter)

(Râsete)

More seriously,

Mai grav decât atât,

câți dintre voi cunoașteți pe cineva care a fost înșelat

how many of you know someone who's been scammed

by an audio that sounds like their kid?

de o voce care seamănă cu a copilului lor?

And for those of you who are thinking "I wasn't taken in,

Iar pentru aceia dintre voi care spun „N-am fost păcălit,

I know how to spot a deepfake,"

știu cum să depistez un deepfake”,

any tip you know now is already outdated.

orice recomandare pe care o știți nu mai e de actualitate.

Deepfakes didn't blink, they do now.

O imagine falsă nu clipea, dar acum clipește.

Six-fingered hands were more common in deepfake land than real life --

Vedeam mâini cu șase degete mai mult în deepfake decât în viața reală,

not so much.

acum nu prea mai există.

Technical advances erase those visible and audible clues

Progresele tehnice șterg indiciile audio și video

that we so desperately want to hang on to

pe care ne bazăm

as proof we can discern real from fake.

pentru a deosebi realul de fals.

But it also really shouldn’t be on us to make that guess without any help.

Dar n-ar trebui să facem noi această deosebire.

Between real deepfakes and claimed deepfakes,

Pentru falsurile existente și cele revendicate

we need big-picture, structural solutions.

avem nevoie de soluții de ansamblu.

We need robust foundations

Avem nevoie de elemente robuste

that enable us to discern authentic from simulated,

care să ne permită să discernem autenticul de artificial,

tools to fortify the credibility of critical voices and images,

instrumente pentru a mări credibilitatea vocilor și imaginilor importante

and powerful detection technology

și o tehnologie puternică

that doesn't raise more doubts than it fixes.

ce nu ridică mai multe îndoieli decât rezolvă.

There are three steps we need to take to get to that future.

Există trei etape pentru a ajunge la acest punct.

Step one is to ensure that the detection skills and tools

Prima e să vă asigurați că instrumentele de detectare

are in the hands of the people who need them.

sunt în mâinile persoanelor care au nevoie de ele.

I've talked to hundreds of journalists,

Am vorbit cu sute de jurnaliști,

lideri din comunității, apărători ai drepturilor omului,

community leaders and human-rights defenders,

and they're in the same boat as you and me and us.

și toți sunt de aceeași părere.

They're listening to the audio, trying to think, "Can I spot a glitch?"

Ascultă vocea și se gândesc dacă pot observa un indiciu.

Looking at the image, saying, "Oh, does that look right or not?"

Privesc imaginea și se gândesc dacă e reală sau nu.

Or maybe they're going online to find a detector.

Pot căuta online un anumit detector.

And the detector they find,

Cu acest detector

they don't know whether they're getting a false positive, a false negative,

nu știu dacă rezultatul obținut va fi fals pozitiv, fals negativ

or a reliable result.

sau unul adevărat.

Here's an example.

Iată un exemplu.

I used a detector, which got the Pope in the puffer jacket right.

Am folosit un detector pentru Papa purtând acea jachetă.

But then, when I put in the Easter bunny image that I made for my kids,

Apoi am pus și iepurașul de Paști, pe care l-am generat pentru copiii mei,

it said that it was human-generated.

și a spus că a fost o imagine generată de om.

This is because of some big challenges in deepfake detection.

Asta pentru că există mari probleme în detectarea falsurilor.

Detection tools often only work on one single way to make a deepfake,

Instrumentele detectează adesea doar un singur mod de a crea un deepfake,

so you need multiple tools,

deci e nevoie de mai multe instrumente

and they don't work well on low-quality social media content.

și ele nu funcționează bine în conținutul rețelelor sociale

de calitate scăzută.

Confidence score, 0.76-0.87,

Scorul de încredere e 0,76-0,87,

how do you know whether that's reliable,

așadar nu știi dacă e real,

if you don't know if the underlying technology is reliable,

dacă tehnologia de bază e fiabilă

or whether it works on the manipulation that is being used?

sau dacă funcționează în scopul pentru care e utilizată.

And tools to spot an AI manipulation don't spot a manual edit.

Iar instrumentele de identificare în cazul manipulării AI

nu detectează editarea manuală.

These tools also won't be available to everyone.

În plus, aceste instrumente nu sunt la îndemâna oricui.

There's a trade-off between security and access,

E un compromis între securitate și acces,

which means if we make them available to anyone,

ceea ce înseamnă că dacă are acces oricine la ele,

they become useless to everybody,

ele devin inutile la scară largă,

because the people designing the new deception techniques

deoarece cei care lucrează la noile tehnici de înșelătorie

will test them on the publicly available detectors

le vor testa pe detectoarele disponibile

and evade them.

și astfel nu vor fi detectate.

But we do need to make sure these are available

Dar trebuie să ne asigurăm că acestea sunt disponibile

to the journalists, the community leaders,

jurnaliștilor, liderilor din comunități,

the election officials, globally, who are our first line of defense,

oficialilor electorali la nivel global, care sunt prima noastră linie de apărare,

thought through with attention to real-world accessibility and use.

gândite minuțios ca să fie accesibile și utilizate în lumea reală.

Though at the best circumstances,

În cele mai bune circumstanțe,

detection tools will be 85 to 95 percent effective,

eficacitatea instrumentelor de detectare e de 85%-95%,

they have to be in the hands of that first line of defense,

de aceea trebuie să fie în mâinile celor din linia întâi,

and they're not, right now.

iar acum nu prea sunt.

So for step one, I've been talking about detection after the fact.

Ca prim pas, am vorbit despre detectare după ce evenimentul a avut loc.

Step two -- AI is going to be everywhere in our communication,

Pasul doi - AI va fi prezentă peste tot în comunicarea noastră,

creating, changing, editing.

creând, schimbând, editând.

It's not going to be a simple binary of "yes, it's AI" or "phew, it's not."

Nu va fi o simplă combinație de două elemente: AI sau non-AI.

AI is part of all of our communication,

AI e parte din toată comunicarea noastră,

so we need to better understand the recipe of what we're consuming.

așa că trebuie să înțelegem mai bine ce consumăm.

Some people call this content provenance and disclosure.

Unii oameni numesc acest conținut proveniență și dezvăluire.

Specialiștii în tehnologie au construit moduri de a adăuga elemente invizibile

Technologists have been building ways to add invisible watermarking

to AI-generated media.

la comunicările generate de AI.

They've also been designing ways --

De asemenea, au venit cu idei,

and I've been part of these efforts --

și am făcut parte din aceste eforturi,

within a standard called the C2PA,

în cadrul unui standard numit C2PA,

to add cryptographically signed metadata to files.

pentru a adăuga metadate semnate criptografic în fișiere.

This means data that provides details about the content,

Asta înseamnă date care oferă detalii despre conținut,

cryptographically signed in a way that reinforces our trust

semnate criptografic într-un mod care ne consolidează încrederea

in that information.

în acele informații.

It's an updating record of how AI was used to create or edit it,

E o înregistrare actualizată a modului în care AI a fost utilizată

pentru a o crea sau edita,

where humans and other technologies were involved,

unde au fost implicați oamenii și alte tehnologii

and how it was distributed.

și modul în care a fost distribuită.

It's basically a recipe and serving instructions

Practic, e o rețetă și instrucțiunile de servire

for the mix of AI and human

pentru amestecul de AI și om,

that's in what you're seeing and hearing.

pe care o regăsim în ceea ce vedem și auzim.

And it's a critical part of a new AI-infused media literacy.

Face parte din noua alfabetizare media infuzate de AI.

And this actually shouldn't sound that crazy.

N-ar trebui să pară ceva extraordinar.

Our communication is moving in this direction already.

Comunicarea noastră se îndreaptă deja în această direcție.

If you're like me -- you can admit it --

Dacă faceți ca mine,

you browse your TikTok “For You” page,

mergeți pe pagina „For You” de pe TikTok,

and you're used to seeing videos that have an audio source,

unde vedeți de obicei videoclipuri care au o sursă audio,

an AI filter, a green screen, a background,

un filtru AI, un ecran verde, un fundal,

a stitch with another edit.

un punct cu altă editare.

This, in some sense, is the alpha version of this transparency

Într-un fel, asta e versiunea alfa de transparență,

pe unele dintre platformele majore pe care le folosim astăzi.

in some of the major platforms we use today.

It's just that it does not yet travel across the internet,

Doar că încă nu e prezentă pe internet,

it’s not reliable, updatable, and it’s not secure.

nu e fiabilă, actualizabilă și sigură.

Now, there are also big challenges

De asemenea, există mari provocări

in this type of infrastructure for authenticity.

în acest tip de infrastructură în ce privește autenticitatea.

As we create these durable signs of how AI and human were mixed,

Când creăm aceste semne durabile în care omul se amestecă cu AI,

that carry across the trajectory of how media is made,

care arată cum funcționează mass-media, trebuie să ne asigurăm

we need to ensure they don't compromise privacy or backfire globally.

că nu compromit confidențialitatea și nici nu provoacă la nivel global.

We have to get this right.

Trebuie să facem acest lucru corect.

We can't oblige a citizen journalist filming in a repressive context

Nu putem obliga un jurnalist care filmează într-un context represiv

or a satirical maker using novel gen-AI tools

sau un creator de conținut comic care folosește instrumente noi de AI

to parody the powerful ...

pentru a parodia puterea,

to have to disclose their identity or personally identifiable information

să fie nevoiți să-și dezvăluie identitatea

in order to use their camera or ChatGPT.

când își folosesc camera sau ChatGPT.

Because it's important they be able to retain their ability to have anonymity,

Pentru că e important să-și poată păstra capacitatea de a beneficia de anonimat,

at the same time as the tool to create is transparent.

iar instrumentul de creație să fie transparent.

This needs to be about the how of AI-human media making,

E vorba de cum creăm media om-AI,

not the who.

nu de cine o creează.

This brings me to the final step.

Așa ajungem la ultima etapă.

None of this works without a pipeline of responsibility

Nimic din toate astea nu funcționează fără o cale de responsabilitate

that runs from the foundation models and the open-source projects

ce pornește de la modelele fundamentale și proiectele open-source,

through to the way that is deployed into systems, APIs and apps,

de la modul în care sunt implementate în sisteme, API-uri și aplicații,

to the platforms where we consume media and communicate.

până la platformele unde accesăm media și comunicăm.

I've spent much of the last 15 years fighting, essentially, a rearguard action,

Am petrecut mare parte din ultimii 15 ani luptându-mă cu un inamic secundar,

like so many of my colleagues in the human rights world,

ca mulți dintre colegii mei care apără drepturile omului,

against the failures of social media.

împotriva eșecurilor rețelelor sociale.

We can't make those mistakes again in this next generation of technology.

Nu putem face aceste greșeli din nou în această nouă generație de tehnologie.

What this means is that governments

Asta înseamnă că guvernele

need to ensure that within this pipeline of responsibility for AI,

trebuie să se asigure că în calea de responsabilitate a AI

there is transparency, accountability and liability.

există transparență, responsabilitate și răspundere.

Without these three steps --

Fără aceste trei etape,

detection for the people who need it most,

detectarea persoanelor care au cea mai mare nevoie,

provenance that is rights-respecting

proveniența care respectă drepturile

and that pipeline of responsibility,

și acea cale de responsabilitate,

we're going to get stuck looking in vain for the six-fingered hand,

vom căuta în zadar mâna cu șase degete

or the eyes that don't blink.

sau ochii care nu clipesc.

We need to take these steps.

Trebuie să facem acești pași.

Otherwise, we risk a world where it gets easier and easier

În caz contrar, riscăm o lume în care devine din ce în ce mai ușor

to both fake reality

să falsificăm realitatea

and dismiss reality as potentially faked.

și să respingem realitatea ca fiind falsă.

And that is a world that the political philosopher Hannah Arendt

O lume pe care filosoful politic Hannah Arendt

described in these terms:

a descris-o în acești termeni:

"A people that no longer can believe anything

„Un popor care nu mai poate crede nimic

cannot make up its own mind.

nu poate lua hotărâri singur.

It is deprived not only of its capacity to act

E lipsit nu numai de capacitatea de a acționa,

but also of its capacity to think and to judge.

ci și de capacitatea de a gândi și de a judeca.

And with such a people you can then do what you please."

Și cu un astfel de popor poți face orice.”

That's a world I know none of us want,

E o lume pe care știu că nu o doriți

that I think we can prevent.

și care cred că poate fi prevenită.

Thanks.

Mulțumesc.

(Cheers and applause)

(Urale şi aplauze)