What if AI Could Spot Your Lies? | Riccardo Loconte | TED

Fordító: Peter Pallos Lektor: Reka Lorinczy

This is something you won't like.

Ez nem fog önöknek tetszeni.

But here everyone is a liar.

De itt mindenki hazug.

Don't take it too personally.

Ne vegyék túlságosan magukra!

What I mean is that lying is very common

Úgy értem, hogy a hazugság nagyon gyakori,

and it is now well-established that we lie on a daily basis.

és mára már bebizonyosodott, hogy naponta hazudunk.

Indeed, scientists have estimated that we tell around two lies per day,

Tudósok becslése szerint naponta kb. kétszer,

although, of course, it's not that easy to establish those numbers with certainty.

bár nem olyan könnyű ezt számszerűsíteni.

And, well, I introduce myself.

Bemutatkozom.

I'm Riccardo, I'm a psychologist and a PhD candidate,

Riccardo vagyok, pszichológus és PhD-jelölt.

and for my research project I study how good are people at detecting lies.

Kutatésomban azt tanulmányozom,

hogy mennyire vagyunk jók hazugságok felderítésében.

Seems cool, right? But I'm not joking.

Menőnek tűnik, ugye?

De nem viccelek.

And you might wonder why a psychologist was then invited

Eltűnődhetnek, miért pszichológust hívtak meg,

to give a TED Talk about AI.

hogy TED-beszédet tartson az MI-ről.

And well, I'm here today

Azért vagyok itt, hogy elmondjam,

because I'm about to tell you how AI could be used to detect lies.

hogyan lehet az MI-t hazugságok észlelésére felhasználni.

And you will be very surprised by the answer.

Cefetül meg fognak lepődni a válaszon.

But first of all, when is it relevant to detect lies?

De mikor lényeges a hazugságok felderítése?

A first clear example that comes to my mind

Az első kézenfekvő példa, amely eszembe jut,

is in the criminal investigation field.

a bűnügyi nyomozás területe.

Imagine you are a police officer and you want to interview a suspect.

Képzeljék magukat rendőrnek, gyanúsítottat akarnak kihallgatni.

And the suspect is providing some information to you.

A gyanúsított elmesél valamit,

And this information is actually leading to the next steps of the investigation.

és ez tovább visz a vizsgálat következő lépéseihez.

We certainly want to understand if the suspect is reliable

Minden bizonnyal meg akarjuk érteni, hogy a gyanúsított megbízható-e,

or if they are trying to deceive us.

vagy igyekszik megtéveszteni minket.

Then another example comes to my mind,

Aztán másik példa jut eszembe,

and I think this really affects all of us.

és azt hiszem, ez valóban mindannyiunkat érinti.

So please raise your hands

Kérem, tartsa fel a kezét,

if you would like to know if your partner cheated on you.

aki szeretné tudni, hogy társa megcsalta-e!

(Laughter)

(Nevetés)

And don't be shy because I know.

Ne restelkedjenek, mert tudom.

(Laughter)

(Nevetés)

Yeah. You see?

Igen. Látják?

It's very relevant.

Ez nagyon lényeges.

However, I have to have to say that we as humans

Meg kell mondanom, hogy mi, emberek,

are very bad at detecting lies.

elég nehezen szúrjuk ki a hazugságot.

In fact, many studies have already confirmed

Sok kutatás megerősítette, hogy amikor az embereknek

that when people are asked to judge

meg kell ítélniük,

if someone is lying or not

hogy valaki hazudik-e,

without knowing much about that person or the context,

anélkül hogy az illetőről vagy a kontextusról sokat tudnának,

people's accuracy is no better than the chance level,

pontosságuk nem jobb, mint a véletlen.

about the same as flipping a coin.

Nagyjából ugyanannyi, mint érme feldobásakor.

You might also wonder

Kíváncsiak lehetnek arra, hogy szakértők:

if experts, such as police officers, prosecutors, experts

pl. rendőrök, ügyészek, sőt pszichológusok

and even psychologists

jobban felismerik-e a hazugságot?

are better at detecting lies.

And the answer is complex,

A válasz összetett,

because experience alone doesn't seem to be enough

mert a tapasztalat önmagában nem tűnik elegendőnek

to help detect lies accurately.

a hazugságok pontos felismeréséhez.

It might help, but it's not enough.

Talán segíthet, de nem elég.

To give you some numbers.

Néhány számot mondok.

In a well-known meta-analysis that previous scholars did in 2006,

Egy ismert kutatói metaanalízisben 2006-ban megállapították,

they found that naive judges' accuracy

hogy az elfogulatlan bírálók pontossága

was on average around 54 percent.

átlagosan 54% körüli volt.

Experts perform only slightly better,

Szakértők alig jobban teljesítenek,

with an accuracy rate around 55 percent.

55% körüli pontossággal.

(Laughter)

(Nevetés)

Not that impressive, right?

Nem olyan lenyűgöző, igaz?

And ...

Ezek a számok

108 tanulmány eredményeinek elemzéséből származnak,

Those numbers actually come from the analysis

of the results of 108 studies,

ami azt jelenti,

meaning that these findings are quite robust.

hogy a következtetések elég meggyőzők.

And of course, the debate is also much more complicated than this

De a vita ennél sokkal bonyolultabb

and also more nuanced.

és árnyaltabb is.

But here the main take-home message

De a fő tanulság az,

is that humans are not good at detecting lies.

hogy nem vagyunk képesek felismerni a hazugságokat.

What if we are creating an AI tool

Mi lenne, ha MI-eszközt hoznánk létre,

where everyone can detect if someone else is lying?

mellyel észlelhetnénk, hogy valaki hazudik-e?

This is not possible yet, so please don't panic.

Ez még nem lehetséges, ezért kérem, ne essenek pánikba!

(Laughter)

(Nevetés)

But this is what we tried to do in a recent study

De képzett munkatársaimmal

that I did together with my brilliant colleagues

új kutatásunkban ezzel próbálkoztunk.

whom I need to thank.

Köszönet illeti őket.

And actually, to let you understand what we did in our study,

Hogy megértsék, mit vizsgáltunk,

I need to first introduce you to some technical concepts

először pár műszaki fogalmat

and to the main characters of this story:

és a történet főszereplőit kell bemutatnom:

Large language models.

a nagy nyelvi modelleket.

Large language models are AI systems

A nagy nyelvi modellek MI-rendszerek.

designed to generate outputs in natural language

Céljuk természetes válaszok előállítása,

in a way that almost mimics human communication.

melyek az emberi kommunikációra hasonlítanak.

If you are wondering how we teach these AI systems to detect lies,

Ha kíváncsiak arra, hogyan tanítjuk meg az MI-rendszereket hazugságok észlelésére,

here is where something called fine-tuning comes in.

itt kerül elő az ún. finomhangolás.

But let's use a metaphor.

De lássunk erre hasonlatot!

Imagine large language models being as students

Képzeljék el, hogy a nagy nyelvi modellek diákok,

who have gone through years of school,

akik éveken át jártak az iskolába,

learning a little bit about everything,

és mindenről tanulnak,

such as language, concepts, facts.

pl. a nyelvről, fogalmakról, tényekről.

But when it's time for them to specialize,

De amikor eljön az ideje, hogy szakosodjanak,

like in law school or in medical school,

pl. jogra vagy orvostudományra,

már koncentráltabb képzésre van szükségük.

they need more focused training.

Fine-tuning is that extra education.

A finomhangolás a kiegészítő oktatás.

And of course, large language models don't learn as humans do.

Persze a nagy nyelvi modellek nem úgy tanulnak, mint az emberek.

But this is just to give you the main idea.

Pár részlet, hogy jobban megértsék.

Then, as for training students, you need books, lectures, examples,

Diákok képzéséhez könyvek, előadások, példák kellenek,

for training large language models you need datasets.

a nagy nyelvi modellek képzéséhez viszont adatkészletek.

And for our study we considered three datasets,

Kutatásunkhoz három adatkészletet vettünk figyelembe:

one about personal opinions,

egyet a személyes véleményekről,

one about past autobiographical memories

egyet az önéletrajzi emlékekről

and one about future intentions.

és egyet a jövőbeli szándékokról.

These datasets were already available from previous studies

Az adatkészletek korábbi kutatásokból már rendelkezésünkre álltak,

and contained both truthful and deceptive statements.

igaz és megtévesztő állításokat tartalmaztak.

Typically, you collect these types of statements

Az efféle állításokat úgy szoktuk összegyűjteni,

by asking participants to tell the truth or to lie about something.

hogy arra kérjük az alanyokat, valamiről igazat mondjanak vagy hazudjanak.

For example, if I was a participant in the truthful condition,

Ha én pl. az igazmondó feltétel résztvevője lennék,

and the task was

és a feladat az lenne:

"tell me about your past holidays,"

„mesélj az utóbbi nyaralásodról!”,

then I will tell the researcher about my previous holidays in Vietnam,

akkor a kutatónak elmesélem a korábbi vietnámi nyaralásomat,

and here we have a slide to prove it.

és itt van egy dia, amely ezt bizonyítja.

For the deceptive condition

A megtévesztő állapotban véletlenszerűen választanak ki

they will randomly pick some of you who have never been to Vietnam,

pár alanyt, akik sosem jártak Vietnámban,

and they will ask you to make up a story

és arra kérik őket, találjanak ki történetet,

and convince someone else that you've really been to Vietnam.

és győzzenek meg valakit arról, hogy tényleg jártak ott.

And this is how it typically works.

Ez általában így működik.

And as in all university courses, you might know this,

Mint az egyetemen,

after lectures you have exams.

előadások után vizsgák vannak.

And likewise after training our AI models,

MI-modelljeinket kiképzésük után

we would like to test them.

szeretnénk tesztelni.

And the procedure that we followed,

Az eljárásunk

that is actually the typical one, is the following.

tipikusan a következő.

So we picked some statements randomly from each dataset

Véletlenszerűen kiválasztottunk pár állítást az adatkészletekből,

and we took them apart.

és szétszedtük őket.

So the model never saw these statements during the training phase.

A képzési szakaszban a modell sosem találkozott ezekkel az állításokkal.

And only after the training was completed,

Csak a képzés befejezése után tesztként,

we used them as a test, as the final exam.

záróvizsgáként használtuk őket.

But who was our student then?

De ki volt akkor a tanítványunk?

In this case, it was a large language model

Ez esetben a nagy nyelvi modell volt,

amelyet a Google fejlesztett ki,

developed by Google

and called FLAN-T5.

és FLAN-T5 névre keresztelt.

Flanny, for friends.

Barátoknak csak Flanny.

And now that we have all the pieces of the process together,

Most, hogy a folyamat minden darabja együtt van,

we can actually dig deep into our study.

kitérhetünk kutatásunk részleteire is,

Our study was composed by three main experiments.

ami három fő kísérletből állt.

For the first experiment, we fine-tuned our model, our FLAN-T5,

Az elsőben modellünket, a FLAN-T5-öt, finomhangoltuk

on each single dataset separately.

minden egyes adatkészletre külön-külön.

For the second experiment,

A másodikban két pár adatkészletre

we fine-tuned our model on two pairs of datasets together,

finomhangoltuk modellünket,

and we tested it on the third remaining one,

a harmadik elemen teszteltük,

and we used all three possible combinations.

és mindhárom lehetséges kombinációt használtuk.

For the last final experiment,

Az utolsó kísérlethez új, nagyobb képzési tesztkészlettel

we fine-tuned the model on a new, larger training test set

finomhangoltuk a modellt.

that we obtained by combining all the three datasets together.

Az új készletet mindhárom adatkészlet összekapcsolásával kaptuk.

The results were quite interesting

Az eredmények érdekesek voltak,

because what we found was that in the first experiment,

mert kiderült, hogy az első kísérletben

FLAN-T5 achieved an accuracy range between 70 percent and 80 percent.

a FLAN-T5 70–80% közötti pontosságot ért el.

However, in the second experiment,

De a második kísérletben

FLAN-T5 dropped its accuracy to almost 50 percent.

a FLAN-T5 pontossága csaknem 50%-ra csökkent.

And then, surprisingly, in the third experiment,

Aztán meglepetésünkre a harmadik kísérletben

FLAN-T5 rose back to almost 80 percent.

pontossága majdnem 80%-ra nőtt.

But what does this mean?

Mit jelent ez?

What can we learn from these results?

Milyen következtetést vonhatunk le az eredményekből?

From experiment one and three

Az első és a harmadik kísérletből

we learn that language models

megtudjuk, hogy a nyelvi modellek

can effectively classify statements as deceptive,

hatékonyan képesek állításokat megtévesztőnek minősíteni,

outperforming human benchmarks

felülmúlva az emberi referenciaértékeket,

and aligning with previous machine learning

és összhangban állnak a korábbi gépi tanulási

and deep learning models

és mélytanulási modellekkel,

that previous studies trained on the same datasets.

melyeket korábbi tanulmányok azonos adatkészleteken képeztek.

However, from the second experiment,

De a második kísérletből azt látjuk,

we see that language models struggle

hogy a nyelvi modellek küzdenek

in generalizing this knowledge, this learning across different contexts.

a tudás eltérő kontextusokban való általánosításával.

And this is apparently because

Ez nyilvánvalóan azért van,

mert a megtévesztésre nincsen minden kontextusban

there is no one single universal rule of deception

that we can easily apply in every context,

könnyen alkalmazható egyetlen egyetemes szabály,

but linguistic cues of deception are context-dependent.

mert a megtévesztés nyelvi jelei kontextusfüggők.

And from the third experiment,

A harmadik kísérletből megtudtuk,

we learned that actually language models

hogy a nyelvi modellek eltérő kontextusokban

can generalize well across different contexts,

jól általánosítanak,

if only they have been previously exposed to examples

ha korábban példákat láttak

during the training phase.

a képzési szakaszban.

And I think this sounds as good news.

Ez jó hírnek hangzik, bár ez azt jelenti,

But while this means that language models can be effectively applied

hogy a nyelvi modellek hatékonyan használhatók a hazugság észlelésében

for real-life applications in lie detection,

valós alkalmazásokhoz, de több ismétlés szükséges,

more replication is needed because a single study is never enough

mert egyetlen tanulmány kevés ahhoz,

so that from tomorrow we can all have these AI systems on our smartphones,

hogy holnaptól az MI-rendszereket okostelefonunkon használva

and start detecting other people's lies.

észleljük mások hazugságait.

But as a scientist, I have a vivid imagination

De tudósként élénk a képzeletem,

and I would like to dream big.

és nagyot szeretnék álmodni.

And also I would like to bring you with me in this futuristic journey for a while.

Szeretném magammal vinni önöket erre a futurisztikus utazásra.

So please imagine with me living in a world

Képzeljük el, hogy olyan világban élünk,

ahol a hazugságvizsgáló technológia jól beépült életünkbe,

where this lie detection technology is well-integrated in our life,

így a nemzetbiztonságtól kezdve a közösségi médiáig

making everything from national security to social media a little bit safer.

mindent egy kicsit biztonságosabbá tett.

And imagine having this AI system that could actually spot fake opinions.

Képzeljék el, hogy az MI a hamis véleményeket felismeri.

From tomorrow, we could say

Holnaptól kiderül,

when a politician is actually saying one thing

ha egy politikus vizet prédikál,

and truly believes something else.

de bort iszik.

(Laughter)

(Nevetés)

And what about the security board context

De mi a helyzet a biztonsági szolgálat kontextusával,

where people are asked about their intentions and reasons

ahol szándékunkat tudakolják:

for why they are crossing borders or boarding planes.

mi célból lépjük át a határt, vagy szállunk repülőre?

Well, with these systems,

E rendszerekkel tényleg észlelhetjük

we could actually spot malicious intentions

a sanda szándékokat,

before they even happen.

még megtörténtük előtt.

And what about the recruiting process?

De mi van a toborzási folyamattal?

(Laughter)

(Nevetés)

We heard about this already.

Erről már hallottunk.

But actually, companies could employ this AI

De a cégek alkalmazhatják az MI-t,

to distinguish those who are really passionate about the role

hogy elkülönítsék azokat, akik komolyan veszik a felkínált szerepet azoktól,

from those who are just trying to say the right things to get the job.

akik csak elvárt válaszokat adnak, hogy elnyerjék az állást.

And finally, we have social media.

Végül a közösségi média.

Scammers trying to deceive you or to steal your identity.

Csalók, akik próbálnak becsapni, vagy ellopni személyazonosságunkat.

All gone.

Minden eltűnik!

And someone else may claim something about fake news,

Ha valaki álhíreket közöl,

and well, perfectly, language model could automatically read the news,

a nyelvi modell teljesen automatikusan elolvassa a híreket,

flag them as deceptive or fake,

és becsapósnak vagy álhírnek jelöli őket,

and we could even provide users with a credibility score

és akár hitelességi pontszámot is adhatunk a felhasználóknak

for the information they read.

az elolvasott információért.

It sounds like a brilliant future, right?

Ragyogó jövőnek hangzik, igaz?

(Laughter)

(Nevetés)

Yes, but ...

Igen,

all great progress comes with risks.

de minden nagy előrelépés kockázatokkal jár.

As much as I'm excited about this future,

Bármennyire lelkes vagyok is e jövő miatt,

I think we need to be careful.

azt hiszem, óvatosnak kell lennünk.

If we are not cautious, in my view,

Ha nem vagyunk óvatosak,

we could end up in a world

olyan világba kerülhetünk,

where people might just blindly believe AI outputs.

ahol vakon hiszünk az MI kimeneteiben.

And I'm afraid this means that people will just be more likely

Attól tartok, hogy valószínűbben vádolnak másokat hazugsággal az emberek,

to accuse others of lying just because an AI says so.

And I'm not the only one with this view

Ez nem csak az én nézetem,

because another study already proved it.

mert egy kutatás ezt már bizonyította.

In addition, if we totally rely on this lie detection technology

Ráadásul, ha teljesen e hazugságvizsgáló technológiára támaszkodunk,

to say someone else is lying or not,

hogy valaki hazudik-e, azt kockáztatjuk,

we risk losing another important key value in society.

hogy társadalmunk kulcsfontosságú értékét veszítjük el.

We lose trust.

Elveszítjük a bizalmat.

We won't need to trust people anymore,

Nem kell többé bíznunk senkiben,

because what we will do is just ask an AI to double check for us.

mert elég lesz megkérni az MI-t, hogy duplán ellenőrizze le az illetőt.

But are we really willing to blindly believe AI

De vajon tényleg hajlandók vagyunk-e vakon hinni az MI-nek,

and give up our critical thinking?

és kritikus gondolkodásunkat feladni?

I think that's the future we need to avoid.

Ezt a jövőt el kell kerülnünk.

With hope for the future is more interpretability.

A jövő reménye a jobb értelmezhetőség.

And I'm about to tell you what I mean.

Elmondom, mire gondolok.

Similar to when we look at reviews online,

Hasonlóan, mint amikor online véleményeket nézünk,

and we can both look at the total number of stars at places,

és megnézhetjük, hány csillagot kaptak a helyszínek,

but also we can look more in detail at the positive and negative reviews,

de részletesebben is megnézhetjük a pozitív és negatív véleményeket,

and try to understand what are the positive sides,

és így megérthetjük, mi a pozitív oldala,

but also what might have gone wrong,

de azt is, hogy mit kifogásoltak,

to eventually create our own and personal idea

hogy végül saját elképzelésünket alakítsuk ki,

if that is the place where we want to go,

hogy szeretnénk-e elmenni

where we want to be.

arra a helyre.

Likewise, imagine a world where AI doesn't just offer conclusions,

Olyan világot képzeljünk el, ahol az MI nemcsak döntéseket kínál,

but also provides clear and understandable explanations

hanem egyértelműen és érthetően

meg is magyarázza döntései okát.

behind its decisions.

And I envision a future

Olyan jövőt képzelek el,

ahol a hazugságészlelési technológia

where this lie detection technology

wouldn't just provide us with a simple judgment,

nemcsak egyszerű ítéletet nyújt nekünk,

hanem világos magyarázatot is ad arra, vajon miért gondolja, hogy valaki hazudik.

but also with clear explanations for why it thinks someone else is lying.

And I would like a future where, yes,

Olyan jövőt szeretnék,

this lie detection technology is integrated in our life,

ahol e technológia beépült az életünkbe,

or also AI technology in general,

vagy általában az MI-technológia elterjed,

but still, at the same time,

de ugyanakkor képesek vagyunk

we are able to think critically

kritikusan gondolkodni és eldönteni,

and decide when we want to trust in AI judgment

mikor akarunk bízni az MI megítélésében,

or when we want to question it.

vagy mikor kezeljük kétségekkel.

To conclude,

Végezetül, úgy gondolom,

I think the future of using AI for lie detection

hogy az MI hazugságészlelésre való felhasználásának jövője

is not just about technological advancement,

nemcsak a technológiai fejlődésről szól,

but about enhancing our understanding and fostering trust.

hanem a megértésünk javításáról és a bizalom előmozdításáról;

It's about developing tools that don't replace human judgment

olyan eszközök kifejlesztéséről, amelyek nem helyettesítik,

but empower it,

hanem erősítik az emberi megítélést,

ensuring that we remain at the helm.

hogy továbbra is mi irányítsunk.

Don't step into a future with blind reliance on technology.

Ne bízzunk vakon a technológiában!

Let's commit to deep understanding and ethical use,

Kötelezzük el magunkat a mély megértés és az etikus használat mellett,

and we'll pursue the truth.

és törekedjünk az igazságra!

(Applause)

(Taps)

Thank you.

Köszönöm.