How a Worm Could Save Humanity From Bad AI | Ramin Hasani | TED

Переводчик: sofia Tln Редактор: Alena Chernykh

My wildest dream is to design artificial intelligence

Знаете, моя самая смелая мечта — создать искусственный интеллект,

that is our friend, you know.

который станет нашим другом.

If you have an AI system that helps us understand mathematics,

Если у вас есть система ИИ, которая помогает нам понимать математику,

you can solve the economy of the world.

вы можете решить экономику мира.

If you have an AI system that can understand humanitarian sciences,

Если у вас есть система ИИ, которая может понимать гуманитарные науки,

we can actually solve all of our conflicts.

мы можем решить все наши конфликты.

I want this system to, given Einstein’s and Maxwell’s equations,

Я хочу, чтобы эта система, учитывая уравнения Эйнштейна и Максвелла,

take it and solve new physics, you know.

взяла её на вооружение и решила новую физику.

If you understand physics, you can solve the energy problem.

Если вы разбираетесь в физике, вы можете решить энергетическую проблему.

So you can actually design ways for humans

Таким образом, вы действительно можете

to be the better versions of themselves.

придумать, как люди станут лучшими версиями самих себя.

I'm Ramin Hasani.

Меня зовут Рамин Хасани.

I’m the cofounder and CEO of Liquid AI.

Я сооснователь и генеральный директор Liquid AI.

Liquid AI is an AI company built on top of a technology

Liquid AI — это компания, занимающаяся ИИ, созданная на основе технологии,

that I invented back at MIT.

которую я изобрел в MIT.

It’s called “liquid neural networks.”

Это называется «жидкие нейронные сети».

These are a form of flexible intelligence,

Это своего рода форма гибкого интеллекта,

as opposed to today's AI systems that are fixed, basically.

в отличие от сегодняшних фиксированных систем ИИ.

So think about your brain.

Так что подумайте о своём мозге.

You can change your thoughts.

Вы можете изменить свои мысли.

When somebody talks to you,

Когда кто-то говорит с вами,

you can completely change the way you respond.

вы можете полностью изменить свой ответ.

You always have a mechanism that we call feedback in your system.

В вашей системе всегда есть механизм, позволяющий нам вызывать обратную связь.

So basically when you receive information from someone as an input,

Таким образом, когда вы получаете от кого-то информацию,

you basically process that information, and then you reply.

вы её обрабатываете, а затем отвечаете.

For liquid neural networks,

Для жидких нейронных сетей

we simply got those feedback mechanisms, and we added that to the system.

мы просто получили эти механизмы обратной связи и добавили их в систему.

So that means it has the ability of thinking.

Значит, она обладает способностью мыслить.

That property is inspired by nature.

Эта недвижимость вдохновлена природой.

We looked into brains of animals and, in particular,

Мы изучили мозг животных и, в частности, очень

a very, very tiny worm called “C. elegans”

маленького червя под названием «C. elegans».

The fascinating fact about the brain of the worm

Удивительный факт о мозге червя

is that it shares 75 percent of the genome that it has with humans.

заключается в том, что его геном на 75% совпадает с геномом человека.

We have the entire genome mapped.

Мы нанесли на карту весь геном.

So we understand a whole lot

Таким образом, мы также многое

about the functionality of its nervous system as well.

знаем о функциональности нервной системы этой страны.

So if you understand the properties of cells in the worm,

Если вы поймете свойства клеток червя,

maybe we can build intelligent systems that are as good as the worm

мы сможем создать интеллектуальные системы, не уступающие червям,

and then evolve them into systems that are better than even humans.

а затем превратить их в системы, превосходящие даже людей.

The reason why we are studying nature is the fact that we can actually,

Причина, по которой мы изучаем природу, заключается в том,

having a shortcut through exploring all the possible kind of algorithms

что мы можем это сделать, попросту изучив все возможные алгоритмы,

that you can design.

которые можно разработать.

You can look into nature,

Можно заглянуть в природу,

that would give you like, a shortcut

и это поможет нам

to really faster get into efficient algorithms

быстрее освоить эффективные

because nature has done a lot of search,

алгоритмы, ведь природа много искала

billions of years of evolution, right?

и эволюционировала миллиарды лет, верно?

So we learned so much from those principles.

Мы многому научились на основе этих принципов.

I just brought a tiny principle from the worm

Я только что привнёс небольшой принцип

into artificial neural networks.

червя в искусственные нейронные сети.

And now they are flexible,

Теперь они стали

and they can solve problems in an explainable way

гибкими и могут решать проблемы понятным способом,

that was not possible before.

который был невозможен.

AI is becoming very capable, right?

ИИ становится очень способным.

The reason why AI is hard to regulate

Причина, по которой ИИ трудно регулировать, заключается

is because we cannot understand, even the people who design the systems,

в том, что мы не можем понять, что даже люди, разрабатывающие системы,

we don't understand those systems.

не разбираются в этих системах.

They are black boxes.

Это чёрные ящики.

With Liquid, because we are fundamentally using mathematics

В Liquid мы в основном используем понятную математику поэтому

that are understandable,

у нас есть инструменты,

we have tools to really understand

позволяющие по-настоящему понять

and pinpoint which part of the system is responsible for what,

и точно определить, какая часть системы за что отвечает.

you're designing white box systems.

Вы проектируете системы «белого ящика».

So if you have systems that you can understand their behavior,

Поэтому, если у вас есть системы, поведение которых вы можете

that means even if you scale them into something very, very intelligent,

понять, даже если вы масштабируете их до чего-то очень, очень интеллектуального,

you can always have a lot of control over that system

вы всегда можете иметь большой контроль над этой системой,

because you understand it.

потому что вы её понимаете.

You can never let it go rogue.

Его никогда нельзя выпускать из рук.

So all of the crises we are dealing with right now,

Все кризисы, с которыми мы сейчас сталкиваемся,

you know, doomsday kind of scenarios,

сценарии конца света,

is all about scaling a technology that we don't understand.

сводятся к масштабированию непонятной нам технологии.

With Liquid, our purpose is to really calm people down

С помощью Liquid наша цель — по-настоящему успокоить людей

and show people that, hey,

и показать им,

you can have very powerful systems,

что у вас могут быть очень мощные системы,

that you have a lot of control and visibility

механизмы работы которых можно контролировать

into their working mechanisms.

и управлять ими.

The gift of having something [with] superintelligence is massive,

Дар обладания чем-то сверхинтеллектом огромен,

and it can enable a lot of things for us.

и он может многое сделать для нас.

But at the same time,

Но в то же время

we need to have control over that technology.

мы должны контролировать эту технологию.

Because this is the first time that we’re going to have a technology

Потому что впервые мы получим технологию,

that is going to be better than all of humanity combined.

которая будет лучше, чем всё человечество вместе взятое.