«Главная проблема — отсутствие мозга» Что будет, когда роботы станут слишком умными, и нужно ли человечеству их бояться

Наука давно мечтает о создании человекоподобных роботов, которые способны мыслить и чувствовать как люди. Однако появление андроидов и других умных машин, предназначенных для быта и развлечений, может нести в себе различные угрозы и опасности. К старту третьего сезона сериала «Мир Дикого Запада», доступного в онлайн-кинотеатре Okko по подписке Amediateka в пакете «Премиум», «Лента.ру» запускает спецпроект, посвященный проблемам будущего. Генеральный директор VisionLabs Александр Ханин и председатель совета директоров «Промобот» Алексей Южаков рассказали о будущем, которое может наступить при развитии робототехники и появлении умных машин.

«Лента.ру»: Сейчас популярны роботы-домашние животные, роботы-консультанты и рекламщики. Как вы считаете, роботы прочно войдут в нашу повседневную жизнь или это останется экзотикой, а модным станет что-то другое?

Александр Ханин: На текущий момент в большинстве своем роботы — это телеуправляемые игрушки. Да, это сейчас популярно, но выглядит больше как забава. Мы пока не создали робота, который целиком может заменить человека, не будет вызывать раздражения, не будет требовать постоянного контроля со стороны человека.

В основном сейчас есть запрос на рекламных роботов и развлекательные машины. Их покупают ради развлечения либо ради какой-то фишки, которая могла бы привлечь покупателей в торговый центр. Пришли люди, увидели робота и советуют знакомым тоже прийти с детьми посмотреть — и так далее. Интерес, правда, быстро спадает. Устойчивого положительного эффекта пока нет из-за крайне ограниченных способностей таких роботов.

Во-вторых, это проблема с автономностью: роботы не могут длительное время автономно работать, им требуется подзарядка, питание. Аккумуляторы делают их тяжелее и дороже. Третья проблема — это отсутствие бюджетных сенсоров.

Алексей Южаков: На самом деле они уже вошли и даже не вызывают ощущения, что перед нами находится именно робот. Пятикоординатный станок с частотным приводом — это очень сложный робот, но его никто не называет «роботом, нарезающим детали». Никто не называет посудомоечную машину роботом, ее называют посудомоечной машиной. То же самое — самолет, на котором мы с вами летаем, где живой пилот задействован лишь при посадке и взлете — по разным оценкам, от двух до семи минут.

Я уверен, роботы в том или ином виде будут, и как только они займут свое место, им будет дано свое название, какое-нибудь имя нарицательное, которого пока даже не существует. Будут ли у нас в будущем помощники? Уверен, что будут. Будем ли мы использовать их труд? Я тоже не сомневаюсь. Но не факт, что мы будем называть их роботами-помощниками. Наверное, это будет что-то другое, и с проблемами, озвученными Александром, рано или поздно справятся.

Я почти уверен, что роботы в том или ином виде войдут в нашу жизнь — как антропоморфные, то есть человекоподобные, так и коллаборативные, предназначенные для автоматизации производства.

Но кроме сложностей с автономностью, сенсорами и прочей техникой есть другая проблема, обсуждаемая все чаще: зловещая долина — когда робот, похожий на человека, вызывает страх и неприязнь. Она действительно существует, или все же это миф? Ведь есть мнение, что люди, живущие в азиатских странах, невосприимчивы к зловещей долине, поэтому они чаще создают антропоморфные машины.

А.Х. И на Востоке, и на Западе живут в основном одни и те же люди. Да, менталитет может отличаться от континента к континенту, от страны к стране, но эффект зловещей долины знаком каждому человеку, кто сталкивался с человекоподобными роботами. Многие ходили в музей восковых фигур, но какого-то отвращения экспонаты не вызывают.

Эффект зловещей долины проявляется в случаях, когда наблюдается нереалистичное копирование движений человека, и сразу у большинства людей возникает отвращение. С этим пока ничего не поделать. На лице человека более сотни мышц, которые отвечают за мимику, и степеней свободы современных роботов пока недостаточно, чтобы реалистично имитировать такую мимику.

А.Ю. Причина, почему в Азии чаще создают антропоморфные машины, проста: в восточной культуре — в частности, японской — есть фетиш, связанный с куклами, с идеальными формами и лицами. Что касается зловещей долины, то, конечно, мы знаем, как с ней бороться, делая человекоподобных роботов. И точно знаем, что да — мы в эту долину попадем.

Мой тезис заключается в том, что нельзя отрицать, что технологии развиваются. Даже первый человекоподобный робот, которого мы показывали, сильно уступает тому, что мы делаем сейчас. Я согласен, что с этим пока ничего не сделать, потому что нельзя пройти зловещую долину, не спускаясь в нее.

Ну хорошо, зловещую долину мы пройдем, но зачем вообще делать роботов похожими на людей? Последствия этого показаны во многих фильмах — в частности, в сериале «Мир Дикого Запада», где люди не могли отличить роботов, и это привело к серьезным проблемам. Тогда зачем пытаться воссоздать человеческую внешность, учитывая, что люди и так могут сопереживать и испытывать эмпатию к машинам, которые даже отдаленно мало напоминают живых существ, вроде собак Boston Dynamics и даже роботов-пылесосов?

А.Х. У человечества в разные периоды времени всегда есть какие-то мечты. Например, полететь в космос — это осуществилось. Была мечта у алхимиков найти философский камень и превращать любой металл в золото. Сейчас у людей есть мечта научиться создавать подобные себе организмы.

Над этим работают разные ученые, но непосредственно в робототехнике задача воспроизвести внешность человека особого функционального смысла не имеет. Для подавляющего числа задач достаточно иметь колесный или гусеничный привод. В целом сейчас один из основных движущих факторов развития технологий — это военное применение. У того же Boston Dynamics финансирование долгое время шло за счет грантов от таких проправительственных фондов, как DARPA. Знаете ли вы, что, например, роботы-пылесосы iRobot производятся компанией, которая производит и военных роботов?

А.Ю. В моем понимании есть два основных вектора развития технологий, если мы говорим о развитии робототехники и искусственного интеллекта. На самом деле даже три, поскольку один вектор можно разделить на два. Все может уйти в направлении виртуальной реальности. Есть те, кто в это верит, они свою роль в этом играют, развивают это направление. Точно так же, как мы развиваем другой вектор — появление роботов-помощников в реальном мире. Неизвестно, кто победит и будет ли вообще победитель, но есть два параллельных пути, и каждый занимается своим делом.

Второй вектор имеет два ответвления: первый — это разработка помощников, способных работать с исходными данными и инфраструктурой. А она вся заточена под антропоморфность, под руки человека, под способ перемещения, габариты, динамику, лестницы. Все вокруг нас сделано под нас самих. Поэтому логично, что робот должен обладать антропоморфными чертами, иметь руки, ноги, динамическую стабилизацию и так далее.

То есть мы можем попросить принести кофе, и это может сделать антропоморфный робот с кистями рук, который нальет его и принесет, либо чашка кофе, приготовленная в кофемашине, подъедет сама по внутренним магистралям в стенах дома и вылезет из стола. То есть мы не робота под инфраструктуру затачиваем, а помещаем себя в новую среду.

А вообще мы провели исследование вопроса, стоит ли роботу быть похожим на человека, и оказалось, что выглядеть человеком при общении гораздо важнее, чем говорить по-человечески. Поэтому нельзя пренебрегать возможностью создавать гиперреалистичных роботов.

Переходя к изменению среды под себя, нельзя не затронуть такой аспект: в Азии многие люди страдают от одиночества, и это усугубляется развитием технологий, которыми можно заменить человека или живое существо. Роботы-собаки, роботы-партнеры и компаньоны — они спасают от депрессии или несут угрозу человеческим взаимоотношениям и безопасности?

А.Х. Мы очень много работаем с азиатскими странами, но я ни разу не слышал, чтобы была идея фикс создавать роботов, подобных реальному животному или человеку. Есть один профессор, который делает своего двойника для чтения лекций, которого также не обошел стороной эффект зловещей долины и вызывает отвращение, но большинство компаний делают роботов для развлечений, которые похожи на мимимишных персонажей в стиле Валли, а не на человека. Вспомните робота-андроида ASIMO. Такие роботы создаются как дружелюбные помощники человека.

В азиатской культуре делают много мультяшных, «няшных» персонажей, вызывающих умиление, поэтому большинство роботов не похожи на человека, и такого замысла нет. Наоборот, во многих мировых религиях человек — это святое. В ряде стран популярна подушка, которую можно погладить, она мурчит и вибрирует. Для некоторых людей это действительно объект, который можно любить. В этом нет ничего плохого, это просто игрушка для людей любого возраста.

Мы считаем, что на каждом этапе развития у человека есть любимые предметы. Вспомните тамагочи. Сейчас есть смартфоны. Такие предметы отрабатывают свой цикл, после чего их заменяет что-то другое. В этом нет ничего опасного, если эта привязанность не переходит какие-то границы.

Нужно понимать, что у робота нет мозгов, — возвращаясь к первому вопросу, — поэтому нельзя к нему привязаться как к реальному человеку, а потом впадать в депрессию, если этот робот сломался. Попробуйте поговорить с голосовым ассистентом. Да, он вызывает в первые минуты интерес, но после короткого диалога все говорят ему «заткнись». Я каких-то рисков не вижу. В большинстве случаев обеспокоенность проявляется у тех людей, которые этой темой профессионально не занимаются.

А.Ю. Я выскажу подобную позицию, потому что искренне верю в то, что социально направленные роботы несут огромнейшую пользу. Например, в домах престарелых не хватает работников, а роботы будут разговаривать с пожилыми людьми, обсуждать темы, которые им нравятся.

В будущем роботы позволят свести на нет врачебные ошибки. Американская ассоциация оценила, что уже четыре года назад экономия бюджета США от использования роботов составила 17 миллиардов долларов. Так что польза от роботов огромная.

А если мы говорим об общении с гиперреалистичным роботом, то по сравнению с этим гораздо хуже общение в социальных сетях с чат-ботами, что уже вошло в нашу жизнь. Поэтому большего вреда, чем существующие технологии, это точно не принесет.

По поводу отсутствия мозгов у роботов — далеко ли до полноценно мыслящих андроидов, которые описываются в каждом втором научно-фантастическом фильме библиотеки Okko, или их появление вообще невозможно? Стоит ли создавать искусственный разум, подобный человеческому, и загружать его в робота, и может ли такая манипуляция быть запрещена как несоответствующая биоэтическим нормам?

А.Х. Вычислительная сложность алгоритмов и доступное аппаратное обеспечение пока не позволяют имитировать разум человека. Даже суперкомпьютеры способны имитировать мозг лишь упрощенно для ряда частных задач. Они могут иметь такое же количество нейронов, но главное — не количество, а структура связей и функции активации, выстроенных между ними.

Пока есть сильно упрощенная модель нейрона, которая лежит в основе сетей, способных решать узкоспецифичные задачи. И пока еще нет AGI — общего искусственного интеллекта, который может быть многозадачным, иметь пространственное воображение, абстрактное мышление, уметь выстраивать причинно-следственные связи. И в ближайшем будущем не предвидится.

Впрочем, я очень надеюсь, что он появится при нашей жизни. Какие-то прогнозы здесь давать нужно очень аккуратно, потому что еще пять-семь лет назад исследователи в области компьютерного зрения давали прогнозы, что в следующее десятилетие ничего не изменится, но все кардинально поменялось, и многие задачи компьютерного зрения уже решены. Мой прогноз, что примерно через десятилетие мы сможем увидеть какой-то вариант общего искусственного интеллекта, который может работать в экстремальных условиях — то есть условиях, заранее не описанных в алгоритме.

А.Ю. Да, до мыслящих андроидов далеко как до Луны, потому что мы сами далеки от полного понимания, как устроен человеческий мозг, как создается наш разум. Я придерживаюсь мнения, что вообще не факт, что нашим социальным роботам и помощникам нужно сознание или мозг, который работает так же, как у человека.

Кадр: «Мир Дикого Запада»

Мы сами знаем только то, что у нас есть сознание, и лишь предполагаем по косвенным признакам, что сознание есть у кого-то другого, с кем мы общаемся. Мы не знаем этого точно. Но мы можем создать видимость сознания, то есть видимость того, что перед нами полноценный человек со своими эмоциями и мнением.

Робот, который может отвечать на вопросы, выбирать, на что отвечать, имитировать боль, — это уже реальность. Принято считать, что мы живем в посттьюринговскую эпоху, когда тест Тьюринга обмануть и пройти легко. Например, в одном из наших исследований человек разговаривал с роботом и девушкой-консультантом, но не знал, что система распознавала его голос и диктовала ответы девушке через наушник. Испытуемые признавались, что им большее удовольствие доставляло общение с роботом, который произносил ответы системы, чем общение с девушкой, которая отвечала сама.

Допустим, что мыслящие андроиды будут созданы еще при нас. Как вы считаете, какие морально-этические вопросы поставит это достижение перед человечеством? Станем ли мы вновь рабовладельцами или успеем озаботиться их правами еще до их создания? Ведь организации, занимающиеся правами роботов, уже существуют.

А.Х. Я с детства мечтал создавать роботов, и я буду работать по своей специальности и пытаться создавать мыслящие машины. Я не сомневаюсь, что эта задача будет решена. Но какие у них будут права, пока неизвестно, ведь проблемы нужно решать по мере их поступления. Пока в повестке дня нет мыслящих и чувствующих машин.

Сейчас на повестке дня стоит, например, разработка беспилотных автомобилей. Есть каноническая морально-этическая задача: допустим, автомобиль едет по трассе, часть которой перегорожена барьером, и свободна только одна полоса, на которую выбегает пешеход, нарушающий правила дорожного движения. Если машина поедет в ограждение — погибнут пассажиры. Решается задача, кого спасти. В таком случае требуется утвердить однозначное решение. Но придумывать законодательства для AGI преждевременно. Когда такой искусственный интеллект появится, многое уже поменяется.

А вот придумать законодательство для беспилотных автомобилей — это то, что уже требуется. Показано, что человеческий фактор является причиной большей аварийности, чем любой автономный автомобиль. Шанс ошибки у последних гораздо ниже, чем у живого человека. Да, были инциденты, да, были человеческие жертвы, однако количество смертей на величину пройденного участка у беспилотного автомобиля меньше. Но из-за того, что трагические ситуации с ошибками беспилотной машины вообще случались, блокируется более широкое распространение таких автомобилей. Нужно понимать, что безошибочной системы не существует в природе.

А.Ю. Как раз организации, которые пытаются защищать права роботов, являются проблемой для робототехников. Мы, например, с нуля собираем роботов, создаем механику, сервоприводы и системы искусственного интеллекта — это все наши разработки.

Такая проблема мало того что просто не стоит на повестке, она может лишь ухудшить положение. Инициативы людей, которые говорят, что искусственный интеллект такой же, как мы, и хотят присвоить им какие-то права юридически, назначить уполномоченных по правам роботов, создавать какие-то законы, — все это может закрыть окна возможностей для развития робототехники. Поэтому нужно очень аккуратно ко всему этому относиться.

Смотрите новый сезон сериала «Мир Дикого Запада» в AMEDIATEKA в пакете «Премиум» онлайн-кинотеатра Okko.

Дальше вы перейдете на сайт нашего партнераOkko