Вспоминать «Бегущего по лезвию», рассуждая о роботах, уже моветон. Но именно кинообраз репликантов из этого фильма стал стандартом «человекоподобия». Андроиды в «Бегущем по лезвию» схожи с человеком и внешне, и с точки зрения коммуникативных и других социальных навыков.
Вернемся в реальность. Даже самого продвинутого на сегодняшний день андроида Софию от Hanson Robotics пока еще точно не спутаешь с человеком.
Кстати, София уже как-то шутила об уничтожении человечества. А может, и не шутила.
У робототехников огромные планы по внедрению андроидов в нашу жизнь: роботы возьмут на себя всю рутинную работу и оставят человека для прекрасного и высокого. Помимо сферы услуг, в которой уже задействованы роботы-охранники, хостес и консультанты, антропоморфных роботов все чаще готовят для более интеллектуальных задач: робот-врач способен собрать анамнез, а робот-журналист вполне справится с прямым эфиром или напишет какой-никакой текст.
Итак, роботы должны облегчить людям жизнь с утилитарной точки зрения. Но зачем может понадобиться собственный двойник или робот-клон умершего человека? Второе может быть связано с возможностью легче пережить утрату, сохранить чувство присутствия, справиться с одиночеством. Такой образ создан в одном из эпизодов сериала «Черное зеркало». Из таких же побуждений шведское похоронное агентство Fenix Begravning запустило проект по «цифровому воскрешению».
Пока папа римский на всякий случай призывает молиться за то, чтобы робототехника и искусственный интеллект служили исключительно во благо человечеству, самое время узнать мнение о границах робототехники у российских разработчиков и экспертов.
С чем приходят клиенты к робототехникам?
Нестандартные пожелания — совсем не редкость в рабочей рутине производителей роботов. «Действительно, иногда приходят необычные и странные запросы: например, умерший человек. Был и такой такой запрос из Бразилии: муж развелся с женой, та запретила ему видеться с сыном. Чтобы не забывать ребенка, муж захотел создать его точную копию, которую бы поместил у себя дома», — рассказывает директор по развитию крупнейшей в России и Европе компании по производству сервисных роботов Promobot Олег Кивокурцев.
Сегодня еще не расставлены точки над социальными взаимоотношениями между человеком и роботом, поэтому с морально-этической точки зрения Promobot старается такие заказы не брать, уточняет Кивокурцев. «Этическая грань в индустрии все же есть: большинство робототехнических компаний отказывается от двух направлений: производство умерших людей и производство секс-роботов. Это порождает много вопросов и сильно бьет по репутации», — полагает эксперт.
Тем не менее, в компании, помимо сервисных роботов-администраторов, консультантов или промоутеров, можно заказать, например, робота-двойника. Модель Robo-C производится на основе нескольких фотографий, и в зависимости от «комплектации» и пожеланий может быть преподавателем, наблюдателем на выборах, как робот Юра, сотрудником МФЦ и много кем еще. Однако переживать, что подобные антропоморфные роботы смогут заменить человеку человека, пока говорить преждевременно. «В долгосрочной перспективе предпочтения в пользу выверенного искусственного интеллекта не будет. Ключевой чертой человека, отличающей его от робота, является сознание и креативность, творческая составляющая, которая в совокупности с гормонами создает эмоции», — считает Кивокурцев.
Идею поддерживает директор института робототехники Центра компетенций НТИ по направлению «Технологии компонентов робототехники и мехатроники» на базе Университета Иннополис Александр Климчик. «Риск того, что искусственный интеллект в принципе заменит человеческое общение — минимален, так как социально активных людей общение с роботом не будет удовлетворять эмоционально. А для тех, кто не любит общаться вживую и предпочитает, например, виртуально, разного рода роботы-помощники станут находкой. Ведь таким образом, исключив негативный для себя фактор живого общения, люди-интроверты могут стать продуктивнее и даже счастливее».
в общении с роботом интроверты могут стать продуктивнее и даже счастливее
Что касается роботов-двойников, в том числе и покойных людей, то развитие нейросетей и искусственного интеллекта позволяют качественнее разработать внутреннюю начинку, чего не скажешь о возможностях воссоздания внешности, считает эксперт. «У того же Hanson Robotics раньше было порядка 36 приводов, которые управляют мимикой лица, сейчас, вероятно, около сотни. Но у человека — тысячи эмоций, и лицевые мышцы работают абсолютно по-другому. Принципы, которые приводят в действие механические средства, очень отличаются от человеческих. Поэтому это всегда некий компромисс, аппроксимация и, разумеется, результат, сильно далекий от понятия „копия“», — полагает Климчик.
Проектный менеджер группы компаний «Нейроботикс» Раиса Богачева рассказала, что к ним тоже периодически обращаются с необычными запросами. «Сформулировано это так: чаще рассказывают историю, что был такой-то любимый человек, сможете ли сделать копию по фото. Один раз из Франции был заказ сделать копию ребенка. Иногда просят сделать копию и не рассказывают зачем. Или заказывают копию человека ему в подарок. Процент от общего числа заказов небольшой», — вспоминает Богачева. По ее словам, роботы в такой ситуации не являются каким-то злом, поскольку негативные последствия могут возникнуть даже от того, что человек постоянно представляет себе умершего и разговаривает с ним.
В основном роботы «Нейроботикс» служат для образовательных и развлекательных целей. Среди антропоморфных разработок компании — Александр Сергеевич Пушкин, помощник врача Betsy и киберкрасавица Алиса Зеленоградова.
Нормально ли хотеть дружить с искусственным интеллектом?
Наши представления об искусственном интеллекте и роботах во многом сформированы кинематографом и литературой, причем чаще всего это мрачное «восстание машин», объясняет Тимофей Нестик, заведующий лабораторией социальной и экономической психологии Института психологии РАН. Любопытно, что более «инновационно настроенные» люди, разнообразные технофилы, охотнее верят в возможность апокалиптичных сценариев, чем те, кто воспринимает это исключительно как фантастику.
Больше всего люди боятся не самих «машин», а того, что технологии будут использованы одними людьми против других. Эти страхи подстегивает и проблема «черного ящика»: мы не понимаем, как нейросеть приходит к тем или иным выводам. При этом все мы так или иначе находимся под воздействием определенных алгоритмов, часто не осознавая этого.
больше всего люди боятся не самих «машин», а того, что технологии будут использованы одними людьми против других
«Менее половины опрошенных нами российских студентов знают, что при выдаче поисковых запросов и предложения возможных друзей в социальных сетях используется искусственный интеллект. Зато большинство приписывает наличие искусственного интеллекта роботам, хотя чаще всего это просто впечатляющая аниматроника. Репрезентативное исследование в США показывает те же эффекты: чем чаще люди пользуются цифровыми услугами, тем они меньше склонны связывать с ними ИИ», — объясняет Нестик.
Чтобы оценить последствия общения с роботами, нужны масштабные лонгитюдные исследования, но пока что таких нет ни в России, ни в мире. «Есть исследования о влиянии и видеоигр и экранного времени, которые опровергают расхожий миф о том, что подрастающему поколению грозит цифровая деменция. На самом деле эффекты цифровых технологий зависят от того, в какой семье они используются, насколько там благополучные отношения. Доверие к роботам и системам ИИ выше среди тех, кто больше доверяет людям. Да, кажется парадоксальным, но наше отношение к другим людям влияет на наше отношение к роботам сильнее, чем их обличие или бытовые функции», — отмечает Нестик.
кажется парадоксальным, но наше отношение к другим людям влияет на наше отношение к роботам сильнее, чем их обличие или бытовые функции
Что касается каких-то аддикций в отношении ИИ, то до этого пока еще далеко. Они могут возникать и без всяких нейросетей, если речь идет о людях, лишенных социальной поддержки, переживающих одиночество или психологическую травму. Такая зависимость более вероятна в случае использования ИИ вместе с иммерсивными технологиями — VR, AR, развитие которых пойдет быстрее с внедрением стандарта связи 5G, считает эксперт. «Тем не менее, мы обнаружили связь с фатализмом. Советам искусственного интеллекта в области личных отношений больше готовы довериться люди, которые уже психологически неблагополучны. Но гораздо большую опасность может представлять обратная ситуация, когда сам пользователь закрепляет свое неблагополучие, обучая виртуального помощника определенному взгляду на мир. Например, уже известны случаи, когда нейросеть за какие-то сутки под влиянием пользователей превращалась в фашиста, женоненавистника и т.д.», — полагает Нестик.
советам искусственного интеллекта в области личных отношений больше готовы довериться люди, которые уже психологически неблагополучны
Эксперт отмечает, что робот-клон не сможет стать заменой умершего человека, но с большей вероятность станет источником дополнительной травматизации для того, кто переживает утрату и решает таким образом себе помочь. Во многом это зависит от того, как сам человек относится к собственной смерти и зачем он создает своего или чужого «цифрового двойника»: стремится ли он помочь другим людям или пытается таким образом справиться с утратой, со страхом собственной смерти. «Подобные проекты неизбежно будут вступать в конфликт с коллективной памятью. Например, когда человек закрепляет в цифровой копии то, о чем его близкие хотели бы забыть», — считает Нестик.
Квазисубъект права
Если технически уже понятно, что представляют из себя андроиды-двойники или клоны, то, как это вписывается в правовое поле, еще только предстоит выяснить. Дискуссия о правосубъектности человекоподобных роботов ведется в основном в научной доктрине. Самая близкая правовая категория для них на сегодняшний день — это конструкция права собственности традиционных субъектов на движимое имущество, поскольку пока никто в действующих законах в мире нового квазисубъекта не определил, объясняет Виктор Наумов, управляющий партнер санкт-петербургского офиса Dentons, руководитель российской практики в области ИС, ИТ и телекоммуникаций, соруководитель европейской практики в области регулирования интернета и технологий.
Важный вопрос — ответственность за действия системы. Пока наиболее вероятно привлечение разработчиков вместе с владельцами систем, но в отношении андроидов даже это сейчас не рассматривается. Это применимо к более понятным и распространенным системам, таким как беспилотный транспорт, добавляет Наумов. Эксперт выделяет еще одну проблему — идентификацию систем ИИ: «На мой взгляд, традиционному субъекту права всегда должно быть обеспечено право знать, с чем он взаимодействует, и такие технологии должны иметь легко воспринимаемую систему оповещения и самоидентификации, указывающую на то, что это не человек».
технологии должны иметь систему оповещения, указывающую на то, что это не человек
При создании роботов-клонов умерших людей всплывает еще несколько законодательных пробелов. «Здесь надо коснуться отсутствующих сейчас в законодательстве категорий цифрового профиля и цифрового двойника, вокруг которых идет дискуссия о допустимости их создания и использования даже не для ИИ, а с позиции защиты текущей системы прав человека на неприкосновенность частной жизни. В России первая указанная категория была предложена и очень фрагментарно раскрыта в одном из законопроектов 2020 года», — поясняет Наумов.
Стоя на краю «зловещей долины»
Пока человек все еще думает, что управляет технологиями, а сложную механику чувств и эмоций не разложили на алгоритмы и коды, хочется надеяться, что граница между телесным и бестелесным, живым и мертвым каким-то образом явно себя обозначит. Впрочем, быть может, эффект «зловещей долины», который не удается преодолеть более 40 лет, служит неким охранительным рубежом в вопросе этических границ робототехники.
Так или иначе, верим, что нам никогда не придется проходить тест Войт-Кампфа при приеме на работу, а родственник-затейник не закажет двойника или голограмму после нашей смерти. На всякий случай: зафиксировать желание или нежелание своего продолжения в каком-нибудь цифровом обличии юридически можно уже сегодня.
