В этом выпуске мы обсуждали:
- Что могут и не могут современные системы «искусственного интеллекта»
- В чем современный «узкий ИИ» еще бесконечно далек от человека
- Почему у нас нет роботов-помощников, подобных R2D2 и C3PO
- Нужно ли моделировать ИИ на основе человеческого интеллекта и человеческого мозга
- Чем плох тест Тьюринга и какой тест позволил бы надежно определить интеллектуальность машины
- Почему подкаст называется «Неопознанный искусственный интеллект»
- Что будет происходить в следующих выпусках 🙂
Оглавление выпуска
- Intro. История и определение ИИ [00:00 — 03:43]
- Узкий и широкий ИИ [03:50 —13:29 ]
- Личное восприятие ИИ. Джарвис, C3PO. Тест Тьюринга [13:35 — 24:57]
- Антропоморфность ИИ и освоение естественного языка [25:05 — 32:17]
- Outro. Итоги, планы на будущее [32:18 — 32:57 ]
В выпуске были упомянуты
книги, ссылки, термины, персоналии
- Термин «искусственный интеллект» (1:40)
- роботы Чапека, Электроник, C3P0, R2D2, Эдвин Джарвис (5:43)
- «Узкий» ИИ / Narrow artificial intelligence (2:19)
- тест Тьюринга ( 13:36)
- Fine Reader (17:36)
- Siri (16:41)
- BERT (24:10 )
- Deep Learning (25:26)
Ссылки и полезная информация
- Ссылка на тг-канал подкаста
- Ссылки на платформы с подкастами:
Текстовая версия выпуска
Даниил Скоринкин: 0:23 Привет, друзья! С вами первый выпуск подкаста «Неопознанный искусственный интеллект» от издания Системный Блокъ. Сегодня в студии я, Даниил Скоринкин, главный редактор Системного Блока.
Анатолий Старостин: 0:31 И я, Анатолий Старостин, программист, компьютерный лингвист, в данный момент руководитель группы развития технологий медиасервисов Yandex’а.
Даниил Скоринкин: 0:41 А в прошлом человек, который лично участвовал и причастен к запуску Алисы Yandex’а, голосового помощника, и вообще человек, который отдал много времени проблемам искусственного интеллекта, автоматической обработке языка, машинного понимания естественного языка. Поэтому нам с Толей есть о чем поговорить. И мы будем говорить об искусственном интеллекте.
Анатолий Старостин: 1:02 Давай немножко объясним нашим слушателям, почему, собственно, подкаст называется «Неопознанный искусственный интеллект». Сокращенно НИИ.
Даниил Скоринкин: 1:10 Подкаст называется «Неопознанный искусственный интеллект», потому что мы будем, собственно, пытаться ответить на вопрос «А что такое искусственный интеллект?», потому что сегодня это словосочетание звучит буквально из каждой колонки, из каждого угла, но при этом под ним понимаются очень разные вещи и кажется, что далеко не всегда это настоящий искусственный интеллект. И вот мы будем пытаться ответить на вопрос «Что же такое настоящий искусственный интеллект, далеко ли нам до него и как мы можем понять, здесь ли он уже, когда он наконец случится с нами?».
голос робота: 1:40 Термин «искусственный интеллект» предложил пионер компьютерных наук Джон Маккарти в 1956 году. Долгое время надежды в разработке искусственного интеллекта связывались с программированием сложных логических систем и инженерии знаний. Периоды энтузиазма сменялись и зимами, когда вера в скорое создание машины падала и финансирование прекращалось. Новый этап развития искусственного интеллекта начался с ростом вычислительных мощностей компьютеров и появлением больших данных. Все это привело к расцвету статистических подходов к проектирования искусственного интеллекта, которое называют машинным обучением.
Анатолий Старостин: 2:19 Прежде чем какую-то свою точку зрения выдавать, я бы наверное хотел обозначить, так сказать, state of the art, то есть где мы сейчас по мнению большинства ученых. Наверное, проще всего обрисовать ситуацию так, что сегодня мы живем в эпоху Narrow artificial intelligence или узкого искусственного интеллекта. Нас окружает множество машин, которые умеют решать множество интеллектуальных задач. Какие-то машины умеют играть в шахматы, какие-то умеют отличать кошечек от собачек, некоторые машины умеют управлять какими-нибудь устройствами, например антиблокировочная система в автомобиле управляет тормозами и понимает, когда их надо сжать, когда их надо разжать – это весьма интеллектуальная операция. Так вот, все эти узкие искусственные интеллекты, которые существуют, противопоставляются одному широкому, по-английски это general artificial intelligence, которые, казалось бы, должен был бы уметь решать все эти задачи вместе, вести себя как такая универсальная интеллектуальная машина. И вот такого искусственного интеллекта еще не существует и люди не понимают, на самом деле, как именно его создавать. О нем пока можно рассуждать. Можно пытаться понять, какой он и что… и, так сказать, с чем его едят.
Анатолий Старостин: 3:49 Вот 11 октября 2019 года Владимир Владимирович Путин утвердил национальную стратегию развития искусственного интеллекта в России до 2030 года, то есть 10 лет мы будем заниматься развитием искусственного интеллекта. Вопрос: как он понимал этот термин? Я почему-то абсолютно уверен, что в этом контексте искусственный интеллект понимается не совсем так, как он понимается, например, в старинных работах по искусственному интеллекту советского периода.
Даниил Скоринкин: 4:24 Да, у меня есть гипотеза, что в некоторых чиновнических декларациях некоторые термины никак не понимаются и в данном случае мог быть именно такой пример, поскольку мы знаем, что Владимир Владимирович – это человек, который получает данные в папочках на веревочных тесемочках и, кажется, не ходит в интернет. Поэтому тут трудно что-то сказать, но, действительно, я согласен, что это такой как бы base word, что называется словом, которое звучит отовсюду, из всех колонок. И мы видим действительно эти щетки с искусственным интеллектом, мы видим мобильные тарифы у некоторых операторов, которые утверждают, что они подберут тебе, значит, твою услугу с использованием искусственного интеллекта. И кажется, что это какое-то зауженное понимание искусственного интеллекта, хотелось бы вот с этим немножко разобраться.
Даниил Скоринкин: 5:23 Может быть, мы попробуем через какое-то личное восприятие, личное понимание. Может быть, ты просто расскажешь, как ты себе представляешь этот самый искусственный интеллект. И что такое большой искусственный интеллект? Почему нынешний – не большой?
Анатолий Старостин: 5:36 Например, в литературе, в кино каких искусственных интеллектов ты вспоминаешь сам?
Даниил Скоринкин: 5:43 Я вспоминаю Чаппитовских роботов, Электроника, а из более позднего, конечно, C3P0 из Звездных воин, Железного человека, вернее там был какой-то голосовой помощник Эдвин Джарвис.
Анатолий Старостин: 5:57 R2D2 наверное еще тоже.
Даниил Скоринкин: 5:58 Да, но это совсем уже современные фильмы, которые конкретно этому посвящены, типа «Ex Machine’а», где была девушка, которая ходила по дому, а потом она сбежала, и неизвестно, что с ней дальше было.
Анатолий Старостин: 6:07 Ну вот, если подумать о них всех, то что их объединяет?
Даниил Скоринкин: 6:15 Во-первых, мы их явно создаем по образу и подобию своему в значительной степени. Кажется, они больше похожи на людей, чем на тот искусственный интеллект, который мы сегодня знаем как Narrow artificial intelligence, которые на людей как раз совсем не похожи. Во-вторых, они проявляют действительно какие-то такие полифункциональность они какую-то проявляют. То есть они умеют делать разные штуки, чего, кажется, не умеют современные эти машины. Об этом, наверное, ты как раз и скажешь.
Анатолий Старостин: 6:43 Именно. Вот, на самом деле, это и есть ключевой момент. То есть антропоморфность – это первое, что тебе пришло в голову – это вопрос. Мы его, кстати, обсудим еще сегодня чуть позже. То есть должен ли искусственный интеллект вообще быть похож на человека? Но вот вторая часть, которую ты сформулировал как полифункциональность, она, наверное, вообще самая ключевая и самая сложная. То есть сегодняшние искусственные интеллекты, которые нас окружают, они не умеют решать разные задачи, они не умеют приспосабливаться к разным задачам на, так сказать, on the fly, на лету, в процессе своей работы. Их довольно долго программируют люди на то, чтобы они умели решать конкретный класс задач. Человек и человеческий интеллект удивителен тем, что он переключается с одной задачи на другую и может все время научиться одному, второму, третьему. Причем его можно научить, а может он научиться на собственном опыте. Правильно? И вот все те искусственные интеллекты, которых ты перечислял, они так или иначе этим свойством обладают. Они действительно могут жить в произвольной среде, в которую их помещают. В Звездных войнах это вообще вселенная. И доведено до какого-то максимума: они то оказываются в каких-то мусорных контейнерах, то на песочных планетах, то ли еще где-то. И везде они функционируют.
Даниил Скоринкин: 8:23 То снаружи звездолета чинят его.
Анатолий Старостин: 8:25 Именно. Джарвис тоже какой-то универсальный механизм, который во всем все время успевает разобраться, все понять и так далее. То есть мне кажется, что главное свойство настоящего искусственного интеллекта, которое пока еще не создало человечество, – это такая глобальная адаптивность. То есть способность приспосабливаться к какой-то новой среде, к новым правилам. И для этого в нем самом должна быть какая-то универсальная логическая машина внутри и умение познавать новую действительность вокруг себя. И ключевой момент, который так или иначе этим механизмам присущ, это умение общаться на естественном языке. Разве что C3P0 является исключением, хотя он общается… Ой, наоборот. R2D2 является исключением, хотя он общается через C3P0, на самом деле, поэтому тоже, строго говоря, не является исключением. И в этом смысле естественный язык – это действительно уникальная вещь, которая создана природа. Это некий инструмент, на котором можно выразить любую мысль, которая может прийти человеку в голову, и описать любую реальность, которую можно себе только вообразить.
Даниил Скоринкин: 9:53 Хорошо, но ведь есть сейчас некоторые узкие вот эти системы, да, пусть это узкий искусственный интеллект, который с задачами понимания естественного языка справляется. Согласен ли ты с этим?
Анатолий Старостин: 10:02 Нет, не согласен.
Даниил Скоринкин: 10:06 Если я обычный пользователь, который приходит в Google.Translate или Яндекс.Переводчик и вводит там какую-то свою фразу, которую я только что придумал в своей голове и явно не существовало ее во вселенной до этого. И он берет мне и выкладывает перевод. Кажется, что это выглядит как почти понимание и почти естественного языка. И тут возникает резонный вопрос: если мы умеем создавать такие вот узкие системы, не можем ли мы как-то совершенно в тупую взять и склеить скотчем, грубо говоря, из какого-то программирования много-много узких систем. И они – раз – и возьмут дадут широкие. Как ты думаешь, возможно ли это? Это такой наивный вопрос, который очень, как бы, просится после того, как ты сказал, что мы научились делать узкие искусственные интеллекты, но не можем сделать широкие.
Анатолий Старостин: 10:50 Ты задал два вопроса сейчас. С одной стороны, спровоцировал меня на обсуждение методов машинного перевода. И это большой интересный разговор. Но, честно говоря, я хотел бы вести его с каким-нибудь экспертом по машинному переводу. Надеюсь, мы такого пригласим, есть пара идей. А дальше ты задал более масштабный вопрос про то, могут ли многие узкие искусственные интеллекты склеиться в один большой и сделать это сами. Я считаю, что не могут. Почему? Ответить чуть сложнее. Наверное, потому что как раз-таки отсутствие между ними какого-то единого универсального протокола, единого какого-то универсального метаязыка, с помощью которого можно описывать любые метазадачи не позволит им склеиться. Как, я не знаю, если у тебя стоит кофеварка и ноутбук. Если между ними нет протокола, ты их не соединишь никак. Они просто разные.
Даниил Скоринкин: 11:57 Можно придумать какой-то API – интерфейс, который из ноутбука будет управлять кофеваркой?
Анатолий Старостин: 12:02 Теоретически можно, но это будет конкретный OP.
Даниил Скоринкин: 12:04 Специальный язык взаимодействия объектов.
Анатолий Старостин: 12:06 Да.
Даниил Скоринкин: 12:07 Специальный интеллектуальный формальный язык взаимодействия интеллектуальных агентов.
Анатолий Старостин: 12:11 Именно. И такие языки пытались придумывать, но еще не до конца решили эту задачу.
Даниил Скоринкин: 12:17 Кажется, продолжают пытаться.
Анатолий Старостин: 12:20 Именно.
Даниил Скоринкин: 12:20 Вот смотри. Про решение задачи. Мы заговорили о том, что если мы попытаемся склеить много узких искусственных интеллектов, то у нас, скорее всего, не получится широкий. Нам нужно понять, как это проверить. Как вообще понять, что он получается или не получается? Хочется придумать какие-то критерии, какие-то признаки, после которых мы скажем: «Ага, вот эта штука – это не просто какой-то бездумный чат-бот, а вещь, которая проявляет признаки интеллектуальности и, может быть, является искусственным интеллектом. Какие признаки мы могли бы себе представить?
Анатолий Старостин: 12:55 Это очень хороший вопрос. Просто в точку. Потому что, на самом деле, нам с тобой ответ на этот вопрос мы будем получать в первую очередь от наших гостей. Я тебе сейчас дам пару вариантов ответов, как я это вижу. Казалось бы, это и есть главная цель нашего подкаста – выработать критерии и понять, пообщавшись с рядом экспертов, что же, собственно, характеризует искусственный интеллект, какими признаками должен обладать искусственный интеллект, чтобы мы действительно называли его интеллектом.
Анатолий Старостин: 13:36 Послушай, я уже сказал про такую глобальную адаптивность и способность приспосабливаться к новым задачам. Я могу предложить, разве что, некоторый тест. То есть какую программу я бы назвал по-настоящему интеллектуальной, какую программу я бы согласился назвать искусственным интеллектом. Тест выглядит примерно следующим образом. Мне немножко напоминает тест Тьюринга, но с более четкими правилами. В тесте Тьюринга, напомню, человек общается с машиной и с другим человеком одновременно, не зная, с кем он общается. И машина считается прошедшей тест Тьюринга, если человек этот третий, который с ними обоими общался, не смог отличить. Если он не смог понять, кто был человек, а кто – машина. И это еще в каком-то там 50-каком-то году в своей статье Тьюринг предложил в качестве вот такого теста.
Даниил Скоринкин: 14:34 Мне кажется, прямо в 50-ом.
Анатолий Старостин: 14:36 Может быть. Это был довольно философский заход. И сейчас понятно, что этот его критерий отличимости/не отличимости – он опасный, потому что может слишком сильно сам третий человек вовлечен. То есть, грубо говоря, попадется тебе какой-то недалекий человек, который вот так вот с ними пообщается и скажет: «Вот это он». И раз – не угадал и машина прошла тест Тьюринга. Все, победа искусственного интеллекта.
Даниил Скоринкин: 15:05 Да. Совершенно непонятно, сколько он общается, какие вопросы задает.
Анатолий Старостин: 15:07 Именно. Поэтому мне всегда хотелось это место чуть-чуть конкретизировать и как-то направить эту беседу человека с компьютером. И я придумал вот такую модель. Представим себе чат-бота, тоже общаемся только текстом, больше ничего не видим. С нами общается некий робот на естественном языке нам понятном, английском, русском – неважно. И мы его по ходу беседы обучаем некоторой игре, которую мы сами в этот момент из своей головы придумываем. Эта игра может быть любой. Это может быть известная игра – шахматы, шашки, карты, а может быть какая-то новая, которую ты сам придумываешь и в которой есть какие-то правила. И принципиально, что в исходном состоянии этот робот не знал про эти игры. Если этот робот, пообщавшись с тобой, может выучить правила твоей игры и начал с тобой в нее играть… И даже не обязательно выигрывать, строго говоря. То вот такого рода машины я бы уже признал действительно интеллектуальными. Причем принципиально здесь то, что правила игры заранее неизвестны. То есть я их могу выдумать на лету.
Даниил Скоринкин: 16:18 И это может быть игра разного класса. То есть я правильно понимаю, что это может быть, условно, карточная игра, а потом ты можешь сказать: «А теперь давай я тебя научу играть в домино»?
Анатолий Старостин: 16:26 Например, да.
Даниил Скоринкин: 16:27 И машина начинает понимать, что кроме карт есть вот эти доминошки и как они устроены.
Анатолий Старостин: 16:34 Да. И это все происходит в ходе просто общения машины со мной.
Даниил Скоринкин: 16:39 На естественном языке.
Анатолий Старостин: 16:41 Да. Вот такой… можешь его называть тестом Старостина. Я не знаю на сегодняшний день ни одной компьютерной системы, которая так умеет делать. И ключевой момент здесь, наверное, в том, что ты понимаешь, что игра в данном случае – это условность. Если ты смог объяснить интеллектуальному агенту некую новую реальность и он начал в ней жить, то дальше перед тобой откроется огромная перспектива всего. То есть дальше это может быть уже не игра, а твоя работа. Ты говоришь, что у меня в этих файлах лежит вот это, здесь то-то, отсортируй, пожалуйста. И вот начинается уже реальный помощник. Вот не такой, как Siri или Google ассистент, или Алиса, которые умеют выполнять узкие наборы команд и все, а за пределами этих команд ничего не могут. А тут такой, который действительно погружается в твой мир. Ты его персонализируешь под себя, общаясь с ним.
Даниил Скоринкин: 17:36 Да, и может осознать твою конкретную задачу. Тоже думал о том, что было бы классно, если бы я мог какому-нибудь агенту в своем компьютере сказать: «Слушай, вот у меня тут есть текст, в нем есть ошибки». Он распознает с помощью Fine Reader’а и в нем есть ошибки. «Посмотри на этот текст и вычитай его и пройдись по нему». В принципе, кажется, что эта задача решаемая на современном уровне компьютеров, но я не могу ее просто взять и поставить своему компьютеру, я должен написать программу, какой-то скрипт, который будет эти файлы открывать, ходить по ним, сверяться со словарем и так далее. Очень хочется, чтобы была такая машина, которая могла бы и такую задачу принять, и принять задачу игр.
Анатолий Старостин: 18:12 Именно. И вот, кстати, очень интересным направлением в этом смысле является то, что называется «программированием на естественном языке» и все эти вещи, связанные на стыке программирования и естественного языка. Например, я не знаю, формулирование вопросов базы данных на естественном языке.
Даниил Скоринкин: 18:34 Компиляторы русского в SQL?
Анатолий Старостин: 18:35 Да-да-да. Есть такие статьи, такие работы, это интересное направление. Там обычно все равно происходит сужение, никто не ставит перед собой универсальной задачи большой, потому что такую задачу должен решать целый институт огромный. Должен быть проект уровня генома человека или что-нибудь такое, или адронного коллайдера. К сожалению, такого проекта пока в мире не возникло. Но в целом вообще думание в направление того, как создавать по-настоящему интеллектуальных помощников мне кажется крайне полезным. И периодически я это, так или иначе, наблюдаю. Мне кажется, что если бы вот этот рубеж был пройден, то все остальное дальше как-то само бы появилось. Уже дальше и разные эмоции, и то, и другое, и третье. И уже после этого мы могли бы… Вот в этом тесте, который я предложил, ключевой момент в том, что ты общаешься, ты учишь. А понятно, что мы делаем один шаг в сторону и этот же агент начинает читать, он начинает сам читать тексты и начинает в себя впитывать огромное знание, которое распространено по всему интернету и так далее.
Даниил Скоринкин: 19:47 И становится автономной самообучающееся системой.
Анатолий Старостин: 19:49 Да.
Даниил Скоринкин: 19:50 Сама ползает по сети и что-то такое усваивает в виде знаний.
Анатолий Старостин: 19:53 Да. И через два часа его активной работы ты уже не можешь его ничему новому научить, потому что он знает больше тебя. И говорит: «О, да, такую игру я читал. В Древнем Китае в нее играли».
Даниил Скоринкин: 20:11 Смотри, в примерах, которые ты приводил, искусственный интеллект был довольно-таки похожий на людей. Вот эти Джарвис и C3P0, в меньшей степени R2D2, но C3P0 уж точно очень похож на человека, то есть он даже сделан по образу и подобию человека, с руками, глазами. Джарвис тоже очень человекоподобный. У него есть имя.
Анатолий Старостин: 20:31 У него есть опять же голограмма.
Даниил Скоринкин: 20:32 Да, там даже какая-то голограммка. И в принципе те имитации искусственного интеллекта, которые мы видим, начиная с той же Алисы, они все как-то цепляются за такой человекоподобный образ. И тут возникает вопрос: а внутри себя должен ли быть искусственный интеллект антропоморфным, должен ли он пытаться как-то вот именно думать как человек или он может вообще не на естественном языке все это делать, а вот как-то сам по себе? Это какой-то сложный философский вопрос, мне кажется, и хочется над ним подумать. Потому что есть ощущение, что мы-то вообще-то не венец творения вселенной, мы некоторые вещи очень плохо можем понимать. Квантовую физику человеческий мозг очень плохо понимает, потому что кажется, что мозг эволюционировал вообще не для этого, а для распознавания образа мамонта на горизонте. А может быть, эти нейронные сети, которые думают не так же, как человек, может быть, они, на самом деле, более адекватные, чем анализы современной физики. Что ты об этом думаешь?
Анатолий Старостин: 21:30 Во-первых, да, есть задачи, в которых мы видим, что компьютер уже сейчас существенно превосходит человека, он тупо быстрее считает. Поэтому кажется, что если мы во всем будем делать компьютер похожим на человека, уподоблять компьютер человеку, то мы, как минимум, что-то потеряем. То есть если мы совсем копию человека сделаем, она будет считать хуже, чем он может считать. Это просто логические рассуждения. Поэтому кажется, что в любом случае правильный даже человекоподобный интеллект что-то должен делать лучше, чем человек. И, кстати, нам это обычно и в литературе показывают и в кино. Тот же Джарвис, он все-таки гораздо быстрее считает, чем сам железный человек.
Даниил Скоринкин: 22:24 И Электроник считает быстрее, чем Сыроежкин.
Анатолий Старостин: 22:27 Да-да. Поэтому такой полной антропоморфности вообще неправильно ожидать. Есть рядом вторая проблема, которая уже, когда мы начинаем создавать конкретные алгоритмы и программировать это все, в ряде случаев возникают развилки и ты не знаешь, как сделать. И дальше ты говоришь: «Кажется, что человек делает так». И дальше обязательно один программист говорит: «Давай делать тогда по образу и подобию человека», а второй говорит: «А зачем? Почему мы должны копировать человека? Вот же, есть другой алгоритм».
Даниил Скоринкин: 23:00 Мы же птиц не копируем, когда самолеты делаем. У нас крылья не машут, а прямо летят.
Анатолий Старостин: 23:04 И это вторая проблема: можно ли вообще создать систему, которая тоже будет понимать естественный язык, которая с нами будет нормально коммуницировать, но будет построена внутри на каких-то совсем других принципах, чем мы? И, кроме того, мы этих принципов до конца еще не знаем. И не знаем, на каких принципах построены мы. У нас есть некоторые примерные ощущения и есть багаж знаний, который несут люди, которые занимаются вообще мозгом, да? И вот в этом смысле да, наша зрительная система похожа на многослойные нейронные сети. И в этом смысле есть действительно аналогия. И компьютерное зрение – оно кое-чем напоминает реальное наше зрение. Тут аналогия, так сказать, честная. А вот можно ли сказать, что, не знаю, какой-нибудь BERT функционирует так же, как наш внутренний этот языковой аппарат…
Даниил Скоринкин: 24:05 Непонятно.
Анатолий Старостин: 24:05 Вообще никто не знает и совершенно непонятно.
голос робота: 24:10 BERT – нейронная сеть от Google, выпущенная в 2018 году. В основе BERT лежит простая идея: нейронной сети показывают предложение на естественном языке, предварительно спрятав 15% слов, и просят восстановить исходный текст. Решая эту задачу, сеть обучается различать значения слов в зависимости от контекста. С появлением BERT произошел прорыв в области обработки естественного языка, повысилось качество чат-ботов, вопросно-ответных систем, автоматических переводчиков и так далее.
Анатолий Старостин: 24:41 Но при этом BERT позволяет решать многие задачи.
Даниил Скоринкин: 24:47 Кажется, Google вкрутил-таки его уже в поиск.
Анатолий Старостин: 24:49 Да, его уже вкрутили в поиск и все такое. Поэтому вот он антропоморфен или нет? Вопрос. Я не знаю ответа пока.
Даниил Скоринкин: 25:04 Хорошо, но мне кажется, что мы с тобой как раз идем в ту сторону, чтобы нащупать какой-то тот самый барьер, который должен быть пройден. То, что ты сейчас сказал… Ты сказал, что, когда этот барьер будет пройден, после этого как-то все изменится. Мне кажется, один из смыслов нашего подкаста – это как раз попытаться нащупать вот эту какую-то границу, которую мы не можем пока перескочить.
Анатолий Старостин: 25:26 Нащупать ее и проговорить ее с людьми, которые, ну, скажем так, ближе всего к ней подошли в те или иные времена. То есть мне бы очень хотелось услышать мнение различных исследователей в этой области, причем я надеюсь, что нам удастся поговорить и с людьми, так сказать, старого поколения, которые еще в XX веке этим занимались, и наоборот с очень молодыми исследователями, которые все очень воодушевлены, так сказать, deep learning’ом и другими методами машинного обучения. Хотелось бы говорить с какими-то даже психологами, людьми, которые немножко понимают про когнитивную часть именно человека, то есть понимают, как устроено именно сознание человека, знают что-то про него. И, наверное, очень хотелось бы в какой-то момент чуть-чуть поговорить с всякого рода футурологами, потому что можно услышать от них что-то интересное, о чем ты никогда не думал, а они много думают, потому что они много фантазируют. Значит, и, и наверное… Вот, я, собственно, не упомянул лингвистов. Конечно, хочется поговорить с лингвистами профессиональными, которые много знают про естественный язык. Потому что это все взгляды на одно и то же. Есть человек, есть его сознание. С одной стороны, мы хотим его сознание, как сказать, пересоздать в компьютере, так или иначе, или сделать какую-то систему, которая с ним коммуницирует так, как будто у нее есть сознание. Неважно, есть оно у него или нет. Главное, чтобы оно коммуницировало точно также и, главное, обучалось и вот это все делало. С другой стороны, у нас есть люди, которые уже просто знают про это сознание что-то. Они изучали это много лет в рамках своей научной области.
Даниил Скоринкин: 27:15 С третьей стороны есть все-таки те люди, которые занимаются с современными применениями тех методов, методик и систем, которые сегодня показывают самые большие успехи хотя бы в этом Narrow ИИ. И можем попробовать их как-то друг с другом немножко столкнуть, мне кажется, это редко происходит, поэтому это ценно. И понять, например, что такого есть в тех методах, которые сегодня на хайпе, типа тех же нейросетей. Что в них есть такого, что похоже на то, как мы мыслим, например? Это, мне кажется, не такой тривиальный вопрос, как кажется, потому что понятно, что есть это пошлое сравнение нейросетей искусственных и естественных. Все понимают, что они совершенно по-разному устроены. А в чем все-таки сходство, да? Есть ли сходство между тем, как обучается искусственная нейросеть, и тем, как обучается ребенок? Кажется, что отчасти она есть, а отчасти все происходит совсем по-другому, потому что у ребенка, например, гораздо меньше стимулов для обучения. В том смысле, что гораздо меньше информации ему поступает на ход и при этом он осваивает язык в совершенстве, до которого ни одна компьютерная система не доходит.
Анатолий Старостин: 28:18 Да, все так. Подводя итог, Дань, хочется, наверное, сказать следующее. Что, действительно, мы уже сейчас видим, что притом, что словосочетание «Искусственный Интеллект» употребляется очень часто, в последнее время его можно услышать из каждого утюга, с ним не все понятно, не очень очевидно и, так сказать, есть нюансы. И эти нюансы хочется проговорить, понять и…
Даниил Скоринкин: 28:48 Опознать. Поскольку мы же тут про неопознанный искусственный интеллект. Чтобы он стал все-таки чуть-чуть более опознанным.
Анатолий Старостин: 28:55 Именно так. И в следующих эпизодах мы хотим уделять внимание нескольким вещам. Во-первых, мы будем со всеми нашими гостями, так или иначе, разговаривать о критериях искусственного интеллекта или о необходимых качествах. О том, чем должен обладать искусственный интеллект, чтобы мы его называли действительно интеллектом.
Даниил Скоринкин: 29:16 Что считается достаточным и необходимым признаком.
Анатолий Старостин: 29:20 Да-да. И, кроме того, мы обязательно будем спрашивать наших гостей про антропоморфность. Нам очень интересно, должен ли искусственный интеллект быть похожим на человека или нет.
Даниил Скоринкин: 29:34 Причем антропоморфность внешняя и внутренняя. Должен ли он, например, говорить с нами как человек и должен ли он внутри быть устроен по образу и подобию мозга?
Анатолий Старостин: 29:43 Да, и главное, я очень надеюсь, что в ходе бесед с нашими гостями мы будем больше узнавать о том, почему мы еще не там, почему этого искусственного интеллекта еще, собственно, нет прям вот здесь и сейчас, но как мы с тобой считаем. Может быть, наши гости придут и скажут: «Да как же, вот он». Но кажется, что его еще нет. И очень хотелось бы узнать от этих людей, общаясь с ними, возможно, как-то спорить с ними, мы постепенно начнем понимать, где проблем, что сейчас не получается. Это главный вопрос. Почему вот эти много искусственных интеллектов, обмотанных пластырем, не сливаются в один большой? И эта проблема самая сложная, самая большая, и я думаю, что мы услышим довольно много разных мнений на этот счет.
Даниил Скоринкин: 30:42 Да, и мне кажется, поиск вот этого бутылочного горлышка, вот этого места вот этой точки, где у нас происходит какой-то заток, какой-то затык, мне кажется, он и поможет нам как раз определить, собственно, искусственный интеллект и сформулировать эту задачу, может быть, более точно. А мы знаем, что ничего так не приближает человечество к решению какой-то проблемы, как корректная точная формулировка задачи. Хочется верить, что в этом наша какая-то миссия сейчас.
Анатолий Старостин: 31:07 Мне бы хотелось, чтобы в результате серии эпизодов нашего подкаста наши слушатели осознали бы масштаб этой задачи, осознали бы, сколько в ней, так сказать, подзадач. Это такой как огромный пазл из миллиона деталек. Все должно со всем состыковаться и тогда оно, возможно, заработает. И человечеству дальше, оказывается, суперсложно всю эту схему разобрать…
Даниил Скоринкин: 31:31 Я думаю, что человечество на каждом этапе своего развития имеет, как бы, пределы сложности систем, которые она способна порождать. Может быть, у нас предел сложности систем сейчас, не знаю, какой-нибудь петабайт, а нужен эксабайт.
Анатолий Старостин: 31:42 Именно. Мне тоже иногда кажется, что, возможно, проблема с искусственным интеллектом гораздо в большей степени организационная, нежели научная. То есть… предлагаю…
Даниил Скоринкин: 31:53 Экономическая.
Анатолий Старостин: 31:54 Экономическая. Предлагаю задать этот вопрос нашим гостям тоже, потому что мне иногда кажется, что если бы все как-то правильно встали в один рядок, разбились на кучки и кто-то бы заплатил за это много-много денег, то они бы взяли и сделали. Но проблема в том, что никто не понимает, как организоваться. Никто не понимает…
Даниил Скоринкин: 32:11 Тому, кто заплатит деньги, никто не даст гарантии, что сейчас получится. Это уже большая проблема.
Анатолий Старостин: 32:17 Вот. Хорошо. Дорогие друзья, это был первый выпуск подкаста «Неопознанный искусственный интеллект», в котором мы обсуждаем проблемы создания глобального сильного искусственного интеллекта и планируем обсуждать их дальше в течение многих выпусков. Оставайтесь с нами! Спасибо, пока!
