У меня не было удачного опыта сотрудничества с газетой «Коммерсантъ». Кому-то из тамошних журналистов мои ответы на их вопросы не пригождались, потому что всё нужное уже успели сказать другие эксперты. А кто-то уже после того, как я присылал свой текст, вдруг решал, что у меня недостаточно заслуг и регалий, чтобы помещать мои слова в газете.
Тем не менее, кажется, что мне удалось в таких взаимодействиях сформулировать какие-то значимые вещи. Кладу сюда одно из моих неопубликованных интервью. Далее вопросы интервьюеров даны курсивом, остальной текст — мой.
В чем различие искусственного интеллекта и человеческого? Справедливо ли вообще называть искусственный интеллект – интеллектом?
Для того, чтобы ответить на этот вопрос, нужно как минимум хорошо себе представлять, что такое человеческий интеллект. А у естествознания с этим до сих пор серьезные проблемы. Но если мы даже притворимся, что знаем, что такое интеллект, путаница не исчезнет. Дело в том, что искусственным интеллектом называют две совершенно разные концепции. Так как их всё же стоит отличать, добавляют обычно «сильный» или «слабый». Слабый искусственный интеллект — это широкий спектр технологий, существующих уже сейчас, компьютерные программы, которые позволяют машинам принимать решения (например, выбирать ход при игре в шахматы), обрабатывать текст, распознавать, что изображено на картинке. Всё это стало обыденным, никакой фантастики в таких технологиях нет, а их «интеллектуальность» не более чем метафора, часть изощренного маркетинга.
Что касается сильного искусственного интеллекта, то это уже фантастическая концепция, предположение, что когда-нибудь компьютерная программа станет настолько мощной, что, во-первых, будет универсальной (сейчас в шахматы играют и распознают изображения разные программы, а человек умеет и то, и другое, и много чего ещё), а, во-вторых, приобретет сознание, то есть сможет не только воспроизводить какие-то требуемые действия, но и осознает себя и смысл этих действий. От реализации чего-то подобного мы так же далеки, как от пилотируемых полётов за пределы солнечной системы.
Можно ли говорить, что искусственный интеллект – не более чем орудие человеческого?
Если мы говорим про слабый искусственный интеллект, то это, разумеется, так. Каменный топор, железный тесак, заводской станок, компьютерная программа — всё это человеческие орудия на разных этапах технического прогресса. А вот когда (и если) появится сильный искусственный интеллект, то предсказывать, как будут развиваться его взаимоотношения с человеком, трудно и несерьёзно. Это как если бы мы взялись рассуждать, что произошло, если бы на Красной площади материализовался Гэндальф. «А он имел бы те же способности, что в книгах Толкиена? А он умел бы говорить по-русски? Он был бы за либералов или за коммунистов?» Слишком много уточняющих вопросов, на которые мы не знаем ответа, но ответы на которые необходимы для качественного прогноза.
Как можно популярно описать для читателя математический аппарат, на котором работает искусственный интеллект? И что он собой представляет с точки зрения чисто технической: просто мощные суперкомпьютеры? Или нужны какие-то специальные средства и устройства?
Вопрос о математическом аппарате предполагает, что существует некоторый один способ построения слабого искусственного интеллекта (способов создать сильный не существует вообще, вернее, человечеству они неизвестны), а это не так. На самом деле, есть некоторый спектр возможностей и подходов, среди которых в последние лет десять выделились те, которые объединяются под общей вывеской «глубокое обучение» или, что почти то же самое, «нейросети». Он в свою очередь является развитием другой, более старой концепции, которая называется машинным обучением. Желание дать популярное описание стоящего за всем этим математического аппарата звучит очень наивно, потому что наверняка предполагает краткость изложения, а по этому поводу пишутся целые книги.
«Нейросетями» всё это называется, потому что многим нравится метафора, поясняющая устройство такой структуры через сопоставление с биологической нервной системой. Общая идея в том, что вместо сети из клеток-нейронов, которые составляют наш мозг, программа строится из такой же сети простейших математических функций. Если клетки-нейроны передают друг другу электрические импульсы, то функции-нейроны передают друг другу переведенные в числа кусочки информации. В мозгу у нас формируются нейронные связи, то есть цепочки нейронов активируются в определенных условиях: например, когда мы видим кошку или красный сигнал светофора. В искусственной нейронной сети тоже формируются такие связи, но не вдруг. Сеть должна выучиться, усвоить, по каким цепочкам передавать сигналы, а по каким нет. Для этого ей показывают обучающую информацию, и нейросеть присваивает связям между нейронами определенные числовые коэффициенты. Если сеть поняла информацию неправильно, то коэффициенты пересчитываются. На то, чтобы всё пересчитать, уходит порой много времени и вычислительных ресурсов.
Так что да, нейросети могут обучаться только на сильных компьютерах. Лучше всего для этого подходит даже не центральный процессор компьютера, а то, что называется видеокартой, устройство, которое позволяет воспроизводить видео. В последнее десятилетие появились особенно мощные видеокарты, что подстегнуло прогресс в глубоком обучении.
Однако когда сеть уже обучилась, она иногда может работать и на простом компьютере (а иногда нет, бывают разные нюансы), не очень требовательном к ресурсам.
Мы не понимаем (по большому счету), как работает мозг человека – а полностью ли сейчас понятно, как работает искусственный интеллект? или уже появились такие как бы черные ящики, где происходит нечто неопределенное?
Опять-таки вопрос имеет в виду какой-то абстрактный искусственный интеллект, поэтому ответить на него невозможно. Если переформулировать его и вместо «искусственного интеллекта» подставить «искусственные нейронные сети», то да, в самом деле, у нас есть некоторые проблемы с пониманием того, как получается, что нейросеть принимает правильное решение и что именно происходит на её глубинных слоях. Хотя в последнее время инженеры пытаются в этом разобраться и в целом объяснимость процессов, происходящих внутри нейросетей растет.
Но ведь человечество совершенно спокойно использует кучу разных штук, про которые не до конца понятно, как они работают. Например, аспирин.
Есть шутка, что искусственный интеллект похож на известную школьную риторику: а если все прыгнут с пятого этажа, ты тоже прыгнешь? – ответит: да. Насколько это шутка? Каковы вообще когнитивные возможности искусственного интеллекта, будут ли они когда-нибудь сопоставимы с человеческими?
Эта шутка именно потому такая смешная, что в ней, к сожалению, большая доля правды. Доминирующим при создании технологий искусственного интеллекта является подход, который условно можно назвать статистическим. За небольшим исключением, никто вручную не закладывает в такие технологии конкретные решения, компьютеры сами обучаются этим решениям на основе большого массива данных. И частные случаи в этом массиве тонут, вся статистическая погрешность, по сути, отбрасывается. Машинное обучение — это предельная демократия, учитывается только голос большинства.
Теперь более практический вопрос: в каких сферах искусственный интеллект надежно заменит человеческий? Где у него будет преимущество? Где он никогда не сравнится с человеком? Например, есть ли шанс, что он справится с одной из открытых проблем математики, скажем, докажет алгебраическую независимость чисел пи и е?
Для ответов на такие вопросы нужны (и существуют) специальные люди, их называют «визионеры». Они обычно очень обаятельные, поэтому даже если они наврут вам с три короба, то вы всё равно не будете на них обижаться и уйдёте довольными. Ни учёные, ни инженеры, если только они не заражены вирусом визионерства, на такие вопросы не ответят. Мы рассказываем, как всё есть сейчас. А что произойдёт в будущем, не знает никто, даже футурологи. В этом легко убедиться, если проверить, насколько точно сбываются их прогнозы. Спойлер: нинасколько.
Искусство футуролога в том, чтобы умереть раньше, чем все поймут, что твои прогнозы полная чушь.
Реальный же ответ на этот вопрос простой: искусственный интеллект (то есть компьютер) лучше человека там, где нужно быстро считать. Складывать и вычитать. Ну, вы понимаете. Это машина действительно делает лучше, чем человек. Трудность в том, что так просто не предскажешь, в какой именно сфере это может потребоваться. Практика показывает, что вычисления могут прийти практически в любую область.
Возможны ли сообщества искусственных интеллектов? взаимопомощь и осознание общих интересов?
Да, объединять компьютерные программы так, чтобы они взаимодействовали друг с другом, возможно. На заводском конвейере роботы тоже умеют взаимодействовать между собой. Правда, это не значит, что они вдруг заживут своей жизнью, устроят Бостонское чаепитие и захотят создать своё государство. Осознание чего-либо искусственному интеллекту пока недоступно.
Появится ли у искусственного интеллекта творческие способности? Наитие?
Дьявол, как всегда, в мелочах. В смысле, надо сначала определиться с тем, что такое творческие способности. Вы знаете, что это такое? Я нет. Рисовать картины и писать стихи компьютеры умеют уже сейчас (и умели, надо сказать, и 40 лет назад), но вряд ли творчество заключается именно в этом. Сегодняшние технологии, как мы говорили, статистические, они воспроизводят некоторое усредненное значение, а в последние двести лет творчество наоборот, ассоциируется с новаторством. Если бы искусственный интеллект творил в европейском средневековье, где-нибудь в XII веке, возможно, его почитали бы за неплохого автора.
Конкуренция искусственных интеллектов – страновая или на уровне компаний – насколько она жесткая? Каково место России в гонке искусственных интеллектов?
Поскольку слабый искусственный интеллект — это не одно направление, а довольно широкий круг разнообразных применений компьютеров в разных сферах жизни, нельзя говорить об одной конкуренции. Свои локальные конкуренции происходят везде, где потенциально внедрение компьютерных решений может принести выгоду. Соревнуются коммерческие компании, соревнуются они за прибыль.
Не совсем понятно, как такая конкуренция должна выглядеть на государственном уровне. Если кто-то представляет себе секретный бункер, где в тайной лаборатории учёные в белых халатах, склонившись над компьютерными терминалами, разрабатывают искусственный интеллект, который обеспечит могущество их державы, по образу того, как велись работы по Манхэттанскому проекту, то мне про это ничего неизвестно (а было ли широко известно о Манхэттанском проекте до того, как стали взрываться бомбы?), но я в это не верю.
Помогающие прогрессу разработки ведутся в университетах (в том числе и государственных), но все результаты тут же публикуются, они доступны всем, и кто угодно может их воспроизвести. Единственное, о чём можно говорить — это о том, ученые и инженеры каких стран заметны, если смотреть на публикации по тематике. Но результаты такого обзора расскажут нам не о конкуренции стран, а о качестве образования в этих странах, потому что именно образование дает возможность изобретать искусственный интеллект, а также строить космические корабли и создавать другие общественные блага, ассоциируемые с передним краем прогресса. Ученые советского/российского происхождения довольно заметны в этой сфере и их статьи часто попадаются на глаза.
Опишите, пожалуйста, какие угрозы несет с собою развитие искусственного интеллекта.
Это снова вопрос к визионерам. Известна байка про то, что самой страшной угрозой городу в XIX веке представлялся конский навоз на мостовых. Прошло 150 лет и эта угроза нас миновала. Мораль такова: предсказать эти угрозы почти невозможно, с ними нужно будет бороться по мере их появления.
В целом же ясно, что отрицательные стороны искусственного интеллекта — это продолжение его достоинств. Скорость принятия решений, основанных на статистике, то есть не учитывающих редких случаев, может стать проблемой. Или не стать, если будущий искусственный интеллект будет построен на других принципах, которые нам пока неизвестны.
