Как искусственный интеллект пережил бум и крах в 1980-х
Повсюду только и говорят, что об искусственном интеллекте. Он решает всё более сложные задачи и угрожает заменить профессионалов в самых разных областях: от медицины и юриспруденции до геологоразведки. Появляется множество стартапов, которые добавляют ИИ в любой продукт — от фотоаппарата до самолета. Наконец, разрабатываются особые чипы, предназначенные специально для работы ИИ.
Речь про наши дни? Отнюдь. Мы говорим о событиях, происходивших почти полвека назад, во время одного из бумов, которые регулярно переживает область искусственного интеллекта. Тогда, в 1980-х годах, в центре внимания оказались экспертные системы. Рассказываем о том, как они появились, почему не смогли завоевать мир и чему взлет и падение экспертных систем учат нас сегодня.
Зима тревоги нашей
Как только в конце 1940-х годов появились электронные цифровые компьютеры, возник вопрос, похожа ли их работа на мышление человека. Уже в 1950 году пионер компьютерных наук Алан Тьюринг написал статью «Вычислительные машины и разум», в которой задался вопросом: «Может ли машина мыслить?» — и ответил утвердительно. Компьютеров становилось все больше, и ученые старались найти для них области применения, не связанные с математикой. Например, в 1954 году компьютер был впервые использован для перевода с русского языка на английский (подробнее об истории машинного перевода мы рассказывали здесь).
Кибернетическая черепаха Уолтера Грея (на фото) — одна из первых попыток создать автономного робота, 1950 год. Источник
В 1955 году математик Джон Маккарти из Дартмурского колледжа решил организовать семинар для обсуждения таких тем, как обработка естественного языка, искусственные нейросети, автоматическое решение задач, кибернетика и теория информации. Он решил, что для описания всех этих предметов лучше всего подходит словосочетание «искусственный интеллект». Дартмутский семинар состоялся летом 1956 года, заложив основы ИИ как научной области; а его организаторы — Маккарти, Марвин Мински, Клод Шеннон и Натаниэль Рочестер — сегодня считаются отцами-основателями ИИ.
Начало было многообещающим. В начале 1960-х годов в университете Карнеги — Меллона, Массачусетском технологическом институте и Стэнфордском университете возникли центры по развитию ИИ. Там создавались программы для решения математических задач, изложенных на естественном языке, и программы для игры в шашки, первые чат-боты и системы распознавания речи.
Исследования щедро финансировались — в том числе Управлением перспективных исследовательских проектов Министерства обороны США. Уже в 1958 году двое участников Дартмутского семинара, Герберт Саймон и Аллен Ньюэлл, прогнозировали, что в течение десяти лет компьютер станет чемпионом мира по шахматам, а заодно откроет и докажет новую математическую теорему.
В начале 1960-х годов студенты Джона Маккарти (на фото) разработали первую программу, игравшую в шахматы на приемлемом уровне. В 1966–1967 годах между ней и программой, разработанной в Московском институте теоретической и экспериментальной физики, были разыграны четыре партии, из которых советская программа выиграла две и две свела вничью. Источник
Однако оптимизм оказался преждевременным. Уже к 1970-м годам исследователи столкнулись со множеством проблем, включая недостаточную мощность компьютеров и недооцененную сложность таких «простых» задач, как ориентация в пространстве или распознавание предметов. Обещания ученых насчет скорого триумфа ИИ оказались невыполнимыми, поэтому проекты в этой области лишились финансирования. Из-за этого, а также снижения интереса к теме ИИ период примерно с 1974 по 1980 год сегодня принято называть зимой искусственного интеллекта.
Зима, впрочем, оказалась довольно теплой. Хотя научные центры лишились грантов, выданных под чрезмерно оптимистические обещания, исследования продолжались в меньшем объеме. С 1969 по 1978 год число членов группы по искусственному интеллекту при американской Ассоциации вычислительной техники (ACM SIGART) выросло втрое. В 1977 году состоялась уже пятая Международная объединенная конференция по искусственному интеллекту (IJCAI), которую посетило около тысячи человек — в пятьдесят раз больше, чем Дартмутский семинар 1956 года.
Древо познания
В 1965 году, в самый разгар первого бума ИИ, в Стэнфордском университете появился факультет компьютерных наук, одним из первых сотрудников которого стал Эдвард Фейгенбаум. Он был не понаслышке знаком с исследованиями в области искусственного интеллекта. Фейгенбаум учился у вышеупомянутого Герберта Саймона и в 1960 году разработал компьютерную программу для моделирования процесса обучения. Затем он начал работать над автоматизацией процесса индуктивного умозаключения, то есть перехода от отдельных фактов к выводу.
Директор Стэнфордского вычислительного центра Эдвард Фейгенбаум (сидит) с коллегами, 1966 год. Источник
Одной из причин прихода Фейгенбаума в Стэнфорд (до этого он работал в Калифорнийском университете в Беркли) стало знакомство с молекулярным биологом и нобелевским лауреатом Джошуа Ледербергом. Фейгенбаум искал такую научную задачу, которая могла решаться индуктивно и благодаря этому служить для проверки его идей.
Ледерберг предложил взяться за проблему определения структуры химического вещества на основании данных масс-спектрометрии. Задача была сложнейшей, ведь существует неисчислимое множество органических веществ, имеющих очень сложные структуры. Ледерберг занимался этой темой в рамках подготовки межпланетных зондов программы Mariner — там масс-спектрометрия должна была помочь найти следы жизни на Марсе. Сам Ледерберг работал в Стэнфорде, поэтому он предложил Фейгенбауму перейти туда же.
Как только Фейгенбаум оказался в Стэнфорде, они с Ледербергом взялись за дело. В том же 1965 году был готов первый образец программы, получившей название DENDRAL (от DENdritic ALgorithm, «ветвящийся алгоритм»). На основании введенных пользователем данных масс-спектрометрии программа генерировала все возможные структуры аминокислот, а затем проверяла, какая из них лучше всего соответствует данным. DENDRAL был написан на языке Лисп, созданном Джоном Маккарти специально для области ИИ. Программа выполнялась на компьютере AN/FSQ-32, причем в качестве устройства ввода и вывода использовался телетайп, печатавший результаты на бумаге.
Облачный сервис в 1967 году: телетайп обеспечивает доступ к удаленному компьютеру с помощью телефонных проводов. По воспоминаниям участников проекта DENDRAL, счет за телефон иногда доходил до 2000 долларов в месяц. Источник
Большинство исследователей, работавших в области ИИ, придерживались мнения, что необходимо найти общие принципы решения любых задач, чтобы создать мыслящую машину. Такой поиск общих принципов стал одной из причин излишнего оптимизма относительно раннего ИИ: казалось, что достаточно научить компьютер учиться, а дальше он справится сам. Фейгенбаум отказался от этой идеи в пользу узкоспециализированной системы, которая оперировала не общими принципами, а знаниями из конкретной дисциплины; в случае DENDRAL это была органическая химия.
Сделать компьютер специалистом оказалось непросто. Нужно было каким-то образом «извлечь» знания органической химии из эксперта и облечь их в форму четко структурированных правил. Для этого Фейгенбаум и его сотрудники опрашивали Ледерберга, который объяснял принципы, по которым молекулы принимали ту или иную структуру. Затем полученные сведения упорядочивались и структурировались. Итогом работы становился набор правил вида «если… то». Следуя одно из другого, эти правила образовывали тот самый ветвящийся алгоритм, от которого DENDRAL унаследовал свое название. Получение информации от эксперта и ее последующая формализация стали предметом отдельной дисциплины, которую Фейгенбаум назвал инженерией знаний.
Первоначально FSQ-32 SAGE Solid State Computer предназначался для системы противовоздушной обороны США, но устарел раньше, чем был закончен. Компьютер использовался для исследований, а после списания много раз появлялся в кино: от «Дня независимости» до «Остина Пауэрса». Источник
К 1968 году знания Ледерберга в области органической химии оказались исчерпаны — все-таки он был прежде всего биологом. DENDRAL был доведен до уровня действующего прототипа, поэтому разработчики решили показать его Карлу Джерасси, блестящему стэнфордскому химику, прославившемуся благодаря созданию первых противозачаточных таблеток. Презентация понравилась Джерасси, поэтому он и его сотрудники стали участвовать в усовершенствовании программы.
Постепенно DENDRAL превратился из одной программы в набор инструментов, пригодных для практического использования — в частности, в лаборатории самого Джерасси. Однако попытки сделать его коммерчески успешным продуктом провалились: для простых задач он оказался избыточным, а для сложных — недостаточным. Несмотря на это, DENDRAL остался первой в истории экспертной системой, то есть системой искусственного интеллекта, которая на основании знаний и опыта эксперта-человека может решить задачу в определенной области.
Оттепель
В 1970-х годах, после успеха DENDRAL, команда Фейгенбаума начала создавать экспертные системы в самых разных областях. Появились системы SACON (для анализа физических объектов), CRYSALIS (для определения структуры белков), PROSPECTOR (для поиска полезных ископаемых)… Одной из наиболее важных экспертных систем этого периода стал MYCIN, предназначенный для диагностики заражений крови и рекомендации пользователю-врачу тех или иных антибиотиков (отсюда и название, отсылающее к таким препаратам, как стрептомицин и клиндамицин).
От DENDRAL MYCIN отличался в трех важных аспектах. Во-первых, он работал в диалоговом режиме, задавая пользователю уточняющие вопросы. Диалог велся на упрощенном английском языке с фокусом на медицинскую терминологию, что делало систему доступной для пользователей, не знакомых с компьютером. Во-вторых, MYCIN умел объяснять свои решения, ссылаясь как на введенные врачом данные, так и на заложенные в него правила. В-третьих, система сопровождала каждый свой ответ оценкой вероятности. Это было важно для медицинской диагностики, где и сами врачи редко способны поставить стопроцентно точный диагноз.
Пример диалога пользователя с экспертной системой MYCIN. Источник
Пользуясь наработками Фейгенбаума, создатель MYCIN Эдвард Шортлифф смог окончательно разделить базу знаний экспертной системы и набор правил, по которым она рассуждает. Удалив из MYCIN информацию о заражениях крови, он оставил каркас из 450 правил и оценок вероятности, который получил название E-MYCIN (E — от empty, «пустой», или essential, «основной»). Его можно было наполнить данными о другой области знания — при условии, конечно, что она имеет такую же структуру. На основе E-MYCIN были созданы системы PUFF (для диагностики заболеваний легких), SACON (для структурного анализа) и CLOT (для диагностики нарушений свертываемости крови).
Ни MYCIN, ни его более совершенные аналоги INTERNIST-I и CADUCEUS (созданные Гарри Поплом из Питтсбургского университета) не смогли выйти за пределы лаборатории. Отчасти это было связано с этическими и юридическими последствиями — кто будет нести ответственность, если экспертная система допустит ошибку? Однако еще более важной причиной стало отсутствие компьютеров, которые были бы достаточно мощны и одновременно доступны медицинским учреждениям.
Благодаря особой структуре памяти компьютер PDP-6 хорошо подходил для программ на Лиспе (языке искусственного интеллекта), поэтому он использовался для создания экспертных систем. PDP-6 весил от 590 до 770 кг и стоил от 120 до 300 тыс. долларов. Источник
Медицина, однако, была не единственной областью, где экспертизу пытались автоматизировать. Так, IBM заказала Фейгенбауму систему диагностики жестких дисков, а для нефтесервисной компании Schlumberger он и его жена, специалист по инженерии знаний Пенни Нии, разрабатывали GEO — программу для анализа геологии скважин. Экспертными системами заинтересовались и военные. Для них Фейгенбаум и Нии создали систему HASP, которая определяла тип судна на основании звуков, возникающих в воде при их движении.
Пусть расцветают сто цветов
К 1980 году ситуация окончательно сложилась в пользу экспертных систем. С одной стороны, опыты Фейгенбаума и его коллег из других исследовательских центров позволили отработать процесс создания экспертных систем. С другой, на рынке появились лисп-машины — небольшие и сравнительно недорогие компьютеры, аппаратно оптимизированные для работы с Лиспом, который, как уже упоминалось, был главным языком ИИ в это время.
Результаты не заставили себя долго ждать. Как раз в 1980 году появилась первая коммерческая экспертная система R1, более известная как XCON (от eXpert CONfigurer, «экспертный конфигуратор»). XCON должна была подбирать элементы для компьютерной системы VAX в соответствии с требованиями заказчика. Ее по заказу компании Digital Equipment Corporation (DEC) разработал профессор Университета Карнеги — Меллона Джон Макдермотт.
Компьютер и эксперты на обложке журнала Byte 1984 года. Источник
Опытный образец системы содержал всего 250 правил, однако для того, чтобы их вывести, Макдермотту понадобилось четыре месяца интервьюировать сотрудников DEC. За шесть лет XCON выросла сперва до 750, затем до 1200 правил, а итоговая версия и вовсе содержала около 2500 правил. К 1986 году система за 2,5 минуты определяла необходимую конфигурацию системы, учитывая даже такие факторы, как требуемая заказчиком длина кабелей. DEC утверждала, что внедрение XCON позволило экономить более 25 млн долларов в год.
На фоне успеха XCON вокруг экспертных систем возник ажиотаж. Спешно создавались ИИ-стартапы: Aion, LISP Machines, Syntelligence, Carnegie Group, Symbolics, Machine Intelligence, Teknowledge, Intellicorp (две последние создал сам Фейгенбаум). Свои варианты систем — как на продажу, так и для внутреннего употребления — начали создавать такие компании, как Texas Instruments, American Express, Westinghouse. Шума вокруг экспертных систем стало так много, что журналу Popular Science пришлось успокаивать своих читателей: мол, потеря работы им не грозит, ведь системы создаются долго и стоят дорого.
1982 год: экспертные системы на любой вкус. Источник
Казалось, что любую область человеческой деятельности можно преобразовать в набор правил. По воспоминаниям одного из стартаперов, Питера Харта, «новая экспертная система возникала, кажется, каждую неделю». Появились системы для диагностики паровых турбин, финансового анализа, секвенирования генома, одобрения кредита, ремонта электроники… Компания Campbell’s даже создала систему для решения проблем, возникающих при варке их знаменитых консервированных супов.
Продавались и наборы для создания своих собственных экспертных систем. Они походили на E-MYCIN и содержали только правила рассуждения, а вот базу знаний пользователю предлагалось заполнить самостоятельно. Интересно, что в ходе развития искусственного интеллекта эта идея вернулась и сегодня вновь появилась возможность создавать себе ИИ-помощников, обученных решать задачи в определенной области. Изучить основы создания интеллектуальных ассистентов можно на онлайн-курсах — например, на этом курсе от Центра непрерывного обучения факультета компьютерных наук Вышки.
Интерес к экспертным системам возник и за рубежом. Япония вписала их разработку и внедрение в проект компьютеров пятого поколения, а Великобритания сделала ИИ частью программы Alvey. Американское правительство также увеличило финансирование исследований в области искусственного интеллекта, а Управление перспективных исследовательских проектов создало целую Стратегическую компьютерную инициативу в 1983 году.
И вновь зима
Уже в следующем, 1984 году прозвучали первые предостережения. На ежегодном заседании Американской ассоциации по развитию искусственного интеллекта состоялась дискуссия «Темные века ИИ». В ходе обсуждения профессор Йельского университета Дрю Макдермотт (не создатель системы XCON) указал на вновь возникший в области ИИ неумеренный оптимизм, связанный как раз с экспертными системами. Он предсказал, что крупные компании и другие государства к 1990 году потеряют интерес к экспертным системам, стартапы обанкротятся, а инвестиции прекратятся. Свой прогноз Макдермотт назвал «маловероятным», не подозревая, что он сбудется дословно.
Лисп-машина компании Symbolics, 1986 год. Источник
Уже в 1987 году обрушился рынок лисп-машин. Новые персональные компьютеры от Apple и IBM стоили намного меньше, но превосходили лисп-машины по скорости работы. В том же году правительство радикально урезало финансирование Стратегической компьютерной инициативы, вновь разочаровавшись в преувеличенных обещаниях и очень скромных (по сравнению с ними) результатах разработки в области ИИ. Эти события, хотя и показывали новое падение интереса к искусственному интеллекту, не могли сами по себе уничтожить рынок экспертных систем. И все же к началу 1990-х годов экспертные системы канули в Лету. Что же произошло?
Многие факторы сыграли здесь свою роль. Экспертные системы, основанные на жестких правилах, оказались слишком… жесткими, то есть плохо поддавались изменениям, а также с легкостью начинали галлюцинировать, когда запрос выходил за рамки их базы знаний. Поддержание систем в рабочем состоянии требовало большого количества квалифицированных сотрудников, услуги которых стоили дорого. Это сводило на нет всю экономию от внедрения экспертных систем. Так, в 1989 году DEC имела штат из 59 сотрудников, которые поддерживали XCON и другие корпоративные экспертные системы.
Одно из уникальных применений экспертных систем — фотоаппарат Minolta Maxxum 7xi. Утверждалось, что автоматика этой камеры, в том числе автофокусировка и установка экспозиции, обеспечивают качество снимков на уровне профессионального фотографа. Источник
Была и проблема наполнения системы информацией. Инженерия знаний требовала сотен часов интервью с экспертами и последующей обработки их ответов. Специалистов в этой области не хватало. Предпринимались даже попытки создания самообучающихся экспертных систем, которые должны были сами опрашивать эксперта и выводить из его ответов правила размышления (первую такую программу еще в рамках проекта DENDRAL разработал сотрудник Фейгенбаума Брюс Бьюкенен). Но несмотря на все попытки, экспертные системы довольно быстро перестали интересовать и ученых, и публику.
***
Впрочем, вторая зима искусственного интеллекта оказалась такой же условной, как и первая. Работы в этой области продолжались и после «краха» экспертных систем. Исследователи переключились на статистические и нейросетевые методы, которые в конечном итоге и привели к очередному буму ИИ и его сегодняшнему расцвету во всех формах: от больших языковых моделей до генеративных нейросетей. Многие задачи, которые Фейгенбаум и его коллеги пытались решить еще в 1970-х годах, — от определения структуры белков до диагностики заболеваний — сегодня успешно решаются искусственным интеллектом.
Сами экспертные системы тоже не исчезли бесследно. Они перестали быть отдельными программами и стали частями самых разных приложений. Всякий раз, когда мы пользуемся функцией диагностики неполадок наших компьютеров или вызываем справку в каком-либо приложении, мы пользуемся экспертными системами. Как однажды отметили редакторы журнала Expert Systems, «есть большая доля истины в старой шутке: как только ИИ-система начинает выполнять полезную работу, она сразу же перестает быть искусственным интеллектом и становится обыкновенной программой».
Появление новой технологии часто порождает чрезмерные ожидания того, что она изменит весь уклад жизни — как в лучшую, так и в худшую сторону. Многие технологии действительно меняли нашу жизнь, но чаще всего и страхи, и надежды оказываются преувеличенными. Искусственный интеллект уже дважды попадал в эту ловушку: интерес к нему рос в 1960-х и 1980-х годах и падал в 1970-х и 1990-х. На фоне сегодняшних успехов кажется, что ИИ наконец завоевал мир, но история экспертных систем показывает: зима искусственного интеллекта всегда где-то неподалеку.
Источники
- Нейлор К. Как построить свою экспертную систему. — М.: Энергоатомиздат, 1991. URL: https://publ.lib.ru/ARCHIVES/N/NEYLOR_Kris/_Neylor_K..html (дата обращения: 06.05.2025).
- Попов Э. В. Экспертные системы. Решение неформализованных задач в диалоге с ЭВМ. — М.: Наука, 1987. URL: https://coollib.in/b/490692-eduard-viktorovich-popov-ekspertnyie-sistemyi-reshenie-neformalizovannyih-zadach-v-dialoge-s-evm (дата обращения: 06.05.2025).
- Edelson E. Expert systems–computers that think like people // Popular Science, 1982. URL: https://books.google.ru/books?id=FzCnbu4xM0YC&lpg=PA58&dq=expert%20system&pg=PA50#v=onepage&q&f=false (дата обращения: 06.05.2025).
- Gevarter W. B. An Overview of Expert Systems. NBS Special Publication, 1982. URL: https://ntrs.nasa.gov/api/citations/19820022023/downloads/19820022023.pdf (дата обращения: 06.05.2025).
- Hawkins W. J. Expert systems promise supersmart PCs // Popular Science, 1986. URL: https://books.google.ru/books?id=1IqBydvMRZcC&lpg=PA83&dq=expert%20system&pg=PA83#v=onepage&q&f=false (дата обращения: 06.05.2025).
- Lindsay R. K., Buchanan B. G., Feigenbaum E. A., Lederberg J. DENDRAL: a case study of the first expert system for scientific hypothesis formation // Artificial Intelligence. 1993. Vol. 61, Issue 2. URL: http://web.mit.edu/6.034/www/6.s966/dendral-history.pdf (дата обращения: 06.05.2025).
- History Of AI In 33 Breakthroughs: The First Expert System [Электронный ресурс] // Forbes. URL: https://www.forbes.com/sites/gilpress/2022/10/29/history-of-ai-in-33-breakthroughs-the-first-expert-system/ (дата обращения: 06.05.2025).
- How the AI Boom Went Bust [Электронный ресурс] // Communications of the ACM. URL: https://cacm.acm.org/opinion/how-the-ai-boom-went-bust/ (дата обращения: 06.05.2025).
- Making Things Think: How AI and Deep Learning Power the Products We Use [Электронный ресурс] // Holloway URL: https://www.holloway.com/b/making-things-think (дата обращения: 06.05.2025).
- Putting Expert Systems to Work [Электронный ресурс] // Harvard Business Review URL: https://hbr.org/1988/03/putting-expert-systems-to-work (дата обращения: 06.05.2025).
- The Meeting of the Minds That Launched AI [Электронный ресурс] // IEEE Spectrum URL: https://spectrum.ieee.org/dartmouth-ai-workshop (дата обращения: 06.05.2025).
- The Scientific Life of Edward A. Feigenbaum // IEEE Annals of the History of Computing, 2022. Vol. 44, Issue 1. Pp. 123-128. DOI: 10.1109/MAHC.2022.3145216
- There Was No ‘First AI Winter’ [Электронный ресурс] // Communications of the ACM. URL: https://cacm.acm.org/opinion/there-was-no-first-ai-winter/ (дата обращения: 06.05.2025).
