Машина против человека — машина на службе у человека
Недавно мне в голову пришла интересная мысль. В детстве я играл в шахматы и ходил в шахматную школу. Помимо тренировочных партий и бесконечного решения задач мы слушали истории о гроссмейстерах — лучших шахматистах, чемпионах мира. Мы разбирали их партии, изучали тактику, позиционные приемы и учились на их ошибках.
Среди прочего мы рассмотрели легендарное противостояние Гарри Каспарова и компьютера Deep Blue. В мае 1997 года алгоритм, разработанный в IBM, впервые победил действующего чемпиона мира в матче из шести партий. Эта серия игр изменила многое: впервые в истории лучшим шахматистом на планете оказался не человек, а программа, хотя долгое время считалось, что для игры с таким немыслимым количеством комбинаций нужна человеческая интуиция.
Сегодня компьютерные шахматные движки ушли настолько далеко в своем развитии, что даже у сильнейших гроссмейстеров нет никаких шансов в игре против них. В таком случае, если исходить из принципа изучения стиля игры сильнейших, то в шахматных школах давно должны анализировать и заучивать партии, сыгранные машинами, так как именно они теперь объективно лучшие «игроки». Но этого не происходит. В шахматных школах по-прежнему разбирают партии людей.
Почему даже здесь, в максимально детерминированной, формализованной и, казалось бы, свободной от субъективного человеческого опыта игре, человек выбирает изучать игру человека, а не машины? Ведь шахматы — это не текст, который нуждается в человеческом «присутствии».
Проблема в том, что машина играет не как человек. Например, один из самых известных шахматных движков, Stockfish, просчитывает варианты продолжения партии на десятки ходов вперед, вдобавок опираясь на исчерпывающую базу знаний о дебютах и эндшпилях. Ни один, даже самый талантливый гроссмейстер, не способен удержать в голове и перебрать такое количество ходов и позиций. Игра машины почти безупречна и именно поэтому она почти бесполезна для обучения. Мы создали идеального игрока, которому нечего нам «рассказать». Машина в игре использует возможности, которых нет у человеческого мозга, и учиться у нее — все равно что человеку учиться летать у птицы. Можно пытаться похоже махать руками — взлететь все равно не получится.
Поэтому вместо замены живому гроссмейстеру идеальный компьютерный игрок превратился в обычный инструмент. Шахматные движки помогают профессионалам оценивать позиции, быстро проверять варианты и тестировать на прочность собственные тактические идеи. Но сами эти идеи по-прежнему рождаются у людей. Возможно, именно поэтому чемпионаты мира по шахматам все еще существуют — превосходство машины не делает ее заменой человеку.
Генеративный ИИ превзойдет человека?
Сегодня компании, разрабатывающие большие языковые модели, соревнуются в стремлении достичь AGI (Artificial General Intelligence) — интеллекта, сопоставимого с человеческим и способного одинаково эффективно решать любые задачи. Если технология достигнет такого уровня, то за счет способности к самообучению и скорости «мышления» AGI довольно быстро эволюционирует в ASI (Artificial Superintelligence) — систему, интеллектуально превосходящую на порядки даже самых одаренных из нас, примерно так же, как современные шахматные алгоритмы превосходят лучших гроссмейстеров.
Многие теоретики ASI утверждают, что для создания такого «сверхразума» потребуется полностью изменить подход к обучению, отказавшись от человеческих наработок и знаний из интернета. ASI по их мнению должен учиться самостоятельно, без наших априорных представлений о мире: с нуля познавать реальность, выстраивать собственный аппарат ее описания, свою «математику», «физику» и, возможно, собственный язык. Эти идеи обсуждаются в книге Superintelligence от Ника Бострома, статье Маркуса Хуттера об агенте AIXI, а также в исследовании лаборатории Google DeepMind, опубликованном в журнале Nature в 2018 году.
Упомянутая работа DeepMind, кстати, посвящена описанию разработанного лабораторией шахматного движка AlphaZero, который 2017 году победил Stockfish — сильнейший на тот момент шахматный алгоритм. В отличие от Stockfish, обученного на миллионах сыгранных людьми партий и вооруженного каталогом дебютных позиций, AlphaZero не имел при себе априорных знаний об игре. Его «разум» был tabula rasa — чистым листом. С нуля, через самообучение и бесчисленные симуляции (то есть игры с самим собой), он вывел собственные, подчас непостижимые для человека, принципы игры. И эта радикальная свобода от отягчающего человеческого опыта позволила ему найти путь к превосходству над традиционным, пусть и невероятно мощным алгоритмом.
Мне кажется, что если ASI действительно будет с нуля изучать мир и раскроет его основания, мы, скорее всего, окажемся в ситуации, очень похожей на ту, что уже произошла в шахматах. Его открытия окажутся формально корректными и практически безупречными, но в силу наших когнитивных и физиологических ограничений они будут попросту «непереводимыми» на человеческий язык.
Открытия ИИ могут оказаться непереводимыми на человеческий язык
В этом смысле нам не нужен сверхразум, который бы думал сам за себя и был независимым. Не потому, что он может быть опасен или враждебен, а потому, что он окажется для нас непостижимым. Нам нужен сверхинструмент — система, способная усиливать человеческое мышление: предлагать возможные «хорошие ходы», проверять решения на устойчивость, находить логические противоречия и слепые зоны, но не «играть» вместо нас.
Каким будет мир, в котором есть сверхинструмент?
Опасения, связанные с тем, что искусственный интеллект вытеснит человека с рынка труда, сегодня звучат все чаще. Не менее тревожит и вопрос о том, как будет устроена экономика будущего, в которой значительная часть работы выполняется машинами.
В исторической перспективе подобная ситуация не является принципиально новой. Тысячелетиями существовали общества, где основная масса труда выполнялась, как тогда варварски считалось, «живыми инструментами» — рабами. Их воспринимали именно как средство производства: лишенное субъектности, прав и ответственности.
В античных рабовладельческих обществах, например в Афинах классического периода или в Римской республике, наличие рабского труда не означало бездеятельности свободного населения. Напротив, освобождение от рутинного и тяжелого труда создавало пространство для иной работы. Свободные граждане занимались политикой, военным делом, философией, правом, управлением, образованием и наукой. Именно в таких условиях возникли афинская демократия, римское право и античная философия.
Если перенести эту модель в будущее, где роль рабов выполняют алгоритмы с ИИ, аналогия становится достаточно прозрачной. Машины будут выполнять большую часть операционного и вычислительного труда: обрабатывать данные, оптимизировать процессы, поддерживать инфраструктуру, моделировать сценарии и производить интеллектуальные заготовки. Они станут фоном, на котором разворачивается человеческая деятельность, а не ее заменой.
Как и в античности, ключевые функции останутся за людьми. В рабовладельческих обществах рабы не участвовали в политическом управлении, не командовали армиями и не осуществляли суд — не потому, что были физически неспособны, а потому, что не несли ответственности. Ответственность всегда предполагает субъекта, которому можно вменить вину и от которого можно потребовать отчета. Тот же принцип, вероятно, будет действовать и в отношении ИИ: системы могут рекомендовать, анализировать и прогнозировать, но принятие окончательных решений, особенно в вопросах насилия, права и управления, останется за человеком.
Работа людей в таком мире будет сосредоточена не на исполнении, а на целеполагании и интерпретации. Человек будет формулировать задачи, определять допустимые границы решений, оценивать последствия и брать на себя ответственность за выбор.
На практике такое сотрудничество уже складывается: редакторы используют языковые модели как инструмент фактчекинга и поиска альтернативных источников, но финальные правки, расстановка акцентов и ответственность за смысл остаются за человеком. В исследованиях ИИ помогает генерировать первичные гипотезы и изучать работы на схожую тематику, тогда как исследователь решает, какими из них воспользоваться. Программист пишет код и поддерживает логику алгоритма, а ИИ помогает находить ошибки, указывает на слабые места и предлагает варианты улучшения, тогда как решение о том, какие изменения вносить и как они повлияют на систему, остается за разработчиком.
Будущее с искусственным сверхинструментом — это, вероятно, не мир, в котором человек вытесняется, а мир, в котором от него требуется больше. Больше способности к абстрактному мышлению и больше ответственности за принимаемые решения. Именно поэтому уже сейчас, входя в это еще только формирующееся будущее, важно сохранять за собой роль главного субъекта труда. Использовать искусственный интеллект как инструмент, а не как замену мышления, не превращая общее интеллектуальное пространство в нагромождение автоматически сгенерированного, лишенного смысла контента.
