Преподаватели программы цифровых гуманитарных исследований ИТМО Гавриил Беляк и Полина Колозариди по предложению редактора этого блога Вики спросили GPT о том, как технологии AI меняют цифровую гуманитаристику (DH) и обсудили её ответ. Заодно поговорили о ней самой и о других сюжетах, связанных с созданием программы по DH сегодня.
Artificial intelligence (AI) has the potential to revolutionize digital humanities (DH) by enabling more efficient and sophisticated analysis of large datasets, as well as facilitating new forms of collaboration and interpretation. However, the integration of AI into DH raises a number of important questions and challenges that must be addressed. One key issue is the potential for bias and error in AI algorithms, which can have significant implications for research and analysis in DH. As such, it will be important for DH practitioners to carefully evaluate and test these algorithms, as well as to develop new methodologies for incorporating human expertise and judgment into the AI-based analysis. Another challenge is the potential for AI to automate certain aspects of DH work, such as data processing and visualization, which may lead to the displacement of human labor. To address this, educational programs in DH should emphasize the importance of developing a range of skills, including critical thinking, communication, and collaboration, that cannot be easily replicated by AI. In addition, the integration of AI into DH raises important ethical and legal questions related to data privacy, intellectual property, and access to information. Educational programs in DH should therefore include training on these issues, as well as on the legal and ethical frameworks governing the use of AI in research. Overall, the integration of AI into DH represents both a significant opportunity and a significant challenge for the field. By addressing the key questions and challenges raised by this technology, DH practitioners and educators can help ensure that it is used in a responsible and ethical manner, and that its potential benefits are realized in ways that advance our understanding of human culture and society.*
ГБ: Ты правда предлагаешь это прокомментировать? То есть мы хотим самоутвердиться за счёт ещё толком не собранной нижней палаты парламента нечеловеков? Ну впрочем, конечно, а что делать? Мы должны сдать текст в журнал про тренды в DH. Нужно думать про метаданные и тег GPT нам, конечно, нужен.
ПК: Давай найдём способ, не выходя из понятной речи тухнущего капитализма, предложить другие ответы. Полистай любой текст средней руки на эти темы, и что ты там найдёшь, если не это? И в чём проблема этих утверждений, как ты её формулируешь?
ГБ: Не думаю, что все тексты средней руки, долженствующие попасть в тренд, написаны с установкой быть тривиальными, в отличие от текстов GPT, в которых по самому своему замыслу нет креативности (помимо той, которую вносит ваш запрос). Нет ортогонального измерения. Они всегда построены из заведомо закрытой системы, не способной к созданию новых продуктивных противоречий.
ПК: И почему вопросы к научной программе должны на это ориентироваться? Ведь к учебной программе у нас другие требования, чем к исследованию или произведению искусства. Вроде как, она должна формировать каноны, основания для самостоятельного действия, а не огульного познания на основе поисковых запросов. Поэтому мы обучаем студенток и студентов, а не машины.
ГБ: Конечно, но это вообще отдельная тема. Мы, кажется, хотели поговорить про GPT и про нашу научную программу. Должна ли она транслировать канон или прокладывать доступ к горизонту — это вопрос. Но дело не в этом. Пока мы это обсуждаем, GPT уже транслирует здравый смысл.
Новая среда, филологическая революция и DH
ПК: Получается, мы используем GPT для ответа на наши вопросы, чтобы увидеть тот самый усреднённый здравый смысл. Или ты хочешь, чтобы мы разобрались в той новизне, которую вносит участие обученных машин в образовательные программы и производство знания?
ГБ: Да, ведь в системе производства знания (да и вообще в производстве) GPT- как интерфейс — это глобальная филологическая революция. Риторика и композиция текста оказываются средством производства. Умение анализировать текст является эволюционным преимуществом в новой среде.
ПК: Давай разберёмся, что значит «новая среда», и кто в ней претерпевает, прости господи, эволюцию. Для этого попробуем понять, как инструменты вроде GPT, если предположить, что они уже являются частью учебной жизни, влияют на дисциплины с другими базовыми исследовательскими фигурами и языками?
Если усреднённый здравый смысл любой дисциплины выражен в языке, а он утверждён текстом (будь то статья или патент), то вопрос о главенстве дисциплины и о роли филологии адекватен. Например, Нильс Брюггер тоже пишет про филологию как царицу наук, но я вижу много доводов, которые это опровергают.
ГБ: Здесь важны не только язык дисциплин, но и устойчивые фигуры мышления, стоящие за ними. Чтобы создать трёхмерную визуализацию помещения, ещё вчера нужно было разложить пространство на формы, объекты, слои, иерархию слоев, определить цвета и текстуры. В этих рутинных для любого CG (Computer Generated) художника действиях используется множество модельных логик, осуществляемых каждым отдельным действием, и у каждого из них есть свой постав. Но уже следующее поколение профессиональных программ будет иметь поле для текстового промпта, где не будет необходимости создавать слои, а достаточно лишь описать словами конечный результат. Логика языкового описания подменит логику организации слоев.
Как модель можно создавать не только собирая из отдельных кусочков, но и срезая фрагменты целой формы, вжимая или растягивая её, так и разные дисциплины могут описывать один материал из разных модельных логик. Важно, что за этим стоят разные операционные действия, разные стратегии различения, способы организации порядка из хаоса. Гуманитарные науки склонны включать в себя рефлексию и критику своего метода и языка намного чаще, чем программирование или дизайн. Для этого у них есть канон.
Digital Humanities с этой способностью повезло меньше, и в этом смысле она влачит печальное наследство своей технической родни.
Социологу, производящему исследование в поле, легче соотнести конкретные способы произведения своей работы с тем же Дюркгеймом, чем современному гуманитарию, производящему визуализацию анализа корпуса текста — произвести рефлексию всех фигур различения, заложенных в конкретный инструмент и соотнести это, скажем, с историей математики или вычислительной техники, если пытаться найти здесь аналог канона (см. статью T Klein, где Digital Humanities наследует компьютерным наукам, а не дисциплинарным фигурам, обладающим традицией критики).
Появление командного интерфейса на естественном языке, интерпретирующего и производящего новое знание из common sense (а в случае подключения GPT к интернету так и есть), приводит к тому, что движущим принципом производства этого знания в нем оказывается не специально кодифицируемые формальные производственные языки (закрытые) (см. Лотман), а статистика \ узуса естественного языка, не соотносимые с концептуальной связанностью текста. И хотя с одной стороны это радикально уменьшает дистанцию между производителем и потребителем, это в то же время увеличивает ту дистанцию между исследователем и его инструментом о которой я говорил выше.
Язык наук VS практики и действия
ПК: Ты говоришь про язык наук. Но науки и их каноны скреплены не столько языком, сколько практиками, включая подспудные и порой нерефлексивные действия.
ГБ: Да, я совершенно согласен, но видишь ли, мой дисциплинарный перекос в сторону филологии заставляет меня видеть всё происходящим в языковом плане. А что до практик, то помнишь, в начале 2000-х Яндекс потратил кучу сил, чтобы научиться обрабатывать запрос: «дорогой Яндекс, как мне купить подешевле холодильник рядом с домом»? Но к тому времени, как это удалось, мы уже давно писали: «купить холодильник дешево СПб».
Интересно, что в случае с GPT мы видим симметричный процесс. В ответ на интерфейс на естественном языке мы для получения более точных результатов немедленно изобрели специальные приёмы, которые развились в целые языки и методологии промптов. Они уже могли бы стать предметом филологического изучения, потому что основной приём, используемый для детализации результата или обхода блокировок, связан с созданием условной или предполагаемой ситуации, мира, набора правил. В случае с GPT это объясняется тем, что именно такой запрос наиболее близок к логике обучения, лежащей в основе архитектуры сети.
Мы привыкли жить в ситуации, где у разных наук разные материалы, а ещё у них должны быть разные языки, пригодные к тому, чтобы программу можно было отличать от данных, от того, с чем она работает. И для программирования каждая дисциплина создаёт свой метаязык, и через него производится новое знание. И даже потенциально преодолев это требование, мы продолжаем воспроизводить инерцию его фигур.
Лотман в упомянутой выше статье писал, что для продуктивного взаимодействия язык и принцип организации искусственного интеллекта должны не уподобляться нашему, а наоборот, от него максимально отличаться, но даже подступившись к этому, мы продолжаем совершать то, что Лотман в той же статье описывает как ориентализм, стремление рациональности определить всё, не совпадающее со своей логикой, как иррациональное и переписать таким образом в собственных терминах.
ПК: Да, это проблема: для наук различение объекта и предмета, вопроса существует только внутри их практик, оно и формирует метод. И внутри — переплетены разные подходы, мы считаем, что именно так возникает всерьёз исследование, где вопрос задаётся не для того, чтобы спроектировать ответ. В случае цифровых наук это внутреннее содержание оказывается менее важным, а ключевыми становятся операции (см. Альварадо).
Но это не следствие внедрения технологий, а результат социальных изменений: увеличения масштаба образования и наук, проникновения «исследований» как необходимой составляющей политики, производства, культуры. Когда научные подходы натягивают на такой огромный масштаб практик высшего образования, внутренняя сложность размазывается и нам кажется, что она иссякает, становится набором операций. А тут ещё и GPT и иже с ними добавляют механизации познавательной работе. Получается, что меняется само соотношение внешнего и внутреннего, и той «среды», в которой нужны научные подходы — уже нет.
Тогда, для того, чтобы отстаивать возможность внутренней логики, парадокса, рефлексии, нам как будто приходится обращаться к этому романтическому различению наук, возникшему в специфических условиях европейского XIX века, который превращает теории — в науки и дисциплины. Но именно от них идёт тот процесс масштабирования, о котором я говорю. И поэтому мы говорим на конференции про «науки о духе». Но при этом мы пытаемся думать про учебные планы, где сейчас есть всё вместе: науки о духе и практики о цифре. Мы тоже производим это размазывание.
Критические вопросы, междисциплинария и поле
ГБ: Мы, принимая студентов, задаём требования к тому, чтобы у магистрантов были критические вопросы, исходящие или из поля, или из теории. Они могут исходить из вопросов к социальному явлению или объекту искусства; а могут задаваться статистикой или социологией.
ПК: С полем есть проблема. Современная междисциплинария как бы исходит от реальности, которую мы тут с тобой называем полем. Ну там, «необходимость в коммуникации между разными культурными основаниями». Или «производство автоматизированных способов распознавания чего угодно для решения социальных проблем».
Но оно формируется здравым смыслом, во многом исходящим из политического значения: будь то гендерные исследования или защита детей от интернета. И словосочетание «критические вопросы» обретает смысл в этом контексте, вовсе не научном.
Если так, то составляя учебную программу, мы уже можем иметь в виду, что предложит изучать GPT, и как её идеи помогут торжеству всего хорошего против всего плохого. Это уже есть, мы можем к этому как-то отнестись, но не пытаться играть в ту же игру.
Мы же работаем в университете не для того, чтобы тяжеловесным языком производить лишь подтверждения этим не всегда понятным исходным установкам, а меняться, узнавая что-то. Поэтому, работая с разными дисциплинами, удерживая и их историю с разработанными внутри способами рефлексии, и современность с операциями, нам приходится почти эквилибристическим трюком в своих учебных программах развивать чуткость.
ГБ: Мне кажется, что чуткость, о которой ты говоришь, это чуткость к настоящему, не к канону или дисциплинарной истории, но скорее к тому, как они сегодня складываются из суммы множественных исследований в общую картину. Ведь DH — это конечно не дисциплина, а только момент, только стадия в процессе взаимоизменения разных studies и disciplines.
Сейчас мы думаем, что главное, что определяет эту стадию, это имплементация инструментов точных наук в естественные науки, но это не значит, что из следующей точки все не будет выглядеть ровно наоборот.
И мне кажется, что только с такой установкой можно думать про учебную программу, сочетающую в себе трансляцию канона и ориентацию на движущийся горизонт настоящего.
Гуманистичность VS гуманитарность
ПК: Напоследок я думаю, в чём тут разница между чуткостью к внутреннему устройству и рефлексии наук и жестокостью, которая возникает в любом исследовании. Я имею в виду, что говоря про изменение наук, — мы как бы предлагаем студенткам изучать что-то, чтобы менять, взламывать.
В некотором смысле разменивать канон на горизонт (будущего, а не настоящего). А GPT делает нечто обратное — пытается сохранять, бесконечно впихивать будущее в уже существующие слова. Так что «гуманистичность» нашей программы тут начинает расходиться с «гуманитарностью».
Библиография
Alvarado, R. C. (2019). Digital Humanities and the Great Project: Why we should operationalize everything and study those who are doing so now. Debates in the Digital Humanities 2019, 75-82.
Brügger, N. (2016). Digital Humanities in the 21st Century: Digital Material as a Driving Force. DHQ: Digital Humanities Quarterly, 10(3).
Kleymann, R., Niekler, A., & Burghardt, M. (2022). Conceptual Forays: A Corpus-based Study of “Theory” in Digital Humanities Journals. Journal of Cultural Analytics, 7(4).
Koh, A. (2015). A letter to the humanities: DH will not save you. Hybrid Pedagogy, 19.
T Klein, J. (2015). Interdisciplining digital humanities: Boundary work in an emerging field (p. 219). University of Michigan Press.
Лотман, Ю. М. (1981). Мозг-текст — культура — искусственный интеллект. Семиотика и информатика.
*перевод ответа GPT, от которого мы отталкивались в диалоге:
Искусственный интеллект (ИИ) может революционизировать цифровые гуманитарные науки (DH), обеспечивая более эффективный и сложный анализ больших наборов данных, а также способствуя новым формам сотрудничества и интерпретации. Однако интеграция ИИ в DH поднимает ряд важных вопросов и проблем, которые необходимо решить. Одной из ключевых проблем является вероятность систематической ошибки и ошибок в алгоритмах ИИ, что может иметь серьезные последствия для исследований и анализа в DH. Таким образом, специалистам по DH будет важно тщательно оценить и протестировать эти алгоритмы, а также разработать новые методологии для включения человеческого опыта и суждений в анализ на основе ИИ. Еще одной проблемой является способность ИИ автоматизировать определенные аспекты работы DH, такие как обработка и визуализация данных, что может привести к замещению человеческого труда. Чтобы решить эту проблему, образовательные программы в DH должны подчеркивать важность развития ряда навыков, включая критическое мышление, общение и сотрудничество, которые не могут быть легко воспроизведены с помощью ИИ. Кроме того, интеграция ИИ в DH поднимает важные этические и юридические вопросы, связанные с конфиденциальностью данных, интеллектуальной собственностью и доступом к информации. Поэтому образовательные программы в DH должны включать обучение по этим вопросам, а также по правовым и этическим основам, регулирующим использование ИИ в исследованиях. В целом, интеграция ИИ в DH представляет собой как значительную возможность, так и серьезную проблему для этой области. Решая ключевые вопросы и проблемы, возникающие в связи с этой технологией, специалисты-практики и преподаватели DH могут помочь обеспечить ее ответственное и этичное использование, а также реализовать ее потенциальные преимущества таким образом, чтобы углубить наше понимание человеческой культуры и общества.
