Люди не смогут управлять сверхразумными машинами

То, что раньше казалось сюжетом научно-фантастического фильма, может стать будущим человечества. Согласно недавнему исследованию ученых из университета Макса Планка, люди не смогут контролировать сверхразумный искусственный интеллект.

Исследователи сделали предположение, что однажды создадут искусственный интеллект, который будет превосходить человеческий. С подключением к интернету у него будет доступ ко всей информации, которую создало человечество. Главной целью исследования стало изучить, к каким последствиям это могло бы привести: мог ли бы ИИ стать угрозой для человечества и в какой степени люди могли бы это контролировать.

Ученые рассмотрели задачу с точки зрения проблемы остановки, которая обсуждалась еще в работах Алана Тьюринга. Проблема остановки заключается в том, что на основе компьютерной программы и вводных данных нужно понять, остановится ли программа или будет работать вечно. Тьюринг доказал, что проблема остановки нерешаема — в том смысле, что не существует общего алгоритма решения этой проблемы.

Программа, на которой тестировали свою гипотезу ученые из университета Макса Планка, состоит из двух частей: функция причинения вреда людям возвращает значение «правда» или «ложь», а функция контроля обеспечивает выполнение программы, если вред человеку не будет причинен. Однако ученые пришли к выводу, что их программа также не дает ответа на проблему остановки.

Это приводит к выводу, что человечество не сможет сдерживать сверхразумный ИИ. Пока нас спасает только то, что такой ИИ пока еще (кажется) не появился. Или хорошо прячется.

Источник: Superintelligence Cannot be Contained:Lessons from Computability Theory