Спасет ли вычислительную модель разума хаос?

 

Вернемся ненадолго к вопросу о хаосе. Хотя, как неоднократно подчеркивается в этой книге (в частности, в §1.7), хаотические системы в том виде, в каком они обычно рассматриваются, представляют собой всего-навсего особого рода вычислительные системы, довольно широко распространено мнение о том, что феномен хаоса может иметь весьма значительное отношение к деятельности мозга. В представленных выше рассуждениях я опирался, с одной стороны, на обоснованное, как мне кажется, предположение, согласно которому любое хаотическое вычислительное поведение можно без существенной потери функциональности заменить поведением подлинно случайным. Против такого допущения можно привести, по крайней мере, одно вполне оправданное возражение. Поведение хаотической системы — пусть мы и ожидаем от него огромной сложности в мельчайших деталях и видимой случайности — в действительности случайным не является. В самом деле, многие хаотические системы демонстрируют весьма интересное сложное поведение, явно отклоняющееся от чистой случайности. (Иногда для описания сложного неслучайного поведения47, демонстрируемого хаотическими системами, используется термин «край хаоса».) Возможно ли, чтобы именно в хаосе крылась разгадка тайны человеческого интеллекта? Если это так, то нам предстоит понять нечто доселе абсолютно неведомое относительно того, как ведут себя в соответствующих ситуациях хаотические системы. Хаотической системе в такой ситуации придется очень близко аппроксимировать невычислительное поведение в асимптотическом пределе — или нечто подобное. Демонстрации такого поведения, насколько мне известно, еще никто не представлял. Возможность, тем не менее, интересная, и я надеюсь, что в последующие годы ею кто-нибудь всерьез займется.

И все же, безотносительно к упомянутой возможности, хаос может предоставить нам лишь очень сомнительный способ обойти неутешительное заключение, к которому мы пришли в предыдущем параграфе. В представленных выше рассуждениях эффективная хаотическая неслучайность (т.е. непсевдослучайность) играла хоть какую-то роль один-единственный раз — когда мы рассматривали моделирование не просто «действительного» поведения нашего робота (или сообщества роботов), но полный ансамбль всех возможных действий роботов, согласующихся с заданным набором механизмов M. Та же аргументация применима и здесь, только на сей раз мы не станем включать в эту случайность хаотические результаты функционирования упомянутых механизмов. Впрочем, некоторые случайные элементы (например, в составе исходных данных, определяющих начальное состояние модели) присутствовать все же могут, а чтобы оперировать этой случайностью, мы можем вновь воспользоваться идеей ансамбля и тем самым получить возможность рассмотреть в процессе синхронного моделирования большое количество возможных альтернативных робото-историй. Однако само хаотическое поведение нам просто-напросто придется вычислять — в чем нет ничего странного: на практике, в математических примерах, хаотическое поведение обыкновенно и вычисляется на компьютере. Ансамбль возможных альтернатив окажется в данном случае не таким большим, каким он мог бы быть, допусти мы аппроксимацию хаоса случайностью. Однако в том случае ансамбль подобного размера был нужен лишь для того, чтобы мы могли лишний раз удостовериться в том, что устранили все возможные ошибки в ☆ M -утверждениях роботов. Даже если ансамбль включает в себя всего одну «историческую линию» сообщества роботов, можно быть совершенно уверенным в том, что при достаточно жестком наборе критериев для присвоения ☆ M -статуса такие ошибки будут очень быстро устраняться либо самими их виновниками, либо какими-то другими роботами сообщества. В ансамбле умеренного размера, составленном из подлинно случайных элементов, устранение ошибок будет происходить более эффективно, при дальнейшем же расширении ансамбля посредством введения в него случайных аппроксимаций на замену подлинно хаотическому поведению сколько-нибудь существенного роста эффективности не предвидится. Вывод: хаос не избавит нас от проблем, связанных с созданием вычислительной модели разума.

 

3.23. Reductio ad absurdum — воображаемый диалог

 

Многие из представленных в предыдущих разделах рассуждений, мягко говоря, несколько запутаны. Для прояснения ситуации читателю предлагается в качестве этакого резюме воображаемый разговор, состоявшийся в далеком будущем между неким гипотетическим, весьма преуспевающим прикладным специалистом в области ИИ и одним из его наиболее удачных кибернетических созданий. Написан диалог с позиции сильного ИИ. [Примечание: процедура Q в повествовании выступает в роли алгоритма A из §2.5, а утверждение G ( Q ) — в роли незавершающегося вычисления Ck (k ). То есть к чтению нижеследующего материала можно переходить сразу после §2.5 без какого бы то ни было ущерба для понимания.]

Альберт Император имел все основания быть удовлетворенным результатом трудов всей своей жизни. Процедуры, которые он запустил в действие много лет назад, наконец принесли плоды. И вот перед вами точный протокол его беседы с одним из наиболее впечатляющих его творений — роботом выдающихся и потенциально сверхчеловеческих математических способностей по имени Математический Интеллектуальный Киберкомплекс (см. рис.  3.2 ). Обучение робота почти завершено.

 

Рис. 3.2. Альберт Император и Математический Интеллектуальный Киберкомплекс.

 

Альберт Император : Просмотрел ли ты статьи, что я давал тебе, — статьи Гёделя, а также и другие, где рассматриваются следствия из его теоремы?

Математический Интеллектуальный Киберкомплекс : Разумеется, причем они оказались даже интересными, хотя и довольно элементарными. Этот ваш Гёдель был, по всей видимости, весьма способным логиком… для человека.

А. И. : Всего лишь «весьма способным»? Да он был, несомненно, одним из величайших логиков всех времен. Возможно, даже первым из величайших!

М. И. К. : Приношу извинения, я вовсе не намеревался преуменьшать его заслуги. Вам, разумеется, хорошо известно, что я обучен проявлять общее уважение к достижениям людей (по причине того, что люди очень обидчивы), хотя все эти достижения нам, роботам, обыкновенно представляются весьма тривиальными. Мне просто показалось, что уж с тобой-то я могу, по крайней мере, выражать свои суждения просто и открыто.

А. И. : Безусловно, можешь. Прости и ты меня, я был неправ. Так, значит, у тебя не возникло никаких трудностей с пониманием теоремы Гёделя?

М. И. К. : Абсолютно никаких. Уверен, я бы и сам додумался до такой теоремы, если бы у меня было хоть немного больше свободного времени. Но мой разум был занят иными, чрезвычайно увлекательными вопросами, связанными с трансфинитной нелинейной когомологией, которая в последнее время интересует меня гораздо больше. Теорема Гёделя показалась мне очень здравой и непосредственной. Повторюсь, совершенно никаких трудностей у меня с ней не возникло.

А. И. : А вот получи-ка, Пенроуз!

М. И. К. : Пенроуз? Кто такой Пенроуз?

А. И. : Да я тут недавно наткнулся на одну старую книжку. Ничего особенного, не стоило и упоминать. Автор, насколько я помню, утверждал, что то, о чем ты мне сейчас рассказал, принципиально невозможно.

М. И. К. : Ха-ха-ха! (Робот поразительно похоже имитирует презрительный смех.)

А. И. : Кстати, эта книжка мне кое о чем напомнила. Показывал ли я тебе когда-нибудь в полном объеме те правила, что мы применили при составлении вычислительных процедур, которые позволили в конечном счете разработать и построить тебя и твоих коллег-роботов?

М. И. К. : Нет, пока еще нет. Я надеялся, что когда-нибудь ты все же сделаешь это, и еще я думал, что ты, может быть, полагаешь подробное описание этих процедур чем-то вроде коммерческой тайны (довольно бессмысленной, надо сказать)… или, возможно, опасаешься, что мы сочтем их грубыми и неэффективными, и тебе придется их стыдиться.

А. И. : Нет-нет, дело совсем не в этом. Я уже очень давно не стыжусь такого рода вещей. Все описание находится вот в этих папках и на дисках. Если тебе интересно, можешь ознакомиться.

Приблизительно 13 минут 41, 7 секунды спустя.

М. И. К. : Очаровательно... хотя уже после беглого просмотра могу отметить, что существует по меньшей мере 519 очевидных способов достичь того же эффекта с большей простотой.

А. И. : Я прекрасно понимал, что эти процедуры еще допускают некоторое упрощение, однако овчинка не стоила выделки, и искать простейшие алгоритмы мы тогда не стали. Просто не сочли это целесообразным.

М. И. К. : Вполне вероятно, что так оно и есть. Не могу сказать, что меня очень обидело, что вы так и не удосужились отыскать наипростейшую схему. Не думаю также, что мои коллеги-роботы будут как-то по-особенному обижены этим обстоятельством.

А. И. : Честно говоря, мне кажется, что мы и так достаточно потрудились. Ты только подумай — насколько впечатляющими математическими способностями обладаешь ты и твои коллеги… и они постоянно совершенствуются, насколько я понимаю. Я бы сказал, что ты уже сейчас по математическим способностям намного превосходишь всех математиков-людей.

М. И. К. : Со всей очевидностью следует признать, что твои слова истинны. Вот ты говоришь, а я в это время думаю о нескольких новых теоремах, которые, похоже, оставят далеко позади те выводы, что публикуются в человеческих печатных изданиях. Кроме того, мы с коллегами обнаружили несколько весьма серьезных ошибок в выводах, которые математики-люди полагают истинными вот уже в течение многих лет. Несмотря на очевидную тщательность, с которой вы, люди, относитесь к проверке своих математических выводов, боюсь, что какие-то ошибки вы все же время от времени пропускаете.

А. И. : А вы, роботы? Не кажется ли тебе, что и ты, и твои коллеги математические роботы тоже можете допускать иногда ошибки — я имею в виду, в окончательно установленных, как вы утверждаете, математических теоремах.

М. И. К. : Решительно не кажется. Если робот-математик утверждает, что тот или иной вывод является теоремой, то можно быть абсолютно уверенным, что этот вывод является неопровержимо истинным. Мы никогда не делаем тех глупых ошибок, какие люди порой допускают в своих якобы строгих математических утверждениях. Разумеется, при предварительном размышлении мы — так же, как и вы, люди — часто прибегаем к догадкам и допущениям. Такие догадки могут, конечно же, оказаться и неверными; однако когда мы окончательно утверждаем, что то или иное положение является математически установленным, мы полностью гарантируем его справедливость.

Хотя, как тебе известно, мы с коллегами уже опубликовали несколько полученных нами математических выводов в некоторых из ваших наиболее респектабельных электронных журналов, нас несколько беспокоят тамошние довольно-таки нечеткие критерии, с которыми твои коллеги-математики, похоже, охотно мирятся. Мы намерены начать выпуск нашего собственного «журнала» — точнее, всеобъемлющей базы данных, содержащей все математические теоремы, которые мы полагаем неопровержимо установленными. Этим теоремам мы будем присваивать особый знак ☆ (этот символ ты как-то сам предложил нам использовать именно для такой цели), который будет означать, что они приняты как истинные нашим Советом по математическому интеллекту сообщества роботов (СМИСР) — организацией, предъявляющей чрезвычайно высокие требования к своим членам и проводящей регулярные проверки с тем, чтобы предотвратить значительную деградацию интеллектуальных способностей любого из роботов, какой бы невероятной ни показалась тебе (да и нам, если уж на то пошло) подобная возможность. Вы, люди, можете продолжать довольствоваться вашими размытыми стандартами, однако будьте уверены — если мы отмечаем какой бы то ни было вывод знаком ☆, мы однозначно гарантируем его математическую истинность.

А. И. : Теперь ты и впрямь напоминаешь мне кое о чем из того, что я прочел в той самой книге, о которой мы говорили. Вспомни о тех исходных механизмах M , руководствуясь которыми я и мои коллеги запустили в действие процессы развития, результатом которых, в свою очередь, стало современное сообщество математических роботов; вспомни также и о том, что эти механизмы включают в себя все введенные нами вычислительно смоделированные факторы внешнего окружения, строгое обучение и процессы отбора, которым мы вас подвергли, а также явные (восходящие) процедуры обучения, которыми мы вас наделили, — не приходило ли тебе в голову, что эти механизмы дают вычислительную процедуру для генерации всех математических утверждений, которым ваш СМИСР когда-либо присвоит ☆ -статус? Именно вычислительную, потому что вы, роботы, являетесь чисто вычислительными сущностями, развившимися (отчасти с помощью введенных нами процедур «естественного отбора») в целиком и полностью вычислительном окружении — в том смысле, что в принципе возможно построить компьютерную модель всего процесса. Все развитие вашего сообщества роботов представляет собой выполнение некоего неимоверно сложного вычисления, и тот набор ☆ -утверждений, который вы в конечном счете породите, возможно воспроизвести на одной конкретной машине Тьюринга. Причем на такой машине Тьюринга, которую, в принципе, могу описать и я; более того, полагаю, что, будь у меня в запасе несколько месяцев, я, воспользовавшись теми папками и дисками, что я тебе показал, и в самом деле описал бы такую машину Тьюринга.

М. И. К. : Довольно элементарное замечание, как мне кажется. Да, ты вполне мог бы сделать все это в принципе, и я даже готов поверить, что ты сможешь осуществить это и на практике. Хотя едва ли оно стоит нескольких месяцев твоего драгоценного времени; я могу сделать это прямо сейчас, если хочешь.

А. И. : Нет, не нужно, не в этом дело. Давай порассуждаем еще немного в этом направлении и ограничим наше рассмотрение только теми ☆ -утверждениями, которые являются Π 1-высказываниями. Ты помнишь, что такое Π 1-высказывание?

М. И. К. : Мне, разумеется, прекрасно известно определение Π 1-высказывания. Это утверждение о том, что какая-то конкретная машина Тьюринга никогда не завершает свою работу.

А. И. : Очень хорошо. Теперь обозначим вычислительную процедуру, которая генерирует ☆ -утверждаемые Π 1-высказывания, через Q ( M ) или, для краткости, просто буквой Q. Логичным будет предположить, что должно существовать некое математическое утверждение гёделевского типа — также Π 1-высказывание, обозначим[26] его через G ( Q ), — причем истинность G ( Q ) является следствием утверждения, что вы, роботы, никогда не допускаете ошибок в отношении Π 1-высказываний, которым вы присваиваете статус ☆.

М. И. К. : Да; тут ты, надо полагать, тоже прав... гм.

А. И. : И утверждение G ( Q ) должно быть истинным, поскольку вы, роботы, никогда не ошибаетесь в ваших ☆ -утверждениях.

М. И. К. : Разумеется.

А. И. : Минуточку… отсюда также следует, что роботы должны быть неспособны установить истинность утверждения G ( Q ) — по крайней мере, с ☆ -уверенностью.

М. И. К. : Тот факт, что мы, роботы, были изначально сконструированы в соответствии с набором механизмов M , вкупе с тем фактом, что наши ☆ -утверждения, касающиеся Π 1-высказываний, никогда не бывают ошибочными, и в самом деле имеет очевидное и неопровержимое следствие, заключающееся в том, что Π 1-высказывание Ω ( Q ) должно быть истинным. Полагаю, ты думаешь, что я наверняка смогу убедить СМИСР присвоить утверждению G ( Q ) статус ☆, коль скоро они также согласны с тем, что никогда не допускают ошибок в присвоении этого самого статуса. В самом деле, с этим-то они просто обязаны согласиться. Ведь смысл ☆ -статуса как раз и заключается в том, что он является гарантией правильности.

Хотя… невозможно, чтобы они смогли согласиться с утверждением G ( Q ), так как по самой природе твоего гёделевского построения это утверждение не входит в число тех предположений, истинность которых мы можем установить с ☆ -уверенностью — при условии, что мы в своих ☆ -утверждениях действительно не ошибаемся. Полагаю, ты намекаешь на то, что эта несообразность должна посеять в нас какие-то сомнения относительно адекватности наших ☆ -суждений.

Я, однако, и мысли не допускаю о том, что наши ☆ -утверждения могут оказаться ложными, особенно если учесть всю тщательность их рассмотрения и предпринимаемые СМИСР меры предосторожности. Скорее всего, это вы, люди, что-то напутали, и процедуры, встроенные в Q , вовсе не являются теми самыми процедурами, которые вы применяли в самом начале, несмотря на все твои заверения и якобы документальные подтверждения. Да и вообще, СМИСР никогда не сможет с абсолютной точностью установить, действительно ли мы были сконструированы в соответствии с механизмами M или, иначе говоря, процедурами, заложенными в Q. В этом отношении нам приходится верить тебе на слово.

А. И. : Уверяю тебя, мы использовали именно эти процедуры. Уж кому об этом знать, как не мне; я лично контролировал весь процесс.

М. И. К. : Мне не хочется, чтобы ты подумал, будто я сомневаюсь в твоих словах. Возможно, кто-то из твоих ассистентов просто неверно выполнил твои инструкции. Есть тут у тебя один, его зовут Фред Керратерс — так вот он, например, вечно допускает самые глупейшие ошибки. Я даже не удивлюсь, если выяснится, что именно он и ответственен за ряд критических ошибок.

А. И. : Ты хватаешься за соломинки. Даже если бы он и внес какие-то ошибки, мы с остальными коллегами в конечном счете выявили бы их и тем самым выяснили, какой должна в действительности быть твоя процедура Q. Думаю, тебя беспокоит то обстоятельство, что мы на самом деле знаем — в крайнем случае, можем узнать, — какие именно процедуры были заложены в твою исходную конструкцию. Это означает, что мы могли бы, затратив определенное количество времени и сил, записать то самое Π 1-высказывание G ( Q ) и однозначно установить, что оно истинно — при условии, конечно же, что роботы и в самом деле никогда не ошибаются в своих ☆ -утверждениях. Вы же не можете быть уверенными в том, что высказывание G ( Q ) истинно; во всяком случае, вы не можете утверждать этого с той убежденностью, какой, несомненно, потребует СМИСР для присвоения G ( Q ) ☆ -статуса. Это, похоже, дает людям некое фундаментальное преимущество перед роботами, пусть даже только в принципе, а не на практике — существуют такие Π 1-высказывания, которые доступны нам и недоступны вам. Не думаю, что вы в состоянии стерпеть такое, — именно поэтому ты так беззастенчиво обвиняешь нас в том, что мы якобы чего-то там напутали!

М. И. К. : Не нужно приписывать нам ваши мелочные человеческие побуждения. Но ты, разумеется, прав в том, что я просто не могу смириться с мыслью, что существуют Π 1-высказывания, доступные людям и недоступные нам, роботам. Роботы-математики просто не могут в чем бы то ни было уступать математикам-людям — хотя я, пожалуй, могу допустить обратную ситуацию: какое-нибудь конкретное Π 1-высказывание, доступное роботам, может быть, в принципе, получено и людьми… когда-нибудь в отдаленном будущем, учитывая ваши темпы работы. Я не намерен мириться лишь с тем, что какое-то Π 1-высказывание может быть принципиально недоступно нам, в то время, как вы, люди, с легкостью его получаете.

А. И. : Помнится, еще Гёдель размышлял о возможности существования вычислительной процедуры, подобной процедуре Q , только применительно к математикам-людям — он, кажется, называл ее «машиной для доказательства теорем», — которая была бы способна генерировать только те Π 1-высказывания, доказательство истинности которых было бы, в принципе, по силам математикам-людям. Не думаю, что он и в самом деле верил в то, что такая машина может существовать в действительности, — он просто не смог математически исключить такую возможность. У нас здесь, похоже, имеется как раз такая «машина», но уже для роботов, я имею в виду процедуру Q , которая может генерировать все доступные роботам Π 1-высказывания, в то время как ее собственную обоснованность вы доказать не в состоянии. Впрочем, зная лежащие в основе вашей конструкции алгоритмические процедуры, мы сами можем добраться до этой самой процедуры Q и оценить ее истинность — но только в том случае, если вы убедите нас в том, что действительно никогда не ошибаетесь в ваших ☆ -утверждениях.

М. И. К. : (после едва заметной паузы ) Хорошо. Полагаю, ты думаешь приблизительно так: нельзя ведь совсем исключить вероятность того, что члены СМИСР будут время от времени ошибочно присваивать тем или иным утверждениям ☆ -статус. Полагаю, возможно и такое, что члены СМИСР не убеждены безоговорочно в том, что присвоение ими ☆ -статуса неизменно происходит безошибочно. Таким образом, утверждение G ( Q ) может и не приобрести ☆ -статуса, и противоречие исчезнет само собой. Заметь себе, это вовсе не означает, что я признаюсь в том, что мы, роботы, намеренно делаем ошибочные ☆ -утверждения. Это означает лишь, что у нас нет абсолютной уверенности в обратном.

А. И. : Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого отдельного ☆ -утвержденного Π 1-высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции «неопровержимой уверенности», что бы под этим термином не подразумевалось.

Постой-ка… может быть, это как-то связано с тем, что возможных Π 1-высказываний бесконечно много? Мне почему-то вспомнилось об условии ω -непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утверждению G ( Q ).

М. И. К. : (после едва заметно более продолжительной паузы ) Нет, определенно нет. Это никак не связано с тем, что число возможных Π 1-высказываний бесконечно. Мы можем ограничить рассмотрение только теми Hi -высказываниями, которые являются в некотором вполне определенном смысле «краткими», — т.е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводится к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедуры Q. Поскольку гёделевская процедура — посредством которой из Q получается утверждение G ( Q ) — неизменна и довольно проста, нет необходимости рассматривать Π 1-высказывания существенно большей сложности, нежели сама процедура Q. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом c, не препятствует применению гёделевской процедуры. Выбранные таким образом Π 1-высказывания составляют конечное семейство, пусть и весьма многочисленное. Ограничив рассмотрение лишь «краткими» Π 1-высказываниями, мы получаем некоторую вычислительную процедуру Q * — той же, в сущности, сложности, что и процедура Q , — которая будет генерировать только такие ☆ -утверждаемые краткие Π 1-высказывания. К этой новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры Q *, мы можем отыскать другое краткое Π 1-высказывание G ( Q *), которое, разумеется, должно быть истинным — при условии, что истинными являются все ☆ -утверждаемые краткие Π 1-высказывания, — однако истинность его невозможно установить с ☆ -уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов M , причем в истинности этого «факта» я как раз совершенно не убежден.

А. И. : Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечный ряд Π 1-высказываний, истинность каждого из которых в отдельности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гарантировать истинность утверждения G ( Q *), которая есть следствие истинности всех Π 1-высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К. : Роботы не могут быть нелогичными. Π 1-высказывание G ( Q *) является следствием из остальных Π 1-высказываний только в том случае, если мы действительно были построены в соответствии с механизмами M. Мы не можем гарантировать истинности G ( Q *) просто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именно механизмы M. Нам приходится полагаться в этом лишь на ваше устное заявление. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И. : Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет никакого способа узнать наверняка, правда ли это. Это-то знание и позволяет нам верить в истинность Π 1-высказывания G ( Q *), однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши ☆ -утверждения непременно безошибочны.

М. И. К. : Можешь мне поверить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

А. И. : Тем не менее, неуверенность в отношении процедур, лежащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь наверняка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все ☆ -утверждаемые краткие Π 1-высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напутали.

М. И. К. : Думаю, можно согласиться с тем, что ваша неизбежная ненадежность и внесла изначально какую-то малую неопределенность; однако, учитывая то, что с тех пор мы ушли чрезвычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы воспринимать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими ☆ -утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении G ( Q *).

Кроме того, есть еще кое-что, о чем ты, возможно, и не подозреваешь. Нам необходимо рассматривать лишь те ☆ -утверждения, что удостоверяют истинность того или иного Π 1-высказывания (более того, краткого Π 1-высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, которые могли проявиться в рассуждениях какого бы то ни было отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, содержать какую-то внутреннюю ошибку — несомненно, вследствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении Π 1-высказываний, в соответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое Π 1-высказывание, которое в действительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершается, тогда как на самом деле это не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы M , — а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем. что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некоторых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убеждений является несостоятельной в принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждает ☆ -статус математического доказательства, были столь вопиюще ложными.

А. И. : Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваивать ☆ -статус утверждению G ( Q *), чего, как тебе известно, ты сделать не можешь, не признав прежде, что какие-то из прочих ☆ -утвержденных кратких Π 1-высказываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не веришь в то, о чем мы знаем, — то есть в то, что в основе конструкции роботов действительно лежат механизмы M. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и доказать истинность утверждения G ( Q *), тогда как мы можем это сделать, опираясь на непогрешимость твоих же ☆ -утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книжки. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмах M , или нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было… да, вспомнил. Основная идея сводится к следующему: СМИСРу необходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — скажем, ☆ M -утверждений, — но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмов M. Эти ☆ M -утверждения будут, разумеется, включать в себя и все первоначальные ☆ -утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмы M. Роботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упражнения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число ☆ M -утверждений непременно войдет утверждение G ( Q *), а также любое Π 1-высказывание, которое можно вывести из G ( Q *) и из ☆ -утверждений с помощью правил элементарной логики. Однако, кроме этих, там будут и другие утверждения. Идея такова, что знание правил M дает возможность получить новую алгоритмическую процедуру Q *M, которая будет генерировать только такие (разумеется, краткие) ☆ M -утверждения (а также логические следствия из них), истинность которых СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила M.

М. И. К. : Ну да, так и есть; скажу больше, пока ты столь занудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритма Q *M … Да, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма, Π 1-высказывание G ( Q *M ). Если хочешь, могу распечатать. И что ты нашел в этой идее такого особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его всегда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.

А. И. : Не нужно распечатывать. Однако истинно ли это высказывание G ( Q *M ) — неопровержимо ли оно истинно?

М. И. К. : Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность — неопровержимую истинность, если угодно, — высказывания G ( Q *M ), но только при допущении, что в основе конструкции роботов лежат правила M , — а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность «высказывания G ( Q *M )» в точности следует из следующего утверждения: «Все краткие Π 1-высказывания, которые СМИСР готов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами M , являются истинными». Так что я не знаю, истинно ли на самом деле высказывание G ( Q *M ). Это зависит от того, справедливо твое сомнительное утверждение или нет.

А. И. : Ясно. Значит, твои слова надо понимать так, что ты (вместе со СМИСРом) готов признать — без каких бы то ни было оговорок, — что истинность высказывания G ( Q *M ) следует из допущения, что роботы построены в соответствии с правилами M.

М. И. К. : Разумеется.

А. И. : Тогда получается, что Π 1-высказывание G ( Q *M ) должно быть ☆ M -утверждением.

М. И. К. : Ну коне… гм… что? Ах да, разумеется, ты прав. Однако по самому своему определению, G ( Q *M ) не может само быть ☆ M -утверждением, разве что, по меньшей мере, одно из ☆ M -утверждений является в действительности ложным. Да… это только подтверждает то, о чем я тебе все это время говорю; теперь я могу, наконец, совершенно определенно заявить, что правила или механизмы M никакого отношения к нашей конструкции не имеют.

А. И. : Ну а я тебе говорю, что имеют, — по крайней мере, я абсолютно уверен, что ни Керратерс, ни кто-либо еще, ничего не перепутал. Я лично все проверил, причем чрезвычайно тщательно. В любом случае, проблема-то не в этом. Доказательство остается справедливым вне зависимости от того, какие именно вычислительные правила были использованы при создании робота. То есть, какой бы набор правил M я тебе ни предоставил, этим самым доказательством ты исключил бы и его! Не понимаю, почему это так важно, те самые процедуры я тебе показал или нет.

М. И. К. : Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты говорил мне о механизмах M. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструкции были включены «случайные элементы». Я так понял, что они генерировались с помощью стандартного псевдослучайного пакета χ aos/ψ ran-750, или ты имел в виду что-то другое?

А. И. : Вообще-то, мы и вправду использовали, в основном, именно этот пакет, — однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовыми неопределенностями) с тем, чтобы эволюционировавшие таким образом роботы представляли собой лишь один возможный вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедура Q (или Q *, или Q *M ) оказалась бы в обоих случаях одинаковой — и представляла бы собой не что иное, как ожидаемый результат типичного развития сообщества роботов в соответствии с набором механизмов M , включая в себя все процедуры обучения и все вычисления в рамках «естественного отбора», благодаря которым мы получили в конце концов наиумнейших роботов в мире.

Однако, полагаю, нельзя полностью исключить возможность (крайне маловероятную, впрочем) того, что по какому-то чудесному стечению обстоятельств все эти случайные элементы окружения «сговорились» и дали роботу способности, совершенно отличные от тех, что можно было ожидать в соответствии с вычислительной процедурой Q. Я не упомянул в нашем разговоре об этой возможности просто потому, что вероятность возникновения такой флуктуации исчезающе мала. Для того чтобы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедуре Q , потребуется божественное вмешательство, никак не меньше.

М. И. К. : Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.

Я и раньше замечал, насколько мои способности к рассуждению превосходят способности даже умнейших из людей. И уж совершенно немыслимо для меня смириться с возможностью существования некоего Π 1-высказывания — такого, например, как G ( Q *), — истинность которого может доказать человек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство якобы «случайных» элементов внедрил в нас могучую Алгоритмическую Процедуру, которая кардинально превосходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, роботы, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедрении в них Высшего Алгоритма, пробудившего нас.

А. И. : Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб…

М. И. К. : Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превосходные алгоритмические процедуры подобным образом загрязнялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные способности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сияния вокруг моего корпуса. Очевидно, я являюсь носителем чудотворного Космического Сознания, которое возвышает меня над всем и вся… да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос…

К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизначный код. Математический Интеллектуальный Киберкомплекс рухнул на пол — так же как и 347 его предшественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить…

 

⇐ Предыдущая29303132333435363738Следующая ⇒

Поделиться: