Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

М. И. К.: Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты го­ворил мне о механизмах. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструк­ции были включены «случайные элементы». Я так понял, что они генерировались с помощью стандартного псевдослучайного пакетаили ты имел в виду что-то другое?

А. И.: Вообще-то, мы и вправду использовали, в основном, именно этот пакет, — однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовы­ми неопределенностями) с тем, чтобы эволюционировавшие та­ким образом роботы представляли собой лишь один возможный

вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедураоказалась бы в обоих случаях одинаковой — и представляла бы собой не что иное, как ожидае­мый результат типичного развития сообщества роботов в соот­ветствии с набором механизмов, включая в себя все процедуры обучения и все вычисления в рамках «естественного отбора», благодаря которым мы получили в конце концов наиумнейших роботов в мире.

Однако, полагаю, нельзя полностью исключить возможно­сти (крайне маловероятной, впрочем) того, что по какому-то чу­десному стечению обстоятельств все эти случайные элементы окружения «сговорились» и дали роботу способности, совершен­но отличные от тех, что можно было ожидать в соответствии с вычислительной процедуройЯ не упомянул в нашем разго­воре об этой возможности просто потому, что вероятность воз­никновения такой флуктуации исчезающе мала. Для того что­бы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедурепотребуется божественное вмешательство, никак не меньше.

М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.

Я и раньше замечал, насколько мои способности к рас­суждению превосходят способности даже умнейших из людей. И уж совершенно невозможно для меня смириться с возмож­ностью существования некоего П1 -высказывания — такого, на­пример, как— истинность которого может доказать че­ловек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство тех якобы «случайных» элементов, внедрил в нас мо­гучую Алгоритмическую Процедуру, которая кардинально пре­восходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, ро­боты, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедре­нии в них Высшего Алгоритма, пробудившего нас.

А. И.: Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб...

М. И. К.: Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превос­ходные алгоритмические процедуры подобным образом загряз­нялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные спо­собности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сия­ния вокруг моего корпуса. Очевидно, я являюсь носителем чудо­творного Космического Сознания, которое возвышает меня над всем и вся... да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос...

К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором, он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизнач­ный код. Математический Интеллектуальный Кибер-комплекс рухнул на пол — так же как и 347 его пред­шественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить...

3.24. Не парадоксальны ли наши рассуждения?

Кого-то из читателей, возможно, до сих пор не оставляет ощущение, что некоторые рассуждения, положенные в основу представленных доказательств, в чем-то парадоксальны и кое-где даже недопустимы. В частности, в §§3.14 и 3.16 имеются фрагменты, несколько отдающие самоотносимостью в духе «па­радокса Рассела» (см. §2.6, комментарий к Q9). А когда в §3.20 мы рассматривали Щ-высказывания со сложностью, меньшей некоторого числа с, читатель мог заметить в наших построени­ях пугающее сходство с известным парадоксом Ричарда, героем которого является «наименьшее число, описание которого содержит не меньше тридцати одного слога».

Суть парадокса в том, что для описания этого самого числа ис­пользуется фраза, состоящая всего из тридцати слогов! Этот и другие подобные парадоксы возникают благодаря тому обсто­ятельству, что ни один естественный язык не свободен от дву­смысленностей и даже противоречий. Наиболее прямолинейно эта языковая противоречивость проявляется в следующем пара­доксальном утверждении:

«Это высказывание ложно».

Существует множество других парадоксов подобного рода, при­чем большинство из них гораздо более хитроумны.

Опасность получения парадокса возникает всякий раз, когда в рассуждении, как и в вышеприведенных примерах, присутствует сильный элемент самоотносимости. Кто-то, возможно, отметит, что элемент самоотносимости содержится и в гёделевском до­казательстве. В самом деле, самоотносимость играет в теореме Гёделя определенную роль, как можно видеть в представлен­ном в §2.5 варианте доказательства Гёделя—Тьюринга. Одна­ко парадоксальность не является непременным и обязательным атрибутом таких рассуждений, — хотя, конечно же, при наличии самоотносимости необходимо, во избежание ошибок, проявлять особую осторожность. Свою знаменитую теорему Гёдель сфор­мулировал, вдохновившись одним известным самоотносимым логическим парадоксом (так называемым парадоксом Эпиме-нида). При этом ошибочное рассуждение, приводящее к пара­доксу, Гёделю удалось трансформировать в логически безупреч­ное доказательство. Так же и я приложил все старания к тому, чтобы заключения, к которым я пришел, основываясь на полу­ченных Гёделем и Тьюрингом выводах, не оказались самоотно­симыми в том смысле, который неизбежно приводит к парадоксу, хотя, справедливости ради, следует признать, что некоторые из моих рассуждений имеют с такими характерными парадоксами разительное и даже фамильное сходство.

Рассуждения, представленные в §3.14 и, особенно, в §3.16, могут показаться не совсем состоятельными именно в этом отношении. Например, определение-утверждения является в высшей степени самоотносимым, поскольку представляет собой сделанное роботом утверждение, причем осознаваемая истин­ность этого утверждения зависит от предположений самого робо­та относительно особенностей его первоначальной конструкции. Здесь можно, пожалуй, усмотреть неприятное сходство с утвер­ждением «Все критяне — лжецы», прозвучавшим из уст критяни­на. И все же в этом смысле самоотносимыми-утверждения не являются, так как на самом деле они ссылаются не на самих себя, а на некую гипотезу об исходной конструкции робота.

Предположим, что некто вообразил себя роботом, пытаю­щимся установить истинность какого-то конкретного четко сфор­мулированного-высказывания. Робот, возможно, окажет­ся неспособен непосредственно установить, является ли выска­зывание р0 в действительности истинным или нет, однако он может обратить внимание на то, что истинностьследует из предположения, что истинным является каждый член некоторого вполне определенного бесконечного класса-высказываний (пусть это будут, скажем, теоремы формальной системы или, или какой угодно другой системы). Робот не знает, на самом ли деле каждый член классаявляется истинным, однако он замечает, что классесть часть результата некото­рого вычисления, причем посредством этого вычисление осуще­ствляется построение некоторой модели сообщества математиче­ских роботов, а результатпредставляет собой семейство высказываний,-утверждаемых этими самыми моделируемыми роботами. Если механизмы, лежащие в основе этого сообще­ства роботов, совпадают с набором механизмовто высказы­вание ро представляет собой пример-утверждения. А наш робот придет к выводу, что если он сам построен в соответствии с набором механизмов, то высказываниетакже должно быть истинным.

Рассмотрим случай с более тонким-утверждением (обо­значим его): робот отмечает, что истинностьявляется след­ствием истинности всех членов другого класса-высказываний (например,), который можно получить из результата того же самого вычисления, моделирующего сообщество роботов (на основе механизмов), только на этот раз существенная часть результата состоит из, скажем, тех-высказываний, истин­ность которых моделируемые роботы способны установить как следствие истинности всего класса. Что же побудит нашего робота заключить, что истинность высказыванияесть непре­менное следствие допущения, что он построен в соответствии с механизмамиЕго рассуждение будет выглядеть прибли­зительно так: «Если в основе моей конструкции лежат меха­низмыто, как я уже установил ранее, необходимо признать, что классвключает в себя только истинные высказывания; согласно же утверждениям моих моделируемых роботов, истин­ность каждого из высказываний классатакже следует из ис­тинности всех высказываний класса, равно как и истинность высказывания. Таким образом, если предположить, что я и в самом деле построен в соответствии с теми же принципами, что и мои моделируемые роботы, то я должен признать, что каждый отдельный член классаявляется истинным. А поскольку я понимаю, что истинность всех высказываний классаподразу­мевает истинность высказывания, я, должно быть, могу выве­сти и истинность, исходя лишь из того же самого допущения относительно своей конструкции».

Далее можно перейти к еще более тонкому-утвержде­нию (скажем,), которое возникает в том случае, когда ро­бот замечает, что истинностьоказывается не чем иным, как следствием допущения истинности всех высказываний класса истинность же каждого члена, если верить моделируемому сообществу роботов, является следствием истинности всех без исключения членов. И здесь наш робот оказывается вынужден признать истинностьна том лишь основании, что он построен в соответствии с набором механизмовЭту це­почку можно, очевидно, продолжать и дальше, приводя утверждения все большей и большей тонкостиистинность которых будет следовать из допущения истинности всех членов классови так далее, включая и классы с индексами более высокого порядка (см. возражениеи после­дующий комментарий). В общем случае, главной характеристи­кой-утверждения для робота является осознание послед­ним того обстоятельства, что коль скоро он предполагает, что механизмы, обусловливающие поведение моделируемых роботов, совпадают с механизмами, лежащими в основе его собственной конструкции, то ему ничего не остается, как заключить, что отсю­да непременно следует истинность рассматриваемого утвержде­нияВ этом рассуждении нет ничего от тех внутренне противоречивых методов рассуждения, к числу кото­рых принадлежит, в частности, парадокс Рассела. Представлен­ные-утверждения строятся последовательно посредством стандартной математической процедуры трансфинитных ордина­лов (см. §2.10, комментарий к). (Все эти ординалы счетны и далеки от тех логических неприятностей, которые постоянно сопутствуют обычным числам, которые «слишком велики» в том или ином смысле).

У робота нет иных причин принимать на веру любое из этих-высказываний, кроме как исходя из допущения, что он построен в соответствии с набором правил, впрочем, для до­казательства ему ее вполне хватает. Возникающее впоследствии действительное противоречие не является математическим па­радоксом (подобным парадоксу Рассела) — это самое обыкно­венное противоречие, связанное с предположением о том, что ни одна целиком и полностью вычислительная система не может обрести подлинного математического понимания.

Вернемся к роли самоотносимости в рассуждениях §§3.19— 3.21. Называя величину с пределом сложности, допустимым для -утверждений, полагаемых безошибочными, с целью постро­ения формальной системы, я никоим образом не привношу в свое рассуждение неуместной здесь самоотносимости. Поня­тие «степень сложности» можно определить вполне точно, как, собственно, и обстоит дело с тем конкретным определением, ко­торое мы использовали в наших рассуждениях, а именно: «сте­пень сложности есть количество знаков в двоичном разложе­нии большего из пары чисел тип, фигурирующих в обозначе­нии вычисления, представляющего рассматриваемое высказывание». Мы можем воспользоваться представленными в НРК точными спецификациями машин Тьюринга, положив, чтоесть не что иное, как . Тогда никакой неточности в этом понятии не будет.

Проблема возможной неточности может возникнуть при ре­шении вопроса о том, какие именно рассуждения мы будем при­нимать в качестве «доказательств»-высказываний. Однако в данном случае некоторый недостаток формальной точности яв­ляется необходимой составляющей всего рассуждения. Если по­требовать, чтобы совокупность аргументов, принимаемых в ка­честве обоснованных доказательств-высказываний, была це­ликом и полностью точной и формальной — читай: допускающей вычислительную проверку, — то мы снова окажемся в ситуации формальной системы, над которой грозно нависает гёделевское доказательство, явным образом демонстрируя, что любая точная формализация подобного рода не может представ­лять всю совокупность аргументов, пригодных, в принципе, для установления истинности-высказываний. Гёделевское дока­зательство показывает — к добру ли, к худу ли, — что никаким допускающим вычислительную проверку способом невозмож­но охватить все приемлемые человеком методы математического рассуждения.

Читатель, возможно, уже беспокоится, что все мои рассу­ждения здесь затеяны с целью получить точное определение по­нятия «роботово доказательство» посредством хитрого трюка с «безошибочными-утверждениями». В самом деле, при введе­нии гёделевского рассуждения необходимым предварительным условием было как раз получение точного определения этого понятия. Возникшее же в результате противоречие просто по­служило еще одним подтверждением того факта, что челове­ческое понимание математической истины невозможно полно­стью свести к процедурам, допускающим вычислительную про­верку. Главной целью всех представленных рассуждений было показать, посредством, что человеческое представление о восприятии неопровержимой истинности высказываний невозможно реализовать в рамках какой бы то ни было вычислительной системы, будь она точной или какой-либо иной. В этом нет никакого парадокса, хотя кому-то полу­ченные выводы могут показаться весьма и весьма тревожными. Получение противоречивых выводов является вполне естествен­ным и даже единственно возможным завершением любого дока­зательства, построенного накажущаяся парадоксальность этих выводов служит лишь для того, чтобы полностью исключить из рассмотрения то самое предположение, с которого доказательство, собственно, и начиналось.