Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

Далее нам предстоит показать, что еслипри достаточно большомтоОтсюда, соответственно, последует, что и-высказываниедолжно оказаться в пределах досягаемости системыпри условии, что роботы принимаютс-убежденностью. Доказав, что

мы докажем и то, чтобуквой мы обозначили значениеприЕдинственная возможная сложность здесь обусловлена тем обстоятельством, что сама величиназависит от с, хотя и не обязательно очень силь­но. Эта зависимостьот с имеет две различных причины. Во-первых, число с являет собой явный предел степени сложности тех-высказываний, которые в определении формальной си­стемыназываются «безошибочными-утверждениями», вторая же причина происходит из того факта, что система явным образом обусловлена выбором чисели мож­но предположить, что для принятия в качестве «безошибочно­го»-утверждения большей сложности необходимы какие-то более жесткие критерии.

Относительно первой причины зависимостиот с отметим, что описание действительной величины числа с необходимо за­давать в явном виде только однажды (после чего внутри системы достаточно обозначения с). Если при задании величины с исполь­зуется чисто двоичное представление, то (при больших с) такое описание дает всего-навсего логарифмическую зависимость от с (поскольку количество знаков в двоичном представлении натурального п равно приблизительно). Вообще говоря, учитывая, что число с интересует нас лишь в качестве возможного предела, точное значение которого находить вовсе не обязатель­но, мы можем поступить гораздо более остроумным образом. На­пример, числоспоказателями можно задать с помощью s символов или около того, и вовсе нетрудно подыскать примеры, в которых величина задаваемого числа возрастает с ростомеще быстрее. Сгодится любая вычислимая функция от s. Иными сло­вами, для того чтобы задать предел с (при достаточно большом значении с), необходимо всего лишь несколько символов.

Что касается второй причины, т. е. зависимости от с чи­селто, в силу вышеизложенных соображений, пред­ставляется очевидным, что для задания величин этих чисел (в осо­бенности, их возможных предельных значений) совершенно не требуется, чтобы количество знаков в их двоичном представлении возрастало так же быстро, как с, более чем достаточно будет и, скажем, обыкновенной логарифмической зависимости от с. Сле­довательно, мы с легкостью можем допустить, что зависимость величиныот с является не более чем гру­бо логарифмической, а также устроить так, чтобы само число с всегда было больше этой величины.

Согласимся с таким выбором с и будем в дальнейшем вме­стозаписывать. Итак,есть формальная система, теоремами которой являются все математические высказывания, какие можно вывести из конечного количества утверждений, используя стандартные логические правила (ис­числение предикатов). Количество этих -утверждений ко­нечно, поэтому разумным будет предположить, что для гарантии их действительной безошибочности вполне достаточно некото­рого набора постоянныхЕсли роботы верят в это с-убежденностью, то они, несомненно,-заключат, что гёделевское предположениетакже истинно на основании гипотезы, поскольку является П1-высказыванием меньшей, нежели с, сложности. Рассуждение для получения утвержде­нияиз-убежденности в обоснованности формальной системыдостаточно просто (в сущности, я его уже привел), так что с присвоением этому утверждению статусапроблем возникнуть не должно. То есть самотакже должно быть теоремой системы. Это, однако, противоречит убежденности роботов в обоснованности. Таким образом, упомянутая убе­жденность (при условии справедливости гипотезыи доста­точно больших числах) оказывается несовместимой с убежденностью в том, что поведением роботов действительно управляют механизмы— а значит, механизмыповедением роботов управлять не могут.

Как же роботы могут удостовериться в том, что были выбра­ны достаточно большие числа? Никак. Вместо этого они могут выбрать некоторый набор таких чисел и попробовать до­пустить, что те достаточно велики, — и прийти в результате к про­тиворечию с исходным предположением, согласно которому их поведение обусловлено набором механизмовДалее они воль­ны предположить, что достаточным окажется набор из несколько больших чисел, — снова прийти к противоречию и т.д. Вско­ре они сообразят, что к противоречию они приходят при любом выборе значений (вообще говоря, здесь нужно учесть, помимо прочего, небольшой технический момент, суть которого состоит в том, что при совершенно уже запредельных значениях значение с также должно будет несколько подрасти — однако это неважно). Таким образом, получая один и тот же результат вне зависимости от значений, роботы — равно как, по всей видимости, и мы — приходят к заключению, что в основе их математических мыслительных процессов не может лежать познаваемая вычислительная процедуракакой бы она ни была.

3.21. Окончателен ли приговор?

Отметим, что к такому же выводу мы придем и в случае принятия нами самых разных возможных мер предосторожности, причем вовсе необязательно подобных тем, что я предлагал выше. Наверняка в предложенную модель можно еще внести множество усовершенствований. Можно, например, предположить, что ро­боты в результате длительной работы впадают в «старческое сла­боумие», их сообщества вырождаются, а стандарты падают, т. е. увеличение числа Т выше определенного значения на деле уве­личивает и вероятность ошибки в-утверждениях. С другой стороны, если слишком большим сделатьто возникает риск исключить вообще все-утверждения из-за существу­ющего в сообществе меньшинства «глупых» роботов, разража­ющихся время от времени произвольными-утверждениями, которые в данном случае не перекроются необходимым коли­чеством-утверждений, формулируемых роботами здравомыс­лящими. Несомненно, не составит большого труда такой риск полностью исключить, введя еще несколько ограничивающих па­раметров или, скажем, сформировав группу элитных роботов, силами которых рядовые члены сообщества будут непрерывно тестироваться на предмет адекватности своих интеллектуальных способностей, и потребовав к тому же, чтобы статусприсваивался утверждениям только с одобрения всего сообщества робо­тов в целом.

Существует и много других возможностей улучшения каче­ства-утверждений или исключения ошибочных утверждений из общего (конечного) их числа. Кого-то, возможно, обеспоко­ит тот факт, что, несмотря на установление предела с сложно­сти-высказываний, ограничивающего общее количество кан­дидатов наилистатус до некоторой конечной величины, эта величина окажется все же чрезвычайно огромной (будучи экспоненциально зависимой от с), вследствие чего становит­ся весьма сложно однозначно удостовериться, что исключе­ны все возможные ошибочныеутверждения. В самом де­ле, никакого ограничения не задается в рамках нашей моде­ли на количество «робото-вычислений», необходимых для по­лучения удовлетворительного'-доказательства какого-либо из-высказываний. Следует ввести четкое правило: чем длин­нее в таком доказательстве цепь рассуждений, тем более жест­кие критерии применяются при решении вопроса о присвоении ему-статуса. В конце концов, математики-люди реагировали бы именно так. Прежде чем принять в качестве неопровержимого доказательства собрание многочисленных путаных аргументов, мы, естественно, чрезвычайно долго и придирчиво его изучаем. Аналогичные соображения, разумеется, применимы и к тому слу­чаю, когда предложенное доказательство на предмет его соответ­ствия-статусу исследуют роботы.

Вышеприведенные рассуждения в равной степени справед­ливы и в случае любой дальнейшей модификации условий, имею­щих целью устранение ошибок, при условии, что характер такой модификации в некоем широком смысле аналогичен характеру уже предложенных. Для того чтобы эти рассуждения работали, необходимо лишь наличие какого угодно четко сформулиро­ванного и вычислимого условия, достаточного для устранения всех ошибочных-утверждений. В результате мы приходим к строгому выводу: никакие познаваемые механизмы, пусть и снабженные какими угодно вычислительными «подпорка­ми», не способны воспроизвести корректное математиче­ское умозаключение человека.

Мы рассматривали-утверждения, которые, оказавшись по той или иной причине ошибочными, в принципе исправимы самими роботами, — пусть даже в каком-то конкретном экземпляре модели роботова сообщества эти утверждения так и оста­ются неисправленными. Что же еще может означать (в опера­ционном смысле) фраза «в принципе исправимы», как не «ис­правимы средствами некоторой общей процедуры, подобной тем, что предложены выше»? Ошибка, которую не исправил позднее тот робот, что ее допустил, может быть исправлена каким-либо другим роботом — более того, большинство потенциально суще­ствующих экземпляров первого робота эту конкретную ошибку вообще не допустят. Делаем вывод (с одной, по-видимому, незна­чительной оговоркой, суть которой в том, что хаотические компо­ненты нашей модели можно еще заменить на подлинно случай­ные; см. ниже,): никакой набор познаваемых вычислитель­ных правил(неизменных нисходящих, «самосовершенствую­щихся» восходящих либо и тех, и других в какой угодно про­порции) не может обусловливать поведение нашего сообщества роботов, равно как и отдельных его членов, — если исходить из допущения, что роботы способны достичь человеческого уровня математического понимания. Вообразив, что мы сами функцио­нируем как управляемые вычислительными правилами роботы, мы оказываемся перед непреодолимым противоречием.

3.22. Спасет ли вычислительную модель разума хаос?

Вернемся ненадолго к вопросу о хаосе. Хотя, как неодно­кратно подчеркивается в этой книге (в частности, в), хаоти­ческие системы в том виде, в каком они обычно рассматриваются, представляют собой всего-навсего особого рода вычислительные системы, довольно широко распространено мнение о том, что фе­номен хаоса может иметь весьма значительное отношение к де­ятельности мозга. В представленных выше рассуждениях я опи­рался, с одной стороны, на обоснованное, как мне кажется, пред­положение, согласно которому любое хаотическое вычислитель­ное поведение можно без существенной потери функционально­сти заменить поведением подлинно случайным. Против такого допущения можно привести, по крайней мере, одно вполне оправ­данное возражение. Поведение хаотической системы — пусть мы и ожидаем от него огромной сложности в мельчайших деталях и видимой случайности — в действительности случайным не является. В самом деле, многие хаотические системы демонстрируют весьма интересное сложное поведение, явно отклоня­ющееся от чистой случайности. (Иногда для описания сложно­го неслучайного поведения, демонстрируемого хаотическими системами, используется термин «край хаоса».) Возможно ли, чтобы именно в хаосе крылась разгадка тайны человеческого интеллекта? Если это так, то нам предстоит понять нечто доселе абсолютно неведомое относительно того, как ведут себя в соот­ветствующих ситуациях хаотические системы. Хаотической си­стеме в такой ситуации придется очень близко аппроксимировать невычислительное поведение в асимптотическом пределе — или нечто подобное. Демонстрации такого поведения, насколько мне известно, еще никто не представлял. Возможность, тем не менее, интересная, и я надеюсь, что в последующие годы ею кто-нибудь всерьез займется.

И все же, безотносительно к упомянутой возможности, хаос может предоставить нам лишь очень сомнительный способ обой­ти неутешительное заключение, к которому мы пришли в преды­дущем разделе. В представленных выше рассуждениях эффек­тивная хаотическая неслучайность (т. е. непсевдослучайность) играла хоть какую-то роль один-единственный раз — когда мы рассматривали моделирование не просто «действительного» по­ведения нашего робота (или сообщества роботов), но полный ансамбль всех возможных действий роботов, согласующихся с заданным набором механизмовТа же аргументация приме­нима и здесь, только на сей раз мы не станем включать в эту случайность хаотические результаты функционирования упомя­нутых механизмов. Впрочем, некоторые случайные элементы (на­пример, в составе исходных данных, определяющих начальное состояние модели) присутствовать все же могут, а чтобы опе­рировать этой случайностью, мы можем вновь воспользоваться идеей ансамбля и тем самым получить возможность рассмотреть в процессе синхронного моделирования большое количество воз­можных альтернативных робото-историй. Однако само хаотиче­ское поведение нам просто-напросто придется вычислять — в чем нет ничего странного: на практике, в математических при­мерах, хаотическое поведение обыкновенно и вычисляется на компьютере. Ансамбль возможных альтернатив окажется в дан­ном случае не таким большим, каким он мог бы быть, допусти мы аппроксимацию хаоса случайностью. Однако в том случае ансамбль подобного размера был нужен лишь для того, чтобы мы могли лишний раз удостовериться в том, что устранили все возможные ошибки в-утверждениях роботов. Даже если ан­самбль включает в себя всего одну «историческую линию» со­общества роботов, можно быть совершенно уверенным в том, что при достаточно жестком наборе критериев для присвоения статуса такие ошибки будут очень быстро устраняться либо са­мими их виновниками, либо какими-то другими роботами сооб­щества. В ансамбле умеренного размера, составленном из под­линно случайных элементов, устранение ошибок будет происхо­дить более эффективно, при дальнейшем же расширении ансамб­ля посредством введения в него случайных аппроксимаций на замену подлинно хаотическому поведению сколько-нибудь суще­ственного роста эффективности не предвидится. Вывод: хаос не избавит нас от проблем, связанных с созданием вычислительной модели разума.

3.23. Reductio ad absurdum — воображаемый диалог