Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

Для того чтобы приблизить нашу модель к виду, приличе­ствующему человеческому математическому сообществу, а также лишний раз удостовериться в отсутствии ошибок в-утвержде­ниях, рассмотрим ситуацию, в которой все окружение нашего робота разделяется на две части: сообщество других роботов и остальное, лишенное роботов (а также и людей), окружение; в дополнение к остальному окружению, в модель следует вве­сти некоторое количество учителей, по крайней мере, на ранних этапах развития роботов, и хотя бы для того, чтобы все роботы одинаково понимали строгий смысл присвоения тому или иному утверждению статуса. В моделируемый нами ансамбль войдут на правах различных экземпляров все возможные различные ва­рианты поведения всех роботов, а также все возможные (реле­вантные) варианты остального окружения и предоставляемых че­ловеком сведений, варьирующиеся в зависимости от конкретного выбора задействованных в модели случайных параметров. Как и ранее, правила, по которым будет функционировать наша модель (и которые я опять обозначу буквой), можно полагать в полной мере познаваемыми, невзирая на необычайную сложность всех сопутствующих расчетов, необходимых для ее практической ре­ализации.

Предположим, что мы берем на заметку все (в принци­пе)-высказывания,-утверждаемые (а также все высказы­вания с*-утвержденными отрицаниями) любым из всевозмож­ных экземпляров наших (вычислительно моделируемых) роботов. Объединим все подобные-утверждения в отдельную группу и назовем их безошибочными. Далее, мы можем потребовать, чтобы любое-утверждение относительно того или иного высказывания игнорировалось, если в течение некоторого про­межутка времени(в прошлом или в будущем) количество r различных экземпляров этого-утверждения в ансамбле из всех одновременно действующих роботов не удовлетворит неравен­ству, гдесуть некоторые достаточно большие числа, а— количество-утверждений, производимых в те­чение того же промежутка времени и занимающих относительно рассматриваемого.-высказывания противоположную позицию либо просто утверждающих, что рассуждения, на которые опи­рается исходное-утверждение, ошибочны. При желании мы можем настаивать на том, чтобы промежуток времени(это время не обязательно должно совпадать с «реальным» моделируемым временем и может измеряться в некоторых единицах вычислительной активности), равно как и числа, увеличивался по мере увеличения «сложности»-утверждаемого высказывания.

Понятию «сложности» применительно к-высказываниям можно придать точный характер на основании спецификаций ма­шины Тьюринга, как мы это уже делали в(в конце коммен­тария к возражению). Для большей конкретности мы можем воспользоваться явными формулировками, представленными в НРК (глава 2), как вкратце показано в приложении(а это уже здесь, с. 191). Итак, степенью сложности-высказывания, утверждающего незавершаемость вычисления машины

Тьюринга, мы будем полагать числознаков в двоичном пред­ставлении большего из пары чисел

Причина введения в данное рассуждение числа— вме­сто того чтобы удовлетвориться какой-нибудь огромной вели­чиной в лице одного лишь коэффициента , — заключается в необходимости учета следующей возможности. Предположим, что внутри нашего ансамбля, благодаря редчайшей случайно­сти, появляется «безумный» робот, который формулирует какое-нибудь абсолютно нелепое-утверждение, ничего не сообщая о нем остальным роботам, причем нелепость этого утверждения настолько велика, что ни одному из роботов никогда не придет в «голову» — просто на всякий случай — сформулировать его опровержение. В отсутствие числатакое-утверждение авто­матически попадет, в соответствии с нашими критериями, в груп­пу «безошибочных». Введение же достаточно большоготакую ситуацию предотвратит — при условии, разумеется, что подобное «безумие» возникает среди роботов не часто. (Вполне возможно, что я упустил из виду еще что-нибудь, и необходимо будет поза­ботиться о каких-то дополнительных мерах предосторожности. Представляется разумным, однако, по крайней мере, на данный момент, ограничиться критериями, предложенными выше.)

Учитывая, что все-утверждения, согласно исходному до­пущению, следует полагать «неопровержимыми» заявлениями нашего робота (основанными на, по всей видимости, присущих роботу четких логических принципах и посему не содержащими ничего такого, в чем робот испытывает хотя бы малейшее со­мнение), то вполне разумным представляется предположение, что вышеописанным образом действительно можно устранить редкие промахи в рассуждениях робота, причем функции ич. , вряд ли окажутся чем-то из ряда вон выходящим. Пред­положив, что все так и есть, мы опять получаем не что иное, как вычислительную систему — систему познаваемую (в том смысле, что познаваемыми являются лежащие в основе системы правила) при условии познаваемости исходного набора меха­низмовопределяющего поведение нашего робота. Эта вычис­лительная система дает нам новую формальную систему (также познаваемую), теоремами которой являются те самые безошибочные-утверждения (либо утверждения, выводимые из них посредством простых логических операций исчисления предикатов).

Вообще говоря, для нас с вами важно не столько то, что эти утверждения действительно безошибочны, сколько то, что в их безошибочности убеждены сами роботы (для привержен­цев точки зренияособо оговоримся, что концепцию роботовой «убежденности» следует понимать в чисто операцион­ном смысле моделирования роботом этой самой убежденности, см.).

Если точнее, то нам требуется, чтобы робот был готов по­верить в то, что упомянутые-утверждения действительно без­ошибочны, исходя из допущения, что именно набором механиз­мови определяется его поведение (гипотеза). До сих пор, в данном разделе, мы занимались исключительно устра­нением ошибок в-утверждениях робота. Однако, на самом де­ле, ввиду представленного в_ фундаментального противоре­чия, нас интересует устранение ошибок в его-утверждениях, т. е. в тех п -высказываниях, что по неопровержимой убежден­ности робота следуют из гипотезы. Поскольку принятие ро­ботами формальной системыв любом случае обусловлено гипотезой, мы вполне можем предложить им для обдумывания и более обширную формальную систему, определяемую аналогично формальной системеизПод в данном случае понимается формальная система, построенная из-утверждений, «безошибочность» которых установлена в соответствии с вышеописанными критериямиВ частно­сти, утверждение «утверждениеистинно» считается здесь безошибочным-утверждением. Те же рассуждения, что и в приводят нас к выводу, что роботы не смогут при­нять допущение, что они построены в соответствии с набором механизмов(вкупе с проверочными критериями), независимо от того, какие именно вычислительные правиламы им предложим.

Достаточно ли этих соображений для того, чтобы окон­чательно удостовериться в наличии противоречия? У читателя, возможно, осталось некое тревожное ощущение — кто знает, вдруг сквозь тщательно расставленные сети, невзирая на все наши старания, проскользнули какие-нибудь ошибочные или-утверждения? В конце концов, приведенные выше рас­суждения будут иметь смысл лишь в том случае, если нам удастся исключить абсолютно все ошибочные-утверждения (или-утверждения) в отношении-высказываний. Оконча­тельно и бесповоротно удостовериться в истинности утвер­ждениянам (и роботам) поможет обоснованность формальной системы ' (обусловленная гипотезой ). Эта самая обоснованность подразумевает, что система ни в коем случае не может содержать таких-утверждений, которые являются — или всего лишь предполагаются — ошибоч­ными. Невзирая на все предпринятые меры предосторожности, полной уверенности у нас (да и у роботов, полагаю) все-таки нет — хотя бы по той простой причине, что количество возмож­ных утверждений подобного рода бесконечно.

3.20. Возможность ограничиться конечным числом-утверждений

Есть, впрочем, возможность именно эту конкретную про­блему разрешить и сузить область рассмотрения до конечно­го множества различных-утверждений. Само доказатель­ство несколько громоздко, однако основная идея заключает­ся в том, что нам необходимо рассматривать только те высказывания, спецификации которых являются «краткими» в некотором вполне определенном смысле. Конкретная степень необходимой «краткости» зависит от того, насколько сложное описание системы механизмовнам необходимо. Чем сложнее описаниетем «длиннее» допускаемые к рассмотрению высказывания. «Максимальная длина» задается неким числом с, которое можно определить из степени сложности правил, опре­деляющих формальную системуСмысл в том, что при переходе к гёделевскому предположению для этой формальной системы — которую нам, вообще говоря, придется слегка моди­фицировать — мы получим утверждение, сложность которого бу­дет лишь немногим выше, нежели сложность такой модифициро­ванной системы. Таким образом, проявив должную осторожность при выборе числа с, мы можем добиться того, что и гёделевское предположение будет также «кратким». Это позволит нам полу­чить требуемое противоречие, не выходя за пределы конечного множества «кратких»-высказываний.

Подробнее о том, как это осуществить на практике, мы пого­ворим в оставшейся части настоящего раздела. Тем из читателей, кого такие подробности не занимают (уверен, таких наберется немало), я порекомендую просто-напросто пропустить весь этот материал.

Нам понадобится несколько модифицировать формальную системуприведя ее к виду— для краткости я буду обозначать ее просто как(отброшенные обозначения в данной ситуации несущественны и лишь добавляют путаницы и громоздкости). Формальная системаопределяется следу­ющим образом: при построении этой системы допускается при­нимать в качестве «безошибочных» только те-утверждения, степень сложности которых (задаваемая описанным выше чис­лом) меньше с, где с есть некоторое должным образом вы­бранное число, подробнее о котором я расскажу чуть ниже. Для «безошибочных»-утверждений, удовлетворяющих неравен­ству, я буду использовать обозначение «краткие утверждения». Как и прежде, множество действительных тео­рем формальной системыбудет включать в себя не толь­ко-утверждения, но также и утверждения, полу­чаемые из-утверждений посредством стандартных логических операций (позаимствованных, скажем, из исчисления предикатов). Хотя количество теорем системыбесконечно, все они выводятся с помощью обыкновенных логических опера­ций из конечного множества-утверждений. Да­лее, поскольку мы ограничиваем рассмотрение конечным множе­ством, мы вполне можем допустить, что функциипосто­янны (и принимают, скажем, наибольшие значения на конечном интервале). Таким образом, формальная системазадается лишь четырьмя постоянными с,и общей системой меха­низмовопределяющих поведение робота.

Отметим существенный для наших рассуждений момент: гёделевская процедура строго фиксирована и не нуждается в увеличении сложности выше некоторого определенного предела. Гёделевским предположениемдля формальной системы является-высказывание, степень сложности которого должна лишь на сравнительно малую величину превышать степень слож­ности самой системыпричем эту величину можно определить точно.

Конкретности ради я позволю себе некоторое нарушение си­стемы обозначений и буду вкладывать в записьнекий особый смысл, который может и не совпасть в точности с опреде­лением, данным вВ формальной системенас интересует лишь ее способность доказывать-высказывания. В силу этой своей способности системадает нам алгебраическую процеду­ру А, с помощью которой мы можем в точности установить (на основании завершения выполнения А) справедливость тех высказываний, формулировка которых допускается правилами системыА под-высказыванием понимается утверждение вида «действие машины Тьюрингане завершается» — здесь и далее мы будем пользоваться специальным способом маркировки машин Тьюринга, описанным в Приложении А (или в НРК, глава 2). Мы полагаем, что процедура А выполняется над парой чиселкак вТаким образом, собственно вы­числениезавершается в том и только в том случае, если в рамках формальной системывозможно установить справед­ливость того самого-высказывания, которое утверждает, что «действиене завершается». С помощью описанной в процедуры мы получили некое конкретное вычисление (обозна­ченное там как), а вместе с ним, при условии обоснован­ности системыи истинное-высказывание, которое систе­меоказывается «не по зубам». Именно это-высказывание я буду теперь обозначать черезОно существенно эквива­лентно (при условии достаточной обширности) действительно­му утверждению «системанепротиворечива», хотя в некоторых деталях эти два утверждения могут и не совпадать

Пустьесть степень сложности процедуры А (по опреде­лению, данному вв конце комментария к возражению) — иными словами, количество знаков в двоичном представлении числа а, гдеТогда, согласно построению, представлен­ному в явном виде в Приложении А, находим, что степень сложности ню утвержденияудовлетворяет неравенству Для нужд настоящего рассуждения мы мо­жем определить степень сложности формальной системыкак равную степени сложности процедурыт. е. числуПриняв такое определение, мы видим, что «излишек» сложности, связан­ный с переходом отоказывается еще меньше, чем и без того относительно крохотная величина