Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

Многие из представленных в предыдущих разделах рассу­ждений, мягко говоря, несколько запутаны. Для прояснения си­туации читателю предлагается в качестве этакого резюме вооб­ражаемый разговор, состоявшийся в далеком будущем между неким гипотетическим, весьма преуспевающим прикладным спе­циалистом в области ИИ и одним из его наиболее удачных кибер­нетических созданий. Написан диалог с позиции сильного ИИ. [Примечание: процедурав повествовании выступает в роли алгоритма А из, а утверждение— в роли незавершающегося вычисления, То есть к чтению нижеследующего материала можно переходить сразу послебез какого бы то ни было ущерба для понимания.]

Альберт Император имел все основания быть удовле­творенным результатом трудов всей своей жизни. Про­цедуры, которые он запустил в действие много лет на­зад, наконец принесли плоды. И вот перед вами точный протокол его беседы с одним из наиболее впечатляющих его творений — роботом выдающихся и потенциаль­но сверхчеловеческих математических способностей по имени Математический Интеллектуальный Киберком-плекс (см. рис. 3.2). Обучение робота почти завершено.

Альберт Император: Просмотрел ли ты статьи, что я давал тебе, — статьи Гёделя, а также и другие, где рассматриваются следствия из его теоремы?

Математический Интеллектуальный Киберкомплекс: Ра­зумеется, причем они оказались даже интересными, хотя и до­вольно элементарными. Этот ваш Гёдель был, по всей видимости, весьма способным логиком ... для человека.

А. И.: Всего лишь «весьма способным»? Да он был, несомнен­но, одним из величайших логиков всех времен. Возможно, даже первым из величайших!

М. И. К.: Приношу извинения, я вовсе не намеревался пре­уменьшать его заслуги. Вам, разумеется, хорошо известно, что я обучен проявлять общее уважение к достижениям людей (по причине того, что люди очень обидчивы), хотя все эти достижения нам, роботам, обыкновенно представляются весьма тривиальны-

ми. Мне просто показалось, что уж с тобой-то я могу, по крайней мере, выражать свои суждения просто и открыто.

А. И.: Безусловно, можешь. Прости и ты меня, я был неправ. Так, значит, у тебя не возникло никаких трудностей с пониманием теоремы Гёделя?

М. И. К.: Абсолютно никаких. Уверен, я бы и сам додумался до такой теоремы, если бы у меня было хоть немного больше сво­бодного времени. Но мой разум был занят иными, чрезвычайно увлекательными вопросами, связанными с трансфинитной нели­нейной когомологией, которая в последнее время интересует меня гораздо больше. Теорема Гёделя показалась мне очень здравой и непосредственной. Повторюсь, совершенно никаких трудностей у меня с ней не возникло.

А. И.: А вот получи-ка, Пенроуз!

М. И. К.: Пенроуз? Кто такой Пенроуз?

А. И.: Да я тут недавно наткнулся на одну старую книжку. Ниче­го особенного, не стоило и упоминать. Автор, насколько я помню, утверждал, что то, о чем ты мне сейчас рассказал, принципиально невозможно.

М. И. К.: Ха-ха-ха! (Робот поразительно похоже имити­рует презрительный смех.)

А. И.: Кстати, эта книжка мне кое о чем напомнила. Показы­вал ли я тебе когда-нибудь в полном объеме те правила, что мы применили при составлении вычислительных процедур, которые позволили в конечном счете разработать и построить тебя и твоих коллег-роботов?

М. И. К.: Нет, пока еще нет. Я надеялся, что когда-нибудь ты все же сделаешь это, и еще я думал, что ты, может быть, пола­гаешь подробное описание этих процедур чем-то вроде коммер­ческой тайны (довольно бессмысленной, надо сказать)... или, возможно, опасаешься, что мы сочтем их грубыми и неэффектив­ными, и тебе придется их стыдиться.

А. И.: Нет-нет, дело совсем не в этом. Я уже очень давно не стыжусь такого рода вещей. Все описание находится вот в этих папках и на дисках. Если тебе интересно, можешь ознакомиться.

Приблизительно 13 минут 41,7 секунды спустя.

М. И. К.: Очаровательно ... хотя уже после беглого просмотра могу отметить, что существует по меньшей мере 519 очевидных способов достичь того же эффекта с большей простотой.

А. И.: Я прекрасно понимал, что эти процедуры еще допускают некоторое упрощение, однако овчинка не стоила выделки, и ис­кать простейшие алгоритмы мы тогда не стали. Просто не сочли это целесообразным.

М. И. К- Вполне вероятно, что так оно и есть. Не могу сказать, что меня очень обидело, что вы так и не удосужились отыскать наипростейшую схему. Не думаю также, что мои коллеги-роботы будут как-то по-особенному обижены этим обстоятельством.

А. И.: Честно говоря, мне кажется, что мы и так достаточно потрудились. Ты только подумай — насколько впечатляющими математическими способностями обладаешь ты и твои колле­ги ... и они постоянно совершенствуются, насколько я понимаю. Я бы сказал, что ты уже сейчас по математическим способностям намного превосходишь всех математиков-людей.

М. И. К.: Со всей очевидностью следует признать, что твои сло­ва истинны. Вот ты говоришь, а я в это время думаю о несколь­ких новых теоремах, которые, похоже, оставят далеко позади те выводы, что публикуются в человеческих печатных изданиях. Кроме того, мы с коллегами обнаружили несколько весьма се­рьезных ошибок в выводах, которые математики-люди полагают истинными вот уже в течение многих лет. Несмотря на очевидную тщательность, с которой вы, люди, относитесь к проверке своих математических выводов, боюсь, что какие-то ошибки вы все же время от времени пропускаете.

А. И.: А вы, роботы? Не кажется ли тебе, что и ты, и твои коллеги математические роботы тоже можете допускать иногда ошибки — я имею в виду, в окончательно установленных, как вы утверждаете, математических теоремах.

М. И. К.: Решительно не кажется. Если робот-математик утвер­ждает, что тот или иной вывод является теоремой, то можно быть абсолютно уверенным, что этот вывод является неопровер­жимо истинным. Мы никогда не делаем тех глупых ошибок, какие

люди порой допускают в своих якобы строгих математических утверждениях. Разумеется, при предварительном размышлении мы — так же, как и вы, люди — часто прибегаем к догадкам и допущениям. Такие догадки могут, конечно же, оказаться и неверными; однако когда мы окончательно утверждаем, что то или иное положение является математически установленным, мы полностью гарантируем его справедливость.

Хотя, как тебе известно, мы с коллегами уже опубликовали несколько полученных нами математических выводов в некото­рых из ваших наиболее респектабельных электронных журналов, нас несколько беспокоят тамошние довольно-таки нечеткие кри­терии, с которыми твои коллеги-математики, похоже, охотно ми­рятся. Мы намерены начать выпуск нашего собственного «жур­нала» — точнее, всеобъемлющей базы данных, содержащей все математические теоремы, которые мы полагаем неопровержимо установленными. Этим теоремам мы будем присваивать особый знак(этот символ ты как-то сам предложил нам использовать именно для такой цели), который будет означать, что они приня­ты как истинные нашим Советом по математическому ин­теллекту сообщества роботов (СМИСР) — организацией, предъявляющей чрезвычайно высокие требования к своим чле­нам и проводящей регулярные проверки с тем, чтобы предотвра­тить значительную деградацию интеллектуальных способностей любого из роботов, какой бы невероятной ни показалась тебе (да и нам, если уж на то пошло) подобная возможность. Вы, люди, можете продолжать довольствоваться вашими размытыми стандартами, однако будьте уверены — если мы отмечаем какой бы то ни было вывод знаком, мы однозначно гарантируем его математическую истинность.

А. И.: Теперь ты и впрямь напоминаешь мне кое о чем из того, что я прочел в той самой книге, о которой мы говорили. Вспомни о тех исходных механизмахруководствуясь которыми я и мои коллеги запустили в действие процессы развития, результатом которых, в свою очередь, стало современное сообщество мате­матических роботов; вспомни также и о том, что эти механиз­мы включают в себя все введенные нами вычислительно смо­делированные факторы внешнего окружения, строгое обучение и процессы отбора, которым мы вас подвергли, а также явные (восходящие) процедуры обучения, которыми мы вас наделили, — не приходило ли тебе в голову, что эти механизмы дают вычислительную процедуру для генерации всех математиче­ских утверждений, которым ваш СМИСР когда-либо присво­ит-статус? Именно вычислительную, потому что вы, роботы, являетесь чисто вычислительными сущностями, развившимися (отчасти с помощью введенных нами процедур «естественного отбора») в целиком и полностью вычислительном окружении — в том смысле, что в принципе возможно построить компьютерную модель всего процесса. Все развитие вашего сообщества роботов представляет собой выполнение некоего неимоверно сложного вычисления, и тот набор-утверждений, который вы в конечном счете породите, возможно воспроизвести на одной конкретной машине Тьюринга. Причем на такой машине Тьюринга, которую, в принципе, могу описать и я; более того, полагаю, что, будь у меня в запасе несколько месяцев, я, воспользовавшись теми папками и дисками, что я тебе показал, и в самом деле описал бы такую машину Тьюринга.

М. И. К.: Довольно элементарное замечание, как мне кажется. Да, ты вполне мог бы сделать все это в принципе, и я даже готов поверить, что ты сможешь осуществить это и на практике. Хотя едва ли оно стоит нескольких месяцев твоего драгоценного вре­мени; я могу сделать это прямо сейчас, если хочешь.

А. И.: Нет, не нужно, не в этом дело. Давай порассуждаем еще немного в этом направлении и ограничим наше рассмотрение только теми-утверждениями, которые являются-высказы­ваниями. Ты помнишь, что такое-высказывание?

М. И. К.: Мне, разумеется, прекрасно известно определение hi-высказывания. Это утверждение о том, что какая-то конкрет­ная машина Тьюринга никогда не завершает свою работу.

А. И.: Очень хорошо. Теперь обозначим вычислительную про­цедуру, которая генерирует-утверждаемые-высказывания, черезили, для краткости, просто буквойЛогичным бу-

дет предположить, что должно существовать некое математиче­ское утверждение гёделевского типа — также-высказывание, обозначим его через— причем истинностьявляет-

ся следствием утверждения, что вы, роботы, никогда не допуска­ете ошибок в отношении-высказываний, которым вы присва­иваете статус

М. И. К.: Да; тут ты, надо полагать, тоже прав... гм.

А. И.: И утверждение должно быть истинным, по-

скольку вы, роботы, никогда не ошибаетесь в ваших-утвер­ждениях.

М. И. К.: Разумеется.

А. И.: Минуточку... отсюда также следует, что роботы должны быть неспособны установить истинность утверждения по крайней мере, с-уверенностью.

М. И. К.: Тот факт, что мы, роботы, были изначально скон­струированы в соответствии с набором механизмоввкупе с тем фактом, что наши..-утверждения, касающиеся-выска­зываний, никогда не бывают ошибочными, и в самом деле имеет очевидное и неопровержимое следствие, заключающееся в том, что-высказываниедолжно быть истинным. Полагаю,

ты думаешь, что я наверняка смогу убедить СМИСР присвоить утверждениюстатус, коль скоро они также согласны с

тем, что никогда не допускают ошибок в присвоении этого самого статуса. В самом деле, с этим-то они просто обязаны согласить­ся. Ведь смысл. -статуса как раз и заключается в том, что он является гарантией правильности.

Хотя ... невозможно, чтобы они смогли согласиться с утвер­ждениемтак как по самой природе твоего гёделевского по­строения это утверждение не входит в число тех предположений, истинность которых мы можем установить с-уверенностью — при условии, что мы в своих-утверждениях действительно не ошибаемся. Полагаю, ты намекаешь на то, что эта несообраз­ность должна посеять в нас какие-то сомнения относительно аде­кватности наших-суждений.

Я, однако, и мысли не допускаю о том, что наши-утвер­ждения могут оказаться ложными, особенно если учесть всю тщательность их рассмотрения и предпринимаемые СМИСР ме­ры предосторожности. Скорее всего, это, вы люди, что-то на­путали, и процедуры, встроенные в вовсе не являются теми самыми процедурами, которые вы применяли в самом начале,

несмотря на все твои заверения и якобы документальные под­тверждения. Да и вообще, СМИСР никогда не сможет с абсо­лютной точностью установить, действительно ли мы были скон­струированы в соответствии с механизмамиили, иначе говоря, процедурами, заложенными вВ этом отношении нам прихо­дится верить тебе на слово.

А. И.: Уверяю тебя, мы использовали именно эти процедуры. Уж кому об этом знать, как не мне; я лично контролировал весь процесс.

М. И. К.: Мне не хочется, чтобы ты подумал, будто я сомнева­юсь в твоих словах. Возможно, кто-то из твоих ассистентов про­сто неверно выполнил твои инструкции. Есть тут у тебя один, его зовут Фред Керратерс — так вот он, например, вечно допускает самые глупейшие ошибки. Я даже не удивлюсь, если выяснится, что именно он и ответственен за ряд критических ошибок.

А. И.: Ты хватаешься за соломинки. Даже если бы он и внес какие-то ошибки, мы с остальными коллегами в конечном счете выявили бы их и тем самым выяснили, какой должна в действи­тельности быть твоя процедураДумаю, тебя беспокоит то обстоятельство, что мы на самом деле знаем — в крайнем случае, можем узнать, — какие именно процедуры были заложены в твою исходную конструкцию. Это означает, что мы могли бы, затра­тив определенное количество времени и сил, записать то самое -высказываниеи однозначно установить, что оно истинно — при условии, конечно же, что роботы и в самом деле никогда не ошибаются в своих-утверждениях. Вы же не можете быть уверенными в том, что высказываниеистинно; во всяком случае, вы не можете утверждать этого с той убежденностью, какой, несомненно, потребует СМИСР для присвоения -статуса. Это, похоже, дает людям некое фундаментальное преимущество перед роботами, пусть даже только в принципе, а не на практике — существуют такие-высказывания, которые доступны нам и недоступны вам. Не думаю, что вы в состоянии стерпеть такое, — именно поэтому ты так беззастенчиво обви­няешь нас в том, что мы якобы чего-то там напутали!