Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

формальной системой

Прежде чем мы приступим к подробному рассмотрению это­го аргумента, необходимо обратить внимание на один существен­ный момент, который мы до сих пор незаслуженно игнорирова­ли — речь идет о возможности привнесения на разных этапах процесса развития робота неких случайных элементов взамен раз и навсегда фиксированных механизмов. В свое время нам еще предстоит обратиться к этому вопросу, пока же я буду полагать, что каждый такой случайный элемент следует рассматривать как результат выполнения какого-либо псевдослучайного (хаотиче­ского) вычисления. Как было показано ранее, таких псевдослучайных компонентов на практике оказывается вполне достаточно. К случайным элементам в «образовании» робота мы еще вернемся вгде более подробно поговорим о подлин­ной случайности в применении к нашему случаю, а пока, гово­ря о «наборе механизмов», я буду предполагать, что все эти механизмы действительно являются целиком и полностью вы­числительными и свободными от какой бы то ни было реальной

неопределенности.

Суть противоречия заключается в том, что на месте алго­ритма, фигурировавшего в наших предыдущих рассуждениях (например, того алгоритма, о котором мы говорили вв свя­зи с допущением), с неизбежностью оказывается формальная система Вследствие чего случайэффективно сводится

к случаюI и тем самым не менее эффективно из рассмотрения исключается. Выступая в рамках данного доказательства в роли сторонников точек зрения, мы предполагаем, что наш

робот, в принципе, способен (с помощью обучающих процедур той же природы, что установили для него мы) достичь в конеч­ном счете любых математических результатов, каких в состоянии достичь человек. Мы должны также допустить, что робот спосо­бен достичь и таких результатов, какие человеку в принципе не по силам. Так или иначе, нашему роботу предстоит обзавестись способностью к пониманию мощи аргументации Гёделя (или, по крайней мере, способностью сымитировать такое понима­ние — согласно). Иначе говоря, относительно любой заданной

(достаточно обширной) формальной системы Н робот должен оказаться в силах неопровержимо установить тот факт, что из обоснованности системыследует истинность его гёделевского5 утвержденияа также то, что утверждениене является теоремой системыВ частности, робот сможет устано­вить, что из обоснованности системынеопровержимо сле­дует истинность утвержденияэта же обоснованность предполагает, что утверждениене является теоремой системы

С помощью в точности тех же рассуждений, какими мы вос­пользовались вприменительно к человеческому математи­ческому пониманию, непосредственно из вышеизложенных со­ображений выводится, что робот никоим образом не способен твердо поверить в то, что совокупность его собственных — и, на его взгляд, неопровержимых — математических убеждений дей­ствительно эквивалентна некоей формальной системе И это несмотря на тот факт, что мы (выступая в роли соответству­ющих экспертов по проблемам ИИ) прекрасно осведомлены о том, что в основе системы математических убеждений робота ле­жит не что-нибудь, а именно набор механизмовчто автомати­чески означает, что система неопровержимых убеждений робота является полным эквивалентом системыЕсли бы робот вдруг твердо поверил в то, что все его убеждения укладываются в рамки системыто тогда ему пришлось бы поверить и в обоснованность этой самой системыСоответственно, ему также пришлось бы одновременно поверить и в истинность утверждения и в то, что упомянутое утверждение в его систему убеждений не входит — неразрешимое противоре­чие! Иначе говоря, робот никак не может знать о том, что он сконструирован в соответствии с тем или иным набором меха­низмовА поскольку об этой особенности его конструкции знаем — или по крайней мере, в состоянии узнать — мы с вами, то получается, что нам доступны такие математические истины (например, утверждениекоторые роботу оказываются не по силам, хотя изначально предполагалось, что способности робота будут равны способностям человека (или даже превы­сят их).

3.15. Способы устранения фундаментального противоречия

Приведенное выше рассуждение можно рассматривать дво­яко — с точки зрения создавших робота людей либо с точки зрения самого робота. С человеческой точки зрения существу­ет некоторая неопределенная вероятность того, что математику-человеку претензии робота на обладание неопровержимой исти­ной покажутся неубедительными, разве что упомянутый матема­тик-человек примет во внимание какие-то отдельные конкретные аргументы из тех, что использует робот. Возможно, не все тео­ремы системычеловек сочтет неопровержимо истинными, кроме того, как нам помнится, интеллектуальные способности робота могут существенно превышать таковые же способно­сти человека. Таким образом, можно утверждать, что одно лишь знание о том, что робот сконструирован в соответствии с неким набором механизмовне следует рассматривать в качестве неопровержимо убедительной (для человека) математической де­монстрации. Соответственно, мы должны пересмотреть все вы­шеприведенное рассуждение — на этот раз с точки зрения ро­бота. Какие огрехи в нашем обосновании в состоянии заметить (и использовать) робот?

По-видимому, наш робот располагает всего лишь четырьмя основными возможностями для нейтрализации фундаментально­го противоречия — при условии, конечно, что сам робот осве­домлен о том, что он является в некотором роде вычислительной машиной.

(a) Возможно, что робот, принимая в целом утверждение о том, что в основе его конструкции лежит некий набор механиз­мовтем не менее, неизбежно остается неспособен без­оговорочно поверить в этот факт.

(b) Возможно, что робот, будучи безоговорочно убежден в ис­тинности каждого отдельного-утверждения в тот момент, когда он его формулирует, все же сомневается в достовер­ности полной системы своих-утверждений — соответ­ственно, робот может не верить в то, что формальная систе­маи в самом деле лежит в основе всей его системы убеждений в отношении-высказываний.

(c) Возможно, что подлинный набор механизмовсущественно зависит от случайных элементов и не может быть адекватно описан через посредство неких известных результатов псев­дослучайных вычислений, подаваемых на входное устрой­ство робота.

(d) Возможно, что подлинный набор механизмовв действи­тельности непознаваем.

В последующих девяти разделах представлен ряд веских ар­гументов, убедительно демонстрирующих, что первые три лазейки оказываются для робота, задавшегося целью обой­ти фундаментальное противоречие, совершенно бесполезными. Соответственно, робот (а вместе с ним и мы — если мы, конечно, продолжаем настаивать на том, что математическое понимание можно свести к вычислению) начинает всерьез подумывать о не очень привлекательной возможностиУверен, что непривле­кательной возможностьнахожу не я один — думаю, в этом со мной согласятся и те читатели, которым не безразлична судьба идеи искусственного интеллекта. Ее, пожалуй, приемлемо рас­сматривать лишь в качестве возможной мировоззренческой по­зиции, укладывающейся, по сути своей, в рамки той самой комби­нации точек зренияо которой мы говорили в конце и согласно которой для внедрения непознаваемого алгоритма в «мозг» каждого из наших роботов требуется, ни много ни мало, божественное вмешательство (от «первого в мире програм­миста»). В любом случае, вердикт «непознаваемо», вынесенный в отношении тех самых механизмов, которые, в конечном счете, ответственны за наличие у нас какого ни на есть разума, вряд ли обрадует тех, кто намерен, вообще говоря, построить робота, наделенного подлинным искусственным интеллектом. Не особен­но обрадует он и тех из нас, кто все еще надеется понять, прин­ципиально и не выходя за рамки строго научного подхода, каким образом в действительности возникло у человека такое свойство, как интеллект, объяснить его происхождение посредством четко формулируемых научных законов — законов физики, химии, био­логии, законов естественного отбора, в конце концов, — пусть даже и не имея в виду воспроизвести этот самый интеллект в каком бы то ни было робототехническом устройстве. Лично я полагаю, что подобный пессимистический вердикт не имеет под собой никаких оснований — по той хотя бы простой причине, что «научная постижимость» имеет весьма мало общего с «вычисли­мостью». Законы, лежащие в основе мыслительных процессов не являются непостижимыми, они всего лишь невычислимы. На эту тему мы еще поговорим во второй части книги.

3.16. Необходимо ли роботу верить в механизмы М?

Вообразим, что у нас имеется робот, снабженный некоторым возможным набором механизмов— каковой набор может оказаться тем самым, на основе которого и построен наш робот, но это не обязательно. Я попробую убедить читателя в том, что робот будет вынужден отвергнуть возможность того, что его ма­тематическое понимание опирается на набор механизмов независимо от того, как обстоит дело в действительности. При этом мы на время допускаем, что робот по тем или иным причи­нам уже отбросил вариантыи приходим к выводу (несколько даже неожиданному), что сам по себе вариант избежать парадокса не позволяет.

Рассуждать мы будем следующим образом. Обозначим че­резгипотезу «В основе математического понимания робота лежит набор механизмов» и рассмотрим утверждение вида «Такое-то-высказывание является следствием из».

Такое утверждение (в том случае, когда робот твердо верит в его истинность) я буду называть -утверждением. Иначе говоря, под-утверждениями не обязательно понимаются те-вы­сказывания, в истинность которых как таковых неопровержимо верит робот, но те-высказывания, которые робот полагает неопровержимо выводимыми из гипотезы. Изначально от ро­бота не требуется обладание какими бы то ни было взглядами относительно возможности того, что в основе его конструкции действительно лежит набор механизмов Он может даже поначалу счесть такое предположение абсолютно невероятным, но, тем не менее, ничто не мешает ему рассмотреть (в подлинно научной традиции) возможные следствия из гипотезы о таком вот его происхождении.

Существуют ли-высказывания, которые робот должен полагать неопровержимыми следствиями из гипотезыи кото­рые при этом не являются самыми обыкновенными-утвержде­ниями, вовсе не требующими привлечения этой гипотезы? Разу­меется, существуют. Как было отмечено в концеистин­ность hi-высказыванияследует из обоснованности формальной системыотсюда же следует и тот факт, что утверждениене является теоремой системы Более того, в этом робот будет совершенно безоговорочно убе­жден. Если допустить, что робот вполне согласен с тем, что все его неопровержимые убеждения укладывались бы в рамки си­стемыбудь он действительно сконструирован в соответ­ствии с набором механизмов— т. е. что возможность он из рассмотрения исключает, — то получается, что наш ро­бот и в самом деле должен твердо верить в то, что обоснован­ность системыявляется следствием гипотезы. Таким образом, робот оказывается безоговорочно убежден как в том, что-высказываниеследует из гипотезы, так и в том, что (согласно) он не способен непосредственно постичь его неопровержимую истинность без привлечения(посколь­ку формальной системе оно не принадлежит). Соответ­ственно, утверждениеявляется-утверждением, но не *-утверждением.

Предположим, что формальная системапостроена в точности так же, как и система, с той лишь разницей, что роль, которую при построении системы исполняли-утверждения, сейчас берут на себя-утверждения. Иначе говоря, теоремами системы являются либо(i) сами-утверждения, либоположения, выводимые из этих-утверждений с применением правил элементарной ло­гики (см.). Точно так же, как робот на основании гипоте­зысогласен с тем, что формальная системаохваты­вает все его неопровержимые убеждения относительно истинно­сти-высказываний, он будет согласен и с тем, что формальная системаохватывает все его неопровержимые убеждения относительно истинности-высказываний, обусловленных ги­потезой

Далее предложим роботу рассмотреть гёделевское-вы­сказываниеРобот, несомненно, проникнется неоп­ровержимым убеждением в том, что это П1-высказывание явля­ется следствием из обоснованности системыОн так­же вполне безоговорочно поверит в то, что обоснованность си­стемыявляется следствием гипотезыпоскольку он согласен с тем, что системадействительно содержит в себе все, в чем робот неопровержимо убежден в отношении своей способности выводить-высказывания, основываясь на гипотезе(Он будет рассуждать следующим образом: «Если я принимаю гипотезу, то я тем самым принимаю и все П1-высказывания, которые порождают системуТаким об­разом, я должен согласиться с тем, что системаявля­ется обоснованной на основании гипотезы. Следовательно, на основании все той же гипотезы, я должен признать и то, что утверждениеистинно».)

Однако, поверив (безоговорочно) в то, что гёделевское высказываниеявляется следствием гипотезы робот будет вынужден будет поверить и в то, что утвержде­ниеявляется теоремой формальной системы А в это он сможет поверить только в том случае, если он полагает системунеобоснованной, — что решительно противо­речит принятию им гипотезы

В некоторых из вышеприведенных рассуждений неявно до­пускалось, что неопровержимая убежденность робота является действительно обоснованной, — хотя необходимо лишь, чтобы сам робот просто верил в обоснованность своей системы убе­ждений. Впрочем, мы изначально предполагаем, что наш робот обладает математическим пониманием, по крайней мере, на чело­веческом уровне, а человеческое математическое понимание, как было показано впринципиально является обоснованным.

Возможно, кто-то усмотрит в формулировке допущения равно как и в определении-утверждения, некоторую неод­нозначность. Смею вас уверить, что подобное утверждение, бу­дучи-высказыванием, представляет собой в высшей степе­ни определенное математическое утверждение. Можно предпо­ложить, что большинство-утверждений робота окажутся в действительности самыми обыкновенными-утверждениями, поскольку маловероятно, что робот при каких угодно обстоя­тельствах сочтет целесообразным прибегать в своих рассужде­ниях к самой гипотезе. Исключением может стать утвержде­ниео котором говорилось выше, так как в данном слу­чае формальная системавыступает, с точки зрения робота, в роли гёделевской гипотетической «машины для доказательства теорем»Вооружившись гипотезой, робот получает доступ к своей собственной «машине для доказатель­ства теорем», и, хотя он не может быть (да и, скорее всего, не будет) безоговорочно убежден в обоснованности своей «маши­ны», робот способен предположить, что она может оказать­ся обоснованной, и попытаться вывести следствия уже из этого предположения.