Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

Почему же в таком случае я решил рассмотреть вопрос со­знания прежде всего в математическом контексте? Причина за­ключается в том, что только в математических рамках мы мо­жем рассчитывать на возможность хоть сколько-нибудь строгой демонстрации непременной невычислимости, по крайней мере, некоторой части сознательной деятельности. Вопрос вычисли­мости по самой своей природе является, безусловно, матема­тическим. Нельзя ожидать, что нам удастся дать хоть какое-то «доказательство» невычислимости того или иного процесса, не обратившись при этом к математике. Я хочу убедить читателя в том, что все, что мы делаем нашим мозгом или разумом в процессе понимания математического суждения, существенно отличается от того, чего мы можем добиться от какого угодно компьютера; если мне это удастся, то читателю будет намного легче оценить роль невычислительных процессов в сознательном мышлении вообще.

А разве не очевидно, возразят мне, что восприятие того же красного цвета никак не может быть вызвано просто выполне­нием какого бы то ни было вычисления. К чему вообще утру­ждать себя какими-то ненужными математическими демонстра­циями, когда и без того совершенно ясно, что — т. е. субъективные ощущения — никак не связаны с вычислениями? Один из ответов заключается в том, что такое доказательство от «очевидного» (как бы благожелательно я ни относился к подоб­ному способу доказательства) применимо только к пассивным аспектам сознания. Как и китайскую комнату Серла, его можно представить в качестве аргумента против точки зрения , а вот между разницы для него не существует.

Более того, мне представляется крайне уместным побить функционалистов вместе с их вычислительной моделью (т. е. точ­кой зрения ), так сказать, на их собственном поле; ведь это именно функционалисты настаивают на том, что все qualia на самом деле должны быть так или иначе обусловлены баналь­ным выполнением соответствующих вычислений, невзирая на то, сколь невероятной такая картина может показаться на первый взгляд. Ибо, аргументируют они, что же еще можем мы эффек­тивно делать своим мозгом, как не выполнять те или иные вы­числения? Для чего вообще нужен мозг, если не в качестве свое­образной системы управления вычислениями — да, чрезвычайно сложными, но все же вычислениями? Какие бы «ощущения осо­знания» ни пробуждались в нас в результате той или иной функ­циональной активности мозга, эти ощущения, согласно функци-оналистской модели, непременно являются результатом некото­рой вычислительной процедуры. Функционалисты любят упре­кать тех, кто не признает за вычислительной моделью способ­ности объяснить любые проявления активности мозга, включая и сознание, в склонности к мистицизму. (Надо понимать так, что единственной альтернативой точки зрения .)

Во второй части книги я намерен привести несколько частных предположений относительно того, что еще может вполне эф­фективно делать мозг, допускающий научное описание. Не стану отрицать, некоторые «конструктивные» моменты моего доказа­тельства являются чисто умозрительными. И все же я полагаю, что мои доводы в пользу невычислимости хотя бы некоторых мыслительных процессов весьма убедительны; а для того, чтобы эта убедительность переросла в неотразимость, их следует при­менить к математическому мышлению.

1.19. Какое отношение имеет теорема Гёделя к «бытовым» действиям?

Допустим однако, что мы все уже согласны с тем, что при формировании осознанных математических суждений и получе­нии осознанных же математических решений в нашем мозге дей­ствительно происходит что-то невычислимое. Каким образом это поможет нам понять причины ограниченных способностей робо­тов, которые, как я упоминал ранее, значительно хуже справ­ляются с элементарными, «бытовыми», действиями, нежели со сложными задачами, для выполнения которых требуются вы­сококвалифицированные специалисты-люди? На первый взгляд, создается впечатление, что мои выводы в корне противополож­ны тем, к которым придет всякий здравомыслящий человек, ис­ходя из известных ограничений искусственного интеллекта — по крайней мере, сегодняшних ограничений. Ибо многим почему-то кажется, что я утверждаю, будто невычислимое поведение долж­но быть связано скорее с пониманием крайне сложных областей математики, а никак не с обыденным, бытовым поведением. Это не так. Я утверждаю лишь, что пониманию сопутствуют невы­числимые процессы одинаковой природы, вне зависимости отто­го, идет ли речь о подлинно математическом восприятии, скажем, бесконечного множества натуральных чисел или всего лишь об осознании того факта, что предметом удлиненной формы можно подпереть открытое окно, о понимании того, какие именно ма­нипуляции следует произвести с куском веревки для того, чтобы привязать или, напротив, отвязать уже привязанное животное, о постижении смысла слов «счастье», «битва» или «завтра» и, наконец, о логическом умозаключении относительно вероятного местонахождения правой ноги Авраама Линкольна, если извест­но, что левая его нога пребывает в настоящий момент в Вашинг­тоне, — я привел здесь некоторые из примеров, оказавшихся на удивление мучительными для одной реально существующей ИИ-системы! Такого рода невычислимые процессы лежат в основе всякой деятельности, результатом которой является непо­средственное осознание чего-либо. Именно это осознание поз­воляет нам визуализировать геометрию движения деревянного бруска, топологические свойства куска веревки или же «связ­ность» Авраама Линкольна. Оно также позволяет нам получить до некоторой степени прямой доступ к опыту другого человека, с помощью чего мы можем «узнать», что этот другой, скорее все­го, подразумевает под такими словами, как «счастье», «битва» и «завтра», несмотря даже на то, что предлагаемые в процессе общения объяснения зачастую оказываются недостаточно аде­кватными. Передать «смысл» слов от человека к человеку все же возможно, однако не с помощью объяснений различной сте­пени адекватности, а лишь благодаря тому, что собеседник уже, как правило, имеет в сознании некий общий образ возможного смысла этих слов (т. е. «осознает» их), так что даже очень неаде­кватных объяснений обычно бывает вполне достаточно для того, чтобы человек смог «уловить» верный смысл. Именно наличие такого общего «осознания» делает возможным общение между людьми. И именно этот факт ставит неразумного, управляемого компьютером робота в крайне невыгодное положение. (В самом деле, уже самый смысл понятия «смысл слова» изначально вос­принимается нами как нечто само собой разумеющееся, и поэто му совершенно непонятно, каким образом такое понятие можно сколько-нибудь адекватно описать нашему неразумному роботу.) Смысл можно передать лишь от человека к человеку, потому что все люди имеют схожий жизненный опыт или аналогичное вну­треннее ощущение «природы вещей». Можно представить «жиз­ненный опыт» в виде своеобразного хранилища, в которое скла­дывается память обо всем, что происходит с человеком в течение жизни, и предположить, что нашего робота не так уж и сложно таким хранилищем оснастить. Однако я утверждаю, что это не так; ключевым моментом здесь является то, что рассматриваемый субъект, будь то человек или робот, должен свой жизненный опыт осознавать.

Что же заставляет меня утверждать, будто упомянутое осо­знание, что бы оно из себя ни представляло, должно быть невы­числимым — иначе говоря, таким, что его не сможет ни достичь, ни хотя бы воспроизвести ни один робот, управляемый ком­пьютером, построенным исключительно на базе стандартных ло­гических концепций машины Тьюринга (или эквивалентной ей) нисходящего либо восходящего типа? Именно здесь и играют решающую роль гёделевские соображения. Вряд ли мы в на­стоящее время можем многое сказать об «осознании», напри­мер, красного цвета; а вот относительно осознания бесконечно­сти множества натуральных чисел кое-что определенное нам таки известно. Это такое «осознание», благодаря которому ребенок «знает», что означают слова «ноль», «один», «два», «три», «че­тыре» и т. д. и что следует понимать под бесконечностью этой по­следовательности, хотя объяснения ему были даны до нелепости ограниченные и, на первый взгляд, к делу почти не относящиеся, на примере нескольких бананов и апельсинов. Из таких частных примеров ребенок и в самом деле способен вывести абстрактное понятие числа «три». Более того, он также оказывается в состоя­нии понять, что это понятие является лишь звеном в бесконечной цепочке похожих понятий («четыре», «пять», «шесть» и т.д.). В некотором платоническом смысле ребенок изначально «знает», что такое натуральные числа.

Возможно, кто-то усмотрит здесь некий налет мистики, од­нако в действительности мистика здесь не при чем. Для пони­мания последующих рассуждений крайне важно отличать такое платоническое знание от мистицизма. Понятия, «известные» нам в платоническом смысле, суть вещи для нас «очевидные»: вещи, которые сводятся к воспринятому когда-то «здравому смыс­лу», — при этом мы не можем охарактеризовать эти понятия во всей их полноте посредством вычислительных правил. Дей­ствительно — и это станет ясно из дальнейших рассуждений, связанных с доказательством Гёделя, — не существует способа целиком и полностью охарактеризовать свойства натуральных чисел на основе лишь таких правил. А как же тогда описания числа через яблоки или бананы дают ребенку понять, что означа­ют слова «три дня», и откуда ему знать, что смысл абстрактного понятия числа «три» здесь совершенно тот же, что и в словах «три апельсина»? Разумеется, такое понимание иногда приходит к ребенку далеко не сразу, и на первых порах он, бывает, ошиба­ется, однако суть не в этом. Суть в том, что подобное осознание вообще возможно. Абстрактное понятие числа «три», равно как и представление о том, что существует бесконечная последова­тельность аналогичных понятий — собственно последователь­ность натуральных чисел, — и в самом деле вполне доступно человеческому пониманию, однако, повторяю, лишь через осо­знание.

Я утверждаю, что точно так же мы не пользуемся вычис­лительными правилами при визуализации движений деревянного бруска, куска веревки или Авраама Линкольна. Вообще говоря, существуют весьма эффективные компьютерные модели движе­ния твердого тела — например, деревянного бруска. С их по­мощью можно осуществлять моделирование такого движения с точностью и достоверностью, обычно недостижимыми при непо­средственной визуализации. Аналогично, вычислительными ме­тодами можно моделировать и движение веревки или струны, хо­тя такое моделирование почему-то оказывается несколько более сложным по сравнению с моделированием движения твердого те­ла. (Отчасти это связано с тем, что для описания положения «ма­тематической струны» необходимо определить бесконечно мно­го параметров, тогда как положение твердого тела описывается всего шестью.) Существуют компьютерные алгоритмы для опре­деления «заузленности» веревки, однако они в корне отличаются от алгоритмов, описывающих движение твердого тела (и не очень эффективны в вычислительном отношении). Любое воспроизве­дение с помощью компьютера внешнего облика Авраама Лин­кольна, безусловно, представляет собой еще более сложную за­дачу. Во всяком случае, дело не в том, что визуализация чего-либо человеком «лучше» или «хуже» компьютерного моделирования, просто это вещи совершенно различные.

Важный момент, как мне кажется, заключается в том, что визуализация содержит некий элемент оценки того, что человек видит, то есть сопровождается пониманием. Чтобы проиллю­стрировать, что я имею в виду, давайте рассмотрим одно эле­ментарное арифметическое правило, а именно: для любых двух натуральных чисел (т.е. неотрицательных целых чисел 0, 1, 2, 3, 4,...) а и b справедливо следующее равенство:

Следует пояснить, что это высказывание не является пустым, хотя части уравнения и имеют различный смысл. Запись слева означает совокупность а групп по b объектов в каждой; справа — b групп по а объектов в каждой. В частном случае, например, при запись можно представить следующим рядом точек: