Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

3.28. Заключение

Представленные в данной главе аргументы дают, по всей видимости, недвусмысленное доказательство того, что челове­ческое математическое понимание несводимо к вычислительным механизмам (по крайней мере, тем из них, что мы способны познать), каковые механизмы могут представлять собой какие угодно сочетания нисходящих, восходящих либо случайных про­цедур. Похоже, у нас нет иного выхода, кроме как однозначно заключить, что некую существенную составляющую человече­ского понимания невозможно смоделировать никакими вычисли­тельными средствами. Хотя в строгом доказательстве, возможно, еще и остались какие-то крошечные «лазейки», вряд ли сквозь них можно протащить что-нибудь существенное. Кто-то очень рассчитывает на лазейку под названием «божественное вмеша­тельство» (посредством которого в наши мозги-компьютеры был просто-напросто установлен некий чудесный алгоритм, для нас принципиально непознаваемый) или на аналогичную ей лазейку, согласно которой сами по себе механизмы, управляющие совер­шенствованием мыслительных процессов, представляют собой нечто в высшей степени таинственное и принципиально для нас непознаваемое. Вряд ли какая-либо из этих лазеек (хотя обе они, безусловно, имеют некоторое право на существование) покажет­ся хоть сколько-нибудь приемлемой тем, кто стремится создать искусственное устройство, наделенное подлинным интеллектом. Равно неприемлемы они и для меня — я просто не могу в них всерьез поверить.

Суть еще одной возможной лазейки заключается в том, что может просто не найтись такого набора мер предосторожности (вроде тех, что в общем виде задаются пределами подробно описанными выше в этой главе), которого было бы достаточно для устранения абсолютно всех ошибок в конечном множестве-утверждаемых-высказываний, сложность ко­торых не превышает с. Мне трудно поверить в возможность су­ществования столь совершенного «заговора», способного поме­шать устранению всех ошибок, тем более, что деятельность на­шего элитного сообщества роботов изначально должна быть на­правлена как раз на максимально тщательное исключение оши­бок. Более того, освободить от ошибок нам необходимо всего лишь конечное множество-высказываний. Применив идею ансамблей, мы, несомненно, справимся и со всеми случайными ошибками, какие может допустить само сообщество, так как ма­ловероятно, что одну и ту же ошибку допустит кто-то еще, кроме незначительного меньшинства различных экземпляров модели­руемого сообщества роботов — при условии, что это действительно просто ошибка, а не какое-то изначально заложенное в систему заблуждение, обнаружить которое роботам помешает та или иная фундаментальная блокировка. Встроенные блокировки такого рода не относятся к «исправимым» ошибкам, нашей же целью в данном случае является устранение ошибок, в известном смысле «исправимых».

Последняя лазейка (едва правдоподобная) связана с ро­лью хаоса. Возможно ли, что при тщательном анализе поведе­ния некоторых хаотических систем обнаружатся структуры су­щественно неслучайного характера и именно в области этой «границы хаоса» мы отыщем ключ к пониманию эффективно невычислимого поведения разума? Такой вариант подразуме­вает необходимость того, чтобы эти хаотические системы бы­ли способны приближенно моделировать невычислимое пове­дение (весьма интересная возможность сама по себе), одна­ко даже если так оно и есть, подобная неслучайность в рам­ках предшествующего обсуждения может пригодиться лишь для некоторого уменьшения размеров ансамбля моделируемых со­обществ роботов (см. §3.22). Не совсем ясно, каким образом это уменьшение может нам сколько-нибудь существенно помочь. Тем, кто всерьез верит в то, что ключи к пониманию человече­ской ментальное™ таит в себе хаос, следует озаботиться поис­ками разумного способа обойти упомянутые фундаментальные проблемы.

Приведенные выше аргументы, по всей видимости, пред­ставляют собой убедительное доказательство невозможности со­здания вычислительной модели разума (точка зрения), рав­но как и невозможности эффективного (но бездумного) вычис­лительного моделирования всех внешних проявлений деятель­ности разума (точка зрения). И все же, несмотря на убеди­тельность этих аргументов, я подозреваю, что очень многим из нас будет чрезвычайно трудно с ними согласиться. Вместо того, чтобы изучить возможность того, что для понимания феномена интеллекта (что бы за этим словом ни стояло) более подходящей окажется точка зрения(или даже), многие приверженцы научного подхода ограничились одними лишь попытками отыс­кать слабые места в вышеприведенной аргументации, и все это исключительно ради поддержания упрямой убежденности в том, что точка зрения(в крайнем случае,) непременно должна в конце концов оказаться истинной.

Я не считаю такую реакцию неразумной. Точки зрения тоже не свободны от фундаментальных противоречий. Если мы верим, в соответствии с, в то, что человеческий разум содержит в себе нечто, с научной позиции не объяснимое — а интеллект есть свойство, совершенно отдельное от всего того, что мож­но обнаружить внутри математически определенных физических сущностей, населяющих нашу материальную вселенную, — то нам следует спросить себя, почему же разум человека оказывает­ся столь, по всей видимости, тесно связан с тем сложноорганизо-ванным физическим объектом, каковым является его мозг. Если интеллект действительно представляет собой нечто отдельное от физического тела, то почему нашим ментальным сущностям все же необходимы наши физические мозги? Совершенно очевид­но, что изменение физического состояния мозга может повлечь за собой изменение ментального состояния сопутствующего ему разума. Воздействие на мозг некоторых наркотиков, например, весьма определенно связывается с существенными изменениями в психике и восприятии. Равным образом, повреждение, заболе­вание или хирургическое удаление определенных участков мозга, как правило, оказывает четко выраженное и предсказуемое воз­действие на умственное состояние данного конкретного индиви­дуума. (Особенно драматическими в этом контексте представля­ются поразительные отчеты, опубликованные Оливером Саксом в его книгах «Пробуждения» (1973) и «Человек, который при­нял свою жену за шляпу»(1985).) Итак, получается, что со­вершенно разделять интеллект и соответствующий физический объект нельзя. А если интеллект связан-таки с определенными физическими объектами — и, похоже, связан весьма тесно, — то научные законы, столь точно описывающие поведение физи­ческих объектов, не должны сплоховать и при описании свойств интеллекта.

Что касается точки зрения, то здесь возникают проблемы иного рода, — связанные, в основном, с ее выраженным спеку­лятивным характером. Что заставит нас поверить в то, что при­родные феномены действительно могут демонстрировать какое-то там невычислимое поведение? Всем известно, что мощь совре­менной науки опирается (и, чем дальше, тем больше) на тот факт, что поведение любого физического объекта можно моделировать с помощью численных методов, при этом точность получаемой модели зависит исключительно от «комплексности» выполнен­ных вычислений. С ростом научного понимания стремительно растет и прогнозирующая способность таких численных моделей. В практическом отношении этим ростом мы, по большей части, обязаны быстрому развитию — в основном, во второй половине двадцатого века — вычислительных устройств необычайной мо­щи, скорости и точности. В результате перед нами открылся ши­рокий простор для проведения все более тесных аналогий между тем, что происходит в недрах современных универсальных ком­пьютеров, и всевозможными проявлениями самой материальной вселенной. Имеются ли у нас сколько-нибудь осмысленные ука­зания на то, что происходящее представляет собой лишь времен­ную фазу развития науки? Чего ради мы должны всерьез рас­сматривать возможность существования физических процессов, неподвластных эффективному вычислительному подходу?

Если в рамках существующей на данный момент фи­зической теории мы попытаемся отыскать какие бы то ни бы­ло следы процессов, хотя бы отчасти не поддающихся вычис­лению, то нас ожидает разочарование. Какой известный физи­ческий феномен ни возьми — от динамики материальной точки Ньютона и электромагнитных полей Максвелла до искривлен­ного пространства-времени Эйнштейна и самых глубинных хит­росплетений современной квантовой теории — все они замеча­тельно, как нам представляется, описываются с помощью исклю­чительно вычислительных методов); картину немного портит то обстоятельство, что процесс «квантового измерения» пред­полагает еще и наличие абсолютно случайной составляющей, вследствие чего изначально незначительные эффекты усилива­ются до такой степени, что становится возможным объективное их восприятие. Нигде здесь нет ничего такого, что можно было бы охарактеризовать как «физический процесс, который вычис­лительными методами невозможно даже правдоподобно смоде­лировать», а как раз такой процесс подразумевается точкой зре­ния. Таким образом, из двух версийпредпочтение, видимо, следует отдать «сильной» (см. § 1.3).

Важность этого выбора трудно переоценить. Многие лю­ди с научным складом мышления говорили мне, что они вполне согласны с выдвинутой мною в НРК позицией (т. е. с тем, что деятельность разума включает в себя какие-то «невычислительные» процессы), однако вместе с тем они были убеждены в том, что для отыскания этих самых «невычислительных» процессов вовсе не нужно дожидаться каких-то революционных прорывов в теоретической физике. Как мне представляется, их точка зре­ния основывается на том факте, что крайняя сложность процес­сов, обусловливающих функционирование разума, выходит да­леко за рамки стандартной компьютерной аналогии (в том виде, в каком ее впервые предложили Маккаллох и Питтс в 1943 го­ду), в которой нейроны и синаптические связи представляются аналогами транзисторов, а аксоны выступают в роли проводни­ков. Они говорят о сложности химических процессов, связан­ных с деятельностью нейромедиаторов, управляющих синапти-ческой передачей нервных импульсов, или о том, что область действия этих химических соединений далеко не всегда ограни­чивается непосредственной окрестностью соответствующей си-наптической связи. Кроме того, они указывают на чрезвычайно хитроумное устройство самих нейронов, важнейшие из под­структур которых (например, цитоскелет — о его действительно решающей роли в контексте нашего исследования мы подроб­нее поговорим ниже; см. §§7.4—7.7) оказывают существенное влияние на нейронную активность в целом. К делу привлекают­ся и прямые электромагнитные взаимодействия («резонансные эффекты», например), которые невозможно просто так объяс­нить обычными нервными импульсами; утверждают также, что в функционировании мозга важную роль должны играть эффекты, описываемые квантовой теорией, имея в виду либо квантовые неопределенности, либо нелокальные коллективные квантовые взаимодействия (например, феномен так называемой «конденса­ции Бозе—Эйнштейна»).

Хотя окончательных и недвусмысленных математических те­орем на этот счет в нашем распоряжении практически нет, все же вряд ли кто-либо всерьез сомневается в том, что все существующие физические теории являются по своей природе и в своей основе вычислительными — возможное же привнесе­ние несущественной случайной составляющей обусловлено су­ществованием такого феномена, как «квантовые измерения». Во­преки ожиданиям, я думаю, что возможность протекания невы­числительных (и неслучайных) процессов в физических системах, действующих в рамках существующей физической теории, все же чрезвычайно интересна сама по себе и, разумеется, достойна самого подробного математического исследования. Такое иссле­дование вполне может преподнести нам немало сюрпризов — возможно, нам и в самом деле удастся наткнуться на нечто хит­роумное и совершенно невычислимое. На современном же этапе развития науки вероятность обнаружения в рамках известных нам физических законов какой-либо подлинной невычислимости представляется мне крайне малой. Следовательно, необходимо в самих законах отыскать слабые места и расширить их в доста­точной степени для того, чтобы включить ту невычислимость, ко­торая, согласно вышеприведенным аргументам, неизбежно при­сутствует в мыслительной деятельности человека.

Что же это за слабые места? Лично у меня почти нет сомне­ний относительно того, где именно следует нанести наиболее мас­сированный удар по существующей физической теории — наи­слабейшим ее звеном является уже упоминавшаяся выше про­цедура так называемого «квантового измерения». На нынешнем этапе своего развития теория содержит в себе некоторые про­тиворечия (или, по меньшей мере, несообразности) в отноше­нии всей существующей процедуры этого самого «измерения». Неясно даже, на каком именно этапе в той или иной ситуации эту процедуру следует применять. Более того, вследствие суще­ственно случайного характера самой процедуры, ее наблюдаемые физические проявления оказываются весьма отличными от всего того, что известно нам по другим фундаментальным процессам. Подробнее эти вопросы мы обсудим во второй части книги.

Как мне кажется, эта процедура измерения нуждается в кар­динальном пересмотре — не исключено, что попутно придется подвергнуть существенным изменениям и самые основы теоре­тической физики. Кое-какие имеющиеся у меня предложения я изложу во второй части книги (§6.12). Представленные в преды­дущих разделах рассуждения содержат весьма сильные доводы в пользу того, что чистую случайность существующей теории измерения необходимо заменить чем-то иным, чем-то таким, где определяющую роль будут играть существенно невычислимые элементы. Более того, как мы увидим ниже (§7.9), эта невычис­лимость непременно окажется какой угодно, но только не про­стой. (Например, закона, который, посредством какого-то ново­го физического процесса, «всего лишь» позволит нам устанав­ливать истинность-высказываний — т. е. решать тьюрингову «проблему остановки» — будет самого по себе недостаточно.)

Отыскание подобной, новой и непростой, физической теории уже само по себе является достаточно серьезным вызовом нашим интеллектуальным способностям, однако это еще далеко не все. Необходимо также потребовать, чтобы найденный нами прав­доподобный основополагающий принцип такого гипотетического физического поведения имел самое непосредственное отношение к функционированию мозга — сообразно со всеми ограничения­ми и критериями достоверности, предъявляемыми современной наукой о строении мозга. Нет никакого сомнения в том, что и здесь, учитывая теперешний уровень нашего понимания, не обой­тись без изрядной доли умозрительности. Однако как раз в этой области за последнее время были совершены некоторые подлин­но революционные открытия (в период написания НРК я об этом, естественно, не знал), связанные с цитоскелетной подструктурой нейронов (подробнее см. §7.4), — благодаря этим открытиям предположение о том, что существенные для функционирования мозга процессы происходят именно на границе между квантовы­ми и классическими феноменами, приобретает гораздо большее правдоподобие, чем можно было представить себе прежде. Эти вопросы мы также будем обсуждать во второй части (§§7.5—7.7). Необходимо еще раз подчеркнуть, что предметом наших по­исков никоим образом не должно стать простое усложнение в рамках существующей физической теории. Кто-то, например, убежден в том, что абсолютно немыслимо построить адекватную модель сложных перемещений и хитроумной химической актив­ности соединений-нейромедиаторов, вследствие чего подробное физическое описание функционирования мозга вычислительны­ми методами неосуществимо. Однако, говоря о невычислитель­ном поведении, я имею в виду совсем не это. Я полностью со­гласен с тем, что наших познаний о совокупности биологических структур и электрохимических механизмов, отвечающей за функ­циональную деятельность мозга, совершенно недостаточно для сколько-нибудь серьезной попытки численного моделирования. Более того, даже если бы у нас и достало познаний, то постро­ить рабочую модель деятельности мозга за какой-либо приемле­мый промежуток времени нам все равно не удастся ввиду недо­статочно высокой вычислительной мощности современных ком­пьютеров и отсутствия соответствующей методологии програм­мирования. Однако в принципе, объединив уже существующие представления о химии соединений-нейромедиаторов, об обеспечивающих их перенос механизмах, о зависимости эффективно­сти этих соединений от конкретных условий среды, биоэлектри­ческих потенциалов, электромагнитных полей и т.д., выполнить подобное моделирование вполне возможно. Следовательно, упо­мянутые общие механизмы, предположительно согласующиеся с требованиями существующей физической теории, не в состоянии обеспечить той невычислимости, какой требуют вышеприведен­ные аргументы.