Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 29.06.2024

Просмотров: 611

Скачиваний: 0

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

СОДЕРЖАНИЕ

Роджер пенроуз

1.2. Спасут ли роботы этот безумный мир?

1.3. Вычисление и сознательное мышление

1.4. Физикализм и ментализм

1.5. Вычисление: нисходящие и восходящие процедуры

1.6. Противоречит ли точка зрения в тезису Черча—Тьюринга?

1.7. Хаос

1.8. Аналоговые вычисления

1.9. Невычислительные процессы

1.10. Завтрашний день

1.11. Обладают ли компьютеры правами и несут ли ответственность?

1.12. «Осознание», «понимание», «сознание», «интеллект»

1.13. Доказательство Джона Серла

1.14. Некоторые проблемы вычислительной модели

1.15. Свидетельствуют ли ограниченные возможности сегодняшнего ии в пользу ?

1.16. Доказательство на основании теоремы Гёделя

1.17. Платонизм или мистицизм?

1.18. Почему именно математическое понимание?

1.19. Какое отношение имеет теорема Гёделя к «бытовым» действиям?

1.20. Мысленная визуализация и виртуальная реальность

1.21. Является ли невычислимым математическое воображение?

Примечания

2 Геделевское доказательство

2.1. Теорема Гёделя и машины Тьюринга

2.2. Вычисления

2.3. Незавершающиеся вычисления

2.4. Как убедиться в невозможности завершить вычисление?

2.5. Семейства вычислений; следствие Гёделя — Тьюринга

2.6. Возможные формальные возражения против

2.7. Некоторые более глубокие математические соображения

2.8. Условие -непротиворечивости

2.9. Формальные системы и алгоритмическое доказательство

2.10. Возможные формальные возражения против (продолжение)

Примечания

Приложение а: геделизирующая машина тьюринга в явном виде

3 О невычислимости в математическом мышлении

3.1. Гёдель и Тьюринг

О психофизи(ологи)ческой проблеме

Р.Пенроуз. Тени ума: в поисках потерянной науки о сознании. Penrose r. Shadows of the mind: a search for the missing science of consciousness. - Oxford, 1994. - XVI, 457 p.

1.7. Хаос

В последние годы ученые проявляют огромный интерес к ма­тематическому феномену, известному под названием «хаос», — феномену, в рамках которого физические системы оказываются способными на якобы аномальное и непредсказуемое поведение (рис. 1.1). Образует ли феномен хаоса необходимую невычисли­мую физическую основу для такой точки зрения, как ?

Хаотические системы — это динамически развивающиеся физические системы, математические модели таких физических систем или же просто математические модели, не описываю­щие никакой реальной физической системы и интересные сами по себе; характерно то, что будущее поведение такой системы чрезвычайно сильно зависит от ее начального состояния, причем определяющими могут оказаться самые незначительные факто­ры. Хотя обыкновенные хаотические системы являются полно­стью детерминированными и вычислительными, на деле может показаться, что в их поведении ничего детерминированного нет и никогда не было. Это происходит потому, что для сколько-нибудь надежного детерминистического предсказания будущего поведения системы необходимо знать ее начальное состояние с такой точностью, которая может оказаться просто недостижимой не только для тех измерительных средств, которыми мы распола­гаем, но также и для тех, которые мы только можем вообразить.

В этой связи чаще всего вспоминают о подробных долго­срочных прогнозах погоды. Законы, управляющие движением молекул воздуха, а также другими физическими величинами, ко­торые могут оказаться релевантными для определения будущей погоды, хорошо известны. Однако реальные синоптические ситу­ации, которые могут возникнуть всего через несколько дней после предсказания, настолько тонко зависят от начальных условий, что нет никакой возможности измерить эти условия достаточно точно для того, чтобы дать хоть сколько-нибудь надежный про­гноз. Безусловно, количество параметров, которые необходимо ввести в подобное вычисление, огромно; поэтому, быть может, и нет ничего удивительного в том, что в данном случае предсказание может оказаться на практике просто невозможным.

С другой стороны, подобное — так называемое хаотиче­ское — поведение может иметь место и в случае очень простых систем; примером тому служат системы, состоящие из малого количества частиц. Вообразите, что от вас требуется загнать в лузу бильярдный шар Е, расположенный пятым в некоторой из­вилистой и очень растянутой цепочке шаров ; вам нужно ударить кием по шару А так, чтобы тот ударил шар В, который, в свою очередь, ударил бы шар С, который ударил бы шар D, который ударил бы шар Е, который, наконец, по­пал бы в лузу. В общем случае необходимая для этого точность значительно превышает способности любого профессионального игрока в бильярд. Если бы цепочка состояла из 20 шаров, то тогда — даже допустив, что эти шары представляют собой иде­ально упругие точные сферы — задача загнать в лузу последний шар оказалась бы не под силу и самому точному механизму из всех доступных современной технологии. Поведение последних шаров цепочки было бы, в сущности, случайным, несмотря на то, что управляющие поведением шаров ньютоновы законы матема­тически абсолютно детерминированы и, в принципе, эффективно вычислимы. Никакое вычисление не смогло бы предсказать ре­альное поведение последних шаров цепочки просто потому, что нет никакой возможности добиться достаточно точного определения реального начального положения и скорости движения кия или положений первых шаров цепочки. Более того, даже самые незначительные внешние воздействия, вроде дыхания человека в соседнем городе, могут нарушить эту точность до такой степени, которая полностью обесценит результаты любого подобного вы­числения.


Здесь необходимо пояснить, что, несмотря на столь серьез­ные трудности, встающие перед детерминистическим предска­занием, все нормальные системы, к которым применим термин «хаотические», следует относить к категории систем, которые я называю «вычислительными». Почему? Как и в других ситуаци­ях, которые мы рассмотрим позднее, для того, чтобы определить, является ли та или иная процедура вычислительной, достаточно задать себе вопрос: выполнима ли она на обычном универсальном компьютере? Очевидно, что в данном случае ответ может быть только утвердительным, по той простой причине, что математиче­ски описываемые хаотические системы и в самом деле изучаются, как правило, с помощью компьютера!

Разумеется, если мы попытаемся создать компьютерную мо­дель для подробного предсказания погоды в Европе в течение недели или же для описания последовательных столкновений расположенных вдоль некоторой кривой на достаточно большом расстоянии друг от друга двадцати бильярдных шаров после того, как по первому из них резко ударили кием, то можно почти с пол­ной определенностью утверждать, что результаты, полученные с помощью нашей модели, и близко не будут похожи на то, что произойдет в действительности. Такова природа хаотических систем. На практике бесполезно пытаться с помощью вычисле­ний предсказать реальное конечное состояние системы. Тем не менее, моделирование типичного конечного состояния вполне возможно. Предсказанная погода может и не совпасть с реаль­ной, но она абсолютно правдоподобна как погода вообще! Точно так же и предсказанный результат столкновений бильярдных ша­ров абсолютно приемлем как возможный исход, даже несмотря на то, что на самом деле шары могут повести себя совершенно не так, как предсказано вычислением, — однако и при этом их поведение остается в равной степени приемлемым. Упомянем еще об одном обстоятельстве, которое подчеркивает идеально вы­числительную природу таких операций: если запустить процесс компьютерного моделирования вторично, задав те же входные

данные, что и ранее, то результат моделирования будет точно таким же, как и в первый раз! (Здесь предполагается, что сам компьютер не ошибается; впрочем, надо признать, что современ­ные компьютеры и в самом деле крайне редко совершают при вычислениях реальные ошибки.)

Возвращаясь к искусственному интеллекту, отметим, что ни­кто пока и не пытается воспроизвести поведение какого-то кон­кретного индивидуума; нас бы прекрасно устроила модель инди­видуума вообще! В этом контексте моя позиция вовсе не пред­ставляется такой уж неразумной: хаотические системы следует безусловно относить к категории систем, которые мы называем «вычислительными». Компьютерная модель такой системы и в самом деле выглядела бы как абсолютно приемлемый «типичный случай», даже и не совпадая при этом ни с каким «реальным случаем». Если внешние проявления человеческого разума суть результаты некоей хаотической динамической эволюции (эволю­ции вычислительной в том смысле, о котором мы только что го­ворили), то это вполне согласуется с точками зрения , но никак не


Время от времени выдвигаются предположения, что, воз­можно, именно феномен хаоса — если, конечно, он действительно имеет место в деятельности мозга как физической сущности — позволяет человеческому мозгу симулировать поведение, якобы отличное от вычислительно-детерминированного функциониро­вания машины Тьюринга, хотя, как подчеркивалось выше, фор­мально его активность является целиком и полностью вычисли­тельной. К этому вопросу мне еще придется вернуться несколько позднее . Пока же достаточно уяснить лишь то, что хаотические системы относятся к категории систем, называемых мною «вычислительными» или «алгоритмическими». Вопрос же о том, можно ли смоделировать какую-нибудь из таких систем на практике, не входит в круг принципиальных вопросов, которые мы здесь рассматриваем.

 


1.8. Аналоговые вычисления

До сих пор я рассматривал «вычисление» только в том смысле, в котором этот термин применим к современным циф­ровым компьютерам или, точнее, к их теоретическим предше­ственникам — машинам Тьюринга. Существуют и другие раз­новидности вычислительных устройств, особенно широко распространенные в не столь отдаленном прошлом; вычислительные операции здесь осуществляются не посредством переходов меж­ду дискретными состояниями «вкл./выкл.», знакомыми нам по цифровым вычислениям, а с помощью непрерывного изменения того или иного физического параметра. Самым известным из та­ких устройств является логарифмическая линейка, изменяемым физическим параметром которой является линейное расстояние (между фиксированными точками на линейке). Это расстояние служит для представления логарифмов чисел, которые нужно пе­ремножить или разделить. Существует много различных разно­видностей аналоговых вычислительных устройств, в которых мо­гут применяться и другие типы физических параметров — такие, например, как время, масса или электрический потенциал.

В случае аналоговых систем необходимо учитывать одно формальное обстоятельство: стандартные понятия вычисления и вычислимости применимы, строго говоря, только к дискретным системам (над которыми, собственно, и выполняются «цифро­вые» действия), но не к непрерывным, таким, например, как расстояния или электрические потенциалы, с которыми имеет дело традиционная классическая физика. Иными словами, для того чтобы применить обычные вычислительные понятия к систе­ме, описание которой требует не дискретных (или «цифровых»), а непрерывных параметров, мы естественным образом должны прибегнуть к аппроксимации. Действительно, при компьютерном моделировании физических систем вообще стандартной проце­дурой является аппроксимация всех рассматриваемых непре­рывных параметров в дискретной форме. Подобная процедура, однако, неминуемо вносит некоторую погрешность, величина ко­торой определяется заданной степенью точности аппроксимации; при этом вполне возможно, что для той или иной интересую­щей нас физической системы заданной точности может оказать­ся недостаточно. В итоге дискретное компьютерное моделиро­вание очень просто может привести нас к ошибочным выводам относительно поведения моделируемой непрерывной физической системы.

В принципе, ничто не мешает повысить точность до уровня, адекватного для моделирования рассматриваемой непрерывной системы. Однако на практике, особенно в случае хаотических систем, требуемые для этого время вычислений и объем памяти могут оказаться непомерно большими. Кроме того, можем ли мы, строго говоря, быть абсолютно уверенными в том, что выбран­ная нами степень точности является действительно достаточ­ной. Необходим какой-то критерий, который позволил бы нам определить, что нужный уровень точности достигнут, дальней­шего ее повышения не требуется и качественному поведению, вычисленному с такой точностью, в самом деле можно доверять. Все это поднимает ряд достаточно щекотливых математических вопросов, рассматривать которые подробно на этих страницах мне представляется не совсем уместным.


Существуют, однако, и другие подходы к проблемам вычис­лений в случае непрерывных систем; например, такие, в кото­рых непрерывные системы рассматриваются как самостоятель­ные математические структуры со своим собственным понятием «вычислимости» — понятием, обобщающим идею вычислимо­сти по Тьюрингу с дискретных величин на непрерывные. При таком подходе исчезает необходимость в аппроксимации непре­рывной системы дискретными параметрами с целью применить к ней традиционную концепцию вычислимости по Тьюрингу. Такие идеи вызывают определенный интерес с математической точки зрения; к сожалению, им, как нам представляется, не достает пока той неотразимой естественности и уникальности, которые присущи стандартному понятию вычислимости по Тьюрингу для дискретных систем. Более того, вследствие определенной непо­следовательности данного подхода, формально «невычислимы­ми» оказываются и некоторые простые системы, в применении к которым подобная терминология выглядит как-то не совсем уместно (даже такие, например, как известное всем из физики простое «волновое уравнение»; см. [313] и НРК, с. 187-188). С другой стороны, следует упомянуть и об одной сравнительно недавней работе ([327]), в которой показано, что теоретические аналоговые компьютеры, объединяемые в некоторый достаточно обширный класс, не могут выйти за рамки обычной вычисли­мости по Тьюрингу. Я надеюсь, что дальнейшие исследования должным образом осветят эти безусловно интересные и важные темы. Пока же у меня нет оснований полагать, что работы в этом направлении в целом уже достигли той стадии завершенности, чтобы их результаты можно было применить к рассматриваемым здесь проблемам.

В этой книге меня в особенности занимает вопрос о вычисли­тельной природе умственной деятельности, где термин «вычислительный» следует рассматривать в стандартном смысле вычис­лимости по Тьюрингу. В самом деле, компьютеры, которыми мы сегодня повседневно пользуемся, являются цифровыми, и имен­но это их свойство оказывается существенным для современных разработок в области ИИ. Наверное, логичным будет предпо­ложить, что в будущем может появиться «компьютер» какого-то иного типа, решающую роль в функционировании которого будут играть (пусть даже и не выходя при этом за общепринятые теоретические рамки современной физики) непрерывные физиче­ские параметры, что позволит такому компьютеру демонстриро­вать поведение, существенно отличное от поведения цифрового компьютера.