Файл: Пеноуз Роджер. Тени разума. В поисках науки о сознании.doc

примириться с тем, что нашей планетой, в конечном итоге, будут править абсолютно бесчувственные машины! Мне представляет­ся, что из всех точек зрения именно предлага­ет самый пессимистичный взгляд на будущее нашей планеты — вопреки, казалось бы, тому факту, что именно она лучше всего соотносится с так называемым «здравым смыслом».

Если же верить то можно ожидать, что компьютеры навсегда сохранят подчиненное по отношению к человеку положение — какими бы быстрыми, мощными или алгоритми­чески совершенными они ни стали. При этом точка зрения не отрицает возможности будущих научных разработок, которые могут привести к созданию неких устройств, принцип действия которых не будет иметь ничего общего с компьютерами в их сего­дняшнем понимании, а будет основан на той самой невычислимой физической активности, которая, согласно , обусловливает на­ше собственное сознательное мышление, — устройств, которые окажутся способны вместить в себя реальные разум и созна­ние. Быть может, в конечном итоге именно такие устройства, а вовсе не те машины, которые мы называем «компьютерами»,

и превзойдут человека в интеллектуальном отношении. Что ж, не исключено; однако подобные умозрительные прогнозы пред­ставляются мне в настоящий момент крайне преждевременными, поскольку мы практически не обладаем необходимыми для таких исследований научными познаниями, не говоря уже о каких бы то ни было технологических решениях. К этому вопросу мы еще вернемся во второй части книги

1.11. Обладают ли компьютеры правами и несут ли ответственность?

С некоторых пор умы теоретиков от юриспруденции начал занимать один вопрос, имеющий самое непосредственное отно­шение к теме нашего разговора, но в некотором смысле более практический). Суть его заключается в следующем: не пред­стоит ли нам в не столь отдаленном будущем задуматься над тем, обладают ли компьютеры законными правами и несут ли они ответственность за свои действия. В самом деле, если со временем компьютеры смогут достичь уровня человека (а то и превзойти его) в самых разных областях деятельности, то по­добные вопросы неминуемо должны приобрести определенную значимость. Если придерживаться точки зрения , то следует, очевидно, признать, что компьютеры (или управляемые компью­тером роботы)должны потенциально и обладать правами, и нести ответственность. Ибо, согласно этой точке зрения, между челове­ком и роботом достаточно высокого уровня сложности нет суще­ственной разницы, за исключением такой «мелочи», как различие в материальном строении. Однако приверженцам точки зрения ситуация представляется несколько более запутанной. Разумно утверждать, что вопрос о правах или ответственности уместен для созданий, наделенных способностью чувствовать, т. е. испыты­вать определенные, подлинно душевные «ощущения» — такие, как страдание, гнев, мстительность, злоба, вера (религиозная и общечеловеческая), желание, сомнение, понимание или страсть. Согласно управляемый компьютером робот не обладает та­кой способностью, вследствие чего, на мой взгляд, не может ни обладать правами, ни нести ответственность. С другой стороны, если верить не существует эффективного способа определить, что упомянутая способность у робота действительно отсутствует, поэтому если роботы смогут достаточно правдоподобно имити-

ровать поведение человека, то человек может оказаться в весьма затруднительном положении.

Подобного затруднения, по всей видимости, не возникнет у сторонников точки зрения (а также, возможно, ), поскольку, согласно этим точкам зрения, компьютеры не в состоянии убеди­тельно демонстрировать душевные переживания и, уж конечно же, ничего похожего не чувствуют и чувствовать никогда не будут. Соответственно, компьютеры не могут ни обладать правами, ни нести ответственность. Лично мне такая точка зрения пред­ставляется весьма разумной. Вообще в этой книге я выступаю как серьезный противник позиций Согласившись с моими аргументами, юристы, безусловно, существенно упростят себе жизнь: как таковые компьютеры или управляемые компьютерами роботы ни при каких обстоятельствах не обладают правами и не несут ответственности. Нельзя обвинить компьютеры в каких бы то ни было неприятностях или недоразумениях — виновен всегда человек!

Следует, однако, понимать, что вышеприведенные аргументы могут и не относиться к всевозможным гипотетическим «устрой­ствам», подобным упомянутым выше — тем, что смогут в ко­нечном итоге воплотить в себе принципы новой, невычисли­тельной физики. Но, поскольку перспектива появления таких устройств — если их вообще удастся создать — весьма туманна, возникновения связанных с ними юридических проблем в бли­жайшем будущем ожидать не приходится.

Проблема «ответственности» поднимает глубокие философ­ские вопросы, связанные с основными факторами, обусловли­вающими наше поведение. Можно вполне обоснованно утвер­ждать, что каждое наше действие так или иначе определяется наследственностью и окружением, а то и всевозможными слу­чайностями, непрерывно влияющими на нашу жизнь. Но ведь ни одно из этих воздействий никак не зависит лично от нас, почему же мы должны нести за них ответственность? Является ли понятие «ответственности» лишь терминологической услов­ностью, или дело в чем-то еще? Возможно, и впрямь существу­ет некая «самость» — нечто, стоящее «выше» уровня подоб­ных влияний и определяющее, в конечном счете, наши действия? В юридическом смысле понятие «ответственности» явно подра­зумевает, что внутри каждого из нас и в самом деле существу­ет своего рода независимая «самость», наделенная своей собственной ответственностью — и, по определению, правами, — причем ее проявления нельзя объяснить ни наследственностью, ни окружением, ни случайностью. Если же присутствие в нашей речи такой независимой «самости» не просто языковая услов­ность, то в современных физических представлениях недоста­ет чего-то весьма существенного. Открытие этого недостающе­го ингредиента, несомненно, многое изменит в нашем научном мировоззрении.

Хотя книга, которую вы держите в руках, и не дает исчер­пывающего ответа на эти серьезные вопросы, она, как я полагаю, может чуть приоткрыть дверь, отделяющую нас от них — не боль­ше, но и не меньше. Вы не найдете здесь неопровержимых дока­зательств непременного существования такой «самости», прояв­ления которой нельзя объяснить никакой внешней причиной, вам лишь предложат несколько шире взглянуть на самую природу возможных «причин». «Причина» может оказаться невычисли­мой — на практике или в принципе. Я намерен показать, что если упомянутая «причина» так или иначе порождается нашими сознательными действиями, то она должна быть весьма тонкой, безусловно невычислимой и не имеющей ничего общего ни с ха­осом, ни с прочими чисто случайными воздействиями. Сможет ли такая концепция «причины» приблизить нас к пониманию ис­тинной сущности свободы воли (или иллюзорности такой свобо­ды) — вопрос будущего.

1.12. «Осознание», «понимание», «сознание», «интеллект»

До сих пор я не ставил перед собой задачи точно опре­делить те неуловимые концепции, что так или иначе связаны с проблемой «разума». Формулируя положения в  я несколько туманно упоминал об «осознании», других же свойств мышления мы пока не касались. Думаю, что следует хотя бы попытаться прояснить используемую здесь и далее термино­логию — особенно в отношении таких понятий, как «понимание», «сознание» и «интеллект», играющих весьма существенную роль в наших рассуждениях.

Хотя я не вижу особой необходимости пытаться дать непре­менно полные определения, некоторые комментарии относительно моей собственной терминологии представляются все же умест­ными. Я часто с некоторым замешательством обнаруживаю, что употребление всех этих слов, столь очевидное для меня, не совпа­дает с тем, что полагают естественным другие. Например, термин «понимание», на мой взгляд, безусловно подразумевает, что ис­тинное обладание этим свойством требует некоторого элемента осознания. Не осознав сути того или иного суждения, мы, ра­зумеется, не можем претендовать на истинное понимание этого самого суждения. По крайней мере, я уверен, что эти слова сле­дует понимать именно так, хотя провозвестники ИИ, похоже, со мною не согласны и используют термины «понимание» и «осо­знание» в некоторых контекстах так, что первое никоим образом не предполагает непременного наличия второго. Некоторые из них (принадлежащие к категории ) полагают, что управляемый компьютером робот «понимает», в чем заключаются его инструкции, однако при этом никто и не заикается о том, что робот свои инструкции действительно «осознает». Мне кажется, что здесь перед нами всего-навсего неверное употребление тер­мина «понимание», пусть даже одно из тех, что обладают подлин­ной эвристической ценностью для описания функционирования компьютера. Когда мне потребуется указать на то, что термин «понимание» используется не в таком эвристическом смысле — т. е. при описании деятельности, для которой действительно необ­ходимо осознание, — я буду использовать сочетание «подлинное понимание».