Сознание и формальная логика

(Иногда "убедительное доказательство" не уступает логическому)

Евгений Корниенко

Можно симулировать глупость, но не живой ум. Не родился ещё такой программист, который мог предусмотреть все предстоящие ситуации в жизни этого робота.

Представьте себе, что в магазине продаётся домашний робот-слуга, в инструкции к которому сказано, что он обладает сознанием, то есть у него есть ощущения и эмоции. Как вы сможете это проверить?

Я говорю не об интеллекте, не о способности к разумному поведению, а только о первых признаках сознания - субъективных ощущениях. Робот вполне может правильно (разумно) подметать пол и мыть посуду и при этом не испытывать никаких ощущений.

Проверку наличия сознания неплохо начать с конструктивного определения сознания. Тут и обнаруживается несводимость материальных и идеальных процессов. Объективное определение сознания невозможно, так как персональные пространства субъективного опыта не связаны субъективными (идеальными) каналами связи. Они связаны через материальные каналы, в результате чего "чужое ощущение не ощутишь."

Поэтому вместо объективного определения, сводимого к непротиворечивым измерениям, приходится вводить субъективное, логически не строгое определение, корректность которого невозможно проверить прямыми физическими измерениями. В лучшем случае возможны косвенные измерения, подтверждающие весьма правдоподобные (но не имеющие строгого логического обоснования) связи между идеальными и физическими явлениями. Такие определения и тесты (правила измерений) для проверки наличия сознания есть на моём сайте.

Доказательство наличия сознания, полученное таким образом, является не логическим, а убедительным. Это не только "увёртка" от строгого доказательства, но также и намёк на то, что прежде, чем проводить предусмотренные тестом испытания, нужно убедить того, кто будет проверять результаты теста, в том, что определённые результаты теста свидетельствуют о наличии сознания у проверяемого объекта.

Как же в этом можно убедить, если заранее известно, что невозможно логическое доказательство связи между физическими измерениями (наблюдениями) и наличием ощущений. Для такого доказательства применяется убедительное рассуждение, которое обращено как к разуму, так и к чувствам.

Не нужно больших усилий, чтобы "убедить" недостаточно образованного человека. Известно, что многие испытуемые принимали диалог с "Элизой" за диалог с разумным компьютером. Многие готовы поверить, что Deep Blue имел цель обыграть Каспарова. Один из участников comp.ai.philosophy совершенно серьёзно делал вывод, что скорпиону больно на основании того, что скорпион "пытался сам себя ужалить", когда его заливали воском.

В нашем случае доказательство должно быть убедительным для образованного и скептически настроенного эксперта. Построить такое доказательство не просто. И даже если это получится, оно остаётся логически не строгим. Аксиомы формальной логики тоже обоснованы лишь жизненным опытом и здравым смыслом.

Многие вещи, в которых мы не сомневаемся, не могут быть строго доказаны. Например, вы уверены, что Солнце взойдёт завтра также, как это происходит миллионы лет. В качестве доказательства вы могли бы привести научные сведения об устройстве солнечной системы и о законах механики. Но,

1) Люди были не менее, чем вы уверены в этом факте задолго до появления понятия "солнечная система".

2) Законы механики - это индуктивное обобщение некоторых наблюдений.

Формулировки законов природы - это не строго логические выводы из наблюдений. Это аксиоматические утверждения о наиболее общих закономерностях природы и логические выводы из этих утверждений. Если бы Солнце завтра не взошло, то этот неожиданный факт был бы сильнее, чем наши теории. Он заставил бы нас искать новое объяснение.

Вернёмся к роботу-слуге. Возможно, что живое общение с этим роботом поможет вам выяснить, кто перед вами -

Чувствующий субъект или бездушная машина?

Под впечатлением этой сложной проблемы, вы покупаете себе "робота-слугу" не столько для того, чтобы он помог вам по хозяйству, а для того, чтобы выяснить действительно ли он обладает сознанием.

По мере запуска различных узлов и установки нужных программ, робот оживает. Поначалу он выглядит как довольно неуклюжая машина, но постепенно показывает некоторые способности в уборке дома. Он знакомится с вами и с вашей семьёй. Начинает участвовать в вашей обычной жизни. Иногда смотрит вместе с вами новости по телевизору.

Наконец ваше знакомство становится достаточно неформальным, и вы задаёте ему прямой вопрос о его сознании. Он утверждает, что он видит как вы, чувствует боль, имеет желания, любит природу. Оказалось, что его интересует не только уборка дома, и с ним можно поговорить. Вы решаете больше общаться с этим роботом, чтобы выяснить, действительно наука создала чувствующее искусственное существо, или это просто искусно сделанный механизм.

Вы не знаете, как на самом деле устроен этот робот. Он тоже этим интересуется. Но вам не удаётся заглянуть внутрь, так как ваш друг робот говорит, что ему больно.

Вскоре вы становитесь искренними друзьями. Обсуждаете философские проблемы и политические новости, ходите на рыбалку и играете в шахматы с переменным успехом.

Наступил момент, когда вы понимаете, что ваш друг не имитирует разум. Можно симулировать глупость, но не живой ум.

Вы понимаете, что вы интеллектуально равны, что не родился ещё такой программист, который мог предусмотреть все предстоящие ситуации в жизни этого робота. В новой и трудной обстановки робот иногда находит неожиданно удачные новые решения. Вы уже хорошо понимаете его, видите, что ему приятно, чего он избегает. У него есть свои желания, потребности и интересы. Теперь вы убеждены, что бездушная машина была бы неспособна на такую дружескую привязанность.

После десяти лет этой необычной дружбы вы случайно находите на спине вашего друга маленькую этикетку "Windows compatible". И вы понимаете, что надо разведать истину где-то в империи Microsoft. Там вы находите лабораторию искусственного интеллекта, где вам объясняют, что компьютер не может обладать чувствами и сознанием, проблема сознания ещё не решена, и они все десять лет управляли вашим другом-роботом по радио.

Что делать? Оказывается вы тратили свои искренние чувства на "дружбу" с "механизмом"? Вы отказываетесь поверить, что это кусок железа, а не разумное существо!

Вы рассказываете всю правду вашему другу роботу. Он тоже считает, что его обманули, раз его волей управляли какие-то неизвестные люди. В отчаянии он желает покончить с собой и разрезает себе живот. Вы видите колёсики, трубки, проводки, микросхемы. О чём это говорит?

А может, микрософтовские программисты над вами посмеялись? И ваш друг на самом деле думал, чувствовал и любил вас без всякого постороннего управления.