Глаз разума - Даглас Хофштадтер

Представьте теперь, что наша предполагаемая машина-романист — не стационарный компьютер-ящик, а робот. И представьте — почему бы и нет? — что текст романа не печатается, а “говорится” механическим ртом. Назовем этого робота РЕЧИАК. Наконец, представьте, что история, которую мы узнаем от РЕЧИАКа о приключениях Гилберта, представляет собой более или менее правдивую историю “приключений” самого РЕЧИАКа. Когда его запирают в шкаф, он говорит: “Меня заперли в шкафу! Выпустите меня!” Выпустить кого? Гилберта. Но Гилберт не существует — он просто выдуманный персонаж в истории РЕЧИАКа. Но почему мы должны называть эту историю выдуманной, когда у нас есть очевидный кандидат на роль Гилберта: личность, чьим телом является РЕЧИАК? В “Где я?” Деннетт называл свое тело Гамлетом. Может быть, здесь у нас имеется Гилберт, тело которого называется РЕЧИАК, или же РЕЧИАК, называющий сам себя Гилбертом?

Может быть, нас сбило с толку имя. Назвать робота Гилбертом — то же самое, что назвать яхту “Каролина” или часы — “Биг Бен”, или программу — “ЭЛИЗА”. Можно настаивать, что за именем Гилберта в данном случае не стоит никакой личности. Но что, кроме био-шовинизма, дает нам основания предположить, что Гилберт — не является личностью, созданной деятельностью и самовыражением РЕЧИАКа в мире?

“В таком случае, вы полагаете, что я — лишь сон моего тела? Значит, я — выдуманный персонаж, созданный деятельностью моего тела?” Можно сказать и так — но к чему называть себя выдуманным? Ваш мозг, как и бессознательная машина-писатель, справляется со своими физическими задачами, сортирует входные и выходные данные, не представляя при этом, зачем он это делает. Подобно муравьям, составляющим муравьиную колонию по имени Мура Вейник в “Прелюдии… и Муравьиной фуге”, мозг не “знает”, что в процессе работы создает вас — но вот она, личность, возникающая почти чудом из суеты мозговой деятельности.

Этот процесс создания личности на одном уровне из относительно безмозглой и бессознательной деятельности, происходящей на другом уровне, живо иллюстрируется в следующей главе, эссе Джона Сирля, хотя сам он упорно отрицает эту интерпретацию показанной им картины.

Д.К.Д.

22

ДЖОН Р. СИРЛ

Разум, мозг и программы

Какое психологическое и философское значение имеют недавние попытки компьютерного моделирования познавательных способностей человека? При ответе на этот вопрос я буду проводить различие между “сильным” ИИ и “слабым” или “осторожным” ИИ (Искусственным Интеллектом). Согласно слабой версии ИИ, компьютеры — могучий инструмент для изучения разума. Они позволяют нам более точно формулировать и проверять гипотезы. Однако сильная версия ИИ утверждает, что компьютер — не только орудие для познания разума. По этой версии, должным образом запрограммированный компьютер является разумом, в том смысле, что компьютеры, снабженные соответствующей программой, не только в буквальном смысле слова понимают, но испытывают и другие когнитивные состояния. В сильном варианте ИИ программы — не только инструменты для тестирования психологических объяснений; скорее, они сами являются этими объяснениями.

Я не возражаю против слабой версии ИИ, по крайней мере, в этой статье. Дискуссия будет направлена против сильной версии ИИ, в особенности, против утверждения, что должным образом запрограммированный компьютер выказывает когнитивные состояния и что это объясняет человеческое познание. В дальнейшем под ИИ я буду подразумевать его сильную версию, придерживающуюся этих двух убеждений.

Я обсуждаю здесь труд Роджера Шенка и его коллег из Йелльского университета (Шенк и Абельсон, 1977), поскольку знаком с ним лучше, чем с другими работами на эту тему, и поскольку он представляет из себя яркий пример работы, которую я хотел бы проанализировать. Однако дальнейшее обсуждение не зависит от деталей программы Шенка. Те же самые аргументы приложимы и к программе Винограда ШРДЛУ (Виноград, 1973), программе Вайценбаума ЭЛИЗА (Вайценбаум, 1965) и любой попытке симулировать с помощью машин Тьюринга феномен человеческого мышления.

Вкратце программа Шенка может быть описана следующим образом: Цель программы — имитация человеческого умения понимать рассказы. Для человека характерно умение отвечать на вопросы о рассказе, давая в ответе информацию, которая прямо в рассказе не упоминалась. Представьте себе, что вы услышали следующий рассказ: “Человек пришел в кафе и заказал гамбургер. Когда ему принесли заказанное, гамбургер оказался подгоревшим дочерна, и разгневанный клиент выбежал из кафе, не заплатив по счету и не оставив чаевых.” Если вас спросят, съел ли тот человек гамбургер, вы, скорее всего, ответите: “Разумеется, нет!” Аналогично, если вы услышите следующий рассказ: “Человек пришел в кафе и заказал гамбургер. Когда ему принесли заказанное, гамбургер оказался превосходным, и довольный клиент, оплатив счет, оставил щедрые чаевые,” на вопрос “Съел ли он гамбургер?” вы, вероятно, ответите “Да, съел.” Машины Шенка могут отвечать на вопросы о ресторанах подобным образом. Для этого они снабжены “представлением” о той информации, которую люди имеют о ресторанах; поэтому на подобные вопросы эти программы способны ответить удовлетворительно. Когда в машину вводят рассказ и затем задают вопрос, подобный вышеприведенному, машина печатает ответ, который дал бы в похожей ситуации человек. Сторонники ИИ утверждают, что (1) при этом машина не только подражает человеческой способности, но в буквальном смысле слова понимает рассказанное и отвечает на вопросы, и (2) машина и ее программа объясняют человеческую способность понимать рассказы и отвечать на вопросы о них.

Мне кажется, что ни одно из этих двух утверждений совершенно не следует из работы Шенка. Я попытаюсь это доказать.

Один из способов проверить любую теорию разума состоит в том, чтобы представить себе, что было бы, если бы мой интеллект действительно работал так, как, согласно данной теории, работает любой разум. Давайте проверим теорию Шенка при помощи следующего мысленного эксперимента. Представьте себе, что меня заперли одного, дав мне большой китайский текст. Представьте себе, что я не знаю ни письменного, ни разговорного китайского (так это в действительности и есть), и что я не уверен даже в том, что смогу отличить китайское письмо от, скажем, японского или от бессмысленных каракулей. Для меня китайское письмо выглядит как бессмысленные каракули! Теперь представьте, что я снова получаю китайский текст, на этот раз вместе с набором правил, объясняющих, как соотнести этот текст с первым. Правила написаны по-английски, и я понимаю их, как понял бы любой носитель этого языка. Правила помогают мне соотносить между собой два набора формальных символов; “формальных” означает здесь то, что я могу идентифицировать эти символы исключительно по их форме. Далее, мне дают третий китайский текст, опять с инструкциями по-английски, позволяющими мне соотнести его с первыми двумя. Более того, они объясняют, как отвечать китайскими символами определенной формы на те или иные китайские символы, содержащиеся в третьем тексте. Я ничего не знаю о том, что люди, дающие мне все это, называют первый кусок “текстом”, второй — “рассказом”, а третий — “вопросами.” Они называют символы, которые я даю им после работы с третьим куском, “ответами на вопросы”, а набор правил, которые у меня имеются, — “программой”. Чтобы немного усложнить дело, представьте себе, что эти люди дают мне также рассказы по-английски, задают о них вопросы по-английски, и я отвечаю на них по-английски. Представьте также, что через некоторое время я так натренировался в работе с китайскими символами, а программисты — в составлении программ, что стороннему наблюдателю — то есть, наблюдателю, находящемуся вне комнаты, в которой я заперт, — мои ответы кажутся неотличимыми от ответов китайцев. Никто, глядя только на мои ответы, не предположил бы, что я не знаю ни слова по-китайски. Представьте себе также, что мои ответы на вопросы по-английски будут неотличимы от ответов других носителей языка, просто потому, что я сам — носитель английского языка. С точки зрения того, кто читает мои “ответы”, китайские ответы так же хороши, как английские. Однако, в отличие от английского, в случае китайского я произвожу ответы путем манипуляции с неинтерпретированными формальными символами. Я веду себя в этом случае, как компьютер; я произвожу действия с формально определенными элементами. При работе с китайским я становлюсь воплощением компьютерной программы.

Сильная версия ИИ утверждает, что запрограммированные должным образом компьютеры понимают рассказы и могут в какой-то мере объяснить человеческое понимание. Благодаря нашему мысленному эксперименту мы можем теперь проанализировать эти утверждения.