Глаз разума - Даглас Хофштадтер

Мы можем установить соответствие между первоначальной ситуацией Сирла и этим новым положением дел. Теперь “нескольким клочкам бумаги” соответствуют все синапсы в мозгу женщины. Программе ИИ, написанной на этих “клочках бумаги”, соответствует вся конфигурация ее мозга; это равно гигантской инструкции, говорящей демону, когда и какие синапсы он должен трогать. Акту написания “бессмысленных каракулей по-китайски” соответствует акт прикосновения к ее синапсам. Представьте себе, что мы возьмем ситуацию в таком же виде, изменив только параметры размеров и скорости. Мы увеличим мозг этой женщины до размеров земного шара; таким образом, вместо крохотного демона мы получим демона размером с человека. Пусть этот новый демон действует с более или менее человеческой скоростью, вместо того, чтобы пролетать по мозгу тысячи миль за несколько микросекунд. С каким уровнем мы, по мнению Сирла, теперь должны ассоциироваться? Не будем гадать; заметим только, что если Ответ Систем был убедительным в прошлый раз, он должен оставаться таковым и теперь.

Надо согласиться с тем, что мысленный эксперимент Сирла живо поднимает вопрос о том, что такое понимание языка. Подумайте над вопросом: “Какой тип умения манипулировать с письменными или устными символами языка равносилен настоящему пониманию этого языка? Попугаи, имитирующие английскую речь, не понимают английского. Записанный на пленку женский голос, сообщающий по телефону точное время, не является ртом системы, понимающей английский. За этим голосом нет никакой ментальности; он лишен ментального субстрата, хотя все еще звучит похоже на человеческий голос. Ребенок мог бы удивиться, как кто-либо способен выполнять такую скучную работу и делать это с такой аккуратностью. Это весьма позабавило бы нас. Другое дело, если бы этот голос был управляем гибкой программой ИИ, которая могла бы пройти тест Тьюринга!

Представьте себе, что вы преподаете английский в Китае. Представьте также, что вы сознаете, что формулируете все свои мысли по-английски и только в последнюю минуту применяете к ним правила трансформации (на самом деле, это будут правила последней секунды), превращающие английские мысли в инструкции по движению вашего рта и голосовых связок странным, “бессмысленным” способом — и, тем не менее, все ваши ученики кажутся вполне удовлетворенными вашим уроком. Когда они поднимают руку, они издают экзотические звуки, которые, хотя они и кажутся вам совершенно бессмысленными, вы способны расшифровать. Вы быстро применяете обратную трансформацию и получаете лежащие за ними английские значения. Считали бы вы, что действительно говорите по-китайски? Что теперь вы лучше понимаете образ мыслей китайцев? Можете ли вы вообще вообразить себе подобную ситуацию? Может ли кто-либо хорошо говорить на иностранном языке при помощи такой системы?

Обычный рецепт таков: “Вы должны научиться думать по-китайски”. Но в чем это заключается? Любой, кто это испытал, без труда узнает это описание: звуки другого языка вскоре становятся “неслышными” — вы слышите сквозь них, вместо того, чтобы слышать их, как вы смотрите сквозь окно, а не на него. Разумеется, вы можете, если сильно постараетесь, заставить себя слышать хорошо знакомый язык как чистые, неинтерпретированные звуки, так же, как вы можете, если захотите, смотреть на оконное стекло. Однако вам не удастся проделать оба трюка одновременно — невозможно слушать звуки сразу со значением и без значения. В большинстве случаев люди сосредотачиваются только на значении. Тех, кто учит иностранный язык из любви к его звучанию, это немного разочаровывает — и все же владение звуками языка, даже если человек уже не может воспринимать их “наивно”, — это прекрасное, радостное переживание. (Интересно было бы приложить тот же тип анализа к музыке, где разница между слушанием чистых звуков и пониманием их “значения” гораздо менее понятна, хотя и кажется вполне реальной.)

Изучение иностранного языка предполагает выход за границы языка собственного. При этом новый язык вводится в среду, в которой происходит мышление. Мысли могут возникать так же легко (или почти так же легко) на новом языке, как и на родном. То, как новый язык постепенно, уровень за уровнем, погружается в мозг и, наконец, оказывается поглощенным нейронами, все еще остается огромной загадкой. Точно только то, что при этом ваша “подсистема родного языка” не выполняет для вас программу правил, позволяющих вам рассматривать новый язык как набор бессмысленных звуков и значков. Каким-то образом новый язык должен слиться с вашей репрезентативной системой — репертуаром идей, образов и тому подобное — так же тесно, как слит с ней ваш родной язык. Чтобы думать об этом точнее, необходимо выработать понятие уровней введения — мощное компьютерное понятие.

Специалисты по компьютерам привыкли к тому, что одна система может подражать другой. На самом деле, это следует из теоремы, доказанной в 1936 году Аланом Тьюрингом: любой цифровой компьютер общего назначения может сойти за любой другой цифровой компьютер общего назначения; единственная разница между ними для стороннего наблюдателя будет заключаться в их скорости. Слово “подражать” обозначает симуляцию одним компьютером другого, в то время как “имитировать” обозначает моделирование других явлений — таких, как, например, ураганы, кривая роста населения, выборы или даже компьютерные пользователи.

Основная разница заключается в том, что имитация почти всегда приблизительна и зависит от типа модели данного феномена, в то время как симуляция одним компьютером другого в каком-то смысле точна. Настолько точна, что когда, например, компьютер Сигма-5 симулирует компьютер другой архитектуры — такой, например, как DEC PDP-10 — пользователи не догадаются, что они не имеют дела с настоящим DEC. Внедрение одной архитектуры в другую порождает так называемые “виртуальные машины” — в данном случае, виртуальный DEC-10. За каждой виртуальной машиной всегда стоит некая другая машина. Это может быть машина того же типа или даже еще одна виртуальная машина. В своей книге “Structured Computer Organization” Эндрью Танненбаум использует понятие виртуальных машин, чтобы объяснить, каким образом большие компьютерные системы могут быть представлены как множество виртуальных машин, симулирующих одна другую — при этом настоящей машиной является та, что лежит в основании “пирамиды”. Так или иначе, уровни непроницаемы друг для друга. Аналогично, демон Сирля не мог заговорить с китайцем, частью которого он являлся. (Интересно было бы вообразить, какой могла быть их беседа; ясно только то, что для разговора им понадобился бы переводчик — ведь демон не знал китайского!)

Теоретически возможно, чтобы два уровня сообщались между собой, но это по традиции считается дурным тоном; смешение уровней запрещено. Тем не менее возможно, что этот запретный плод — смешение двух уровней имплементации — как раз и возникает, когда человеческая “система” изучает иностранный язык. Второй язык не действует “поверх” первого, как некая программа-паразит; вместо этого он, как и первый язык, в большей или меньшей степени входит в саму структуру аппаратуры. Усвоение второго языка влечет за собой глубокие изменения в поддерживающей “аппаратуре” — разнообразные изменения в том, как возбуждаются нейроны. Как следствие, создаются новые способы для феноменов высшего уровня — символов — активировать друг друга.

Подобным образом в компьютерной системе программа высшего уровня должна вносить изменения в “демона”, выполняющего свою программу. Это совершенно чуждо современному типу имплементации, при котором уровни располагаются строго один над другим по вертикали и каждый из них изолирован от других. Способность высшего уровня “загибаться назад” и затрагивать низшие уровни — свой собственный фундамент — это магический трюк, который, как нам кажется, близок самому сердцу сознания. Может быть однажды станет ясно, что это ключ к достижению все большей гибкости компьютерного дизайна и, в конце концов, разработке искусственного интеллекта. В частности, удовлетворительный ответ на вопрос о том, что такое “понимание”, безусловно потребует гораздо более точного определения того, как различные уровни системы манипуляции символами могут взаимозависеть и изменять друг друга. В целом эти идеи еще мало разработаны, и возможно, мы поймем их еще не скоро.

В процессе этого довольно туманного обсуждения уровней вы могли начать задумываться над тем, что в действительности обозначает слово “уровень”. Это очень трудный вопрос. Пока уровни изолированны друг от друга, как в случае демона Сирля или говорящей по-китайски женщины, на этот вопрос ответить несложно. Но берегитесь, когда они начинают смешиваться! Сирль мог бы согласиться с тем, что в его мысленном эксперименте присутствуют два уровня, но он отказывается признать, что в нем есть две точки зрения — два реальных существа, которые чувствуют и “переживают некий опыт”. Его беспокоит то, что, как только мы допустим, что некая компьютерная система может переживать опыт, откроется ящик Пандоры и внезапно разум окажется повсюду — в урчании желудков, в печени, автомобильных моторах и так далее.