Молох (сборник) - Станислав Лем

3

Правда, некую разновидность «инстинкта самосохранения» можно было бы в компьютерах реализовать, однако подобные меры не приблизят нас к разрешению проблемы. Дуглас Хофштадтер в своей толстой, забавной и интересной книге «Metamagical Themes» описывает ситуацию, когда он должен был отличить человека от машины, при этом в конце оказалось, что он разговаривал с несколькими студентами, отвечающими на его расспросы ТАКИМ ОБРАЗОМ, чтобы сбить его с толку. Когда он уже решил, что разговаривает с компьютером, правда была раскрыта. Что из этого следует? В наиболее примитивной форме дело представляется так, как я описал в «Сумме технологии» более тридцати лет назад. В книге говорилось, что можно осуществлять очередные и вместе с тем более перспективные конструкторские работы (сегодня я бы сказал «программирование»), меняя «разоблаченные» компьютеры на более совершенные с точки зрения имитации, и, может быть, дошли бы до такой модели, которую в разговорах отличить от человека было бы невозможно.

4

Между прочим, даже для повторения рассказанного найдутся уловки. Именно машины, сортирующие (например) научные статьи, запрограммированы таким образом, чтобы различать тексты в соответствии со «словами-ключами». Если частота появления таких слов, как «плазма крови», «гемофилия» или «клеточная оболочка», перешагнет определенный порог, значит, текст, вероятнее всего, относится к области медицины или (шире) биологии. Если в нем появляются «кварки» или «нуклиды» — понятно, куда его отнести. Однако поступая этим первоначально очень примитивным и «ничего не понимающим» способом, можно научить машину пересказывать так, чтобы повторение представленного ей текста было «скелетным» — грамматически, лексикографически и стилистически очень близким к рассказанному, но чтобы оно не совпадало дословно с исходным. То есть можно сделать машину удачным «обманщиком», выдающим себя за живого участника дискуссии, и на этом этапе появляется следующая проблема.

5

Мы не должны заниматься исключительно загадочным собеседником: следует интересоваться и тем, КАКОЙ ЧЕЛОВЕК тестирует машины. Ибо горький пьяница и тупица не будут квалифицированными экспертами наравне с человеком, имеющим диплом о высшем образовании, или писателем, или каким-нибудь необычным гением.

6

Впрочем, задача, поставленная Тьюрингом, сильно изменилась вследствие того, что именно сегодня о разнообразных возможностях компьютера мы знаем больше, чем о том, каким образом функционирует наш мозг. По моему мнению, основывающемуся не столько на чтении работ из области нейрофизиологии, сколько на собственном интроспекционном опыте, мозг состоит из большого количества подсистем, соединенных между собою для совместной работы таким образом, чтобы обеспечивать оптимальное получение результатов на основе различной информации, а также отражать необычайно долгий исторический (эволюционный) путь, который прошел мозг за тысячи поколений животных, впоследствии — гоминидов, а на финише — нас. Определенную зависимость сознания (боюсь этого термина) от состояния мозга стареющий человек испытывает в большей степени, чем молодой, находящийся в хорошем психическом состоянии. У такого старика, как я, иногда случается, что забывается имя хорошо известного ему ученого, например Пригожина или Планка. Усилие, прилагаемое для воспоминания (чего-либо), почти невозможно описать. Впрочем, часто оно оказывается напрасным, но видимая бесплодная работа «сознания» тем не менее приводит в движение некоторые механизмы из раздела «information retrieval[32]», так как почти всегда, раньше или позже, иногда через несколько десятков секунд, иногда на следующий день, искомый термин (здесь: имя) «всплывает» из непамяти. Как он был найден — не имею понятия, и пока никто не может мне этого объяснить. В любом случае здесь мы видим одну сторону владения профессиональной информацией, имеющейся в памяти. С другой стороны, человек, занятый напряженной умственной работой (или склеротик), много времени тратит на поиск очков, газеты, письма, так как откладывание, прятанье, оставление «где-то» выходит ЗА пределы запоминаемых действий, которые сознание ДОЛЖНО вложить хотя бы в извилины «кратковременной памяти». И эти неосознанные и беспамятные действия нередко бывают «осмысленными» и соответствуют обстоятельствам, то есть речь не идет о хранении носков в холодильнике или мороженого в ящике стола. Бывает это — как мы говорим — «неосмысленно», подобно поведению эпилептика, склонного к так называемому «petit mal», что значит моментальное временное «отключение» сознания, причем оно МОЖЕТ БЫТЬ присутствующими наблюдателями обнаружено либо нет, ибо иногда «пробел сознания» заполняется автоматически продолжаемым без перерыва действием. Таким образом, вместо приближения к расшифровке «сущности сознания», чтобы (кроме всего прочего) подойти к вопросу его имитации, мы встречаем новые препятствия. Выявление функций частей мозга благодаря рассечению corpus callosum, большой спайки, соединяющей двумястами миллионами нейронных волокон оба полушария мозга, а также вызванное этой операцией определенное «разделение» разума на два практически независимых «разума» эту проблему в последние годы удивительно усложнило. Неизвестно (опять), почему мы имеем мозг двудольным, является ли это следствием возникшей за многие миллионы лет двусторонней симметрии тел всех животных, которые нам предшествовали (то есть имеем дело с наследством «эволюционных решений» за веки веков), или скорее это результат взаимодействия нейронных систем, создающих мозг, работа которого на сегодняшний день оптимальна. Я скорее придерживаюсь первой версии объяснения, однако никакого доказательства ее верности предоставить не могу.

7

Возможно, что крутой тропинкой вывода я привел проблему к еще большей запутанности. Мне кажется, что тест Тьюринга, настолько сильно зависящий от развития и возможностей hardware и software, с каждым разом становится все менее убедительным определителем Человека и Машины. При этом возникает вопрос, наверное, больше интересующий философов, чем экспертов-информатиков: на кой черт нам нужна машина, так эффективно имитирующая человека, своим речевым поведением неотличимая от человека? Очевидно ведь, что эволюция компьютеров вместе с эволюцией программ от нашего разума не только и не просто ОТДАЛЯЕТСЯ, но одновременно вступает, причем во все увеличивающемся масштабе, в мыслительные пространства человека, которые в общем-то недоступны. То, что ни интуитивно, ни логически и осмысленно в области воображаемого конструирования мы имитировать сами не можем, смогут компьютеры. Наш мозг благодаря истории своего возникновения унаследовал и развил аффективную жизнь, все эти виды основных и дополнительных эмоций, стрессов, чувств, радости, терпения, грусти, счастья, боли, которые «бессознательному бытию» компьютеров остаются совершенно чуждыми, без которых компьютер ДОЛЖЕН обойтись и без которых — как утверждают нейрофизиологи — компьютер подражать человеку в его сознательной жизни никогда не сможет.

8

Несомненно, что сейчас так оно и есть. Будет ли так всегда — не знаю, причем по нескольким причинам, из которых не все смогу здесь изложить. Зона воздействия нашей психики на процессы, происходящие в организме, без сомнения, огромна, и неизвестно, где проходят ее границы. Мы знаем уже, например, что даже ткань, над которой человеческое тело не имеет власти, «взбунтовавшаяся ткань», анархическая, новообразованная, непосредственно САМА не подвергается воздействию мозга, но степень самообороны организма, противостоящего ее распространению, несомненно, зависит от состояния, в котором находится сознание больного. Деморализованные состоянием своего тела создают меньший отпор, чем те, которые хотят жить: своим желанием они оказывают более сильное сопротивление смертельной угрозе. Во время депрессии разума все функции тела увядают и слабеют, а в возбуждении — укрепляются: отсюда исходит круг циклофренических болезней (типичная для этого круга попеременность депрессии и маниакального возбуждения). Это не совсем относится к теме, но программа, позволяющая компьютеру имитировать такую умственную болезнь, как паранойя, была создана уже довольно давно. Кроме чувственной жизни, «потребность» в которой для нас очевидна, хотя это трудно объяснить, мы отдаемся власти Морфея: треть жизни мы проводим или, иначе говоря, «тратим» во сне. На вопрос, ДЛЯ ЧЕГО нам нужен сон, и в особенности «чему служат» сонные видения, до сегодняшнего дня нет одного очевидного ответа и потому собственно (так как ответы многих различны) НИЧЕГО определенного в этом вопросе не известно. Без сна человек долгое время, более чем неделю, не может обойтись. Компьютеры же не спят и «потребности» в этом не испытывают. Что же это значит?