Молох (сборник) - Станислав Лем

3

Таким образом, первоначально и в общих чертах представленная концепция «генетических алгоритмов» способна скрывать в себе парадокс, который мы до сих пор раскусить не могли. Во-первых, начну с наиболее простого, оказывается, что эти алгоритмы по самой своей сути (и уже именно поэтому подобны работающим в живой материи) «абсолютных» или же «окончательных» результатов дать не способны. В экономической практике это не является каким-нибудь несчастьем, так как получение решения, аппроксимирующего оптимум или минимум в границах 95 %, — это уже весьма полезно. Рассматривая проблему с биологической стороны, видим, что такие алгоритмы наверняка наполняют эволюционную жизнь, так как и в ней «абсолютно совершенных» эволюционных решений никогда, как правило, нет. Есть только быстрые успехи и еще более быстрые неудачи.

Во-вторых, недавно открыты группы, «командующие» генетическим багажом каждого вида. Назвали их «HOX», и насчитывается этих HOX’ов от одного до пяти, а может быть, и до восьми. Это они дирижируют развитием так, что определяют, где у оплодотворенной яйцеклетки должна развиться голова, где туловище, где конечности и КАКИЕ. Некоторые биологи говорят даже о том, что будто бы можно энергично воздействовать на HOX’ы — возвращать эволюционное развитие современных нам видов в прошлое на 200 и даже 400 миллионов лет. Пока практические достижения были скромными, но подождем с выводами о скромности еще какое-нибудь десятилетие.

Удивительным же является то, что представления, которые появляются для NP-проблем благодаря созданию «эпигенетических ландшафтов», кажутся спорными и противоречащими представлениям, возникающим благодаря HOX’ам. Действительно, каждый HOX постоянно устанавливает архитектонику строения в соответствии с видовой нормой, а отклонения внутри HOX’а (это не ген, а как бы малый локальный генеральный штаб) вызывают тяжелейшие, летальные дефекты (двухголовость и другие уродства у людей, и не только у людей). Похоже на то, что совершенство в быстроте решений наверняка НЕ было чрезвычайно большой эволюционной ценностью и каким-то образом было сдержано в пользу «больших симфонических концертов» под управлением серии HOX’ов, благодаря чему после примерно 800 миллионов лет эволюции многоклеточных (после так называемого кембрийского взрыва) и мы смогли возникнуть и заселить Землю, а для пользы или нет — это скажется в XXI веке.

4

Действенность генетических алгоритмов является новшеством, удивляющим меня (того, кто несколько десятков лет призывал глухой мир учиться у Госпожи Эволюции), может быть, меньше, чем математиков и программистов с биологами во главе.

Удовлетворительность экономических результатов, радующую Великий Капитал, я считаю микроскопическим явлением на фоне нового, только появляющегося взгляда на эволюционные процессы, благодаря которому они начинают раскрывать сейчас свой удивительный потенциал и не менее примечательный строгий порядок. Гены являются своеобразным алфавитом, а из них строящиеся организмы создают конструкции, по-разному архитектонично функционирующие, пожалуй, лишь с одним постоянным параметром — смертью, без которой развитие вообще не было бы возможно как прогресс (по крайней мере тот прогресс, который мы способны увидеть в размахе, отделяющем одноклеточных типа PARAMECIUM CAUDATUM[142] EHRENBERG от HOMO SAPIENS SAPIENS).

Из алфавита можно сложить как незатейливые стишки, так и шекспировские драмы и трагедии. Видимо, уже необратимо оказались мы на этой дороге, и тем самым приближается день, когда мы овладеем уже не кратчайшей геометрией коммивояжеров и не обеспечением экономизации авиационных компаний, а способностью строительства живых организмов. Что с этой способностью сможет сделать человек — такой вопрос следует оставить без ответа из-за опасений, которые приходят в голову, когда мы желаем найти на него ответ.

5

Не следует считать, что проблемы типа «NP», разламываемые при помощи генетических алгоритмов, — это уже ВСЕ в сущности проблемы, с которыми можно еще встретиться. Существуют, естественно, и такие задачи, в которых генетической алгеброй, генетическими алгоритмами добраться к цели не удастся. И также никто не должен считать, что мы благодаря представленным выше открытиям уже достигли вершины знаний и тем самым уже все теоретико-практические трудности на будущих наших дорогах будем способны преодолеть. Считаю открытия, сделанные благодаря генетике, так же, как и открытия дирижерских генов (HOX), важнейшими шагами, которые были сделаны в области биологии в двадцатом веке. Технологии, рожденные жизнью и имеющие внебиологическую применимость, я всегда считал совершенными SUI GENERIS, и поэтому в глуши шестидесятых годов тщетно писал о том, как много пользы (и как ужасно много опасностей) станет нашим трофеем, когда выйдем из области жизни, применяя подсмотренные у жизни инструменты и стратегии, в человеческий мир. Думал и о том, что эффекты, порожденные этим, может быть, окажутся и нечеловеческими, но чрезмерно и не предостерегал, успокоенный тем, что когда я вещал о добре или зле, никто меня не слушал. Что, впрочем, является естественным ходом вещей и делом не особенно важного значения.

Умные роботы[143]

1

Огромное количество теоретиков и практиков разных специальностей, существующих на Земле, работают в последнее время над тем ответвлением Искусственного Интеллекта, которому можно приписать sui generis схожесть с человеческим складом ума или, говоря с осторожностью более широко, со складом ума животных.

2

На чем это сходство должно основываться? Проблема поддается разделению на «архитектоническую часть» (например, на то, какие нейроподобные сети следовало бы сконструировать, какие процессоры и т. д.) и на теоретическую часть с явным философским привкусом. Здесь я займусь второй частью, ибо проблема архитектоники строительного материала псевдоразума так же второстепенна, как и проблема, содержащаяся в вопросе, как должно двигаться транспортное средство по пересеченной местности: при помощи гусениц или каких-то специального вида колес, подобных тем, при помощи которых передвигались американские и советские лунные машины.

3

Сконцентрированные и сокращенные до основного стержня «философские вопросы» приводят к следующей проблеме: каким образом ввести в «разум робота» ВОЛЕВУЮ составляющую. Самая лучшая шахматная программа в самом быстром на сегодняшний день компьютере не содержит ни одного волевого компонента. Она обладает примерно таким же «стремлением к заданной (престабилизированной) цели», как металлический шар, разбивающий стены, которые мы хотим разрушить, или как снаряд, выпущенный из пушки. Программа некоторым образом имитирует желание достичь заданной сверху цели, а разница между движущимся снарядом и очередным шахматным ходом основывается на том, что снаряд «по дороге к цели» не наталкивается на мешающие ему преграды (точнее, «не должен» натолкнуться благодаря знанию артиллеристов, которое наверняка «находится вне пушек и снарядов»), в то же время дорогу к цели (каковой является поставленный противнику МАТ) затрудняет программе тот же противник своими ходами, которые должны полностью свести на нет «постановку мата» программой.

4

Подражание волевым актам или «хотению» чего-либо, разумеется, возможно, но это тоже есть чистая имитация, ничего общего с подлинным актом воли не имеющая. Если, например, программа должна искусно имитировать волевые акты, программист должен предвидеть, какие возможные препятствия программа встретит и каким образом она должна им «противостоять». Таких возможных преград должно быть много или очень много. На очередной вопрос, необходимо ли все «поддающиеся предвидению» преграды explicite запрограммировать (или предвидеть весь их набор, ограниченный сверху), можно ответить, что так быть не должно. Естественная эволюция не действует так, чтобы «программы», действующие в живых созданиях, смогли справиться со «всеми возможными преградами». Известно, например, что хотя мухи уже сотни лет могут, ПОТОМУ ЧТО так запрограммированы, живо выскользнуть из-под хлопушки для мух, они не способны «разгрызть» загадку СТЕКЛА (окна). С точки зрения их образа жизни способность мух к «обучению» (или к созданию видовых условных рефлексов) по сравнению с пчелами очень мала, поскольку пчелы овладели даже «сигнальным языком», так как он был им необходим в искусстве выживания (survival of the fittest). ЭТИМ искусством, не заданным извне ПРОГРАММИСТОМ, а попросту являющимся результатом долгих серий процесса естественного отбора, никакие сконструированные людьми роботы еще не овладели. Мы можем развивать имитацию «воли выживания», писать научные трактаты о квазиволевом функционировании, конструировать все более сложные псевдонейронные сети, но мы не сможем опуститься до молекулярного уровня, на котором уже вирусы и бактерии умеют так «перетасовывать» свои геномы, что способны избежать или преодолеть разрушающие их действия лекарств (например, антибиотиков). Это обычно и происходит для нейтрализации губительного (для микроорганизмов) биохимического действия лекарства или с целью такого изменения антигенной структуры микроорганизма, что «лекарство не может его найти». Иногда я использую метафорические определения, так как иначе я должен был бы приводить длинные и сложные рассуждения в физических, химических или биохимических терминах, от которых предпочитаю отказаться, ибо мне здесь важно только то, что зачатки «хотения», зародыши волевых актов уже можно найти в наиболее простых живых организмах.