Будущее разума - Митио Каку

Понятно, что с точки зрения той продвинутой цивилизации, способной одновременно следить за миллиардами звездных систем, выбор планетных систем для колонизации достаточно велик. Учитывая громадность Галактики, они могут собрать данные из множества систем, а затем спокойно выбрать, на каких планетах и лунах лучше всего добывать ресурсы. Может быть, Земля им не понравится.

15. Последние замечания

Империи будущего будут империями разума.

Если мы и дальше будем развивать технику без оглядки на мудрость или осторожность, то слуга может оказаться нашим палачом.

В 2000 г. в научном сообществе разразилась настоящая буря. Один из основателей Sun Computers Билл Джой написал зажигательную статью, в которой объявил о смертельной опасности, которая угрожает человечеству со стороны передовых технологий. Статья с провокационным названием «Будущему мы не нужны» в журнале Wired гласила: «Самые мощные наши технологии XXI века – робототехника, генная инженерия и нанотехнологии – грозят сделать человечество вымирающим видом». В статье подвергался сомнению моральный облик сотен преданных делу ученых, раздвигающих в своих лабораториях пределы человеческих знаний. Джой подверг сомнению самую суть научных исследований и заявил, что польза от развития техники намного меньше тех громадных угроз, которые эта самая техника создает для человечества.

Он развернул перед глазами читателей жуткую антиутопию, в которой все наши технологии сговорились уничтожить цивилизацию. Против нас когда-нибудь обернутся три ключевых наших создания, предупреждал он:

• когда-нибудь микробы, полученные биоинженерными методами, выскользнут за стены лабораторий и учинят на Земле настоящий хаос. Поскольку собрать их обратно невозможно по очевидным причинам, они, скорее всего, бешено размножатся и породят на планете смертельную чуму хуже, чем в Средние века. Не исключено, что биотехнологии даже изменят ход эволюции человека, положив начало «нескольким отдельным и неравноценным видам… что поставит под угрозу концепцию равенства – краеугольный камень нашей демократии»;

• когда-нибудь наноботы могут взбеситься и выплеснуть в мир неограниченное количество «серой слизи», которая покроет Землю целиком и задушит на ней всякую жизнь. Поскольку наноботы «переваривают» обычные вещества и преобразуют их в другие формы, то испортившиеся наноботы могут выйти из-под контроля и пожрать значительную часть планеты. «Серая слизь станет, безусловно, грустным финалом человеческих приключений на Земле; это намного хуже простого огня или льда, к тому же начаться может с обычной лабораторной случайности»;

• когда-нибудь роботы захватят власть и сменят человечество. Они станут настолько разумными, что просто оттолкнут человечество на обочину. Мы останемся лишь примечанием в книге эволюции. «Роботы ни в каком смысле не будут нашими детьми… На этом пути наше человечество вполне может погибнуть».

Джой утверждал, что по сравнению с опасностью, которую представляют для нас эти три чуда техники, опасность атомной бомбы периода 1940-х гг. может показаться пустяком. Тогда Эйнштейн предупреждал о том, что ядерным технологиям под силу разрушить цивилизацию: «Ясно с поразительной очевидностью, что наши технологии превзошли нашу человечность». Но атомная бомба была создана в результате масштабной правительственной программы, которую можно было жестко регулировать, тогда как эти технологии развиваются частными компаниями, где регулирование сильно ослаблено, если вообще присутствует, указывает Джой.

Конечно, соглашается он, в краткосрочной перспективе эти технологии, возможно, облегчат страдания. Но в долгосрочной перспективе все преимущества померкнут перед тем фактом, что результатом развития этих технологий может стать научный армагеддон, способный положить конец роду человеческому.

Джой даже обвинил ученых в эгоизме и наивности в их попытках создать лучшее общество. Он писал: «Традиционная утопия – это хорошее общество и хорошая жизнь. Хорошая жизнь невозможна без других людей. Эта техноутопия сводится только к заявлениям типа: “Я не буду болеть; я не умру; я буду лучше видеть и поумнею” и т. п. Если бы вы рассказали об этом Сократу или Платону, они посмеялись бы над вами».

Завершается статья следующим заявлением: «Я думаю, не будет преувеличением сказать, что мы стоим на пороге дальнейшего совершенствования абсолютного зла, возможности которого простираются гораздо дальше, чем возможности оружия массового уничтожения по отношению к отдельным государствам…»

Какой же из этого может следовать вывод? «Что-то вроде вымирания», – предупреждает Джой.

Как и ожидалось, статья вызвала целую бурю возражений.

После выхода этой статьи прошло уже больше десяти лет – для высоких технологий это целая жизнь. Сегодня уже можно посмотреть на некоторые из предсказаний автора с позиций нового знания. Оглядываясь назад и рассматривая предупреждения в перспективе, мы без труда заметим, что Билл Джой преувеличил угрозу высоких технологий, но одновременно вынудил ученых взглянуть в лицо этическим, моральным и социальным последствиям их работы, а это всегда хорошо.

Кроме того, его статья положила начало дискуссии о том, что такое человек. Разгадывая молекулярные, генетические и нейронные загадки мозга, не дегуманизируем ли мы в какой-то степени человека, не упрощаем ли, сводя человеческую сущность к набору атомов и нейронов? Если нам удастся нанести на карту все нейроны мозга до единого, а также отследить все нервные пути, не лишит ли это человечество покрова тайны и магии?

Ответ Биллу Джою

Задним числом понятно, что угроза со стороны роботов и нанотехнологий далеко не так близка, как считал Билл Джой, и я сказал бы, что предупрежденное человечество успеет предпринять самые разные контрмеры (к примеру, запретить некоторые направления исследований, если они ведут к созданию неуправляемых роботов, или вставить в них специальные чипы для выключения в критических ситуациях, или разработать надежные устройства для иммобилизации в случае необходимости вообще всех роботов).

Более близкую угрозу несут биотехнологии, где опасность со стороны биомикробов, «улизнувших» из лаборатории, может оказаться вполне реальной. Более того, Рэй Курцвайль и Билл Джой совместно написали статью, где раскритиковали публикацию в открытой печати полного генома вируса испанки 1918 г. – одного из самых опасных убийц современности, погубившего больше людей, чем Первая мировая война. Исследовав тела и кровь жертв эпидемии, ученые восстановили давно погибший вирус, секвенировали его гены и опубликовали результаты в Интернете.

Меры предосторожности против случайного распространения таких опасных вирусов уже принимаются, но необходимо и дальше усиливать их и добавлять новые уровни безопасности. В частности, если новый вирус внезапно проявит себя в каком-нибудь отдаленном уголке мира, у ученых должны быть готовы команды быстрого реагирования, способные изолировать вирус в природе, секвенировать его гены, а затем быстро приготовить вакцину, которая поможет остановить его распространение.

Как это повлияет на будущее сознания

Этот спор, помимо всего, окажет непосредственное влияние на будущее разума. В настоящее время нейробиология находится на достаточно примитивном уровне. Ученые могут прочитать и даже записать на видео простые мысли живого мозга, зафиксировать кое-какие воспоминания, связать мозг с механическими руками (а значит, дать возможность пациентам, лишенным связи с внешним миром, управлять машинами), могут заставить замолчать какие-то конкретные области мозга при помощи магнитного поля, а также определить, нарушение работы каких конкретно участков мозга вызывает болезнь, но не могут сделать еще очень и очень многого.

Однако в ближайшие десятилетия нейробиологию, возможно, ждет взрывной рост. Мы сегодня на пороге новых поразительных научных открытий. Когда-нибудь человек научится без всякого труда силой мысли управлять объектами вокруг себя, записывать воспоминания, лечить болезни психики, повышать интеллект, понимать мозг до последнего нейрона, создавать резервные копии мозга и телепатически общаться друг с другом. Мир будущего будет миром разума.

Но Джой и не оспаривал потенциальные возможности наших технологий в деле облегчения боли и страданий людей. Ужас у него вызывало другое. Он думал о том, что расширение возможностей человека может расколоть род человеческий. В статье он нарисовал грустную антиутопию, в которой крохотная часть человечества – элита – получит усиленный интеллект и разовьет другие ментальные процессы, а основная масса людей будет жить в бедности и невежестве. Его тревожит, что человеческая раса расколется надвое, и может быть, часть ее вовсе перестанет быть людьми[22].