Конфликт, которого можно избежать - Айзек Азимов

— Что? Почему?

— А вот почему. Если вы попытаетесь сделать это, вы увидите, что на каждом шагу вам чинят препятствия. Вы поймете, что это невозможно сделать. Каждый ваш шаг в этом направлении будет оборачиваться большой бедой.

Байерли был потрясен.

— Почему вы так считаете? Я думал, что вы, наоборот, поддержите меня.

— Ваши действия будут обречены на провал, поскольку вы исходите из ложных предпосылок. Вы допускаете, что Машина не может ошибаться, и что в нее нельзя ввести ложные сведения. Я сейчас докажу вам, что нельзя не следовать ее рекомендациям, что по-вашему делают члены общества.

— Этого я вообще не понимаю.

— Тогда слушайте. Любое действие любого исполнителя, не соответствующее рекомендациям Машины, с которой он имеет дело, становится частью новой проблемы. В этом случае Машина уже знает, что тот или иной исполнитель имеет тенденцию к неподчинению. И дальнейшие ее действия будут учитывать это. Таким образом, Машина так или иначе сделает так, что действия непокорного исполнителя будут приведены в соответствие с оптимальными. Машина ЗНАЕТ, Стивен!

— Вы не можете быть уверены в этом! Это только догадка!

— Эта догадка основана на опыте общения с роботами в течение целой жизни. Вы должны признать, что это правда, Стивен.

— Но что же тогда я упустил? Машины всегда правы, и предпосылки, на которых они основаны, тоже. С этим мы согласились. Теперь вы говорите, что им нельзя не подчиняться. Тогда в чем же дело?

— Вы сами ответили на ваш вопрос. Никакого дела просто нет! Попытайтесь представить себе Машину, Стивен. Это робот, и он следует Первому закону. Но Машины работают не на благо какого-то одного человека, а на благо всего человечества, поэтому Первый закон звучит для них так: «Машина не может принести вреда человечеству или своим бездействием допустить, чтобы ему был причинен вред».

Вот так, Стивен. Что же может причинить вред человечеству? Прежде всего неравномерное распределение производственных мощностей, не так ли?

— Да, допустим.

— А что в будущем может с наибольшей вероятностью привести к неравномерному распределению промышленности? Скажите-ка, Стивен?

— Я думаю, — нехотя проговорил Байерли, — уничтожение Машин.

— И я так считаю, и так считают Машины. Таким образом, их первой заботой является забота о себе, ради нашего благополучия. Поэтому они исподволь подкапываются под то, что может повредить им. Это не «Общество за Человечество», которое вроде бы борется за уничтожение Машин. Это другая сторона медали. Вернее, сами Машины слегка раскачивают нашу лодку — совсем тихонько, но достаточно для того, чтобы обезвредить тех, чьи действия могут причинить вред Человечеству.

Поэтому Врасаяна теряет свою фабрику и получает другую работу там, где он не сможет причинить вреда — ему вред почти не причинен, он продолжает получать достаточно, чтобы обеспечить себе безбедное существование, потому что Машина не может причинить мало-мальски значительного вреда человеку, да и то исключительно ради блага других людей. «Консолидейтед Циннабар» теряет контроль над Альмаденскими копями. Вильяфранка больше не главный инженер важнейшего проекта. А директора «Уорлд Стил» постепенно теряют свое влияние на производство — и потеряют его.

— Но вы же не знаете всего этого на самом деле, — настаивал Байерли. — Как мы можем полагаться на ваши догадки?

— Вы должны. Помните, что ответила вам Машина, когда вы задали ей вопрос? Ответ гласил: «Этот вопрос не требует разъяснений». Машина не сказала, что это невозможно объяснить или что она не может сформулировать объяснение. Она просто не допускала никаких объяснений. Иными словами, человечеству вредно было бы знать объяснение, поэтому нам остается только гадать, что оно может из себя представлять.

— Но каким же образом может повредить нам объяснение? Предположим, что вы правы, Сьюзен.

— Стивен, если я права, значит, Машина старается для нашего будущего, не только отвечая прямо на поставленные вопросы, но и вообще принимая во внимание положение, создавшееся в мире и человеческую психологию. А знание этого может сделать людей несчастными или ущемить нашу гордость. Машина не может, не должна приносить нам несчастье.

Стивен, откуда нам знать, что в конечном счете представляет счастье человечества? В нашем распоряжении нет тех выводов, которыми обладает Машина. Ну вот, например, чтобы вам было понятнее, техническая цивилизация принесла людям больше горя и невзгод, чем возместила. Возможно, аграрная цивилизация или скотоводческая была бы лучше, несмотря на меньшее количество людей и менее развитую культуру. Если это так, то значит, что Машины двигают нас в этом направлении, по возможности не сообщая нам этого, чтобы мы спокойно делали свои дела и знали, что все в порядке, — тогда мы не будем пытаться ничего изменять. А возможно, оптимальным является урбанистическое общество, или кастовое, или полная анархия… Кто знает? Знают только Машины, и они ведут нас в этом направлении.

— Но, Сьюзен, вы же говорите мне тем самым, что «Общество за Человечество» на верном пути и люди теряют свое право на будущее — такое, как хотят они.

— А у них никогда и не было такого права на самом деле. Это всегда зависело от экономических и социальных причин, которые были непонятны людям, от перемены климата, от военных удач. Теперь Машины разобрались во всем этом, и никто не сможет остановить их, пока Машины поступают с ними так же, как с обществом, — они просто имеют в своем распоряжении полный контроль над нашей экономикой.

— Какой ужас!

— А может быть, это прекрасно! Только представьте себе: на веки вечные можно избежать всех конфликтов. Отныне только Машины неизбежны!

Огонь за кварцевым стеклом погас, и вверх поднималась теперь только маленькая струйка дыма.