2312 - Ким Робинсон

Но это лишь одна часть. Предположительно дедукция определяется логикой, и у Полины есть сильная дедуктивная программа. Но иногда дедукция становится почти метафорическим мышлением или мышлением свободными ассоциациями. В результате Полина ведет себя необычно.

Варам обратился ко всей группе.

— Вопрос программирования — в центре нашего сегодняшнего разговора. Есть определенные доказательства того, что новые компьютеры сами себя программируют, в особенности те, что собирают эти гуманоидные машины с квантовым компьютером вместо мозга. Мы не знаем, зачем люди поручили им это, и не знаем, зачем они вообще это делают. Итак, первый вопрос: что они такое и кто их производит? Мы знаем, что они не могут общаться друг с другом внутренне из-за декогеренции. Иными словами, они не образуют единый коллективный мозг. Но могут общаться друг с другом, как мы, используя все наши способы коммуникации. Однако в их случае, когда они используют квантовую шифровку, раскрыть их коды невозможно. Робин, — человек напротив Свон кивнул ей, — координирует запись их разговоров по радио и в облаке и даже некоторые прямые голосовые контакты. Мы не можем расшифровать их разговоры, но видим, что они общаются между собой.

— Давайте вернемся немного назад — как они могут программировать себя? — удивилась Свон. — Я слышала, что рекурсивное самопрограммирование способно лишь оптимизировать уже известные операции.

— Да, но если им поставлена задача постараться что-то сделать, например, они могут прийти к необычным результатам. Пытаясь что-то сделать, они могут обогатиться новыми идеями. Это отчасти похоже на шахматы. Им дается задача — в данном случае выиграть, — а затем во время обычной для них проверки всех возможностей они, вырабатывая новый эффективный способ достижения цели, могут столкнуться с неожиданным успехом. Это не процесс более высокого порядка, но он позволяет выполнить задачу и создает новые алгоритмы. И в какой-то момент самопрограммирование оказывается более эффективным, квакомы могут внезапно получить сознание или нечто подобное. Или процесс может привести к новому поведению — необычному, даже деструктивному. По крайней мере такова теория, которой мы руководствуемся.

— Далеко мог зайти этот процесс по отношению к программам мышления первых квантовых компьютеров? Я хочу сказать, могут ли квакомы все еще путаться в алгоритмах?

— Видишь ли, программисты, создававшие квантовые компьютеры, использовали разные структуры и в итоге создали несколько различных внутренних вычислительных архитектур. Поэтому на самом деле существуют разные квантовые компьютеры, каждый со своей особой формой познания — разными протоколами, алгоритмами, нейронными сетями. Они имитируют мозговую деятельность разных видов — у них есть то, что можно назвать самосознанием и другими особенностями сознания. Это не одна конструкция, и в терминах их мышления они могли начать мыслить.

Слово взял инспектор Женетт:

— Мы видим в этих квакомах явные признаки самопрограммирования. Трудно сказать, к чему это могло их привести. Но мы обеспокоены, ведь у них нет архитектуры и химизма мозга, которые объяснили бы их деятельность. Мы мыслим очень эмоционально. Наши эмоции играют ключевую роль в принятии решений, в долговременном мышлении, в создании памяти — во всем нашем общем постижении смысла. Без этих особенностей мы бы не были людьми. Мы не могли бы функционировать как индивиды в группах. Однако у квантовых компьютеров нет эмоций, и мыслят они при помощи иных архитектур, протоколов, физических методов. Поэтому у них нет менталитета человека, хотя в некотором смысле они могут обладать сознанием. Мы даже не можем быть уверены, что в своем новом состоянии все они похожи. Мы не знаем, мыслят ли они математически, или в терминах логики, или на языке английском или китайском. Или в этом отношении разные квантовые компьютеры одинаковы.

Свон кивнула, обдумывая услышанное. Если глупые девчонки были квантовыми компьютерами — и тот игрок в боулинг тоже, — это поразительно, хотя бы с точки зрения морфологии. А что до мышления, Свон все сказанное не удивило.

— Я часто говорю с Полиной на эти темы, — сказала она собравшимся. — Но из ваших слов мне ясно, насколько искалечены эти квакомы отсутствием того, о чем вы говорили. Скорее всего отсутствием эмоций. И ничего не могут сделать.

— Кажется так, — произнес в наступившей тишине Варам. — Но сейчас они как будто бы ставят себе цели. Может, у них есть какие-то псевдоэмоции; мы не знаем. Вероятно, они все еще не очень умны — скорее сверчки, чем собаки. Но, видите ли, с точки зрения создания более высокого уровня сознания мы не знаем, как работает наш собственный мозг. Поскольку мы не можем проникнуть в эти компьютеры и понять, что в них происходит, мы знаем о них даже меньше, чем они о нас. Так что… проблема.

— Вы разобрали какой-нибудь кваком, чтобы посмотреть?

— Да. Но результаты сложно истолковать. Вот любопытная аналогия с попыткой изучить собственный мозг — вы хотите изучить момент образования мысли, но, даже установив, какой механизм создает мысли, вы не будете знать, что именно вызывает эту конкретную мысль или как эта мысль осознается изнутри. В обоих случаях возникает квантовый эффект, при котором очень трудно проследить мысль до ее физического источника или действия.

— Существует также опасение, что этими «вскрытиями» мы подаем дурной пример, — добавил Женетт. — Что если им захочется изучать нас подобным же образом?

Свон с несчастным видом кивнула, вспоминая взгляд игрока в боулинг и даже взгляды тех глупых девчонок — теперь, когда она снова об этом задумалась. Их взгляды говорили о том, что они готовы к чему-то. Или просто не понимают, что говорят.

Но у людей все время такой вид.

— Итак, — сказал Варам. — Вот тебе наша проблема. Сейчас она становится все более насущной, потому что есть несомненные доказательства, что этих кваком-гуманоидов направляют другие компьютеры — компьютеры специальных вычислительных систем, или роботов, или даже управляющие компьютеры астероидов.

— Но зачем им это? — спросила Свон.

Варам пожал плечами.

— Неужели дело так плохо? — спросила Свон, подумав. — Я хочу сказать, они не могут быть связаны друг с другом, как элементы какого-то существа с мозгом-ульем, не могут из-за декогеренции. Так что в конечном счете они всего лишь люди с мозгом-компьютером.

— Люди без эмоций.

— Но такие люди всегда были. Появляются время от времени.

Варам сощурился.

— На самом деле ты ошибаешься. Но послушай, есть еще кое-что.

Он взглянул на Женетта, и тот обратился к Свон.

— Расследование нападений на Терминатор и «Иггдрасиль» в обоих случаях выявило участие квантовых компьютеров. К тому же я передал твой снимок игрока в боулинг Вану, и, хотя он не нашел его в своих досье неприсоединившихся миров, зато нашел снимки встречи, организованной Лакшми в Клеопатре в 2302 году, на которых есть ты. Это важно — отчеты о странном поведении по всей системе начали появляться на другой после этого год. Когда все эти сообщения были сведены воедино и проанализированы, оказалось, что по времени и месту все они восходят к той встрече на Венере. Мы также отыскали в Лос-Анджелесе организацию, которая заказала корабль, бросавший камни; корабль управляется исключительно компьютерами, и единственный связанный с этим человек входит в совет директоров. Мы также нашли квакомы, связанные с сооружением механизма запуска, который был построен на верфи в неприсоединившихся мирах группы Весты. Мы нашли следы заказа на их производство. На этой верфи вообще почти одни роботы. Так что, вполне возможно, квантовые компьютеры проделали это, вовсе не привлекая людей.

— Может, и так, — сказала Свон. — Почему ты считаешь, что эмоции обязательно должны иметь биохимическую природу? Разве нельзя получать эмоции без участия гормонов, или крови, или вообще чего-нибудь? Какая-то новая система, электрическая или квантовая?

Женетт поднял руку, чтобы остановить ее.

— Мы не знаем. Можно сказать одно: мы не знаем, чего они хотят сейчас, потому что вначале их стремления были очень ограниченными. Получить данные, обработать их, выдать результаты — таковы были исходные задачи ИИ. Поэтому теперь, когда у них как будто бы появились свои задачи, нужно быть настороже. Не только из общих соображений, как всегда с чем-то незнакомым, но потому что некоторые из них действуют необычно, и нашлись даже такие, что нападают на нас.

Один из группы — Свон вспомнила, что его зовут доктор Трейси, — сказал:

— Возможно, живой человеческий организм сделал эти компьютеры эмоциональными по определению. Скажем так: мозг в теле не может существовать без эмоций, а они теперь именно таковы — мозг в теле.