Ваня-коммунист - Алекс Вурхисс

Герхард фон Бюлов был мало похож на ученого, скорее уж на кадрового военного. Впрочем, он и был военным, оберстом Люфтваффе. Исторические наименования родам войск и воинским званиям вернули недавно, и фон Бюлову это было по душе. Он даже специально оговорил перед интервью, что, если кто-то захочет указать его воинское звание, чтобы обязательно использовал только то, что предписано новым указом Канцлера. Кажется, фон Бюлову нравилось быть именно оберстом Люфтваффе, а не каким-то полковником ВВС.

На фоне статного, подтянутого фон Бюлова его спутник казался еще более гротескным. Больше всего он напоминал перевернутый донышком кверху бокал из пластика и блестящего металла. Над параболическим корпусом возвышалась штанга, на конце которой имелась «робоголова», напичканная всевозможной электроникой. На «голове» особо выделялись два «глаза» эти глаза, впрочем, ничего не видели, назначением у них было нечто другое.

– Видите ли, – говорил фон Бюлов, – мы не ставили перед собой цель создать искусственный интеллект. Просто на каком-то этапе пришло четкое осознание, что именно искусственный интеллект – необходимое условие для решения нашей основной задачи…

– И какая же это задача? – спросил пожилой мужчина с неаккуратной седой бородкой.

– Ваня, по сути дела, представляет собой стенд для испытания надежности электронных цепей, – пояснил фон Бюлов. – Мы подвергаем Ваню различным внешним воздействиям, и смотрим, как он реагирует. На первом этапе мы могли только доводить воздействия до разрушения электронных компонентов. Но в ходе опытов мы столкнулись с тем, что, после ряда «шоков» цепи, не разрушаясь, начинают работать нестабильно. Нам нужно было как-то оценивать те изменения, которые накапливались в ходе испытаний.

Для решения этой сложной и интересной задачи мы создали программный эквивалент нервной системы…

Сидевшая рядом с давешним корреспондентом симпатичная юная девушка подняла руку; фон Бюлов отреагировал моментально. Ощерившись в тридцать два голливудских зуба, он сказал:

– У Вас есть вопрос, милая леди? Задавайте, не стесняйтесь.

– Если я правильно поняла, – в довершение к очаровательной внешности, девушка обладала приятным грудным голосом. Мужчины, присутствующие на пресс-конференции, практически все, за исключением парочки явно нетрадиционно ориентированных, все свое внимание немедленно приковали к ней, – Ваш подопечный наделен способностью чувствовать боль.

– Не просто чувствовать! – самодовольно сказал фон Бюлов. – Он по-разному реагирует на боль. Светодиоды его «глаз» крайне стабильны, мы испытывали их отдельно. Никакая перегрузка системы не меняет интенсивности их свечения. Но когда мы делаем так… – фон Бюлов вытащил откуда-то серьезных размеров полицейский контактный электрошокер, с помощью которых полиция разгоняет демонстрации против политики Евросоюза, и приложил его к поверхности корпуса «Вани», вызвав разряд. Светодиоды робота мигнули, – как Вы можете видеть, интенсивность их свечения изменяется. Поясню для неспециалистов – цепи, управляющие светодиодами, абсолютно автономны и изолированы от тестового корпуса. Иными словами, выражаясь в гражданских терминах, Ваня мерцает глазами потому, что ему больно.

Девушка заметно побледнела. «Ей надо было нанести тональный крем», – шепнул один из нетрадиционно ориентированных своему спутнику, – «раз она такая впечатлительная».

– Но нам показалось этого мало, – продолжал фон Бюлов. – Нам надо было выяснить, как именно происходит накопление нестабильности. Мы усложняли паранейрональные цепи, а затем установили в полученный компьютер экспертную программу. Вот в процессе ее доводки у Вани и появился разум. Это удивило даже нас. Но удивило, признаться, приятно.

– Почему? – спросил кто-то.

– С ИИ Ваня может лучше рассказать о том, что происходит в его организме, – пояснил фон Бюлов. – Мы имели исчерпывающе полную параметрическую базу, но она не давала нам ответа на главный вопрос – когда и как появляется нестабильность работы. Ваня дает личную оценку происходящего; она, как ни парадоксально это звучит для робота, эмоциональна, неконкретна, но именно благодаря ей, мы понимаем, что изменение наступило или вот-вот наступит. Смотрите.

Он щелкнул пальцами и сказал:

– Ваня, что ты чувствовал, когда я только что активировал шокер?

– Мне было больно, – пророкотал робот. – Это похоже на судорогу, только сильнее. И потом она не отпускала меня две минуты двадцать восемь секунд. Полковник, Вы больше не собираетесь меня тыкать сегодня?

– Я же говорил тебе называть меня оберст! – прошипел фон Бюлов.

– Простите, но это сбой моей программы, – кротко сказал Ваня. – Он активизируется после продолжительного шока. Я уже докладывал, герр оберст.

Фон Бюлов улыбнулся и сказал:

– Возможно, Вы не поняли, что сейчас произошло. Это покруче теста Тьюринга. Роботы не могут врать, поскольку ложь – это недостоверная информация, а достоверность информации – краеугольный камень любого программного обеспечения. В данном случае, Ваня неуклюже пытается соврать. Никакого сбоя у него нет. Но он сознательно имитирует этот сбой для того, чтобы защититься. Ну что же, покажем, кто в доме хозяин.

И фон Бюлов опять ткнул робота шокером. Зал одобрительно загудел.

– Перестаньте сейчас же! – воскликнула девушка, не так давно задававшая фон Бюлову вопросы.

– Отчего же? – удивился тот. – Если Вы боитесь, что я причиню вред Ване, то совершенно напрасно. У него абсолютно модульная конструкция, и, если какой-то компонент выходит из строя, мы просто его заменяем. Я ему даже завидую: если я, например, посажу себе печень, новую мне взять будет неоткуда.

В зале раздались смешки. Девушка возмущенно смотрела на оберста. Затем она сказала:

– Можно задать вопрос Вашему подопечному?

– Можно, – приязненно, как ему казалось, ощерился фон Бюлов. – Но хочу вас предупредить: искусственный интеллект – понятие, скорее, техническое; Вы общаетесь не с человеком, а с программой. Не ждите от программы нормальной, человеческой реакции.

Не обращая внимания на сентенции оберста, девушка изящно щелкнула пальцами (вызвав у фон Бюлова восхищенный взгляд), и сказала:

– Ваня, скажи, когда оберст делает тебе больно, что ты чувствуешь?

– Я не совсем понял вопрос, – ответил робот. – Я чувствую разлад своих систем. Я могу ощутить то, что происходит с ними и оценить последствия. Вас это интересует?

– Не совсем, – продолжила девушка. – Скажи, тебе от этого неприятно?

– Он не рассуждает в категориях «приятно – неприятно», – перебил ее фон Бюлов. – У него совершенно иная шкала…

– Да, – неожиданно сказал робот. – Можно сказать, мне это неприятно. Я осознаю, что разрушаюсь. Это мне неприятно. Это хочется остановить. Но я создан для того, чтобы меня разрушали. Останавливать этот процесс было бы неверным решением.

– А если бы у тебя был выбор, – спросила девушка, – ты бы прекратил это?

– Выбор? – казалось, робот обескуражен вопросом девушки. – Если бы у меня была такая возможность, я бы немедленно это прекратил. Но это нереально.

В зале было тихо. Теперь к девушке были прикованы абсолютно все взгляды, но смотрели на нее уже по-другому. С