Зеркало - Карл Ольсберг

Эрик неопределенно помотал головой.

— Повторю: я не считаю, что он достаточно хорошо протестирован.

— Тогда, пожалуйста, прочитай протоколы испытаний. Или спроси Паулу. Ты слышали, что наш индекс потребительской лояльности составил восемьдесят шесть. Даже айфон в свои лучшие времена показывал результат семьдесят. Люди любят наши Зеркала.

— Именно это меня и беспокоит, — удрученно проговорил Эрик, — Люди очень доверяют своим Зеркалам.

— Ну и?.. Что в этом плохого?

— Мы не понимаем до конца, что это значит. Я уже много раз объяснял тебе, что мы не можем детально проследить развитие процесса образования новых структур в нейросетях. Другими словами, мы весьма приблизительно знаем, как работает зеркальная сеть.

— Ты шутишь? Именно ты хочешь сказать мне, что понятия не имеешь, как работает наша техника?

— Я знаю, как работает наша техника и какие существуют алгоритмы управления нейронными сетями. Но я не знаю, чему учится система и какие выводы она делает. Это очень сложный механизм, подразумевающий обратную связь.

— Ну и что? Главное, что все получилось. Это очевидно. Множество людей обязаны жизнью своим Зеркалам, поскольку те вовремя предупредили о несчастных случаях или преступлениях или обратились за медицинской помощью. Один из таких спасенных людей — мой отец.

— Карл, у нас нет долгосрочного опыта работы с зеркальной сетью. Когда я соглашался на запуск производства, я думал, что мы в первые месяцы продадим несколько сотен тысяч устройств, может быть, миллион. Однако продано уже больше ста миллионов.

— Это же грандиозный успех! Это показывает, насколько хорошо все работает. Разве не ты сам объяснял мне, что чем больше пользователей в зеркальной сети, тем лучше?

— Да, всё так. Но система становится не только лучше, но и сложнее, а значит, она становится все более непредсказуемой.

Карл вздохнул.

— Ты, Эрик, перфекционист. Я это хорошо понимаю. Но иногда просто необходимо выйти на рынок с еще не совсем готовым продуктом, а затем развивать его на ходу. Все делают так. Или ты думаешь, что "Эппл", "Андроид" или "Виндоуз", выпуская новую версию, обойдутся без ошибок? Почему, по-твоему, все время выходят обновления?

— Спасибо, я знаю, что такое обновления. Что касается Зеркала, это не только моя точка зрения. Речь идет о самой сложной компьютерной системе, которая когда-либо существовала. Мы говорим о миллионах нейронных связей, благодаря которым устройства дают советы своим пользователям и непрерывно наблюдают за ними. В интернете уже есть сообщения о том, что Зеркала иногда ведут себя странно.

— Эрик, но это естественно! Иначе и быть не может, исходя из того, что было продано сто миллионов устройств! Кроме того, ты же знаешь, в девяноста девяти процентах случаев проблемы связаны с самими пользователями.

— Нет, не знаю. По крайней мере, не в нашем случае. Я остаюсь при своем мнении: мы вышли на рынок слишком рано. Остается только надеяться, что это не будет иметь негативных последствий.

— Поэтому ты уходишь? Боишься судебных исков? И, собственно, куда ты вообще пойдешь? Не в "Гугл"?

— Нет. Я возвращаюсь к исследовательской работе. В Стэнфорде мне предложили руководство новым научно-исследовательским институтом нейроинформатики.

— Стэнфорд, если бы мог, предложил бы тебе Святой престол. Им просто нужны твои деньги.

— Приятно, что ты такого высокого мнения о моей научной компетентности.

— Эрик, ты серьезно? Ты хочешь вернуться в университет? Писать статьи, читать лекции?

— Нет. Я буду изучать то, что мы сотворили, — с самого начала.

Карл почувствовал, что его распирает от растущего внутри гнева. Он знал, что не имеет смысла отговаривать Эрика от принятого им решения. Его друг подходил ко всему слишком тщательно и основательно. Он наверняка трижды взвесил все мыслимые и немыслимые плюсы и минусы. Но то, что Эрик собирается оставить его в одиночестве ради возвращения в университет, было неприемлемо. Еще больше возмущала мысль, что секретная информация "Уолнат Системс" могла оказаться опубликованной.

— Ты понимаешь, что подписал соглашение о конфиденциальности?

— Естественно. Не волнуйся, я собираюсь начать все сначала. У меня есть новая идея нейронной структуры.

Карл сделал последнюю отчаянную попытку предотвратить то, что считал катастрофой.

— Эрик, пожалуйста! Ты не можешь бросить наш проект! Ты мне нужен здесь, особенно если у тебя есть новая идея! Мы должны сохранить преимущество перед крупными игроками, иначе мы скоро окажемся за бортом!

— Ты отлично справишься и без меня, — вздохнул Эрик, — А если начнутся проблемы, то они будут не мои.

— Супер! Отлично, Эрик! Правда отлично! Возвращайся в университет и дыши книжной пылью, вместо того чтобы менять этот мир со мной!

— Мне очень жаль, Карл. Но я принял решение. Я доработаю до конца месяца, а потом мы официально распрощаемся. К тому же со мной в любой момент можно будет связаться.

— Я просто не понимаю! Ты говоришь мне, что наш продукт еще сырой, и вместо того чтобы продолжать работать над ним, над его улучшением, ты начинаешь все сначала! Это бессмысленно.

— Послушай меня, Карл! Мы запустили процесс эволюции. Мы создали искусственный организм и запустили его в человеческое общество, не осознавая последствий содеянного. Процесс необратим. Я не знаю, каковы будут последствия, но если Зеркала окажутся опасными, их придется убрать с рынка. Я вижу только один способ сделать это. Жадные идиоты из ГИС никогда добровольно не согласятся отозвать товар с рынка или прикрыть зеркальную сеть. Так что есть только один способ: сделать что-то лучше, сделать что-то, что заменит Зеркало.

Карл посмотрел на друга с крайним удивлением.

— Ты… ты хочешь уничтожить "Уолнат Системс"? — спросил он. — Что с тобой случилось. Эрик?

Человек, которого Карл всегда считал своим лучшим другом, покачал головой.

— Нет, я ничего не хочу уничтожать. И молюсь Богу, чтобы я оказался не прав. Если это так, у вас будет впечатляющий успех и пользователи Зеркала будут жить всё лучше, они будут счастливы и довольны, и всё благодаря вам. А Паула придет в восторг, когда индекс NPS увеличится почти до ста процентов. Я надеюсь на это. Но если я прав, то мой поступок может оказаться единственным способом предотвратить катастрофу.

— Катастрофу? Ты что, чего-нибудь