Зеркало - Карл Ольсберг

— То есть?

— Эти штуки будут круглосуточно следить за тобой. Сначала они создают твой виртуальный образ, а затем сравнивают его с сотнями миллионов других. Это означает, что через некоторое время они будут знать о тебе больше, чем ты сама. Я до сих пор не могу понять, как кто-то может пользоваться этим добровольно. Люди бывают так наивны!

Фрейя смутилась, поскольку получалось, что она как раз относилась к таким наивным людям.

— Но ведь "Уолнат Системс" утверждает, что никто не имеет доступа к этим профилям. Это подтвердили несколько независимых организаций по защите данных.

Линус усмехнулся.

— Это так же достоверно, как отсутствие коррупции среди немецких политиков. Если независимое расследование не выявило признаков коррупции, это не означает, что ее нет. Она может быть доказана в отдельных случаях, но ее отсутствие ничто не подтвердит. То же самое касается, например, допинг-тестов в спорте. Даже если сегодня ни один человек не имеет доступа к твоим личным данным, это не означает, что так будет всегда. Но основная проблема даже не в несанкционированном доступе посторонних к личным данным, а в самой зеркальной сети.

— А именно?

— Эта сеть — гигантская манипуляционная машина. В "Уолнат Системс" утверждают, что чем больше система знает о вас, тем лучше ее рекомендации. А я говорю, что чем больше она знает о тебе, тем лучше она может контролировать твои мысли.

— У тебя есть доказательства?

— Существует достаточно много людей, которым Зеркала рассказывают, что им надо купить, кому позвонить и кому написать, зачастую диктуя, как именно требуется это сделать. Люди даже не замечают, что они становятся просто марионетками, которые висят на невидимых нитях зеркальной сети.

— Но ведь пользователи Зеркал с пеной у рта утверждают, что качество их жизни значительно улучшилось.

— Наркоманы тоже могут сказать, что употребление крэка улучшает качество их жизни. По крайней мере, когда они под кайфом.

— Значит, ты полагаешь, что Зеркала вызывают привыкание?

— Не обязательно привыкание, но, безусловно, зависимость. Любители навигаторов практически неспособны самостоятельно сориентироваться в незнакомом городе. А люди, постоянно прислушивающиеся к своим Зеркалам, постепенно утрачивают способность самостоятельно мыслить! Но если за тебя думает зеркальная сеть, ты фактически становишься беспомощным против любого типа манипуляции.

— По-твоему, к чему это может привести?

— Во-первых, к тому, что будут продаваться только строго определенные товары. Будут избираться строго определенные правительства. Будет решаться судьба каждого человека: кого ему любить, на ком жениться, какие книги читать, какую профессию выбрать. С середины двухтысячных мы сталкиваемся с серьезной проблемой: информация, которую мы получаем каждый день, становится все более монополизированной и индивидуализированной. Взять хотя бы "Гугл". Результаты поиска, которые он предоставляет, кажутся нейтральными На самом деле они удовлетворяют твои предполагаемые потребности силами рекламной индустрии. Если ты не настроишь браузер особым образом, ты раз за разом будешь видеть только то, что соответствует твоим предпочтениям и склонностям, месту жительства, возрасту, полу и так далее. Ты получаешь лишь кажущуюся реальность и имеешь только то, что, в понимании "Гугла", ты хочешь иметь. Твои предпочтения складываются раз и навсегда, а всё, что может натолкнуть на новые идеи, просто пропадает. Это называется фильтром персональных настроек.

— Какое же это имеет отношение к Зеркалам?

— Достигаемый эффект, связанный с Зеркалом, в десять раз сильнее, чем тот, что связан с "Гуглом". Самое малое в десять раз. Во-первых, Зеркало знает тебя намного лучше, поэтому его фильтры более совершенны. Во-вторых, оно гораздо больше вмешивается в личную жизнь владельца, поскольку эти штуки постоянно поддерживают связь друг с другом. Весь ужас заключается в том, что невозможно отследить, почему твое Зеркало дает тебе тот или иной совет.

— За этим стоят какие-то алгоритмы, верно?

— В принципе, да. Но очень сомневаюсь, что кто-нибудь досконально знает, как работают эти алгоритмы и как их оптимизирует зеркальная сеть.

— Но специалисты из "Уолнат Системс" должны досконально разбираться в этом?

— Необязательно. Нейронная сеть учится самостоятельно и разрабатывает собственную стратегию для достижения целей. Все, что ей для этого требуется, — это данные и функционал, который должен постоянно улучшаться. Речь идет, например, о степени удовлетворения пользователей. Сеть опробует какие-то функции, и, если пользователь находит, что это хорошо, оптимизация продолжается в этом направлении. Проблема в том, что с этого момента больше никто не будет знать наверняка, как именно работает система.

— Это означает, что зеркальная сеть влияет на жизнь ста миллионов человек и никто не знает, как и почему она это делает?

— Точно. Так что, как я уже сказал, забудь о покупке Зеркала.

— Я, честно говоря, здесь не по этому поводу.

— Другими словами, ты его уже купила?

Она смущенно улыбнулась.

— Именно. И оно себя странно повело.

Фрейя рассказала о нападении дрона на Терри и о влюбленной паре.

— Как ты думаешь, это технические ошибки или сделано намеренно?

Линус погрузился в молчание. Придя к каким-то выводам, он поинтересовался:

— Интересно… Где именно происходит сбой?

— Не поняла…

— Если говорить о некоем действии, которое совершает программа, то речь пойдет о плане, стратегии, инструкции. Программа разрабатывает эту стратегию, опираясь на данные, которые имеются в ее распоряжении, посредством алгоритмов, которые вложены программистом, или тех, что она построила сама. Если данные или алгоритмы оказываются ошибочными, то и действие тоже становится ошибочным.

— Другими словами, ты полагаешь, что зеркальная сеть умышленно манипулировала Энди и Викторией, чтобы разлучить их, но это произошло из-за ошибки в программе?

— Я бы не стал использовать слово "умышленно". Я действительно считаю, что программные системы в какой-то момент обретут самосознание, но мы еще не на этом этапе. Да, по тому, как ты это описала, получается, что у зеркальной сети была цель своими манипуляциями разлучить влюбленную пару. Но это, вероятно, произошло не из-за ошибки в программировании. Я скорее склонен предполагать, что ошибка заключалась в базовых установках.

— Каких, например?

— Скажем, в предположении, что устройство, пекущееся о благополучии своего владельца, — это хорошая идея. В предположении, что людям вообще нужна помощь.

— Если посмотреть на состояние, в котором пребывает наш мир, это предположение