Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

Здесь опять же возвращается тема «силы как слабости». Исключительная сила КПК позволяет ей прицельно мониторить и форматировать публичные высказывания. Но такая власть подавляет критические реакции, а жесткость становится хрупкостью и уязвимостью.

Это не значит, что главному конкуренту Китая, США, есть что предложить в плане современных моделей управления. Из-за своей собственной, все более автоматизированной публичной сферы США сползают к постдемократической политике. Фрагментированные медиа, оказавшиеся под напором деструктивных политических программ, не способны отражать атаку и сохранять базовые социальные нормы, отстаивая права на честные выборы. Нейролог Роберт А. Бертон в шутку предположил, что президента Дональда Трампа можно смоделировать в качестве «президента в черном ящике, лидера первого поколения искусственного интеллекта, руководствующегося исключительно отобранными им самим данными и значительно варьирующимися критериями успешности»[530]. Если, по мнению Фарелла, Си Цзиньпин просто слеп к реакции, то Бертон считает, что Трампа кидает из стороны в сторону, поскольку он механически перебирает циничные обращения, пытаясь определить, «что работает» и что позволит переложить вину за его многочисленные оплошности на кого-то еще. Каковы бы ни были заслуги глобального порядка под руководством США в прошлом, администрация Трампа пренебрегла им сегодня и значительно омрачила его будущее[531].

Само по себе накопление власти не означает мудрого правления[532]. Многополярность – не просто вероятный исход неудач в политике крупных держав, она необходима и для защиты глобального сообщества от чрезмерной власти гегемонов, которые стали слишком склонными к тирании и хаосу, чтобы применять власть ответственно. Есть тонкий баланс между постепенным снижением общей способности к уничтожению и гарантией того, что у военных союзов достаточно огневой мощи, чтобы предотвратить агрессию со стороны крупных стран и терроризм негосударственных агентов.

Возможно, некоторым государствам надо инвестировать в оборону (включая ведущие ИИ-технологии) больше. Однако чем больше государство тратит на вооружения в настоящий момент, тем больше его граждане должны задуматься о том, что они вносят вклад в построение «гарнизонного государства» и в гонку вооружений, которую мы критиковали ранее.

Традиционные эксперты по общественным финансам говорят о классическом компромиссе «пушки или масло». Требования тратить больше на социальную сферу ведут к сокращению ресурсов, необходимых для военизации. Однако такие гражданские расходы на самом деле могут спасти режимы от них самих, уменьшая величину ресурсов, доступных для наращивания гонки вооружений и фатальной демонстрации силы. Чем больше государства отвечают за гарантию высокого и постоянно растущего уровня здравоохранения, образования, жилья и других форм обеспечения жизни граждан, тем меньше у них остается средств для вложения в имперские проекты, которые стали возможны благодаря безудержному развитию военного ИИ. Даже когда относительно небольшая или бедная страна инвестирует в летальные автономные вооружения, чтобы защитить себя от агрессии со стороны крупных держав, что вполне можно понять, она рискует спровоцировать соседние страны с похожим положением вкладываться в защиту своих собственных относительных позиций. Лучший вариант – создать стратегические союзы, чтобы выровнять баланс сил.

Учитывая сложности, связанные с исполнением соглашений по контролю над вооружением, обязательства ограничить разработку и применение оружия, даже если они зафиксированы в формальных договорах, – лишь часть пакета мер, необходимых для предотвращения гонки вооружений на базе ИИ. Столь же важно устойчивое социальное внимание к таким неотложным и необходимым направлениям, как оборона.

Логика кооперации

С точки зрения многих исследователей (часто прямо или косвенно финансируемых военными или их подрядчиками), развитие автономных роботизированных вооружений неизбежно. Они указывают на логику скользкой дорожки: существует определенный спектр контроля человека над машиной, но нет очевидного принципа, заставляющего прекратить предоставлять все больше и больше автономии автоматизированным системам, как только первые шаги сделаны. Однако технология не обязана развиваться в этом направлении. Определенные формы кооперации столь же жизнеспособны, как и безжалостная конкуренция. Создание многих возможных видов вооружений было прекращено благодаря нормам – того же можно ожидать и в будущем.

Учитывая мириады переменных, злосчастную проблему роботов-убийц решить невозможно. Но мы можем лучше разобраться в ней, опираясь на историческое исследование дилемм, которые казались такими же безысходными. Здесь нас многому могут научить исследователи, занимающиеся международной политической экономией в области распространения ядерного оружия. Например, Этель Солинген изучала то, почему некоторые, но не все страны решили вложиться в оружие массового уничтожения. В классических «реалистических» теориях международных отношений подчеркивается власть гонки вооружений, соответственно решения стран приобрести ядерное оружие связываются с их ощущением небезопасности (которое, в свою очередь, определяется силой соперников и врагов). Однако эти теории не объясняли то, почему столь многие страны не стали разрабатывать ядерное оружие. Солинген утверждает, что важным фактором является политическое руководство и что некоторые страны приняли рациональное решение сосредоточиться на экономическом развитии (внутри страны) и на торговой конкуренции и кооперации (на международном уровне), а не на ядерном вооружении[533]. Ядерная программа является весьма дорогостоящей как в экономическом плане, так и репутационном.

Солинген, в частности, тщательно изучила историю Тайваня, который в середине XX в. столкнулся с исключительно сложной в плане безопасности ситуацией, поскольку Китай считал его провинцией-отступницей. Тайвань мог бы направить свою программу ядерной энергетики на создание материала, из которого можно делать оружие. Тем не менее руководство Гоминьдана (правящей партии) приняло стратегическое решение упрочить свою легитимность за счет экономического роста и торговли, а не путем усиления конфронтации с материком. Объем военных инвестиций относительно растущей экономики падал, тогда как ядерные амбиции Тайваня были ограничены мирным атомом.

Конечно, предложенная Солинген теория «фокуса энергии» – не единственное обоснование этой стратегии. Долгое время правивший Тайванем Чан Кайши был изгнанником, а потому даже и думать не хотел о том, что можно бомбить своих соотечественников на материке. США стремились к нераспространению ядерного оружия, а потому оказывали на Тайвань давление, чтобы он подписался под теми же нормами. Однако все эти факторы соответствуют более общей концептуальной рамке Солинген, поскольку так подчеркивается связь Тайваня с крупными державами того времени.

Если применить эту схему политической экономии к автономным системам оружия летального действия (АСОЛД), главный вопрос будет в том, как гарантировать не только нормы и законы, запрещающие особенно разрушительную технологию, но также экономические и репутационные издержки, связанные с ее развитием. Здесь конструктивную роль могут сыграть не только государства, но и фирмы. Нежелание компании OpenAI в 2019 г. выводить на открытый рынок модель генерации речи – удачный пример. Генерация текста на основе ИИ может показаться не таким уж грозным оружием. Однако стоит только связать ее с автоматическим созданием профилей в социальных сетях (вместе с видео дипфейков), и сразу станет ясно, что речь ботов