Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

Фрэнк Паскуале

Посвящается моим друзьям и коллегам по Ассоциации содействия развитию политической экономии и права – истинному интеллектуальному сообществу.

И, конечно, Рэю

Своим подходом к воспитанию мы решаем, достаточно ли мы любим мир, чтобы взять на себя ответственность за него и одновременно спасти его от гибели, которую без обновления, без прибытия новых и молодых было бы не остановить. А еще мы этим решаем вопрос о том, достаточно ли мы любим наших детей, чтобы не вышвыривать их из нашего мира, предоставляя самим себе, не вырывать у них из рук шанс предпринять нечто новое и для нас неожиданное, а вместо этого подготовить их к их миссии – обновлению нашего общего мира.

Ханна Арендт. Между прошлым и будущим

Я говорю о праве сейчас, поймите, о той точке, в которой тела, запертые в клетках, становятся онтологией, точке, в которой структуры жестокости, силы, войны становятся онтологией. Аналоговое – я в него верю, в реконструкцию феноменологии восприятия, но не машиной. К нему теперь – как никогда прежде – приковано воображение.

Лоуренс Джозеф. В скобках

Frank Pasquale

New Laws of Robotics

Defending Human Expertise in the Age of AI

The Belknap Press of Harvard University Press

Cambridge, Massachusetts & London, England 2020

Перевод с английского Алексея Королева

Под научной редакцией Софьи Щукиной

“New Laws of Robotics: Defending Human Expertise in the Age of Al” by Frank Pasquale Copyright © 2020 by the President and Fellows of Harvard College

Published by arrangement with Harvard University Press.

© ФГБОУ ВО «Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации», 2022

1. Введение

Ставки технологического прогресса растут с каждым днем. Объедините базы данных распознавания лиц с постоянно дешевеющими микродронами, и вы получите анонимную глобальную силу убийц, обладающих беспрецедентной точностью и смертоносностью. То, что может убивать, способно и исцелять. Роботы могли бы значительно расширить доступ к медицине, если бы мы больше инвестировали в их исследование и развитие. Фирмы делают тысячи шажков к автоматизации найма, обслуживания клиентов и даже менеджмента. Все эти процессы меняют баланс машин и людей и даже распорядок нашей повседневной жизни.

Предотвращение худших исходов революции искусственного интеллекта (ИИ) и в то же время реализация его потенциала будут зависеть от нашей способности выработать мудрое отношение к такому балансу. Для достижения такой цели в этой книге выдвигаются три аргумента, которые должны привести к улучшению нашей жизни. Первый аргумент эмпирический: непосредственно сейчас ИИ и роботы чаще всего дополняют, а не заменяют человеческий труд. Второй имеет ценностный характер: во многих областях мы должны сохранить такое положение вещей. Наконец, третий аргумент содержит политическое суждение: наши институты управления действительно способны достичь именно такого результата. Вот главный посыл этой книги: сегодня у нас есть средства руководить развитием технологий автоматизации, не становясь ее пленниками и не меняясь под их воздействием.

Эти идеи многим покажутся самоочевидными. Зачем писать в их защиту целую книгу? Дело в том, что из них следуют довольно интересные выводы, которые должны изменить способы организации социального сотрудничества и урегулирования конфликтов. Например, в настоящее время во многих странах приоритет отдается капиталу, а не труду, потребителям, а не производителям. Если мы хотим построить справедливое и стабильное общество, эти перекосы должны быть исправлены.

Исправить их будет непросто. Появившиеся за последнее время в избытке консультанты по менеджменту рассказывают одну простую историю о будущем труда: если машина может записать и воспроизвести то, что вы делаете, она вас заменит[1]. Эта перспектива массовой безработицы приковывает к себе внимание политиков и стратегов. Согласно этой теории, люди-работники становятся излишними в силу развития все более мощного программного обеспечения, роботов и предсказательной аналитики. Предполагается, что стоит только поставить достаточно камер и сенсоров, и менеджеры смогут создать симуляцию – вашего «цифрового двойника», то есть голограмму или робота, который будет выполнять работу человека не хуже, к тому же лишь за небольшую долю его зарплаты. Это представление задает суровую альтернативу: делайте роботов, или они заменят вас[2].

Но возможна и другая история, которая на самом деле более правдоподобна. Практически во всех областях роботизированные системы могут повысить ценность труда, а не уменьшить ее. В этой книге рассказывается о врачах, медсестрах, учителях, сиделках, журналистах и представителях иных профессий, которые работают вместе со специалистами по робототехнике и компьютерным наукам, но не служат источниками данных для своей будущей замены. Их сотрудничество предвосхищает то технологическое развитие, результатом которого могут стать более качественные здравоохранение, образование, более высокий уровень жизни для всех нас, в то же время позволяющий сохранить осмысленный труд. Также они показывают, как право и публичная политика способны помочь нам в достижении мира и инклюзивного процветания, а не «гонки против машин»[3]. Но мы можем добиться этого только в том случае, если обновим законы робототехники, которыми определяется наше представление о технологическом прогрессе.

Законы робототехники Азимова

В рассказе 1942 г. «Хоровод» писатель-фантаст Айзек Азимов определил три закона для машин, которые могут воспринимать среду, обрабатывать информацию, а потом действовать[4]. В рассказе приводится выдержка из 56-го издания «Руководства по робототехнике» за 2058 г.:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит первому и второму законам.

Законы робототехники Азимова были крайне популярными. Они кажутся совершенно ясными, но применять их непросто. Может ли автономный дрон нанести удар по террористической ячейке? Первая часть первого закона («Робот не может причинить вред человеку») вроде бы запрещает такое действие. Но военный может тут же отослать ко второй половине первого закона (запрещающей «бездействие», которое «допустит, чтобы человеку был причинен вред»). Чтобы определить, какую часть закона следует применять, нам понадобилось бы обратиться к другим ценностям[5].

Полем боя двусмысленности не исчерпываются. Рассмотрим, например, допускают ли законы Азимова существование автомобилей-роботов. Беспилотные транспортные средства обещают избавить нас от