Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл

Авиации свойственен парадокс: по мере увеличения автоматизации возрастает безопасность во многих аспектах, но на пилотов в то же время ложится больший груз. Каждая техническая система может в какой-то момент отказать, а люди в эти критические минуты будут вынуждены вмешаться. Но, слишком отдалившись от своей машины, они, вероятнее всего, растеряли свои навыки, и тогда их вмешательство может привести к беде. Именно это случилось с рейсом 447 авиакомпании Air France. Но просто обвинить пилотов и объяснить все эти аварии и несчастные случаи «человеческими ошибками» не значит понять суть проблемы.

Несколько десятилетий ученые изучают этот вопрос, и полученные ими ответы нельзя назвать простыми. Джон Лаубер, авторитетный инженер по авиационной безопасности, который долгое время работал в Национальном управлении безопасности перевозок США, с иронией подводит итоги этих исследований следующим образом:

Автоматизация кабины пилотов увеличивает, уменьшает и перераспределяет загрузку. Она улучшает осведомленность летчика об обстановке в полете, выводит пилотов из схемы управления, увеличивает продолжительность полета по приборам, освобождает пилота от наблюдения за обстановкой, смягчает требования к тренировке, повышает требования к тренировке, делает работу летчика легче, повышает усталость, изменяет роль пилота, не изменяет роли пилота, делает оборудование дешевле, дороже, имеет высокую надежность, минимизирует возможность человеческой ошибки, ведет к ошибкам, изменяет саму природу человеческой ошибки, устраняет мелкие ошибки, повышает вероятность крупных ошибок, пилоты хотят, чтобы она была, пилоты считают, что ей нельзя доверять, ведет к скуке, избавляет пилотов от рутины и, наконец, повышает авиационную безопасность и оказывает на нее неблагоприятный эффект.

«Сюрпризы автоматизации», «зависимость от автоматизации» и «предубежденность по поводу автоматизации» были изучены учеными. Один пилот, у которого я брал интервью, отзывался о компьютерах своего самолета как «о кобре, замершей перед прыжком… Пока у меня есть хорошая длинная палка и я могу в нее тыкать, – добавлял он, – со мной, возможно, все будет хорошо, но я не могу быть уверен, что она не набросится на меня и не укусит».

На видео, записанном в 1990-е годы, мы можем увидеть учебный семинар авиакомпании American Airlines, где опытный пилот-инструктор сокрушается по поводу «детей пурпура» – пилотов, которые стали столь зависимы от автоматизации, что просто откидываются на спинку кресла и позволяют компьютеру вести самолет по курсу, который на мониторе показывается пурпурной линией.

Тем не менее большинство современных пилотов, как де Креспиньи, проходили обучение и начинали работать в традиционных кабинах с круглыми циферблатами и только потом переходили на компьютеризированные самолеты. Но современные молодые пилоты, которые делают карьеру сегодня, никогда не летали на воздушном судне с традиционным альтиметром или указателем воздушной скорости. Являются ли они другими людьми? Как признался мне один молодой пилот: «Кажется, сейчас все изменилось… это обычная работа. Ты садишься, включаешь компьютер, потом возвращаешься на землю, выключаешь компьютер и едешь домой».

Каким же стал новый опыт этой профессии, появившейся сто лет назад?

«Что он сейчас делает?» – это вопрос, который все пилоты задают по поводу своих компьютеров в тот или иной момент (исследователи называют это явление «режимом узнавания»). «Каждый раз, когда я говорю это, я ощущаю досаду, – рассказывает один пилот, – потому что я очень хорошо знаю, что 99 % времени он делает именно то, что я велел делать, а я велю ему делать то, чего сам не понимаю». Существует мнение, что только неопытные пилоты задают вопрос «Что он сейчас делает?». Опытный пилот просто пожмет плечами и скажет: «Ну, он так иногда делает». В этом ответе скрыто покорное смирение перед новой реальностью. Третьи вообще сердито заявляют: «Почему он это делает? – неправильный вопрос. Если ты хочешь задать вопрос, ты должен спросить: "Почему я позволил ему контролировать меня?" Избавься от него. Верни себе самолет».

На карту поставлены основополагающие идеи о человеческом факторе, контроле за чьей-то работой, существовании и работе внутри системы. Кризис самоопределения пилотов авиалиний схож с состоянием ученых, изучающих глубины, пилотов дронов, исследователей космоса и представителей многих других профессий, чьи познавательные способности под давлением компьютеров и автоматизации перенесены в цифровой виртуальный мир, но при этом они по-прежнему ощущают последствия и тяготы мира физического. В автоматических автомобилях будущего вождение может стать скорее чем-то похожим на внимательное отслеживание процесса пилотами самолетов, а не на спокойную расслабленность пассажиров во время поездки.

В конце 2013 года индустриальная отраслевая рабочая группа Федерального управления гражданской авиации США по автоматизации кабины экипажа оценила текущее состояние техники и навыков пилотов. Они рассмотрели 26 аварий и несчастных случаев и обнаружили, что пилоты могут слишком полагаться на автоматизированные системы, не понимать их в достаточной степени и делать ошибки при их использовании. Более того, требования к объему знаний и умений, необходимых для пилота, были расширены. Хотя некоторые традиционные навыки сейчас становятся «атавистическими» и могут понадобиться только в критическом положении или при аварии, пилоты должны по-прежнему хорошо владеть ими. Определение «стандартных» летных навыков изменилось, и от современного пилота ждут большего, чем от пилота даже в недавнем прошлом.

Кэти Эббот – доктор философии в области вычислительных систем, главный научный консультант и технический эксперт Федерального управления гражданской авиации США по человеческим факторам в автоматизации кабины экипажа и сопредседатель рабочей группы. Она подчеркивает, что автоматизация не исключает человеческого вовлечения в управление самолетом, но, скорее, переносит его. Автоматизируя задачи, «мы не исключаем возможность человеческой ошибки, – объясняет Эббот, – мы просто меняем место, где ошибка происходит». Более того, она указывает на то, что опытные пилоты совершают такое же количество ошибок, как и менее опытные, но это ошибки другого плана. С точки зрения познавательного процесса ошибка – это «побочный эффект наличия мозгов» и необходимая для обучения вещь.

Данные показывают, что только 10 % всех коммерческих рейсов проходят точно в соответствии с планом полета. Еще во время 20 % полетов происходят сбои в системах, которые требуют реакции экипажа. Поскольку бо́льшая часть этих данных была получена из докладов об авариях и несчастных случаях, Эббот и рабочая группа определили, что «существует крайне ограниченное количество источников информации о положительных моментах авиационных систем»: например, о многократных ежедневных взаимодействиях, в которых пилоты заставляют системы работать путем преодоления, часто незаметного, ошибок и человека, и машины.

На самом деле в соответствии с данными пилоты действительно выполняют большое количество незаметной работы, которая уменьшает риски, и вся система разработана, исходя из факта выполнения ими этой критически важной функции. К примеру, пилоты не всегда следуют стандартным методикам работы, потому что эти методики могут не соответствовать ситуации или не укладываться в отведенное время. Не многие изучали эти трудно уловимые аспекты поведения пилота, хотя их понимание является главной предпосылкой для разговора о беспилотных воздушных судах.

Процедуры, которые выполняет пилот, – это не набор «железных» правил, а, скорее, компромисс между исполнением, простотой, необходимостью и рядом других факторов. Это нечто вроде компьютерных программ для людей – инструкции, написанные другими людьми. Критические ситуации зачастую не вполне соответствуют тому, что инженеры предвидели и внесли в перечень проверочных операций. Как в случае рейса QF32, в такие моменты пилотам приходится импровизировать и иногда идти против того, что говорят их компьютеры. Пилоты – это клей, который удерживает всю систему вместе и используется для устранения несовершенства в протоколах, коммуникациях, интерфейсах и процедурах.

Эти открытия показывают, что новые технологии должны повышать возможности решения проблем человеком, а не отбирать у человека шанс их решить. Автоматизация должна помогать людям в их задачах, не отстраняя их от машины и не отчуждая их от профессии.

Авиация всегда являлась областью, где профессиональное самоопределение было связано с изменением технологий. Чтобы ответить на сегодняшние и будущие вопросы, нам нужно начать с краткого экскурса в историю профессии летчика, одного из главных героев в развитии современного человечества, чей опыт постоянно менялся вместе с изменением летной техники.