Это злая разумная опухоль - Питер Уоттс

Конечно, чувство вины не обязательно означает, что вы планируете теракт. Может, вы просто изменяете супругу; может, стыдитесь, что сперли на работе коробку скрепок. Может, вы вообще не испытываете вину; может, предаетесь праздным фантазиям о том, как переломаете на хуй колени всем этим наглым ублюдкам-таможенникам, которые кончают оттого, что портят жизнь всем остальным. Может, у вас легкий синдром Аспергера или вы немножко запыхались, потому что бежали, чтобы успеть на самолет – но FAST видит только ускоренное дыхание и подозрительное нежелание устанавливать зрительный контакт.

Виновные умы, рассерженные умы, фантазирующие умы: тело предает их всех примерно одинаково, и стоит только этому тревожному сигналу возникнуть, как вы – Подозрительная Личность. Бо́льшая часть статьи в AULR исследует конституционные последствия внедрения этой технологии в США, сценарии, в которых FAST проходит юридическую проверку, и те, в которых она нарушает четвертую поправку – и, хотя именно этого и стоит ожидать от юридического комментария, я нахожу подобные беспокойства практически не имеющими значения. Если наши правители захотят использовать технологию, они будут ее использовать. Если ее использование незаконно, они либо изменят закон, либо нарушат его – как им будет удобнее. Вопрос не в том, начнут ее использовать или нет. Вопрос в том, в какой глубокой жопе мы окажемся, когда это произойдет.

Давайте поговорим о проценте ошибок.

Если кто-то скажет вам, что тест с 99 % точности выявил в ком-то террориста, какова вероятность, что тест ошибается? Вы можете сказать «один процент»; в конце концов, система точна на 99 %, так ведь? Проблема в том, что вероятности растут вместе с размером выборки – так, в аэропорту вроде того, что в Сан-Франциско (через который ежегодно проходит сорок пять миллионов человек), девяностодевятипроцентная точность означает, что за день как потенциальные террористы будут отмечены свыше 1200 человек, даже если ни одного настоящего террориста в аэропорту не будет. Это значит, что, даже если ежедневно в один и тот же аэропорт будет прокрадываться новый террорист, вероятность того, что кто-то окажется невиновен, даже если его отметили, составляет – барабанная дробь – свыше 99 %.

Самые свежие данные о точности FAST, которые у нас есть, говорят, что она составляет 78–80 %, а эти (неподтвержденные) оценки исходят от тех же ребят, что разрабатывают эту систему – систему, задача которой, напомню, собирать глубоко личную и подробную физиологическую информацию о миллионах людей ежедневно.

Хорошие новости в том, что самое вопиющее злоупотребление подобной системой, возможно, коснется только людей, прибывающих на территорию США. Судя по моему опыту, пограничники во всех двадцати с лишним странах, которые я посещал, гораздо приятнее, чем в Америке, и это во мне не просто обида говорит: согласно заказанному туриндустрией независимому опросу о впечатлениях от пересечения границ, пограничники США – величайшие поганцы в мире с двукратным отрывом от конкурентов.

Поэтому я и гадаю, не будет ли, хотя бы для Северной Америки, FAST на самом деле благом – или, по крайней мере, чем-то лучшим того, что мы имеем сейчас. Может быть, FAST не идеальна, но – предположительно – в нее не забита установка отмечать тебя только из-за темного цвета кожи. Она не решит обосрать тебя потому, что у нее дурное настроение, или потому, что ей кажется, будто ты похож на либерала. Возможно, она будет параноидальна и, возможно, чаще всего неправа, но, по крайней мере, одинаково параноидальна и неправа по отношению ко всем людям.

Безусловно, FAST все равно может стать воплощением своего рода зарождающегося предрассудка. Бедные люди, например, могут особенно нервничать перед полетом, потому что летать им доводится нечасто; FAST может счесть их потные ладони подозрительными, тем временем позволяя богатым социопатам спокойно проходить в бизнес-класс. Вуаля: немедленная классовая дискриминация. Если у нее есть функция распознавания лиц, она вполне может проявить ошибку «для-меня-все-черные-выглядят-одинаково», типичную для такой техники. Но подобные косяки можно выполоть, если ты готов приложить усилия. (Для начала – перестать обучать технологии распознавания лиц по фоткам из своего белоснежного выпускного альбома из старшей школы в Кремниевой Долине.) Подозреваю, изгнать подобный предрассудок из человека будет значительно труднее.

И действительно, с учетом предвзятости и тупости, столь явно проявляемой многими так называемыми представителями власти, отдать хотя бы часть их решений на аутсорсинг кажется отличной идеей. Не позволять им выбирать, к кому прицепиться, доверить это решение машине; может, она и не точна, зато и не пристрастна.

Учитывая, насколько плохо сейчас идут дела, возможно, даже такая несовершенная штука, как FAST, может стать шагом в верном направлении.

Срывая крышку с ящика Пандоры

(Журнал Nowa Fantastyka, ноябрь 2018 года)

Я пребывал в унынии с тех пор, как Международная группа экспертов по изменению климата опубликовала свой последний отчет в минувшем октябре. Я в унынии прямо сейчас, когда печатаю эти слова; есть вероятность, что я все еще буду в унынии, когда вы прочитаете их месяц спустя. Если вам случилось прочитать в моем блоге пост от 26 октября,[92] вы знаете, почему. Если не случилось – вот краткий пересказ:

• Нет вообще никакой надежды, что мы достигнем цели, установленной Парижским соглашением, и ограничим рост глобального потепления двумя градусами по Цельсию.

• Даже если мы достигнем этой цели, результаты будут апокалиптическими.

• Результаты были бы всего лишь катастрофическими, если бы мы сумели ограничить рост полутора градусами по Цельсию – для примера, мы бы потеряли всего лишь 70–90 % кораллов на планете, а не все, – однако единственным способом сделать это было бы – помимо прочего – отказаться от углерода на тридцать лет, урезать потребление мяса на 90 %, а также изобрести новые волшебные технологии, чтобы высосать гигатонны углерода из атмосферы.

Теперь наш самый оптимистичный сценарий – глобальная катастрофа, и шансы, что мы перескочим даже через такую низкую планку, невелики. Тем временем народ уже пожал плечами и опять пошел постить видео про котиков в фейсбуке.

Считайте колонку этого месяца своего рода кодой для моего октябрьского поста. Сегодняшний урок таков: тот пост был чересчур мягкосердечен. Он принимал на веру слова МГЭИК: у нас есть двенадцать лет, чтобы начать, и если мы это сделаем, то у нас будет шанс уберечь от пожара хоть что-то.

В реальности, похоже, никакого шанса у нас может не быть.

Первое, что нужно держать в уме: отчеты МГЭИК научны, а науке свойственен консерватизм. Если результаты убедительны лишь на 90 %, наука их отвергнет. Обычный порог статистической значимости – 95 %, часто 99 %; все, что ниже, списывается на