Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

определенные темы должны сначала проверяться, и задержка позволяет такую проверку произвести. Это не значит, что каждый из миллионов постов нуждается в рецензии; скорее, как только история прошла проверку, ею можно делиться мгновенно. Подобное замедление вирусного распространения информации могло бы также создать возможность для более продуманных решений об ограничении (или в некоторых случаях усилении) «алгоритмической амплификации». Она порой приводит к созданию петель обратной связи, которые никак не связаны с качеством и полезностью распространяемой в них информации.

Некоторые апологеты технологии считают, что такие предложения ужасны, поскольку их можно приравнять к цензуре. Однако не существует никакой магической свободы слова, которая была бы уже заложена в систему по умолчанию. Платформы принимали решения о том, позволить ли пользователям отправлять прямые сообщения кому угодно (или только тем, кто с ними в друзьях или кто подписан на них), а также о том, насколько длинными могут быть загружаемые видео и как быстро истории могут распространяться или предлагаться другим пользователям. В настоящий момент почти все эти решения определяются мотивом выгоды: вопрос в том, какое устройство коммуникации более всего максимизирует рекламные прибыли и вовлечение пользователей. Такие подсчеты совершаются мгновенно, и часто они ограничивают (причем иногда довольно существенно) тиражирование того или иного поста. Все, что предлагает Нобле, – это учитывать больше ценностей, включая те, на обсуждение и применение которых требуется больше времени. «Медленные медиа» Нобле, подобные в этом смысле принципу наличия «человека в системе» автономных систем вооружения, представляются вполне разумным подходом[309]. Он не просто обходит незапланированные последствия. Он заставляет «просто» платформы взять на себя обязанности медиа, роль которых они сегодня в действительности играют.

Также есть конкретные примеры амбициозных кураторских проектов, которые нацелены на более высокое качество подачи новостей (пусть даже с меньшей скоростью и охватом) или ключевых предметов, интересных читателям. Например, критик технологий Евгений Морозов руководит командой аналитиков, которые публикуют The Syllabus – тщательно подобранную подборку материалов из определенных медиа, охватывающих десятки различных областей (от здоровья до культуры и от политики до бизнеса). Следуя принципу дополнительности, выражаемому первым новым законом робототехники, The Syllabus обещают «новый эклектический метод, при применении которого люди и алгоритмы должны работать сообща, отыскивая лучшую и наиболее значимую информацию»[310]. Циник может посмеяться над намерением The Syllabus организовать огромные массивы информации эффективнее кудесников из Кремниевой долины. Однако трудно сравнивать замечательную серию материалов команды Морозова, посвященную медиаосвещению «политики ковида», с «инфодемией» дезинформации, доступной на платформах, или просто предполагать, что десятки тысяч сотрудников компаний Facebook, Twitter и Google делают работу намного лучше, чем небольшая команда Морозова[311].

Каковы бы ни были реальные достоинства идеалистической миссии The Syllabus, нужно признать, что подобный мир сотен или тысяч доверенных советчиков мог бы децентрализовать власть эффективнее, чем медленные реформы в Facebook или Google. Эти воронки сетевого внимания оказывают диспропорциональное влияние на то, что мы смотрим и читаем. По мере того как следствия этой сконцентрированной способности убеждать становятся яснее, все больше экспертов по антимонопольному законодательству призывают к их раздроблению[312]. Например, хотя Марк Цукерберг готов утверждать, что контроль его компании над платформами Instagram, Facebook и WhatsApp позволяет заниматься точно таргетированной, настроенной на пользователя рекламой, он создает лакомую добычу для пиар-фирм и государственных агентств, которые стремятся манипулировать выборами. Даже когда подобные сомнительные организации обуздываются, обладание одной фирмой столь огромным массивом данных о пользователях и власти над ними остается незаконным. Разделение подобных базовых коммуникативных предприятий позволило бы снизить ставки столь важной в настоящий момент корпоративной политики. Также разделение позволило бы медиафирмам с большей легкостью требовать более значительную компенсацию за предлагаемые ими человеческие знания и навыки, что определило бы новый баланс цифрового рекламного ландшафта, сегодня благоприятного для технологических компаний[313].

Разрушительная сила сетевого внимания

Жалобы на политическое и культурное влияние сетевых посредников появились давно. Также предметом критики становится их коммерческое воздействие. Интернет-портал на все случаи жизни не может одинаково хорошо служить всем, особенно если одна цель (прибыльность) ставится выше всех остальных. Уязвимые группы населения, которые легко эксплуатировать, могут запросто стать источниками извлечения прибыли.

Посмотрим на то, что поисковая машина Google стала единственным источником самой разной информации, которую могут искать даже люди, оказавшиеся в отчаянном положении. Например, наркозависимые люди, ищущие помощь, часто обращаются к Google, вводя запрос «реабилитационный центр» или «опиоидная зависимость» во всем известной строке поиска. Они не задумываются о существовании бурлящей экосистемы брокеров данных и мошенников, которые стремятся подороже продать дешевые и несертифицированные реабилитационные услуги. Какое-то время поиск «реабилитация рядом со мной» выдавал рекламы третьих сторон, которые делали деньги, продавая лиды. Такие лидогенераторы часто практически никак не проверяли тех, кто платит им, на предмет наличия реальных реабилитационных возможностей. Иногда они графически отмечали собственную незаинтересованность, но на самом деле получали деньги от компаний, которым направляли клиентов. Журналистка Кэт Фергюсон пришла к выводу, что образовавшийся в итоге хаос «отталкивал многих людей от получения нужной им помощи, а в крайнем случае мог напоминать торговлю людьми»[314]. В таком случае может образоваться порочная петля обратной связи: фирмы, которые больше всего тратят на маркетинг (и меньше на реальное лечение), могут вытеснить более качественные компании залпом платных реклам, привлекающих больше клиентов своей назойливостью, что, в свою очередь, приносит дополнительную прибыль, которую можно снова пустить на рекламу. Это как раз та «гонка за внимание», которую должен предотвратить третий новый закон робототехники.

Хотя сторонники машинного обучения признают, что подобная манипуляция является реальной проблемой, они утверждают, что есть дешевые способы разобраться с ней, не привлекая регуляторов и контроль. Они говорят, что для устранения коммерческих перекосов надо пригласить добровольцев, которые бы заполнили спорные страницы поисковых результатов. Например, пользовательский контент на Google-картах может привести людей, которые хотят найти медицинскую помощь, в ближайшие к ним клиники. В книге «Машина, платформа, толпа: овладение нашим цифровым будущим» Эндрю Макафи и Эрик Бриньолфсон представляют подобное взаимодействие крупной интернет-компании (платформы) и ее пользователей (толпы) в качестве наиболее продуктивной синергии[315]. Такие крупные платформы, как Google, могут применять машинное обучение для выполнения многих задач, но также найти способ опереться на «толпу» добровольных интернет-пользователей, чтобы заполнить пробелы, если нужно больше данных или если нужны более качественные данные.

Google, озаботившись возможной негативной рекламой, которую могли создать ссылки на сомнительные центры реабилитации, решил разрабатывать вариант «толпы». Он перестал принимать деньги от центров реабилитации, посчитав, что результаты в поиске должны быть «органическими». Однако мошенники стали манипулировать также