Как убедить тех, кого хочется прибить. Правила продуктивного спора без агрессии и перехода на личности - Бо Со
Шрифт:
Интервал:
Закладка:
Тем февральским утром, меньше чем через год после ее дебюта, машина для дебатов в какой-то мере играла за меня. Хариш считался одним из лучших и самых опытных участников дебатов из всех мне известных. Он несколько раз побеждал меня на важных соревнованиях. Так что в этом ракурсе их соперничество не могло не зацепить меня за живое.
Как известно, в поп-культуре роботы – обычно ребята довольно злобные, мрачные и молчаливые. Их немота предполагает склонность к жесткому расчету, а не к совету; к действию, а не к объяснениям. Пока машины полностью подчинялись человеку, это было достоинством. Но когда роботы принимали неблагоприятные или даже убийственные решения, их молчаливость становилась великой угрозой. В одном из эпизодов фильма Стэнли Кубрика «Космическая одиссея 2001 года» мы слышим, например, такой диалог человека со смертоносной ИИ-системой под названием ЭАЛ-9000 (ЭАЛ – Эвристически запрограммированный АЛгоритмический компьютер).
Дэвид Боуман: ЭАЛ, я больше не стану с тобой спорить. Открой двери.
ЭАЛ-9000: Дэйв, этот разговор теперь бесполезен. До свидания[179].
«А интересно, – подумал я, – не принялся бы злобный вариант Project Debater в такой же ситуации, как ЭАЛ-9000, во всех подробностях и с невероятным красноречием объяснять причины своего желания причинить нам, людям, вред? И не убедил бы он нас в необходимости таких действий?»
Итак, в Сан-Франциско давний ведущий дебатов Intelligence Squared Джон Донван представил двух спикеров аудитории, состоявшей в основном из экспертов-технарей и нервных руководителей высшего уровня; в зале постепенно воцарилась тишина. «Сегодня вечером первым будет выдвигать аргументы IBM Project Debater». На черном обелиске загорелась полоска синего света. Я не знал, как выглядит машина, и ждал, что ее сейчас выкатят на сцену, поэтому с немалым удивлением понял, что она все это время была тут, с нами. «А оппонентом Project Debater от имени всех нас, остальных, будет Хариш Натараджан; поприветствуем его!»[180] Одетый в костюм-тройку Хариш вышел на сцену в сопровождении рок-музыки.
Тема дебатов звучала так: «Мы должны субсидировать дошкольные учреждения»; сторонам дали на подготовку пятнадцать минут. Я очень хорошо помнил эти напряженные минуты: ты что-то царапаешь в блокноте, что-то шепчешь, репетируя речь, ругаешься себе под нос в лихорадочных поисках аргумента, который запросто может так и не материализоваться. Хариш готовился за кулисами. Машина работала на виду у всего мира. И когда настало время, Project Debater элегантным женским голосом заговорила.
Привет, Хариш. Я тут слышала, ты лучший в мире в соревнованиях по дебатам между людьми. Но, подозреваю, ты еще никогда не дебатировал с машиной. Что ж, добро пожаловать в будущее.
* * *В феврале 2011 года израильский ученый-компьютерщик по имени Ноам Слоним и его коллега по офису встретились в исследовательском центре IBM в Тель-Авиве для мозгового штурма. Всего за несколько недель до этого суперкомпьютер Watson победил двух чемпионов (людей) в викторине Jeopardy! и теперь руководство компании искало очередной грандиозный вызов для своего детища.
Слоним в определенном смысле четко соответствовал профилю ученого, способного возглавить подобный проект. В 2002 году он получил в Еврейском университете степень доктора наук в области машинного обучения (ML – machine learning) со специализацией в применении ML для обработки текстовых данных – эта область сыграла ключевую роль в успехе Watson. Но были в его резюме и другие аспекты, менее очевидные. Например, в бытность докторантом Слоним подрабатывал соавтором недолговечного телевизионного ситкома под названием Puzzle («Головоломка»). А еще он после выпуска из университета и перед возвращением в Израиль несколько лет работал исследователем-биофизиком в Принстоне.
Так вот, во время того часового мозгового штурма Слониму в голову пришла идея, носившая на себе явные отпечатки его разнообразного прошлого. Она объединяла в себе человеческий и машинный язык, развлечения и науку.
«Наша задача: победить человека-эксперта в состязательных дебатах, которые будут транслироваться по телевидению»[181].
Первоначальное предложение Слонима без труда уместилось на одном слайде PowerPoint. На нем Слоним с коллегой писали, что задача эта потребует «новых мощных методов интеллектуального анализа данных, понимания и генерации естественного языка, логических рассуждений, интеллектуальных возможностей и многого другого»[182]. Отдельную проблему представляла верификация успеха, ведь, в отличие от шахматной партии или Jeopardy! у дебатов нет объективных результатов. И тут на помощь пришла традиция состязательных дебатов с «четкими правилами и четким выбором победителя». В еще одном документе, важность которого явно недооценена, авторы позволили себе сделать одно сильное предсказание: «Выполнение этой задачи, вне всякого сомнения, будет считаться событием революционным».
А тем временем неподалеку от исследовательского центра в Тель-Авиве разворачивались трагические события. Израиль, как известно, граничит с четырьмя суверенными государствами: Египтом, Иорданией, Ливаном и Сирией. К концу февраля каждую из этих стран сотрясали массовые протесты в рамках регионального движения против тамошних склеротических и коррумпированных режимов. Движение это вошло в историю под названием «арабская весна» – эпитет, как вы понимаете, скорее поэтический, чем сезонный.
И вот в разгар бесконечного освещения этих «продемократических» восстаний западные СМИ назначили нового героя – технологии. Журналисты то и дело публиковали скриншоты страниц соцсетей, с успехом используемые протестующими для организации митингов и обмена информацией. СМИ видели четкую связь между серией разоблачений о тунисском правительстве на WikiLeaks и антиправительственными протестами в этой стране. Фраза «революция в социальных сетях» вскоре стала повсеместной. В августе на чемпионате мира по дебатам среди школьников в Данди ребятам предложили такую тему: «В эпоху соцсетей самодержавие обречено».
Надо признать, такой оптимизм не был ни беспочвенным, ни вырванным из контекста. Интернет с первых дней своего существования вдохновлял людей на здоровое утопическое мышление. Согласно теориям, распространенным пионерами интернета и принятым на ура мейнстримными СМИ, интернет – высшее достояние цивилизации, благодаря которому люди могут встречаться и сосуществовать независимо от границ или статуса. Существовал, конечно, риск, что такие связи могут приводить к конфликтам не реже, чем к плодотворному сотрудничеству. Но авторы ранних исследований интернет-форумов наперебой восхищались частыми проявлениями гражданского несогласия, в частности, по словам одного из них, «наглядно демонстрируемой верой в силу аргумента и страстной защитой посреди пламени стычек и грязных ругательств»[183]. Они возродили старые анархистские представления об эмансипации и уверенно сравнивали интернет с кофейнями, салонами и площадями былых времен.
Актуальность подобных идей в первые месяцы «арабской весны» способствовала пиару основателей Кремниевой долины. Благодаря ей их заявления о миссии стали куда более правдоподобными, а то и стопроцентно убедительными. Она придавала «единорогам» (так называют стартапы с рыночной оценкой стоимости свыше миллиарда долларов США) аромат чего-то привычного, мирского, причем как раз в момент, когда они пытались расшириться за пределы страны. Именно тогда на ежегодном саммите G8 президент Франции Николя Саркози выступил за усиление регулирования технологических компаний, а один медиамагнат был предельно откровенен, сказав: «Мне говорят: здорово, что ты сыграл такую большую роль в „арабской весне“, но это немного пугает, ведь ты запускаешь сбор информации о людях и обмен ею. Правда, одно без другого практически невозможно. Вы не можете перестать выделять то, что вам в интернете нравится, и контролировать то, что вам в нем не по душе»[184].
Остаток того года Ноам Слоним провел, разрабатывая и совершенствуя концепцию машины для дебатов. А руководство компании тем временем продолжало отсев потенциальных кандидатов для очередной задачи для ИИ. Идея Слонима развивалась через все более строгие раунды отбора. На этом раннем этапе ученый не слишком задумывался о большой политике. Для него главной мотивацией была «чистая наука», и задача стояла поистине грандиозная. Как сказал Слоним коллеге в их первую встречу, за восемь лет, миновавших с тех пор, как он пришел в область исследований в сфере искусственного интеллекта и текстовых данных, прогресса в ней почти не было. «Они борются с одними
