Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

Что произойдет, если наша рабочая сила больше не будет нужна? Что, если рабочие места складских рабочих, мусорщиков, врачей, адвокатов и журналистов займут роботы? Конечно, никто не знает, каким именно окажется будущее, но, на мой взгляд, общество увидит, что у людей внутренне заложено желание работать или иным образом производить что-то, имеющее ценность. Новая экономика создаст рабочие места, которые невозможно представить себе сегодня. Писатели-фантасты, впрочем, уже хорошо поработали в этой области. Почитайте «Мать штормов» (Mother of Storms) Джона Барнса или «Аччелерандо» (Accelerando) Чарли Стросса, чтобы представить, как может выглядеть экономика будущего. Простой ответ заключается в том, что творческий потенциал человека безграничен, и если о наших базовых потребностях будут заботиться роботы и искусственный интеллект, то мы найдем возможности развлекаться, учиться и заботиться друг о друге новыми способами. Ответы могут быть туманными, но вопросы становятся все более четкими. Кем будут эти взаимодействующие с нами и заботящиеся о нас интеллектуальные машины – нашими союзниками или поработителями?

В этой книге я представляю читателям разнородную группу специалистов по информатике, программистов, робототехников и нейробиологов. Все они считают, что мы подходим к переломному моменту, за которым нас ждет мир машин, заменяющих людей и даже превосходящих их по некоторым качествам. Они предлагают целый спектр мнений о нашем месте в этом новом мире.

В первой половине нынешнего столетия обществу придется принять трудные решения относительно умных машин, которые могут потенциально быть нашими слугами, партнерами или хозяевами. На заре компьютерной эры в середине прошлого столетия Норберт Винер предупреждал о потенциальных последствиях автоматизации. «Мы можем быть смиренными и спокойно жить в окружении машин-помощников, – писал он, – или проявить самонадеянность и погибнуть».

Это предупреждение по-прежнему актуально.

Глава 1

Выбор направления – человек или машина

К тому времени как Билл Дюваль бросил колледж, он уже был классным программистом. Довольно быстро Дюваль подключился к разработке Shakey, шестифутового робота на колесах. Звездный час Shakey наступил в 1970 г., когда журнал Life назвал его первой «электронной личностью». Если взять для сравнения персонажей саги «Звездные войны», то Shakey попадал скорее в категорию мобильных роботов R2-D2, чем человекоподобных C-3PO. В принципе это был электронный агрегат с датчиками и электроприводом на колесах, управляемый сначала по проводам, а позднее по радио расположенным неподалеку мейнфреймом.

Shakey не был первым в мире мобильным роботом, но его создавали как первого по-настоящему автономного робота. В рамках одного из первых экспериментов в области искусственного интеллекта Shakey должен был анализировать окружающую обстановку, планировать собственные действия и выполнять задания. Он мог находить и двигать предметы или перемещаться по заданному маршруту в своем очень структурированном мире. К тому же как предвестник будущего он играл роль прототипа гораздо более перспективных машин, которые должны были жить, выражаясь военным языком, во «враждебной обстановке».

Хотя этот проект сейчас почти забыт, создатели Shakey впервые применили компьютерные технологии, которыми сегодня пользуются более миллиарда человек. Навигационные программы, применяемые повсеместно – от автомобилей до смартфонов, строятся на принципах, разработанных создателями Shakey. Их алгоритм A* – самый известный способ нахождения кратчайшего пути между двумя пунктами. Ближе к концу проекта в числе исследовательских задач появилось управление речью, и сегодняшний сервис Siri компании Apple – отдаленный потомок машины, начавшей жизнь как совокупность исполнительных механизмов и датчиков.

Дюваль вырос на полуострове к югу от Сан-Франциско и был сыном физика, участвовавшего в разработках военного назначения в Стэнфордском исследовательском институте, где находился Shakey. Он прошел все курсы программирования, которые предлагал Калифорнийский университет в Беркли в середине 1960-х гг. Через два года Дюваль бросил учебу в университете, чтобы присоединиться к команде, где работал его отец, и оказался в нескольких милях от кампуса Стэнфорда в замкнутой группе избранных, для которых мейнфрейм был эквивалентом первобытного божества.

Для молодого человека, одержимого вычислительной техникой, Стэнфордский исследовательский институт, вскоре переименованный в SRI International, открывал ворота в мир, где высококвалифицированные программисты создавали изящные программы для машин. В 1950-х гг. в SRI разработали первые компьютеры для обработки чеков. Дювалю поручили автоматизацию операций одного из английских банков, но тот был поглощен другим банком, и проект заморозили на неопределенное время. Дюваль превратил неожиданный перерыв в свой первый отпуск в Европе, а затем направился в Менло-Парк, чтобы возобновить роман с компьютерами в команде исследователей искусственного интеллекта, занимавшихся Shakey.

Как и многие другие программисты, Дюваль был одиночкой. В средней школе за десятилетие до выхода в свет фильма «Уходя в отрыв» (Breaking Away) он вступил в местный велосипедный клуб и колесил на байке по холмам за Стэнфордом. В 1970-х гг. этот фильм изменил отношение американцев к велогонкам, но в 1960-е гг. они все еще были богемным спортом, привлекавшим разного рода индивидуалистов и белых ворон. Это вполне подходило Дювалю. До поступления в среднюю школу он учился на полуострове в альтернативном учебном заведении, где считали, что дети должны обучаться в процессе практической деятельности и в соответствии с собственным темпом. Одним из его учителей был Айра Сандперл, ученик Ганди, завсегдатай книжного магазина Кеплера возле кампуса Стэнфорда. Именно Сандперл, в число подопечных которого входила также Джоан Баэз[2], привил Дювалю независимый взгляд на знания, учебу и мир в целом.

Дюваль был представителем первого поколения асов в сфере программирования, небольшой группы со своей субкультурой, которая зародилась в Массачусетском технологическом институте, где работа на компьютере была самоцелью, где свободно распространялись знания и коды, необходимые для оживления машин. Эта культура быстро распространилась по Западному побережью, где она пустила корни в центрах компьютерных разработок вроде Стэнфорда и Калифорнийского университета в Беркли.

В ту эпоху компьютеры были невероятной редкостью – гигантскими машинами могли похвастаться лишь банки, университеты и финансируемые правительством исследовательские центры. В SRI Дюваль получил неограниченный доступ к машине размером с комнату, которую когда-то приобрели для элитного финансируемого военными проекта, а затем стали использовать для управления Shakey. В SRI и в расположенной рядом Стэнфордской лаборатории искусственного интеллекта (Stanford Artificial Intelligence Laboratory – SAIL), прятавшейся в холмах за Стэнфордским университетом, существовала тесно связанная группа исследователей, уже тогда веривших в возможность создания машины, обладающей способностями человека. Для членов этой группы Shakey был прообразом будущего, и они верили, что всего через несколько лет научный прорыв позволит машинам действовать подобно людям.

Тогда, в середине 1960-х гг., в небольшом сообществе исследователей искусственного интеллекта на обоих побережьях царил фактически безграничный оптимизм. В 1966 г., когда SRI и SAIL в Калифорнии уже работали над созданием роботов и программ искусственного интеллекта, на другом конце страны, в Массачусетском технологическом институте, еще один пионер в сфере искусственного интеллекта, Марвин Мински, дал студенту последнего курса задание решить проблему машинного зрения. По его представлениям, этот проект можно было выполнить за лето. Действительность оказалась обескураживающей. Хотя искусственный интеллект, возможно, и должен был изменить мир, Дюваль, который уже поучаствовал в нескольких проектах SRI до переключения на Shakey, сразу понял, что роботу еще невообразимо далеко до чего-то реального.

Shakey жил в большой пустой комнате с покрытым линолеумом полом и парой электронных блоков. Вокруг были разбросаны похожие на коробки объекты, чтобы робот мог с ними «играть». Вместилище интеллекта, мейнфрейм, располагалось поблизости. Датчики Shakey фиксировали окружающую картину, а затем он стоял и «думал» в течение нескольких минут, прежде чем возобновить движение в своем замкнутом и контролируемом мире. Это было сродни наблюдению за ростом травы. Помимо прочего, робот часто ломался или у него разряжался аккумулятор после нескольких минут работы.

За несколько месяцев Дюваль выжал максимум из своего положения. Ему было ясно, что расстояние до заявленной цели проекта – создание автоматического часового или разведчика – измеряется световыми годами. Он пытался утешиться программированием дальномера, громоздкого устройства с вращающимся зеркалом, но в нем постоянно подводила механика, что превращало разработку программного обеспечения в упражнение по предсказанию сбоев и их устранению. Один из руководителей сказал, что проекту нужно «вероятностное дерево решений» для усовершенствования системы зрения робота. Поэтому вместо того, чтобы работать над этим специальным механизмом, Дюваль стал заниматься созданием программы, которая могла бы генерировать подобные деревья. Система зрения Shakey работала лучше, чем дальномер. Даже при простейшей программе обработки видеоданных робот мог различать края и базовые формы – важнейшие элементы для ориентирования и перемещения в пространстве.