Будущее разума - Митио Каку

Однако проблема с эмоциями состоит в том, что иногда они бывают совершенно иррациональными, тогда как роботы устроены математически строго. Поэтому кремниевое сознание, возможно, будет ключевым образом отличаться от человеческого. Так, человек слабо контролирует свои эмоции: с одной стороны, потому, что они возникают стремительно, а с другой – потому, что возникают они в лимбической системе, а не в префронтальной коре мозга. Более того, наши эмоции, как правило, далеко не нейтральны. Многочисленные тесты показывают, что мы склонны переоценивать способности красивых людей. Вообще, симпатичные люди, как правило, выше поднимаются по социальной лестнице и получают лучшую работу, даже если они менее талантливы, чем другие. Как говорится, у красоты есть свои преимущества.

Вряд ли «кремниевое сознание» будет принимать во внимание тончайшие нюансы, которые учитываем при встрече мы, люди (к примеру, язык тела). Входя в комнату, молодой человек обычно уступает старшим, а простой клерк проявляет вежливость по отношению к старшим начальникам. Мы демонстрируем уважение и позой, и телодвижениями, и выбором слов, и жестами. Язык тела старше обычного языка, он буквально вшит в мозг. Роботам, если они собираются вращаться в одном обществе с людьми, придется освоить это искусство и выучить все детали поведения, воспринимаемые нами на подсознательном уровне.

Человеческое сознание отражает особенности нашего эволюционного прошлого, которого у роботов нет, так что у кремниевого сознания, может быть, не будет наших лакун и вывертов.

Набор эмоций

Поскольку эмоции в роботов придется записывать извне, не исключено, что производители предложат клиентам на выбор целое меню эмоций, тщательно подобранных исходя из того, являются ли они необходимыми, полезными или усиливают эмоциональную связь с владельцем.

По всей видимости, в роботов будут закладывать лишь по несколько человеческих эмоций, в зависимости от ситуации. Возможно, владельцы больше всего будут ценить верность. Конечно, каждому хочется иметь робота, который честно и без жалоб выполнял бы любые команды, понимал бы нужды хозяина и умел бы угадывать его желания. С другой стороны, последнее, что нужно владельцу, – это робот с собственным отношением к жизни, который будет огрызаться, критиковать всех вокруг или ныть. Критика, может быть, и нужна, но она должна быть конструктивной и тактичной. А если люди начнут давать роботу противоречивые команды, он должен уметь их игнорировать – все, кроме тех, что исходят от хозяина.

Эмпатия – еще одна эмоция, которую обязательно оценят владельцы роботов. Роботы, снабженные эмпатией, будут понимать проблемы других и приходить на помощь. Читая движения лицевых мускулов и прислушиваясь к тону голоса, такой робот сможет определить, расстроен ли человек, и предложить помощь, если это возможно.

Как ни странно, страх – тоже очень желательная эмоция. Эволюция не просто так снабдила нас чувством страха; страх помогает избегать опасностей. Роботам, хотя они и стальные, тоже нужно будет бояться некоторых потенциально опасных вещей, таких как падение с высоты или сильный огонь. Совершенно бесстрашный робот будет бесполезен, если при первом же случае загубит себя.

Но некоторые эмоции, возможно, придется уничтожить, запретить или по крайней мере строго регулировать. Речь идет прежде всего о гневе. Так как роботы в массе своей, скорее всего, будут обладать большой физической силой, разгневанный робот может создать проблемы и в доме, и на рабочем месте. Гнев может затмить в его сознании долг, и тогда горе имуществу. (Первоначальной эволюционной задачей гнева было продемонстрировать недовольство. Это, кстати говоря, можно сделать разумно, без грубости и злости.)

Еще одна эмоция, которую нужно будет исключить, – это желание командовать. Властный робот всегда будет создавать проблемы; кроме того, он может поставить под сомнение авторитет и желания владельца. (Этот пункт очень важен и в вопросе о том, возьмут ли когда-нибудь роботы верх над людьми.) Значит, робот всегда должен будет уступать желаниям хозяина, даже если это будет не лучшее решение.

Но сложнее всего, возможно, будет реализовать чувство юмора, способное, подобно клею, мгновенно объединить совершенно чужих людей. Простая шутка зачастую может разрядить или, наоборот, взорвать ситуацию. Базовый механизм юмора прост: в нем всегда присутствует главная, совершенно неожиданная фраза. Но тонкостей в этом деле хватает. Фактически мы часто оцениваем окружающих по тому, как они реагируют на определенные шутки. Если человек использует юмор как меру оценки других, то можно себе представить, насколько сложно создать робота, который мог бы определить, смешна шутка или нет. Президент Рональд Рейган, к примеру, был знаменит тем, что самые сложные вопросы умел парировать шуткой. Более того, он собрал огромную коллекцию шуток, колкостей и острот, потому что понимал важность и мощь юмора (некоторые эксперты считают, что он выиграл президентские дебаты у Уолтера Мондейла, когда на вопрос, не слишком ли он стар, чтобы быть президентом, ответил, что не будет ставить молодость своего оппонента ему в вину). С другой стороны, неуместный смех может вызвать катастрофические последствия (и иногда является признаком болезни психики). Робот должен знать разницу между смехом вместе с кем-то и смехом над кем-то. (Актеры прекрасно знают, что смех может быть очень разным. Смехом они способны выразить ужас, цинизм, радость, гнев, грусть и т. п.) Так что роботам, по крайней мере пока теория искусственного интеллекта развита недостаточно, лучше держаться подальше от юмора и смеха.

Программируя эмоции

До этого момента мы избегали вопроса о том, как именно можно запрограммировать эмоции для компьютера. Эмоции настолько сложны, что программировать их, вероятно, придется в несколько этапов.

Первое. Простейшая часть задачи – распознавание эмоции путем анализа выражения лица человека, положения его губ, бровей, тона голоса. Сегодняшние технологии распознавания лиц уже способны составить словарь эмоций, т. е. определить, что означают определенные выражения лица. Этот процесс, надо сказать, восходит еще к Чарльзу Дарвину, который потратил немало времени на составление каталога эмоций, общих для животных и человека.

Второе. Робот должен очень быстро отреагировать на эту эмоцию. Это тоже несложно. Если кто-то рядом смеется, робот улыбнется. Если кто-то сердится, робот уберется с его пути и постарается избежать конфликта. В программу робота будет зашита большая энциклопедия эмоций, поэтому он будет знать, как быстро отреагировать на любую из них.

Третье. Эта стадия может оказаться самой сложной, поскольку речь здесь идет о попытке определить внутреннюю мотивацию, лежащую за первоначальной эмоцией. Это сложно, поскольку одна и та же эмоция может возникнуть в очень разных ситуациях. Смех может означать, что человек счастлив, что он услышал смешную шутку или увидел, как кто-то упал в лужу. Смех может означать и то, что человек нервничает, тревожится или хочет кого-то оскорбить. Точно так же, если человек кричит, это может означать чрезвычайную ситуацию, а может – неожиданную радость или удивление. Определять причину эмоции – искусство, в котором даже люди испытывают трудности. Чтобы сделать это, роботу придется перебрать все возможные причины данной эмоции и попытаться определить самую вероятную из них. Это означает найти причину, которая наилучшим образом соответствовала бы всем имеющимся данным.

И четвертое. Определив причину эмоции, робот должен будет соответствующим образом на нее отреагировать. Это тоже непросто, потому что в любой ситуации, как правило, есть несколько вариантов реакции, а неверная реакция может серьезно ухудшить дело. В программе робота, конечно, должны присутствовать все варианты ответа на ту или иную эмоцию, и робот должен будет определить, какой из них лучше всего подходит для конкретной ситуации. А это значит, что он должен будет моделировать будущее.

Будут ли роботы лгать?

Обычно мы представляем себе роботов холодными и рациональными аналитиками, всегда говорящими правду. Но если роботы будут интегрированы в общество людей, им, вероятно, придется научиться лгать или по крайней мере тактично воздерживаться от комментариев.

Сами мы практически каждый день сталкиваемся с ситуациями, когда приходится говорить безобидную ложь. Если человек спрашивает, как он выглядит, мы зачастую не отваживаемся сказать ему правду. Безобидная ложь – это смазка, благодаря которой крутятся шестеренки общества. Если бы вам вдруг пришлось говорить только чистую правду, причем всю (как делал это герой Джима Керри в фильме «Лжец, лжец»), дело, скорее всего, кончилось бы полным хаосом и людскими страданиями. Окружающие обижались бы, когда вы искренне говорили бы им, как они на самом деле сегодня выглядят или что вы на самом деле чувствуете по отношению к ним. Начальник поспешил бы вас уволить. Возлюбленная бы вас бросила. Друзья отвернулись бы от вас, а посторонние норовили бы побить. Некоторые мысли лучше держать при себе.