Молох (сборник) - Станислав Лем

3

Вышеприведенные рассуждения мне необходимы для перехода к более существенным проблемам. Как само собой разумеющееся (почти всегда) при проведении теста Тьюринга считается следующее: не все люди одинаково развиты в интеллектуальном смысле, но если по не требующим объяснения причинам мы исключим из круга Экзаменаторов дебилов и иных глупцов, то в действительности КАЖДЫЙ нормальный человек располагает таким запасом знаний и так называемой «языковой перформативностью», что сумеет провести беседы с машинной программой типа AI, заканчивающиеся «разоблачением» машины или установлением ее «нечеловеческого характера». Сегодня данная идея уже начинает вызывать сомнения. При этом гонка в области компьютерного производства, которая в последнее время привела к тому, что мы уже имеем процессоры типа Р6, которые могут обогнать Pentium, совершая два миллиарда элементарных операций в секунду, совершенно не приближает нас к моменту, когда программа, основанная на таком hardware, одолеет имитацией КАЖДОГО человека. Это еще по нескольким причинам довольно далеко от нас, и тот факт, что даже Каспаров получил мат от машины, ничего в нашей теме (AI) не меняет, поскольку brute force НЕ может быть успешно использована для языкового подражания поведению нормальной человеческой личности. Несомненно, машины УЖЕ обогнали нас по многим пунктам. Хорошая диагностико-терапевтическая программа, которая обладает сегодня полным комплектом результатов «дополнительных» исследований, сумеет опередить большинство врачей, обеспечивая комплексный подход для распознавания симптомов болезней, а также для определения методов их лечения. Этот тезис не голословен: американцы, любящие проводить статистические исследования на больших по численности релевантных группах (или репрезентативных для широких кругов людей — больных и здоровых), показали, что машины выполняют медицинские экспертизы не хуже, чем хорошие медики. Уже пытаются использовать машины в качестве судей и т. п. Поле этих действий неуклонно расширяется, и уже можно сказать, что некоторые из наших знаний (сегодня в глобальном масштабе они составляют около 1015 битов и будут удвоены до 2000 года) удастся алгоритмизировать, построить в виде разветвленного дендритического древа альтернативных решений: те, которые не содержат большого количества антимоний (логикосемантических противоречий), В ПРИНЦИПЕ могут быть преобразованы в программу для машины, которая не только относится к категории конечных автоматов, но, кроме того, обладает такой вычислительной мощностью, что результатов выполнения программы (лечебной, геологической, судебной, астрофизической) не надо будет ждать 200 лет (что было бы необходимо, если использовать простейшую машину Тьюринга…). Одним словом, дело в том, что если бы мы увеличили вычислительную мощность в итеративных, одношаговых системах, которые доминируют сегодня на мировом компьютерном рынке, то в лучшем случае мы смогли бы создать рудименты, макеты «разумного собеседника», но сравниться с ним таким путем нам не удастся. (Только он должен, повторю, действительно обладать интеллектом и разумом, а первое не то же самое, что второе). В скобках стоит добавить, что программы и такие машины можно примерно приблизить к прототипу, который одерживал бы победы в многочисленных поединках тьюрингова типа с заурядными собеседниками, ЕСЛИ программа будет учитывать некоторые особенности каждого языка людей. Этими особенностями являются: А) семантический полиформизм, или то, что значения слов опираются на понятия, которые не укладываются в целые гаммы различных смыслов, определяемых контекстно, конситуативно, коннотативно и денотативно — даже если не десигнативно; Б) вероятностность в границах логики высказываний, которая делает излишним обращение к tertium non datur, то есть что почти всегда есть ИЛИ ДА — ИЛИ НЕТ. Эта вероятностность вводит нас не только в новые двузначные логики (типа правда-ложь), но и в fuzzy sets и даже позволяет применять оксиморонические антимонии. Если же — лучше использовать тривиальный пример — кто-то скажет: «Красивая девушка, но все еще темный лес», а кто-то ответит: «Красивая, но абсолютно недоступная», то поскольку после утверждения идет отрицание, что будто «ничего неизвестно», то большинство людей почувствует какую-то тень сомнения в абсолютной девичьей невинности. Просто «мы так умственно устроены», и машине, которая должна будет подражать человеку, ТОЖЕ следует аналогично хромать в смысле логики высказываний и необходимо испытывать трудности с исполнением «в памяти» более длинных расчетов (даже простых арифметически), она должна также совершать ошибки, поскольку мы, собственно говоря, именно таким образом ведем себя в норме.

4

Каждый, кто прочитает «Вероятностную модель языка» известного математика-вероятностника Налимова, будет убежден автором, что машине ЛЕГЧЕ пройти тест Тьюринга (в разговоре с человеком), чем сделать полноценный перевод небанального и ненаучного текста (например, философского, литературного и тем более стихотворного) с языка на язык. И это действительно так, поскольку если смотреть на ХОРОШИЙ перевод сквозь призму логической семантики, то видно, что об однозначной дословности речь никогда не идет. Налимов утверждает, и я вслед за ним, что перевод — это всегда интерпретация понятийных смыслов, стоящих ЗА отдельными предложениями, выражающими на одном языке то, что должно представлять эквивалент на другом языке. Это, собственно говоря, очевидно, поскольку мы знаем, что на каком-либо языке каждый может как-то понять другого, также владеющего этим языком (естественно, речь не идет о топологии или алгебре), зато беглое знакомство с двумя языками действительно является ОБЯЗАТЕЛЬНЫМ условием для правильного перевода, но не является достаточным, так как не каждый человек, владеющий двумя языками, сумеет проявить способности переводчика — даже прозы (плохо переведенными произведениями мировая литература просто кишит).

5

Но это не все: это всего лишь пролегомены AI. Дело в том, что, по моему мнению, индивидуальность и интеллект — это качества, потенциально РАЗДЕЛЕННЫЕ. Возможен безличный разум, и такой я попробовал показать в книге «Голем XIV». Суть именно в том, что «язнь» или по крайней мере то, что скрывается за местоимением «Я», вовсе не является каким-то единством (для наглядности говорят: так не бывает, чтобы в нашем мозге жил маленький человечек, держащий поводья наших волевых качеств, и чтобы он НАЗЫВАЛСЯ «Я»). Маленькие дети обычно говорят о себе в третьем лице (маленький Ясь не говорит: «Я хочу банан», а скорее: «Ясь хочет банан»). Сознание конструирует индивидуальность, самоназывающуюся «Я» не без труда, а в многочисленных душевных болезнях психиатрического, а также неврологического типа при повреждениях центральной нервной системы это «Я» подвергается удивительным изменениям. Оно может размножаться (раздвоение личности: multipersonality syndrome), что издавна комментировалось в спиритических кругах очень таинственно. Профессор Макс Дессуар в тридцатых годах описывал людей, которые, абсолютно нормально ведя с кем-то беседу, ОДНОВРЕМЕННО могли писать тексты, не имеющие ничего общего с этой беседой: такой человек считал, что его руку ведет некий «спирит», скажем — дух. Возможно, существует ощущение, что «язнь» не находится внутри тела (головы), а где-то «рядом». Могут быть состояния гипоноические, гипобулические (о них писал создатель антропологической типологии Э. Кречмер), и вывод из этого в итоге такой: если машина какого-нибудь будущего поколения будет обладать программой, имитирующей интеллект, то она должна по возможности оказаться ВОСПРИИМЧИВОЙ к отклонениям вышеупомянутого типа. Впрочем, в США уже довольно давно известна программа PARRY, так хорошо имитирующая пароноика, что психиатры чистой воды квалифицировали его как «обычного параноидального больного». Из этого опять следует вывод, что человеческую ненормальность легче имитировать, чем нормальность, и я опасаюсь, что человеческую глупость (а это не является очень редким явлением) — легче, чем высокий интеллект. ПОЭТОМУ в Cyberspace так трудно сегодня встретиться с разумным собеседником, созданным компьютером. Впрочем, и об этом я писал в 1963 году в книге «Сумма технологии» в разделе «Фантомология».

6

Работы над AI продолжаются уже около полувека, а результаты остаются чрезвычайно скромными. Как показывают американские исследования, наш мозг — это многомодульная система, то есть его образуют относительно независимые подгруппы, и они могут, например, и хорошо сотрудничать, и вступать в функциональные противоречия. Поэтому возникают явные парадоксы: дебил может быть хорошим вычислителем, конкурирующим с электронными счетами, по крайней мере в области арифметики; кто-то может феноменально запоминать целые страницы текста «фотографическим» способом. Впрочем, известно, что функции, введенные под контролем сознания, покидая его и превращаясь в автоматизм, бывают функционально более точными (что лучше всего демонстрирует анекдот о сороконожке, которую спросили, как так получается, что она ЗНАЕТ, как передвигать такое количество ног, и она, задумавшись, уже не могла ступить ни шагу). Контроль сознания направлен на некоторые автоматизмы и, например, процесс декламации поэмы он может нарушить и даже остановить. А что касается языка — ребенок учит (без изучения грамматики) язык окружения и между вторым и четвертым годом жизни может в совершенстве знать два и даже три языка «не по науке», а путем погружения во многоязыковую среду. Зато локализация языков, которые мы учим позже, уже полностью отличается («другие модули» должны пройти тренинг и введение в состав, лексику и т. п.). Поэтому тот, кто подвергся повреждению центров родного языка, может иногда объясняться (понимать) с помощью позже выученного языка, причем того, которым владел довольно слабо. С детьми, изолированными от языковой среды, после 5–8 лет будет беда, потому что научиться успешно «автоматизму языка» они уже не способны. Это значит, что мозг после рождения в значительной мере переформирован настолько, что располагает готовностью к получению языкового навыка, а затем невральные механизмы, «ожидающие» этого, как бы подвергаются атрофии. Одним словом, чем лучше, хотя все время мизерно, мы познаем мозг, тем более явно проявляются различия между ним и такими совершенными автоматами, каковыми являются компьютеры ВСЕХ поколений. Загадка мозга заключается в том, что его модульность может быть как сильной стороной с точки зрения интеллекта, так и слабой. В мозге может оставаться в потенциале зерно и гениальности, и таланта, а отклонения во взаимодействии модулей могут стать основой безумия. Туннель «к AI» надо пробивать со стороны технологии наших компьютерных знаний и со стороны нейрофизиологии мозга. Чтобы описать то, как могли бы в будущем действовать компьютеры, «смешанно» построенные, то есть биотехнические, мне уже в этом эссе не хватит места. Более правильным мне кажется приведение в движение безличного разума, чем интеллекта, сдающего тест Тьюринга на «отлично» путем имитации человеческих языковых способностей. Мы были сформированы эволюцией, которая делает «приоритетными» способности, служащие для выживания, а не для распознавания особенностей внутренней динамики мозга или функционирования нашего тела благодаря ему. Поэтому сегодня мы больше можем узнать о галактиках, чем о том, что мы «имеем в голове», и отсюда столько неразберихи в философиях, основанных на самонаблюдениях философов, ибо допустить ошибку здесь очень легко. Мы ничего не знаем о тех подкорковых «Атласах», которые не только поддерживают сознание, но просто участвуют в его создании и тем самым являются агрегатами, работающими едино «для дела» интеллекта, их же сотрудничество определяется и через канал наследования (генами), и через канал культуры жизненного окружения. Компьютеры могут быть объединены в сети (как сейчас) различных интернетов, но даже если соединить их миллиарды, то из этого множества не удастся высечь искры интеллекта. Иначе говоря, разница между мозгом и компьютерами, умеющими ему подражать благодаря программам, как была огромной в эпоху ЭНИАКа, такой и осталась до сих пор. Но для будущих поколений машин, перерабатывающих информацию, следует из этого ровно столько, сколько следует из непохожести птицы и реактивного самолета или даже реактивного самолета и «орнитоптера». Как известно, и на Луну мы долетели, но орнитоптеров, конкурирующих с орлом или самолетом, в нашем технологическом вооружении нет. Итак, не следует ни провозглашать, что AI «уже, уже» перед нами, ни зарекаться, что его не будет никогда. Впрочем, цивилизованная среда сама все время информационно «подзаряжается», так что человек все хуже ориентируется в тех информацией питающихся и приводящихся в движение инструментах, которые ему служат, которые сконструировали для него специалисты… и тем самым отдали на съедение деструктивным, преступным актам человеческой воли.