Модели разума. Как физика, инженерия и математика сформировали наше понимание мозга - Lindsay Grace
Шрифт:
Интервал:
Закладка:
Перцептрон с его четкими правилами обучения в нейронной сети предложил нейробиологам четкие идеи, которые можно было проверить и найти в мозге. При этом он смог связать науку воедино на разных уровнях. Мельчайшие физические детали - например, движение ионов кальция внутри нейрона - приобретают гораздо большее значение в свете их роли в вычислениях.
* * *
Правление перцептрона оборвалось в 1969 году. И по шекспировской иронии судьбы его убил его однофамилец.
Книга "Перцептроны" была написана Марвином Мински и Сеймуром Пейпертом, математиками из Массачусетского технологического института. Книга была озаглавлена "Введение в вычислительную геометрию" и имела простой абстрактный дизайн на обложке. Мински и Пейперта потянуло написать о перцептронах из благодарности за изобретение Розенблатта и желания исследовать его дальше. На самом деле Минский и Паперт встретились на конференции, где они представляли схожие результаты своих исследований того, как перцептрон обучается.
Паперт был уроженцем Южной Африки с полными щеками, здоровой бородой и не одной, а двумя докторскими степенями по математике. Его всю жизнь интересовало образование и то, как оно может быть преобразовано с помощью компьютеров. Минский был меньше чем на год старше Паперта, с более резкими чертами лица и большими очками. Уроженец Нью-Йорка, он учился в Высшей научной школе Бронкса вместе с Фрэнком Розенблаттом; его наставниками также были Маккалох и Питтс.
Минский и Паперт разделяли с Маккалохом и Питтсом навязчивое желание формализовать мышление. Они считали, что истинный прогресс в понимании вычислений достигается за счет математических выводов. Все эмпирические успехи перцептрона - какие бы вычисления он ни выполнял или какие бы категории ни выучивал - почти ничего не значили без математического понимания того, почему и как он работает.
В то время перцептрон привлекал много внимания - и денег - со стороны сообщества искусственного интеллекта. Но он не привлекал того математического внимания, которого жаждали Минский и Паперт. Таким образом, к написанию книги их явно побудило желание повысить строгость изучения перцептронов - но также, как позже признал Паперт, желание уменьшить благоговение перед ними.9
Страницы книги "Перцептроны" состоят в основном из доказательств, теорем и выводов. Каждое из них вносит свой вклад врассказ о перцептроне : определяет, что это такое, что он может делать и как он учится. Однако после публикации этих 200 страниц - тщательного исследования всех тонкостей работы перцептрона - сообщество получило сообщение в основном о его ограничениях. Это произошло потому, что Мински и Паперт убедительно показали, что некоторые простые вычисления перцептрону выполнить невозможно.
Рассмотрим перцептрон, у которого всего два входа, и каждый из них может быть "включен" или "выключен". Мы хотим, чтобы перцептрон сообщал, одинаковы ли два входа: отвечал "да" (т. е. чтобы его блок считывания был включен), если оба входа включены, или если оба входа выключены. Но если один из них включен, а другой выключен, блок считывания должен быть выключен. Подобно сортировке носков в прачечной, перцептрон должен реагировать только тогда, когда видит подходящую пару.
Чтобы считывающее устройство не срабатывало, когда включен только один вход, веса каждого входа должны быть достаточно низкими. Например, они могут быть в два раза меньше, чем требуется для включения считывающего устройства. Таким образом, когда оба входа включены, считывающее устройство сработает, и оно не сработает, когда включен только один вход. При такой настройке считывающее устройство правильно реагирует на три из четырех возможных входных условий. Но в условиях, когда оба входа выключены, считывающее устройство будет выключено - неправильная классификация.
Как выяснилось, сколько бы мы ни возились с силой связи, удовлетворить все потребности классификации сразу невозможно. Перцептрон просто не может этого сделать. И проблема в том, что ни одна хорошая модель мозга - или перспективный искусственный интеллект - не должна потерпеть неудачу в такой простой задаче, как определение того, являются ли две вещи одинаковыми или нет.
Альбус, чья работа о мозжечке была опубликована в 1971 году, знал об ограничениях перцептрона и понимал, что, несмотря на эти ограничения, он был достаточно мощным, чтобы стать моделью задачи обусловливания моргания глаз. Но модель всего человеческого мозга, как обещал Розенблатт? Невозможно.
Портрет, который нарисовали Мински и Паперт, заставил исследователей ясно увидеть возможности перцептрона. До выхода этой книги исследователи могли изучать возможности перцептрона вслепую, надеясь, что границы его способностей еще далеки, если они вообще существуют. Однако после того, как контуры были показаны наглядно, стало невозможно отрицать, что эти границы существуют, и что они гораздо ближе, чем предполагалось. По правде говоря, все это означало понимание перцептрона - именно то, что Мински и Паперт и собирались сделать. Но конец невежества вокруг перцептрона означал и конец восторгов по этому поводу. Как сказал Паперт: "Быть понятым может быть судьбой не хуже смерти".
Период, последовавший за публикацией книги "Перцептроны", известен как "темные века" коннекционизма. Он был отмечен значительным сокращением финансирования исследовательских программ, которые выросли из первоначальных работ Розенблатта. Нейросетевой подход к созданию искусственного интеллекта был затушен. От всех чрезмерных обещаний, надежд и шумихи пришлось отказаться. Сам Розенблатт трагически погиб в результате несчастного случая на лодке через два года после выхода книги, а область, которую он помог создать, оставалась бездействующей более 10 лет.
Но если шумиха вокруг перцептрона была чрезмерной и необоснованной, то и ответная реакция на него тоже. Ограничения, описанные в книге Мински и Пейперта, были верны: перцептрон в той форме, в которой они его изучали, был неспособен на многое. Но ему и не нужно было сохранять эту форму. Например, проблема "одинаково или нет" может быть легко решена путем добавления дополнительного слоя нейронов между входом и считыванием. Этот слой может состоять из двух нейронов, один из которых имеет веса, заставляющие его срабатывать, когда оба входа включены, а другой - когда оба входа выключены. Теперь нейрон считывания, который получает входные данные от этих средних нейронов, должен быть активным, если один из средних нейронов активен.
Многослойные перцептроны", как называли эти новые нейронные архитектуры, могли воскресить коннекционизм из мертвых. Но до полного воскрешения необходимо было решить одну проблему: обучение. Оригинальный алгоритм перцептрона содержал рецепт установки связей между входными нейронами и считывающими нейронами - то есть правило обучения было разработано для двухслойной сети. Если
