Джон фон Нейман
Вычислительная машина и мозг
Кроме того, точность, с которой биологический мозг может представлять любую переменную, также на много порядков ниже точности, доступной цифровой машине. Вычислительные машины, отмечает фон Нейман, легко манипулируют восемью, десятью или двенадцатью десятичными знаками, в то время как точность представления числа в нервной клетке – т. е. частота импульсов, которые она отправляет вниз по аксону, – ограничена двумя десятичными знаками (а именно, плюс или минус 1 процент от максимальной частоты около 100 Гц). Это настораживает, поскольку в ходе любых вычислений, включающих большое количество шагов, маленькие ошибки на ранних этапах накапливаются и превращаются в большие ошибки на завершающих этапах. Хуже того, добавляет фон Нейман, во многих типах вычислений даже незначительные ошибки на ранних этапах экспоненциально усиливаются на последующих этапах, что неизбежно ведет к высшей степени неточным конечным результатам. Таким образом, если мозг – цифровая вычислительная машина, представляющая любое число с точностью до двух десятичных знаков, то он – вычислительный болван.
В совокупности два этих важных ограничения – скорость и точность – приводят фон Неймана к выводу: каким бы методом ни пользовался мозг, он должен включать минимальную «логическую глубину». Иными словами, что бы мозг ни делал, он не может выполнять тысячи последовательно организованных вычислений, как это делает высокочастотный центральный процессор цифровой машины. Учитывая низкую скорость, с которой работают нейроны, у мозга просто нет времени на то, чтобы выполнить любые вычисления, кроме самых простых. Впрочем, даже будь у него достаточно времени, в силу низкой точности представления переменных результаты таких вычислений все равно бы никуда не годились.
Весьма странный вывод: очевидно, что, несмотря на вышеописанные ограничения, мозг каким-то образом справляется с громадным разнообразием сложных вычислений, причем делает это в мгновение ока. Однако в аргументах фон Неймана нет ничего неправильного. Ограничения, на которые он указывает, действительно имеют место. Что же тогда происходит в нашем мозге?
Как правильно понимает фон Нейман, вычислительный режим мозга, похоже, компенсирует неизбежную нехватку логической глубины за счет необычайной логической широты. По его словам, «большие и эффективные естественные автоматы, по всей вероятности, будут производить действия параллельно, в то время как большие и эффективные искусственные автоматы – последовательно» [курсив фон Неймана]. Первые «будут одновременно обрабатывать максимально возможное количество логических (или информационных) единиц» [курсив переводчика]. Это означает, пишет фон Нейман, что при подсчете общего количества «основных активных органов» мозга мы должны учитывать не отдельные нейроны, а все их многочисленные синапсы.
Все это – важные наблюдения. Сегодня мы знаем, что мозг содержит примерно 1014 синаптических связей, каждая из которых модулирует поступающий по аксону сигнал, прежде чем передать его на принимающий нейрон. Задача нейрона, таким образом, состоит в том, чтобы суммировать или иным образом интегрировать входы от этих синаптических связей (до 10 000 на одну клетку), после чего генерировать свой собственный импульс. Самое главное, что все эти незначительные трансформации происходят одновременно. Данный факт означает, что, если каждый синапс активен примерно 100 раз в секунду (напомним, что типичная частота следования импульсов лежит в диапазоне 100 Гц), общее количество основных операций по обработке информации, выполняемых мозгом, должно составлять примерно 102 × 1014, или 1016 операций в секунду! Поразительное достижение для любой системы. Более того, данный показатель существенно превышает таковой для новейшего настольного компьютера (109 основных операций в секунду). Выходит, мозг – и не черепаха, и не болван. Почему? Хотя бы потому, что он никогда не был последовательной цифровой машиной: мозг представляет собой аналоговую машину с массивным параллелизмом.
Именно к такому заключению и приходит фон Нейман. Современная нейронаука, а также компьютерное моделирование параллельных сетей подтверждают его выводы. Согласно современным представлениям, альтернативная вычислительная стратегия, над которой размышлял фон Нейман, сводится к одновременному умножению каждой из многих тысяч или миллионов частот импульсов (которые составляют очень большой входной вектор) на коэффициенты еще большей матрицы (а именно, конфигурации многих миллионов синаптических соединений, связывающих одну популяцию нейронов с другой), что дает выходной вектор (новый, совершенно иной паттерн частот импульсов в принимающей популяции нейронов). Именно эта новая общая конфигурация многих миллионов, точнее триллионов, синаптических связей и воплощает в себе любые знания и навыки, которые приобретает мозг. Именно эти синаптические связи молниеносно преобразовывают информацию, поступающую по аксонам (например, от органов чувств). Это одновременно дает скорость и позволяет избежать рекурсивной амплификации ошибок, на которую обращал внимание фон Нейман.
Сразу скажем, что эти данные не только не нарушают целостности предложенных им цифровых и последовательных технологий, но и не лишают нас надежды на создание искусственного интеллекта. Даже наоборот. Мы можем сделать электронные версии синаптических связей и, отказавшись от классической архитектуры фон Неймана, построить обширные параллельные сети искусственных нейронов – т. е. спроектировать электронный аналог вычислительной системы малой глубины, но экстраординарной широты, которой, по всей вероятности, и пользуется наш мозг. Такие системы окажутся примерно в 106 раз быстрее, чем их биологические тезки – хотя бы потому, что будут собраны из электронных, а не биохимических компонентов. Отсюда можно сделать несколько важных выводов. Например, электронный дубликат биологического мозга мог бы всего за тридцать секунд выстроить цепочку рассуждений, на которую у вас ушел бы целый год, а за полчаса – «прожить» семьдесят лет напряженной интеллектуальной деятельности. Искусственный интеллект, безусловно, ждет интересное будущее.
Впрочем, мы бы хотели предостеречь читателя от ложных надежд. В основе небольших искусственных нейронных сетей, построенных на сегодняшний день, лежат следующие допущения: синапсы представляют собой крошечные множители, нейроны служат сумматорами с сигмовидной выходной функцией, а информация кодируется частотой нервных импульсов. Многие из этих сетей демонстрируют замечательные «познавательные» способности – во всяком случае, после длительного обучения. Однако те же самые модели не отличаются чуткостью и разнообразием, свойственным поведению настоящих синапсов и нейронов. Нейрофизиологические исследования учат нас, как когда-то учили фон Неймана, что первые модели мозговой деятельности – это, в лучшем случае, грубые аппроксимации нейровычислительной реальности. Эти аппроксимации могут оказаться столь же ошибочными, как и предыдущая догадка о цифровом характере операций мозга. Существует много способов кодирования информации в поведении аксона; есть также много способов модулировать ее на синапсе; и известно много способов интегрировать ее в нейрон. Наши модели функционируют достаточно хорошо, чтобы захватить наше воображение, но мозг до сих пор содержит множество загадок. Несомненно, нас ждет еще много сюрпризов. Ученым предстоит громадная работа, а потому мы должны смиренно принимать любые эмпирические данные, как это, безусловно, делал фон Нейман.
Фон Нейман предложил архитектуру вычислительных систем, которая лежит в основе компьютерной революции XX века – революции, по своему влиянию на долгосрочное будущее человечества отнюдь не уступающей механике Исаака Ньютона или электромагнетизму Джеймса Максвелла. Более того, говоря о биологическом мозге, фон Нейман сумел не только заглянуть за рамки предложенной им архитектуры, но и наметить контуры новой, гораздо более мощной объяснительной парадигмы.
В конце всякой продолжительной дискуссии о природе интеллекта кто-нибудь обязательно выразит надежду, что однажды и в этой области появится свой Ньютон. Мы же хотим закончить наше предисловие на другой ноте. Как показывает следующая книга, есть веские основания полагать, что долгожданный Ньютон появился, но, увы, уже покинул нас. Его зовут Джон фон Нейман.
Пол и Патрисия Черчленд
Вступительное слово
Выступить с Силлимановскими лекциями, одним из наиболее старых и почитаемых циклов академических лекций в Соединенных Штатах, считается привилегией и высокой честью среди ученых всего мира. По традиции лектора приглашают прочесть двухнедельный курс лекций, а затем представить их в виде рукописи для издания отдельной книгой под эгидой Йельского университета.
В начале 1955 года Йельский университет пригласил моего мужа, Джона Неймана, прочесть цикл Силлимановских лекций в весенний семестр 1956 года – в конце марта или в начале апреля. Джонни был крайне польщен и обрадован приглашением, и все же ему пришлось сразу оговорить одно условие, а именно – он попросил ограничить курс лекций одной неделей, пообещав, однако, что в рукописи избранная им тема – «Вычислительная машина и мозг» – будет изложена более подробно. Просьба сократить продолжительность лекций была вынужденной мерой: президент Эйзенхауэр только что назначил Джонни членом Комиссии по атомной энергии (КАЭ). Хотя работа в Комиссии предполагала полную занятость – даже ученые не имели возможности надолго отлучаться от своих письменных столов в Вашингтоне, – мой муж не сомневался, что найдет время написать лекции, поскольку он всегда писал свои работы дома, по ночам или на рассвете. Когда его что-нибудь интересовало, работоспособность Джонни становилась практически безграничной, а многочисленные неизученные возможности автоматов занимали его давно. Джонни был уверен, что сумеет подготовить всю рукопись, даже несмотря на то, что сам курс лекций пришлось сократить. Тогда – как, впрочем, и позднее, когда не осталось ничего, кроме горечи и печали, – Йельский университет с готовностью пошел ему навстречу и принял его условия. Джонни приступил к новым обязанностям, надеясь, что в скором времени сможет продолжить работу над теорией автоматов.
Весной 1955 года мы переехали из Принстона в Вашингтон и Джонни взял отпуск в Математической школе Института перспективных исследований, в которой состоял профессором с 1933 года.
Джонни родился в Будапеште в 1903 году. Уже в раннем возрасте он демонстрировал удивительную способность и интерес к научным вопросам; в детстве его почти фотографическая память проявлялась самыми разными и необычными способами. В юности он изучал сперва химию, а затем математику в Берлинском университете, в Высшей технической школе в Цюрихе и Будапештском университете. В 1927 году он был назначен на должность приват-доцента в Берлинском университете, тем самым став одним из самых молодых преподавателей, получивших это звание в университетах Германии за последние двадцать-тридцать лет. Позже Джонни преподавал в Гамбургском университете, а в 1930 году впервые пересек Атлантический океан, приняв приглашение Принстонского университета, где ему предложили преподавательскую должность сроком на один год. В 1931 году Джонни стал постоянным сотрудником Принстонского университета и окончательно переехал в Соединенные Штаты.
В течение 1920-х и 1930-х годов круг научных интересов Джонни оставался весьма широк, однако включал преимущественно теоретические вопросы. Его публикации были посвящены квантовой теории, математической логике, эргодической теории, непрерывной геометрии, проблемам колец операторов, а также многим другим областям чистой математики. В конце тридцатых годов он увлекся вопросами теоретической гидродинамики, а именно – решением дифференциальных уравнений в частных производных с помощью известных аналитических методов. Данная тема занимала его вплоть до сороковых годов. Когда же над миром сгустились тучи войны, Джонни обратился к оборонной науке; особый интерес вызывали у него прикладные области математики и физики. Взаимодействие ударных волн – очень сложная проблема гидродинамики – стало одним из важнейших направлений военно-научных исследований. Огромное количество вычислений побудило Джонни воспользоваться быстродействующей вычислительной машиной. Работая с электронным числовым интегратором и вычислителем ENIAC, построенным в Филадельфии для Лаборатории баллистических исследований Армии США, Джонни впервые осознал широчайшие возможности, которые открывало перед человечеством применение автоматики. Мой муж помог усовершенствовать ряд математических и логических схем ENIAC; с тех пор и до последних часов своей жизни он проявлял глубочайший интерес к еще не исследованным аспектам и перспективам использования вычислительных машин.
В 1943 году, вскоре после запуска Манхэттенского проекта, Джонни стал одним из ученых, «исчезнувших на Западе». Большую часть времени он курсировал между Вашингтоном, Лос-Аламосом и другими городами. В этот период он окончательно убедился в том, что расчеты, выполненные с помощью быстродействующих электронных устройств, могут существенно облегчить решение сложнейших научных задач.
