Вычислительная машина и мозг – Джон фон Нейман

Борьба с предисловиями

Первое, что предстоит сделать любому человеку, имеющему желание ознакомиться с первоисточником – прорваться через кучу предисловий. Здесь нас ждёт 3-и предисловия, из них самое безобидное – последнее, написанное уже вдовой фон Неймана. И если человек не обладает достаточной стойкостью – он может попасть в ловушку. Оба автора предисловий бойко рапортуют, что Джон фон Нейман – гений (с чем не спорю), что он, дескать, предложил первую в мире действующую архитектуру ЭВМ, и её теоретически обосновал (что тоже близко к истине), и что вот он чуть-чуть не дотянул до полноценного искусственного интеллекта (далее – ИИ), потому что умер. Признаюсь, заряд бодрости в книге настолько сильный, что сам поневоле начинаешь думать, что дескать ты что-то не знал, и в серии коротеньких лекций сейчас и правда выкатят схему создания искусственного мозга, даром, что особых наработок и по работе реального мозга в 50-х не было. Но, как вы понимаете, оттрубили трубадуры, мы пришли к самому тексту Неймана, и поразились тому: а) насколько Джон фон Нейман был взвешенным человеком, далёким от завиральных идей; б) насколько он был осторожным в плане своих предсказаний учёным; в) насколько авторы предисловий к его книгам, простите, брехуны. Ибо никакого электронного мозга, искусственного интеллекта и пр. Джон фон Нейман и подумать не мог предлагать – и ссылаться на его работе в плане создания реальной машины это просто верх передёргивания.

Культурологическая предыстория

История не сохранила первый вопрос, который был задан человеку, презентовавшему автомобиль. Но, уверен, вопрос был из серии «а когда летающий сделаете?». Что поделать – у человека мышление реализуется за счёт шаблонов (по-умному – «паттернов»), которые входят в некую фундаментальную архитектуру работы нашей «мягкой и тёплой» машинки в голове, поэтому мы склонны экстраполировать получившееся на имеющееся, видимое и желаемое. Так и здесь – первые же примитивные аналоговые и вычислительные машины сразу же начали порождать вопросы на тему: «А когда мы сделаем собственный разумный мозг», хотя совершенно понятно, что это некий финальный, но совершенно не первый шаг в развитии науки и техники. Не удивлён, что Нейману приходилось отбиваться от этих вопросов постоянно. Не удивлён, что главной целью своего коротенького конспекта лекций он сделал задачу объяснить, почему «искусственный мозг» от нас так же далёк, как от освоивших палку-копалку дикарей далекие космические полёты.

Чаянья и надежды

Признаться, я ожидал вступить с автором в суровую полемику. Действительно, если не врут предисловия, и фон Нейман действительно считал, что появление ИИ это буквально вопрос пары лет, то он: а) глубочайшим образом ошибался практически – нам до ИИ даже сейчас ещё очень далеко; б) очень ошибался теоретически – понятно, что современная архитектура ЭВМ, явно восходящая к фон Неймановской, для создания полноценного ИИ совершено не годится. Признаюсь, я рад что мне не пришлось спорить с гениальным учёным – он, в отличии от своих последователей и авторов предисловий, обладал целым вагоном собственного скепсиса, и не ожидал в скорейшем времени увидеть что-то отдалённо похожее на ИИ.

Компьютер и мозг

Главный мой аргумент, который я хотел выставить автору – мы слишком мало понимаем и в теоретических принципах, и в практических особенностях работы нашего мозга, чтоб надеяться, что его деятельность нам удастся сымитировать. Проблему кроются даже не в биологии и математике – но даже в философии. Алан Тьюринг в своём труде (который я всем рекомендую) сам столкнулся с гигантскими проблемами, когда он не смог толком определить, что же является «мышлением», поэтому на ходу заменил «мышление» на «то, что человек примет за мышление». Т.е. ясности в этом вопросе нет ни с какой стороны. Да, многие учёные во времена Неймана были вдохновлены открывшимися нейронами, аксонами, дендритами – и правда верили, что имитация электрических сигналов между чем-то, похожим на нейроны есть путь к созданию искусственного интеллекта. Но уже сам Нейман во всем этом очень сильно сомневается.

Что заставило сомневаться фон Неймана?

Нейман не очень боялся объёмов системы, хотя признавал, что это может стать проблемой. Боялся он того, что даже теоретически то, что мы имитируем, мы не понимаем. Нейроны на электрически импульсы реагируют совершенно не одинаково – уже во времена Неймана был открыт феномен «усталости» нейронов. Поэтому, когда у вас по одной синаптической связи, из того же места приходит такой же сигнал, а реакция следует совершенно другая – это слегка раздражает. Раздражает и количество синаптических связей. Раздражает и неясность – влияет ли местоположение нейрона на характер его деятельности? Если у нейрона существует своеобразная «память» на реакции – где она записана, и не формируется ли она заново? Наконец главное, чего боялся фон Нейман – является ли математика тем самым «языком вселенной», на котором можно сформулировать законы функционирования мозга – или же это некий вторичный язык, а первичный нам недоступен? Это предположение он прямо выносит на последних страницах своего труда:

«… в нервной системе, по-видимому, используется система представления, которая в корне отличается от систем представления, с которыми мы имеем дело в обычной арифметике и математике».Или вот:

«Разумно предположить, что логика и математика также являются историческими, случайными формами выражения. Вероятно, они могут варьировать, т. е. существовать в других формах, помимо тех, к которым мы привыкли… В настоящее время у нас имеется достаточно свидетельств в пользу того, что, каким бы ни был язык, используемый центральной нервной системой, он характеризуется меньшей логической и арифметической глубиной, чем та, к которой мы привыкли». Тяжело победить врага, когда ты даже не уверен, что твои патроны смогут нанести ему вред.

Что заставляет сомневаться меня

Признаюсь, у меня нет смысла приводить свои аргумент против того, что ИИ будет создан на имеющейся «фон Неймановской» архитектуре ЭВМ – сам Нейман в это не верил. Но всё же не могу не добавить свои 5 копеек, почерпнутых мной из лекций профессора Савельева (знаю, многие относятся к нему со скепсисом – считаю, что это должно относиться только к его идеям социального обустройства, но не к нему как к учёному) и из другой литературы на эту тему.

Говорить о том, что импульсы в мозге являются «электрическими» – в корне неверно. Импульсы в мозге являются электрохимическими. Химическая структура каждого импульса определяется моделью с 8-ью переменными. Поэтому надеяться, что плюсик и минусик электрического разряда способны заменить полноценную электрохимическую активность мозг ачрезвычайно наивно;

Ключевая особенность в работе мышления, обучения и функционирования есть не сама активность, а постоянная изменчивость архитектуры мозга – гигантское количество синаптических связей отмирают каждую секунду, но ещё большее количество нарастает. Забудьте о том, что создание ИИ по аналогии с нашим мозгом возможно в статичной ЭВМ, без того, чтоб миллиард китайцев не перепаивал её каждую долю секунды;

Ну и последняя вещь, которую я узнал у Пенроуза (его книгу тоже очень рекомендую – хотя это совсем не лёгкое чтение), заключается в том, что чисто теоретически совокупность электрохимических импульсов в мозге, в сочетании с их количеством и размером, может быть достаточной для преодоления квантового порога, и создания в мозге ситуации квантовой неопределённости. Таким образом мы можем ошибочно воспринимать наш мозг как объект классической физики, в то время как он может быть смешанным объектом, и отдельно принимать во внимание законы квантовой физики. Это полностью выбивает из-под ног весь теоретический базис нашего понимания функционирования мозг – что уж о попытках его сымитировать.

Всё вышеперечисленное делает меня ещё большим скептиком, чем был Джон фон Нейман.

Антискептики и ИИ-позитивисты

Да, век ИИ-позитивистов уже прошёл – люди, которые верили, что «ИИ будет изобретён вот-вот», водились и в 60-е, и в 70-е, и в 80-е, и даже в 00-е – сейчас воспринимаются не иначе как романтики. Гениальный Дуглас Хофштадтер в своей блестящей книге (писал о ней здесь) прямо верит, что ИИ у нас уже в зоне досягаемости. Но годы идут, а «такой близкий» ИИ всё никак не приближается. Причём вылезает фундаментальное непонимание самой концепции ИИ – многие сторонники «сильного ИИ» (это те, кто считает, что ИИ появится автоматически, когда количество вычислений превысит некоторый порог) прямо считали, что как только машина выиграет у человека в шахматы – это и будет полноценный ИИ. Даже смешно говорить о таких мечтателях. Равно и о приснопамятном тесте Тьюринга, который тоже представляет собой одну большую подмену.

Сейчас разговоры об ИИ, который вот-вот, «на ниточке, на лучике» уже висит используются для осваивания разного рода военных бюджетов – по-моему, уже всем очевидно, что с нынешней архитектурой ЭВМ, восходящей к концепциям фон Неймана, никакого ИИ нам не сварить. Что не мешает многим мечтателям верить (с религиозным оттенком), что заповедный Грааль-ИИ у них уже в кармане. Ну пусть верят.

Как издавать подобные книги

К самому проекту издательства АСТ отношусь и с пониманием, и с негативом. Да, переиздавать такие источники нужно. Ну что ж вы за ленивые… люди? Почему нельзя сделать это нормально?

Понятно, что книга такого размера (180 страниц гигантским шрифтом и с интервалом 1,5) находится где-то на границах самоокупаемости. Издатели взяли ещё достаточно толстую бумагу, чтоб книга не выглядела совсем уж брошюркой, и укомплектовали её всеми предисловиями, которыми могли. Но почему нельзя сделать это всё адекватно и нормально? Понятно, что сама книга как первоисточник интересует не сильно – вряд ли человек, хоть чуть-чуть знакомый с архитектурой ЭВМ, узнает из неё много нового – новое будет касается только философских взглядов и мнений фон Неймана. Тогда почему нельзя к этой книге посадить пару из биолога и математика – и пусть они напишут гигантский комментарий к книге. Чтоб комментарий был в 3-4 раза больше, чем сама книга.

Пусть учёные, специализирующиеся на этой теме, напишут – где ошибся фон Нейман, где его мнение устарело, объяснят какие-то сложные моменты, напишут своё мнение. Расскажут, что продвинулось, чему ещё предстоит продвинуться. Почему нельзя подойти к изданию первоисточника нормально – не голый текст, но с актуализацией, с интересной полемикой?

Мне бы очень интересно было услышать от профессионалов, как именно представления на архитектуру ЭВМ изменились после фон Неймана. Насколько изменились биологические представления о природе мозга, и пр. Я вот очень бы хотел прочитать такую «актуализацию», и ознакомиться с первоисточником уже через призму современной науки. Где автор заблуждается, где, наоборот, оказался провидцем – хотя ничто не предвещало в науке такой прорыв. Увы, наши издатели неспособны сделать какой-то инновационный продукт такого типа. Тьфу.

Резюме

Книга очень интересная, но, если вы уже читали более современные книги о работе ЭВМ, или о работе мозга – мало что отсюда вынесете. Куда интересны именно авторские мнения фон Неймана – они оказываются куда шире и интереснее, чем могло бы показаться. Однако их уместить можно было в ещё меньший объём, чем это произведение.

Я довольна тем, что прочитала эту книгу, хотя она, конечно, – не то, что я искала. Затем открыла Майкл Брэнт Шермер – Тайны мозга. Почему мы во все верим , и это было уже гораздо «теплее». Собственно, меня интересует, как мы, люди, думаем. Память, страхи, эмоции – их материальное воплощение. Фон Нейман же, в первых же словах заявляющий, что он – не невролог, проводит параллели между работой мозга и компьютера, между «механикой» процессов в том и другом, так сказать. Сравнимы ли вообще центральная нервная система человека и вычислительная машина? Или, скорее, в той же степени, «чем ворон похож на конторку»?

Судя по всему, и да, и нет.

Харари считает, например, что сравнивать способы, с помощью которых мыслит человек и ЭВМ, – несерьёзно. Не поручусь за точность цитирования, но помню, что, по его мнению, людям свойственно объяснять работу мысли, сознание, личность в терминах новейших на данный момент технологий. Мне же кажется, что элементы сходства присутствуют. Примеры: рецептор как вводное устройство, электрический импульс как средство передачи информации, возбуждение нейрона по принципу «всё или ничего», подобному «0» или «1» двоичной системы счисления, которой пользуются компьютеры, конкретный «адрес», участок мозга, где обрабатываются определённые виды поступающей информации. И прочее.

Есть, разумеется, и отличия. Насколько я понимаю, невозможно ввести электрод и стереть человеку одно определённое воспоминание. Хотя Сакс, которого я недавно читала, указывает конкретный «адрес», где у нас хранятся воспоминания о знакомых лицах, например. Так что не исключено, что мы пока не можем избавить человека от мучающего его пережитого эпизода.

Словом, было интересно и непросто. Единственная скучная часть книги – предисловия. Их чудовищно много! Такое впечатление, что читателя считают неспособным понять текст без кучи предварительных пояснений. Но если продраться, написано коротко, ясно, суховато, как я люблю, и информативно. Очень заинтересовали все эти древние ламповые компы! Пришлось почитать о них. Какие молодцы всё-таки наши мозги, раз способны на такие изобретения! Словом, книга позволяет в очередной раз восхититься креативностью человечества и напрячь извилину. Очень рекомендую тем, кто далёк от темы, – для разминки. Тот же, кто в теме, наверное, не узнает ничего нового: мне показалось, что книжка немножко устарела (1959).

Хотя книга была написана в середине ХХ века, основные ее идеи не устарели. Автор довольно подробно рассказывает о принципах работы вычислительных машин и человеческого мозга, сравнивает их, противопоставляет и делает интересные выводы. Занятно, что мозг человека значительно уступает машинам по вычислительным характеристикам (не говоря уже о современных компьютерах). И все же, до сих пор искусственный интеллект лишь имитирует человеческий. Почему так? У Джона фон Неймана есть ответ на этот вопрос. И, надо сказать, этот ответ не лишен оптимизма.