Марвин Минский
Сообщество разума
6.11. Заглянем внутрь
Предположим, что во время прогулки и беседы мы имели возможность наблюдать сигналы, проникающие в наш мозг. Будут ли эти сигналы иметь для нас какой-то смысл? Многие проводили эксперименты, рассчитывая сделать такие сигналы слышимыми и видимыми посредством устройств биологической обратной связи. Такие устройства нередко помогают научиться контролировать различные мышцы и железы, которые обычно находятся вне контроля сознания. Однако понимания того, как работают «потайные» ментальные цепочки, достичь не удалось.
Ученые сталкиваются с аналогичными проблемами, применяя электронные инструменты для прослушивания сигналов мозга. Тем самым получилось расширить наши представления о деятельности нервной системы, но эти идеи и прозрения возникли из наблюдений отнюдь не сами по себе. Нельзя использовать данные, не имея по крайней мере некой основы в форме теории или гипотезы. Даже располагай мы возможностью непосредственно ощущать все внутренние процессы умственной жизни, это не помогло бы нам их понять. Наоборот, такая возможность способна дополнительно затруднить понимание, поскольку она будет подавлять нашу способность истолковывать сигналы. Причины и функции того, что мы наблюдаем, не являются тем, что мы можем наблюдать.
Откуда берутся идеи, которые нам нужны? Большинство наших концепций порождаются коллективами, в составе которых мы обитаем. Даже идеи, которые мы «получаем» для себя, исходят от сообществ – на сей раз тех, что скрываются в наших головах. Мозг не производит мысли, в отличие от мышц, источающих силу, или яичников, вырабатывающих эстроген; чтобы придумать хорошую идею, необходимы усилия огромного множества «субмашин», которые выполняют чрезвычайно разнообразные задачи. Каждый человеческий череп содержит сотни этаких компьютеров, развивавшихся на протяжении сотен миллионов лет эволюции, и каждый из них имеет свою, чуть отличную от прочих архитектуру. Каждый «специализированный» агент должен научиться обращаться к другим агентам-специалистам, которые могут ему помочь. Некоторые разделы мозга отличают звуки голосов от других звуков; другие специализированные агенты отличают лица от объектов других типов. Никто не знает, сколько таких агентов прячется в нашем сознании. Но почти наверняка все они используют немного различные виды программ и форм репрезентации; у них нет общего кодового языка.
Если разум, чьи составные части используют разные языки и способы мышления, пытается заглянуть внутрь себя, лишь немногие из упомянутых агентов смогут понять друг друга. Людям, которые говорят на разных языках, достаточно сложно общаться, а сигналы, используемые разными частями разума, несомненно, различаются и того сильнее. Если агент М задал любой вопрос «чуждому» агенту Ц, как этот последний поймет, о чем его спрашивают и как М поймет его ответ, если таковой все же будет? Большинство пар агентов вообще не в состоянии общаться.
6.12. Внутренняя связь
Если агенты не способны общаться, почему на это способны люди, несмотря на все различия в происхождении, образе мыслей и стремлениях? Ответ заключается в том, что мы переоцениваем собственную способность к коммуникации. Вопреки различиям, которые выглядят значимыми, мы по большей части опираемся в своих действиях на общие знания и опыт. Посему, пускай мы почти ничего не знаем о наших низкоуровневых ментальных процессах, мы можем воспользоваться их общим «наследием». Мы не в состоянии выразить, что конкретно имеем в виду, зато часто можем ссылаться на различные примеры комбинирования структур, которые – мы в этом убеждены – уже существуют в разуме нашего собеседника. Если коротко, мы указываем, о чем надо думать, пусть даже не можем описать сами мысли.
Слова и символы, которые мы используем для обобщения наших высокоуровневых целей и планов, не совпадают с сигналами для контроля низкоуровневых структур. Поэтому, когда наши агенты более высокого уровня пытаются исследовать деятельность низкоуровневых «субмашин», которые им подчиняются, они не могут разобраться в происходящем. Вот почему, вероятно, наши языковые агенты не могут внятно изложить, как удерживать равновесие на велосипеде, как отличать картины от реальных пейзажей и как извлекать факты из памяти. Особенно тяжело использовать наши языковые навыки для рассуждений о составных частях разума, которые осваивают такие умения, как балансирование, наблюдение и запоминание, прежде чем мы начали учиться говорить.
«Значение» само по себе относительно с точки зрения размера и масштаба; оправданно рассуждать о значении только в системе, достаточно крупной для того, чтобы иметь много значений. Для малых систем понятие значения выглядит бессмысленным и излишним. Например, агентам Строителя не нужны значение и смысл для выполнения своей работы; оператор «Добавить» просто обращается к операторам «Взять» и «Поместить». Следовательно, этим последним не требуется понимание того, что «означают» управляющие сигналы, поскольку их привлекают для выполнения конкретной работы, не для чего больше. В общем случае чем мельче агент, тем труднее будет другим агентам понять его «язык».
Чем меньше два языка, тем сложнее перевод с одного на другой. Дело не в чрезмерном обилии значений, а в их скудости. Чем меньше действий выполняет агент, тем слабее вероятность того, что действия другого агента будут отвечать этой деятельности. Если же два агента не имеют между собой ничего общего, перевод невозможен.
В более привычной ситуации трудностей перевода в человеческих языках каждое слово имеет много значений, и главная проблема заключается в том, чтобы сузить разнообразие значений до единого общего. Но в случае коммуникации между несвязанными агентами такое сужение значений бесполезно, если агенты изначально не имеют ничего общего.
6.13. Самопознание опасно
Призыв «познать себя» вполне может показаться заслуживающим внимания, ибо он сулит некое благо. Но этот якобы благой призыв маскирует заблуждения. Несомненно, разум, который хочет изменить себя, может извлечь выгоду из знания о том, как он устроен и как работает. Однако подобное знание легко может подтолкнуть к саморазрушению, ведь мы лезем неуклюжими ментальными пальцами в хитроумные мыслительные схемы разума. Может, поэтому наш разум упорно заставляет нас играть в эти психические прятки?
Просто оцените, насколько мы склонны ставить рискованные эксперименты, посредством которых изменяем себя; насколько роковым оказывается влечение к наркотикам, к медитации, к музыке, даже к беседам. Все это сильные одержимости, способные преобразовать нашу личность. Просто вспомните, насколько все люди восхищаются перспективой выйти за пределы обыденных удовольствий и вознаграждений.
В обычной жизни наша система удовольствий помогает нам учиться – и, следовательно, формирует наше поведение, – внедряя в нас структуру сдержек и противовесов. Почему, например, нам становится скучно, когда приходится выполнять одну и ту же работу снова и снова, пускай даже вначале она была приятной? По-видимому, таково отличительное свойство нашей системы удовольствий; без достаточного разнообразия она быстро пресыщается. Каждая обучаемая машина должна иметь некую защитную схему, в противном случае она может угодить в ловушку бесконечного повторения одной и той же операции. Нам повезло иметь в своем распоряжении механизмы, которые мешают тратить слишком много времени впустую, а еще повезло в том, что преодолеть сопротивление таких механизмов весьма непросто.
Если бы удалось сознательно подчинить себе нашу систему удовольствия, мы могли бы воспроизводить удовольствие от успеха без необходимости добиваться реальных достижений. И это было бы концом всего.
Что препятствует такому вмешательству? Наш разум наделен множеством самоограничений. Например, нам трудно установить, что происходит внутри разума. Позже, когда мы будем обсуждать развитие младенцев, станет ясно, что, даже будь у нас возможность видеть внутренним взором, было бы исключительно тяжело изменять тех агентов, которых мы хотели бы изменить сильнее всего (речь о тех агентах, которые в пору младенчества помогают формировать наши «долговечные» идеалы себя).
Этих агентов сложно изменить из-за их особого происхождения и влияния эволюции. Долгосрочная стабильность многих других ментальных агентов зависит от того, насколько медленно меняется наше представление о том, какими людьми мы должны быть. Немногие из нас смогли бы выжить, будучи брошенными на произвол судьбы, если бы наши самые авантюрные позывы могли свободно вмешиваться в суть наших личностей. Почему это было бы скверно? Да потому, что в обычных условиях «передумать» не страшно и можно все вернуть обратно, если налицо дурной исход. Но когда меняются идеалы, возвращаться становится некуда.
Зигмунд Фрейд предполагал, что развитие человека определяется бессознательными потребностями в удовольствии, примирении или отвержении, вплоть до радикального разрыва, родительской власти. Если мы признаем влияние этих древних образов, то можем посчитать их слишком инфантильными или слишком недостойными для сосуществования, а потому пожелаем заменить их чем-то лучшим. Но чем мы намерены их заменить – при условии, что избавились от всяких связей с инстинктом и коллективом? В итоге мы становимся инструментами достижения еще более прихотливых самоназначенных целей.
6.14. Смятение
Сознание проявляет себя в основном в ситуациях, когда другие наши системы начинают испытывать проблемы. Например, мы гуляем и разговариваем, не слишком задумываясь над тем, как это у нас получается. Но человек с травмой ноги может в первый раз в жизни предаться размышлениям о том, как работает ходьба («Чтобы повернуть налево, мне придется развернуть себя в ту сторону»), а затем, возможно, станет прикидывать, какие мышцы будут задействованы в процессе. Когда мы признаем, что оказались в замешательстве, мы начинаем думать о том, как наш разум справляется с проблемами, и вспоминать все то малое, что нам известно о стратегиях мышления. Далее мы вдруг обнаруживаем, что произносим что-то вроде:
«Теперь мне нужно собраться. Почему я не могу сосредоточиться на важных вопросах и не отвлекаться на несущественные мелочи?»
Как ни парадоксально, полезно осознать, что ты запутался – это всяко лучше, чем запутаться, не подозревая о том. Смятение побуждает нас задействовать интеллект ради изменения или исправления засбоившего мыслительного процесса. Тем не менее ощущение замешательства нам не нравится, и мы не ценим возможности, которые оно предоставляет.
Впрочем, едва мозг Б побуждает нас начать задаваться вопросом: «Что я действительно пытаюсь сделать?», возможно воспользоваться этим шансом для изменения поставленной цели – или для описания ситуации по-новому. Так мы сможем избежать разочарования от попадания в ловушку и отсутствия очевидных и адекватных альтернатив. Сознательный опыт замешательства порой напоминает боль; быть может, потому, что оба ощущения стимулируют нас искать пути выхода из затруднительного положения. Разница состоит в том, что смятение обращено на неудовлетворенность собственным состоянием, тогда как боль отражает внешние нарушения. В обоих случаях внутренние процессы должны быть пересмотрены и изменены.
Смятение и боль имеют вредные последствия, ибо они иногда заставляют нас отвергать поставленные цели в более крупных масштабах, чем это кажется уместным: «Я прямо заболеваю от этой работы. Возможно, я должен бросить весь проект (сменить профессию, порвать отношения)». С другой стороны, даже столь удручающие мысли способны послужить «зондами» для поиска других агентов, которые окажутся способными помочь.
Глава 7
Проблемы и цели
7.1 Интеллект
Множество людей уверены, что знают, что такое «интеллект».
Критик: Откуда нам известно, что растения и камни, бури и ручьи не обладают интеллектом? Возможно, они разумны, просто мы этого еще не постигли?
Вообще обозначать одним и тем же словом различные явления, кажется неправильным – если только мы не считаем, что эти явления схожи между собой в каких-то важных отношениях. Растения и ручьи, насколько можно судить, не наделены способностями решать те задачи, которые мы полагаем интеллектуальными.
Критик: Что такого особенного в решении задач? И почему бы нам не дать однозначное определение «интеллекта», чтобы не возникало разногласий относительно предмета обсуждения?
Это было бы неправильно. Дело автора состоит в том, чтобы употреблять слова по образу и подобию словоупотребления других людей, а не в том, чтобы растолковывать другим, как надлежит употреблять эти слова. В тех редких случаях, когда слово «интеллект» используется в настоящей книге, оно означает именно то, что люди обычно имеют в виду под интеллектом – способность решать трудные задачи.
Критик: Тогда следует объяснить, что подразумевается под «трудной» задачей. Нам известно, что для возведения пирамид потребовались изрядные усилия человеческого интеллекта, однако крошечные коралловые рыбки строят грандиозные конструкции еще больших размеров. Разве мы не должны посчитать их разумными? Ведь постройка гигантского кораллового рифа – трудная задача, не так ли?
Да, так, но способность животных «решать» задачи является лишь иллюзией! Никакая птица не придумывает способ летать. Вместо того каждая птица использует решение, которое развивалось у рептилий на протяжении бесчисленных лет эволюции. Точно так же, пускай человеку может быть непросто сконструировать орлиное гнездо или бобровую плотину, никакой орел и никакой бобр не «изобретают» способов такого строительства. Они не «решают» задачи, а всего-навсего используют способы, которые «заложены» благодаря эволюции в их генах.
Критик: Но тогда нам придется допустить, что сама эволюция обладает неким интеллектом, раз она решает задачи полета и строительства рифов и гнезд?
Вовсе нет, ведь люди также употребляют слово «интеллект», когда желают отметить быстроту и эффективность действий. Темпы эволюции настолько медленные, что мы не считаем возможным рассуждать о ее разумности, пусть она в итоге порождает замечательные свершения, на которые мы до сих пор не способны. Во всяком случае, нецелесообразно использовать старые и многозначные слова наподобие слова «интеллект» так, будто они должны означать что-то строго определенное. Вместо попыток заявить, что такое слово «означает» то-то и то-то, корректнее объяснить, как мы намерены его употреблять.
В нашем разуме происходят процессы, позволяющие нам решать задачи, которые мы полагаем трудными. Интеллектом мы называем те процессы, сути которых еще не понимаем.
Некоторым это «определение» не понравится, поскольку его содержание обречено меняться вслед за развитием психологии как науки. На мой взгляд, иного определения искать не нужно, ибо сама концепция интеллекта выглядит трюком фокусника. Подобно концепции о существовании «неизведанных областей Африки», она исчезает, едва мы над нею задумываемся.
7.2. Здравый смысл
Всем нам доводилось слышать шутки о том, насколько тупы современные компьютеры. Они присылают нам счета и чеки с нулевыми суммами. Они готовы исполнять бесконечные циклы, повторяя одну операцию миллиард раз подряд. Полное отсутствие у машин здравого смысла – вот еще одна причина, по которой люди считают, что машина не способна обрести разум.
Интересно отметить, что уже некоторые из наиболее ранних компьютерных программ превосходно показали себя во владении тем, что принято считать «экспертными» навыками. Программа 1956 года решала трудные задачи математической логики, а программа 1961 года решала университетские алгебраические задачи. Но до 1970-х годов не удавалось разрабатывать программы для роботов, которые позволяли бы справляться с детскими кубиками, строить из них башни и игрушечные домики. Почему мы в состоянии писать программы для выполнения «взрослых» действий, а вот с «детскими» действиями получается куда хуже? Ответ может показаться парадоксальным: в значительной степени «экспертное» взрослое мышление на самом деле проще, чем мышление детей, занятых игрой! Почему же поведение экспертов моделировать и программировать легче, нежели поведение детей?
Слабо понимаемое словосочетание «здравый смысл» на самом деле обозначает явление, куда более сложное, чем значительная часть «технического» опыта, которым мы восхищаемся. Ни «экспертная» программа по логике, ни аналогичная программа по алгебре не содержат больше сотни «фактов», причем эти факты во многом подобны друг другу. Но этого оказалось достаточно, чтобы решать университетские математические задачи. А теперь вообразите, сколько всего должен знать ребенок, чтобы построить дом из кубиков! Этот процесс включает в себя знание цветов и форм, представление о пространстве и времени, систему сдержек и противовесов, а также способность отслеживать собственные действия.
Чтобы считаться «экспертом», нужно обладать изрядными познаниями относительно сравнительно немногочисленных фактов. По контрасту, «здравый смысл» обычного человека подразумевает гораздо большее разнообразие познаний, которые требую более сложной системы управления.
Существует простая причина, почему приобретать специализированные знания легче, нежели пополнять запасы здравомыслия. Каждый тип знаний нуждается в определенной форме репрезентации и в совокупности навыков, адаптированных к использованию этой формы. После первоначальных усилий по накоплению знаний и навыков специалисту довольно просто пополнять свои знания – при условии, что дополнительный опыт достаточно единообразен и соответствует конкретной форме представления. Адвокат, доктор, архитектор или композитор, которые приобрели некоторый опыт в определенной сфере деятельности, без труда будут накапливать больше знаний подобного же характера. Но подумайте, насколько дольше один человек будет учиться эффективно лечить ряд заболеваний, вести судебные процессы нескольких разновидностей, чертить архитектурные чертежи и сочинять оркестровые сюиты! Большее разнообразие представлений затрудняет обретение «одинакового» объема знаний во всех перечисленных областях. Для каждой новой области нашему образцу придется изучать иную форму репрезентации и новые навыки ее использования. Это отчасти похоже на изучение множества иностранных языков, у каждого из которых своя грамматика, своя лексика и свои идиомы. С этой точки зрения действия детей выглядят еще восхитительнее, так как многие их поступки вызваны собственными изобретениями и открытиями.
7.3. Принцип головоломки
Многие люди считают, что машины способны выполнять только действия, на которые их запрограммировали, то есть напрочь лишены способности к творчеству и оригинальности. Проблема в том, что данный аргумент содержит в себе посылку, которую призван доказать: мол, нельзя запрограммировать машину на творчество! На самом же деле поразительно просто запрограммировать компьютер так, чтобы он начал выполнять операции, вообразить которые заранее не в состоянии ни один программист. Возможно, это следствие того, что мы будем называть «принципом головоломки».
Принцип головоломки: Возможно запрограммировать компьютер для решения любых задач методом проб и ошибок без готовых вариантов решений, при условии, что мы располагаем способом установить факт решения задачи.
Под методом «проб и ошибок» подразумевается систематическое программирование для генерации всех возможных структур в пределах некоторой вселенной возможностей. Например, предположим, что нам требуется робот, способный построить мост через реку. Наиболее эффективная программа для такого робота означает выполнение определенной процедуры, описанной заранее, для надлежащего размещения досок и забивания гвоздей. Конечно, написать такую программу невозможно, не обладая сведениями о строительствах мостов. Но рассмотрим альтернативу ниже – иногда ее называют методом генерации и тестирования. Нужно составить двухчастную программу.
Генерация: Первый этап просто формирует, одну за другой, все возможные комбинации досок и гвоздей. На первый взгляд может показаться, что написание такой программы вызовет затруднения. Однако выясняется, что это удивительно легко, стоит лишь сообразить, что комбинации досок и гвоздей не обязаны быть «здравыми» с человеческой точки зрения!
Тестирование: Второй этап процесса сводится к проверке каждого варианта комбинаций для выяснения того, была ли решена задача. Если цель заключалась в постройке плотины, успешным результатом тестирования будет перекрытие водного потока. Если же цель состояла в том, чтобы построить мост, тестирование покажет, можно ли перейти реку.
Этот метод побуждает нас пересмотреть привычные представления об интеллекте и творчестве, поскольку он означает, что – по крайней мере, в теории – возможно заставить машину решать любые задачи, для которых мы способны признать наличие решения. Однако на практике такой метод редко оказывается оправданным. Только вообразите: тысячи способов соединить две доски вместе, миллион способов соединить три доски, миллиард способов собрать вместе четыре доски! Понадобилось бы невероятно много времени, прежде чем машина, опираясь на принцип головоломки, смогла бы построить надежный мост. Но с позиций философии этот принцип позволяет заменить привычный взгляд на тайны творчества более конкретными вопросами относительно эффективности ментальных процессов. Основной проблемой нашей мостостроительной машины является отсутствие связи между генерацией идей и их тестированием. Без какого-либо представления о движении к цели тяжело добиться чего-то большего, чем простой перебор всех доступных возможностей.
