Корпорация «Бог и голем» (сборник) – Норберт Винер

Цель

Цель данного труда прославленного математика Норберта Винера понятна – страшное предупреждение всем потомкам, которые могут принять все блага, которые несет им компьютеризация, но не сразу понять опасности этого шага. Учёные должны предупреждать людей об опасности того, что они изобрели – если, конечно, им не хватает ума и мудрости сразу предвидеть последствия и, быть может, отказаться от изобретения в целом. Признаюсь, я не знаю ответа на вопрос – надо ли отказываться от изобретения, которое гарантированно принесёт вред всему человечеству? Возможно, это то самое испытание, которое должен пройти любой мыслящий вид – каждому отмерено по его мерке (выражаясь библейским языком), и даётся строго по силам. Но в любом случае – тот факт, что Норберт Винер постарался предупредить человечество, причём задействовал он весь потенциал, что был в его распоряжении, вызывает уважение.

Метод

Методом данного труда автор, который на заре жизни видел себя в т.ч. и профессиональным философом, стало написание полухудожественного-полунаучного сборника эссе в духе размышления позитивистов XVIII-XIX в. И, надо сказать, именно к методу в данном труде большое количество вопросов.

Старательно избавив свой труд и от тени математической части (видно, что автор просто боится отпугнуть читателей – в противовес своей «Кибернетике» , автор обращается не к научному сообществу, а к самому широкому кругу читателей), а работает на ниве философии, литературы, и других «широких» гуманитарных областей, явно надеясь, что так его посыл дойдёт лучше. Надеется зря.

Автор, как водится, захотел пообщаться сразу со всей аудиторией – и начал, как водится, с религии. Цель всё та же – объяснить, почему грядущая механизация несёт опасность. Пример: вот Сатана же тоже был сделан Богом. А объявил ему войну. Так может быть и с человеком – то, что мы создаём, может объявить нам войну. Признаюсь, нутро религиозного скептика из автора проглядывает постоянно – поверить в серьёзность его аргументов, в то, что они его собственные, а не старательно выдуманы им для «религиозной» прослойки своих читателей – сложно. Дальше автор на все лады будет толкать свой нехитрый тезис.

Художественная ценность

Автор явно перед глазами держал что-то вроде Так говорил Заратустра – т.е. чтоб его творение представляло интерес не только с философской точки зрения, но и само по себе, как литературное произведение. Сказывается родовая травма европейцев, после знакомства с Толстым и Достоевским – то, что они называли «философией», вроде того же Ницше, бывает еще и можно читать. Автор пытается пройти по той же дороге – но дойти к чему-то у него явно не получается. Похоже, автор сам понял, насколько неудачны его художественные потуги – и забросил свои попытки в этом направлении ближе к середине произведения.

Отдельно стоит отметить особенность художественной манеры Винера – каждый абзац у него самоценен не сам по себе, но только в совокупности с предыдущим. Т.е. автор начинает мысль в одном абзаце, но развивает её в другом, попутно вкидывая начало третьего абзаца. В результате этого цитировать автора становится практически невозможно – если цитирование, конечно, не превратить в бесконечный набор «простыней»-цитат.

Читать, или не читать?

Признаюсь – я не знаю, рекомендовать ли эту книгу, или нет. С одной стороны – мнение автора интересно почитать в любом случае – это большой учёный, и пусть ты с ним не согласишься, но его мнение надо услышать. С другой стороны – по-моему уже всем понятно, насколько опасны могут быть машины, и что появление полноценного ИИ ничем хорошим для человечества не закончится. Можно сколько угодно быть прекраснодушным позитивистом, и быть уверенным, что всё будет хорошо – возможно, будет. В конце триллера жертва может выжить – вот только через что ей придётся пройти.

Мы живём не просто в ситуации ожидания, когда машины в частности, или информационные технологии в целом изменят нашу жизнь – сами изменения подобного рода воспринимаются просто как обычное течение времени. И если скоро в историю, помимо профессии телефонистки, отправится ещё и профессия, например, таксиста – навряд ли мы воспримем это с тем алармизмом, с каким Винер предсказывает подобное событие. Так что я в замешательстве – полезно послушать предупреждение ещё раз, но вот кто его услышит.

Сам автор смотрит на будущее крайне мрачно (за что был нежно любим в СССР, как же, предсказывает неминуемый крах «западного мира»), и, честно сказать, эта мрачность продиктована скорее послевоенной памятью 1939-1945 года да висящим над головой призраком атомной войны (холодная уже в самом разгаре, в т.ч. с парой «жарких» фаз, вроде карибского ракетного кризиса), чем умом учёного. Понятно, что атомная энергия, обернувшаяся самым страшным орудием в истории человечества, не могла не намекать, во что же может в полночь превратится безобидная машина. И да, проблемы безработицы ввиду замещения человеческого труда машинным, кажутся даже не такими и неприятными, в сравнении с тем, что действительно может случиться.

Ещё пара рассказиков

В сборнике есть ещё два рассказа – с художественной точки зрения они намного лучше, чем основное произведение, но, признаться, до уровня даже среднего писателя-фантаста они не дотягивают. Если автор хотел под оболочкой художественного произведения подсунуть нам серьёзный повод поразмыслить – то сделал он это не очень умело, и не очень качественно. Тот же Филипп К. Дик или Карл Чапек в этом отношении работали намного тоньше – ну да они, как-никак, профессиональные писатели. В общем очень сложные впечатления – сказать что-то определённое по чтению этой работы будет возможно только после прочтения основных научных трудов Винера.

Согласно аннотации обещано рассмотреть в контексте религиозного мировоззрения проблемы, с которыми может столкнуться человечество по мере развития интеллектуальных машин. Не знаю, как насчет религиозного мировоззрения, которое тут «в контексте», в общем, всемирно известный ученый размышляет на тему искусственного интеллекта и вообще роботизации… Размышляет он об этом еще на заре компьютерной эры – в 1952 году. Так что можно посмотреть, какую эволюцию за прошедшее время прошло общественное восприятие – это я про позорную книжку Баррата сейчас имею в виду. Собственно говоря, Винер размышляет не столько об ИИ, сколько о человеке. Наверно, в этом и разница.В то же время – рискуя погибнуть под тапками – не могу не побурчать… )) Все-таки мне кажется, что или книжка плохо написана – ну там, автор не обладает даром популяризатора, или что еще… что он ее не доработал толком, раз это «последняя работа» (согласно все той же аннотации)… или что она плохо издана, в конце концов. Может, это изначально издавалось, как дань памяти, ну, вы понимаете – любой материал, вплоть до черновиков – просто для сведения и информации. А то можно подумать, что это полноценный научный труд.То есть, я имею в виду: книжка объемом на 120 страниц. Учитывая детсадовский шрифт и карманный формат, то смело можно сократить вдвое – 60 страниц (и это еще в лучшем случае!). Из этого объема вычесть предисловия и введения – ну, вот это любимое у американцев «в своей книге я расскажу о том, и о том, конкретно, в первой главе я расскажу о том и покажу то-то, во второй главе, расскажу об этом-то и покажу…» Лично я этого терпеть не могу – пустое разливание воды. Автор, не говори, что ты скажешь и покажешь, просто говори и все! (( В общем, вычесть еще 10 страниц.Из оставшегося почти половина исписана наверняка очень научно-математически значимой, но совершенно нечитаемой китайской грамотой. Я понимаю, что автор гениальный математик! а я совсем не. И если бы это была брошюра для математиков, я бы к ней и не прикасалась! Но автор сам указал, что это он написал для среднего читателя. Ну так он как-то странно думает о среднем читателе, как по мне вот это вот никак не может быть рассчитано на среднего читателя… Вот просто открою наугад и выпишу…

"Импеданс, проводимость, коэффициент суть понятия, которые корректно использовать только при работе с линейными цепями, то есть, цепями, для которых сумма последовательности входных сигналов за определенное время соответствует сумме соответствующих выходных сигналов. В этих цепях соответствующий входной сигнал, посредством которого испытывается данная схема, является тригонометрически варьируемым входным потенциалом с различной частотой; для последней задана амплитуда и фаза."Все понятно, да? )))И главное – какой смысл в этой физико-математической писанине, если автор взялся размышлять о проблемах философского характера… даже в религиозном контексте… И он даже размышляет, например, высказывая мысль, что человек мечтает о приходе ИИ, чтобы самому не принимать решений, а переложить их на кого-то – что-то – еще. Глубокая мысль! Но для того чтобы ее сформулировать, автору ведь не понадобились математические формулы и прочая абракадабра? Так на фига тогда… (( Или это что – было испытание, проверка читателя? Что если он сможет пробиться через этот дремучий лес, то ему станут доступны некоторые мысли автора… Теряюсь в догадках.

"Существуют по меньшей мере три кибернетические проблемы, которые, как мне кажется, имеют непосредственное отношение к сфере религии. Первая проблема касается машин, способных к обучению; вторая – машин, способных к самовоспроизведению; третья же – проблема взаимодействия машины и человека."

***

"Машина способна генерировать сообщения, а сообщение может создавать другую машину. Я уже пытался раньше донести эту мысль до общества – говорил, что теоретически возможно переслать человеческое существо по телефону. Позвольте сразу уточнить, что возникающие при этом трудности намного превосходят мои способности справиться с ними… Сегодня эта идея кажется неосуществимой практически, но отсюда вовсе не следует, что она недоступна пониманию."

***

"Если нашу гордость сильно уязвило сравнение человека с обезьяной… еще большим оскорблением видится нам сравнение с машиной."

***

"… Едва такой повелитель осознает, что отдельные функции его рабов-людей могут быть препоручены машинам, он приходит в восторг. Наконец-то он нашел себе нового подчиненного – энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и не требующего никакой личной заботы и опеки!"

***

"Достаточно легко защищать добро и сражаться со злом, когда добро и зло четко противопоставлены друг другу разграничительными линиями и когда те, кто находится по другую сторону, являются нашими заклятыми врагами, а те, кто по эту сторону, – наши верные союзники. Но что, если нам в любой ситуации придется спрашивать себя, кто друг, кто враг? Как быть, если, вдобавок, мы препоручили решение важнейших вопросов неумолимой машине, которой следует задавать правильные вопросы заблаговременно, еще не разобравшись полностью в сути процесса, чьим посредством добываются ответы?"

***

"Главным среди преимуществ выглядит способность мозга оперировать наметками идей, которые еще не получили четкого оформления. В подобных обстоятельствах механические вычислители (по крайней мере, механические вычислители наших дней) почти не в состоянии самопрограммироваться. А между тем в стихах, романах и картинах наш мозг как будто успешно обрабатывает материал, который любая вычислительная машина отвергнет как лишенный формы."

Хоть она и короткая, но она очень интересная. Я конечно не поняла основную мысль, которую автор пытался донести автор, но, если внимательно вчитаться в неё, то наверное я смогу понять.

Книга мне понравилась, но понять мне её так и не удалось.