это просто результат естественного отбора: именно он наделил нас
способностью мыслить, потому что она была эволюционно полезна. Поэтому мы
мыслим, хотя и не знаем, как это происходит, - ведь наделять нас подобными
сведениями не входило в "расчеты" эволюции. Она ничего не скрывала; она
лишь устранила из поля своей деятельности всякое знание - с ее "точки
зрения" лишнее. Ну а если оно не лишнее с нашей точки зрения - что ж, нам
придется добывать его самим.
которому машина полностью исключена из сферы человеческого знания, в
"популярной" форме, и притом весьма давно, было представлено Природой.
и мозг, стремящийся к оптимальному решению жизненных проблем, дала
Природа, создав их в результате проб и ошибок, продолжавшихся миллиарды
лет. Должны ли мы пытаться скопировать плоды ее творчества? И если да, то
каким образом? Нельзя же всерьез предлагать повторение - на сей раз
техническое - эволюции! Такая "кибернетическая эволюция" поглотила бы если
не миллиарды, то миллионы, да пусть даже сотни тысяч лет... И как вообще
начать это дело? Атаковать ли эту задачу с биологической стороны или же с
небиологической?
пути, особенно те, которые по различным причинам были для эволюции
закрыты. Однако в наши планы не входит фантазировать на тему о том, какие
"черные ящики" мыслимы в процессе технологической эволюции. Известно, что
только очень сложный регулятор может справиться с очень сложной системой.
Поэтому нужно искать именно такие регуляторы - в биохимии, в живых
клетках, в молекулярной структуре твердого тела, везде, где это возможно.
Мы знаем, следовательно, чего мы хотим и что ищем. Мы знаем также от
нашего репетитора Природы, что задачу можно решить. Таким образом, мы
знаем столько, что уже одно это означает половину успеха.
ГЛАВА ЧЕТВЕРТАЯ
ИНТЕЛЛЕКТРОНИКА
(g) О МОРАЛИ ГОМЕОСТАТОВ
моральную проблематику. Ситуация на самом деле обратная: не мы вносим
вопросы этики в кибернетику, а она, кибернетика, разрастаясь, охватывает
своими последствиями в числе прочего то, что мы называем моралью, то есть
систему критериев, дающих оценку действиям, причем оценку - с объективной
точки зрения - произвольную. Мораль в той же мере произвольна, как и
математика, поскольку обе выводятся с помощью логических рассуждений из
принятых аксиом. Можно, например, принять за одну из аксиом геометрии, что
через точку, лежащую вне прямой, проходит только одна прямая, параллельная
данной. Можно отбросить эту аксиому, и тогда мы получим неевклидову
геометрию. Самое главное отдавать себе отчет, когда именно мы поступаем
согласно принятым заранее условиям (как при выборе геометрических аксиом),
поскольку эти условия, этот выбор зависят от нас. Можно принять за одну из
аксиом морали, что необходимо уничтожать детей с врожденными физическими
уродствами. Тогда мы получим известную из истории "тарпейскую мораль",
которая в результате скандала, разразившегося в связи с талидомидом, в
последние годы подверглась страстному обсуждению и была окончательно
отброшена 1. Часто говорят, что существуют внеисторические моральные
императивы. С этой точки зрения "тарпейская мораль", даже в наиболее
смягченной форме (например, постулат эвтаназии 2 людей, испытывающих муки
вследствие неизлечимых болезней), будет аморальной, будет преступлением,
злом. В действительности же тут происходит оценка одной системы морали с
позиций другой. Разумеется, мы выбираем другую, "нетарпейскую" систему; но
коль скоро мы признаем, что и она возникла в процессе общественной
эволюции человека, а не дана нам свыше, мы должны признать и тот факт, что
в истории применялись и другие системы. Вопрос о расхождении морали
провозглашаемой и морали практикуемой вносит осложнения в эту проблему, но
они нас не интересуют, ибо мы ограничимся только описанием реальных
действий, исключая их вполне возможный камуфляж, или, проще говоря,
дезинформацию. Тот, кто дезинформирует, провозглашает на словах не ту
мораль, которую применяет на деле. Сама потребность в дезинформации
указывает на то, что определенные моральные аксиомы безраздельно
господствуют в общественном сознании, в противном случае не было бы нужды
в искажении фактов. Но даже сами факты могут в различных цивилизациях
получить диаметрально противоположную оценку. Сравним моральные аспекты
современной проституции и вавилонской. Вавилонские храмовые блудницы
отдавались не для личного заработка, а по "высшим мотивам" - их религия
одобряла такое поведение. Оно было в полном согласии с моралью, вытекавшей
из этой религии. Тем самым в рамках своего времени и своего общества они
не подлежали осуждению - в противоположность современным куртизанкам, ибо
по сегодняшним моральным критериям проституция - это зло. Таким образом,
одна и та же деятельность получает две прямо противоположные оценки в
пределах двух различных культур.
неожиданные моральные проблемы. Стаффорд Бир 3, один из пионеров в области
кибернетизации больших капиталистических предприятий, постулировал
возможность создания "фирмы-гомеостата" и в качестве примера рассмотрел
теорию регулирования деятельности большого сталелитейного производства.
"Мозг" такого предприятия должен так оптимизировать все процессы, из
которых складывается выплавка стали, чтобы производство было наиболее
продуктивным, эффективным и независимым как от колебаний предложения
(рабочей силы, руды, угля и т. д.) и спроса, так и от внутренних изменений
в системе (неравномерность процесса производства, нежелательный рост
себестоимости изделий). Согласно представлениям Бира, такая
производственная единица должна быть ультрастабильным гомеостатом, который
немедленно реагирует на всякое отклонение от равновесия изменением
внутренней организации и тем самым возвращается к равновесию.
Оппоненты-специалисты, которым эта теоретическая модель была представлена,
обратили внимание на то, что ей недостает "религии". Бир сознательно
смоделировал это предприятие-гомеостат по принципу действия живого
организма. Но в природе единственным, по существу, критерием "ценности"
организма является его способность к выживанию любой ценой. Иначе говоря,
при случае также и ценой пожирания других организмов. Натуралист, понимая,
что в Природе не существует "системы моральных оценок", не считает
поведение голодных хищников аморальным. Таким образом, возникает вопрос:
"может ли", то есть "имеет ли право", "организм-предприятие" в случае
нужды "пожирать" своих конкурентов? Имеется много таких вопросов; правда,
возможно, не столь острых. К чему должно стремиться такое гомеостатическое
предприятие - к максимальной производительности или к максимальной
прибыли? А что, если с ходом времени неизбежные технологические сдвиги
сделают производство стали ненужным? Должна ли "тенденция к выживанию",
вмонтированная в "мозг" такой производственной системы, привести к ее
полной перестройке, так чтобы, например, она сама преобразовала себя в
производителя пластмасс? Чем должна руководствоваться такая система при
подобной полной реорганизации - степенью максимальной общественной
полезности? Или, опять-таки, величиной прибыли? Бир избегает ответов на
подобные вопросы. Он говорит, что над "мозгом" предприятия стоит еще
наблюдательный совет владельцев, который и принимает самые общие и важные
решения. "Мозг" призван только оптимально реализовывать эти решения. Тем
самым Вир отрекается от "автономно-организменного" принципа, входящего в
его концепцию, и выносит все моральные проблемы за пределы "черного
ящика": в сферу деятельности наблюдательного совета. Но это только
кажущийся выход. "Черный ящик", даже ограниченный таким способом, все
равно будет принимать решения морального характера, например при
увольнении рабочих или снижении заработной платы, коль скоро этого
потребует принцип оптимального функционирования предприятия как целого.
Легко представить себе также, что предприятие-гомеостат Бира может
вступить в "борьбу за существование" с другими предприятиями, которые
спроектированы кибернетиками, состоящими на службе у других корпораций.
Либо все эти машины будут настолько ограничены в своей деятельности, что
им придется непрестанно обращаться за решением к "менеджеру"-человеку
(например, запрашивать его, скажем, о том, можно ли сокрушить конкурента,
если подвернулся случай), либо же их деятельность, обремененная моральными
последствиями, будет расширяться. В первом случае нарушается основной
принцип саморегуляции гомеостата-производителя. Во втором случае
гомеостаты начнут оказывать на судьбу людей влияние, очень часто
непредвиденное их творцами, и дело может дойти до краха экономики страны в
целом просто потому, что какой-то из гомеостатов слишком хорошо
справляется с порученным ему делом, сметая всех своих конкурентов...
"черного ящика"? Потому что такой "ящик", такой регулятор нисколько не
похож на человека - в том смысле, что ему нельзя задавать вопросы об
общественных последствиях принимаемых им на каждом этапе решений и
ожидать, что он сможет ответить на эти вопросы. Кстати говоря, даже
человек-"менеджер" зачастую не знает этих отдаленных результатов своей
деятельности. "Черный ящик", который должен "помочь выжить" предприятию,
реагируя на всевозможные флуктуации "входов" (цены на уголь, руду, машины,
зарплату) и "выходов" (рыночных цен на сталь, спроса на различные ее
сорта), и "черный ящик", который к тому же учитывал бы интересы рабочих, а
может быть, даже и конкурентов, - это два совсем разных устройства. Первое
как производитель будет эффективнее второго. Вред, который гомеостаты
наносят рабочим, можно, разумеется, ограничить, введя в исходную программу
Шилова Юлия
Ильин Андрей
Афанасьев Роман
Сапковский Анджей
Контровский Владимир
Шилова Юлия