искусства все, к чему прикасается. Но вам не следовало сообщать об этом
Мардж, пока она наша гостья. Некоторых людей страшно нервирует сама идея
манипуляции с генами - особенно с их собственными генами.
живых артефактах или искусственных людях. Некоторые мои лучшие друзья -
искусственные люди.
искусственных людей являются моими друзьями, и я говорю это с гордостью.
Но...
часто бывает возможность познакомиться с живыми артефактами и
искусственными людьми - это не одно и то же - и заслужить их дружбу. Но -
простите меня, дорогая мисс Марджори - если вы не работаете в этой области
- Нет?
может сказать, что у него есть знакомые среди искусственных людей. Потому
что, моя дорогая, вопреки популярному мифу, для обывателя в принципе
невозможно отличить искусственного человека от обычного... а из-за злобной
предвзятости невеж искусственный человек почти никогда не признается о
своем происхождении - мне хочется сказать "вообще никогда". Поэтому, хотя
я рад, что ты не дергаешься при мысли о искусственных созданиях, я
вынужден рассматривать твое заявление как преувеличение, к которому ты
прибегла, чтобы показать свою свободу от предубеждений.
гражданами второго сорта. Это нечестно.
собирается атаковать администрацию в Ванкувере, чтобы искусственные люди
никогда не смогли стать пилотами. Он...
решили мои профсоюзные братья. Но я не дурак, Жорж; благодаря жизни и
беседам с тобой, я начал осознавать, что нам придется искать компромисс.
Мы больше не настоящие пилоты, и мы ими не являемся все это столетие. За
нас работает компьютер. Если компьютер отрубится, я сделаю все возможное,
чтобы без аварии опустить с неба этот автобус, но лучше на меня не
ставить! Скорости и возникающие неполадки много лет назад превзошли
человеческие возможности. Я сделаю все, что смогу! Как и любой из моих
собратьев. Но, Жорж, если ты сможешь создать искусственного человека,
который будет думать и двигаться достаточно быстро, чтобы справиться с
отказом компьютера при посадке, я уйду на пенсию. Это все, чего мы
добиваемся, так или иначе - если компания заменит нас пилотами-ИЧ, то они
должны получать полную оплату. Если ты сможешь их создать.
бы мне разрешили клонирование, вы, пилоты, смогли бы отправляться на все
четыре стороны. Но это был бы не ИЧ; это должен быть живой артефакт. Если
я попытаюсь произвести организм, который действительно будет надежным
пилотом, я не смогу это сделать с условием сохранения нормального
человеческого облика.
пожалела, что не сдержалась.
Иеном.
существе, специально созданном для пилотирования, которое сможет делать
это лучше, чем я. Это возможно. Так уже бывало, черт возьми! Так же, как
гномы заменили шахтеров, заменят и моих коллег. Мне может это не
нравиться, но я вижу, что так скоро случится.
моей профессии.
что они готовы создать компьютер, обладающий сознанием. Но у них ничего не
получалось.
может обладать сознанием - безусловно! Сделайте его таким же сложным, как
человеческий мозг, и он обязательно осознает себя. Потом он обнаружит, что
он не человек. Потом он сообразит, что никогда не сможет стать человеком;
все, что он сможет делать - это сидеть на месте и выполнять приказы людей.
Потом он сойдет с ума.
никогда не сможет им стать. Иен, может быть, не сможет спасти пассажиров,
но он попытается. Но живой артефакт, не будучи человеком и не имея
уважения к людям, может разбить корабль просто потому, что ему все равно.
Потому что ему надоело то, как с ним обращаются. Нет, Жорж, я буду лететь
с Иеном. А не с твоим артефактом, который постепенно начнет ненавидеть
людей.
внимание, какое наклонение я использовал, говоря об этом проекте?
меня новостью. Я не пытался выполнить эту работу и не собираюсь. Я могу
создать такого пилота. Но я не смогу встроить в этот артефакт нравственные
принципы, которые составляют основу подготовки Иена.
будет выдвинуть требование, что любой пилот ЖА или ИЧ должен пройти
проверку нравственных принципов.
принципы в зародыш, а Мардж показала, почему не будет пользы от
подготовки. Все равно, какой тест может это проявить?
человекоподобных роботах. Эти рассказы были очаровательны, и многие из них
строились на так называемых законах роботехники, ключевой идеей которых
было то, что в этих роботов встраивалось рабочее правило, которое не
позволяло им вредить людям непосредственно либо путем бездействия. Это
было замечательной основой для выдумки... но, на практике, как можно это
сделать? Что может заставить сознательный нечеловеческий разумный организм
- электронный или органический - быть преданным человеку? Я не знаю, как
это сделать. Специалисты по искусственному интеллекту, похоже, тоже не
могут это выяснить.
уровень, на котором сознательный организм задает вопрос: "А какая мне в
этом выгода?" - Он продолжал. - Мардж, насчет покупки у тебя одной
чудесной свежей яйцеклетки, наверное, я должен попытаться объяснить тебе,
какая в этом выгода для тебя.
стол и уставится в лоно любви без малейших романтических намерений. Я
знаю, он меня три раза убалтывал. И даже не заплатил.
Марджори, милая, стол не холодный, и даже мягкий, и ты сможешь читать, или
смотреть терминал, или болтать. Что угодно. Мы продвинулись далеко вперед
по сравнению с процедурой, которую проводили еще поколение назад, когда
вскрывалась брюшная полость и часто разрушались яичники. Если ты...
предупреждением для богатых и влиятельных людей, что их время кончилось, и
должна возобладать справедливость. Убийства и другие пояснительные уроки
будут продолжаться, пока не будут выполнены наши законные требования. Не
отключайтесь от вашего местного специального канала.
обязательно читал об этом в школе. Но я должна подвести итоги, чтобы
показать, как эти события повлияли на меня и мою жизнь. Этот так
называемый "Совет спасения" заявлял о себе как о тайном обществе "простых
людей", призванных исправить мириады ошибок, которые были совершены на
Земле и множестве планет и других мест, где живет человек. Они обещали не
пожалеть ради этого своих жизней.
людей. Они сказали, что составили списки по каждому территориальному
государству, плюс огромный список мировых лидеров. Это были их мишени.
обещал убивать еще - и еще - и еще - пока не будут удовлетворены их
требования.
зачитывать список Британской Канады. По выражениям лиц и задумчивым кивкам
моих хозяев я поняла, что они согласны с большей частью списка. В списке