чьи-нибудь подсказки, а не его воспоминания. А время от времени, входя в
память своего прежнего, взрослого "я", он обнаруживал, что теряет нить
собственных мыслей, и когда ему удавалось восстановить контроль над ними,
он с трудом мог припомнить, что за это время происходило. "Странно, -
думал он. - Неужели во мне существуют две индивидуальности в одно и то же
время? Могут ли в одном сознании помещаться сразу две индивидуальности -
одна прежняя, другая новая?"
Немного привыкнув, Брайан стал все больше и больше размышлять над
проблемами, которые все еще возникали в работе искусственного интеллекта.
Над разнообразными дефектами, которые приводили к сбоям, в результате чего
машина начинала откалывать всевозможные коленца.
Замечтался?
заметках нет ничего такого, что помогло бы мне разобраться. Надо бы, чтобы
часть моего мозга следила сама за собой, а остальная часть об этом не
знала. Что-то такое, что поддерживало бы равновесие в управляющих цепях
системы. Это не так уж сложно, когда сама система стабильна и не слишком
меняется. Но когда она постоянно обучается новым способам обучения, ничего
не получается. Нужна еще какая-то система, что-то вроде отдельного
подсознания, которое могло бы хоть в какой-то степени сохранять контроль.
по искусственному интеллекту.
XIX века, когда еще не было никаких компьютеров. Когда он впервые выдвинул
теорию, что сознание состоит из нескольких разных систем, он дал им имена
- "ид", "эго", "суперэго", "цензор" и так далее. Предполагается, что
подсознательно каждый нормальный человек постоянно испытывает всевозможные
конфликты, сталкивается с противоречиями и несовместимыми целями. Вот
почему я подумала, что тебе может что-нибудь прийти в голову, если ты
займешься фрейдовской теорией сознания.
эти теории Фрейда мне в память.
пользование вживленным компьютером как эксперимент, хотя для Брайана это
уже стало привычным образом жизни. Теперь ему больше не приходилось
корпеть над печатными страницами - достаточно было загрузить что угодно в
память, а разбираться потом.
мысленно углубляясь то в одну, то в другую часть учебника, сопоставляя их,
усваивая новые ассоциации. В конце концов он воскликнул вслух:
подходит к моей проблеме. "Суперэго" - это, по-видимому, механизм
целеполагания, который появился после возникшего раньше механизма
импринтинга. Ну, знаете, того механизма, который открыл Конрад Лоренц, -
благодаря ему детеныши многих животных держатся вблизи источника заботы и
защиты. Так у ребенка появляется сравнительно постоянная, стабильная
система целей. После того как ребенок включает в нее образ матери или
отца, такая структура может оставаться в его сознании всю жизнь. Но как бы
ввести такое "суперэго" в мой искусственный интеллект? Смотрите: это можно
было бы сделать, если загрузить достаточную часть моей собственной
подсознательной системы ценностей. А почему бы и нет? Активировать все мои
К-линии и немы, идентифицировать и записать все связанные с ними эмоции.
Потом использовать эти данные, чтобы построить модель моего сознательного
самоощущения. А потом добавить сюда мой идеал - то, к чему "суперэго"
велит мне стремиться. Если удастся загрузить и это, мы далеко продвинемся
к стабилизации нашего машинного интеллекта и управлению им.
доказал, что все это существует на самом деле. Мы просто предположим, что
у тебя в голове все это есть. И возможно, окажемся первыми, кто сможет это
обнаружить. Смотри, ведь мы вот уже столько месяцев разыскиваем и
восстанавливаем твою матрицу памяти и мышления. А теперь мы можем сделать
следующий шаг - только назад во времени, а не вперед. Мы можем попробовать
проследить нити, ведущие из твоего детства, и посмотреть, не найдутся ли
такие немы или связанные с ними воспоминания, которые будут
соответствовать самым ранним твоим системам ценностей.
не существует. Во всяком случае, по ходу дела мы, вероятно, сможем
локализовать еще несколько сотен тысяч прежних К-линий и немов. Но нужно
действовать осторожно. С доступом к таким глубоко погребенным эмоциям
может быть связана серьезная опасность. Я хочу сначала попробовать это на
внешнем компьютере, а твою внутреннюю машину на время отключу. Таким
способом мы сможем зафиксировать структуры, которые будут обнаружены, вне
мозга - возможно, с их помощью удастся усовершенствовать Робина. А тебя
такие эксперименты не затронут, пока мы не почувствуем себя увереннее.
вчера вечером уходила, вы обещали, что задержитесь всего на несколько
минут. А это было в десять часов.
усталости виноватыми глазами.
ужасный. Кроме того, я попробовала вам позвонить, но ответа не было. Как
вы можете понять, я забеспокоилась.
обнаружил его.
номер. Где-то вдалеке послышалось жужжание. Поглядев в ту сторону, Шелли
увидела, что телефон лежит около кофеварки. Она молча протянула аппарат
ему.
разыскивать ваших телохранителей - они и сказали мне, что вы все еще
здесь.
из-за них стоило рисковать здоровьем.
вечером, мы бились с программой-координатором? Что бы мы ни делали,
система норовила свернуться в клубок и умереть. Поэтому я начал с простой
задачи - сортировки кубиков по цвету. Потом усложнил ее, предложив
разноцветные кубики разной формы. А когда я через некоторое время
посмотрел, программа-координатор все еще работала, но все остальные,
видимо, отключились. Тогда я решил записать, что произойдет, когда я снова
все запущу, и на этот раз ввел языковую программу, которая записывала все
команды, поступавшие от координатора в остальные блоки. Теперь он стал
работать медленнее, и я наконец понял, что происходит. Вот, смотрите сами.
быстро сортирующий разноцветные кубики, потом он стал работать медленнее,
еще медленнее и наконец совсем остановился. Из динамика слышался глубокий
бас Робина-3:
реакции слишком велико... отвечай немедленно... блокирую. Задаю
подпроблему 384. Принят ответ от К-4093. Блокирую замедленные ответы от
К-3274 и К-2314. Задаю подпроблему 385. Ответы от К-2615 и К-1488
противоречат друг другу - блокирую обоих. Задаю...
другие.
на опыте, вознаграждая хорошо работающие блоки и блокируя плохо
работающие. Но ей был задан слишком высокий порог - ее устраивали только
безупречные и мгновенные ответы. Поэтому она вознаграждала только те
блоки, которые отвечали быстро, а более медленные отключала - даже когда
они пытались сделать то, что в конечном счете было бы правильнее.
отключался, ослабевала связь других блоков с ним...
свою очередь отключались. Пока программа-координатор не заблокировала
всех.
усталости. - Это чистейший антропоморфизм. Машина - не человек. И что
Шилова Юлия
Корнев Павел
Конюшевский Владислав
Зыков Виталий
Якубенко Николай
Никитин Юрий