Роботы

Как было отмечено в других тредах, где я усиленно цитировал Марка, всё, что написано курсивом – мои комментарии.

О роботах в целом:

Роботы вошли во все сферы жизни. Я хочу, чтобы они были фактически формой жизни, хотя по происхожению они не органические. У них есть ряд защитных ограничений по поведению, но по большей части они обладают свободной волей. Так что же держит их в узде? Я ещё не поместил это в комикс, так как я пока ёще в поисках перекрестных источников (если у меня есть только один источник, не исключено, что этот источник может быть не прав), так что относитесь к этому с толикой недоверия. Я наткнулся на японскую концепцию Он. Долг столь великий, что он никогда не сможет быть оплачен. Применительно к роботам, люди, создав их, создали этот долг, который они называют «Великий Он». (Ну ладно, это каламбур такой. Не смог удержаться.) ¹⁾ Роботы предпочитают миры, которые людей не устраивают. Планеты, на которых с небес падает наиболее универсальный растворитель (вода) и где есть сильно коррозионная атмосфера (кислород), не рассматриваются как первоочередные владения роботов. Существует неформальное соглашение между людьми и роботами, что их численности будут равны друг другу, так что если роботы хотят увеличить свою численность, то людям нужно будет увеличивать свое население. Роботы на астероидах и планетах не земного типа считаются в пропорции «две третьих». Если кучка роботов решит, что они хотели бы захватить власть и править, то первоочередное сопротивление они встретят не от людей, а от других роботов. Есть два «класса» роботов. Роботы, сделанные для определенной цели (вроде Heliksа, который был создан для складской работы), и «свободные» роботы, которые были созданы другими роботами как потомки. (Роботы, созданные для определенной цели, отрабатывают стоимость своего производства). Большая часть фоновой обстановки для роботов и то, как там все устроено, взято из книги Стивена Леви «Искусственная жизнь». ещё есть отличная книга Хогана «Кодекс творца жизни».

Думаю, что одна из причин того, что «Три закона робототехники» остаются столь популярными, в том, что они открыты для всяческих толкований. В вышеупомянутом «Калибане»²⁾ были такие «Ломатели». Люди, которые уничтожали роботов. Но попросту приказать им оторвать свои головы (второй закон превалирует над третьим) было бы совсем неинтересно. Они пытались заставить робота увидеть само свое существование как нарушение первого закона. Вроде этого: «Ты выполняешь всю работу за своего хозяина, поэтому он уже не может заниматься этой работой. Физические нагрузки полезны для здоровья, поэтому ты наносишь вред своему хозяину».

Есть ещё одна сторона. Забыл имя того человека, который навел меня на такую мысль (Алан Фореман?) но она, очевидно, слишком хитроумна, чтобы быть моей. Если робот видит смысл своего существования в том, чтобы помогать людям, то позволить уничтожить или повредить себя – это уже нарушение первого закона, так как он окажется не в состоянии исполнять первый закон.

Была такая серия научно-фантастических книг, в которых человечество пытается спастись от «Чёрных роботов», которые пришли, чтобы поместить людей в удобные безопасные камеры без острых углов и вообще пытаются настолько оберегать людей, что они не могут сделать ничего даже отдаленно напоминающего об опасности. Я думаю, суть в том, что создать идеальный набор законов, которые будут работать в любых ситуациях, нельзя никак.

Начало истории: Из-за дороговизны межзвездных путешествий, самый дешёвый способ сделать это – использовать машины Фон Неймана³⁾. Пошлите роботов, способных построить завод по производству других роботов. Эти роботы начнут процесс терраформирования и к тому времени, как прилетят люди, всё обустроится. План отличный - если он работает. Там, где происходит эта история, завод был построен, но выпущенные роботы не работали. Они сходили с производственной линии безмозглыми. Тогда-то и нужно посылать кого-то для устранения неполадок.

Есть много способов решить эту проблему. Как в старой шутке «Если у вас есть только гвоздь, все вокруг начинает казаться молотком». Вы можете внимательно исследовать эту проблему, разобраться, что же именно произошло, и затем принять меры к исправлению. Или вы можете вставить «костыль», и если он поможет, этого будет достаточно. Роботы во Freefall сделаны с таким «костылем». Нейроны соединялись некорректно, поэтому тот, кто занимался решением проблемы, решил увеличить длину нейронов и число связей. В конце концов, роботы начали функционировать. Если вы произведете вскрытие мозга роботов с планеты Freefall и «нормального» робота, то вы обнаружите, что у роботов из Freefall нейроны примерно в пять раз длиннее обычного.

Нейросети. Это не совсем цифровые схемы, их работа скорее напоминает человеческий мозг с его массовым паралеллизмом. Тот же тип взвешивающих факторов, что и в человеческом мозге. (один из синапсов активируется, выбрасывая нейротрансмиттеры, которые “подготавливают” соседние нейроны. Затем синапс активируется вновь, а нейроны передают его импульс.⁴⁾ Описание очень краткое - я не думаю, что здесь стоит закапываться глубоко в нейрохимию со всеми её системами обратной связи, обратным захватом нейромедиаторов и т.д.) Роботы используют взвешивающие факторы, отличные от нейротрансмиттеров, но в основном с тем же результатом. Есть одно значительное различие, человеческая память распределена в самом мозге, а память роботов вся собрана в одном месте с доступом по параллельной шине.

Плотность нейронов – не показатель интеллектуальной гибкости. Ключевой фактор – число нейронных соединений. Сколько межнейронных соединений может быть у одного нейрона? Не могу найти тот документ, но вроде припоминаю, что у крыс около 10000 нейронов на кубический сантиметр, а у человека 1000.

Роботы рассматривались как инструмент. Люди с планеты Джина и в самом деле инстинктивно не замечали, что происходит с роботами. То были медленные, постепенные (но всё ускоряющиеся) изменения. Когда появляется кто-то не из этой системы, различия для него гораздо более заметны, чем для того, что смотрит на медленные изменения этой системы и в действительности их не сознаёт.

Я не знаю, может ли голографическая память быть соединена с нейронными сетями, но, должно быть, их проще иметь их по раздельности.

«Сетевые» роботы связаны друг с другом несколько больше, чем органические существа. Каждый раз, когда один из них совершает действие и оно оказывается успешным, оно сохраняется и добавляется к его индивидуальному поведению. Но оно также может быть сделано общим. (Смоделировано на том, как долговременное возбуждение участвует в формировании памяти в человеческом мозге). Так что, чем больше роботов приветствуют ее, крича «Собачка!», тем больше вероятность, что другие роботы будут думать, что так и полагается.

База данных динамична, и её работа несколько напоминает нейросеть, в том смысле, что элементы, к которым постоянно происходит обращение, становятся все более превалирующими, в то время как элементы, к которым нет доступа, архивируются и отключаются. При этом есть несколько отрицательных обратных связей, так как без них возникает проблема автоколебаний. (То же происходит и в органическом мозгу. После прохождения некоторой точки, становится всё сложнее повторять определенное действие, и оно может повторяться только при условии подкрепления его чем-нибудь (успешный сбор пищи, и т.п.) Это удерживает организмы от зацикленного поведения.)
Неплохо иметь всемирную базу данных, но имея возможность непосредственного доступа к ней подобно роботам, вы должны принять ряд предосторожностей, гарантирующих, что новые роботы просто-напросто не скачают воспоминания других людей и не сделают их своей основой вместо того, чтобы сформировать свои собственные. В несколько первых лет жизни у роботов нет прямого доступа ко всей базе данных. Это дает им возможность развиваться самостоятельно и сформировать свою собственную личность и воспоминания. Затем, по мере взросления и развития, им предоставляется все больший и больший доступ. (Как в идее Романа «Степени гражданства».)

Вот например, Heliks не имеет полного доступа к базе данных. Вклад его информации меньше по сравнению с другими роботами на планете, и она встречается с изрядной долей скептицизма. Короче говоря, база данных реагирует подобно тому, как если бы кто-то, с кем вы встретились в автобусе, рассказал вам историю о том, как он привязал связку ракетных стартовых ускорителей к грузовику и перепрыгнул через каньон. Вы бы запомнили эту историю, но это не то, во что вы бы поверили без перепроверки из другого, лучшего источника.
И да, на самом деле это форум выступил с идеей намочить Флоренс для сканера Триака. Chrysolithos, если быть точным… ты всё ещё тут скрываешься?)

«Запасной» робот начинает работать с новой нейросетью и с воспоминаниями старого робота. Нормальные нейросети роботов в значительной степени предсказуемы в своем развитии, и бэкап не слишком отличается от предыдущего варианта. Роботы из Freefall мыслят значительно гибче, и перенос памяти может привести к личности, значительно отличающейся от оригинала.

Для меня, это как говорить, что если вы сможете клонировать мозг и загрузить предыдущий жизненный опыт, то вы сможете сделать людей бессмертными. Я до сих пор считаю, что мозг – это и есть личность. Если он умирает, умирает и личность, и неважно, что есть ещё одна копия, которая думает, что она – оригинал. Будучи техником I&C, я из личного опыта знаю, что машины требуют весьма бережного обращения, и мельчайшая песчинка в машинном масле может привести к катастрофическим последствиям. В зависимости от философии, если роботы рассматривают смерть мозга как смерть индивидуальности, то они даже не смогут жить так же долго, как люди.

Почти бессмертные роботы столкнулись бы с теми же проблемами, что и почти бессмертные люди. Элизабет Мун раскрыла эту точку зрения в некоторых своих книгах. Президенты компаний больше не сменяются. Компании замирают в своём развитии. Люди не уходят со своих рабочих мест. Новичкам невозможно найти работу. В обществе начинается стагнация. Это вновь возвращает нас к «жизни на грани хаоса», в застойных обществах не очень хорошо с изменениями, если обстоятельства требуют быстрой адаптации.

Память – это то, с чего у роботов снимается архивная копия. Из прочитанного следует (чисто теоретически), что сон – это процесс уплотнения памяти. Хранение памяти и перекрёстные связи базируются на разнице с предыдущими знаниями. Если вы видите множество машин на парковке, вы не запоминаете их на самом деле, потому что уже видели машины раньше. Если на парковке окажется слон, вы запомните это, потому что это достаточно отличается от вашего предыдущего жизненного опыта, чтобы привлечь внимание. Уровень детализации также играет важную роль. Если вы сегодня были за рулем, вы не только не запомнили автомобиль, что был перед вами (если он не представлял собой что-нибудь выдающееся), но и, конечно, вы не запомнили его номерной знак. (Вероятно, где-то есть люди, которые МОГУТ сказать мне любой номерной знак, который они когда-либо видели, но я считаю это достаточно исключительным, чтобы выходить за рамки обычного).

Когда роботы «спят», они подсоединяются к большой компьютерной системе, которая организует и упорядочивает их память для большего быстродействия и сжатия. Используется динамическая компрессия, когда чаще всего вспоминаемые события помещаются в начало стека, а неиспользуемые воспоминания – в конец. Отодвинувшись слишком далеко в конец, они падают в «корзину». Робот «забывает». Отдельные области памяти могут быть «защищенными», они не участвуют в этом процессе выгрузки-сжатия-загрузки. Архивная копия робота отличается от его обычных временных «файлов воспоминаний» тем, что включает в себя защищенные зоны.

Роботы и религия: Вот если бы вы всю свою жизнь имели дело с программой, которая говорит вам, что хорошо и что плохо, и вы начинаете искать свой путь за пределами этой программы, где бы вы в первую очередь искали правила, по которым вам следует жить?

С Heliksом всё просто; там для него не так уж и много найдется.

Я пошёл «хитрость» в виде высокотемпературных сверхпроводников, которые хороши как для генерации магнитных полей и запасания больших количеств электроэнергии, так и для экранирования магнитных полей. Возможно, я с этим не угадал, ведь наши «сверхпроводники» более похожи на маркированные трубы, которые могут быть переведены в состояние с нулевым сопротивлением, но так как они не левитируют над магнитом, их нельзя считать сверхпроводниками.
Источником питания Heliksа служит сверхпроводящий тор, по сути – батарея. Хотя термоядерный синтез – колоссальный источник энергии, я не вижу никого способа создать маленькую электростанцию с достаточным экранированием для безопасного использования ее в чём-то с габаритами человека. Вполне возможно создать настолько маленький ядерный реактор, чтобы он поместился в габаритах робота Heliksа, но все дело в экранировании. Не говоря уж о том, что плотно упакованная электроника гораздо более чувствительна к радиации, чем живые клетки.

Сон роботов требует для обработки больше энергии, чем есть у Heliksа на борту. Это ещё одна причина, по которой он должен подключаться к сети.

У Heliksа воздушное охлаждение и его чипы не рассчитаны на работу в вакууме или при экстремальных температурах. Чтобы выйти в открытый космос, Heliks нуждается в скафандре, который будет поддерживать давление и температурный режим.

У Heliksа нет позвоночника, который придает гибкость бегущему зверю, его передвижение больше похоже на насекомых. Когда он начинает передвигаться быстрее, его походка становится подпрыгивающей.

Всякая всячина: Heliks любит комиксы и упоминал, что любит фильмы про Годзиллу.

Когда дело доходит до суфле, его рецепт приготовления для Heliksа заключается в следующем: «Поднять тяжелые объекты, переместить их, положить».

У Heliksа очень хорошее воображение, и ему свойственно хвататься за идею, а потом начинать притягивать к ней факты, чтобы поддержать ее. Если бы он остановился и подумал, он сообразил бы, что ему нечего бояться вампиров (или бояться стать одним из них), но он так торопится, что пропускает по пути все логику размышления.
Я бросал Heliksа под мусорный пресс. Это было в сборнике скетчей «Три ноги или меньше». Он вышел оттуда сплющенным и квадратным, подняв большой палец, и счастливо заявил «Это было больно, но я это сделал!»