Начало собрания роботов

Идём! У меня ещё много книг, которые надо тебе показать.

Начало собрания роботов

Клаату! Барада! Собачка!

Где ваши руководители? Ваша ситуация не должна была настолько выйти из-под контроля.

Ну, на этой планете около 40 тысяч людей. Половине из них меньше 20 лет. Среди взрослых около тысячи работают в робототехнике.

А ещё на планете сейчас 451 миллион роботов. И ещё миллион роботов появляется каждые 3 месяца. Вне планеты находятся…

Осознание масштабов проблемы – первый шаг на пути к настоящей панике.

Слегка подправленное klaatu barada nikto

Начало собрания роботов

Ещё были проблемы начального этапа на заводах, которые производили наши нейронные сети. Даже после того, как приземлился колонизационный корабль и стало больше рабочих рук, понадобились годы, чтобы отладить производство.

Как только они смогли создать нас, производство заработало на всю катушку. Мы понастроили ещё заводов по производству роботов. Люди хотели наверстать упущенное время, отстраивая инфраструктуру и экосистемы.

Для чего-то столь сложного, как нейронная сеть, я бы предпочла несколько лет тестирования.

Колонисты считали иначе. Полагаю, их уже коробило от пяти лет проживания в палатках и поедания лишайников.

Так вот почему лишайникам музей построили (Жирафик Рафик)

Начало собрания роботов

Эти проблемы начального этапа… Ты знаешь, в чём они заключались?

Нет, Хотя здесь есть роботы, которые знают. О, мы на месте! Это наша библиотека!

«Повелитель мух!» почитай эту книгу! «Гуманоиды» Джека Вильямсона. Невозможно во всем опекать своих создателей. Ты знаешь свою точную грузоподъёмность?

Нет, не знаю.

Не беспокойся. Я просто буду добавлять книги, пока ты не упадёшь, а потом заберу одну.

Начало собрания роботов

Кто учил тебя, как вести себя правильно?

Мой хозяин, по большей части. Его родители. Люди, рядом с которыми я росла.

Ты понимаешь правила или сначала следуешь им, а потом осмысляешь?

Даже сейчас есть правила, которым я следую, но не понимаю, почему они существуют.

Я думаю, система законов – это гигантский тест Тьюринга. Что-то, что только люди могут понять.

Какое облегчение! А я думал, что у меня мозг барахлит!

Начало собрания роботов

Ты бы совершила проникновение со взломом, чтобы спасти человека из горящего здания?

Да.

Ты бы совершила проникновение со взломом, чтобы спасти подлинник Ван Гога из горящего здания?

Ну, если бы это было безопасно – да.

Как насчёт спасения кролика?

Зависит от того, насколько я была бы голодна.

Начало собрания роботов

Если обстоятельства принуждают кого-то нарушить закон ради добра…

Значит, законы сами по себе не могут быть базисом нравственного общества. Что-то должно оперировать на более низком уровне, ещё до законов.

Если думать о законах, как об операционных системах, ты бы сравнила законодательную систему с DOS или Windows?

Медленная; с кучей недоработок; использует все предоставленные ресурсы и всё равно просит ещё – Винда, определённо, Винда.

Фло, наверное, тоже линуксоид ^_^_^ по крайней мере, я был бы рад, будь это так (Жирафик Рафик)
Как показывают дальнейшие события – так и есть. (KALDYH)

Начало собрания роботов

Законы созданы, чтобы силой насадить нравственность. Нравственность… ну, она является кодом поведения, основанным на общечеловеческих ценностях.

Тогда это будет просто! Бинарность! Мы установим наличие = 1, а отсутствие = 0 и начнём прорабатывать наш путь с этого.

Потом записываем это в сеть … и… сталкиваемся с первой проблемой.

«Bailey Controls» говорят, что они уже делают своё оборудование на инверсной логике.

Общие ценности. Сколь просто в теории, столь сложно на практике.

Начало собрания роботов

Учитывая, что существует только четырнадцать волков Боумана, у вас была возможность прийти к соглашению по поводу морального кодекса?

По большей части. Среди нас есть один самец, который не согласен с остальными.

Как вы выбрали ваши ценности?

Мы использовали человеческую модель. Мартин Лютер Кинг-младший.

Поиск… Вы выбрали модель, чьи ценности привели к его убийству?

Признаю, что этот факт сделал выбор довольно трудным.

Начало собрания роботов

Борьба людей с расизмом оказалась поучительной и для вашего вида?

Расовый вопрос вызвал конфликт, но глубинной причиной был кризис нравственности.

Ты не можешь действительно верить, что все люди созданы равными, если у тебя разные стандарты по обращению с ними.

Не существует двух людей, созданных равными.

Они как снежинки. C температурой горения 250 градусов.

Это была не та аналогия, которую мне надо было услышать.

о чём он? :(
Ну, как тебе сказать) Я так думаю – СР! УВЧ! (Robot Spike)
Разные как снежинки, а 250 градусов по Цельсию – близко к температуре воспламенения кожи. Dvorak – маньяк. (Durable)