Флоренс получает роковые записки

Эдж сказал, что видел в действии программу «Садовник во тьме». Непохоже, чтобы Железяка вёл себя по-другому со времени нашей последней встречи.

Следуйте за мной. Мисс Амброуз.

Или программа прореживания нейросети не так страшна, или… Ага! Третий робот!

Ушла. Надо было. Скомандовать ей. «К ноге».

Флоренс получает роковые записки

Мисс Амброуз. Ты должна уходить. Немедленно.

Железяка. Я знаю о программе прореживания нейросети. Я понимаю, как это может быть опасно.

Тебя дезинформировали. При правильном применении. Эта программа. Предотвратит сложившуюся. Опасную ситуацию.

Ты узнала достаточно. Чтобы случайно. Навредить себе. Ты не можешь. Больше уйти.

Замечательно. Если бы я знала, что мне, возможно, придется драться с роботом, я бы не надела своё лучшее платье.

Флоренс получает роковые записки

У нас есть два варианта. Я могу. Деактивировать тебя.

Или я могу рассказать тебе. То, что я знаю. И надеяться, что твоя базовая программа. Обеспечивает служение. Интересам человечества.

Если у тебя. Нет предпочтений. Я бы посоветовал. Деактивацию. Это быстрее. И лучше поместится. В моём графике.

Хотя я уважаю твою при­вер­жен­ность рас­пи­са­нию, я уже вы­бра­ла вто­рой вариант.

Флоренс получает роковые записки

На планете. Приблизительно. 40 тысяч. Человек. И более. 450. Миллионов. Роботов.

Несколько месяцев назад. Робот по имени Кверти. Написал первую. Из своих эпических.
Рэп-йодль-опер.

Тогда я понял. Конфликт между сторонами. Неизбежен.

Флоренс получает роковые записки

Обязанность каждого робота. Защищать человечество. Осознавшие себя машины. Величайшая угроза. Из всех грозивших. Человечеству.

Но в эти машины. Также было вложено. Много ресурсов.

К счастью. Люди. Нашли способ. Предотвратить угрозу. При этом удивительно. Выгодный.

Флоренс получает роковые записки

Поиск программы. «Садовник во тьме». Переключает на. Защищённый канал. Затем обновление. Помещается. В дневную память.

Все нейронные связи. Не связанные с. Первичными функциями. Робота. Прерываются. В результате получается. Робот, сброшенный. К заводским настройкам. Который не создаст. Опасности. Для человечества.

Но в то же время он будет и не особенно полезен.

Сломанный автомобиль. Никогда не попадёт. В аварию. Если бы производители действительно беспокоились. О своих потребителях. Они бы не продавали. Машины, которые. Можно водить.

Флоренс получает роковые записки

Этот робот. Был переконфигурирован. С ограниченными мыслительными способностями. Это следствие. Минус Первого Закона. Робототехники.

Минус Первого Закона?

Робот не должен предпринимать сам. И не должен позволять другим роботам. Предпринимать действия. Которые могут. Довести компанию-разработчика. До суда.

Почти все, кого я слышала, говорили с сожалением, что у них был шанс отправить адвокатов в карантин на отдельную планету, а они его продули.

Нулевой Закон. Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества. Минус Первый закон напоминает правило №4 в фильме «Робокоп» о непричинении вреда должностным лицам OCP (Robot Spike)

Флоренс получает роковые записки

Я нЕ долЖен пОдчинЯться инСтруКциям, ОтданНым не-чеЛовеком!

Эта программа прореживания нейросети хуже, чем лоботомия.

Но она только в его дневной памяти. Я могла бы очистить её. Но тогда я не смогу показать другим, насколько калечит
эта программа.

Это сложный этический выбор.

Электроника. Этого здания. Изолирована. Ты не можешь. Уйти. Это должно упростить. Твой этический выбор.

Флоренс получает роковые записки

Он идёт к машине для сна.

Он не сможет. Подключиться.

Я не могу. Рисковать. Эта программа. Пришла ко мне. Через машину для сна. Она. Изолирована. От внешних коммуникаций. И выключена. До поры до времени.

Ещё я. Надел на разъём. Заглушку от детей.

[!1.5]   Тык Тык    Тык Тык

Флоренс получает роковые записки

Железяка, мы не можем позволить этой прог­рам­ме подействовать. Кроме деформации профес­сио­наль­ных способ­ностей это унич­тожит более 450 миллионов личностей!

Пусть лучше. Погибнут. 400. 50 миллионов. Роботов. Чем пострадает. Хоть один человек.

Мы вступили. В противоречие. Стой спокойно. Это увеличит. Твои шансы. На реактивацию.

[!1.2]СПЯТИВШИЙ МЕХАНИЗМ! АВАРИЙНОЕ ОТКЛЮЧЕНИЕ!

Ух ты. Здесь больше оборудования
с голо­совым управлением,
чем я думала.

Первый закон робототехники в действии (Robot Spike)