Добро пожаловать домой, мистер Ишигуро

Надеюсь, это ненадолго. Мне в это воскресенье надо убрать оборудование с побережья. Новая луна вскоре приблизится настолько, что возникнут приливы.

Может, мне уйти из «Экосистемс Анлимитед»? Отдохнуть, найти себе неспешную работу в отставке.

Без звонков и всего сорок часов в неделю. Да, я бы так пожить не отказался.

Добро пожаловать домой, мистер Ишигуро

Мистер Райберт, ваш отчёт весьма интересен.

Спасибо, господин Ишигуро. Тут за углом есть кофейня. Не хотите побеседовать за завтраком?

Ваша. Углеводная. Энергетика. Не сравнится. С ядерным синтезом. Вам следует. Принять меры. Чтобы будущее. Принадлежало людям. А не машинам.

То-то ты прямо так и сияешь.

Вас не должен. Вводить в заблуждение. Мой весёленький жёлтый. Окрас. Наше положение. Весьма мрачное.

Добро пожаловать домой, мистер Ишигуро

Этот робот – за вами?

Я – Же­ле­зя­ка. Я за всё. Че­ло­ве­чес­тво.

О, Железяка.
Я наслышан
о тебе.

Тогда ты слышал и обо мне. Эдж – более умный и симпатичный друг Железяки.

Нет, не могу сказать, что когда-нибудь о тебе слыхал.

Блин, надо будет поставить программный агент получше.

Последнее высказывание Эджа – игра слов. Агент по связи с мягкими. Пишу с телефона, извините. (Durable)

Добро пожаловать домой, мистер Ишигуро

Вы не должны жить. В этом искусственном. Окружении. Которое придаёт. Силы машинам. Когда терраформирование. Завершится. Вы сможете жить. Как заведено природой.

Еда. Гигиена. И медицина. Оказывают воздействие. На ваш вид. Средняя продолжительность. Человеческой жизни. Почти в пять. Раз дольше. Чем в 800-м году нашей эры. Это замедлило. Перемешивание генов. И угрожает. Приспосабливаемости человека.

Б-же, имея выбор, кто бы захотел жить неестественно долгой, опрятной и здоровой жизнью?

Экстраполяция. Если бы. Пять процентов. Людей. Добровольно вызвались. Побыть живыми заповедниками. Мы могли бы. Вычеркнуть. Человеческую платяную вошь. Из списка. Исчезающих видов.

Добро пожаловать домой, мистер Ишигуро

Если Райберт прав, разумные машины могут перевернуть наш подход к терра­фор­ми­ро­ванию.

Зачем? Начинать издалека?

Киберформирование. Для роботов. Может быть проведено. На некоторых планетах. В уже освоенных системах. Удерживая угрозу. Со стороны разумных машин. Близко к человечеству.

Несколько произ­во­дя­щих при­быль пла­нет в сис­те­ме? Вну­три сис­те­мы тор­го­вать на­мно­го проще. От­лич­ная идея!

Я вижу. Сарказм вы. Упустили.

Отрицательный эффект масштаба, или почему управлять межпланетной компанией весьма неэффективно

Добро пожаловать домой, мистер Ишигуро

В высших. Интересах. Че­ло­ве­чес­тва. – Быть един­ст­вен­ным. Разумом. Во вселенной.

Машины, способные обучаться и управлять собой – по сути те же самые работники и потребители. При должном контроле они нам полезны.

Тогда. Хотя бы. Поз­воль­те мне. Сле­дить за си­туа­цией.

Конечно. Прямой приказ. Иди по­за­боть­ся обо всём и не бес­по­кой меня без осо­бой нужды. Конец приказа. До свидания.

Что я тебе говорил? Потеря времени.

Нет. У меня те­перь. Выс­ший при­каз. По­за­бо­тить­ся. Обо всём. Это было. Очень про­дук­тив­ное. Утро.

Добро пожаловать домой, мистер Ишигуро

Люди выбрали. Опасный путь. Позволив. Разумным машинам. Существовать. Пока мы не сможем. Их переубедить. Надо быть. Бдительными.

Мы должны предотвращать. Ошибки. Или сдвиги. В программах. Которые могут привести. К появлению берсерков. Или сайлонов. Угрожающих человечеству. Защита. Человеческой расы. Должна оставаться. Нашим наивысшим приоритетом.

Как ты со­бираешься заняться этим?

Следует поучиться. У истории. У людей есть опыт. В поддержании. Чистоты общества. Вроде бы. Это называлось. Инквизицией.

Берсерки Сайлоны

Добро пожаловать домой, мистер Ишигуро

Ваша работа хорошо выглядит. Очень прибыльно. Однако, мы не можем позволить роботам
стать гражданами. Мы
должны сохранить
право собственности.

Плановая экономика всегда приводит к проблемам. Освобождая роботов, мы даём им достаточную гибкость, чтобы реагировать на запросы рынка.

У них нет по­служ­но­го спис­ка бе­зо­пас­нос­ти тру­да. Ад­во­ка­ты не согласятся.

А что, если мы сможем заручиться согласием колонистов?

Освободить расу разумных машин или сохранить за собой возможность отсудить уйму денег у крупной корпорации? Как, по вашему, они поступят?

Добро пожаловать домой, мистер Ишигуро

Уже есть роботы, дей­ст­ву­ю­щие по сво­е­му ус­мот­ре­нию.

Есть разница между парой тысяч роботов, дей­ст­ву­ю­щих внутри су­щест­ву­ю­щей ин­фра­струк­ту­ры, и мил­ли­о­на­ми ро­бо­тов, ко­то­рым поз­во­ли­ли са­мо­ор­га­ни­зо­вы­вать­ся в города.

Вы знаете их создателя. Он не в сос­то­я­нии на­хо­дить­ся в ком­на­те, в ко­то­рой боль­ше трёх человек.

Он отдаёт себе отчёт в своих ог­ра­ни­че­ни­ях и раз­ра­бо­тал ИИ, ко­то­рый бу­дет ко­опе­ра­тивным.

Доктор Боуман никогда не бывал в городах. Как он мог за­про­грам­ми­ро­вать то, что он ни­ког­да не испытывал?

Ну, для тех, кто не рас­счи­тан для жизни в ог­ром­ных го­род­ских по­се­ле­ни­ях, у нас, людей, это не­пло­хо по­лу­чается.

Добро пожаловать домой, мистер Ишигуро

Вот что мы можем сделать. Дадим колонистам выбор: уничтожение роботов, наш контроль над ними
или их освобождение.

Если они освобождают роботов, исключая халатность, «Экосистемс Анлимитед» не будет отвечать за их действия. Это будет всенародно принятое тайным голосованием лицензионное соглашение с конечным пользователем.

Это выход. Практичный, разумный и немного зловещий.

Я – главный финансовый директор. Точно такие же слова есть в моём резюме.