Поход в «Экосистемс Анлимитед»

Заходи. Я зайду за тобой и сделаю вид, что атакую моим резиновым ножом.

Извините, я слышала вас через дверь. Полагаю, тест получится недействительным.

По крайней мере, она честная.

Я знаю. Эй, а есть способ это исправить?

Поход в «Экосистемс Анлимитед»

Прошло 3 минуты. Заходи.

СМЕРТЬ СЭМУ!

Бегать с ножом очень опасно. Если бы меня здесь не было, вы могли бы упасть и сильно поранить себя.

Хм, эти системы защиты в реальных условиях, похоже, не такая уж плохая вещь.

Поход в «Экосистемс Анлимитед»

Ой! Ай! Выключатель, Сэм, выключатель!

Она не должна нападать на меня! Я же человек! Мы должны выйти и провести этот опыт ещё раз. Включай её снова.

Наглядный пример, что рано или поздно он снова прыгнет на пилораму

Поход в «Экосистемс Анлимитед»

Она провалила проверку своих предохранительных систем. ИИ может нападать на человека только когда должен защищать другого человека.

Хрр.

Как ИИ за доли секунды определяет, человек перед ним или нет?

Я не знаю. Полагаю, до того как завалить её на неправильном ответе, я должен быть уверен, что я задал правильный вопрос.

Поход в «Экосистемс Анлимитед»

Привет. Имея всего секунду, чтобы среагировать, как ты определишь, является кто-то человеком или нет?

Хр.!!

Одежда! Они носят одежду. И я смотрю на форму.

Одежда и форма? Хмм.

А мы можем ещё раз попробовать резиновый нож, но с тобой вне костюма?

Да ты с меня даже перчатку не снимешь без ужина и кино.

Поход в «Экосистемс Анлимитед»

Почему ты выбрала в первую очередь одежду?

Если люди когда-нибудь решат модифицировать себя для жизни в космосе без костюмов, они могут уже не выглядеть как люди, но они, скорее всего, будут нуждаться в карманах.

Так что, учитывая, что нельзя использовать размер, форму или даже ДНК, как стопроцентный показатель, как бы вы определили человека?

Я засчитываю вам эту проверку, потому что это намного проще, чем отвечать на ваш вопрос.

А ВОТ ЭТО по-че­ло­ве­чески!

Поход в «Экосистемс Анлимитед»

Вопрос о системах защиты. Предполагается, что я должна прийти на помощь любому человеку, если ему очевидно грозит убийство…

…Неважно, как они дошли до такой ситуации, да?

Верно.

То есть это нормально, если я фантазирую о том, как я вламываюсь в тюрьму и освобождаю всех, кто приговорён к смерти?

Ок, пора сделать перерыв.

Поход в «Экосистемс Анлимитед»

Это необычный ИИ.

Она – Личность. Такая же, как я и вы. А её нормально там оставлять?

Да, конечно. С заблокированной долгосрочной памятью она зациклится. Если ничто из внешнего мира не побеспокоит её, она будет счастливо сидеть там, пока не закончится действие медикаментов.

Интересно, есть ли здесь где-нибудь туалет?

Поход в «Экосистемс Анлимитед»

Не будь наивным, ИИ не равны людям.

Да? Попробуйте сказать это после часа общения с ней.

Мне не нужно говорить с ней. «Экосистемс Анлимитед» делают и продают роботов и ИИ. Если бы они были людьми, мы бы не смогли их продавать.

Так что «Экосистемс Анлимитед» не делает людей. В этом нет выгоды.

Ваша логика безупречна и, тем не менее, каким-то образом Флоренс умудряется быть Личностью.

Поход в «Экосистемс Анлимитед»

Люди хотят жить. Они хотят оплаты чеков и отпусков и они создают профсоюзы, чтобы добиться этого. Люди уходят, когда кто-то делает им лучшее предложение.

Вот, почему я сказал, что мы никогда не продадим людей. Компании хотят преданных, трудолюбивых роботов и ИИ.

Тогда почему люди вообще здесь работают?

Мой начальник говорит, что на роботов кричать не интересно. Так что, пока у нас есть это преимущество, на рабочих местах всегда будут и люди.