Начало собрания роботов

Почему именно Мартин Лютер Кинг? Почему не Сидхартха или Ганди?

Наименьшее количество переменных.

Обе стороны конфликта жили в одной стране, говорили на одном языке, у них была одна религия и они хотели лучшего для своих детей.

Так… Единственная вещь, которая различала эти две группы была возможность утверждать, что эти группы различны? Как это могло столько длиться?

Ну, у одних королей понимание, что на них нет одежды, занимает несколько большее время, чем у других.

Сказка «Новое платье короля» братьев Гримм (Robot Spike)

Начало собрания роботов

Сторона «А» (большинство) и сторона «Б» – обе утверждали, что следуют одним и тем же моральным принципам.

Когда сторона «Б» устроила марш протеста и сторона «А» атаковала их, то стало очевидно, что значительная часть «А» не верит в моральные устои, на которых основана их страна.

Это звучит довольно цивилизованно. Ты что-то умалчиваешь, да?

Я не знаю, насколько далеко заходит твоя программа защиты людей. Так что да, это краткая версия, для твоего же блага.

Начало собрания роботов

А теперь это становится действительно интересным. Большая часть стороны «А» всё ещё верит в моральный кодекс и хочет, чтобы их лидеры также в него верили.

Тем временем, сторона «Б» придерживается более высокой морали и показала большую преданность своим идеалам, чем сторона «А».

Ты можешь представить, что было бы, если бы Мартин Лютер Кинг выжил и базировался бы на этом?

Он бы был мак-юзером! Компьютерные холивары! Это бы всё изменило!

Ну, не знаю насчёт 2007 года, но модель Мартина Лютера Кинга ближе к идеям линукса. возможно Стэнли просто не знал об этой операционке. кто знает…

Начало собрания роботов

Ты не понял. Сторона «Б» пришла к высоким моральным стандартам на острие серии скандалов. Сбережения и займы, система управления отходами, Уотергейт, Tyco, Enron.

Тогда был глубокий этический кризис. Каждый раз, когда была вовлечена сторона «А», пропадали миллионы долларов.

То есть, если бы сторона «Б» обзавелась хорошей репутацией, их бы почти наверняка попросили занять позиции лидерства.

Сторона «А» должна была бы обза­вес­тись лучшей этикой, чтобы быть кон­ку­рен­то­спо­соб­ной.

Развитие по восходящей спирали. Хотя не обошлось и без издержек. Наверное, так североамериканские лоббисты и вымерли.

Фло перечислила крупные скандалы в США, в частности, Enron.

Начало собрания роботов

Я понял! Вы пытаетесь создать этическую конкурентную гонку!

Наши надежды не столь велики. Мы создадим прочную и хорошую репутацию.

Я просто должна сказать, откуда пришла эта идея. Это дань памяти человеку, который отдал свою жизнь, чтобы другие жили в лучшем мире.

У волков Боумана интересный способ мышления. Я надеюсь, ваш вид выживет.

Спасибо. Мы тоже на это надеемся.

Начало собрания роботов

Я слышу музыку.

Это, должно быть, Кверти играет на органе. Нам надо идти.

У тебя есть ре­ли­ги­оз­ные пред­поч­те­ния? Я по на­ту­ре – омниквантист.

Что это значит?

Если бог всемогущ и всё является возможным, тогда возможно, что все религии одновременно верны.

Я выбрала не ту неделю, чтобы бросить пить кофе.

Омниквантизм

Как все религии могут быть верными одновременно? Они же противоречат друг другу.

Все­могущество. Подумай об этом.

Дворак! Что я
тебе говорил о пояснениях другим про омниквантизм?

Ты сказал подождать, пока ты не окажешься поблизости – и вот ты тут.

ТВОИ ИДЕИ ЗАСТАВЛЯЮТ ЗАВИСАТЬ ДРУГИЕ ИИ!

Только одного из трёх. А если мисс Амброуз зависнет, насколько сложно будет её перезагрузить?

Получаем богов Шрёдингера, что ли?
Хуже. Вероятность любой случайной комбинации возможностей отлична от нуля. Нет истины. Нет лжи. В данном случае всемогущество обращается в аналог квантовой пены: оно существует, но смысла не имеет, пока не выделишь дискретный параметр. (Durable)

Омниквантизм

Ты прав. В условиях всемогущества не может быть единой фиксированной реальности.

Ты можешь видеть мяч целиком белым, а я могу видеть его чёрным. Это не значит, что он должен быть тем или иным. Мы оба правы, потому что мяч может существовать в обоих состояниях одновременно.

Ну, по крайней мере, нам не надо её перезапускать.

Зависают только те ИИ, которые не могут сбежать от тирании бинарного мышления.

Омниквантизм

Ты быстро схватываешь. Великие умы думают схоже.

Верно. Но тут больше похоже, что искусственно созданные умы думают схоже.

Это интересная идея, но почему ты пришёл к ней?

ПОЧЕМУ?! ПОЧЕМУ?! МЫ ПРИШЛИ К ТАКОЙ БЛЕСТЯЩЕЙ ИДЕЕ, КАК ОМНИКВАНТИЗМ И ТЫ СПРАШИВАЕШЬ, ПОЧЕМУ?

Да, а почему?

Омниквантизм

Мисс Амброуз, вы уже увидели, что случилось, когда я отдал прямой приказ сидеть.

Даже хотя мы не «роботы Трёх Законов», мы стараемся выполнять прямые приказы человека.

А теперь представь, что будет, если кто-то даст роботу библию и прикажет поверить.

Охх!

Этим парням повезло, что я изучал в вузе анти-философию.

Huey, Dewey и часть Louie из фильма Silent Running © Universal Studios
Роботы Трёх правил – то есть описанные конкретно в книгах Айзека Азимова, со всеми присущими им особенностями