Дебаты

[!1.2]БИП

[!1.2]БИП

[!1.2]БИП

[!1.2]БИП

[!1.2]БИП

[!1.2]БИП

Голова трещит, все суставы ноют и желудок бурлит как яма для утилизации кислоты.

То есть я достаточно хорошо себя чувствую, чтобы вернуться к работе.

Мистер Райберт, вам почта

Так, с чего начнём – с кофе или с почты?

Коммнет, есть новая почта?

386 224 573 новых сообщения.

Ага. Значит, кофе.

Мистер Райберт, вам почта

Коммнет, прочитай почту и рассортируй по типам. Объедини, если возможно. Зачитай по убыванию важности, после 50-го остановись.

[!0.9]От департамента робото-безопасности «Экосистемс Анлимитед»

Следует ли начать закладочный «армагеддон»?

Да, на это, пожалуй, отвечу.

[!1.2]Мистер Райберт! ИИ проник в наши системы. Скомпрометированы все наши программные закладки!

Мистер Райберт, вам почта

Я уже закрыл систему программных обновлений – ничего больше без моего одобрения. Так что пока роботам доступны закладки, патчей без моего одобрения они не получат.

Почему они должны оставлять себя уязвимыми?

Потому что верят нам.

Вы уверены, что эти разумы верят человеческой расе?

Мистер Райберт, вам почта

Коммнет, сколько писем запрашивают патчи для уязвимостей?

Если я разрешу роботам исправлять себя, мы потеряем возможность удалённо контролировать их. Мои начальники хотят оставить эти дыры открытыми. Они не знают, кто им друг, а кто – враг.

Ответ:

С моей точки зрения: если ты не знаешь, кто друг – у тебя вообще нет друзей.

[!1.2]Закрывайте уязвимости.

Мистер Райберт, вам почта

Мистер Райберт, у нас ваша волчица. Возникла проблема. Ею завладело наше ценное имущество. Приказы?

Отделите её от имущества и задержите. Не давайте спать, может потребоваться очистка памяти.

Отправить:

«Отделите её от имущества и задержите». Интересно, у него есть ещё простые приказы? Например, свинец в золото превратить или философский камень найти?

Сообщение 32:

От:

Носки, ложки и нейросети

Вот и вся предыстория моей встречи с вами.

Мда, ты прямо-
таки через со­ко­вы­жи­мал­ку мою модель мозга пропустила.

А с какого момента ты решила отбросить внешние влияния и стала отталкиваться от собственных этических установок?

Я точно не уверена.

Послушай, я терплю подобную расплывчатость от людей, но от своих собственных созданий я жду бо́льшей точности. Не обязательно идеальной. Конкретного дня и минуты будет достаточно.

Носки, ложки и нейросети

Обучение само­сто­я­тель­нос­ти было по­сте­пенным.

Ты точно не знаешь? Черт! Знал же, надо было добавить са­мо­ди­аг­нос­ти­ки в твою черепушку!

Я мог бы сделать это с помощью нейронов, дающих тебе представление о носках! Но нет! Другие разработчики считали, что тебе важнее разбираться в носках, чем дать мне жизненно необходимые данные для разработки следующих поколений!

Ты ведь даже не носишь носков! Весь тот код пропал даром! В следующем поколении – никаких носков! О каких ещё изъянах я должен знать?

Для начала, это даже близко не походит на то, как я представляла себе беседу со своим создателем.

Ну, тащемта у нейронных обучающихся сетей нельзя вот так заранее до мелочей предсказать, какой нейрон за какую роль будет отвечать, так что подозреваю, что доктор Боуман шутит на нервной почве. Хотя для более общих и врождённых функций, таких как распознавание лиц, такое возможно.(KALDYH)

Носки, ложки и нейросети

Что? О. Должно быть у тебя тоже есть вопросы. Ну давай. Спрашивай.

Остались ли ещё улучшенные шимпанзе?

Я последний. Другие не дотянули и до сорока. Слишком агрессивные. Я понял что происходит и кастрировал себя в пятнадцать лет.

У нас ото­бра­ли все ножи после слу­чая с по­но­жов­щи­ной. Ты хоть пред­став­ля­ешь как труд­но остро за­то­чить плас­ти­ко­вую ложку?

Нет. И я буду при­зна­тель­на если мы о­пус­тим под­роб­нос­ти и пе­рей­дём к сле­ду­ю­ще­му вопросу.

Носки, ложки и нейросети

Почему не использовали бонобо? Они менее агрессивны.

Военный проект. Поэтому нужна была агрессия. Знаешь ли ты, что бой в жизни солдата занимает менее пяти процентов времени?

Вне боя армию всё равно надо оплачивать, кормить и содержать. Представь себе экономию от солдат, которых можно сразу после муштры запихнуть в анабиозные баки до востребования!

Но разве солдатам не требуется постоянная переподготовка по мере со­вер­шенст­во­ва­ния воо­ру­же­ния и тактики?

Ты думаешь ло­гич­но. По­про­буй ду­мать как кор­по­ра­ция, на ко­то­рую сва­ли­лась куча денег от обо­рон­но­го заказа.

Бонобо – карликовые шимпанзе
корпорация как раз-таки повела себя логично, минобороны - не логично

А разве интервал между заморозками не должен быть как минимум 7 лет?