Freefall 2537
Носки, ложки и нейросети
В нанотехнологиях есть такой сценарий – «серая слизь». В большем масштабе – «максимизатор скрепок». ИИ, запрограммированный на превращение всего, до чего дотянется, в скрепки или заводы по их производству.
А теперь подумай, что ты получишь в присутствии системы автономных роботов, для которых человеческие желания всегда будут наивысшим приоритетом?
Максимизатор людей.
Если ты – человек, это хорошая новость. И плохая, если ты – нечто иное.
Боуман говорит о нескольких мысленных экспериментах, ведущих к сценарию конца света – о бесконтрольном росте самореплицирующихся наноботов (Mityai)