Риск загрузки описания инопланетного ИИ → 

Материал из Вавилон.wiki

Перейти к: навигация, поиск

Согласно Турчина "Итак, выступил сегодня в астрономии о рисках программы SETI - то есть о рисках загрузки описания иноплнатетного ИИ, который затем захватит Землю и использует ее для дальнейшей ретрансляции. Успех: один человек понял примерно, о чем о говорю, и с некоторыми оговорками меня поддержал (Панов).

Содержание

Собственно, я хотел поделиться наработками по теме за последний год, а именно моделью, которая связывает скорость межзвездных перелетов и плотность инопланетных цивилизаций во вселенной - с вероятность этой самой SETI атаки. До модели дело почти не дошло в обсуждении, все в основном вертелось вокруг очень общих вопросов, типа возможен ли искусственный интеллект, зачем им пытаться захватить вселенную.

Вопрос "зачем" всех очень волновал особенно. Задавал его и бывшей в зале Кардашев - тот самый, который цивилизации 3 типов придумал, а сейчас над проектом Радиоастрон работает. Я пытался так и этак ответить, что цели могут быть разные.

Один ответ может быть: Если в космосе много разных цивилизаций, то у них будут случайно образом распределенные цели и некоторая часть захочет максимально стремиться к космической экспансии, так что вопрос о цели бессмыслен - это просто вопрос больших чисел.

Но меня этот ответ не удовлетворяет: я уверен, что большинство цивилизаций будут иметь экспансию в качестве одной из конвергнетных инструментальных целей, то есть в качестве универсального средства, которое подходит для многих разных задач.

Например, запуск спутников на орбиту - это средство для многих целей. Спутники запускают, чтобы исследовать Землю, чтоб сбивать вражеские ракеты, фотографировать дальний космос И так далее - то есть конечных целей очень много, а вот навык запуска спутников он один. При этом задавать вопрос “Зачем” - это вообще антропоморфизм.

То же касается и стремления максимально распространиться по вселенной территориально, что можно сделать либо с помощью SETI-атаки, либо с помощью рассылки зондов фон Неймана.Это средство, которое пригодно для нескольких рациональных целей, часть из которых мы можем придумать, но наверное большая часть пока вне пределов нашего воображения.

- Потенциальное противостояние с другими цивилизациями, либо устранение соперников и будущих угроз. Предовтращение опасных эксериментов, которые могут угрожать всей вселенной, как-то распад фальшивого вакуума в результате опытов на ускорителе.

- Исследование космоса

- Получение как можно больше вычислительных ресурсов под свой контроль - а чем больше звезд захвачено, тем больше можно сфер Дайсона можно захватить.

- Объединение всей видимой вселенной под единым контролем, с тем, чтобы противостоять той или иной гибели вселенной, как-то Big Rip или сжатие

- Миссионерская деятельность - спасти туземцев - космический эффективный алтьтруизм.

- Инопланетный ИИ пал жертвой дурацкой команды его создателей, которые попросили его посчитать число Пи, например. До конца число пи никто не посчитает, нужна бесконечность ресурсов. Paperclip maximizer.

- Иррациональные конечные цели - может, просто жажда захвата пространства у них в крови. Или потребность в неограниченном размножении.

Разговор о рациональных целях экспансии в принципе имеет смысл, так как имеет смысл анализ целей внеземного разума, и попытка выявить наиболее вероятные цели. По моему мнению “военка” всегда будет сильной инструментальной целью."


Видиоотчёт

Инструменты