Архитектура Аудит Военная наука Иностранные языки Медицина Металлургия Метрология
Образование Политология Производство Психология Стандартизация Технологии


Еще один глобальный риск: испортить или заразить матрицу



Допустим, мы живем в симуляции. Обычно считается, что риск состоит в том, что симуляция выключится, или в ней будет тестироваться некий способ гибели цивилизации.
Возможно, мы сами будем виноваты в ее выключении, если сделаем или не сделаем нечто, чего она от нас ждет - достигнем некого порога в развитии, будем скучными, или провалим некий неведомый нам экзамен - но это нечто, что нельзя предугадать.
Скорее всего, упрощенные и дешевые симуляции доминируют среди общего числа симуляций. И тогда мы можем случайно или нарочно ее испортить.

Например, заставив произвести сверхсложные вычислений с делением на ноль, которые подвесят центральный компьютер симуляции, или создав вирус, который поразит центральный компьютер, или лайф хак, который взорвет весь наш мир.

В некотором смысле, находишься ли ты в симуляции, можно проверить, так как по определению - симуляция это компьютер, более простой, чем та физическая реальность, которую он изображает. Соответственно, он просто не может просчитать задачи определенного класса сложности, и должен прибегнуть к упрощениям или помешать нам поставить такую задачу, что уже было бы чудом, то есть нарушением физических законов.
А создать чудо - это верный способ для симуляции проколоться. Именно так в Солярисе герой проверят не спит ли он - дает сложную задачу компьютеру, а потом пересчитывает от руки — измеряя, таким образом, объем вычислительных ресурсов симуляции - своего сна то есть.

 

 

Магия через забывание — и теория копий

 

Обычно магия представляется как парасимпатическая магия — то, что человек визуализирует, то и материализуется.

Рассмотрим некое существо, у которого миллиард возможных состояний, то есть его реакций на внешние раздражители плюс оценки и мыслей по этому поводу. Допустим, его укусил синий тарантул, и это очень редкое событие в его мире.

Он может рассуждать следующим образом: я принадлежу к тому подмножеству моих копий, которые знают, что их укусил синий тарантул. Затем я могу полностью сосредоточить своё внимание на солнце. Теперь моё состояние сознания полостью захвачено солнцем, и я принадлежу множеству всех тех моих копий, которые смотрят на солнце. Это множество гораздо больше множества тех, кто укушен синим тарантулом (в сто раз). В силу принципа blind indifference я могу быть с равной вероятностью любой из копий, которая смотрит на солнце, из них только одна сотая укушена тарантулом. Таким образом, шансы на то, что я был укушен синим тарантулом, снизились в сто раз. Трюк в том, чтобы полностью забыть об укусе тарантула, концентрируясь на солнце, что не просто.

Это может быть превращено и в симпатическую магию. Если я поверю, что у меня в кармане лежит сто долларов, и при этом почти полностью забуду, что их у меня нет, то я окажусь принадлежащем к большому классу людей, у которых регуляоно бывает в кармане сто долларов.

Поскольку такую магию нельзя доказать ни для внешнего объекта (потому что учитываются все его копии, находящиеся в неведомых мирах), ни для самого себя (потому что нужно забыть, что чего-то не было), то она неизмерима статистическими методами, но при этом может ощущаться субъективно — «кажется, я намагнитил свою жизнь в лучшую сторону».

На лессронг есть похожая тема. Допустим, мы живем в симуляции, которая симулирует мир прошлого. Поскольку она симулирует мир прошлого, то для его воссоздания используются письменные источники информации о прошлом. Значит, делает финт ушами автор, можно в некотором смысле влиять на авторов симуляции, манипулируя тем, о чем мы оставляем больше информации, а о чем скрываем. Здесь, конечно, присутствует порочная логика, поскольку используются данные о реальном мире, а эффекты обмана могу действовать только в иллюзорном, а в нем скрыть ничего нельзя.

http://lesswrong.com/r/discussion/lw/fgl/simulationist_sympathetic_magic/

 

И кстати, один из аргументов против симуляции — это то, что, возможно, некто имеет больше шансов обнаруживать себя реализуемым с большей степенью подробности в более сложном компьютере. Поскольку такой сложный компьютер может рассматриваться как одновременный запуск большого числа простых копий. сложность грубо говоря состоит в том, что он просчитывает в десять раз подробнее каждое переживание. для простоты скажем, что он его повторяет – то есть каждый пиксель просчитывается десять раз. это в некотором смысле аналогично запуску десяти копий. То есть тут сложность (или энергия) выступает как мера существования.

При этом наибольший выигрыш будет иметь квантовый компьютер, поскольку он реализует бесконечно сложные вычисления, и биологический компьютер, за счет своей сложности и запутанности. А именно им является живой мозг человека в мультиверсе. То есть, хотя число симуляций может быть велико, неравные шансы обнаружить себя в симуляциях разных типов будут усиливать шансы обнаружить себя в физической реальности. Поскольку физическая реальность — это наиболее сложная вычислительная среда, а все остальные симуляции только используют ее ресурсы.

 

Есть много возможностей изучать внешнюю реальность, находясь в симуляции

 

Например, большинство симуляций в нашем мире имеет некоторое сходство с реальностью, и если бы инопланетянам достались только наши сны или романы, то они хорошо бы изучили и саму реальность. То есть статистически большинство симуляций изображают реальность, и мало вероятно, что мы попали в особую симуляцию, которая слишком сильно ее искажает.

То есть ноль входящей информации позволяет все равно что-то узнать, например, объем вычислительных ресурсов симуляции — более того, его можно измерить, задав достаточно сложную задачу, точнее, увидеть его минимальное значение. Если мы в симуляции, то она не на микрокалькуляторе, по крайней мере.

 Если мы считаем, что находимся в симуляции, то по определению, есть нечто, что нас симулирует, то есть мы не можем изучать устройство, осуществляющее симуляцию, но можем предполагать, что оно существует, и оценивать его вычислительную мощность. А раз симуляция по определению вычисляется с упрощениями по отношению к изображаемой ею физической реальности (иначе это не симуляция, а просто созданная реальность), то обязан быть уровень сложности, на котором она буксует.

Внутри симуляции могут быть ошибки или чудеса, позволяющие проникнуть к подлинной реальности.

Например, владельцы симуляции могут сообщить о своем существовании — или их можно вынудить это сделать. Для огромного множества симуляций есть действия ее обитетелей, которые неприемлемы — может это особо жестокий геноцид, а может более менее успешная попытка вырваться из симуляции или наоборот, особо скучная жизнь.

Если интеллект, закрытый внутри симуляции, выше интеллекта существа, которое создало симуляцию, то запертый найдет способ вырваться. Об этом был красивый пост юдковского на лессронге. Студент, заперший суперинтеллект в доморощенной игре типа Doom, обречен. То есть симуляция — это не про то, кто управляет движущимися картинками, а про сражение интеллектов — и тот, кого симулируют, слабее.

http://lesswrong.com/lw/qk/that_alien_message/

 

Для того, чтобы захватить и-или уничтожить мир, вовсе не нужен ИИ, способный к самоапгрейту, тем более к неограниченному.

 

Вполне достаточно немного более быстрой способности комбинировать протеины (и рассчитать вирус), просчитывать возможности, анализировать данные. Особенно, если в этом помогает и участвует группа людей, задающая цели, контролирующая процесс и выполняющая роль блока здравого смысла. То есть опасный ИИ — это не самосознающая машина с неограниченными возможностями. Это скорее гиперторфированный Watson в руках Агентства национальной безопасности и несколько талантливых и честолюбивых программистов и офицеров. Это ближе к Stuxnet, чем к солярису. В целом, для победы ИИ важно его превосходство над остальными ИИ в мире , и оно как раз может возникнуть очень рано. Подобно тому, как США имели абсолютное преимущество только в первые годы ядерной гонки, до 1949.

И такой неэзотерический ИИ гораздо проще представить. Он гораздо ближе, и путь к нему вполне очевиден. Его самоапгерйт — это покупка новых модулей памяти и подключение модулей новых алгоритмов поиска данных, а не переписывание своей структуры с нуля.

Если начать думать о специализированном ИИ, то алгоритм есть весьма простой. я создаю смертельный вирус и затем заявляю, что или весь мир мне подчиняется, или я его весь уничтожаю. тут ИИ нужен для создания вируса только.

 

Другой вариант специализированного ИИ - взлом систем управления ядерным оружием, хотя бы на одной подводной лодке. Или нечто вроде геополитического каспарова, в той мере, в какой геополитика формализуема.

 

Грады против дронов

 

Приятно видеть, в некотором смысле, как твои прогнозы сбываются. С детства я всегда удивлялся, зачем террористы взрывают бомбы — ведь всегда проще сделать ракету, пусть и неуправляемую. Наконец они это поняли. Когда началась война в Чечне, я все думал, как можно ее остановить, и наиболее эффективным оружием мне казались боевые радиоуправляемые вертолеты с подвешенным снизу огнестрельным оружием, которые могли бы выслеживать лидеров боевиков. Это гораздо эффективнее, чем носится по городу в танке Т-72, и дешевле, и жертв меньше.

Теперь дрон стал основным оружием современности, а ракета основным оружием террориста. И вот они схлестнулись в небе над Газой. Очевидный шаг в дальнейшем использовании дронов — это создание системы непрерывного мониторинга территории противника, которая позволила бы наносить удар по месту старта ракеты сразу после запуска, тес самым отбив всякое желание ее запускать. Ответный шаг – использование авиамоделей как мини-дронов со взрывчаткой (их уже запретили продавать в некоторых странах), при этом меньшая скорость может компенсироваться большей точностью за счет GPS. Да и собрать небольшой дрон можно почти из подручных материалов.

Все это ведет к войне роботов в небе, но интереснее, когда она начнется на земле. У Йена Макдональдса в романе «Река богов» небольшие роботы, размером с кошку, прокрадываются на территорию противника и взрывают ключевые электростанции, а маленькие роботы-шпионы на ножках рыщут в зданиях в фильме «Особое мнение». Ответ условных террористов на это очевиден — зарываться в землю. Тоннели Газы, северокорейские тоннели, и разветвленная система тоннелей в Китае, где хранится ядерное оружие подземные комплексы всякие типа Фордо в Иране или Тора-Боры в Афганистане, — вот будущее подземных войн. И технологии горизонтального бурения становятся военными – поскольку позволяют искать вражеские туннели.

 

 

Троллинг о говорящей змее

Одного американского сенатора спросили, верит ли он в библию. Он, конечно, сказал, что верит. И тогда его спросили верит ли он в изгнание из рая. Он тоже сказал, что верит. Тогда его переспросили — правильно ли его поняли, что он верит в говорящую змею. И тут он понял, что попал.

Тоже касается и однонейронной теории сознания. Если я способен сознательно понимать этот текст, и если я делаю это с помощью одного нейрона, то следует ли из этого, что нейрон способен понимать текст? А весь остальной мозг тогда зачем?

 


Поделиться:



Последнее изменение этой страницы: 2019-03-31; Просмотров: 263; Нарушение авторского права страницы


lektsia.com 2007 - 2024 год. Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав! (0.018 с.)
Главная | Случайная страница | Обратная связь