Архитектура Аудит Военная наука Иностранные языки Медицина Металлургия Метрология Образование Политология Производство Психология Стандартизация Технологии |
Акт сознания и момент сейчас
Акт сознания можно рассматривать как переход от момента А1 к А2, начальному и конечному состоянию мозга: сиганл вошел в глаз - и сигнал зарегистрирован. Интересно, что от А1 до А2 протекает много физического времени: не менее 1/40 секунды, и поэтому мы не можем точно сказать, где именно находится во времени момент «сейчас». За эту одну сороковую секунды может пройти очень много процессов - компьютер выполнит десятки миллионов вычислений, свет пройдет 8 тысячи километров, автомобиль проедет метр. (А если я буду думать мысль «это и есть момент сейчас», то это займет еще больше времени). Момент А2 находится в одном из возможных будущих вселенной, которая была в состоянии А1. Именно в этом физический смысл сознания и идентичности. Сознание реализует выбор одного из вариантов мультиверса. И именно эта функция сознания является субъектом идентичности. Потому что есть множество возможных моментов А2, и множество возможных копий, ему соответствующих. Акт сознания есть акт выбора одной из этих копий (неважно пока, как).
Один из критериев безумия в человеке – это сосредоточенность на одной цели. Недаром говорят: маньяк. У нормального человека много целей, они естественным образом всплывают и исчезают. Сверхдоминанта одной цели рано или поздно ведет к абсурдным поступкам. При создании дружественного ИИ, тем не менее, Институт сингулярности выбрал стратегию, где у ИИ будет ясно выраженная система целей и, соответственно, одна главная цель. Это привлекательно тем, что мы можем явным образом создать и проконтролировать эту цель. Однако в результате мы будем иметь ИИ, который по принципам своего мышления не имеет ничего общего с человеком, и трудно ждать , что он будет понимать, что для нас важно. Альтернатива здесь – это сканирование мозга человека и создание ИИ на его основе. Такой ИИ будет заведомо понимать, каково быть человеком, и что на самом деле важно для человека. Более того, он будет соображать, что он делает, а не тупо выполнять команду. Даже если он уничтожит большую часть человечества, то сам будет отчасти человеком. Обратная сторона здесь в том что: а) быть человеком еще не значит быть хорошим – Гитлер. Б) по мере самоапгрейта такая система будет гораздо менее устойчива в отношении своих собственных целей.
трансгуманизм - это коммунизм в новую эпоху, только вместо производственных сил выступают новые технологии, что просто одно и тоже, а вместо страданий рабочих - старение и смерть.
Почти всё, что Ии может сделать полезного или вредного, он может сделать без неограниченной самомодификации. При уловном IQ в 200 и скорости работы в миллион раз больше человеческой он сможет победить старение и смерть, остановить другие враждебные Ии проекты, предотвратить глобальные катастрофы – и при этом все еще оставаться для нас постижимым и управляемым. Может быть, он упустит из виду нечто бесконечно важное, которое открывается только для сверх ИИ с IQ в миллион. Но также он может в процессе тысяч самоапгрейтов сбиться с пути и только казаться очень умным, а на самом деле делать фатальную ошибку – и проверить это уже не будет никакой возможности. Рецепт для ИИ с IQ в 200 не требует особой магии – сканируем мозг Эйнштейна (тм), дублируем сто раз, создаем на этой основе виртуальную шарашку, и запускаем ее со скоростью в миллион раз быстрее. Даже Сталин это умел. Даже в ядерном реакторе цепная реакция контролируется, а не запускается в неограниченный цикл. Как бы ни была мала вероятность у программы пойти в разнос, после миллиона циклов самоапгрейта она станет почти неизбежной. То есть неограниченный самоапгрейт можно рассматривать не с точки зрения неограниченного роста интеллекта, а с точки зрения вероятности возникновения ошибок при неограниченной самомодификации.
Еще размышлял о дружественном ИИ. С одной стороны, математическое доказательство дружественности – это хорошо, потому что оно однозначно и надёжно. С другой стороны, дружественность разрабатывают люди, которые в большей степени являются, скажем так, программистами, чем гуманитариями, и для них мир человеческих отношений чужд и непонятен, а мир математики является родным. То есть у них есть врожденный байс в сторону математики. При этом я тревожусь, что некий важный момент в человечности, таким образом, можно упустить. (Например, если они докажут, что квалий не существует, то нам всем конец.) Математическое доказательство чего-либо состоит из определения чего-либо и его доказательства. В дружественности проблема не только в отсутствии доказательства, но в отсутствии определения , что именно считать дружественностью. Даже тезис о благе всех людей содержит подвох. Граница представлений о том, кто такие люди, постоянно менялась. Еще недавно женщин, детей, стариков, туземцев, псих. больных не считали за людей. Теперь она расширилась и покрывает не только людей, но и приматов, китов, дельфинов, собак и кошек, права которых закреплены законом. Кроме того, в «людей» приходится включать тех, кому уже отказали в праве на жизнь – самых страшных убийц, Гитлера, овоща Терри Шиаво, абортированных младенцев – и не только их, но и их представления о благе. А что делать с гипотетическими инопланетными расами – само распространение человечества по галактике угрожает их будущему возникновению. Собственно, определение «человека» в каждую историческую эпоху равносильно определению бенефициара всех благ, подразумеваемых моралью и законом, то есть тому инструментальному определению дружественности, которое использует государство как огромная машина. Кроме того, человека мы сохраняем, а как быть с социальными группами? Человек - существо социальное, а ценности – это вообще инструменты для склеивания социальных групп. Помимо определения дружественности как системы ценностей, нужна еще теория принятия решения, о том, как эту дружественность использовать. Пример проблемы из теории принятия решений - это дилемма заключенных. На ней оттачиваются различные теории. Но вспомним экзистенциалистов с их проблемой экзистенциального выбора – Сартра и Камю. Наиболее сложный выбор – это выбор между двумя ясными ценностями, например, когда человек должен выбрать между долгом родине и семьёй. Борьба различных ценностей и решений составляет существо жизни всех миллиардов людей, как в их мыслях, так и в их поступках и социальных взаимодействиях – сделках, общении, агитации, обучении. Когда есть неразрешимая проблема, кажется разумным, что лучше найти такой путь действий, который позволит обойти эту проблему, не решать ее сейчас целиком. Например, если создать систему всемирного контроля, которая не позволяет создавать ИИ выше определенного уровня сложности. Отметим, что сама такая система должна быть ИИ. Хотя такая задача сложна, она не является теоретически неразрешимой. И хотя шансы провала велики, они не равны нулю. И как это сделать – один вариант тайно, с помощью вируса вроде STUXNET, силами энтузиастов из подвала или ЦРУ. Другой – с помощью открытого принятия международного соглашения, запрещающего разработку ИИ, способного к самомодификации до тех пор, пока проблема дружественности не будет решена, то есть такое МАГАТЭ по ИИ создать. Я знаю, что МАГАТЭ неэффективно, но если бы его не было, то число стран с ядерным оружием было бы в 10 раз больше.
Таблица факторов, доказано увеличивающих или уменьшающих продолжительность жизни:
|
Последнее изменение этой страницы: 2019-03-31; Просмотров: 256; Нарушение авторского права страницы