Архитектура Аудит Военная наука Иностранные языки Медицина Металлургия Метрология
Образование Политология Производство Психология Стандартизация Технологии


Верхний предел силы ИИ и шансы на воскрешение



 

Силу ИИ можно измерить как силу оптимизации, то есть способность сделать правильный выбор из определенного числа выборов. Таким образом, силу можно оценить, как число вариантов выбора, например 1 к 10**15. (И при этом длина ответа является объектом несокращаемой сложности, то есть просто запись числа пи не катит – а катит алгоритм его вычисления, то есть тут включается соломоновская сложность). Силу выбора можно записать как длину ответа, то есть 10**15 равно примерно 45 битам. То есть силу Ии можно оценить через длину его ответа.

Например, силу процесса эволюции можно оценить через длину генома человека, содержательная часть которого равна примерно 1 ГБ, то есть одному варианту из 1 к 2**(10**9), то есть это очень большая величина. (Можно учесть разнообразие вариантов и роль мусорной ДНК, но порядок ответа не очень изменится от этого).

В результате мы получаем некое очень верхнее ограничение – если размер ответа некой вычислительной машины равен X, то и сила ее интеллекта не может быть больше X. Этот предел относится так же и к размерам самой вычислительной машины, если рассматривать ее как конечный объем памяти, где находится и сам алгоритм, и объем вычислений.

Это отражает наше интуитивное понимание того, что вычислительная машина конечных размеров не может быть иметь бесконечно большой интеллект. И что интеллект компьютера при прочих равных пропорционален его вычислительной мощности.

И это позволяет нам оценить предельную силу Ии, который использует всю вселенную, как вычислительную среду – то есть использует все частицы вселенной как компьютер, причем квантовый. Отмечу, что эта сила не так бесконечна, так как увеличение числа частиц компенсируется увеличением времени для коммуникации между ними. И если мозг-Юпитер имеет время реакции около 0,1 секунду, то мозг галактика будет думать одну мысль 50 тысяч лет, то есть будет менее эффективен, чем чип с ноготок во многих классах задач.

 

Оценка силы будущего ИИ необходима нам для того, чтобы понять, каковы шансы на то, что он восстановит нас по нашим следам. А именно, сила его оптимизации должна быть больше, чем сила энтропии наших следов, тогда можно восстановить, причем настолько больше, чтобы это не утруждало Ии и чтобы количество информации было бы достаточно для идентичности.

Объем личной памяти составляет несколько гигабайт, и за жизнь она полностью сменяется – то, что я помнил в детстве почти полностью забывается, и заменяется во взрослом возрасте информацией, о которой я в детстве и не подозревал.

Значительная часть перезаписи информации происходит ночью, когда воспоминания дня фильтруются – то есть ночной сон – это удар по непрерывности, который мы согласились переживать (не говоря о том, что мы смирились с разрывностью сознания при резком пробуждении и забывании сна и фактической необратимой смертью иллюзорного персонажа, которым я был во сне), итак, почти полная смена личной памяти происходит за время жизни, то есть делим условно 1 гигабайт памяти на число в 10 000 дней, и получаем, что в среднюю ночь я теряю 100 кб постоянных воспоминаний – на самом деле больше, так как очень большая часть дневной памяти никогда не успевает стать постоянной. Можно смело поднять эту оценку в 10 раз и сказать, что каждую ночь я теряю 0,1 процента информации о своей личности – и считаю это нормальным. Это позволяет оценить ошибку, с которой меня будущий ИИ может восстановить так, чтобы это не выходило за пределы средних изменений, которые обычно происходят со мной за ночь.

Мы также полагаем, что помимо практической идентичности, то есть изменений в пределах обычного, будущий ИИ решит и проблему трансцендентальной идентичности – что созданная копия будет обладать субъективным опытом и что это будем именно «мой опыт».

В некотором смысле проблема идентичности, это проблема амбивалентности в решении психофизического вопроса, то есть нерешительности исследователя по этому поводу. Если признать, что «я» это нечто не являющееся ни материей, ни информацией, то я первично и является бессмертной душой, сердцем вселенной, которое не может быть разрушено в результате изменений информации. Если признать, что субъективные переживания только иллюзия, являющаяся продуктом обработки информации – то тоже нет проблемы, так как если информация та же самая, то тот же самый и продукт.

 

Теория о том, как считать миры – миры с большой вероятностью истребляют маловероятные миры.

http://hanson.gmu.edu/mangledworlds.html

 

 

Квалиа и природа реальности – один и тот же вопрос

Вопрос о природе квалиа и о причине существования всего сущего - это на самом деле один и тот же вопрос. поскольку это вопрос о природе реальности, о том, как же на самом деле получается нейтральный монизм.

 


Поделиться:



Последнее изменение этой страницы: 2019-03-31; Просмотров: 286; Нарушение авторского права страницы


lektsia.com 2007 - 2024 год. Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав! (0.01 с.)
Главная | Случайная страница | Обратная связь