Два основных вопроса в проблеме копий: сознание у компьютера и идентичность сознаний

 

Первый вопрос состоит в том, будет ли созданная в компьютере точная модель человека обладать каким-либо внутренним опытом, или, если ставить его шире, может ли ИИ переживать квалиа. Вопрос этот тоже не сводится к простому да или нет, поскольку имеет несколько изводов.

Можно спросить: является ли человек единственным существом, которое способно переживать квалиа. Наверное, нет, поскольку к этому способны высшие приматы и многие другие животные, хотя где проходит граница, неясно.

Другая форма этого вопроса носит более узкий характер – может ли компьютер, устроенный по принципу машины Тьюринга, то есть состоящий из логических элементов, управляемых однозначными простыми законами, переживать внутренний опыт. Чалмерс в мысленном эксперименте с угасающими квалиа показывает, что переживания опыта не должно зависеть от устройства элементарных элементов мозга.

Здесь возникает сразу вопрос о том, что будет, если копия мозга в компьютере не является точной, то есть она является только относительно точной моделью, сделанной с определённой погрешностью. Что наверняка будет в результате реального копирования. Будет ли и она переживать опыт. Например, магнитфонная запись голоса опыта не имеет, хотя тоже может быть моделью человека.

Здесь можно вспомнить мысленный эксперимент Серля с китайской комнатой. По моему мнению, он ничего не доказывает, так как если принцип работы (алгоритм подбора слов из словаря) китайской комнаты достаточно сложен, то сам этот принцип может иметь внутренний опыт, будучи мощным ИИ, и при этом опыт этот не должен переживаться человеком, который выбирает слова из словаря. Это колоссально сложный алгоритм, который ни один реальный человек не сможет выполнить за измеримое время, если мы хотим, чтобы этот алгоритм проходил тест Тьюринга.

В.Аргонов полагает, что мы можем спросить у будущего ИИ, обладает ли он внутренним опытом, и таким образом выяснить в эксперименте правду. Но этот эксперимент сводится к возможности философского зомби – то есть существа, которое утверждает, что имеет опыт, но на самом деле нет – или «антизомби» – то есть существа, которое имеет опыт, но утверждает, что не имеет его. У обоих классов должны быть представители.

Отдельный вопрос – это будет ли обладать внутренним опытом модель человека, если эта модель имеет похожее на человека поведение, но реализована на других глубинных принципах, например, не создаёт поведение, а проигрывает записанные кусочки из его прошлой жизни или использует ряды Фурье для предсказания будущего поведения.

Третий вопрос – даже если, допустим, компьютерная модель человека обладает внутренним опытом, будет ли она переживать тот же самый «спектр квалиа», что и человек, или у неё будут некие «машинные квалиа», которых никогда не бывало в пределах субъективного опыта человека. И если это машинные квалиа, то насколько это хорошо для задачи бессмертия – ясно, что не очень хорошо, но, может, можно как-то на это согласиться.

И наконец, даже если там те же самые квалиа, что и у скопированного человека (что бы это утверждение ни означало), то может ли копируемый человек считать такую свою компьютерную модель продолжением себя? 

Итак, будет ли у компьютера вообще какой-либо опыт, и если будет, то будет ли этот опыт тем же самым, что и у копируемого человека. Первый вопрос более широкий, и только если мы отвечаем на него «да, будет опыт», и «да, с теми же квалями», то тогда имеет смысл и последний вопрос о том, можно ли считать модель в компьютере следующим состоянием оригинала.

 

 

Базовые понятия

Состояния наблюдателя – observer moments

Это минимально выделимые кадры сознания, которые можно связать с одним тактом его работы, определяемым, как считается, гамма-ритмом головного мозга. С субъективной точки зрения – это единое одновременное переживание всей суммы опыта, то есть определённый набор информации, воспринимаемой одновременно.

Для человека эта сумма опыта состоит из видимой картинки, интерпретации картинки, звуков, телесных ощущений, настроения и мыслей в данный момент времени, а также из распределения внимания над этим полем. Для простоты можно считать, что момент наблюдения состоит из картинки и внутреннего диалога длиной в одну мысль. У человека объём информации в моменте наблюдения – можно оценить в порядок 1 мегабайта, в основном приходящиеся на картинку и на сложность языка, на котором он думает мысли. Оценка сделана на основе разрешения картинки центрального поля зрения, как наиболее насыщенной информацией области опыта.

Разные внутренние состояния мозга могут вести к одним и тем же состояниям наблюдателя.

Состояние наблюдателя устроено иерархически – в нём есть самое важное: управляющие элементы и случайные элементы. К управляющим элементам относятся объект в фокусе внимания, думаемая мысль, настроение и распределение внимания. К неважным элементам относятся детали фона. Поскольку важных деталей состояния наблюдателя меньше, то могут быть весьма похожие состояния.

Кроме того, могут быть состояния наблюдателя, тождественные информационно, но различающиеся через квалиа. Например, у одного все поле зрения занято зелёными предметами, а у другого красными.

Информационно одинаковые состояния наблюдателя могут возникать у весьма разных существ.

Теорию о состояниях наблюдателя развил Н.Бостром, для решения проблем, связанных с наблюдательной селекцией, антропным принципом и Doomsday argument.

Следующее состояние

У Лема термин: «продолжение оригинала». И оно не есть точная копия по определению – оно следующее состояние. Следующее состояние важнее копии, даже если радикально отличается.

Следующее состояние – это по определению то состояние, в котором ты себя обнаружишь.

Есть прямая связь между проблемой будущего состояния – то есть кем я стану в будущий момент времени и проблемой философских зомби.

«Проблема следующего состояния» – более корректный термин, чем идентичность копий. Задача продления жизни сводится к этой проблеме, когда мы спрашиваем – можем ли считать тот кусок мяса или компьютер или копию моим следующим состоянием. Часто даже это речь идёт о том же самом теле – например, проблема мозга в вегетативном состоянии – можно ли его отключить?

И эта сама проблема держится на аксиоматической посылке о том, что следующие состояния бывают. Если своё состояние мы переживаем непосредственно, то факт того, что из моих прошлых состояний вытекают будущие – это уже результат работы логики, у которой просто нет других примеров.

 

 

Абсолютная копия

В ходе дискуссии на одном иностранном форуме возник обычный аргумент: что копия – это не я, так как если она что-то чувствует, то я этого не чувствую. Например, ее колют булавкой, а я этого не чувствую.

 

На что было получено возражение: если речь идёт о полной копии, до атома и электрона, то я и моя копия – это одно существо, поскольку нет никаких различий (просто наблюдаемое в двух местах, как отражение в зеркале и оригинал). Если же ее укололи булавкой, а меня нет, то это уже не копия, поскольку различны состояния электронов и атомов.

То есть аргумент о том что "моя копия – это не я, потому что я не чувствую ее переживаний" – внутренне противоречив. И не может служить опровержением каких-либо методов воскрешения.

Субстрат идентичности

Наилучшим решением было бы, если бы существовал некий неизменный субстрат идентичности, индивидуальный у каждого человека, но при этом неизменный. Именно эту «метафизическую функцию» имеет «душа». Если мы стоим исключительно на информационистских позициях, то такого субстрата не существует, и его необходимо искусственно создать, чтобы с той или иной мерой условности говорить о тождестве или нетождестве тех или иных существ.

Но благодаря существованию квалиа (а также времени), мы знаем что инфомационизм не полон как описание мира. И возникает соблазн найти утраченную идентичность в мире квалиа.

 

Важно отличать об идентичности с чьей точки зрения идёт речь: оригинала, копии, или его создателя. Очевидно, что и копия, и создатель скорее всего будут утверждать идентичность. Единственный, кто может в ней сомневаться, это сам оригинал. В силу этого вопрос имеет смысл, когда создание копии зависит от решения самого оригинала. Обычно в виде вопроса: согласились бы вы на средство транспорта, где копия создаётся (на луне), а оригинал уничтожается.

Кроме того, возможна проверка идентичности со стороны близких родственников и дальних знакомых. С точки зрения дальних знакомых всё равно, даже если копия немного отличается от оригинала, главное, чтобы она выполняла свои функции (например, муж сестры Марь Иванны, директор булочной). Не всё равно тем, кто на самом деле любит этого человека, то есть его родителям, детям и возлюбленным, а также потребителям его творчества (поклонникам).

 

⇐ Предыдущая24252627282930313233Следующая ⇒

Поделиться: