Искусственные разумные «устройства»

 

Какие же выводы должны мы сделать, исходя из предыдущих рассуждений, о предельном потенциале искусственного интеллекта? В первой части книги было недвусмысленно показано, что никакое развитие технологий производства электронных роботов с компьютерным управлением не приведет в конечном итоге к созданию действительно разумной искусственной машины — в том смысле, что машина будет способна понимать, что она делает, и действовать на основе этого понимания. Электронные компьютеры, несомненно, играют очень важную роль в прояснении многих вопросов, связанных с ментальными феноменами (возможно, прежде всего тем, что наглядно показывают, что подлинными ментальными феноменами не является), не говоря уже об их чрезвычайной полезности и бесценном вкладе в научный, технический и социальный прогресс. Вывод, впрочем, однозначен: компьютеры делают что-то принципиально отличное от того, что делаем мы, сосредоточивая сознательное внимание на очередной проблеме.

Однако, как можно было понять из продолжения нашего разговора во второй части, я ни в коем случае не утверждаю, что создать подлинно разумное устройство совершенно невозможно; просто такое устройство не будет являться «машиной» — в том конкретном смысле, что «машиной» управляет компьютер. В основе его работы должны будут лежать те же физические процессы, которые ответственны за возникновение нашего собственного сознания. Поскольку физической теории таких процессов в нашем распоряжении еще нет, представляется несколько преждевременным делать какие-то умозаключения относительно того, будет ли вообще построено такое устройство, и если будет, то когда. Тем не менее, в рамках поддерживаемой мною точки зрения C (см. §1.3), согласно которой мышление может быть в конечном счете объяснено научно, хотя и с привлечением понятия невычислимости, создание этого устройства вполне допускается.

Не думаю, что такое устройство непременно должно быть по своей природе биологическим. Более того, я не думаю, что между биологией и физикой (или между биологией, химией и физикой) проходит какая-то принципиально непреодолимая граница. Биологическим системам действительно зачастую присуща тонкость и сложность организации, далеко превосходящая даже наиболее изощренные из наших (порой очень и очень изощренных) физических построений. Однако совершенно очевидно, что мы все еще находимся на очень раннем этапе физического понимания нашей Вселенной — в особенности, феноменов, имеющих отношение к мышлению. Таким образом, можно ожидать, что в будущем сложность наших физических построений существенно возрастет. Можно предположить, что в этом будущем усложнении немалую роль сыграют физические эффекты, о которых мы сегодня имеем весьма смутное представление.

Не вижу причин сомневаться в том, что в не столь отдаленном будущем некоторые из приводящих нас сейчас в недоумение эффектов ( Z -загадок) квантовой теории найдут удивительные применения в самых разнообразных областях. Уже сегодня предлагаются идеи использования квантовых эффектов в криптографии, что позволяет достичь результатов, недоступных классическим устройствам. В частности, имеются теоретические разработки, предполагающие существенное использование квантовых эффектов (см. [26]) и направленные на отыскание способа передачи секретной информации от отправителя к получателю таким образом, чтобы перехват сообщения третьей стороной был невозможен без обнаружения факта перехвата. На основе этих идей уже были разработаны экспериментальные устройства, которые, несомненно, найдут через несколько лет самое широкое коммерческое применение. В области криптографии было предложено и множество других схем, так или иначе использующих квантовые эффекты, и можно сказать, что вчера еще не существовавшая наука квантовая криптография сегодня развивается бурными темпами. Более того, возможно, что когда-нибудь мы действительно сможем построить квантовый компьютер, однако на данный момент соответствующие теоретические разработки еще весьма далеки от практической реализации, и пока весьма сложно предсказать, когда мы увидим (и увидим ли вообще) их физическое воплощение (см. [277, 278]).

Еще сложнее предсказать возможность (и время) создания устройства, работа которого описывается физической теорией, нам еще даже не известной. Я утверждаю, что такая теория необходима для понимания физики, лежащей в основе устройства, функционирующего невычислимым образом; под «невычислимым» здесь понимается «недоступным для машины Тьюринга». Согласно приведенной выше аргументации, прежде чем рассматривать саму возможность создания такого устройства, мы должны отыскать надлежащую физическую теорию редукции квантового состояния ( OR ) — а насколько мы сейчас далеки от такой теории, сказать очень сложно. Возможно также, что возникнут какие-то дополнительные неожиданные трудности, обусловленные неизвестными пока специфическими особенностями будущей OR -теории.

Как бы то ни было, если мы хотим построить такое невычислительное устройство, нам все равно придется, я думаю, начать с отыскания теории. Впрочем, возможно, что и не придется: история помнит немало случаев, когда между открытием новых необычных физических эффектов и их теоретическим объяснением проходило много лет. Хорошим примером может послужить сверхпроводимость, обнаруженная экспериментально (Хейке Камерлинг-Оннесом в 1911 году) почти за пятьдесят лет до того, как Бардин, Купер и Шриффер получили наконец (в 1957 году) полное квантово теоретическое ей объяснение. В 1986 году была открыта высокотемпературная сверхпроводимость (см. [343]) — также при полном отсутствии предварительных чисто теоретических оснований верить в ее существование. (По состоянию на начало 1994 года адекватного теоретического объяснения этому феномену у нас все еще нет.) С другой стороны, если речь идет о невычислимых процессах, неясно даже, каким образом вообще можно определить, что поведение данного неодушевленного объекта является невычислимым. Вся концепция вычислимости опирается в значительной степени на теорию, и непосредственное наблюдение в этом случае мало что дает. Однако в рамках той или иной невычислительной теории вполне может быть описано поведение, которое демонстрирует невычислимые аспекты этой самой теории и которое вполне можно исследовать экспериментально и регистрировать с помощью каких-то реальных приборов. Я подозреваю, что в отсутствие теории вероятность наблюдать или регистрировать невычислимое поведение в каких-либо физических объектах исключительно мала.

А теперь давайте попробуем вообразить, что требуемая физическая теория — т.е., как я показал выше, невычислительная OR -теория редукции квантового состояния — у нас уже есть; кроме того, мы располагаем и некоторыми экспериментальными подтверждениями этой теории. Что нам нужно сделать для того, чтобы создать разумное искусственное устройство? А ничего — располагая одной лишь этой теорией, мы ничего сделать не сможем. Понадобится еще один теоретический прорыв — тот, что объяснит нам, как именно соответствующая организация, задействуя надлежащим образом невычислимые OR -эффекты, порождает сознание. Я, например, не имею ни малейшего понятия, что это может оказаться за теория. Как и в упомянутых выше примерах со сверхпроводимостью, есть вероятность, что на устройство с требуемыми свойствами кто-нибудь наткнется до некоторой степени случайно раньше, чем будет разработана корректная теория сознания. Само собой разумеется, вероятность эта крайне ничтожна — разве что воспользоваться неким дарвиновским эволюционным процессом, т.е. предположить, что разум возникнет сам собой, просто по причине непосредственных преимуществ, которые обладание разумом дает его обладателю, задолго до того, как этот самый обладатель сможет понять, каким же образом все произошло (как, собственно говоря, и случилось когда-то с нами! ). Процесс этот, безусловно, будет чрезвычайно длительным, особенно если вспомнить, сколько времени потребовалось нашему с вами разуму для проявления себя в качестве такового. Возможно, гораздо более удовлетворительным путем к созданию искусственного разумного устройства покажется читателю прямое заимствование тех на первый взгляд беспорядочных, но все же замечательно эффективных и уместных процедур, которыми мы сами многие тысячелетия с успехом пользуемся.

Разумеется, ничто из вышесказанного отнюдь не отменяет нашего желания узнать, что же все-таки происходит там, в глубинах сознания, что делает разум разумом. Я и сам хочу это узнать. Все, о чем я говорил в этой книге, является, в сущности, доказательством одного простого утверждения: то, что происходит в сознании, отнюдь не сводится к совокупности исключительно вычислительных процессов — как многие сегодня полагают — и не может быть в полной мере понято до тех пор, пока мы не достигнем более глубокого понимания природы материи, времени, пространства и тех законов, что ими управляют. Нам потребуются также гораздо более обширные и подробные знания в области физиологии мозга, особенно на микроскопических уровнях, избегавших до недавних пор внимания исследователей. Мы должны больше узнать об условиях, при которых сознание возникает и исчезает, о его любопытных отношениях с временем, о применениях сознания и о преимуществах обладания им — и о многих других вещах, допускающих объективное исследование. Таким образом, перед нами открывается широчайшее поле деятельности, обещающее несомненный прогресс в самых разных областях.

 

8.2. Что компьютеры умеют делать хорошо… и что не очень

 

Даже зная о том, что существующая концепция компьютера не позволяет достичь ни подлинной разумности, ни какого бы то ни было осознания себя, ни в коем случае не следует сбрасывать со счетов огромную мощь современных компьютеров, которая в ближайшей перспективе, по-видимому, увеличится и вовсе до невообразимых пределов (см. §§1.2, 1.10 и [267]). Пусть эти машины и не понимают того, что они делают, они делают это невероятно быстро и точно. Не смогут ли компьютеры таким образом (пусть и неразумным) достичь — к тому же с большей эффективностью — тех же результатов, для получения которых мы используем разум? Можем ли мы сказать заранее, в каких областях компьютерные системы добьются больших успехов, а в каких им никогда не удастся превзойти разум?

Уже сегодня компьютеры замечательно играют в шахматы — приближаясь к уровню лучших гроссмейстеров-людей. В шашки компьютер «Чинук» обыграл всех противников за исключением абсолютного чемпиона мира Мариона Тинсли. А вот в древней восточной игре го компьютеры, как выясняется, не сильны. Компьютер здесь получает преимущество только в том случае, когда продолжительность хода ограничена; если же дать человеку достаточно времени на ход, то компьютер, как правило, оказывается в проигрыше. Шахматные задачи глубиной в два-три хода компьютер решает практически мгновенно, вне зависимости от того, насколько сложной находит задачу человек. С другой стороны, простая по замыслу, но требующая для решения, скажем, пятьдесят или сто ходов задача может привести к полному поражению компьютера, тогда как опытный шахматист-человек, возможно, никаких трудностей и не встретит (см. также §1.15 и рис. 1.7).

Эти особенности по большей части объясняются различиями в способностях, присущих компьютеру и человеку. Компьютер всего лишь выполняет вычисления, не понимая при этом, что он делает, — хотя он и пользуется опосредованно тем пониманием, которое программисты вложили в написание программы. Компьютер может хранить и использовать большой объем информации; человек, впрочем, на это тоже способен. Компьютер может многократно, чрезвычайно быстро и точно выполнять предписанные ему программистами операции; его действия абсолютно бездумны, но по скорости и точности далеко превосходят возможности любого человека. Игрок-человек оценивает ситуацию и составляет осмысленные планы, располагая при этом общим пониманием игры вообще и данной конкретной позиции в частности. Эти способности компьютеру абсолютно недоступны, однако недостаток действительного понимания он зачастую с успехом заменяет вычислительной мощью.

Предположим, что количество возможных вариантов, которые компьютеру необходимо рассмотреть за один ход, равно, в среднем, p; тогда при глубине в m ходов компьютеру придется рассмотреть pm альтернатив. Если расчет каждой альтернативы занимает в среднем время t, то полное время T, необходимое для расчета задачи на такую глубину, составит

 

T = t × pm.

 

В шашках число p не бывает очень большим — скажем, четыре, — что позволяет компьютеру за отведенное ему время просчитывать дальнейшую игру на значительную глубину, вплоть до двадцати ходов (m = 20), тогда как в игре го нередки ситуации, когда p = 200, и сравнимая по мощности компьютерная система справится в этом случае не более чем с пятью (m = 5) ходами или около того. Шахматы располагаются где-то посередине. Кроме того, необходимо учесть, что человеческие оценки и понимание гораздо медленнее, нежели компьютерные вычисления (для человека t велико, для компьютера — мало), однако с помощью этих оценок человек способен значительно сократить эффективное число p (для человека эффективное значение p мало, для компьютера — велико), поскольку достойной дальнейшего рассмотрения человек сочтет лишь малую часть всех доступных альтернатив.

В общем случае из этого следует, что в играх, где p велико, но может быть значительно уменьшено посредством понимания и оценки, относительное преимущество получает игрок-человек. При достаточно большом T человеческая способность сократить «эффективное p » увеличивает m в формуле T = t × pm гораздо быстрее, нежели этого можно добиться, уменьшая t (что как раз очень хорошо умеют делать компьютеры). Однако при малом полном времени T более эффективным оказывается уменьшение t (поскольку существенные для данной игры значения m будут, скорее всего, тоже небольшими). Эти выводы представляют собой простые следствия из «экспоненциальной» формы выражения T = t × pm.

Приведенное рассуждение страдает некоторой упрощенностью, однако суть его, полагаю, достаточно ясна. (Если вы не математик, но хотите получить представление о том, как ведет себя выражение t × pm, попробуйте подставить в него различные значения t, p и m.) Я не вижу особого смысла углубляться здесь в подробности, но кое-что, думаю, следует прояснить. Кто-то, возможно, полагает, что «большая глубина вычисления», выражаемая числом m, — это вовсе не то, чего стремится достичь игрок-человек. Спешу разуверить: в действительности человек стремится именно к этому. Когда игрок-человек определяет ценность позиции на несколько ходов вперед, а затем решает, что дальше ее просчитывать смысла нет, такое вычисление является в действительности вычислением гораздо большей глубины, поскольку человеческая оценка охватывает и возможный эффект нескольких последующих ходов. Как бы то ни было, с помощью упрощенных соображений такого рода можно в общих чертах понять, почему научить компьютер хорошо играть в го гораздо сложнее, чем научить его хорошо играть в шашки, почему у компьютеров лучше получается решать короткие шахматные задачи и почему компьютеры получают относительное преимущество в играх с ограничением на время хода.

Подчеркнем еще раз главное отличие: человеческий мозг обладает способностью, какой компьютер принципиально лишен, — мозг способен выносить суждения, основанные на понимании. Именно это различие и приводит к следствиям, описанным в общем виде в вышеприведенных простых рассуждениях (а также в рассуждениях относительно шахматной задачи, представленной на рис. 1.7 в §1.15). Сознательное понимание — процесс сравнительно медленный, однако он может значительно сократить число альтернатив, требующих серьезного рассмотрения, существенно увеличив таким образом эффективную глубину вычисления. (По достижении определенной точки необходимость в рассмотрении отдельных альтернативных вариантов и вовсе отпадает.) И вообще, всем, кому интересно, чего компьютеры могут достичь в будущем, я, думается, могу дать хорошую подсказку: попытайтесь ответить на вопрос, требуется ли для выполнения той или иной задачи подлинное понимание. Многие вещи в нашей повседневной жизни не требуют для своего выполнения какого-то особого понимания, и вполне возможно, что с ними отлично справятся роботы с компьютерным управлением. Уже сейчас существуют управляемые искусственными нейронными сетями машины, успешно выполняющие такого рода задачи. Например, машины научились достаточно хорошо распознавать лица, производить геологическую разведку, находить по звуку неполадки в работе различных механизмов, разоблачать мошенничества с кредитными картами и т.д.99 Там, где применение таких машин возможно, их эффективность в общем случае приближается к средней эффективности экспертов-людей (а порой и превосходит ее). Однако вследствие особенностей необходимого в данном случае «восходящего» программирования, мы не увидим здесь того уровня мощной машинной «компетентности», какой присущ нисходящим системам (скажем, шахматным компьютерам), или того, что — еще более впечатляюще — демонстрируют компьютеры при выполнении обыкновенных численных расчетов, в каковой области даже лучшие вычислители-люди и близко не подходят к производительности средних по сегодняшним меркам компьютеров. Что же касается задач, с которыми эффективно справляются искусственные нейронные сети (восходящего типа), то задействуемое в выполнении таких задач людьми понимание, если честно, едва ли превышает способности компьютеров, поэтому в таких областях от компьютеров можно ожидать некоторого ограниченного прогресса. Там, где компьютерные программы имеют по большей части нисходящую организацию (прямые расчеты, шахматные программы, научные вычисления), компьютеры способны достичь огромной мощности и эффективности. В этих случаях компьютер также не нуждается в подлинном понимании выполняемых им действий, только здесь все необходимое понимание предварительно вложено в программу человеком (см. §1.21).

Следует упомянуть и о том, что в системах нисходящего типа очень часты компьютерные ошибки, возникающие из-за ошибок в программах. Впрочем, такая ситуация является результатом человеческой ошибки, а это совершенно иное дело. Существуют — и порой даже приносят реальную пользу — автоматические системы исправления ошибок, однако они способны выловить далеко не все ошибки, некоторые оказываются им не по зубам.

Опасность чрезмерно доверчивого отношения к системам с полным компьютерным управлением хорошо иллюстрируется ситуациями, в которых упомянутая система в течение долгого времени работает вполне приемлемо, создавая, возможно, у человека впечатление, что она понимает, что делает. И вдруг неожиданно она выкидывает нечто совершенно безумное, что недвусмысленно показывает, что никакого подлинного понимания в ее действиях никогда не было (как в случае с неспособностью компьютера «Deep Thought» решить шахматную задачу, изображенную на рис. 1.7). Так что никогда не теряйте бдительности. Вооруженные знанием того, что «понимание» просто-напросто не является вычислительным качеством, мы всегда должны помнить: никакой робот с компьютерным управлением таким качеством ни в коей мере обладать не может.

Разумеется, в отношении обладания способностью к пониманию люди и сами очень друг от друга отличаются. Как и компьютер, человек тоже может создать у окружающих впечатление присутствия в его действиях понимания, когда на самом деле никакого понимания там нет. Как правило, имеет место своего рода компромисс между подлинным пониманием, с одной стороны, и памятью и способностью к счету — с другой. Компьютеры сильны в последнем, но не способны достичь первого. Как хорошо известно преподавателям на всех уровнях (но, увы, не всегда известно правительственным чиновникам), гораздо более ценной во всех отношениях является способность к пониманию. Именно понимания (а не просто попугайского зазубривания правил и фактов) стремится добиться от своих учеников учитель. Одно из требований к составителю экзаменационных билетов (особенно в математике) как раз в том и заключается, чтобы по ответам абитуриента на вопросы можно было бы судить о его способности именно к пониманию, отдельно от способностей к запоминанию или счету — хотя эти последние, надо признать, также не лишены некоторой полезности.

 

Эстетика и т.д.

 

В вышеприведенных рассуждениях я говорил, по большей части, о способности к «пониманию», полагая ее существенным компонентом, напрочь отсутствующим в любой чисто вычислительной системе. Именно эта способность фигурировала в гёделевском рассуждении в §2.5 — и именно ее отсутствие в бездумности вычислительного процесса продемонстрировало существенную ограниченность вычислений, побудив нас тем самым к поискам лучшего. И все же «понимание» — это лишь одна из способностей, за которые мы ценим сознательное восприятие. В более общем смысле мы, обладающие сознанием существа, получаем преимущество в любых обстоятельствах, где мы можем непосредственно «чувствовать» то, что нас окружает; и этому вычислительные системы не «научатся» никогда.

Меня спросят: каких же таких преимуществ оказывается лишен робот с компьютерным управлением в результате своей неспособности чувствовать? Что с того, что он не в состоянии оценить, скажем, ни красоту звездного неба, ни величественное великолепие Тадж-Махала тихим вечером, ни волшебных переплетений фуги Баха, ни даже суровой красоты теоремы Пифагора? Можно просто сказать, что робот много теряет, не будучи способным ощутить то, что ощущаем мы, сталкиваясь с такими проявлениями совершенства. Однако это далеко не весь ответ. Попробуем спросить иначе. Пусть робот действительно не способен ничего чувствовать, но нельзя ли запрограммировать компьютер таким хитроумным образом, чтобы он, тем не менее, смог создать великое произведение искусства?

Этот вопрос представляется мне чрезвычайно деликатным. Кратким ответом на него, думаю, будет «нет» — хотя бы по той причине, что компьютер не способен испытывать чувственные ощущения, необходимые для того, чтобы отличить хорошее от плохого или превосходное от посредственного. Но тут можно задать встречный вопрос: а почему для того, чтобы вырабатывать собственные «эстетические критерии» и формировать собственные суждения, компьютер непременно должен обладать способностью «чувствовать»? Почему такие суждения не могут просто «возникнуть» после достаточно длительного обучения (восходящего типа)? Я, впрочем, думаю, что, как и в случае со способностью к пониманию, гораздо более вероятно, что упомянутые критерии все же придется в компьютер предварительно ввести, причем для получения этих самых критериев потребуется детальный нисходящий анализ, выполненный людьми (вполне возможно, не без помощи компьютера), в полной мере обладающими эстетическим чувством. Разработкой подобного рода схем занимались многие исследователи проблемы ИИ. Например, Кристофер Лонгет-Хиггинс (университет Суссекса) разработал несколько различных компьютерных систем, сочиняющих музыку согласно заложенным в них критериям. Еще в восемнадцатом веке Моцарт с современниками показали, как можно сочинять музыку с помощью так называемой «музыкальной игры в кости» — сочетая известные эстетически приятные фрагменты со случайными элементами, можно получать вполне сносные композиции. Аналогичные устройства были созданы и в области графических искусств — например, программа «AARON», разработанная Гарольдом Коэном, способна выдавать на гора в больших количествах «оригинальные» графические работы, генерируя случайные элементы и комбинируя их с имеющимися в ее распоряжении фиксированными образами в соответствии с определенными правилами. (Множество примеров такого «компьютерного творчества» можно найти в книге Маргарет Боден «Творческий разум» [32]; см. также [261].)

Думаю, что выражу общее мнение, если скажу, что среди продуктов такого рода деятельности пока нет ничего такого, что могло бы выдержать сравнение с любым творением умеренно способного художника-человека. Наверное, здесь уместно сказать, что даже при весьма значительных объемах предварительно введенных данных создаваемые компьютером «шедевры» оказываются напрочь лишены «души»! Иначе говоря, картина ничего не выражает, потому что компьютер ничего не чувствует.

Разумеется, случайно сгенерированная компьютерная работа может, просто по чистой случайности, оказаться и подлинным шедевром огромной художественной ценности. (Равно как и набирая буквы случайным образом, можно когда-нибудь получить «Гамлета».) В самом деле, следует признать, что и Природа способна волею случая сотворить настоящие произведения искусства, например, скалы причудливых очертаний или звезды в небе. Однако без способности чувствовать эту красоту невозможно отличить прекрасное от безобразного. Фундаментальная ограниченность полностью вычислительной системы проявится в полной мере еще в процессе отбора.

Опять же можно представить, что человек снабдит компьютер вычислительными критериями для такого различения, и это, возможно, какое-то время будет работать, коль скоро машине останется только генерировать очередные вариации на тему все того же эталона (возможно, так и создается большая часть рядовых «произведений» популярного искусства) — до тех пор, пока плоды такой деятельности не станут вызывать зевоту и нам не захочется чего-нибудь нового. На этом этапе машине потребуется какое-либо подлинное эстетическое суждение извне, чтобы выяснить, какие «новые идеи» имеют художественную ценность, а какие — нет.

Итак, помимо способности к пониманию, существуют и другие качества, каким полностью вычислительная система никогда не «научится» — например, способность к эстетическому восприятию. Сюда же, как мне представляется, следует отнести и все прочие качества и способности, что требуют осознания, — например, способность к нравственному суждению. Как мы убедились в первой части книги, суждение об истинности или ложности утверждения невозможно свести к чистому вычислению. То же применимо (возможно, даже с большей очевидностью) и к суждениям о прекрасном или о добром. Все эти способности требуют осознания и, как следствие, недоступны роботам с полностью компьютерным управлением. Для имитации роботом наличия этих способностей необходимо постоянное дополнительное управляющее воздействие со стороны какой-либо внешней, чувствующей и осознающей себя сущности — предположительно, человека.

Безотносительно к невычислительной природе упомянутых качеств, можно поинтересоваться, являются ли «красота» и «доброта» идеями абсолютными в платоновском смысле этого слова, где определение «абсолютный» применимо только к истине — в особенности, к математической истине. Сам Платон высказывался в поддержку такой точки зрения. Может быть, осознавая, мы каким-то образом связываемся с этими абсолютами, и именно в этом заключается уникальное предназначение сознания? Может быть, здесь и следует искать ключ к тому, чем наше сознание является в действительности и для чего оно нам дано? Не играет ли сознание роль своего рода «моста» между физическим миром и миром платоновских абсолютов? Эти вопросы мы еще раз затронем в последнем параграфе книги.

Вопрос об абсолютной природе нравственности имеет самое прямое отношение к юридическим проблемам, описанным в §1.11. Некоторым образом связан с ним и вопрос о сущности «свободы воли», поставленный в конце §1.11: возможно ли, что есть нечто, что не определяется наследственностью, влиянием окружения и всевозможными случайными факторами, — некая отдельная «самость», играющая ведущую роль в управлении нашими действиями? Я думаю, что мы пока еще очень далеки от ответа на этот вопрос. С полной уверенностью я могу утверждать (и аргументированно доказывать) лишь одно: что бы ни управляло в конечном счете нашим поведением, это что-то в принципе находится за пределами возможностей тех устройств, которые мы сегодня называем «компьютеры».

 

⇐ Предыдущая61626364656667686970Следующая ⇒

Поделиться: