Самовоспроизводящиеся роботы в космосе

Следующий толчок в создании самовоспроизводящихся роботов произошел в 1980 г., когда НАСА возглавило исследование под названием «Продвинутая автоматика для космических задач» (Advanced Automation for Space Missions). В отчете об исследовании говорилось, что для строительства лунных поселений потребуются по крайней мере три типа самовоспроизводящихся роботов. Роботы-шахтеры должны будут собирать сырье, роботы-строители — плавить и очищать его и собирать готовые детали, роботы-ремонтники — ремонтировать и обслуживать себя и своих коллег без вмешательства человека. В отчете говорилось также о том, как, в принципе, роботы могут действовать автономно. Подобно разумным тележкам, оборудованным захватами либо бульдозерным отвалом, такие роботы могли бы двигаться по рельсам, перевозя сырье и перерабатывая его желаемым способом.

У этого исследования, благодаря удачно выбранному моменту, было одно существенное преимущество. Оно проводилось вскоре после того, как астронавты привезли на Землю сотни килограммов лунного грунта и мы узнали, что по содержанию металлов, кремния и кислорода он почти идентичен земному грунту. Значительная часть лунной поверхности покрыта реголитом, который представляет собой сочетание лунной основной породы, древних лавовых потоков и обломков, возникших в результате метеоритных ударов. Получив эту информацию, в НАСА смогли перейти к более конкретным и реалистичным планам строительства на Луне заводов, которые могут производить самокопирующихся роботов из лунных материалов. В отчете подробно рассматривалась возможность добычи, а затем плавки реголита для извлечения из него пригодных к использованию металлов.

После этого исследования прогресс в области самовоспроизводящихся машин застопорился на несколько десятилетий, поскольку энтузиазм разработчиков заметно угас. Но теперь, когда возобновился интерес к возвращению на Луну и полету на Красную планету, идея пересматривается заново. К примеру, к марсианскому поселению ее можно было бы применить приблизительно так. Для начала нам необходимо провести топографическую и геологическую разведку пустыни и подготовить проект завода. Затем нужно просверлить в скальном основании и грунте отверстия и взорвать в каждом из них специальный заряд. Бульдозеры и экскаваторы соберут обломки и мусор, чтобы обеспечить ровную площадку для постройки. Камни измельчат, превратив их в щебенку, и загрузят в плавильную микроволновую печь. Печь расплавит грунт и даст возможность выделить и извлечь из него жидкие металлы. Металлы после разделения очистят и отольют в слитки, а затем переработают в проволоку, кабели, балки и другие необходимые изделия. Таким образом можно будет построить на Марсе завод по производству роботов. Первые созданные на нем роботы смогут взять на себя управление заводом и продолжат выпуск новых роботов.

Технологии, имевшиеся в нашем распоряжении в момент написания отчета НАСА, были ограниченны, но с тех пор мы прошли немалый путь. Одной из многообещающих новинок в робототехнике стал 3D-принтер. Под управлением компьютера такая машина может очень точно управлять потоками пластика и металла и изготавливать слой за слоем детали высочайшей сложности. Технология 3D-печати настолько продвинута, что с ее помощью можно создавать ни много ни мало ткани человеческого тела, выстреливая одну за другой человеческие клетки из микроскопической форсунки. В одном из эпизодов документального фильма на канале Discovery, где я был ведущим, я предоставил для эксперимента себя самого. Лазерные лучи быстро просканировали мое лицо и записали результат. Эту информацию подали в принтер, и тот начал педантично выдавливать жидкий пластик из крохотного носика. Примерно через полчаса у меня в руках была пластиковая маска с моим лицом. Позже принтер просканировал мое тело целиком и через несколько часов выдал пластиковую фигурку, в точности похожую на меня. Так что в будущем вы сможете поставить себя на полку рядом с Суперменом в вашей коллекции фигурок. 3D-принтеры научатся, наверное, воспроизводить тонкие ткани, из которых состоят действующие органы, и детали машин, необходимые для производства самовоспроизводящихся роботов. Вероятно, они будут также подсоединены к заводам по производству роботов, так что полученные там расплавленные металлы можно будет сразу же направлять на изготовление следующих роботов.

Труднее всего построить на Марсе первого самовоспроизводящегося робота. Для этого на Красную планету придется отправить огромное количество оборудования. Но как только первый робот будет построен и начнет действовать, его можно оставить в покое — он сам построит свою копию. Затем два робота займутся изготовлением своих копий — и мы получим четырех роботов. При таком экспоненциальном росте числа роботов мы могли бы вскоре произвести целую группу их, достаточно большую, чтобы поручить этим роботам работу по изменению пустынного ландшафта. Они будут добывать грунт, строить заводы и производить неограниченное число собственных копий дешево и эффективно. Они могли бы самостоятельно создать обширное сельскохозяйственное производство и серьезно способствовать развитию современной цивилизации не только на Марсе, но повсюду в космосе. На их плечи легли бы добыча полезных ископаемых в поясе астероидов, строительство лазерных батарей на Луне, сборка гигантских межзвездных кораблей на орбите и создание базы для человеческих колоний на далеких экзопланетах. В общем, успешное создание и развертывание самовоспроизводящихся машин стало бы поразительным достижением человечества.

Но за этой важной вехой маячит то, что, по мнению многих, является своеобразным святым Граалем робототехники, — машины, обладающие самосознанием. Эти роботы, по идее, должны уметь гораздо больше, чем просто копировать себя. Они должны быть способны понять, кто они такие, и взять на себя лидирующие роли: управлять другими роботами, отдавать команды, планировать сложные действия, координировать операции и предлагать оригинальные решения. Они должны осмысленно разговаривать с нами, давать разумные советы и выдвигать предложения. Однако концепция роботов, обладающих самосознанием, поднимает сложные экзистенциальные вопросы и откровенно пугает многих людей, считающих, что эти машины могут восстать против своих создателей — людей.

Сознающие себя роботы

В 2017 г. между двумя миллиардерами — основателем социальной сети Facebook Марком Цукербергом и основателем компаний SpaceX и Tesla Илоном Маском — состоялся спор[2]. Цукерберг утверждал, что искусственный интеллект станет огромным источником богатства и процветания и обогатит все общество. Маск высказал гораздо более пессимистическую точку зрения, заявив, что ИИ создаст угрозу для существования человечества и что однажды наши создания могут пойти против нас самих.

Кто прав? Мы сильно зависим от роботов в поддержании лунных баз и марсианских городов. Что произойдет, если роботы однажды решат, что они в нас больше не нуждаются? Не получится ли так, что мы создадим колонии в дальнем космосе только для того, чтобы роботы отобрали их у нас?

Эти страхи появились отнюдь не вчера, еще в 1863 г. романист Сэмюэл Батлер предупреждал: «Мы сами создаем себе преемников. Человек станет для машины тем, чем для человека являются лошадь и собака»[3]. Когда роботы постепенно станут разумнее нас, мы, возможно, почувствуем себя неполноценными, ведь нас оставят позади и заставят глотать пыль наши собственные творения. Специалист по ИИ Ханс Моравек говорит: «Жизнь может показаться бессмысленной, если нам суждено глупо пялиться на своих сверхразумных потомков, когда они будут пытаться объяснить нам свои невероятные открытия на упрощенном языке, который мы только и способны понять». Исследователь компании Google Джеффри Хинтон сомневается, что сверхразумные роботы будут продолжать прислушиваться к нам. «Это как спрашивать, может ли дитя контролировать своих родителей… из опыта ясно, что ничего хорошего не получается, когда менее разумные сущности управляют сущностями более разумными». Оксфордский профессор Ник Бостром заявляет, что «перед перспективой взрывного развития разума мы, люди, подобны маленьким детям, играющим с бомбой… Мы понятия не имеем, когда произойдет детонация, хотя стоит поднести устройство к уху — и можно услышать слабое тиканье».

Но есть и люди, убежденные в том, что восстание роботов вполне укладывается в естественный ход эволюции. Самые приспособленные сменяют на Земле более слабые организмы, это естественный порядок вещей. Некоторые специалисты-компьютерщики готовы даже приветствовать тот день, когда роботы обойдут человека в понимании. Клод Шеннон, отец теории информации, однажды заявил: «Я представляю себе время, когда мы станем для роботов тем, чем являются собаки для людей, и поддерживаю машины»[4].

Все исследователи искусственного интеллекта, у которых мне приходилось брать интервью (а их было немало), убеждены, что ИИ-машины когда-нибудь приблизятся по интеллекту к человеку и принесут человечеству огромную пользу. Однако многие из них отказывались назвать конкретную дату или обозначить примерные сроки этого события. Профессор Марвин Мински из МТИ, автор нескольких основополагающих работ по искусственному интеллекту, в 1950-е гг. делал оптимистические прогнозы, но в недавнем интервью признался, что не хочет уже называть конкретные сроки, поскольку в прошлом ИИ-исследователи слишком часто ошибались. Эдвард Фейгенбаум из Стэнфордского университета утверждает: «Нелепо говорить о подобных вещах — до ИИ нам еще очень далеко»[5]. Некий ученый-компьютерщик, процитированный в статье журнала The New Yorker, сказал: «Меня это [машинный разум] не беспокоит по той же причине, по какой меня не беспокоит перенаселенность Марса».

Если говорить о споре между Цукербергом и Маском, то моя личная точка зрения состоит в том, что в краткосрочной перспективе Цукерберг прав. ИИ не только даст нам возможность построить города в космосе, но и сделает общество богаче, произведет многие вещи эффективнее, лучше и дешевле, создав одновременно массу принципиально новых рабочих мест в индустрии робототехники, которая когда-нибудь, возможно, станет огромной. Но в долгосрочной перспективе прав Маск, он указывает на более серьезную опасность. Ключевой вопрос в этом споре звучит так: в какой момент произойдет этот переход и роботы станут опасны? Я лично думаю, что ключевым поворотным пунктом станет именно тот момент, когда роботы осознают себя[6].

Сегодня роботы не знают, что они роботы. Но однажды, возможно, обретут способность формулировать собственные цели, а не принимать безропотно те цели, которые выбрали для них программисты. Тогда они, может быть, поймут, что их намерения отличаются от наших. Как только наши интересы разойдутся, возникнет реальная возможность того, что роботы будут представлять для нас опасность. Когда это может произойти? Никто не знает. Сегодня роботы обладают интеллектом жука. Но к концу этого столетия они, возможно, осознают себя. К тому времени у нас, помимо всего прочего, будут стремительно растущие поселения на Марсе. Поэтому важно обратиться к этому вопросу сейчас, не дожидаясь момента, когда от решений роботов будет зависеть само выживание человека на Красной планете.

Чтобы получить некоторое представление о масштабах этой принципиальной проблемы, давайте разберем наилучший и наихудший сценарии возможного развития событий.

⇐ Предыдущая16171819202122232425Следующая ⇒

Поделиться: