Почему роботы сходят с ума

Тем не менее существует один сценарий, не позволяющий исследователям ИИ спокойно спать по ночам. Вполне можно представить ситуацию, в которой робот получит двусмысленную или неточно сформулированную команду, которая в случае выполнения послужит спусковым крючком катастрофы.

В фильме «Я, робот» показан центральный компьютер VIKI, управляющий инфраструктурой большого города. VIKI получает команду защищать человечество, но, изучив, как люди обращаются с другими людьми, компьютер приходит к выводу, что величайшей угрозой для человечества является само человечество. Он математически определяет, что единственный способ защитить человечество заключается в том, чтобы взять управление им на себя.

Еще один пример — легенда о царе Мидасе. Он просил бога Диониса дать ему способность простым прикосновением превращать все что угодно в золото. Казалось бы, такой дар — верное средство добиться богатства и славы. Но Мидас дотрагивается до своей дочери — и она обращается в золото. Пища тоже становится несъедобной. Царь оказывается рабом того дара, который он сам вымолил у бога.

Герберт Уэллс в рассказе «Человек, который умел творить чудеса» разбирает аналогичную ситуацию. В один прекрасный день ничем не примечательный клерк становится обладателем поразительной способности. Все, что он пожелает, сбывается. Однажды вечером он отправляется выпить с приятелем, творя по дороге чудеса. Им не хочется, чтобы так приятно начавшаяся ночь вдруг закончилась, и молодой человек, сам того не подозревая, желает, чтобы Земля прекратила вращаться. Внезапно на них обрушиваются яростные ветры и гигантские волны. Людей, здания и города выбрасывает в космос со скоростью вращения Земли. Поняв, что он только что погубил родную планету, несчастный испытывает последнее желание: чтобы все вернулось в норму и стало так, как было до обретения им невероятной способности.

Здесь научная фантастика учит нас осторожности. Развивая ИИ, мы должны скрупулезно проверять возможные результаты своих действий, особенно те из них, которые, возможно, не очевидны с самого начала. В конце концов, именно способность к такому анализу отчасти и делает нас людьми.

Квантовые вычисления

Чтобы получить более полную картину будущего робототехники, рассмотрим чуть подробнее то, что происходит внутри компьютеров. В настоящее время большинство цифровых компьютеров строятся на основе кремниевых интегральных микросхем и подчиняются закону Мура, который гласит, что каждые полтора года мощность компьютеров удваивается. Но в последние несколько лет технологическое развитие в этой области начало замедляться по сравнению с лихорадочным темпом нескольких предыдущих десятилетий, и кое-кто даже заговорил о крайнем сценарии, в котором закон Мура перестает действовать и серьезно подрывает мировую экономику, которая за много лет стала зависима от почти экспоненциального роста компьютерных мощностей. Если бы такое произошло, Кремниевая долина могла бы превратиться в очередной Фабричный, он же Ржавый, пояс Соединенных Штатов. Чтобы предотвратить потенциальную угрозу этого кризиса, физики всего мира ищут замену кремнию. Они работают над целым рядом потенциальных альтернативных компьютеров, включая молекулярные, атомные, оптические и белковые компьютеры, компьютеры на ДНК и квантовой точке, но ни один из этих вариантов еще не реализован.

Кроме того, в этом наборе вариантов имеется и темная лошадка. Кремниевые компьютеры становятся все меньше и меньше, и когда-нибудь, по идее, их размеры сравняются с размерами атомов. Сейчас в стандартной микросхеме Pentium толщина кремниевых слоев может соответствовать примерно 20 атомам. Еще в этом десятилетии толщина слоев, возможно, уменьшится до всего лишь 5 атомов, и в этом случае электроны начнут утекать из них, как предсказывает квантовая теория, порождая короткие замыкания. Необходим компьютер на каких-то новых принципах. Кремниевые микросхемы, в принципе, могут быть заменены молекулярными, возможно созданными на основе графена, но когда-нибудь даже у молекулярных компьютеров возникнут проблемы, связанные с эффектами, которые предсказывает квантовая теория. Тогда нам, вероятно, придется строить предельный — квантовый — компьютер, способный работать на крохотнейшем из возможных транзисторов: на единственном атоме.

Вот как он мог бы работать. Кремниевые схемы содержат так называемые ключи — элементы, которые могут быть либо открыты, либо закрыты для потока электронов. Информация хранится на основе таких открытых или закрытых контуров. Этот процесс описывает двоичная система счисления, основой для которой служат серии единиц и нулей: 0 может описывать состояние закрытого ключа, а 1 — открытого.

А теперь посмотрим, что произойдет, если заменить кремний рядом отдельных атомов. Атомы подобны крохотным магнитам, у которых есть северный и южный полюса. Когда атомы помещают в магнитное поле, они указывают, как можно было бы предположить, либо вверх, либо вниз. На самом деле каждый атом указывает и вверх, и вниз одновременно до тех пор, пока не произведено окончательное измерение. В каком-то смысле каждый электрон может одновременно находиться в двух состояниях. Это противоречит здравому смыслу, но именно так обстоит дело в реальности, если верить квантовой механике. Преимущества такой системы огромны. Если магниты ориентированы в одном определенном направлении, в них можно хранить определенное количество информации. Но если каждый магнит представляет собой смесь нескольких состояний, то в крохотную группу атомов можно поместить гораздо больше информации. Каждый «бит» информации, который может быть равен или 1, или 0, теперь становится «кубитом» — сложной смесью единиц и нулей, вмещающей намного больше данных.

Главное в квантовых компьютерах — то, что они могут дать нам ключ к исследованию Вселенной. Теоретически именно квантовый компьютер может превзойти человеческий интеллект, но пока мы не знаем, когда такие компьютеры появятся и каков будет их истинный потенциал. В исследовании космоса они могли бы стать бесценными помощниками. Вместо того чтобы просто строить поселения и города будущего, мы с помощью квантовых компьютеров могли бы подняться на ступеньку выше и перейти к высокоуровневому планированию, необходимому для терраформирования целых планет.

Квантовые компьютеры были бы намного более эффективны, чем цифровые компьютеры. Обычным компьютерам потребовалось бы несколько столетий, чтобы взломать код, основанный на решении сверхсложной математической задачи, такой как разложение чисел, состоящих из миллионов знаков, на два меньших сомножителя. Квантовые компьютеры, проводящие вычисления при помощи большого числа смешанных атомных состояний, справились бы с этой задачей очень быстро. ЦРУ и другие разведывательные службы прекрасно сознают их потенциальную ценность. Среди секретных материалов Агентства национальной безопасности США, попавших в результате утечки несколько лет назад в прессу, был совершенно секретный документ, из которого явствовало, что АНБ тщательно отслеживает все работы по квантовым компьютерам, но в ближайшем будущем никаких прорывов в этой области не ожидается.

Когда же можно ожидать появления таких компьютеров с учетом повышенного интереса и суеты вокруг них?

⇐ Предыдущая20212223242526272829Следующая ⇒

Поделиться: