Против экстраполяции ценностей человека с помощью ИИ

 

Суть идеи когерентного экстраполированного волеизъявление, которое предложил Юдковски, но потом, кажется, от него отказался, в том, что будущий дружественный ИИ должен экстраполировать будущие идеи о ценностях о человечесвта из его нынешнего состояния. То есть делать не то, что люди на самом деле хотят, а то, что им на самом деле нужно.

Это обосновывается тем, что ценности человечества постоянно эволюционировали, и если мы запихнем в ИИ наши нынешние ценности, то они тоже скоро устареют, а изменить их уже будет невозможно.

 

Возражение состоит в том, что наши ценности и есть то, что определяет нас в качестве людей, а эволюция наших ценностей, то что составляет суть человеческой истории. Да, мы меняем свои ценности, но делаем это сами и в этом содержание нашей жизни.

Метафора: суперкомпьютер спросили, в чем смысл жизни, и он ответил: 42.

Есть как бы два уровня задач: чтобы дружественный Ии не уничтожил нас в первые годы своего существования, и чтобы он дал нам абсолютное благо. И первый уровень гораздо понятнее.

 

 

Сюжет фильма

 

Сюжет сериала – это документальный фильм о будущем. Это должна быть политическая драма, а не боевик, или фильм ужасов. Боевиков много, снять их дорого и ничего хорошего они о будущем не говорят.

То есть это нечто вроде фильма «Социальная сеть», спроецированного на будущее и растянутого на формат в 12 серий.

Этот фильм рассказывает о неком будущем проекте, который сможет глобально изменить жизнь человечества. При этом он начинает с реальных людей, живущих в наше время, а затем создает вариант их позитивного будущего. То есть герои играют себя в будущем.

Возможный вариант такого проекта. Знаменитая певица замечает, что люди вокруг страдают, мрут от рака, что она сама стареет – морщинки и т.д. Она начинает читать википедию, общаться с экспертами, чтобы узнать, в чем причина старения, и как его избежать. Постепенно она выясняет, что со старением можно и нужно бороться, но очень мало что делается из того, чтобы его победить. Она начинает широкое общественное движение, чтобы бороться со смертью и старением. В него входят миллиардеры, футурологи, ученые. Они создают партии и проводят митинги. Люди ходят на демонстрации вокруг Белого дома к ним выходит президент. Но против них выступают религиозные фундаменталисты и Аль Каеда. Некто говорит, что он знает йога, способного к переселению душ. Кажется, что весь проект под угрозой, но затем йога разоблачают на мошенничестве. Потом удается вырастить вечную мышь, крысу и затем обезьяну. Происходит схватка с защитниками прав животных. Наконец создают набор лекарств, продляющих жизнь, плюс определенную генную терапию, которая вызывает резкое омоложение организма. В 2100 году все снова собираются вместе и празднуют победу.

Другой вариант: В России в 2017 году происходит революция и к власти приходит партия трансгуманистов. Но в ней есть два крыла – одни за сотрудничество со всем миром, другие за самоизоляцию и строительство нанотехнологического коммунизма. Шпионка анна чапман играет саму себя.

Третий вариант. Некто, средний между Элоном Маском и Цуккербергом, миллиардер будущего (возможно, его играет С.Брин), создаёт огромный проект по сканированию мозга человека, чтобы создать искусственный интеллект. Но для этого нужно подготовить человека. Он заводит красивую девушку и лично тренирует ее много лет. Роман, любовь, потом ее сканируют в компьютер.

 

Лучший пример докудрама – ВВС End Day https://www.youtube.com/watch?v=t1uXO-F5jZE

 

 

Not in Boston

Когда я летел на самолёте из Каира, на нем было несколько молодых мусульман, возвращавшихся после обучения в медресе в Россию. Один из них указал мне карту полета и сказал: «Москва аллах акбар!» Я не разделил его энтузиазм. Тогда он перешел на русский и сказал: «мусульманином быть хорошо, давай становится мусульманином!» У него было молодое красивое лицо и огромные накаченные мышцы. Я не нашел аргумента, которым мог ему возразить и вернулся на своем место.

Барак Обама в своей речи памяти жертв теракта сказал: «Эти люди хотели атаковать наши ценности свободы и открытости. Но они выбрали неправильный город. Not in Boston. Not in Boston», - повторил он, и зал аплодировал ему стоя. Но я думаю, что не только открытость атаковали террористы.

Терроризм – это спор между теми, кто считает, что ценность жизни находится после смерти, и теми, кто ценит саму жизнь.

Если человек ценит жизнь, он ценит и ее продление, и удовольствия, и рациональную картину мира. Его противник – это человек, который думает, что окружающая действительность - это матрица или страшный сон, которые надо разрушить поскорее, чтобы пробудиться к истинной жизни. Вокруг сплошь агенты Смиты или спящие зомби, которых можно пробудить только взрывом.

Террорист думает, что разрушает иллюзорную реальность. На самом деле, происходит ровным счетом наоборот: его мозг съеден некой ничем не подтвержденной картиной мира, гигантским когнитивным искажением, распространяющимся как мем, как вирус, как ролик в ютюбе – и именно даже через ютюб в виде радикальных проповедей. То, что он принимает за просветление – это болезнь. Не он борется с миром зомби, а сам он и есть зомби.

Внутри религиозной философии есть серьезный баг. Она, с одной стороны, должна обещать людям вечную жизнь после смерти, а с другой – запрещать убийство. Но если смерть не смерть, то и убийство не убийство, а разве что нарушение воли творца, но ее и так все нарушают по десять раз на дню. Только для атеиста смерть – это по-настоящему.

Третья мировая война будет между теми, кто стремится к смерти, и теми, кто стремится к жизни. Нет другой опции, нет третьего полюса. И если мы хотим жить на Земле, мы должны ясно сказать: Not in Boston.

 

Лайкономика

Основная цель массового производства фотографов разными фотошколами – это изготовление фоток и просмотр в единственном месте, где их просматривают - то есть в фейсбуке. И соответственно, получение лайков. Таким образом, выстраивается экономическая модель.  Марк 2 - фейсбук – лайки – фотогуру – фотокружок. Лайки оказались самым главным ресурсом, даже важнее денег. Потом что лайки проникают прямо в мозг, воздействуют непосредственно на центр удовольствия. Лайкономика подчиняет себе реальную.

И у лайков один конкурент – это биткоины. Тоже чисто электронная форма денег. Тоже основанная на пир-то-пир общении. Но опирающаяся не на эмоции, а на цифры. И тут же возникает идея конвертировать честно заработанные лайки в биткоины.

 

Друзья! Не жалейте друг другу лайков! Каждый лайк проливает бальзам на душу страждущего перед экраном юзера. Нажать кнопку так легко, а получить лайк так приятно.

 

 

⇐ Предыдущая121122123124125126127128129130Следующая ⇒

Поделиться: