Далекое будущее

Вступление

Количество людей, живущих сегодня, меркнет по сравнению с количеством людей, которым ещё предстоит появиться на свет. Поэтому чрезвычайно важно создать такие условия, чтобы даже далеко в будущем человеческая цивилизация процветала, наслаждаясь жизнью, свободной от страданий.

Есть ряд способов, над которыми мы можем работать, чтобы обеспечить человечеству позитивное будущее. Мы можем работать над тем, чтобы лучше понимать и предотвращать риски вымирания — катастрофические события, которые могут разрушить всю жизнь на этой планете.^[1] Можно сосредоточиться на более обширной категории экзистенциальных рисков — событий, которые могут внезапно и необратимо сократить человеческий потенциал^[2]. Или мы могли бы сфокусироваться на повышении вероятности того, что жизнь наших потомков будет положительной, другими способами: например, улучшая демократию или способность институтов принимать правильные решения.

Попытки сформировать далекое будущее сильно недооценены по сравнению с проблемами, с которыми мы сталкиваемся сегодня. Существует меньше стимулов для решения долгосрочных проблем, и нам труднее воспринимать их всерьез.

Конечно, трудно быть уверенным во влиянии наших действий на очень далекое будущее. Тем не менее, оказывается, есть вещи, которые мы можем сделать уже сейчас — и учитывая тот масштаб, о котором мы говорим, эти действия могут оказать огромное влияние в будущем.

Эта статья демонстрирует, почему вы можете захотеть сфокусировать свои альтруистические усилия на далеком будущем, а почему нет. Вам особенно хорошо подойдет эта область, если вы считаете, что человечество столкнется с серьезными экзистенциальными угрозами в следующем столетии, и если вы принимаете некоторую степень неопределенности того воздействия, которое вы оказываете, особенно в краткосрочной перспективе.

Далекое будущее как область для альтруизма

Причины для внимания к проблемам далекого будущего:

1. Далекое будущее обладает огромным потенциалом для добра или зла: наши потомки могут прожить миллиарды или триллионы лет и иметь очень высокое качество жизни;
2. Вполне вероятно, что те вещи, которые мы можем сделать сегодня, могут заметно повлиять на долгосрочную перспективу;
3. Люди и общество сильно пренебрегают возможными способами формирования далекого будущего;
4. С учетом пунктов 1 и 3, действия, направленные на формирование далекого будущего, будут иметь чрезвычайно высокую ожидаемую ценность, превышающую любые действия, направленные на принесение пользы в краткосрочной перспективе.

Ниже мы обсудим каждый из этих аргументов подробнее.

Далекое будущее обладает огромным потенциалом

Цивилизация может существовать миллиарды лет, пока Земля не станет непригодной для жизни.^[3] Трудно сказать, насколько это возможно, но, безусловно, это кажется правдоподобным — хотя перспектива того, что такая вероятность составляет менее 1%, кажется слишком самонадеянной.^[4] Вы можете быть не согласны с тем, что 1% — это разумная нижняя граница, но изменение показателя на пару значений все равно даст крайне впечатляющий результат. И даже если цивилизация просуществует ещё миллион лет, это составляет примерно 50 000 поколений людей, то есть триллионы будущих жизней.^[5]

Если наши потомки смогут прожить достаточно долго, они, вероятно, разовьются так сильно, что мы не способны этого представить. Человек, живший несколько сотен лет назад, не мог вообразить себе технологические достижения, которых мы добились сегодня. Возможно, появится технология, которая позволит нашим потомкам достигнуть других звезд и колонизировать планеты за пределами нашей солнечной системы, просуществовать гораздо больше миллиарда лет.^[6]

Допустим, если мы доживем до конца жизни Земли, вероятность космической колонизации составит 1%. Таким образом, общая вероятность выживания за пределами Земли равна 1 из 10000 (шанс 1% дожить до миллиарда лет, умноженный на шанс в 1% на дальнейшее выживание). Это кажется невероятно малой вероятностью, но предположим, что космическая колонизация может позволить нашим потомкам прожить до 100 триллионов лет^[7]. Это говорит о том, что у нас может быть до 1/10 000 x 100 триллионов лет = 10 миллиардов ожидаемых лет цивилизации после нас.

Если мы ожидаем, что жизнь в будущем будет в среднем столь же хороша, как в настоящем, то это значит, что будущее в 100 миллионов раз более важно, чем все, что произошло за последние 100 лет. На самом деле, может оказаться, что в будущем будет больше людей с более высоким уровнем жизни, чем сегодня: экономический, социальный и технологический прогресс может помочь нам вылечить болезни, вывести людей из нищеты и лучше решать другие задачи. Также вероятно, что люди в будущем будут более альтруистичными, чем люди, живущие сегодня^[8], что также повышает вероятность того, что они будут мотивированы на создание счастливого и значимого мира.

И именно из-за этого огромного потенциала так важно обеспечить, чтобы все шло как можно лучше. Потенциальные потери буду­т огромны, если мы предпочтем двигаться в противоположном направлении. Это может привести к большему количеству страданий или к концу человечества.^[9] Но по мере того, как растут возможности для решения мировых проблем, угрозы тоже становится больше. В частности, передовые технологии и рост взаимозависимости создают большие риски.^[10]

Вещи, влияющие на долгосрочную перспективу, которые мы можем сделать сегодня

Есть целый ряд вещей, влияющих на далекое будущее, над которыми мы можем работать уже сегодня:

• Снижение рисков вымирания. Мы могли бы снизить риск катастрофического изменения климата, приняв законы и нормативные акты по сокращению выбросов углерода. Мы могли бы снизить риски от новых технологий, инвестируя в исследования, обеспечивающие их безопасность. И в качестве альтернативы, мы могли бы работать над усилением глобального сотрудничества, чтобы эффективнее справляться с возможными непредвиденными рисками.
• Изменение ценностей цивилизации. Ценности в обществе, как правило, стабильны^[11], поэтому попытки поменять ценности хоть и трудны, но могут иметь долгосрочные последствия. Некоторые формы изменения ценностей, такие как рост альтруизма, являются чрезвычайно полезными и могут быть способом реализации самого лучшего возможного будущего. Однако распространение плохо продуманных ценностей может быть губительно.
• Снижение риска страданий. Исторически, технологический прогресс позволил добиться значительного улучшения уровня благосостояния (к примеру, благодаря современному сельскому хозяйству и медицине), но также стал одним из самых больших источников современных страданий (например, промышленное животноводство). Чтобы предотвратить наихудшие риски от новых технологий, мы могли бы улучшить глобальное сотрудничество и работать над конкретными проблемами, такими как предупреждение наихудших вариантов развития искусственного интеллекта.
• «Ускорение» развития. Ускорение технологических инноваций или научного прогресса может иметь длительный эффект «ускорения» для всего будущего, в результате чего все будущие выгоды будут происходить намного раньше, чем это могло бы быть. К примеру, найденное лекарство от смертельной болезни за несколько лет может спасти миллионы жизней. (Тем не менее, не понятно, хорошо или плохо ускорять разработки с точки зрения экзистенциальных рисков — более быстрое развитие новых технологий может помочь нам уменьшить некоторые угрозы, но создает новые риски).
• Последствия будничных действий. Улучшение здоровья не только приносит пользу каждому индивиду, но и позволяет им быть более экономически успешными, а это означает, что общество и другие люди будут инвестировать меньше средств на их содержание. В совокупности это может оказать существенное влияние на производительность общества, что может повлиять на будущее.
• Другие способы, положительно меняющие траекторию, включают в себя улучшение образования, науки и политических систем.

Пол Кристиано также отмечает, что, даже если сегодня не существует возможности для формирования далекого будущего с какой-либо долей уверенности, такая уверенность вполне может возникнуть в будущем. Инвестиции в наши собственные способности могут оказать пусть и косвенное, но значительное влияние, улучшив нашу способность воспользоваться возможностями, когда они представятся. И кроме того, мы можем проводить исследования, которые позволят больше узнать о том, как мы можем повлиять на долгосрочное будущее.

Далеким будущим пренебрегают, учитывая его важность

Попытки сформировать далекое будущее игнорируются отдельными лицами, организациями и правительствами.

Одна из причин заключается в том, что недостаточно стимулов для того, чтобы сосредоточиться на отдаленных, неопределенных проблемах в сравнении с более определенными, безотлагательными. Как сформулировали в 80 000 Часов, «будущие поколения имеют значение, но они не могут голосовать, не могут покупать вещи, не могут отстаивать свои интересы».

Проблемы, с которыми столкнутся будущие поколения, ещё более неопределенные и абстрактные, что усложняет нашу заботу о них. Существует эффект временного дисконтирования — мы склонны придавать меньшее значение результатам, находящимся далеко в будущем. Это может объяснить нашу склонность игнорировать долгосрочные риски и проблемы. Например, поэтому нам так трудно справиться с изменением климата.

В целом, убывает доходность от дополнительной работы в этой сфере. А это означает, что недооцененность далекого будущего позволяет внести большой вклад в этой области.

Усилия по формированию далекого будущего могут иметь невероятно высокую ожидаемую ценность

Даже если вероятность того, что наши действия повлияют на долгосрочную траекторию развития человечества, сравнительно невелика, потенциальные выгоды чрезвычайно велики, а это означает, что такие действия могут иметь очень высокую ожидаемую ценность. Например, снижение вероятности вымирания человека всего на один миллион лет может привести к дополнительным 1000 – 10 000 ожидаемых лет цивилизации (используя раннее предположение).^[12]

Сопоставьте это с действиями, которые мы могли бы предпринять, чтобы улучшить жизнь людей, живущих сегодня, не обращая внимания на долгосрочные последствия. Впечатляющее достижение, такое как излечение наиболее распространенных и смертельных болезней или прекращение всех войн, может сделать текущий период времени (~ 100 лет) примерно в два раза благоприятнее, чем в противном случае.^[13] Несмотря на то, что это кажется огромным успехом, учитывая вышеприведенные вычисления, уменьшение вероятности человеческого вымирания будет в сотни раз лучше.

Мы можем захотеть изменить эту наивную оценку в сторону понижения, учитывая неопределенность некоторых допущений, которые входят в неё — мы можем ошибаться в отношении вероятности выживания человечества в далеком будущем или в отношении ценности будущего (если представить, что в будущем процветание может иметь убывающую доходность.) Однако, даже если мы считаем, что эти оценки должны быть существенно снижены, мы можем очень консервативно представить, что уменьшение вероятности экзистенциального риска до одного на миллион равняется только ста ожидаемым годам цивилизации. Это по-прежнему говорит о том, что ценность работы по снижению экзистенциального риска сопоставима со стоимостью самых больших побед, которые мы только можем себе представить в текущий период времени, и поэтому она стоит того, чтобы к ней относились серьезно.

Некоторые опасности приоритизации далекого будущего

Это контринтуитивный способ делать добро

Некоторые люди могут скептически относиться к такому пути, потому что концентрация внимания на далеком будущем кажется нелогичной. Альтруизм обычно означает помощь окружающим, а не попытки обеспечить выживание наших потомков в течение миллиардов лет. Если далекое будущее так важно, почему почти никто не думает или не говорит об этом?

Во-первых, когда что-то идет вразрез со здравым смыслом, это не означает, что оно ошибочно. Моральные устои общества были неверны в прошлом — сейчас мы думаем о том, как, к примеру, люди относились к рабам, женщинам и гомосексуалам, как к чему-то морально отвратительному. Есть также свидетельства того, что наши моральные устои подвержены целому ряду предубеждений, таких как невосприимчивость к масштабу, когда числа велики: помогая 10 000 человек, мы чувствуем себя так же хорошо, как если бы помогли 1 миллиону людей, несмотря на разницу в количестве.^[14]

Во-вторых, не так уж очевидно, что приоритезация в пользу долгосрочного будущего действительно контринтуитивна, если в ней хорошо разобраться*.* Долгосрочная перспектива предполагает, что нам следует уделять приоритетное внимание таким вещам, как инвестиции в технологии и экономический рост, научные исследования, укрепление институтов и улучшение демократии. Это кажется внушающим доверие ответом на вопрос: «Каким образом мы можем наиболее удачно решить самые большие проблемы в нашем мире?». На самом деле, некоторые скорее интуитивно поддержат этот ответ, чем предложение работать на краткосрочный результат — жертвовать деньги бедным фермерам в Кении или распространять сетки от малярии.^[15]

Разве мы не должны помогать уже существующим людям?

Другим возражением против этого пути может быть то, что будущие поколения не имеют моральной ценности — по крайней мере, не в такой степени, как наши современники.

Проще сопереживать современникам, и мы чувствуем большую мотивацию помогать им. Нам может казаться, что им проще помочь, потому что мы можем узнать, в чем они нуждаются. Однако это не подразумевает, что морально будущие люди имеют меньшую ценность.

Но если приглядеться, то оказывается, что большинство людей заботятся о благополучии будущих поколений. 80 000 Часов в качестве примера предлагают простой выбор между (а) предотвращением страданий одного человека через год и (б) предотвращением страданий ста человек через 100 лет. Поскольку большинство людей выбрали второй вариант, есть предположение, что большинство людей ценят будущие поколения.^[16]

Что мы можем сделать?

Последнее возражение заключается в том, что мы не можем быть уверены в нашем влиянии на долгосрочную перспективу, поэтому не стоит даже пытаться. Наши усилия стоит сосредоточить на проблемах, в которых мы можем ясно видеть прогресс.

В предыдущем разделе мы обсудили аргументы, согласно которым мы, вероятно, можем повлиять на далекое будущее. Стоит повторить, что нам не нужно быть наверняка уверенными во влиянии наших действий. Усилия по формированию будущего могут повлиять на миллиарды жизней, поэтому даже шанс в 1% на успех имеет значение.

Конечно, нам все ещё нужно доказать, что есть достаточно высокая вероятность успеха, иначе мы могли бы оправдать любую долгосрочную идею с помощью этих рассуждений. Дело в том, что нам не особо нужно быть полностью уверенными в своих действиях.

Причины, по которым вы не захотите приоритизировать далекое будущее

Вы можете оспорить, какую моральную ценность мы должны придавать «будущим людям»

Обычно, мы чувствуем интуитивное обязательство относиться к будущим, ещё не существующим людям примерно так же, как к существующим. Аргумент, изложенный выше, предполагает, что мы придаем такую же моральную ценность будущим поколениям, как и нашим современникам. Однако некоторые философы задаются вопросом, следует ли нам уделять такое же внимание будущим людям с точки зрения морали. В личностно-ориентированных взглядах («person-affecting views») действие является хорошим или плохим только в том случае, если оно является хорошим или плохим для кого-либо, и поэтому ценность действия зависит только от того, как оно влияет на людей, которые либо уже живы, либо которым еще предстоит появиться на свет, независимо от наших действий. Это говорит о том, что у нас есть достаточно веские основания для улучшения благополучия современников, чем для помощи будущим поколениям. Такой взгляд также предполагает, что человеческое вымирание хоть и плохо для тех людей, которые умрут в процессе вымирания, но оно не принесет долгосрочного вреда: нет никакого вреда для людей, ещё не появившихся на свет.

С этим связана проблема неидентичности, возникающая из того факта, что в некоторых случаях будущие люди обязаны своим существованием тому выбору, который сделан сегодня. Например, политика, которую избирает правительство, повлияет на людей, которые имеют определенные рабочие места, на тех, кто строит отношения и вступает в брак, что, следовательно, ведет к рождению будущих людей. Политика также может повлиять на то, насколько благоприятны жизни будущих людей — к примеру, если правительство решит, что краткосрочная экономическая производительность приоритетнее, чем облегчение последствий изменения климата в долгосрочной перспективе, это может оказать негативное влияние на будущие поколения. Но если сама политика, которая, очевидно, сделала жизнь будущих людей «хуже», также гарантирует, что именно эти люди вообще родятся, можно ли сказать, что эти люди действительно пострадали от такой политики? Если нет, то это может быть причиной для расстановки приоритетов на благосостояние уже существующих людей или на тех, чье существование не зависит от наших действий.

Тем не менее, проблема неидентичности также может быть воспринята как причина отказаться от личностно-ориентированных взглядов. В таком подтексте выбор политики, которая ухудшит жизнь будущим поколениям, но не причинит этим будущим людям никакого вреда, кажется крайне нелогичным. Вместо этого мы можем принять обезличенные принципы для оценки моральной ценности действий.^[17] Это означает, что мы будем судить не по тому, как они влияют на конкретных людей, а по тому, насколько они хороши с точки зрения мира в целом.^[18]

Вы можете считать, что мы не сможем повлиять на долгосрочное будущее

Вы можете подумать, что мы ничего не можем сделать, чтобы достоверно повлиять на далекое будущее.^[19]

Например, вы можете согласиться с тем, что наши действия имеют косвенные последствия, но будете отрицать то, что мы можем заранее предсказать, какими будут эти последствия. Гораздо проще оглянуться назад и определить, какие из прошлых поступков принесли значительную пользу, чем предугадать, какие действия будут иметь такие последствия в будущем. Или вы можете подумать, что мы не можем сделать осмысленные прогнозы относительно экзистенциальных рисков. Или что мы мало что можем сделать с этими экзистенциальными рисками, учитывая наши текущие знания, институты и технологии.

Хотя в этом сложно быть уверенным, есть возможности, которые могут оказать определенное влияние. Тот факт, что мы не имеем полной уверенности, может также означать ценность инвестиций в нашу способность определять более ценные возможности для улучшения будущего.

Вы можете не согласиться с рассуждениями об «ожидаемой ценности» в теории или на практике

Последний шаг в аргументации, изложенной выше, опирается на понятие ожидаемой ценности действия. Ожидаемая ценность действия объединяет (а) ценность каждого возможного результата и (б) вероятность наступления каждого результата. Это позволяет нам понять, почему иногда лучше предпринять действие, которое имеет меньшие шансы на успех, но большую награду в случае успеха.

Стоит выделить два разных тонко отличающихся друг от друга способа, которыми вы можете не согласиться с использованием ожидаемой ценности в таком аргументе.

1. Возражение против использования ожидаемой ценности для принятия решений в принципе

Некоторые люди вообще оспаривают использование ожидаемой ценности. Теория ожидаемой ценности может столкнуться с проблемами, особенно если мы допустим возможность бесконечной ценности (поскольку теория ожидаемой ценности говорит, что любая ненулевая вероятность создания бесконечной ценности должна преобладать при принятии решений).

Основной альтернативой теории ожидаемой ценности является чистое неприятие риска.^[20] Эта точка зрения гласит, что иногда нам следует выбирать варианты с более низкой прогнозируемой ценностью, если они предлагают более высокую определенность.^[21] Неприятие риска — это вопрос степени: он не определяет точно, какой компромисс мы должны сделать между уверенностью и потенциальной ценностью. Введение любого количества неприятия риска ослабляет ставку на далекое будущее.

Должны ли мы избегать рисков при оценке альтруистических действий? Неприятие риска кажется иррациональным в фундаментальном смысле — у субъектов, избегающих риски, могут возникнуть противоречивые предпочтения, сделав их открытыми для эксплуатации^[22] (хотя, обратите внимание, что Бучак утверждает, что неприятие риска может быть рациональным)^[23].

2. Возражение против того, как на практике рассчитывается ожидаемая ценность

Вы можете согласиться с тем, что ожидаемая ценность помогает принимать решения в условиях неопределенности в принципе, но не согласиться с тем, как ожидаемая ценность рассчитывается на практике.

Всегда есть трудности в расчете ожидаемой ценности. Но трудности растут, если нам не хватает исторических данных или исследований по определенному вопросу. Поэтому разумно скептически относиться к любой попытке аргументировать ожидаемую ценность вмешательства в эту область.

Зачастую, в наших рассуждениях имеет смысл учитывать базовые ставки. В нашем случае базовая ставка это средняя эффективность в проблемной области. Предположим, вы считаете, что средняя эффективность в проблемой области гораздо ниже, чем наша ожидаемая эффективность работы по совершенствованию будущего. Поскольку наша оценка довольно умозрительная, мы полагаем, что вполне вероятно могли допустить ошибку, и это означает, что все наши суждения об эффективности работы в долгосрочной перспективе могут быть ниже наших предположений в первоначальных расчетах.^[24]

Мы считаем, что аргумент в пользу приоритетности далекого будущего основан на более широких соображениях, чем простые оценки ожидаемой ценности (например, мы утверждали, что это интуитивно понятно, и обсудили ряд эвристик, которые указывают в этом направлении). Однако вы, безусловно, можете придавать меньшее значение любым попыткам формировать далекое будущее, если скептически относитесь к нашей способности оценивать ожидаемую ценность в этой области.

Вы можете считать, что решение текущих проблем — лучший способ повлиять на далекое будущее

Наконец, вы можете согласиться со всем вышеизложенным, но будете придерживаться того, что самый эффективный способ улучшить будущее — это решить главные проблемы, которые существуют сегодня. Строго говоря, это не является возражением против общей идеи о том, что долгосрочное будущее человечества должно быть приоритетом. Это просто мнение о более эффективном способе совершенствования будущего. Как мы уже говорили, есть основания полагать, что решение нынешних проблем будет иметь трудно прогнозируемые долгосрочные последствия. Например, сокращение бедности улучшит общий уровень здоровья и благополучия. Но это также может иметь весомые долгосрочные последствия, поскольку все больше людей смогут вносить продуктивный вклад в развитие общества, инноваций, экономики и т. д.

Вы также можете сосредоточиться на текущих проблемах, если считаете, что эти проблемы вряд ли будут решены прогрессом. Вызывает беспокойство то, что, оставив текущие проблемы неразрешенными, мы можем оказаться в неблагоприятном положении. Например, может быть важно решить проблему неравенства сейчас, если позже эту проблему решить будет сложнее.^[25]

Поэтому вы можете сосредоточиться на решении более насущных, конкретных мировых проблем, даже если убеждены, что далекое будущее более важно, если вы верите в следующее:

1. Нет никакой непосредственной угрозы вымирания, либо мы ничего (или лично вы) не можем с этим поделать;
2. Решение глобальных проблем, с которыми мы сталкиваемся в настоящее время как общество, может принести большие долгосрочные выгоды, и больше мы не можем сделать ничего, что принесло бы весомую долгосрочную пользу;
3. Эти проблемы могут не разрешиться, и даже усугубиться, если мы сосредоточимся на том, чтобы стать более могущественными и разумными как вид, вместо того, чтобы решать непосредственно их.

Саммари

• Далекое будущее обладает огромным потенциалом: наши потомки могут жить миллиарды или триллионы лет, и их жизнь может быть очень благополучной.
• Вполне вероятно, что есть вещи, которые мы можем сделать сегодня и которые заметно повлияют на далекое будущее.
• Попытки формировать далекое будущее в настоящее время значительно игнорируются людьми и обществом.
• Учитывая все вышесказанное, действия, направленные на формирование далекого будущего, вероятно, имеют чрезвычайно высокую ожидаемую ценность, выше, чем любые действия, направленные на получение более краткосрочной пользы.
• Этот аргумент основан на предположении, что нам стоит ценить будущих людей примерно так же, как мы ценим людей, живущих в настоящее время — предположение, которое оспаривается личностно-ориентированными этическими моделями.
• Кроме того, мы также в значительной степени опираемся на расчеты «ожидаемой ценности», которые могут подвергаться сомнению в целом, либо на практике — вы можете сомневаться, если вы считаете, что нам следует избегать риска относительно ценности, или если считаете, что есть большая вероятность того, что в расчете ожидаемой ценности возникнет ошибка.
• Также возможно, что решение насущных проблем — это лучший способ повлиять на далекое будущее – при условии, что вы считаете риск вымирания человечества незначительным, а прогресс в решении неотложных проблем более эффективным для долгосрочной выгоды.

---

1. Например, катастрофические изменения климата, ядерная война или угрозы со стороны передовых технологий. ↩︎

2. Неспособность достичь технологической зрелости также является угрозой будущему человечества из-за огромной потери потенциала, даже если это не кажется особо ужасным сценарием — «технологически зрелая цивилизация может (предположительно) участвовать в крупномасштабной колонизации… быть способной изменять и улучшать биологию человека… может создать чрезвычайно мощное вычислительное оборудование и использовать его для создания эмуляций всего мозга и полностью искусственные разумные виды, сверхразумные умы» (Bostrom, 2012), то есть необратимое разрушение этого потенциала это огромная потеря. ↩︎

3. «Это не абсурдно — рассматривать возможность того, что цивилизация просуществует миллиард лет, прежде чем Земля станет непригодной для жизни», — Ник Бэкстед, “On the Overwhelming Importance of Shaping the Far Future” ↩︎

4. Обратите внимание, что мы говорим не только о виде Homo Sapiens — когда мы говорим о наших «потомках», мы имеем в виду любых ценных преемников, которые есть у нас, в том числе в это животные, которые, как мы думаем, заслуживают сострадания. ↩︎

5. При условии, что новое поколение возникает каждые 20 лет, и одно поколение составляет ~ 75 миллионов человек. ↩︎

6. Ник Бэкстед, изучая мнение экспертов по этой теме, пришел к выводу, что «большинство информированных людей, рассуждающих об этих проблемах, считают, что в конечном итоге, космическая колонизация станет возможной» https://www.fhi.ox.ac.uk/will-we-eventually-be-able-to-colonize-other-stars-notes-from-a-preliminary-review/ ↩︎

7. «Звезды продолжат сиять еще 10^14 лет»  Adams, 2008 ↩︎

8. Хоть мы и не будем здесь подробно защищать это утверждение, но определенно кажется, что наш «круг сострадания» со временем расширился, и Стивен Пинкер приводит убедительные аргументы в пользу снижения уровня насилия. ↩︎

9. Может показаться, что риск вымирания сравнительно невысок. Однако Ник Бостром пишет, что «оценка общего экзистенциального риска в 10-20% среди тех, кто исследует эту проблему довольно типична, хотя эта оценка в значительной степени зависит от субъективных суждений». ↩︎

10. Проект Open Philanthropy предполагает, что «по мере того, как в мире все становится более взаимосвязанным, масштабы и последствия наихудших сценариев могут увеличиваться». ↩︎

11. Эта статья из Австралии, например, гласит, что ценности там были достаточно стабильными и пребывали в согласии. ↩︎

12. Чтобы получить эту цифру, мы произведем следующий расчет:
    Максимально возможная продолжительность цивилизации, М = 100 000 000 000 000
    Шанс достижения максимальной продолжительности цивилизации (в соответствии с нашим предположением в 1% для каждого из 2 фильтров), C = 0,01 x 0,01 = 0,0001
    Ожидаемое время, оставшееся для цивилизации = M x C = 10 000 000 000
    Если мы увеличим шансы на выживание в одном из фильтров на один миллион, мы сможем умножить одно из исходных данных для C на 1,000001.
    Таким образом, наше новое значение C составляет 0,01 х 0,01 х 1,000001 = 0,0001000001
    Новое ожидаемое время, оставшееся для цивилизации = M x C = 10 000 010 000
    Это значение на 10 000 лет больше нашего изначального предположительного значения. Таким образом, даже если мы переоценили это значение в 10 раз, по нашим приблизительным подсчетам мы бы выиграли от 1000 до 10000 лет.
    Также стоит отметить, что снижение вероятности вымирания на один миллион может оказаться сложнее, чем нам кажется, если учесть, что нужно будет бороться не с одной угрозой, а со множеством различных сценариев, которые могут серьезно угрожать человеку вымиранием. ↩︎

13. «Драматическая победа во всем мире может заставить этот период длиться вдвое больше, чем в противном случае», — Ник Бэкстед, “On the Overwhelming Importance of Shaping the Far Future” ↩︎

14. Ник Бекстед подробно разобрал эти причины во второй главе своей диссертации «Об исключительной важности формирования далекого будущего» (доступно на его веб-сайте: http://www.nickbeckstead.com/research). ↩︎

15. Бен Тодд подчеркивает это в своей статье «Почему разумно концентрироваться на долгосрочном эффективном альтруизме». Он признает, что некоторые определенные убеждения, ориентированные на далекое будущее, могут быть контринтуитивными, например, идея о том, что мы должны уделять большее внимание уменьшению экзистенциальных рисков от развития искусственного интеллекта. Но делая добро, концентрироваться на долгосрочной перспективе является здравым смыслом. ↩︎

16. Есть люди, которых больше заботит предотвращение будущих страданий, чем создание множества счастливых существ. Даже с такой точки зрения важно совершенствование качества будущего. ↩︎

17. Этого придерживается философ Дерек Парфит, который говорит, что для нас, очевидна польза от помощи будущим поколениям, что само по себе дает нам причину отказаться от личностно-ориентированных моделей. ↩︎

18. Другая возможность, о которой рассуждает Парфит, заключается в принятии более широких личностно-ориентированных принципов: хотя большая часть вреда или пользы является относительной (то есть, если мы говорим, что причинили вред человеку, это значит, что ему было бы лучше, если бы мы действовали иначе), но это не все. В частности, мы можем сказать, что кто-то извлек выгоду, просто родившись, если в целом его жизнь положительна. При таких взглядах одно состояние мира хуже другого, даже если в этих двух мирах живут разные люди (и, следовательно, ни одно из этих состояний не является хуже для кого-либо), если жизнь людей в мире А менее благоприятна для них, чем жизнь людей в мире В. ↩︎

19. Обратите внимание, что это несколько отличается от высказывания, что наши действия в настоящем не влияют на будущее (что, казалось бы, трудно аргументировать). Вместо этого мы утверждаем, что мы не можем достоверно оценить влияние наших действий на будущее. ↩︎

20. Обратите внимание, что вам нужна крайняя форма неприятия риска, чтобы избежать проблем с бесконечной ценностью, упомянутых выше. ↩︎

21. Обратите внимание, что под чистым неприятием риска мы подразумеваем, что люди не склонны к риску в отношении единицы стоимости. Это отличается от неприятия денежного риска, которое вытекает из того, что, как правило, уменьшается предельная отдача от полезности дохода. ↩︎

22. De Finetti, B. (1964). Foresight: its logical laws in subjective sources; Ramsey, F. P.(1926). Truth and probability. The foundations of mathematics and other logical essays, pages 156–198 ↩︎

23. Buchak, L. (2009). Risk Aversion and Rationality. ↩︎

24. Это называется байесовским выводом. Мы также должны скептически относиться к оценкам затратоэффективности в других областях, таких как глобальное здравоохранение, но это не так важно для таких областей, поскольку доказательства являются более надежными. ↩︎

25. Другой риск в том, что люди будут становиться все более и более могущественными без аналогичного увеличения эмпатии по отношению к менее могущественным видам — ​​это может привести к тому, что наши потомки будут причинять больше страданий другим животным, даже по случайности. Сегодня мы причиняем больше страданий животным, чем несколько сотен лет назад, не потому, что мы меньше о них заботимся (вероятно, мы заботимся о них даже больше), а потому, что нам гораздо проще массово разводить животных в условиях меньшей заботы об их благополучии. ↩︎