Этика бесконечного
рейтинг: +2+x

Ник Бостром
Этика бесконечного


Опубликовано в "Анализ и Метафизика"
'Это - окончательная версия. Более ранние версии - 2003, 2005, 2008, 2009'
Текст на английском с сайта автора доступен по ссылке.

Комментарий от переводчика

Представляю вашему вниманию труд Ника Бострома, называемый «Этика бесконечного», и посвящённый вопросу — каковой может быть этика разумного существа из предположения о том, что мир бесконечен, и какие проблемы нас подстерегают на пути формулировки такой этики. Труд в первую очередь посвящён одной из разновидностей утилитарной этики — агрегативному консеквенциализму - которая стоит на том, что необходимо максимизировать сумму благ и минимизировать сумму страданий во всём мире. При попытке применить обыкновенную версию подсчёта суммы благ и страданий в бесконечном мире их сумма может оказываться попросту неопределённой, что порождает проблему инфинитного паралича. Становится совершенно неясно, как можно максимизировать некоторое значение, если его величина не определена.

При замене простого суммирования другими процедурами проблема инфинитного паралича отступает, уступая место другим проблемам — например, проблеме фанатизма, связанной с так называемыми «дикими картами» (термин не используется в тексте) теории планирования — сценариями развития событий, вероятность которых ничтожна, но если они свершатся, то последствия их будут грандиозны. И если грандиозность последствий «дикой карты» перевешивает малую вероятность её свершения, то рассуждения о возможности наступления соответствующего сценария развития событий могут подавить все остальные соображения и направить поведение агента по «фанатичному» курсу действий, требующему любой ценой достичь, предотвратить или подготовится к наступлению соответствующего события. Такие «дикие карты» легко могут сделать рекомендации теории принятия решений странными, вредными, противоречащими здравому смыслу и исходным целям и даже бессмысленными. И в случае, когда в игру вступают бесконечности, проблема «диких карт» только обостряется — ибо в их случае бесконечные последствия перевешивают любую сколь угодно малую конечную вероятность наступления соответствующих событий.

В случае, если некий разумный агент не придерживается агрегативного консеквенциализма, а например следует этическим соображениям «долга» или «чести», деонтологической или сверхценной, [квази]религиозной этике, соображениям «кто сильнее тот и прав», некоторым инстинктам и вкладываемым извне программам, или просто собственному эгоизму — то всё равно, следуя из предположения о том, что он разумен, мы приходим к выводу, что он будет использовать наработки теории принятия решений. И в случаях, когда он столкнётся с необходимостью либо учесть некоторые значения, касающиеся всего мира или другого бесконечного множества, либо с перспективой бесконечно больших выгод или потерь — во всех этих случаях рассматриваемые в этом труде проблемы будут иметь место и для него, пусть (возможно) и с меньшей остротой.

Наконец, предвидя попытки возражения против самого понятия «этика» - под «этикой» в данном тексте мы будем понимать наличие у субъекта представления о должном и программу действий, призванную эти представления воплощать. Таким образом, во-первых, отметается возражение о том, что мол «этику придумали моралуфаги, умному/скептически настроенному/нерелигиозному/принадлежащему некоторой религии/асоциальному/вставить_нужное [сверх/недо/не]человеку этика не нужна». Она не может быть не нужна просто потому, что скорее всего для весьма широкого диапазона достаточно разумных агентов просто нет опции, при которой никакой этики у них нет. Во-вторых, это определение позволяет распространить понятие этики на поведение тех субъектов, которые обыкновенно за несоответствие общепринятым нормам морали рассматриваются как «безнравственные» или «злые». Если у них есть представления о должном — пусть эти представления сколь угодно не соответствуют общепринятым нормам морали и выглядят «злодейскими» - мы все равно будем приписывать этим существам этичность. Убийца, считающий высшей ценностью сбор свежих черепов, и посвящающий этому делу всё своё свободное время, будет в этом смысле по-своему очень этичным существом. А лентяй, не причиняющий никакого страдания другим просто из-за отсутствия представления о том, что что-то следует сделать и побуждений что-то делать, будет признан лишённым этики. В-третьих, это определение позволяет предположить, что определённая этика будет характерна как для инопланетных разумных существ, так и для сравнительно широкого класса разумных компьютерных программ или наделённых ИИ роботов, как и вообще для многих других нечеловеческих разумных агентов.

Введение

Агрегативный консеквенциализм и ряд других популярных моральных теорий находятся под угрозой краха: в сочетании с некоторыми правдоподобными предположениями они, похоже, приводят к выводу, что с этической точки зрения совершенно безразлично, что вообще следует делать. Современная космология учит, что мир вполне может содержать бесконечное количество счастливых и несчастных людей, и людей, находящихся в других состояниях. Агрегативная этика предполагает, что такой мир содержит бесконечную сумму положительных и бесконечную сумму отрицательных значений. Вы можете влиять лишь на конечное множество слагаемых общих сумм блага и зла. В стандартной кардинальной арифметике бесконечное количество не меняется от добавления или вычитания какого-либо конечного количества. Отсюда получается - у тебя нет возможности изменить значение всего мира. Модификации агрегатизма, призванные преодолеть крах, эффективны лишь частично - и вызывают серьёзные побочные эффекты - такие, как проблемы "фанатизма", "извращений" и эрозии интуиции, которая изначально мотивирует теорию. Действительно ли вызов, брошенный бесконечностью, фатален?

Ввиду большого объёма статьи, документ разделён на части:

  1. Суть проблемы
  2. Модификация правила агрегации
  3. Модификация правила домена
  4. Модификация правила выбора
  5. Комбинированная терапия
  6. Общая оценка и заключение

Библиография


[1] - Martin, J.L., General Relativity, 3 ed. (London: Prentice Hall, 1995).

[2] - Tegmark, M., "Parallel Universes", Scientific American 288(5) (2003): pp. 41-53.

[3] - Wallace, D., "Everett and Structure", Studies in History and Philosophy of Modern Physics 34B(1) (2002): pp. 87-105.

[4] - Hawking, S.W. and W. Israel, eds. General Relativity: An Einstein Centenary Survey. 1979, Cambridge University Press: Cambridge.

[5] - Belot, G., J. Earman, and L. Ruetsche, "The Hawking Information Loss Paradox: The Anatomy of a Controversy", British Journal for the Philosophy of Science 50(2) (1999): pp. 189-229.

[6] - Moore, G.E., Principia Ethica (Cambridge: Cambridge University Press, 1903).

[7] - Vallentyne, P. and S. Kagan, "Infinite Value and Finitely Additive Value Theory", Journal of Philosophy 94(1) (1997): pp. 5-26.

[8] - Segerberg, K., "A Neglected Family of Aggregation Problems in Ethics", Nous 10 (1976): pp. 221-244.

[9] - Nelson, M.T., "Utilitarian Eschatology", American Philosophical Quarterly (O 91) (1991): pp. 339-347.

[10] - Cain, J., "Infinite Utility", Australasian Journal of Philosophy 73(3) (1995): pp. 401-404.

[11] - Lauwers, L., Social Choice with Infinite Populations. Dissertation 101 (Leuven, Belgium: Monitoraat E.T.E.W., 1995).

[12] - Mulgan, T., "Transcending the Infinite Utility Debat", Australasian Journal of Philosophy 80(2) (2002): pp. 164-177.

[13] - Campbell, D.E., "Impossibility Theorems and Infinite Horizon Planning", Social Choice and Welfare 2(4) (1985): pp. 283-293.

[14] - Hamkins, J.D. and B. Montero, "Utilitarianism in Infinite Worlds", Utilitas 12(1) (2000): pp. 91-96.

[15] - Broome, J., Weighing Goods: Equality, Uncertainty and Time (Oxford: Blackwell, 1991).

[16] - Hamkins, J.D. and B. Montero, "With Infinite Utility, More Needn't be Better", Australasian Journal of Philosophy 78(2): pp. 231-240.

[17] - von Neumann, J. and O. Morgenstern, Theory of Games and Economic Behavior (Princeton: Princeton University Press, 1944).

[18] - Sobel, H., Logic and Theism: Arguments For and Against Beliefs in God (Cambridge: Cambridge University Press, 2004).

[19] - Conway, J., On Numbers and Games (New York: Academic Press, 1976).

[20] - Robinson, A., Non-standard Analysis (Amsterdam: North-Holland, 1966).

[21] - MathForum, Nonstandard Analysis and the Hyperreals.

[22] - Parfit, D., Reasons and Persons (Oxford: Clarendon Press, 1984).

[23] - Lewis, D., "Causal Decision Theory", Australasian Journal of Philosophy 59(1) (1981): pp. 5-30.

[24] - Cirkovic, M. and N. Bostrom, "Cosmological Constant and the Final Anthropic Hypothesis", Astrophysics and Space Science 274(4) (2000): pp. 675-687.

[25] - Adams, R.M., Must God Create the Best?, in Ethics and Mental Retardation, J. Moskop and L. Kopelman, Editors. 1984, Reidel Publishing Company: Dordrecht. pp. 127-140.

[26] - Broad, C.D., "The Doctrine of Consequences in Ethics", International Journal of Ethics 24(3) (1914): pp. 293-320.

[27] - Sorenson, R., Infinite Decision Theory, in Gambling on God: Essays on Pascal's Wager, J. Jordan, Editor. 1994, Rowman \& Littlefield: Savage, Maryland. pp. 139-159.

[28] - Schlesinger, G., New Perspectives on Old-time Religion (Oxford: Clarendon Press, 1988).

[29] - Tipler, F., The Physics of Immortality (New York: Doubleday, 1994).

[30] - Linde, A., "Life After Inflation", Physics Letters B 211 (1988): pp. 29-31.

[31] - Dyson, F., "Time without end: physics and biology in an open universe", Reviews of Modern Physics 51(3) (1979): pp. 447-460.

[32] - Bostrom, N., "Astronomical Waste: The Opportunity Cost of Delayed Technological Development", Utilitas 15(3) (2003): pp. 308-314.

[33] - Gorovitz, S., The St. Petersburg Puzzle, in Expected Utility Hypothesis and the Allais Paradox, M. Allais and O. Hagen, Editors. 1979, Reidel: Dordrecht. pp. 259-270.

[34] - Weirich, P., "The St. Petersburg Gamble and Risk", Theory and Decision 17(2) (1984): pp. 193-202.

[35] - Hooker, B., Ideal code, real world: a rule-consequentialist theory of morality (Oxford: Oxford University Press, 2000).

[36] - Bostrom, N., "Self-Locating Belief in Big Worlds: Cosmology's Missing Link to Observation", Journal of Philosophy 99(12) (2002): pp. 607–623.

[37] - Jackson, F. and Smith, M., "Absolute Moral Theories and Uncertainty", Journal of Philosophy, 103(6) (2006): pp. 267-283.

[38] - Lenman, J. "Consequentialism and Cluelessness", Philosophy and Public Affairs, 29(4) (2000): pp. 342-370.

[39] - Bostrom, N. "Technological Revolutions: Ethics and Policy in the Dark", in Nanoscale: Issues and Perspectives for the Nano Century, eds. Cameron, N. and Mitchell, E. (John Wiley, 2007): pp. 129-152.

[40] - Cowen, T. "The Epistemic Problem Does Not Refute Consequentialism", Utilitas, 18(4) (2006): pp. 383-399.

[41] - Smith, Q. "Moral Realism and Infinite Spacetime Imply Moral Nihilism", in Time and Ethics: Essays at the Intersection, ed. Dyke H. (Kluwer Academic Publishers, 2003): pp. 43-54.

[42] - Adams, R. "Theories of Actuality", in Michael Loux (ed.), The Possible and the Actual (Ithaca: Cornell University Press, 1979).

[43] - Lewis, D. On the Plurality of Worlds (Cambridge, MA: Basil Blackwell, 1986).

[44] - Heller, M. "The Immorality of Modal Realism, or: How I learnt to stop worrying and let the children drown", Philosophical Studies, 114: pp. 1-22.

[45] - Nover, H. and A. Hayek. "Vexing Expectations", Mind 111(450) (2004): pp. 237-249

[46] - Colyvan, M. "No Expectations", Mind 115(459) (2006): pp. 695-702.

[47] - Bostrom, N. "Pascal's Mugging", Analysis 69(3) (2009): pp.443-44


Перевёл - murzei_chaosmurzei_chaos

Пока не указано иное, содержимое этой страницы распространяется по лицензии Creative Commons Attribution-ShareAlike 3.0 License