Воля сверхразума
рейтинг: +2+x

Ник Бостром
«Воля сверхразума: мотивации и инструменты рационализации развитых разумных существ»
(2012) Ник Бостром
Институт будущего человечества
Факультет Философии & оксфордская школа ласточки
Оксфордский университет
www.nickbostrom.com


Ожидается к печати в "Машины и мышление"
Источник на сайте автора
Перевод выполнил — Murzei Chaos
В оформлении обложки использован шрифт Askent от Type Market Ltd. Moscow


Рад представить вашему вниманию статью Ника Бострома "Воля Сверхразума (Superintelligentwill)", которая касается поиска общих принципов, лежащих в основе целей, мотиваций и поступков всевозможных разумных существ. В статье утверждается, что умозрительно выделенные общие принципы мотивации разумных существ применимы к нечеловеческим разумным агентам - вроде пришельцев и всевозможных НЕХ - а также, и искусственных интеллектов. Выведенные общие свойства поведения разумных агентов побуждают лишний раз обратить внимание на проблему дружественности ИИ — поскольку выведенные общие принципы поведения ИИ сами по себе не гарантируют его невраждебности человеку. Также, на основании выделенных общих принципов доказывается, что практически всякий сверхразум будет стремиться к колонизации космического пространства - в частности, убедительность рассуждений заставляет нас задуматься о причинах того, почему таковая не наблюдается до сих пор. Может быть, нечто мешает интеллектуальным агентам развиваться до сверхразумного уровня - а может, колонизация окружающего космического пространства уже происходит - но мы её не замечаем?
К сожалению, вопросы, поднятые в двух предыдущих предложениях, находятся за пределами рассмотрения статьи Ника Бострома. Однако, это не делает её менее полезной и менее интересной.
Итак, "Воля Сверхразума".


Ввиду большого объёма статьи, документ разделён на части:


Библиография

  1. Ник Бостром, 2003: "Живём ли мы в компьютерной симуляции?", Философский ежемесячник, 53(211), 243-255.
  2. Ник Бостром, 2006: "Что такое синглетон?", Лингвистические и философские исследования, 5(2), 48-54.
  3. Ник Бостром, 2012: "Информационные опасности: типология опасностей", Обзор современной философии, 10, 44-79.
  4. Д. Чалмерс, 2010: "Сингулярность: философский анализ", Журнал исследований сознания, 17, 7-65
  5. A. Численко, 1997: "Технология как бытие человеческой функциональной архитектуры", Экстропия онлайн.
  6. П. де Бланк, 2011: "Онтологический Кризис ценностей систем искусственного интеллекта", Манускрипт, Сингуляристский институт искусственного интеллекта.
  7. Д. Девей, 2011: "Что есть ценность" - под редакцией Дж. Шмидхубера, К.Р. Ториссона, М. Лукса, из материалов четвёртой конференции по универсальному искусственному интеллекту, AGI 2011 (страницы 309-314), Гейдельберг Спрингер.
  8. Дж. Форгас и др, 2009: "Психология отношений и их изменений", Лондон, пресса на тему психологии.
  9. Д. Левис, 1998: "Страсти и убеждения", Мышление, 97(387), 323-332.
  10. С. Омохундро, 2008а: "Базовые побуждения ИИ". Под редакцией П. Ванга, Б. Гоертзела и С. Франклина. Из материалов первой конференции по универсальному искусственному интеллекту, 171, фронтиры искуственного интеллекта и его применения, Амстердам: пресса IOS.
  11. С. Омохундро, 2008б: "Природа самосовершенствующегося искусственного интеллекта", Манускрипт.
  12. С. Омохундро, прибл. 2012: "Рационально устроенный искусственный интеллект" под редакцией А. Эдана - гипотезы о сингулярности: философские и научные суждения (Спрингер и прочие).
  13. Д. Парфит, 1984: "Причины и личности" (страница 123-4) - перепечатанное и подкорректированное издание, 1987-го года, Охфорд, пресса Оксфордского университета.
  14. Д. Парфит, 2011: "Что самое важное" - Охфорд, пресса Оксфордского университета.
  15. С. Расселл и П. Норвиг, 2010: "Искусственный интеллект: время приближается" - 3-е издание, Нью-Джерси, Прентис Холл.
Пока не указано иное, содержимое этой страницы распространяется по лицензии Creative Commons Attribution-ShareAlike 3.0 License