Воля сверхразума - абстракт
рейтинг: 0+x

Этот документ обсуждает связь между интеллектом и мотивациями разумных агентов, продвигая в качестве вывода и проводя общее обсуждение двух следующих тезисов. Первый - ортогональный тезис - заключается (с некоторыми оговорками) в том, что разум и сила воли (побуждений) являются ортогональными характеристиками, которые в случае искусственного интеллекта могут варьироваться в довольно широких пределах; так, больший или меньший уровень интеллекта может сочетаться с большей или меньшей мотивированностью к достижению своих целей. Второй - тезис инструментальной конвергенции - стоит на том, что начиная с некоторого уровня интеллекта, агенты, имеющие достаточную свободу в выборе способов достижения конечных целей, будут преследовать в общем схожие промежуточные цели, ибо на то будут инструментальные причины. Вместе два этих тезиса помогут понять то, каковы возможные диапазоны поведения сверхразумных агентов, и они же могут дать представление о потенциальных угрозах создания подобных агентов.

Ключевые слова: сверхразум, искусственный интеллект, ИИ, цель, инструментальные причины, разумный агент.

Пока не указано иное, содержимое этой страницы распространяется по лицензии Creative Commons Attribution-ShareAlike 3.0 License