Чарльз Джонс предложил модель обмена рисков ИИ на экономический рост

Опубликован полный перевод статьи экономиста Чарльза Джонса «The AI Dilemma: Growth versus Existential Risk» (2024), в которой автор ставит вопрос о допустимом уровне риска уничтожения человечества суперинтеллектом в обмен на ускорение экономического роста и увеличение продолжительности жизни. Статья предлагает математическую модель с параметрами экономического ускорения, роста продолжительности жизни и вероятности экзистенциального риска.

Перевод дополнен комментариями @avshkol, объясняющими формулы и критикующими отдельные предположения модели. Материал поднимает этически неоднозначный вопрос о возможности количественной оценки приемлемого риска для человечества.