Researcher Anthropic уволился из-за рисков superintelligence

Исследователь pretraining Jacob Coxon уволился из Anthropic, заявив, что компания движется к самоулучшающемуся сверхразуму без должной ответственности. Ранее Coxon работал в OpenAI и критикует обе компании за игнорирование рисков.

Его твит-тред набрал более 30 млн просмотров, в том числе пост о вере разработчиков ИИ в возможность катастрофических сценариев к концу десятилетия. Coxon утверждает, что руководители приватно выражают страх перед технологией, хотя публично звучат осторожнее.