【Anthropic研究员因担忧AI失控退出行业，警告“明年年底局势可能失控”】 (1) Anthropic研究员Jacob Coxon宣布离开人工智能行业，原因是担忧该实验室及竞争对手正竞相开发无法受控的系统。这位2...

【Anthropic研究员因担忧AI失控退出行业，警告“明年年底局势可能失控”】 (1) Anthropic研究员Jacob Coxon宣布离开人工智能行业，原因是担忧该实验室及竞争对手正竞相开发无法受控的系统。这位27岁的英国人专攻通过海量数据训练新AI模型，他表示不愿参与全行业竞相开发具备自我改进能力的AI系统，并担心此类系统可能失控并毁灭人类。 (2) Coxon指出，业内许多同事如今用“决战时刻”和“终局”等词汇来形容AI向自我改进型模型发展的紧迫性。他认为，当前正朝着最激进的情景推进，到明年年底局势就可能失控。 (3) 他补充称，当公司之间展开竞争时，在安全性方面做出妥协往往在所难免，这正是他选择退出的核心原因。