9月18日，AI企业Anthropic官宣与专业服务机构埃森哲达成协作，将在内部设置嵌入式评估团队，对前沿AI模型开展红队测试、安全防护机制验证以及对齐评测，保障技术发展契合人类预期目标。双方均计划在未来五年内投入不低于...

9月18日，AI企业Anthropic官宣与专业服务机构埃森哲达成协作，将在内部设置嵌入式评估团队，对前沿AI模型开展红队测试、安全防护机制验证以及对齐评测，保障技术发展契合人类预期目标。双方均计划在未来五年内投入不低于10亿美元搭建相关能力体系。 埃森哲的评估人员将取得和Anthropic员工相同的内部访问权限，能够全程实时跟进模型训练的迭代进程，还可观测相关决策的全流程。Anthropic方面表示，这次合作的目的是核查自身安全承诺的落地执行情况、排查此前未发现的安全盲区，同时为公众提供透明度更高的风险评估结果。