汇通财经APP讯——【OpenAI与Anthropic曾磋商互测AI模型安全】
⑴ 据The Information报道，知情人士透露，早在OpenAI技术引发一系列网络安全事件以及业内人士发出严厉警告之前，该公司就已与Anthropic就一项具有法律约束力的协议进行谈判，双方将互相进行AI模型压力测试。
⑵ 目前尚不清楚双方是否已最终达成协议。
⑶ 这种相互测试的思路与SpaceX首席执行官马斯克上周在All-In峰会上提出的想法类似，马斯克当时提议相互竞争的AI实验室应在将模型商业化发布之前，以同行评审形式测试彼此模型的安全漏洞。
⑷ 整体来看，头部AI公司探索互测机制，反映行业对模型安全风险的担忧上升，后续需关注相关协议能否落地以及同行评审模式是否成为AI安全治理的常态安排