美国白宫近期公布了一项人工智能相关协定，宣称其目的是为美国公众乃至全球民众创造更美好的发展前景。美方认为，所有从事人工智能技术研发的企业都肩负着保障技术开发安全性、建立客户与社会公众信任的责任。 所有参与前沿人工智能大模...

美国白宫近期公布了一项人工智能相关协定，宣称其目的是为美国公众乃至全球民众创造更美好的发展前景。美方认为，所有从事人工智能技术研发的企业都肩负着保障技术开发安全性、建立客户与社会公众信任的责任。 所有参与前沿人工智能大模型训练和落地应用的企业，首先需要搭建完备的内部运行流程和管理控制机制，保障技术能够按照预设目标稳定运行，同时可以第一时间识别、处置各类潜在风险。基于这一目标，除了现有的其他风险防范措施外，美方提出每家相关企业都应当落地执行以下四层管理控制和审计机制： 1. 搭建完备的内部管理控制体系，在模型训练和落地部署环节，围绕网络安全、生物安全、化学风险防范等多个领域，对模型的能力边界和合规性进行动态监测，防止模型以超出预设的方式入侵或者访问各类技术系统。 2. 成立内部专门负责相关工作的团队，保障所有管控、监测和检测机制都能按照设计要求正常运转，同时对排查出的所有问题逐一推进整改落地。 3. 和独立的第三方审计、评估机构展开合作，针对自身管控、监测和检测机制的运行有效性开展独立评估核验。 4. 设置董事会下属的独立委员会，对管控执行团队、内部及外部审计评估机构的工作进行监督，接收相关工作汇报，同时推动所有排查发现的问题切实整改到位。 美方称上述措施协同落地后，能够让企业、客户和社会公众充分确信相关技术正按照预期稳定运行。 参与该协定的企业会定期开展沟通磋商，共同制定相关技术标准和行业最优实践方案，进一步提升人工智能系统的安全水平。 从长期发展来看，美国方面或将把上述管理要求纳入法律法规体系。无论相关企业是否被强制要求执行相关措施，白宫都认为落地这套管控和审计机制，对保障所有人的安全发展前景有极为重要的意义，目前参与的相关企业已承诺将践行上述要求。