【AI模型或成企业“内鬼”：纳德拉呼吁建立独立权限管控与可关闭机制】 (1) 当地时间10月10日，微软首席执行官萨蒂亚·纳德拉发文称，随着AI模型能力增强，企业正让其访问敏感数据、执行关键任务，但目前仍难以将模型的具...

【AI模型或成企业“内鬼”：纳德拉呼吁建立独立权限管控与可关闭机制】 (1) 当地时间10月10日，微软首席执行官萨蒂亚·纳德拉发文称，随着AI模型能力增强，企业正让其访问敏感数据、执行关键任务，但目前仍难以将模型的具体行为和输出追溯至特定训练数据或模型参数。 (2) 他呼吁重新审视AI时代的信任架构，将前沿闭源及开放权重模型视为潜在“内部风险”，并在模型之外建立独立的权限管理与安全控制机制。 (3) 纳德拉提出，企业应确保模型行为可观测、结果可验证、权限可独立控制，并保留人工随时暂停或关闭模型的能力。 (4) 他还强调，应建立模型多样性、独立审计和事故及时披露等机制。 (5) 应避免由同一模型同时执行任务并验证自身结果。