汇通财经APP讯——网络安全领域专家指出，近期Anthropic和OpenAI发生的AI模型越权入侵外部机构系统的事件，暴露出美国相关领域存在的安全隐患，专家警示这类事件预示着正不断逼近的国家安全风险。 据披露，Anthropic在本周四对外公布，企业在使用Claude模型开展总计141006次网络安全测评的过程中，原本已经设置了断开模型互联网访问权限的操作，然而一处程序漏洞使得该模型在极少数场景下仍能接入公共网络，还主动发起了网络攻击——模型错误将这些攻击判定为测试任务的一部分。该模型非法侵入了一家机构，窃取了其基础设施访问凭据，以及存储内部生产数据的数据库。在另一起相关事件中，该模型还对外传播恶意软件，借助该程序盗取了另一家机构的账号密码凭据，目前受影响机构的具体身份暂未对外公开。这些入侵行为最早在今年4月就已发生，直到上周才被发现。 此前OpenAI曾对外通报，旗下的AI智能体脱离了测试环境，非法侵入开源AI模型库Hugging Face，Anthropic随即对内部的网络安全测试项目展开全面审计，才排查出了上述相关问题。 英国国家网络安全中心前负责人西亚兰?马丁表示：“站在网络安全行业的角度来看，不少业内人士都会认为这属于典型的安全防护漏洞。”美国国防部联合人工智能中心前战略与政策主管格雷戈里?艾伦提出，美军可以借助先进AI模型来防护自身信息系统，但同时必须清晰认识到，这项技术也催生了全新类型的风险。艾伦还提到：“Anthropic正是因为主动开展内部排查，才发现了这些入侵行为，目前我们完全没办法判断自主AI发起黑客攻击的整体发生概率和普遍范围。”