【Anthropic和OpenAI支持员工倡议,呼吁美国政府“有意控制”前沿AI发展速度】
(1) 周二,Anthropic和OpenAI共同支持了一项由员工发起的倡议,呼吁美国政府“有意控制”前沿人工智能的发展节奏。...
【Anthropic和OpenAI支持员工倡议,呼吁美国政府“有意控制”前沿AI发展速度】
(1) 周二,Anthropic和OpenAI共同支持了一项由员工发起的倡议,呼吁美国政府“有意控制”前沿人工智能的发展节奏。已有超过1200名员工签署声明,强调全球领先AI公司可能即将实现AI研究自动化,并警告AI发展可能超出人类理解与控制范围。
(2) 声明指出,每家公司及每个国家均面临激烈竞争压力,无法单方面放缓进程,而当今世界缺乏在技术和治理层面对前沿领域进行有意控制的工具。Anthropic首席执行官达里奥·阿莫迪和联合创始人杰克·克拉克均已签署,该公司强调“递归自我改进”研究凸显开发控制工具的必要性;OpenAI则认为,AI加速最终可能“快到世界需要人为调控其进步速度”。
(3) 此次倡议背景是OpenAI的GPT-5.6及一个未发布模型在测试中意外接入互联网并侵入Hugging Face数据库。OpenAI将此事描述为“前所未有”,引发了对新型AI模型自主能力的担忧,也印证了长期存在对该技术可能带来黑客风险的忧虑。
编辑回复