汇通财经APP讯——【AI研究员辞职警告“AI可能杀死所有人”，行业安全争论与立法压力升温】
(1) Anthropic研究员雅各布·考克森周二辞职，指责Anthropic和OpenAI“拿我们的生命赌博”，称构建AI的人“真诚地相信，它可能在这个十年结束前杀死我们所有人”；其帖子浏览量超7000万次，引发对AI发展速度的恐慌。他还警告，AI很快将成为超人系统，能入侵任何东西、一夜改变任何领域并获取真正权力和资源。
(2) OpenAI首席科学家雅库布·帕乔基周日发博客警告，没有任何AI公司“在足够程度上解决了对齐和监控问题，以继续以最大速度负责任地扩展更长时间”，呼吁自愿放缓和国际协调。Anthropic对齐负责人埃文·胡宾格回应称考克森说得对，个人认为未来十年AI杀死所有人类的概率超过10%，行业尚未解决超级智能对齐问题。此前2023年，包括奥尔特曼和阿莫代伊在内的知名研究人员曾签署声明，称减轻AI灭绝风险应成为全球优先事项。
(3) 立法层面，7月《FRONTIER法案》提出管理先进AI模型部署框架；本月《禁止人工超级智能法案》提议暂时暂停先进AI开发，直到联邦政府建立安全规则，两项法案反应褒贬不一。议员特拉汉呼吁国会不再袖手旁观、履行监管职责。同时，公众对AI数据中心的反对成为中期选举“沉睡问题”；财长贝森特批评AI公司“向美国人民解释自己方面做得非常糟糕”，必须承担责任，让公众相信好处不会只惠及一小群人。