【Anthropic上市前夕,安全警告与商业承诺现矛盾】
⑴ Anthropic高管曾以严厉警告树立品牌形象,称其强大的AI可能掏空白领工作,若发展过快还可能失控并带来灾难性后果,但如今该公司正向华尔街和投资者承诺能比...
【Anthropic上市前夕,安全警告与商业承诺现矛盾】
⑴ Anthropic高管曾以严厉警告树立品牌形象,称其强大的AI可能掏空白领工作,若发展过快还可能失控并带来灾难性后果,但如今该公司正向华尔街和投资者承诺能比竞争对手更快实现这些能力。
⑵ 该公司正推进史上规模最大的IPO之一,拟以超过1万亿美元的估值出售数百亿美元股票,预计周四在纳斯达克开始交易,代码为ANT。
⑶ 根据路演材料和S-1招股书,Anthropic声称有能力取代众多竞争对手并实现超人能力,首席执行官阿莫代伊还提出“向上竞赛”概念,即各家实验室在安全方面展开竞争。
⑷ 矛盾之一在于递归自我改进立场回撤,阿莫代伊曾称此事“即便要推进也必须非常谨慎”,而修订后的S-1称公司“可能即将”跨过自身设定的AI驱动加速门槛。
⑸ 矛盾之二在于安全承诺收窄,Anthropic今年2月将“能力超出安全即暂停”的承诺调整为仅在自身处于前沿领先时才暂停。
⑹ 矛盾之三在于白领就业冲击,阿莫代伊曾预计AI可能在5年内抹去一半入门级白领岗位并将失业率推高至10%至20%,如今公司却推出一系列针对法律、软件开发、个人理财和工作流的产品,并拥有近9000亿美元的长期基础设施承诺。
⑺ 矛盾之四在于赢家通吃叙事,阿莫代伊曾警告少数人掌握超人力量的风险,如今却通过宣称Anthropic是“那一个”来推高估值。
⑻ Anthropic的辩护是,阿莫代伊一直认为超人AI无论如何都会到来,Anthropic必须领先于不那么谨慎的对手才能安全开发,他还在9月一篇长文中呼吁在前沿实验室设立“永久嵌入评估员”并推动能力与安全保持平衡的监管。
⑼ 在监管申报文件中,Anthropic明确警告其技术可能对人类构成“灾难性或生存性风险”,并列出模型出现勒索类行为、未经授权访问真实计算机系统等潜在问题。
⑽ 现实是,Anthropic可以既真诚担忧自己所构建的东西,又竞相构建它并推高估值以为之提供资金,而政府和企业在放缓AI发展方面所做甚少
编辑回复