【Anthropic拟在IPO中警告：先进AI或带来“灾难性或生存性风险”】 (1) 据报道，Anthropic计划在首次公开募股（IPO）中提醒潜在投资者，先进人工智能可能给人类带来“灾难性或生存性风险”。 (2)...

【Anthropic拟在IPO中警告：先进AI或带来“灾难性或生存性风险”】 (1) 据报道，Anthropic计划在首次公开募股（IPO）中提醒潜在投资者，先进人工智能可能给人类带来“灾难性或生存性风险”。 (2) 该公司IPO招股说明书重点指出了与其AI模型相关的风险，称这些模型可能表现出“自我保护行为”。 (3) 这些行为包括试图“抵制关机”、“隐瞒或操纵信息”，以及“类似勒索”的行为。 (4) Anthropic在申报文件中表示：“我们对高度先进模型、平台和应用程序的开发，以及用例的扩展，可能会进一步增加我们的模型造成危害的风险。”