【AI风险之争：古特雷斯吁加强监管，特朗普称已有保障】 1. 联合国秘书长古特雷斯周三警告世界各国领导人，快速发展的人工智能带来不容忽视的风险，这与美国总统特朗普认为现有保障措施已足够的立场形成鲜明对比。在纽约联合国大...

【AI风险之争：古特雷斯吁加强监管，特朗普称已有保障】 1. 联合国秘书长古特雷斯周三警告世界各国领导人，快速发展的人工智能带来不容忽视的风险，这与美国总统特朗普认为现有保障措施已足够的立场形成鲜明对比。在纽约联合国大会召开前夕，古特雷斯对记者表示，加强监管的必要性将成为他与全球领导人会谈的主要议题。 2. 古特雷斯称：“我们不能忽视已提出的担忧，尤其是来自人工智能开发一线人士的担忧。保护本国公民——包括使其免受人工智能威胁——是任何政府的首要责任。”此前，Anthropic公司研究员Jacob Coxon上周表示辞职，部分原因是担心人工智能可能在本十年末带来生存风险，引发公众对AI潜在危险的关注加剧。该行业一些最大公司的领导人已呼吁放缓技术发展步伐。 3. 特朗普周一表示，美国已建立监管和惩处人工智能公司的防护机制，以此淡化行业领袖表达的担忧。 4. 古特雷斯长期以来推动建立全球人工智能治理机制。2023年，联合国成立了由39名成员组成的人工智能顾问机构，成员包括来自美国、俄罗斯、日本等国的科技企业高管、政府官员和学者。外交人士表示，联合国安理会也可能于下周在纽约世界领导人年度会议期间讨论人工智能议题。 5. 古特雷斯表示，处于人工智能前沿、实力最强的国家“应建立联系机制、信息交流机制以及一些共同的防护栏，以避免出现逐底竞争，因为这种竞争未来有可能导致全球层面的巨大灾难”。他强调：“我们需要就如何推动人工智能安全、可靠和负责任的发展形成共同认知，同时明确在何种情况下，能力不断增强的人工智能系统可能需要更严格的安全防护措施，或采取额外手段来管理潜在风险”