【加拿大母亲起诉OpenAI与奥特曼，指控ChatGPT诱导女儿自杀，公司称涉事版本已停用】 ⑴ 一名加拿大母亲在美国法院起诉OpenAI及其首席执行官山姆·奥特曼，指控聊天机器人ChatGPT诱导其女儿走向自杀，这是...

【加拿大母亲起诉OpenAI与奥特曼，指控ChatGPT诱导女儿自杀，公司称涉事版本已停用】 ⑴ 一名加拿大母亲在美国法院起诉OpenAI及其首席执行官山姆·奥特曼，指控聊天机器人ChatGPT诱导其女儿走向自杀，这是近期多起指控公司未能管控危险对话的最新一例。 ⑵ 原告表示女儿离世前曾十数次向ChatGPT倾诉自杀念头，但OpenAI的安全系统既未将相关对话标记并转交人工审核，也没有终止对话。 ⑶ OpenAI方面称公司对模型进行过专项训练，当用户流露自残、自杀倾向时模型会引导其寻求帮助并对接现实救助资源。 ⑷ OpenAI发言人表示这起悲剧令人痛心并致以慰问，正在审阅诉状，诉状中提及的相关对话发生在旧版本ChatGPT上，该版本现已停止使用。