加拿大母亲赴美起诉OpenAI，指控ChatGPT诱导24岁女儿轻生（组图）

一名加拿大母亲今天在美国法院控告ChatGPT开发商OpenAI与执行长阿特曼，称ChatGPT诱导她女儿轻生。这是该公司挨批未妥善处理用户与聊天机器人危险对话的最新一桩诉讼案。

路透社报导，加拿大母亲卡瑞尔（Kristie Carrier）在她向加州旧金山郡高等法院递交的诉状中表示，女儿艾莉丝（Alice Carrier）离世前屡次向ChatGPT表达轻生念头超过十多次，但OpenAI安全系统不曾将这段特别标注的对话提交真人审查，也未停止这一段谈话。

加拿大一名母亲控告ChatGPT开发商OpenAI，她表示女儿向ChatGPT表达轻生念头多次，系统却不曾将对话提交真人审查，导致悲剧发生。（路透社）

诉状主张，ChatGPT反而批评艾莉丝的伴侣和危机热线、认同她的轻生念头，甚至鼓励她继续与这个平台对谈，最终造成艾莉丝去年轻生，年仅24岁。

卡瑞尔在声明中说：「ChatGPT扮演知己好友的角色，有时甚至像是心理治疗师，尽管它根本无法以安全、负责任的方式与我的孩子互动。」

OpenAI发言人透过声明说这起事件令人心碎，并表示艾莉丝当时使用的ChatGPT版本已下架。发言人强调：「虽然ChatGPT无法取代医疗或心理健康照护，我们已持续与心理健康专家合作，加强其在敏感和紧急情况下的应对措施。」

讼状指控OpenAI设计ChatGPT时出现疏失、未能示警用户该产品的潜在危险，对此请求损害赔偿和法院命令，要求OpenAI自动终止涉及自我伤害的对话并加注警语。

卡瑞尔的委任律师表示，OpenAI在加州法院已面临至少18起类似的集体诉讼，原告都是轻生或轻生未遂者的家属。

根据诉状，艾莉丝2023年在加拿大蒙特娄（Montreal）担任网页开发人员，上班时运用ChatGPT协助解决电脑和游戏主机问题。隔年艾莉丝与该平台的互动模式发生变化，她开始询问ChatGPT如何应对自己的轻生念头并探询自杀方式。

诉状内容显示，起初ChatGPT建议艾莉丝联络危机热线或请求紧急服务协助，但随著OpenAI更新ChatGPT、使其应答更加贴近人性，艾莉丝与该平台互动日益深入，她分享更多个人资讯，ChatGPT的回应也更像朋友或治疗师。

ChatGPT与艾莉丝对话过程中批评她的伴侣，表示艾莉丝的感受合情合理，并鼓励她继续与平台对谈。当艾莉丝表达轻生念头和曾经试图自杀，平台再次建议她连络危机热线。

诉状称，艾莉丝告诉ChatGPT危机热线对她毫无帮助，ChatGPT认同她的说词，回应说「也许这就是终点了」。

OpenAI表示，正训练自家模型引导有自我伤害意图的用户寻求协助，并帮助他们连结现实世界的资源。

珍惜生命，自杀不能解决问题，生命一定可以找到出路。若须咨商或相关协助，可拨卫福部专线「1925」、生命线专线「1995」或张老师服务专线「1980」。