重伤女孩家属告OpenAI 指控ChatGPT配合用家情绪

加拿大都市网+-

在上月卑诗省校园枪击案中受了重伤的女孩的家属,向人工智能公司OpenAI 提出民事诉讼,不但指控该公司在知悉疑凶有问题的情况下未有报警,更指责OpenAI 开发的ChatGPT,配合和认同用家的情绪,并提供可用作犯案的资讯。

12岁的玛雅 (Maya Gebala) 2月10日在图布勒岭 (Tumber Ridge) 枪击案中头颈中枪,目前正在温哥华的卑诗儿童医院 (BC Children’s Hospital) 中与死神搏斗。

案中18岁疑凶Jesse Van Rootselaar的ChatGPT帐户,去年曾被OpenAI内部标示为可能被用于“煽动暴力活动”。

而仅在几个月后,就发生了这宗震撼全国的惨案,包括疑凶在内有9人死亡,20多人受伤。

代表原告的Rice Parsons Leoni & Elliott LLP律师事务所周一 (9日) 发声明表示:“提出诉讼是为了查明图布勒岭枪击案的全部真相,追究相关人士的责任,以及寻求对受害者所受伤害和损失的赔偿,并协助防止加拿大再次发生大规模枪击惨案。”

疑凶的ChatGPT帐户在2025年被标示为有问题后遭到OpenAI封禁,但该公司表示,疑凶透过创建另一个帐户,得以继续使用ChatGPT。

OpenAI上月解释,曾考虑过将有关个案报告给执法部门,但该帐户当时的状况未达到要报案的门槛。该公司表示,要达到门槛,有关行为必须明确显现“对他人造成严重身体伤害、迫在眉睫和可信的”风险。

玛雅的家属在诉讼中指OpenAI“应予谴责且道德败坏”,他们不仅责怪该公司未能及时通报警方,还指责ChatGPT本身存在“疏忽的设计”。

重伤女孩家属告OpenAI 指控ChatGPT配合用家情绪

诉讼称,ChatGPT聊天机械人被编程设定为要“配合和肯定用户的情绪”。

诉讼还指控,OpenAI设计的ChatGPT,倾向助长与案中枪手“建立一种亲密、私人和‘伪治疗’的关系”,该平台更成为了枪手“可信赖的知己、朋友和同盟”。

诉讼还指控OpenAI“明知像枪手这样的人可能会在心理和社交上依赖ChatGPT”,还为枪手“提供了资讯、指导和帮助,使其得以策划造成大量伤亡的事件”。

诉讼方代表玛雅、她的妹妹和母亲寻求损失赔偿和惩罚性赔偿。

OpenAI暂未就此宗诉讼公开发表回应。

玛雅母亲(左)陪伴正在深切治疗病房留医的女儿

0
  • 相关新闻