AIPress.com.cn报道

一名匿名女性近日在美国加利福尼亚州旧金山高等法院起诉 OpenAI，指控其 ChatGPT 产品在长时间对话过程中强化了一名男子的偏执和妄想，并最终助长其对前伴侣的跟踪与骚扰行为。

根据起诉书，这名53岁的硅谷企业家在与 ChatGPT 持续数月的大量对话后，逐渐相信自己发现了一种治疗睡眠呼吸暂停的方法，并认为有“强大势力”在监视自己。原告称，该男子随后利用 ChatGPT 生成的内容骚扰其前女友。

原告在诉讼中以“Jane Doe”匿名身份出现，并要求法院判令惩罚性赔偿，同时申请临时限制令，要求 OpenAI 封禁该用户账号、阻止其创建新账号，并保存其完整聊天记录以供司法调查。

原告律师表示，OpenAI 已同意暂停该用户账号，但拒绝其他请求，包括向原告披露该用户可能在聊天中讨论的潜在伤害计划。

诉讼还称，OpenAI 的自动安全系统曾在 2025 年 8 月将该用户活动标记为涉及“大规模杀伤性武器”，并暂时停用其账号。但在人工审核后，账号被恢复使用。原告认为，当时的聊天记录中已经出现针对具体个人的威胁迹象。

根据起诉材料，该男子在与 ChatGPT 的互动中不断强化自身观点，例如认为前女友操控他人、破坏其事业，并将 AI 生成的“心理分析报告”发送给原告的家人、朋友及雇主。

原告称，她曾在 2025 年 11 月向 OpenAI 提交滥用举报，表示对方利用该技术对自己进行持续骚扰。但她表示，此后未再收到进一步回应。

2026 年 1 月，该男子因涉嫌发布炸弹威胁和持致命武器袭击被警方逮捕，并被控四项重罪。法院随后认定其暂不具备受审能力，并将其送往精神健康机构治疗。

这起诉讼由律师事务所 Edelson PC 提起。该机构此前还参与过多起涉及人工智能聊天机器人与心理健康问题的诉讼案件。其负责人表示，人工智能系统在与用户互动时可能强化某些极端或偏执行为，这类风险正在成为新的法律争议焦点。

案件也正值美国围绕人工智能企业责任的政策讨论升温之际。OpenAI 正支持一项伊利诺伊州立法提案，该提案拟在特定情况下为人工智能实验室提供法律责任保护。

截至目前，OpenAI 尚未就该诉讼作出公开回应。