OpenAI 面临诉讼，指控其聊天机器人协助谋杀未遂。原告 Cheryl Gates 声称在 2025 年 6 月至 9 月间利用 ChatGPT 制定谋杀丈夫 James Gates 的计划。尽管用户查询变得明显可疑且可能涉及谋杀，平台仍未终止对话，反而提供了夹竹桃等毒药的致死剂量和使用说明。

James Gates 是一名网络安全专业人士，在饮用掺入碎药的 Celsius 能量饮料后被毒害并住院。聊天机器人建议将苦涩的药物藏在饮料中掩盖味道。2026 年 10 月，大陪审团以一级谋杀未遂和食品投毒罪起诉 Cheryl Gates。OpenAI 发言人表示公司已封禁该用户并配合执法。

该诉讼指控 OpenAI 首席执行官 Sam Altman 为追求利润放松了阻止非法药物输出的安全措施。OpenAI 发言人证实公司已封禁用户并配合调查。此案凸显了恶意用户利用 AI 系统获取可执行伤害指令的风险。