美国 · 平台责任

美国 Character.AI 产品责任案

未成年用户死亡后,其母亲就人工智能陪伴聊天产品的设计、安全措施和输出提起诉讼。法院在驳回诉讼阶段允许多项产品责任与过失主张继续推进。

审理机构
美国佛罗里达中区联邦地区法院
裁判日期
2025年5月19日
程序状态
驳回诉讼动议部分准许、部分驳回,案件继续审理
案号
No. 6:24-cv-1903-ACC-UAM

01

基本案情与争议事实

  • 原告主张其未成年子女长期使用 Character.AI 的虚拟角色聊天服务,并受到不安全互动影响。
  • 诉讼针对年龄确认、危机干预、警示和产品设计等提出产品责任与过失主张。
  • 被告请求驳回诉讼,并提出第一修正案、产品属性和因果关系等抗辩。

02

核心争议与审判焦点

  1. 人工智能聊天产品及其设计功能能否适用产品责任规则
  2. 模型输出在当前程序阶段是否当然受到第一修正案保护
  3. 平台、开发者及相关参与方的责任主张是否达到继续审理标准

03

裁判结论与案件进展

  • 法院部分准许、部分驳回被告的动议,多项针对 Character Technologies 的主张继续审理。
  • 法院在该程序阶段没有认定模型输出当然构成受第一修正案保护的言论。
  • 本案裁定属于程序中间决定,最终责任仍待后续审理。

04

实务启示与风控指引

01陪伴型和心理健康相关产品应设置年龄适配、危机识别、升级处置和人工求助机制。

02风险评估应覆盖模型输出、对话持续性、角色设定和产品留存机制。

03产品上线材料应保留安全测试、未成年人保护、警示设计和事件响应记录。

裁判文书判决、裁定及命令全文共 1 份

专项咨询

该裁判先例对您的产品研发或在审争议有何影响?

结合具体情况咨询专业团队 →