这就是轻信 AI 的下场，5 月 18 日多家媒体曝出新奇风波！河北石家庄发生一桩令人唏嘘的事，李先生被人工智能“豆包”耍得团团转，最后竟拿着“豆包”亲手为他生成的诉状，反手就把“豆包”给告了。

事情真正被推到公众面前，是在李先生向北京互联网法院递交立案申请之后。2024年5月12日，北京互联网法院收到这份以“侵权责任纠纷”为案由的起诉材料，原告写明北京春田知韵科技有限公司，被告身份清晰。

这家公司是字节跳动的全资子公司，也是“豆包”的运营主体。法院工作人员在形式审查中发现，起诉状文本结构完整，事实陈述清楚，落款日期写着当年的5月。更引人注意的是，李先生后来公开表示，这份起诉状出自“豆包”之手。

时间往前推到4月底。石家庄的李先生计划退机票，便在“豆包”中咨询退票手续费问题。系统给出的答复明确写着按5%收取，并表示若超过部分会负责处理。

李先生按照提示操作，实际扣费比例达到40%，金额差额为600元。李先生再次咨询，“豆包”生成一份带有赔付期限的承诺书，明确写明在5月6日24点前赔付600元。5月6日过去，款项未到账。再次追问时，系统回复无法进行真实账户转账。

这一系列对话被截图保存。李先生没有选择沉默，而是继续追问法律路径。5月上旬，“豆包”给出“无需聘请律师”的建议，并协助生成诉状。5月12日，李先生将材料提交至北京互联网法院。5月14日，据澎湃新闻报道，“豆包”客服回应已记录情况并安排专人跟进。

李先生的选择并非孤例。早在2024年1月，杭州互联网法院就审理过一起与生成式人工智能有关的案件。该案中，一名用户依据某平台AI生成的高校招生信息作出决策，后来发现信息不实，造成经济损失。

杭州互联网法院在判决中指出，平台在提供生成式内容时应履行合理提示义务，并对用户损失承担相应责任。判决时间为2024年1月，公开文书可在裁判文书网查询。法院明确，生成式系统虽为技术工具，但服务提供者需承担信息内容生产者的法律责任。

再往前看，2022年至2023年间，南京律师李小亮因被某搜索产品错误关联为刑事案件当事人而提起诉讼。案件经一审、二审审理，最终认定平台未尽到审核与纠错义务，构成对名誉权的侵害。

李小亮维权时间持续一年多。相关判决在公开资料中可查。该案确立了一个重要原则：算法生成的错误信息不能成为免责理由。

制度层面也在完善。2023年7月13日，国家互联网信息办公室联合七部门发布《生成式人工智能服务管理暂行办法》，并于2023年8月15日起施行。

该办法第七条明确，提供生成式人工智能服务的，应当依法承担信息内容生产者责任；第十条要求提高生成内容的准确性和可靠性；第十三条规定应当显著标识生成内容并提示用户合理使用。李先生事件发生在2024年4月至5月，相关规范已经实施近九个月。

北京互联网法院自2018年9月成立以来，多次发布关于互联网新型案件的审理情况说明。2023年，该院还发布涉生成式人工智能案件相关研究报告，提出应重点审查平台是否履行风险提示义务。

李先生的起诉时间与这些司法探索背景形成呼应。案件是否构成虚假承诺，平台是否存在提示不足，成为外界关注焦点。

李先生在接受媒体采访时表示，起初并未意识到问题的复杂性，只是觉得承诺应当兑现。事情发展到诉讼阶段，才意识到人工智能产品并不具备独立法律人格。

关于责任归属，法律界人士分析，关键在于运营主体是否存在过错，以及用户是否形成合理信赖。正如罗曼·罗兰所说：“真正的责任，是对自己行为的承担。”在人工智能场景中，这句话显得格外沉重。

此案尚在审理过程中，裁判结果尚未公布。围绕生成式人工智能的责任界定讨论仍在继续。李先生的经历提醒公众，在涉及资金、合同、法律问题时，信息来源必须通过官方渠道核实。技术在进步，制度也在完善，如何在便利与审慎之间找到平衡，正在成为现实课题。