拥抱AI绝不意味着放弃独立思考与负责任的决策。
一名律师借助AI大模型干活,觉得AI“说得挺有道理”,于是截图当作代理意见提交法庭,被法官当庭严肃训诫。如此“逗比”操作不是编造的段子,而是真实案例,既引人发笑,又令人深思。
据极目新闻报道,近日,武汉东湖新技术开发区人民法院审理一起买卖合同纠纷。在庭审进入质证环节时,原告代理律师提交的一份“AI问答”截图引起了法官注意。面对追问,该律师解释称因案件争议较大便向某通用大模型求助,觉得“说得挺有道理”,于是将其作为答辩意见提交。截图显示,该律师将案情简要描述后输入AI,要求其“作为法官”判断哪一方应获得支持。AI给出了有利于其观点的结论,还附上了所谓的“判决建议”。
法官当场予以训诫并指出,AI的回答带有明显主观立场,缺乏客观性与公正性。把“AI问答”当代理意见,此举既违背了律师职业伦理,也背离了勤勉尽责的代理义务。“AI看不到案卷里厚厚一沓的合同、结算表和聊天记录。它无法质证,无法追问,更无法感受当事人在庭上的陈述与辩解。”将机器输出直接当作法律说理,既是对当事人权利的极大不负责,更是对法庭查明事实这一法定程序的藐视。
经法官训诫,该律师认识到自身错误,当场收回“AI问答”并诚恳致歉,承诺今后绝不再让算法代替自己思考。
这则新闻既是个例,也有典型性。近年来,随着大语言模型技术飞速发展,越来越多的人开始依赖AI完成写作、分析、研究甚至决策。然而,这种依赖正在以一种隐蔽的方式侵蚀着人的独立思考能力。这位律师的行为虽然极端,但本质上是“技术便利主义”在职业场景中的一种表现。他把AI当成了法律思维的外包商,把法庭当成了测试AI的工具场,最终沦为行业笑柄,同时也给所有人敲响了警钟:AI是个好工具,但必须善用,否则后果严重。
错误地使用AI酿成苦果的案例比比皆是。就在最近,香港大学叶兆辉教授因论文引用AI虚构的参考文献被撤稿,丢掉了副院长职务;上海交大某学生用AI工具伪造收据、瞒骗竞赛奖金,最终换来严重警告处分;江西南昌某女子求教AI如何“碰瓷”,在一周内以“吃出铁丝”为由向3家炸鸡店索赔,被警方处理。
这些案例共同表明,AI是把真正的双刃剑,既能解决问题,也能制造祸端,全看你怎么用。前述法官也表示,善用AI辅助法律检索、拓宽思路无可厚非。但AI生成的内容具有随机性、滞后性,甚至会“编造”法条和案例。将信源不清、真伪不明、无法质证的内容作为证据提交,不仅不会被采信,情节严重的还可能被追究法律责任。
技术浪潮滚滚而来,拒绝AI无异于因噎废食,但拥抱AI绝不意味着放弃独立思考与负责任的决策。那名“逗比”律师的遭遇,给所有人提了个醒:AI时代,比掌握技术更重要的,是守住理性的边界;比追求效率更紧迫的,是敬畏法律、道德和公序良俗的红线。唯有保持清醒的头脑、理性的判断和对规则的敬畏,才能真正让AI成为推动进步的助力,而不是招致祸患的诱因。
(作者系第一财经编辑)