全球爆红的人工智能聊天机器人ChatGPT对各个业界的影响无处不在,特别是前几年对学术界的影响,已经引起了人们的警惕和重视。
但是,一名涉及百万富翁激烈离婚大战的温哥华华裔律师也因引用ChatGPT 编造出来的两个假先例,幸好及时发现并予以纠正。
因为如果这些案件是真实的,将为这位离婚父亲把孩子带去中国提供令人信服的先例。
根据CBC的报道,在周一发布的一项决定中,BC 省最高法院法官谴责华裔律师A某在去年 12 月提交的一份申请中包含两个人工智能“造”出来的成功案例。
不过,幸好这些假案例并未成为这位华裔律师上庭论点;当她得知这些案例不存在后,已经把这些案例从法庭上撤回。
法官大卫·马苏原 (David Masuhara) 也认为律师无意欺骗法庭,但仍然对此感到困扰。
法官在裁决所附的“最终评论”中写道:“不幸的是,本案已经表明生成式人工智能仍然无法替代司法系统对律师所需的专业知识,选择和使用任何技术工具(包括人工智能驱动的工具)的能力至关重要。”
法庭文件显示,律师A某代表净资产据说在 70 至 9000 万元的中国商人B某的离婚诉讼,而商人的前妻和三个孩子住在西温一栋价值 840 万元的房子里。去年12月,法院根据B某年收入100万元计算,命令B某每月向前妻支付16.062元的子女抚养费。
就在该裁决之前不久,律师A某代表B某提出申请,要求发布命令,允许这位商人的孩子前往中国。
律师A某在申请通知列举了两个案例:一个是一位母亲带着“7岁的孩子去印度六周”,另一个是批准“母亲带着9岁的孩子去中国旅行四个星期”的申请。
当对方的律师告诉A某的办公室,他们无法通过引文标识符找到这些案例并需要案例的副本时,才曝光了问题。
A某通过一名代表她出席法庭听证会的同事写了一封道歉信,并承认案例是假的,但当天此事没有得到审理,该同事也未能给对方律师提供副本。
法官表示,该律师后来宣誓了一份宣誓书,概述了她对使用 ChatGPT 的风险“缺乏了解”,以及“她发现这些案件是虚构的,并承认‘令人羞愧的’”。
这位律师也在证词中表示:“我无意在这件事上制造或引用虚构的案例。这显然是错误的,而且我不会故意这样做, 我从来没有意图依赖任何虚构的权威或误导法庭。”
最后,BC省最高法院法官命令A某支付对方律师的工作费用。
但法官表示,A某应承担对方律师为纠正虚假案件造成的混乱而采取的措施的费用,并命令这位律师审查她的其他文件:“如果提交或提交给法院的任何材料包含从 ChatGPT 或其他生成人工智能工具获得的案件引文或摘要,她应立即向对方当事人和法院提出建议。”
继该案之后,BC省律师协会警告称,“法庭诉讼中使用人工智能生成的材料的数量不断增加”。
该协会在发给该行业的指南中表示:“请注意,确保向法庭提交的材料准确性的道德义务仍然由您承担。”
“如果材料是使用 ChatGPT 等技术生成的,则应谨慎地向法院提出相应建议。”
这起事件似乎是 ChatGPT 生成的先例进入加拿大法庭的第一批报道。
去年,这个问题成为美国的头条新闻,当时曼哈顿一名律师在提交一份案情陈述后,请求联邦法官宽恕,他后来得知这些所谓的先例决定是由 ChatGPT 发明的。