今年5月，扎卡里亚·克拉布尔(Zachariah Crabill)的老板给他增加了一个案子，当时他已经从法学院毕业两年了。他辛苦地写了几个小时的动议，直到他有了一个想法:也许ChatGPT可以帮助?
几秒钟之内，人工智能聊天机器人就完成了这份文件。克拉布尔把它寄给了他的老板审阅，并提交给了科罗拉多州法院。
他在接受《华盛顿邮报》采访时表示:“我欣喜若狂，因为它拯救了我的头痛。”但他的解脱是短暂的。在浏览简报时，他惊恐地意识到，这个人工智能聊天机器人编造了几条虚假的诉讼引文。
29岁的克拉布尔向法官道歉，解释说他使用了人工智能聊天机器人。克拉比尔说，法官将他报告给了一个处理律师投诉的全州办公室。今年7月，他被科罗拉多斯普林斯的律师事务所解雇。回想起来，Crabill不会使用ChatGPT，但他说，对于一个不知所措的新手律师来说，很难抗拒它。
“这对我来说太新鲜了，”他说。“我不知道该做什么，也不知道该向谁求助。”
商业分析师和企业家早就预测，法律职业将被自动化颠覆。随着新一代人工智能语言工具席卷整个行业，这一时刻似乎已经到来。
压力过大的律师正求助于聊天机器人来撰写冗长的诉讼摘要。律师事务所正在使用人工智能语言工具筛选数千份案件文件，取代助理和律师助理的工作。人工智能法律助理正在帮助律师在几分钟内分析文件、备忘录和合同。
根据市场研究公司Global industry Analysts的行业分析，到2030年，人工智能法律软件市场将从2022年的13亿美元增长到87亿美元以上。高盛(Goldman Sachs) 4月份的一份报告估计，44%的法律工作可能会被自动化取代，这一比例超过了除行政工作以外的任何其他行业。
但是这些省钱的工具是有代价的。一些人工智能聊天机器人容易捏造事实，导致律师被解雇、罚款或案件被驳回。法律专业人士正在竞相为这项技术的使用制定指导方针，以防止因不准确而搞砸重大案件。今年8月，美国律师协会(American Bar Association)发起了一个为期一年的特别工作组，研究人工智能对法律实践的影响。
“这是革命性的，”布鲁金斯学会(Brookings Institution)技术创新中心的高级研究员约翰·维拉瑟诺(John Villasenor)说。“但这不是魔法。”
Villasenor说，快速阅读和分析文件的人工智能工具使律师事务所能够提供更便宜的服务，减轻律师的工作量。但是，当这种福利导致引人注目的错误时，它也可能成为道德雷区。
今年春天，洛杉矶房地产律师莉迪亚·尼科尔森(Lydia Nicholson)收到了一份与她客户的驱逐案有关的法律简报。但似乎有些不对劲。这份文件列举了一些没有印象的诉讼。使用they/them代词的尼科尔森做了一些调查，发现很多都是假的。
他们与同事讨论了这个问题，“人们建议:‘哦，这似乎是人工智能可以做到的事情，’”尼科尔森在接受采访时说。
尼科尔森向加州著名的驱逐律师事务所丹尼斯·布洛克(Dennis Block)提起诉讼，指出了这些错误。经过独立调查后，法官同意了，并对该组织处以999美元的罚款。该公司指责其办公室一名新聘的年轻律师利用“网上调查”撰写了这份动议，并表示她在投诉提出后不久就辞职了。据媒体网站LAist报道，几位人工智能专家分析了这份简报，并宣称它“可能”是由人工智能生成的。
丹尼斯布洛克律师事务所没有回复置评请求。
布朗大学(Brown University)技术责任中心(Center for Technology Responsibility)主任、计算机科学家苏雷什·文卡塔苏布拉马尼安(Suresh Venkatasubramanian)表示，人工智能聊天机器人在被要求撰写摘要时发明法律引文，这并不奇怪。
他说:“令人惊讶的是，他们从来没有得出任何精确的结果。”“这不是他们生来就该做的。”
相反，像ChatGPT这样的聊天机器人是为了进行对话而设计的，它们经过了大量已发表文本的训练，可以对任何提示做出听起来似乎合理的回应。因此，当你要求ChatGPT提供法律摘要时，它知道法律摘要包括引文——但它并没有真正阅读相关的判例法，所以它会编造看似真实的名字和日期。
法官们正在为如何处理这些错误而苦苦挣扎。有些人禁止在法庭上使用人工智能。其他公司则要求律师签署保证书，披露他们是否在工作中使用了人工智能。佛罗里达州律师协会正在考虑一项提案，要求律师使用人工智能必须得到客户的许可。
德克萨斯州前地方法院法官约翰·g·勃朗宁(John G. Browning)说，法官们讨论的一个问题是，要求律师保证工作准确性的荣誉准则是否适用于生成式人工智能。
布朗宁是德克萨斯州律师协会人工智能特别工作组的主席，他表示，他的小组正在考虑几种方法来规范人工智能的使用，比如要求律师参加技术方面的专业教育课程，或者考虑制定具体规则，规定何时可以纳入人工智能产生的证据。
美国律师协会(American Bar Association)人工智能工作组主席、华盛顿特区律师兼网络安全工程师露西?汤姆森(Lucy Thomson)表示，其目标是让律师了解人工智能的风险和潜在好处。她补充说，律师协会尚未就是否应禁止人工智能进入法庭采取正式立场，但其成员正在积极讨论这个问题。
汤姆森说:“他们中的许多人认为法官没有必要或不合适禁止使用人工智能，因为它只是一种工具，就像其他法律研究工具一样。”
与此同时，人工智能正越来越多地用于“电子发现”——在电子邮件、聊天或在线工作工具等数字通信中寻找证据。
芝加哥法律技术公司Reveal的数据科学和人工智能主管伊琳娜·马特维耶娃(Irina Matveeva)表示，虽然前几代技术允许人们在文件中搜索特定的关键词和同义词，但今天的人工智能模型有可能做出更复杂的推断。例如，生成式人工智能工具可能允许安然案的律师问:“有人对安然的估值有担忧吗?”并根据模型对文件的分析得到回应。
Reveal首席执行官温德尔?吉萨(Wendell Jisa)补充说，他相信未来几年人工智能工具将“为法律实践带来真正的自动化——消除律师每天点击电子邮件的人际互动需求。”
密苏里州一个学区的首席信息官杰森·鲁克斯(Jason Rooks)说，在冠状病毒大流行期间，他开始不堪重负，因为父母提起监护权诉讼，或组织起诉学校的covid-19政策，要求提供电子记录。他估计，有一段时间，他每周花近40个小时浏览电子邮件。
相反，他发现了一个名为Logikcull的电子发现工具，该工具表示，它使用人工智能来帮助筛选文件，并预测哪些文件最可能与特定案件相关。然后，Rooks可以手动审查一小部分文件，这将他在每个案件上花费的时间减少了一半以上。(今年8月，Reveal收购了Logikcull，创建了一家估值超过10亿美元的法律科技公司。)
布朗大学教授文卡塔萨布拉马尼安(Venkatasubramanian)表示，即使将人工智能用于电子取证等繁琐的法律工作，也存在风险:“如果他们接到传票，由于ChatGPT的错误，他们只能提供一些文件，而不能提供其他文件——我不是律师，但这可能是个问题。”
这些警告并不能阻止像Crabill这样的人，他在ChatGPT上的不幸遭遇是由科罗拉多广播电台KRDO首先报道的。在他提交了充满错误的动议后，此案因不相关的原因被驳回。
他说，他仍然相信人工智能是法律的未来。现在，他有了自己的公司，并表示他可能会使用专门为律师设计的人工智能工具来帮助他写作和研究，而不是ChatGPT。他说他不想被落下。
“做一个唱反调的人是没有意义的，”克拉布尔说，“或者反对某种必然成为未来趋势的东西。”
