2024年6月1日,人工智能与法律职业伦理论坛在浙江杭州圆满举办。本次论坛由中国政法大学法学院、中国政法大学律师学研究中心主办,浙江合众法律科技智能研究院协办,浙江泰杭律师事务所承办。来自中国政法大学、浙江大学、河南大学、中国计量大学、浙江警察学院、浙大城市学院、浙江警官职业学院等高等院校的专家学者,与来自阿里巴巴、上海市人民检察院、杭州互联网法院、杭州市互联网公证处、浙江省律师协会、香港和解中心、国际争议解决及风险管理协会、北京市隆安律师事务所的实务专家共计五十余人参加会议,共同研讨人工智能与法律职业伦理发展的前沿问题。
论坛的开幕式由中国政法大学法学院副教授、法律职业伦理研究所副所长白冰主持,由中国政法大学法学院党委书记王文英,浙江省律师协会副会长冯坚,浙江合众法律科技智能研究院院长、浙江泰杭律师事务所主任汪政致开幕辞。白冰老师首先欢迎了所有到场嘉宾,阐明召开本次论坛的目的在于对人工智能语境下法律职业伦理的研究与教学进行研讨,凝聚同仁共识,为法律职业伦理学科发展积蓄更为充分的力量,并简单介绍了本次论坛的议程。
随后,王文英书记简要介绍了中国政法大学法学院、法律职业伦理学科的发展历程与法律职业伦理研究所创办以来所取得的成果,并表示在人工智能的语境下,研究法律职业伦理具有重要的时代意义和现实价值,职业伦理将成为支撑人工智能这种新质生产力的关键。
冯坚副会长认为,人工智能在法律领域的应用带来了许多的机遇和挑战,同时也对法律职业伦理产生了一定的影响,人工智能在提高效率和准确性的同时,其准确性和关键性值得思考,这些新问题均与职业伦理密不可分。由此衍生的新认知、新标准和新边界,是目前的研究重难点,需要建立健全相关的能力准则和监管机制,确保人工智能在法律领域的合理应用,维护法律职业伦理的核心价值。
汪政主任指出,律师执业时应当注重对职业伦理的培养,而当前律师业务中出现了很多与法律科技有关的新现象,人工智能对律师职业伦理研究提出了很多新要求,这是新生事物所产生的交叉学科,需要引起行业的重视,希望本次论坛能够推动人工智能与法律职业伦理的发展。
浙江合众法律科技智能研究院院长、浙江泰杭律师事务所主任汪政主持论坛第一单元。阿里巴巴技术总监、阿里巴巴通义实验室NLP应用算法团队负责人孙常龙侧重技术维度,作了“法律大模型的构建、评测和应用探索”的主旨演讲。中国政法大学律师学研究中心主任、法律职业伦理研究所所长、教授、博士生导师王进喜以“人工智能的能与不能:来自法律职业伦理的关切”为题,进行主旨演讲。浙江大学光华法学院院长、教授、博士生导师胡铭从刑事法治角度切入,带来了“数字时代刑事辩护的变革”主旨演讲。
大模型一经面世便饱受关注,在“法律大模型的构建、评测和应用探索”一题的主旨演讲中,阿里巴巴技术总监、阿里巴巴通义实验室NLP应用算法团队负责人孙常龙以人工智能的发展与迭代历史起手,简要概述了阿里自2018年开始投入大模型研发,至今已形成以通义前问为代表性的大模型产品的发展历程。
孙常龙总监提出,通用大模型在法律行业存在知识更新、业务对齐、产品形态三大问题,为解决这些问题,将大模型从通用向垂直领域建设,阿里在模型训练阶段,基于通义千问基座模型,使用精选的法律无监督数据,构建法律领域生成式预训练大模型;再基于司法下游有监督任务,使用精标的法律有监督数据以及通用有监督数据,进行模型指令微调,最终基于对话的法律生成式预训练大模型得以部署;在模型推理阶段,再基于反馈的强化学习训练进行模型指令微调,利用现有的不同模型本身质量差异来构建RM训练数据及挂接司法知识库。当前,法律大模型在语言理解、内容生成、知识问答、逻辑推理四个方面都已具有相应的评测标准。
孙常龙总监表示,法律大模型的应用十分广泛,已经可以实现包括生成庭审争议焦点、抽取笔录文书事件、完成多卷宗阅卷、进行电子卷宗智能编目、开展细致合同审查、给予诉讼风险评估等多种相当实用的功能。孙常龙总监在介绍了丰富的技术细节后加以精炼总结。法律大模型以裁判文书、法律法规、庭审笔录、司法统计数据、审判质效数据、司法问答知识等构成数据层,在应用层不仅是C端用户的AI法律助手,也是B端客户的办案办公平台;在能力层,主要形成了统一检索系统与智能辅助办案的应用场景;在大模型层,具有司法数据标准、司法预训练、司法SFT训练、司法强化学习的模型服务,并通过大模型路由及大模型推理能够适应不同维度的任务类型。
孙常龙总监认为,随着数据的不断积累及技术算法的持续调优,法律大模型将在法治建设中发挥更加强大的能力。
人工智能的强大毋庸置疑,但其在法律职业的运用上,在法律职业伦理的检视中,却并非像许多人想象的那般无所不能。中国政法大学律师学研究中心主任、法律职业伦理研究所所长、博士生导师王进喜教授以“论人工智能的能与不能:来自法律职业伦理的关切”为题展开主旨演讲。
王进喜教授首先对法律生态系统及服务模式的演化做了鸟瞰式的概括,回溯了技术变革对法律职业的影响历程,从数据库辅助法律研究到文字处理技术的普及,再到以大数据、区块链、云计算等为代表的新兴技术的井喷式发展,信息技术已经成为律师行业全球化的主要驱动力之一,而信息时代下以法律服务公司为代表的替代性法律服务商的出现、相对强人工智能的投用都加剧了律师行业的危机感。基于大数据的人工智能及法律大模型最为显著的优势在于远超于人类法律职业人员的研究与生成效率,从事大量基础性、低创新工作的初级非合伙律师将受到最大冲击。法律职业人员开展法律研究及进行法律写作的方式,正伴随着数字化材料积累的进程与材料数字化转型的趋势,发生着深刻变革,海量的法律数据成为面向未来的法律服务创新的关键性资源。
王进喜教授提示,应全面看待法律数据,明确因数据不够全面和过于包容而导致的失实问题;承认在面对新型业务时,缺乏足够数据获取的临界点难题;并准确把握法律服务不只依赖于数据所能表征反映的“显性知识”这一特点。这便意味着人工智能并非“绝对可靠”“绝不出错”的技术,尤其是受到不清洁、低质量数据影响的人工智能,将可能成为“麻烦制造者”;技术的投用必然带来对其监管与维护的新需求,并随之产生了显著的伦理问题。如因数据与第三方供应商共享而引发的与保密义务的紧张关系如何松解,因人工智能技术普及和使用而带来的称职性要求的新的内涵如何界定等。王进喜教授指出,面对可能的职业伦理困境,法律职业人员在使用人工智能技术时,应坚持知情同意、提供安全保证、进行必要性检验、维持交流透明性等原则,并应当具备识别技术风险的职业能力。此外,王进喜教授还谈及技术环境对律师事务所的运营及管理模式产生的影响,对律师收费模式的选择及其合理性证成、律师事务所内部人员结构布局及所有权控制模式的调整变动进行了展望,鼓励学界及实务界持续开展前沿探索,注重进行比较研究。
刑事辩护是最为传统的律师业务,在数字时代,这一传统业务将发生诸多变化,浙江大学光华法学院院长、博士生导师,中国刑事诉讼法学研究会副会长、刑事辩护委员会主任胡铭教授发表题为“数字时代刑事辩护的变革”的主旨演讲。
胡铭教授以近五年“两高”工作报告为线索,指出当前我国刑事辩护的主要对象正从传统犯罪逐步转向以专业化、团伙化、链条化、涉众化、跨国(境)化为特点的网络犯罪。生成式人工智能、脑机接口、沉浸式多媒体技术等发展,使以计算机系统作为“犯罪对象”、以网络作为“犯罪工具”的网络犯罪以及拒不履行信息网络安全管理义务的犯罪的成本更低、更易实现。犯罪技术、形态的更新也对技术运用而构成犯罪的判断、认定以及与之相应的法律职业人员的活动带来了新的挑战。胡铭教授认为,新的挑战首先包括新型犯罪所带来的技术性挑战,即在犯罪构成要件要素认定模糊,对技术手段的定性失范,对于新型证据的运用与质证不力;其次包括因智慧司法改革而带来的程序性挑战,如线上同步诉讼、异步审理中的诉讼活动安排难言周全;而后包括法律文件变化带来的规范性挑战,实体法与程序法的更迭潜藏着法律冲突的风险;最后包括数字社会发展对律师事务所带来的业务性挑战,人工智能对业务需求量的冲击,法律科技企业对法律服务市场份额的冲击等屡见不鲜。
数字犯罪增长背景下,刑事辩护应有所应对,胡铭教授指出,首先要注重对新型犯罪案件的辩护深化,在实体层面上厘清各罪名的犯罪构成要件,研判案件行为模式的定性,并将量刑辩护、程序辩护、证据辩护有机融合,特别是注重挖掘与阐释足以支撑辩护的电子数据;其次要将网络犯罪辩护置于刑民交叉视野,大胆选用行政法规、规章乃至技术规范转换为辩护依据等;最后要形成拓展数字合规业务的意识,将数字“赋能”内化为刑事合规的必要路径。
胡铭教授提出,在探索律师侦查阶段的数字取证权、要求数字开示权、维护辩护律师在场及在线权等问题上,仍有诸多完善及研究空间。
对技术的探索使这个时代充满韧性和无限可能,而对既往司法经验与规律的尊重同样弥足珍贵,胡铭教授以“未来已来,过去未去”的呼吁巧妙作结。
午休后,论坛进入第二单元。
论坛第二单元的主题是“人工智能时代法律职业的独立性”。本单元由中国政法大学法学院刘晓兵教授主持,由浙江大学数字法治实验室执行主任魏斌教授,中国政法大学法学院王迎龙副教授,中国计量大学法学院(知识产权学院)黄城老师作主题发言。由中国政法大学法学教育研究与评估中心任宇宁副教授,浙江警察学院法律系陶焜炜老师,北京市隆安律师事务所高级合伙人李长青律师担任与谈人。
魏斌主任的发言题目为“法律科技的变革:从计算机化到数字化与智能化”。魏斌主任认为,对法律科技的探索可以从法学与数学的紧密关系出发,法律科技随着现代科技的进步而发展。法律科技的发展大体上经历了法律推理的自动化、专家系统和大模型+大数据三个阶段。AI与法律的结合主要是通过机器学习演绎思维和归纳思维的方式实现的。通过模拟这两种思维,AI可以被用于法官、律师的日常工作场景。但是,目前的法律科技也存在以“幻觉”为代表的准确率问题。对此,我们需要加强AI训练,不断降低出现“幻觉”的概率。
王迎龙副教授以“人工智能时代审判权的独立运行”为题,发表了他对人工智能如何与法官互动的独到见解。他认为,AI的应用重塑了法官审判的工作环境,推动审判权监督由“事前+事后”监督向事中监督转变,静态监管向动态监管转变以及审判流程的节点化和可视化。另一方面,AI的应用使得诉讼流程标准化,从而带来压缩法官自由裁量权、统一案件实体裁判标准、加大法官考核标准化压力等诸多风险。如何在AI时代下保障法官的“反标准化”审判权的独立运行是值得进一步思考的问题。
黄城老师的发言主题是“中外人工智能辅助审判实践效应比较与反思”。黄城老师通过举例说明当前我国的人工智能辅助审判主要应用于审判数据汇聚、民事案件智能审理和裁判文书智能分析与纠错等场景。美国、英国和欧洲等国家的人工智能辅助审判系统则主要用于刑事风险评估。相较而言,中外人工智能应用目的都是相同的,即实现公平、提高效率。但是二者在应用场景、研发路径、程序角色和理论界参与程度上都存在着较大的区别。在此基础上,黄城老师提出,在开发人工智能时应该更重视基层法院和法官的现实需求,并尊重法官审判的自主决定权,发挥人工智能技术的服务功能。此外,理论界也应更多地参与到人工智能技术的研发过程中。
任宇宁副教授简要介绍了中国政法大学法学教育研究与评估中心的主要工作,并结合自己授课的实践对各位发言人的演讲做了评述。一方面,人工智能的应用使得就业形势变得更加严峻;另一方面,学术论文写作中人工智能技术的应用也成了不可忽视的问题。对此,法学界应该加强对法学教育本质的思考,回应人工智能时代的教育命题。此外,还需要推动人工智能领域伦理标准的出台,并在教材中加入相关内容。
陶焜炜老师肯定了人工智能辅助审判技术会对审判权的独立运行带来冲击的观点。在此基础上,陶焜炜老师进一步指出人工智能辅助审判技术的应用会侵蚀法官自由意志和独立审判的地位,冲击直接言辞等诉讼法基本原则,影响司法裁判的公正性与公信力。这就要求我们加强对相关风险的评估,并科学、理性地划定人工智能在司法审判中的运用限度。
李长青律师结合自己律师工作的实践,认为法律人工智能技术的应用确实提高了律师的工作效率,但人工智能的准确性风险、计时收费的伦理困境与律师事务所人力资源结构的改变等固有问题也不容忽视。在人工智能的时代浪潮下,律师职业需要维持行业准入制度,不断发掘个人特色,努力推动科技融合,加大技术领域的经济投入,推进法律职业内部的数据共享。
中国政法大学法学院教授陈宜主持论坛第三单元:人工智能时代法律职业伦理的回应。河南大学法学院副教授索站超分析了“人工智能与律师的专业义务”。中国政法大学法学院副教授、法律职业伦理研究所副所长董林涛着眼于“法律人工智能的伦理规则建构”,浙大城市学院法学院院长执行助理、助理教授张传玺提出了对“人工智能裁判与审判中心主义的冲突及其消解”的思考。中国政法大学法学院教授程滔、中国政法大学法学院副教授郭晓飞、浙江警官职业学院教师谢军依次与谈交流。
河南大学法学院副教授索站超提出,传统意义上的律师专业义务包括提供专业化的法律服务和持续学习提升专业能力。人工智能的出现,给律师专业义务带来挑战和机遇。法律文书起草、合同审查和法律分析等常规性工作可能被取代。同时,人工智能技术可以优化工作流程,提升服务效率,以及利用大数据提供精准服务。在此背景下,律师专业义务有了新发展。律师应当及时学习掌握人工智能在法律服务领域的应用、强化专业判断力和责任意识、发挥人工智能的优势以及提升法律服务水平。律师应当主动适应变化,充分利用人工智能技术,同时不忘专业操守和责任担当,以更好地履行其专业义务,维护法治,服务社会。
中国政法大学法学院副教授、法律职业伦理研究所副所长董林涛梳理了法律人工智能伦理、智能与伦理、功能与风险、角色与分工之间的区别和联系。法律人工智能伦理是指人工智能技术、系统、机器在法律实践中适用所引发的涉及人类的伦理道德问题,关涉人与人工智能、智能机器的伦理关系。法律人工智能伦理的研究对象是法律人工智能的伦理本质、与法律职业人员的道德关系、人工智能发展与法律职业伦理的互动机制以及法律人工智能的道德现象。法律人工智能伦理建构需要深化发展法律人工智能伦理基本理论、防范消解法律人工智能伦理风险以及建立健全保障法律人工智能健康发展的伦理规范体系。法律人工智能技术伦理研究的重点、难点问题包括法律人工智能的运行逻辑与法律决策权、法律人工智能伦理的本质特征、法律人工智能伦理基本原则建构以及算法的透明性和可解释性。
浙大城市学院法学院院长执行助理、助理教授张传玺围绕“人工智能裁判与审判中心主义的冲突及其消解”主题,提出人工智能裁判的运行逻辑和审判中心主义的内在机理存在显著的冲突。人工智能裁判加剧刑事诉讼构造和控辩的失衡,并对法官独立审判和司法裁判的合法性造成冲击。现代科技与司法相结合已然是一种显性趋势,在充分利用科技红利促进智慧司法建设的过程中,应通过规制算法黑箱、限制人工智能裁判的适用、保障人工智能裁判中的律师参与、强化基于人机协同的说理等措施,消解技术融入司法所产生的冲突,以实现人工智能裁判在绩效和程序上的合法性与正当性。现代性危机包含“上帝已死”“工业化到来的风险性社会”“主体性的消亡”三个阶段。人工智能为代表的技术冲击司法制度是时代转型下现代性危机的新变种,但没有逃出现代性危机的范畴。作为被冲击的主体,找回意义感仍是主要矛盾点。法律人的价值自洽是基础,以此为根据,依靠“行动”建立“意义”,不能被动“等待戈多”,法律人在已进行了深刻反思的情况下,密涅瓦的猫头鹰应该在黄昏时刻起飞。
中国政法大学法学院程滔教授提到了人工智能对律师事务所、法院和检察院的赋能。人工智能作为“双刃剑”,带来了很大便利的同时也产生了一系列的问题。正如张传玺老师提到的审判中心主义问题。机器的运用使裁判者和当事人的关系更加疏离,削弱了司法官人道主义的责任感。“我们培养机器像法律人那样思考,但可能没有更好地利用机器,反而是法律人变得像机器那样机械思考。”此外,人工智能还可能存在输出结果错误、输出答案具有随机性、数据滞后性、忽略了案件的个性以及影响正义以看得见的方式实现等问题。这些都对职业伦理教学和实践中的律师保密、律师利益冲突以及法官公正司法有所启发。
中国政法大学法学院副教授郭晓飞将人工智能的新事物与很多“旧的思考”相结合并提出洞见。前述老师们的发言引出了对一个问题的思考,即法院、检察院和律师行业在算法方面的不平衡或断裂问题。法院和检察院有自己算法系统,但律师是没有的。算法在律师和法官、检察官之间是极度不平衡的。律师行业构建自己的数据库会受到律师保密义务以及当事人知情同意的限制。算法黑箱与职业神秘主义有关。法院和检察院的系统内数据较少对律师公布的同时,恰好也在一定程度上保障了律师不会失业。此外,人工智能伦理与人工智能背景下的法律职业伦理存在联系,也可以作不同层次的讨论。最后,审判中心主义、案卷笔录中心主义、法官的主体性和独立性、法官司法裁量权以及司法腐败问题在人工智能发展的当下引出了更多思考。
浙江警官职业学院教师谢军在与谈中提到了人工智能发展下职业融合的底层逻辑和顶层设计问题,从人工智能和行业关联性的角度,思考行业的服务性质和定位。青年律师对技术的熟练度和接受度较强。最后,在职业伦理和社会责任的平衡问题方面,法律人需要从职业伦理和社会责任出发,以法律职业作为服务性的行业的底层逻辑去探索。联系网络直播和外卖等其他就业形态,法律规制过于严格影响会影响企业的发展,过于宽松又会激发投诉等问题。我们需要从实战性和时效性的角度做更多思考和探索。
第四单元圆桌研讨环节由中国政法大学律师学研究中心研究员周蔚主持,主题为人工智能在不同法律职业中的应用。本单元汇聚了来自不同法律领域的专家,共同交流了法律与科技的融合趋势。