
北京外國語大學法學院鄭曦在《法商研究》2025年第3期上發(fā)表題為《科技企業(yè)參與人工智能司法應用及其規(guī)制》的文章中指出:
科技企業(yè)對人工智能司法應用的參與,是在整個社會數(shù)字化浪潮的推動下展開的。人工智能技術的普遍運用塑造了社會生活的新形態(tài),推進或裹挾著社會生活的數(shù)字化、智能化轉型。從法院的視角看,允許、要求科技企業(yè)參與人工智能司法應用的最大內在驅動力源自沉重的案件數(shù)量壓力。從科技企業(yè)的視角看,其積極參與人工智能司法應用的根本內在驅動力來自追求經(jīng)濟利益的商業(yè)本能。
在人工智能司法應用中,科技企業(yè)除了扮演產(chǎn)品研發(fā)者、系統(tǒng)維護者、平臺運營者等技術角色外,還實質上擔任數(shù)據(jù)處理者、程序控制者和裁判參與者等角色。這可能與審判基本原理發(fā)生沖突,導致訴訟模式改變,并帶來其他外部政策性風險。針對這些風險,應當合理區(qū)分科技企業(yè)參與人工智能司法應用中的公私界限,明確“有限參與”的基本要求,并對其參與過程進行必要監(jiān)管。
在此基礎上,從制度層面規(guī)制科技企業(yè)在人工智能司法應用中的參與,應當從調適法院與科技企業(yè)的關系、確立技術標準、科以數(shù)據(jù)安全保護義務、保障審判權獨立運行、保護公民訴訟權利等方面展開。第一,在人工智能司法應用中,妥善處理法院與科技企業(yè)的關系,是緩解或避免科技企業(yè)參與所帶來的理念性和結構性風險,實現(xiàn)對科技企業(yè)的有效監(jiān)管、防止腐敗發(fā)生的必要前提。第二,從人工智能司法應用整體發(fā)展的角度看,確立技術標準亦有基礎性意義,符合加強監(jiān)督的基本理念要求。人工智能司法應用的技術標準具有科學性、靈活性、協(xié)商性。第三,科技企業(yè)在人工智能司法應用中扮演數(shù)據(jù)處理者的角色,應以數(shù)據(jù)處理者的身份,根據(jù)相關法律承擔數(shù)據(jù)安全保護之義務。在數(shù)據(jù)處理前承擔審查評估義務;在數(shù)據(jù)處理中承擔安全控制義務;在數(shù)據(jù)處理后承擔封存刪除義務;發(fā)生數(shù)據(jù)安全事件時承擔應急處置義務。第四,保障審判權獨立運行和保護公民訴訟權利則是科技企業(yè)參與人工智能司法應用是否符合法治之要求的重要判斷標準。
編輯:武卓立