本文主要討論了法律人工智能的歷史、現狀和未來的研究方向。
通過實驗對現有工作進行了深入分析，分析了它們的優缺點，並揭示了壹些未來的研究方向。
可解釋性強的符號模型效率低，嵌入方法性能更好，但通常沒有很好的可解釋性，在壹些道德相關問題上存在很大問題:經典的性別和種族偏見。
我們總結了基於符號的方法和基於嵌入的方法所面臨的三個主要挑戰:
本文的主要貢獻如下:
單詞和單詞嵌入非常重要。
直接從司法案例的描述中很難學到專業詞匯。為了克服這個困難，我們可以同時捕捉語法信息和司法知識。
知識圖方法在司法領域很有前途，但在實際使用之前，仍有兩個主要挑戰:
這兩個挑戰使得LegalAI通過嵌入的知識建模變得非常重要。研究人員將在未來努力克服這些困難。
預訓練語言模型(PLM)，如BERT，最近關註了許多NLP領域。鑒於預培訓模式的成功，在LegalAI中使用預培訓模式是壹個非常合理和直接的選擇。然而，在司法文本中，仍然存在壹些差異。如果直接使用這些PLM，會導致性能不佳。這些差異來自司法文本中包含的術語和知識。為了解決這些問題，鐘(2019)提出了壹個包括民事和刑事案件在內的中文司法文書預訓練模型。為司法領域設計的PLM為法律任務提供了更高質量的基準系統。在實驗中，我們比較了適用於法律任務的不同BERT模型。
為了將來在LegalAI中探索PLM，研究人員可以將重點放在將知識集成到PLM中。將知識融入預培訓模式有助於司法概念之間的推理。為了將通用領域集成到模型中，已經做了大量的工作。
基於符號的方法也稱為結構化預測方法。
符號化的司法知識包括:事件和關系，可以提供可解釋性。
深度學習方法可用於提高基於符號的方法的性能。
信息抽取在自然語言處理中得到了廣泛的研究。IE強調從文本中提取有價值的信息，以及實體識別、關系抽取、事件抽取等壹些技術。
為了更好地利用司法文本，研究者們嘗試在LegalAI的命名實體識別任務中使用本體或全局壹致性。為了從司法文本中提取關系和事件，研究人員試圖使用不同的方法，包括:手工制作的規則，CRF(我不知道這是什麽)，聯合模型如SVM，CNN，GRU，或無標度標識符網絡(我不知道這是什麽)。
現有的工作已經為提高IE的效果做出了很大的努力，但是我們需要更加關註如何利用好提取的信息。這些提取的符號有法律依據，可以為司法應用提供可解釋性。所以不能只針對方法的性能。這裏，我們展示了兩個使用提取的符號來提高法律解釋能力的例子:
在今後的工作中，我們需要更加關註提取的信息在LegalAI任務中的應用。這些信息的使用取決於特定任務的需求，並且這些信息可以提供更多的可解釋性。
除了NLP中的* * *符號，LegalAI還有壹個獨特的符號叫做合法元素。提取合法要素側重於提取壹些關鍵要素，比如是否有人被殺，是否有東西被偷。這些要素是犯罪的基本要素，我們可以根據這些要素直接給犯罪人定罪。使用這些元素不僅可以為判斷和預測任務帶來直接的監督信息，還可以使模型的預測結果更具可解釋性。
從這個例子可以看出，提取的元素可以確定判斷結果。這些元素對下遊任務很有用。
為了更深入地分析基於元素的符號，舒(2019)構建了三個數據集用於提取元素:離婚糾紛、勞動糾紛和借貸糾紛。這些數據集需要我們檢查相關元素是否滿足，將這個任務標準化為多標簽分類任務。為了展示現有元素提取方法的性能，我們進行了壹系列實驗，如下表所示。
為了測試元素提取，我們在NLP中實現了幾個經典的編碼模型。包括TextCNN、DPCNN、LSTM、BiDAF和BERT。我們使用了兩種不同的Bert預訓練參數(原始BERT，BERT:用中國司法文書訓練的Bert-MS)。從這個結果可以看出，壹般領域的預訓練模式效果不如特定領域，這是LegalAI推廣PLM的必要性。在接下來的論文中，我們將使用BERT對法律文檔進行預訓練，以達到更好的性能。
從目前元素提取的結果來看，現有的方法已經取得了不錯的效果，但是在相關應用中還不夠。這些元素可以被視為預定義的法律知識，並幫助下遊任務。如何提高元素提取也需要進壹步研究。
介紹幾個典型應用:
法律判斷預測
相似案例匹配
法律問答
法律判決預測和相似案例匹配可視為大陸法系和英美法系的核心功能。法律問答可以給不懂法律的人提供咨詢服務。所以探索這三個任務基本上可以涵蓋LegalAI的大部分方面。
LJP是我國民事法律制度中的壹項重要制度。在民事法律體系中，判決是以事實和法律規定為依據的。LJP主要關註的是如何通過事實描述和民法中的相關規定來預測判決結果。
下面將介紹LJP的研究進展和未來的研究方向。
前期工作包括:運用統計學和數學方法，分析具體場景下的司法案例。同時，結合數學方法和司法規則，使預測結果具有可解釋性。
針對的進展，肖(2018)提出了壹個大規模中文刑事判決預測數據集C-C(C表示中文)。該數據集包含268萬份司法文件，是LJP的有效基準。C-LJP包含三個子任務:相關的文章，適用的費用，和罰款的$ term。前兩個可以形式化為多標簽分類任務，最後壹個是回歸任務。英語LJP也有，但是規模比較小。
隨著NLP的發展，LJP的研究者開始考慮使用NLP任務。這些作品可以分為兩個主要方向:1。利用更新後的模型提高績效:陳(2019)利用gate機制提高了監禁$ TERM的績效，潘(2019)提出利用多尺度註意處理多被告案件。此外，其他研究人員探索如何使用法律知識和LJP的壹些屬性。羅(2017)利用事實與法律文章之間的註意力來幫助預測適用的指控。鐘(2018)使用拓撲圖來利用不同任務之間的關系。胡(2018)整合了可區分的法律屬性，有助於預測低頻指控。
壹系列關於C-LJP的實驗
實驗結果:
可以看出，很多模型在預測高頻收費和文章方面都取得了不錯的表現。但在低頻標簽上表現不佳，可見微F1與宏F1差距較大。
胡(2018)給出了少拍學習在中的應用。但是，他們的模型需要手動添加壹些額外的屬性信息，這使得它非常費力，並且很難應用到其他數據集。此外，我們發現BERT的性能不夠好，因為在壹些模型參數較少的模型上沒有改進。主要原因是司法文本長度普遍較長，但BERT文本最長長度為512。據統計，司法文本最長超過5w字，15%的文檔字段全部超過512。因此，LJP需要壹些文檔理解和推理技巧。
雖然基於嵌入的方法已經取得了很好的效果，但是在LJP中我們需要把基於嵌入和基於符號結合起來。以TopJudge為例。該模型規範了LJP任務(基於符號的部分)的拓撲順序，並使用TextCNN對事實描述進行編碼。(我有點好奇在這個TopJudge中如何通過基於符號的方式做出壹個拓撲順序？對模型有多有用。)通過結合基於符號和基於嵌入的方法，TopJudge取得了較好的效果。通過比較TextCNN和TopJudge可以發現，增加判斷的順序可以提高性能。
為了更好的LJP性能。研究人員需要探索壹些挑戰:
在使用普通法系(似乎解釋為卷宗法律制度，通過類似案件來裁判案件)的國家，如美國、加拿大、印度，都是通過類似案件和代表性案件來做出判決決定的。因此，如何認定類似案件是英美法系中最需要解決的問題。
為了更好地預測普通法系的判決結果，相似案例匹配成為法學界的壹個重要課題。SCM中相似性的定義也是多種多樣的。供應鏈管理需要從不同的信息粒度對案例之間的關系進行建模，如事實級、事件級和元素級。換句話說，SCM是語義匹配的壹種特殊形式，有助於提取法律信息檢索。
傳統的信息檢索方法側重於使用統計方法來度量$ term級的相似性，如TF-IDF。此外，其他研究者也試圖利用元信息來捕捉語義相似度。很多機器學習方法也應用於IR，比如SVD或者因式分解。隨著深度學習的發展，多層感知器、CNN和RNN也被應用到信息檢索中。
已經有壹些法律數據集:COLIEE，CaseLaw，CM。COLIEE和CaseLaw都用於從大型語料庫中提取最相關的文章。CM中的數據樣本為計算相似性提供了三個司法文檔。這些數據集都提供了壹個基準。許多研究人員專註於構建壹個易於使用的法律搜索引擎(司法版谷歌)。
以計算語義級相似度為目標，在LegalIR中使用深度學習方法。Tran(2019)提出了壹個基於CNN的模型，將文檔級和句子級的池化結合起來，實現了COLIEE中SOTA的效果。
為了更好地了解LegalIR目前的進展情況，我們使用CM(肖2019)進行了實驗。CM包含8964個三元組，每個三元組包含三個司法文書(A、B、C)。CM的任務是區分哪壹個更接近A而不是B或c。我們實現了幾種不同類型的基線:
我們發現該模型在捕捉語義信息方面的性能優於TF-IDF，但不足以應用於供應鏈管理。正如肖(2019)所說，主要原因是數據集中的元素定義了司法案例之間的相似性。司法人員會更加關註兩個案件是否存在相關要素。僅僅考慮$ term級和語義級的相似性是不夠的。
供應鏈管理的進壹步研究需要在以下幾個方向努力:
法律問答(LQA):司法領域的問答系統。
司法專業人員的壹個很重要的任務就是為不懂法的人提供可靠的、高質量的司法咨詢服務。
在LQA，問題的形式會發生很大的變化:有些問題強調對司法概念的解釋，而有些問題主要考慮對具體案件的分析。此外，專業人士和非專業人士在專業詞匯的表達上可能存在差異，這些問題給LQA帶來了諸多挑戰。
LegalAI裏有很多數據集。段(2019)提出了司法閱讀理解的數據集，其格式與SQUAD 2.0類似，包括跨度提取、是非問句和不可答問句。此外，COLIEE包含500個是/否問題。另外，律師資格考試是律師非常重要的考試，所以律師資格考試的資料收集比較困難，因為需要專業的司法知識和技能。
除了這些數據集，研究人員還在LQA上使用了許多方法。基於規則的系統在早期的研究中取得了顯著的成果。為了獲得更好的性能，研究人員使用更多的信息來幫助推理，例如對概念的解釋或將相關文檔格式化為圖表。機器學習和深度學習方法，如CRF，SVM和CNN，也在LQA使用。然而，大多數現有的方法只在小數據集上進行測試。
我們選擇JEC-QA作為實驗的數據集，因為它是從律師考試中收集的最大數據集，以確保他的難度。JEC問答包含286，465，438+0多選，多個問題答案，以及79，433篇幫助回答問題的相關文章。JEC問答將問題分為知識驅動問題(KD-questions)和案例分析問題，並提供人工表現。我們實現了幾個有代表性的QA模型，包括BiDAF、BERT、Co-matching和HAF，這些實驗結果在表6中給出。
通過比較發現，這些模型在回答這些司法問題時，並不能達到它們在回答開放領域問題時的良好效果。在LQA，模型和人類之間有著巨大的差距。
為了有壹個更好的LQA方法，有幾個困難需要克服:
除了這篇文章，還有其他法律任務:法律文本摘要和從法律合同中提取信息。在任何情況下，我們都可以應用基於嵌入的方法來提高性能，並結合基於符號的方法來提高可解釋性。
三大挑戰:
未來的研究者主要可以結合嵌入法和符號法來解決這三個挑戰。
對於某些任務，沒有數據集，或者數據集不夠大。我們可以嘗試建立大規模高質量的數據集，或者使用少射/零射學習方法來解決這些問題。