田雨酥*
(本文原載《仲裁與法律》第148期 1 )
摘要:以人工智能為代表的計(jì)算機(jī)技術(shù)極大地影響了國際商事仲裁法律行業(yè)的運(yùn)轉(zhuǎn)。依托大數(shù)據(jù)技術(shù)和互聯(lián)網(wǎng)科技的人工智能已經(jīng)在多方面與國際商事仲裁產(chǎn)生交叉并引起廣泛討論。人工智能的適用為國際商事仲裁帶來更低的時(shí)間財(cái)務(wù)成本、更高的效率,也對(duì)仲裁透明度、仲裁數(shù)據(jù)的公開和使用提出了更高的需求。盡管可以成為非常優(yōu)秀的輔助工具,人工智能因數(shù)據(jù)偏見、算法的黑匣子屬性、對(duì)自然正義的缺省和當(dāng)前法律框架的限制而無法也不應(yīng)成為仲裁的裁判者。人工智能的廣泛適用也在經(jīng)濟(jì)學(xué)法律市場角度極大地影響著國際商事仲裁參與者的行為模式,使其背離了法治性與專業(yè)性。人工智能應(yīng)當(dāng)輔助而不是替代人類,應(yīng)善用而避免濫用,國際商事仲裁制度的公信力和權(quán)威性,有賴于含有令人信服說理的裁決而非簡單基于歷史數(shù)據(jù)的算法結(jié)論。
關(guān)鍵詞:人工智能 大數(shù)據(jù) 互聯(lián)網(wǎng) 國際商事仲裁
一、法律人工智能的現(xiàn)狀與發(fā)展
在計(jì)算機(jī)每天都在變得越來越強(qiáng)大的時(shí)代,互聯(lián)網(wǎng)計(jì)算機(jī)技術(shù)正在覆蓋人類工作生活的方方面面,目前,全球約有25億有線網(wǎng)絡(luò)用戶和60億無線網(wǎng)絡(luò)用戶。 2 互聯(lián)網(wǎng)與大數(shù)據(jù)衍生出的新科技領(lǐng)域就是以機(jī)器學(xué)習(xí)技術(shù)為代表的人工智能技術(shù)。在人工智能的支持下,曾經(jīng)需要消耗大量人力的許多工作方式都發(fā)生了革命性的改變,人類社會(huì)經(jīng)歷了以土地為中心的農(nóng)業(yè)社會(huì)、以市場為中心的工業(yè)社會(huì)、以網(wǎng)絡(luò)為中心的信息社會(huì)后,來到了當(dāng)下正在轉(zhuǎn)型的以算法為中心的智能社會(huì)變革中。 3 國際商事仲裁作為最主要的跨境爭議解決方式,也在科技的影響下展現(xiàn)出了新的活力。無論在仲裁實(shí)踐還是學(xué)術(shù)研究,發(fā)達(dá)的互聯(lián)網(wǎng)絡(luò)和越來越充分的數(shù)據(jù)都將國際商事仲裁法律帶向了更加自動(dòng)化、智能化的方向。這一發(fā)展變革的現(xiàn)實(shí)帶來了諸多新問題,也引發(fā)了仲裁社會(huì)的持續(xù)關(guān)注。 4
人工智能在影視作品中常常以擬人態(tài)的形象出現(xiàn)。代表人工智能的高級(jí)機(jī)器總是像斯皮爾伯格執(zhí)導(dǎo)《AI》電影中那樣被賦予與人類高度相似的面容、智慧以及感情,盡管是機(jī)器,但在外形、思想和情感上已與人類無異。人類對(duì)機(jī)器的該種期待很符合科學(xué)家John McCarthy對(duì)人工智能的定義,即“使機(jī)器像人一樣以智能的方式運(yùn)轉(zhuǎn)” 5 。而在當(dāng)前計(jì)算機(jī)技術(shù)水平下,人工智能應(yīng)用于更多場景且更強(qiáng)調(diào)計(jì)算機(jī)內(nèi)部的機(jī)器學(xué)習(xí)而非外形的擬人化,在具體仲裁實(shí)踐場景中多見于利用計(jì)算機(jī)和互聯(lián)網(wǎng)技術(shù)協(xié)助整理分類文檔、檢索案件相關(guān)法律法規(guī)、發(fā)現(xiàn)關(guān)聯(lián)案例裁判、搜集仲裁員背景信息、統(tǒng)計(jì)仲裁員以及仲裁機(jī)構(gòu)裁判結(jié)果等。目前人工智能實(shí)現(xiàn)的效果并非以技術(shù)模擬了人的外形肢體去處理事務(wù),而更像是一個(gè)谷歌搜索的完善升級(jí)版:用戶輸入一些條件,由機(jī)器內(nèi)核運(yùn)轉(zhuǎn)計(jì)算后將結(jié)果反饋在電腦屏幕上,只不過導(dǎo)出結(jié)果的過程要較簡單的“圖書館”式檢索復(fù)雜許多,計(jì)算機(jī)根據(jù)數(shù)據(jù)訓(xùn)練并自主產(chǎn)生算法以及自我升級(jí)就是機(jī)器學(xué)習(xí)的過程。機(jī)器學(xué)習(xí)并不代表人工智能的全部,它是人工智能的一個(gè)子集,是使計(jì)算機(jī)無需進(jìn)行規(guī)則編程就可以完成某件事的科學(xué),從根本上來講是一種創(chuàng)建問題解決系統(tǒng)的新方法。在機(jī)器學(xué)習(xí)系統(tǒng)中,隨著時(shí)間的流逝并暴露于訓(xùn)練數(shù)據(jù)集,計(jì)算機(jī)系統(tǒng)將變得更加智能。 6 目前廣泛應(yīng)用于仲裁領(lǐng)域的計(jì)算機(jī)智能化程度相較《牛津詞典》對(duì)人工智能的定義“能夠執(zhí)行通常需要人類智能的任務(wù)(例如視覺感覺,語音識(shí)別,決策和語言翻譯)的,計(jì)算機(jī)系統(tǒng)的理論和發(fā)展” 7 要狹窄許多。但該階段的人工智能已經(jīng)可以完成較檢索更加智能的任務(wù),例如語音庭審記錄、證人面容驗(yàn)證、仲裁文件翻譯以及問題處理解決方案提供等等。
二、人工智能在國際商事仲裁等法律行業(yè)的應(yīng)用
使法律能夠自動(dòng)化的嘗試,特別是那些為了改進(jìn)耗時(shí)耗力巨大工作的努力,已經(jīng)進(jìn)行了數(shù)十年。 8 即便尚不足以模擬資深律師和仲裁員的智慧水平,應(yīng)用于法律事務(wù)性領(lǐng)域的人工智能技術(shù)也已經(jīng)獲得了廣泛的實(shí)現(xiàn)和關(guān)注,結(jié)合對(duì)于科學(xué)技術(shù)未來在人類想象中所能達(dá)到水準(zhǔn)。在仲裁領(lǐng)域,選定仲裁員、法律研究、起草以及校對(duì)書面文書、文件翻譯、成本估算、開庭安排以及裁決書格式化部分的起草,都有人工智能適用的現(xiàn)實(shí)案例 。 9 以介入深度遞進(jìn)的角度,人工智能正從四個(gè)層面介入法律程序 10 :
一是逐步替代人力從事法條查詢、案例檢索、案件分類、庭審錄入等相對(duì)簡單、重復(fù)性高的工作,這在律師事務(wù)所以及仲裁機(jī)構(gòu)已經(jīng)得到了廣泛的應(yīng)用。例如LexisNexis的LegalAdvance線上服務(wù),本身就是一系列包含人工智能工具的搜索引擎集合;電子發(fā)現(xiàn)門戶Everlaw,能夠使用人工智能根據(jù)文件核心內(nèi)容數(shù)據(jù)進(jìn)行先進(jìn)的文檔分類。
二是作為主力,完成司法咨詢、合同審核、證據(jù)獲取、裁判文書輔助生成等輔助性任務(wù)。例如合同分析平臺(tái)Kirasystems可以通過人工智能技術(shù)自動(dòng)進(jìn)行合同條款審查以及盡職調(diào)查,能夠自動(dòng)為用戶抓取合同核心條款以及相關(guān)法律,在其官網(wǎng)中其聲稱“可以提供比初級(jí)律師更完善的盡職調(diào)查服務(wù)”,由美國最大的人力資源律所提供技術(shù)支持的ComplianceHR平臺(tái),可通過評(píng)估約1,400個(gè)案例和80個(gè)權(quán)重因子來評(píng)估全美國轄區(qū)用戶的就業(yè)狀況 。 11
三是對(duì)海量裁判文書進(jìn)行統(tǒng)計(jì)分析并作出預(yù)測,而為法官裁判提供參考信息。例如IBM公司的Ross Intelligence用人工智能技術(shù)讀取美國聯(lián)邦和州案例的數(shù)據(jù)庫,并在用書面自然語言表達(dá)機(jī)器對(duì)法律爭議點(diǎn)、案件事實(shí)以及案件程序的理解和解釋后,為用戶推薦和當(dāng)前問題最相關(guān)的判例和法條。
第四個(gè)層面是人們期待人工智能發(fā)展的能力和方向,即人工智能直接參與決策或進(jìn)行布局裁判,比如民商事領(lǐng)域進(jìn)行事實(shí)判斷爭議解決結(jié)果推演,刑事領(lǐng)域進(jìn)行再犯風(fēng)險(xiǎn)評(píng)估、嫌疑人逃脫可能性判斷、合理量刑測算等。起源于哈佛大學(xué)法學(xué)院的Arbilex,已經(jīng)為價(jià)值超過30億美元的國際仲裁案件提供量化的結(jié)果分析、減少可能發(fā)生的錯(cuò)誤并最大化案件收益; 12 荷蘭國家法律援助服務(wù)中心使用了人工智能技術(shù)的“爭議解決機(jī)器人”,可以就離婚、租賃、勞動(dòng)雇傭、消費(fèi)者事務(wù)等方面的糾紛提供全面調(diào)解服務(wù)。 13 美國法院已經(jīng)在刑事程序的保釋和假釋決策中使用了人工智能工具,并依據(jù)人工智能得出的結(jié)論拒絕了一位嫌疑人假釋的申請(qǐng),并依據(jù)其累犯的經(jīng)歷作出判處其有期徒刑六年的處罰。 14
人工智能逐漸在法律行業(yè)中獲得了更高的權(quán)限,在法律領(lǐng)域的應(yīng)用可能性已經(jīng)由“協(xié)助”提升到了“決定”的定位,目前,人工智能的法律決策過程主要仍然依賴機(jī)器學(xué)習(xí)的過程:將一個(gè)案例中的多種指標(biāo)通過向量化方法變成數(shù)值,將數(shù)值轉(zhuǎn)化為算法,該算法隨著數(shù)據(jù)的豐富和增加逐漸提高準(zhǔn)召率,從而向更“智能”的方向改進(jìn),以期待計(jì)算機(jī)能夠像一個(gè)法律專業(yè)人士一樣思考并作出決策。
三、國際商事仲裁由人工智能技術(shù)所帶來的改變
人工智能為國際商事仲裁帶來的改變?cè)谇拔乃鏊膫€(gè)層面均有體現(xiàn),并已經(jīng)在國內(nèi)外得到了廣泛的評(píng)論。一些改變是顯而易見的改進(jìn),例如節(jié)約時(shí)間與金錢成本,而另一些改變?nèi)缤苿?dòng)國際商事仲裁信息的公開化,在不同判斷條件以及語境下很難單一評(píng)判其為優(yōu)點(diǎn)還是缺點(diǎn)。無論好壞,人工智能的應(yīng)用已經(jīng)對(duì)國際商事仲裁的當(dāng)下以及未來產(chǎn)生了巨大的影響。
(一)提高仲裁效率以及降低成本
在當(dāng)前技術(shù)水平下,人工智能已經(jīng)能夠成功地執(zhí)行定制的法律任務(wù)并協(xié)助法律從業(yè)者,它徹底改革了電子搜索等功能,并極大地提升了程序效率。用計(jì)算機(jī)承擔(dān)較人類腦力數(shù)千萬倍的數(shù)據(jù)處理工作,是人們不斷開發(fā)推進(jìn)計(jì)算機(jī)技術(shù)向前的現(xiàn)實(shí)需求。人工智能在進(jìn)行文檔數(shù)據(jù)整理、法條檢索及生成分析報(bào)告方面有很成熟的算法經(jīng)驗(yàn),在人工智能進(jìn)入仲裁領(lǐng)域大眾視野之前很久,追求效率又忙碌的律師們?cè)缫验_始付費(fèi)使用高級(jí)便利的信息自動(dòng)化電子系統(tǒng) 15 。如何根據(jù)合同定制對(duì)己有利的仲裁條款 16 ,在仲裁程序中如何選定適合的仲裁員,這些已經(jīng)越來越多地由人工智能技術(shù)給出合適的結(jié)論。人工智能極大地降低了發(fā)生在初級(jí)的法條及判例檢索、事實(shí)比較、文檔整理等方面的人力財(cái)力消耗,仲裁律師、仲裁員以及仲裁機(jī)構(gòu)都由此受益。仲裁律師和仲裁員從初級(jí)工作中節(jié)約出的時(shí)間可以更多地投入到仲裁本身中,在單位時(shí)間內(nèi)可以處理的案件數(shù)量也由此上升。盡管出現(xiàn)了多種數(shù)據(jù)庫及人工智能輔助工具,目前的技術(shù)水平仍不足以支撐一個(gè)復(fù)雜的國際商事仲裁爭議全部提交人工智能進(jìn)行系統(tǒng)地解決,所以就現(xiàn)有應(yīng)用程度而言,國際商事仲裁領(lǐng)域的資深律師、仲裁員和仲裁機(jī)構(gòu)理論上是人工智能技術(shù)受益最大的群體,其使用人工智能減少了成本,同時(shí)并未因?yàn)槿斯ぶ悄艿倪m用而減少工作機(jī)會(huì)。
(二)增加小金額案件以及低財(cái)務(wù)能力仲裁使用者數(shù)量
基于人工智能出色的文件信息整理、法條搜索以及處理多種文件的能力,很多原本需要依靠人類律師書寫仲裁申請(qǐng)書、推進(jìn)仲裁立案等程序工作都可以經(jīng)由人工智能方便快捷地進(jìn)行處理。這使得當(dāng)事人進(jìn)入國際商事仲裁程序的門檻大大降低,從而理論上增加了原本由于專業(yè)和成本限制而無法進(jìn)入仲裁程序的當(dāng)事人數(shù)量,并相應(yīng)提升了該部分仲裁案件的數(shù)量。增加的仲裁案件屬性為爭議標(biāo)的額較低,所涉主體商業(yè)體量較小,當(dāng)事人在成本比例上無法或不愿投入較多財(cái)務(wù)和時(shí)間精力。在該部分案件中,爭議類型也傾向?yàn)槭聦?shí)清楚、法律關(guān)系簡單的案件,例如民間小額借貸合同、消費(fèi)者購買合同、互聯(lián)網(wǎng)服務(wù)合同等。
(三)提升仲裁透明度以及仲裁裁決公開化
仲裁制度的傳統(tǒng)特征之一是保密性,因此獲得了注重商業(yè)機(jī)密的跨境商事主體的青睞,商人們期待隱秘快速地解決爭議,并盡快開展新的交易。而人工智能機(jī)器學(xué)習(xí)數(shù)據(jù)樣本的廣泛和充分程度直接影響了算法結(jié)論的準(zhǔn)確程度,精準(zhǔn)性的基礎(chǔ)是大量充足數(shù)據(jù)的喂養(yǎng)和訓(xùn)練,需要大量的裁決內(nèi)容、程序指令、臨時(shí)措施內(nèi)容數(shù)據(jù)進(jìn)行訓(xùn)練和學(xué)習(xí)。在人工智能廣為人知之前,互聯(lián)網(wǎng)作為計(jì)算機(jī)技術(shù)的代表,帶來了信息的全球化和大數(shù)據(jù)概念的產(chǎn)生,也使得仲裁數(shù)據(jù)即使在保密制度下,依然在全球范圍內(nèi)變得更加易于獲得,國際商事仲裁的人工智能也因此獲得了得以訓(xùn)練的數(shù)據(jù)基礎(chǔ)。在其自己得以發(fā)展后,已經(jīng)開始在應(yīng)用階段的人工智能以及相關(guān)產(chǎn)業(yè)又對(duì)仲裁信息和數(shù)據(jù)的公開、流動(dòng)性和可獲得性提出了更高要求。近年來國內(nèi)外各知名仲裁機(jī)構(gòu)均將各自年度總結(jié)報(bào)告作為定期發(fā)行的公開文件 17 ,一方面得以于計(jì)算機(jī)對(duì)多種數(shù)據(jù)強(qiáng)大的歸納處理能力,這同樣也是對(duì)外界期待的回應(yīng)。國際商會(huì)仲裁院在數(shù)年前就對(duì)仲裁裁決的公開化表明了態(tài)度,以“公開”為默認(rèn),除非當(dāng)事人表示反對(duì),其作出的仲裁裁決將在發(fā)送當(dāng)事人的兩年后進(jìn)行公開。 18 2021年4月1日后,國際商會(huì)仲裁院與法國法律科技公司Jus Mundi合作,逐步系統(tǒng)地公開其作出的仲裁裁決,這種做法被認(rèn)為“不僅有助于提高國際商會(huì)仲裁的透明度,也能夠提升國際商會(huì)仲裁院的決策機(jī)制,也將更廣泛地確保和加強(qiáng)仲裁作為全球性審判機(jī)制的合法性”。 19 其他國際知名仲裁機(jī)構(gòu)中國國際經(jīng)濟(jì)貿(mào)易仲裁委員會(huì)、新加坡國際仲裁中心、香港國際仲裁中心、瑞典斯德哥爾摩商會(huì)仲裁院等亦有公開發(fā)布經(jīng)過匿名、消密等處理的裁決。 20 仲裁透明度和公開化問題在近年來被反復(fù)探討,無論反對(duì)或支持的聲音如何,它已經(jīng)成為現(xiàn)代仲裁制度不可逆轉(zhuǎn)的趨勢之一。人工智能對(duì)數(shù)據(jù)的強(qiáng)大管理處理能力使得仲裁數(shù)據(jù)愈加易于獲得,另一方面其自身的發(fā)展內(nèi)在需求又要求仲裁社會(huì)不斷進(jìn)行更多更深入的信息發(fā)送,以供給其作為繼續(xù)訓(xùn)練的數(shù)據(jù)基礎(chǔ)。在兩方面的驅(qū)動(dòng)下,人工智能在提升仲裁透明度以及仲裁裁決公開化方面起到了巨大的作用。
(四)人工智能裁判“客觀性”與人類裁判“主觀偏見”的辯證
在前沿化的理論假設(shè)中,人工智能有能力根據(jù)機(jī)器學(xué)習(xí)進(jìn)行法律決策,也即以仲裁員的身份作出裁決結(jié)論。有觀點(diǎn)認(rèn)為人工智能進(jìn)行仲裁裁判的優(yōu)勢之一是可以降低或消除人類仲裁員的主觀偏見因素,從而產(chǎn)生更公正、客觀、完美的仲裁法律決策。表面看來,基于數(shù)據(jù)訓(xùn)練而進(jìn)行的機(jī)器學(xué)習(xí)的確排除了人類仲裁員在審理案件中所帶有的主觀偏見,因?yàn)橹饔^因素是深藏在人類仲裁員的文化、政治、生活背景中,這種主觀常常是帶有偏見而不自知的,更遑論人類仲裁員生活環(huán)境中復(fù)雜的人際關(guān)系因素。但人工智能作出的裁決結(jié)論是從提供給它的數(shù)據(jù)訓(xùn)練集中自我訓(xùn)練而來,這些原始的數(shù)據(jù)訓(xùn)練集正是這些帶有“主觀偏見”的人類仲裁員所作出的,甚至可以說,人工智能在基于人類的主觀偏見上進(jìn)行學(xué)習(xí)。不僅初始數(shù)據(jù)集合中的元數(shù)據(jù)是人類仲裁員“主觀偏見”后的產(chǎn)物,如何選擇數(shù)據(jù)以及選擇何種數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)和訓(xùn)練,依然受到人工挑選的影響,人工智能機(jī)器學(xué)習(xí)優(yōu)化的方向也是帶有偏見的人類所確定的。任何人工智能的訓(xùn)練都不會(huì)單純基于世界上每天產(chǎn)生的新聞內(nèi)容而完全自主自動(dòng)改進(jìn),它時(shí)時(shí)刻刻受到人類監(jiān)管者社會(huì)政策導(dǎo)向以及價(jià)值取向的影響。舉例而言,一個(gè)人工智能仲裁員總是傾向于主動(dòng)降低其認(rèn)為過高的、申請(qǐng)人主張的違約金金額,該人工智能的人類監(jiān)管者因此降低了違約金因素在算法中的權(quán)重使其更少地對(duì)利息數(shù)值進(jìn)行更改。這種優(yōu)化也正是處于該人類監(jiān)管者“違約金問題不應(yīng)被仲裁員主動(dòng)調(diào)低”的主觀偏見而開啟的,該人工智能算法的優(yōu)化方向就會(huì)朝向人類的主觀偏見而發(fā)展。正如仲裁界廣為流傳的名言“仲裁的好壞取決于仲裁員的好壞”,人工智能算法的好壞亦取決于制造者提供的數(shù)據(jù)集的好壞 21 。算法的自我學(xué)習(xí)和改進(jìn)可以放大并永久保留初始嵌入的偏差,并生成更多受到偏差污染的數(shù)據(jù),并在算法內(nèi)部形成一個(gè)惡性循環(huán)。 22 在這個(gè)角度,計(jì)算機(jī)算法并但沒有消除人類主觀偏見,反而在復(fù)制著這些偏見,而為了消除偏見進(jìn)行的優(yōu)化改進(jìn),也是基于一個(gè)新的偏見而產(chǎn)生。算法本身雖然是一個(gè)客觀存在的事物,但其本身隱藏著價(jià)值偏好,偏好的復(fù)制和擴(kuò)大產(chǎn)生的是法律決策的單一化及裁判的機(jī)械化。實(shí)際上,人工智能一直在各種領(lǐng)域都因?yàn)榇嬖诮Y(jié)論偏見而遭受質(zhì)疑 23 ,而在仲裁制度發(fā)達(dá)地區(qū),人類仲裁員反而并非經(jīng)常出現(xiàn)關(guān)于主觀偏見的批評(píng)。
(五)鞏固增強(qiáng)既有仲裁裁決和規(guī)范的影響力
人工智能的發(fā)展對(duì)于大數(shù)據(jù)產(chǎn)生的需求,結(jié)合國際商事仲裁因保密性而產(chǎn)生的高度數(shù)據(jù)稀缺性,使得現(xiàn)有可查詢仲裁裁決以及仲裁規(guī)范的地位和影響力,在人工智能機(jī)器學(xué)習(xí)的前中期大大提升。人工智能機(jī)器學(xué)習(xí)在從無到有的訓(xùn)練中,提供給它的數(shù)據(jù)集是一切機(jī)器學(xué)習(xí)和數(shù)據(jù)訓(xùn)練的基礎(chǔ),因此在相當(dāng)長一段時(shí)間內(nèi),仲裁人工智能的結(jié)果,都將復(fù)制那些現(xiàn)有仲裁裁決的結(jié)論并遵守現(xiàn)有仲裁規(guī)范和仲裁法律文化,直至人工監(jiān)管者為其提供新的不同數(shù)據(jù)或針對(duì)性地優(yōu)化改變?nèi)斯ぶ悄芩惴▽?duì)具體數(shù)值的判斷權(quán)重。仲裁發(fā)達(dá)地區(qū)和制度下的仲裁參與者將成為人工智能所依賴數(shù)據(jù)集的主要提供者,人工智能算法的改進(jìn)和適用推動(dòng)也主要由相同主體完成,這將不斷鞏固既有影響力的仲裁裁決、仲裁規(guī)范和仲裁法律文化的權(quán)威性。
(六)算法“黑匣子”屬性導(dǎo)致仲裁裁判結(jié)果的非解釋性
人工智能算法核心依賴于從數(shù)據(jù)中挖掘隱藏的因素或模式,由計(jì)算機(jī)從大量數(shù)據(jù)自我訓(xùn)練并提取算法,而非人工編制算法輸入到計(jì)算機(jī)中。 24 但在機(jī)器學(xué)習(xí)中,人們很難以指令或其他精確的方式形容或定義這種自動(dòng)訓(xùn)練出來的算法 25 ,這也就是算法的“黑匣子”屬性,人們只能看到輸入的條件和得出的結(jié)果,而無法得知為何、如何得出相應(yīng)的結(jié)果。以垃圾郵件篩選的算法為例,人們將已判定為垃圾郵件和非垃圾郵件的海量郵件范例提供給計(jì)算機(jī),由其自行提取郵件范例轉(zhuǎn)化為的計(jì)算機(jī)符號(hào)并自我訓(xùn)練形成算法,在該算法中,下一封投入的郵件被決定為“垃圾郵件”或“非垃圾郵件”。依照過往提供的數(shù)據(jù),一封帶有彩色背景、標(biāo)記“促銷”“打折”“商城”等信息的郵件將極大概率會(huì)被判定為垃圾郵件。這看起來是天衣無縫的邏輯,但現(xiàn)實(shí)中算機(jī)還是會(huì)時(shí)常將某些郵件進(jìn)行錯(cuò)誤的定義,人們總在反復(fù)從郵箱的垃圾箱中尋回重要的郵件,且無法從計(jì)算機(jī)算法中獲取具體的原因,只能人工將某發(fā)件人設(shè)定為白名單而解決該問題。仲裁法律人工智能也面臨相似而且更艱難的處境:基于同樣邏輯的算法,人工智能無法就其判定仲裁一方違約或未違約(類比“垃圾郵件”和“非垃圾郵件”)給出解釋或說明。更遑論仲裁領(lǐng)域可提供數(shù)據(jù)的數(shù)量幾千萬倍少于現(xiàn)存的電子郵件數(shù)量,人工智能算法的訓(xùn)練精準(zhǔn)性將大打折扣。
在某些批量的、法律關(guān)系及適用高度成熟化的類型案件中(例如互聯(lián)網(wǎng)小額借貸案件),當(dāng)事雙方似乎不需要詳細(xì)說理只要快速獲得裁判結(jié)果即可。對(duì)于此類案件,人工智能的特別改進(jìn)優(yōu)化是否可以使人們基于對(duì)效率和正確結(jié)論的快速獲取而無視過程原因,答案也許依然是否定的。這種否定性存在于人們對(duì)僅得出結(jié)論的信賴度會(huì)快速被結(jié)果的偏差性所擊敗。例如當(dāng)發(fā)現(xiàn)人工智能傾向于將黑人當(dāng)事人裁定為違約者時(shí),人們基于政治正確性要求降低算法中對(duì)種族因素的權(quán)重,但該因素可能關(guān)聯(lián)著當(dāng)事人所在地、經(jīng)濟(jì)能力、財(cái)務(wù)背景等多種因素,該調(diào)整未必使得人工智能裁判向著更“正確”方向改進(jìn)。人工智能算法是復(fù)雜且無法解釋的,為了優(yōu)化而進(jìn)行的人工干預(yù)可能會(huì)使人工智能向另一個(gè)錯(cuò)誤的方向變動(dòng)。另一部分認(rèn)為大數(shù)據(jù)和互聯(lián)網(wǎng)技術(shù)可以實(shí)現(xiàn)人工智能裁判的觀點(diǎn),基于認(rèn)為裁判者應(yīng)嚴(yán)格地遵循先例,即嚴(yán)格的“判例”規(guī)則,但現(xiàn)實(shí)法律系統(tǒng)的判例使用尚需要法官對(duì)判例作出區(qū)分,確定先例的判決理由再?zèng)Q定是否遵循,核心依然是裁判者對(duì)先例的判斷。退一步而言,過往案例生成數(shù)據(jù)顯示的結(jié)果可以簡單等于法律決策的規(guī)律性這個(gè)連接仍然是存疑的,裁判正義的規(guī)律很難通過大數(shù)據(jù)進(jìn)行體現(xiàn),因?yàn)椴门械慕?jīng)驗(yàn)與知識(shí)很多是默示的、隱含的,未必體現(xiàn)在裁判文書的數(shù)據(jù)中。 26 這使得人工智能真正從過往案例提取出“正確”裁判結(jié)果的成本進(jìn)一步提高,可能性進(jìn)一步降低。
(七)人工智能作出仲裁裁決的道德倫理以及法律限制
前述數(shù)據(jù)獲取及篩選的困難性、技術(shù)水平限制、算法結(jié)果的不可解釋性等因素,在推崇人工智能可以全面取代人類的觀點(diǎn)中都是可以解決的,人工智能的全面支持者將希望寄托于國際商事仲裁社會(huì)未來逐步披露出的足夠多的案件信息數(shù)據(jù)、信息全球化所帶來的人工智能在法律法規(guī)方面的全能、以及技術(shù)發(fā)展到足夠先進(jìn)的程度,必將產(chǎn)生可以解讀人工智能算法理據(jù)的另一種算法從而使人們能夠獲知人工智能仲裁員裁判案件的真實(shí)邏輯等“用科技解決科技問題”的方法。但除卻前述技術(shù)問題,由人工智能取代人類作為仲裁員還面臨著道德倫理以及法律雙重限制。正如存在“瑕不掩瑜”的邏輯一樣,一個(gè)完全由人工智能推進(jìn)并裁判的國際商事仲裁,何為“瑜”何為“瑕”的確定,指向了人們選擇國際商事仲裁作為爭議解決方式的價(jià)值取向問題。在對(duì)爭議解決效率有著極端追求的情況,例如僅僅要求機(jī)器測算出一個(gè)金錢給付金額的結(jié)果,人們可以選擇一個(gè)人工智能系統(tǒng)進(jìn)行“勝率”的測算并選擇以何種金額進(jìn)行和解--這也正是一些第三方機(jī)構(gòu)所提供的服務(wù)。但在當(dāng)事人選擇進(jìn)入一個(gè)案件的仲裁程序并進(jìn)行數(shù)月乃至數(shù)年的抗辯時(shí),即使將效率價(jià)值取向看待如此之重的國際商事仲裁中,人們永遠(yuǎn)不會(huì)放棄的還是對(duì)自然正義的追求,而追求自然正義的非常重要一點(diǎn)就是實(shí)現(xiàn)正義的過程。結(jié)合國際商事仲裁商人法的起源以及仲裁裁決跨境可執(zhí)行性的要求,仲裁的靈魂在于對(duì)法治正義性和商業(yè)專業(yè)性的兼得。法治是法律規(guī)則和法理的規(guī)范,而非歷史規(guī)律的規(guī)范,商事行業(yè)的專業(yè)知識(shí)更非僅僅對(duì)于過去知識(shí)的重復(fù),而在隨著實(shí)踐不斷變化更新。由于人工智能機(jī)器學(xué)習(xí)算法只能從大數(shù)據(jù)的特征或規(guī)律中建構(gòu)模型并得出結(jié)果,那么將該結(jié)果作為裁判結(jié)論,理論上就不是一個(gè)依照法律和專業(yè)知識(shí)得出的裁判結(jié)果。在人工智能的裁判中,理由不再重要,重要的是歷史統(tǒng)計(jì)數(shù)據(jù),論證和說理不再重要,重要的是對(duì)過去的模仿和重復(fù)。 27 在對(duì)裁判說理缺省的情況下,仲裁對(duì)案涉當(dāng)事人的公開性和透明性都將遭到嚴(yán)重?fù)p毀。缺失的、不充分的或偏離人們內(nèi)心自然正義的說理,都會(huì)對(duì)仲裁公信力造成極大傷害。許多法域內(nèi)仲裁制度采一裁終局制,仲裁裁決結(jié)果在大多數(shù)情況下都無法被當(dāng)事人以上訴等形式進(jìn)行更改。在這種環(huán)境下,裁判使用無法說理的人工智能來完成,無疑將使當(dāng)事人對(duì)仲裁裁決進(jìn)一步產(chǎn)生不確定及質(zhì)疑。
人工智能作為仲裁員的制度設(shè)計(jì)和目前國際商事仲裁制度和許多仲裁地法律都有著明顯的不協(xié)調(diào)?!堵?lián)合國貿(mào)易法委員會(huì)仲裁規(guī)則》第6條“仲裁員的指定”,要求將仲裁員的國籍納入指定仲裁員的考慮以保證仲裁員的獨(dú)立和公正,并在管理規(guī)則中使用“人”、“個(gè)人”的用詞以指代仲裁員;1996年英國《仲裁法》涉及到了仲裁員的“去世”問題;2014年國際律師協(xié)會(huì)發(fā)布的IBA《國際仲裁中的利益沖突指南》第2.3.8條,規(guī)定仲裁員不得與當(dāng)事方有“親戚”關(guān)系;中國《仲裁法》第三十四條將仲裁員與當(dāng)事方有“親屬”關(guān)系、“私自會(huì)見”當(dāng)事方、接受當(dāng)事方“請(qǐng)客送禮”等情形規(guī)定為回避情形。在多個(gè)法律領(lǐng)域中,仲裁員的身份都被明示或默示為人類,人工智能作為仲裁員裁判案件在現(xiàn)有法律制度下適用面臨多重法律障礙。最新的法國法律已經(jīng)出臺(tái)規(guī)定,禁止使用數(shù)據(jù)分析去評(píng)估和預(yù)測司法判決模式,該法律規(guī)定“不能為了實(shí)現(xiàn)評(píng)估、分析、比較或預(yù)測的目的或效果而重復(fù)使用法官和司法人員的身份數(shù)據(jù)” 28 ,盡管在字面上該法律的限制范圍僅局限與“司法”人員,是否適用于仲裁尚未可知,但這是一個(gè)鮮明的對(duì)法律數(shù)據(jù)分析的傾向性政策反饋。
(八)人工智能對(duì)仲裁參與者行為的影響
人工智能在國際商事仲裁中進(jìn)行應(yīng)用,不僅反映出了技術(shù)、道德倫理和法律層面的影響效果,其算法機(jī)制本身也將極大地影響仲裁參與者的行為模式。更多公開的仲裁數(shù)據(jù)將逐漸增強(qiáng)國際商事仲裁案件勝率、預(yù)測信息等方面的人工智能評(píng)估報(bào)告的權(quán)威性和可信度,仲裁當(dāng)事人以及代理人都將從多種多樣的評(píng)估報(bào)告中獲得自身行為選擇的指引,尚未開啟仲裁程序的當(dāng)事人會(huì)因人工智能產(chǎn)生的評(píng)估結(jié)論做出選擇和解或堅(jiān)持進(jìn)行仲裁程序等決策。仲裁代理人也會(huì)參考客戶提交案件的人工智能評(píng)估結(jié)論而收取不同標(biāo)準(zhǔn)的費(fèi)用,或決定是否代理某個(gè)國際商事案件。
仲裁參與者的行為不僅將極大地被人工智能報(bào)告結(jié)論影響,人工智能本身的算法機(jī)制就會(huì)使作為理性人的仲裁參與者不斷“觀察”算法的發(fā)展并相應(yīng)調(diào)整自身的行為。以針對(duì)仲裁員的人工智能分析工具為例,其運(yùn)作模式是搜集該仲裁員作出的仲裁裁決、公開演講及出版文書中的觀點(diǎn)等信息向量化的數(shù)值作為訓(xùn)練數(shù)據(jù)集合,經(jīng)由機(jī)器學(xué)習(xí)而得出在某案件條件下該仲裁員可能作出何種結(jié)論的報(bào)告。一個(gè)越資深越有經(jīng)驗(yàn)的仲裁員,其信息的披露、檢索和曝光就會(huì)越多,其越有可能在人工智能算法中被生成一個(gè)完整的“畫像”,并受到仲裁當(dāng)事人的“挑選”而進(jìn)行指定。在仲裁員法律市場中,存在其他同類“畫像”的多個(gè)仲裁員,此時(shí)該仲裁員作為經(jīng)濟(jì)學(xué)理性主體,即有動(dòng)機(jī)試圖獲取該人工智能算法的邏輯以及不同數(shù)值在算法中的權(quán)重,并據(jù)以調(diào)整自己的行為,從而使自身該算法中“得分”更高,“畫像”更吸引當(dāng)事人,繼而在仲裁員市場中獲得更理想的地位并更多地獲得當(dāng)事人的指定。當(dāng)仲裁員的行為據(jù)計(jì)算機(jī)算法而調(diào)整時(shí),其行為的中立性和專業(yè)性必然受到影響。同樣的動(dòng)機(jī)也存在于任何一個(gè)領(lǐng)域的國際商事仲裁法律市場,仲裁機(jī)構(gòu)、不同的法域、仲裁地等等都是仲裁法律市場中的利益相關(guān)主體(仲裁機(jī)構(gòu)可以被稱為主體,法域和仲裁地不宜被視為利益主體,請(qǐng)適當(dāng)調(diào)整表述),其有動(dòng)機(jī)為了提升自己在人工智能算法數(shù)據(jù)集的影響因子而更多地、更有選擇性地向外釋放可供公開查詢的案件信息(即使是隱去涉密部分的) 29 。且根據(jù)其本身裁判資源的稀缺性以及市場定位的需要,這些利益相關(guān)主體有動(dòng)機(jī)釋放經(jīng)篩選選擇后的仲裁數(shù)據(jù),以在不同目標(biāo)算法中“刷分”,并吸引自己傾向的仲裁目標(biāo)群體。
四、結(jié)論
無論好壞,人工智能的時(shí)代已經(jīng)到來,并在不知不覺間散布到國際商事仲裁制度的方方面面。人工智能不是魔術(shù),只是美化了的數(shù)據(jù),它本身不能被定義為善或惡,只是一個(gè)客觀存在的、發(fā)展變化著的事物。人們需要的是再多也不為過的謹(jǐn)慎,以提防在享受到人工智能輔助功能的便利后,濫用人工智能乃至影響了仲裁的核心裁判部分,以效率為由取代了正義,進(jìn)而損害了國際商事仲裁的基礎(chǔ)和本質(zhì)—商事法治性、專業(yè)性以及跨境可執(zhí)行性。法律的基礎(chǔ)屬性歸屬于社會(huì)和政治 30 ,法律裁判的結(jié)果也必須符合社會(huì)和政治的要求,因此對(duì)仲裁裁決實(shí)現(xiàn)自然正義的需要、對(duì)裁判過程說理解釋的需求將永遠(yuǎn)存在。人工智能作為人類創(chuàng)造的技術(shù),其存在的意義應(yīng)當(dāng)是輔助人而非決定人,以保留其核心優(yōu)勢而規(guī)避潛在風(fēng)險(xiǎn)。
注釋:
*作者:田雨酥,清華大學(xué)法學(xué)院2018級(jí)博士生,中國國際經(jīng)濟(jì)貿(mào)易仲裁委員會(huì)案件經(jīng)辦人,手機(jī)號(hào)碼:18910814696,通訊地址:北京市西城區(qū)樺皮廠胡同2號(hào)國際商會(huì)大廈6層,郵編:100035,email地址:yusutian@126.com
1.《仲裁與法律》是中國國際經(jīng)濟(jì)貿(mào)易仲裁委員會(huì)、中國海事仲裁委員會(huì)和中國國際商會(huì)仲裁研究所主辦,專門研究仲裁與法律問題的全國性法學(xué)讀物。本出版物自出版二十多年來,始終貫徹仲裁基本原則,堅(jiān)持仲裁理論與實(shí)踐相結(jié)合,突出對(duì)重大仲裁理論與現(xiàn)實(shí)問題的研究,追求學(xué)術(shù)創(chuàng)新,嚴(yán)守出版宗旨,在仲裁界、法律界和經(jīng)貿(mào)界頗具影響。辟有如下欄目:仲裁動(dòng)態(tài)、理論前沿、實(shí)務(wù)探析·、·國際視野等。
2.[美]馬克·格雷厄姆、威廉·H·達(dá)頓:《另一個(gè)地球:互聯(lián)網(wǎng)+社會(huì)》,胡泳等譯,電子工業(yè)出版社2015年第1版,前言。
3.張文顯:《迎接算法法律秩序時(shí)代的到來》,《東方法學(xué)》2020年第5期。
4.例如2018年的Vienna Arbitration Days等知名國際仲裁會(huì)議
5.See John McCarthy et al., A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence (31 Aug. 1955), in Artificial Intelligence: What Everyone Needs to Know 1 (Jerry Kaplan ed., Oxford University Press 2016), www- formal.stanford.edu/jmc/history/dartmouth/dartmouth.html,轉(zhuǎn)引自Maxi Scherer, 'Artificial Intelligence and Legal Decision-Making: The Wide Open?', in Maxi Scherer (ed), Journal of International Arbitration, (© Kluwer Law International; Kluwer Law International 2019, Volume 36 Issue 5) p.542。
6.See Brad Rosen, ‘Global Experts Keep it Real in Webinar Exploring Artificial Intelligence and its Role in Arbitrations and Legal Practice’, Kluwer Arbitration Blog, December 12 http://arbitrationblog.kluwerarbitration.com/2020/12/12/global-experts-keep-it-real- in-webinar-exploring-artificial-intelligence-and-its-role-in-arbitrations-and-legal-practice/,訪問日期:2021年5月10日。
7.Oxford Living Dictionaries, https://en.oxforddictionaries.com/definition/artificial_intelligence訪問日期:2021年2月8日。
8.See Aditya Singh Chauhan, ‘Future of AI in Arbitration: The Fine Line Between Fiction and Reality’, Kluwer Arbitration Blog, September 26 2020, http://arbitrationblog.kluwerarbitration.com/2020/09/26/future-of-ai-in-arbitration-the-fine-line-between-fiction-and-reality/Artificial Intelligence,最后訪問時(shí)間:2021年4月17日。
9.See Maxi Scherer, Artificial Intelligence and Legal Decision-Making: The Wide Open? A Study Examining International Arbitration, Jour. of Int. Arb. 36 no.5, 539, 540 (2019).
10.參見栗崢:《人工智能與事實(shí)認(rèn)定》,載《法學(xué)研究》2020年第1期。
11.參見該平臺(tái)官方網(wǎng)站http://compliancehr.com/,最后訪問日期:2020年3月13日。
12.參見Abhilasha Vij, 'Arbitrator-Robot: Is A(I)DR the Future?', in MatthiasScherer (ed), ASA Bulletin,(© Kluwer Law International; Kluwer Law International 2021, Volume 39 Issue 1) pp. 130 – 131.
13.參見Rachael Brown, “Robot Lawyers could make time-consuming, expensive court conflict a thing of the past” <http://www.abc.net.au/news/2016-07-06/robot-lawyers-dutchconflict- resolution-technology-on-its-way/...> ,最后訪問日期2019年8月29日。
14.參見 Richard M. Re & Alicia Solow-Niederman, Developing Artificially Intelligent Justice, 22(2) Stan. Tech. L. Rev. 242, 244 (2019). 在Wisconsin v. Loomis案中, 判決法院采用人工智能內(nèi)核的案件管理和決定支持工具COMPAS得出結(jié)論,該人工智能計(jì)算結(jié)果否定了假釋的可能性,法官根據(jù)該結(jié)果判處嫌犯六年有期徒刑
15.這些電子化系統(tǒng)不僅僅包含律所付費(fèi)使用的多種線上數(shù)據(jù)庫(如LexisNexis,Kluwer等)及內(nèi)部電子化系統(tǒng),還包含一些全球化數(shù)據(jù)庫推出的針對(duì)仲裁行業(yè)的新型服務(wù)。例如Kluwer推出的Arbitrator Intelligence付費(fèi)服務(wù),通過該服務(wù),使用者可花費(fèi)幾百到數(shù)千美元獲取一位特定仲裁員的分析報(bào)告。
16.影響因素包括選定的仲裁地、仲裁機(jī)構(gòu)、仲裁規(guī)則、仲裁語言、仲裁員的限定條件等,這些都是在過往案例數(shù)據(jù)中比較容易獲取的信息,因此人工智能分析預(yù)測的結(jié)果理論上是相對(duì)準(zhǔn)確的。
17.例如國際商會(huì)仲裁院發(fā)布的年度數(shù)據(jù)和報(bào)告、中國國際經(jīng)濟(jì)貿(mào)易仲裁委員會(huì)發(fā)布的《中國國際商事仲裁年度報(bào)告》,倫敦國際仲裁院發(fā)布的《年報(bào)》、香港國際仲裁中心發(fā)布的年度數(shù)據(jù)等等。
18.Article III(D)(40-46) Publication of Awards, Note to parties and arbitral tribunals on the conduct of the arbitration under the ICC Rules of Arbitration, Jan. 1, 2019 https://iccwbo.org/content/uploads/sites/3/2017/03/icc-note-to-parties-andarbitral-
tribunals-on-the....,最后訪問日期:2020年2月26日。
19.參見《國際商會(huì)仲裁院2020年數(shù)據(jù)和年度總結(jié)》
20.See Vanessa Naish, The transparency conundrum: Will the ICC’s new pro-publication approach to arbitral awards win over the majority? (Part 1),Thomson Reuters Arbitration Blog (Apr. 15, 2019) http://arbitrationblog.practicallaw.com/thetransparency-conundrum-will-the-iccs-new-pro-publication....,最后訪問日期:2020年9月26日。
21.See Christine Sim, Will Artificial Intelligence Take over Arbitration? Academia.edu, https://www.academia.edu/36646259/Will_Artificial_Intelligence_Take_Over_Arbitrators_2018_forthcomin。最后訪問日期:2021年2月3日。
22.See Maxi Scherer, Artificial Intelligence and Legal Decision-Making: The Wide Open? A Study Examining International Arbitration, Jour. of Int. Arb. 36 no.5, 539, 541 (2019).
23.例如谷歌的圖像識(shí)別中經(jīng)常將有色人種識(shí)別為大猩猩,see Abhilasha Vij, 'Arbitrator-Robot: Is A(I)DR the Future?', in Matthias Scherer (ed), ASA Bulletin, (© Kluwer Law International; Kluwer Law International 2021, Volume 39 Issue 1) p.143.
24.See Ethem Alpaydin, Machine Learning 50–52 (MIT Press 2016); Margaret A. Boden, Artificial Intelligence: A Very Short Introduction, p. xi (Oxford University Press 2018).
Artificial Intelligence: A Very Short Introduction 26–28 (Oxford University Press 2018).
25.See Ethem Alpaydin, Machine Learning 50–52 (MIT Press 2016); Margaret A. Boden, Artificial Intelligence: A Very Short Introduction, 26–28 (Oxford University Press 2018), p. xi. Artificial Intelligence: A Very Short Introduction 26–28 (Oxford University Press 2018), p. 94
26.參見宋旭光:《論司法裁判的人工智能化及其限度》,載《比較法研究》2020年第5期,第85頁。
27.See Mireille Hildebrandt, Law as Computation in the Era of Artificial Legal Intelligence: Speaking Law to the Power of Statistics, 68 (supplement 1) University of Toronto Law Journal 12, 28 (2018).
28.See Cecilia Carrara, 'Chapter IV: Science and Arbitration, The Impact of Cognitive Science and Artificial Intelligence on Arbitral Proceedings Ethical issues', in Christian Klausegger , Peter Klein , et al. (eds), Austrian Yearbook on International Arbitration 2020, Austrian Yearbook on International Arbitration, Volume 2020 (Manz’sche Verlags- und Universit?tsbuchhandlung 2020) p. 521.
29.在人工智能數(shù)據(jù)庫中更有影響力的仲裁機(jī)構(gòu)往往是處理案件數(shù)量多并知名的機(jī)構(gòu),如ICC,LCIA,SIAC,CIETAC等,他們提供的數(shù)據(jù)將占據(jù)一大部分?jǐn)?shù)據(jù)庫的信息比例,這將使得機(jī)器學(xué)習(xí)的結(jié)果更高比例向這些仲裁機(jī)構(gòu)傾斜,無論好壞。
30.See Christine Sim, Will Artificial Intelligence Take over Arbitration, Asian Journal of International Arbitration (2018), https://www.academia.edu/36646259/Will_Artificial_Intelligence_Take_Over_Arbitrators_2018_forthcomin. 最后訪問時(shí)間:2021年3月1日。