對大數據和人工智能的冷思考
原文載《民主與法制時報》2017年10月19日第006版
大數據和人工智能是今年最熱門的話題，在司法領域更是如火如荼，司法在大數據時代的范式革命已經到來。但利之所在弊亦隨之，如果對大數據和人工智能的風險缺乏充分認識，不能在熱情之余做一番冷思考，則可能會產生許多難以預料的后果。
首先，是大數據和人工智能的安全性問題。該問題雖屬老生常談，但在互聯網犯罪模式從攻擊計算機和網絡本身轉向徹底的虛擬犯罪的時代背景下，可能歷久彌新。當前，在互聯網犯罪中，已經大量出現了犯罪人接受他人委托，侵入政府部門與企事業單位的計算機系統修改數據以及攔截修改計算機信息數據的案例。因此，筆者認為沒有理由認為司法大數據能獨善其身。畢竟，在互聯網犯罪海洋中，沒有哪個地方是絕對的安全島。
其次，是大數據和人工智能的可靠性問題。圍繞美國威斯康辛州法院采用的COMPAS量刑程序的爭議和訴訟就是一例。有研究者認為，COMPAS傾向于高估某些特定人群的再犯可能性，而這很可能反映了設計者所固有的偏見。如果數據分析本身就受偏見的左右，那么以此為基礎的人工智能所作出的決定還能可靠嗎？更令人擔憂的是，有相當一部分人工智能系統依靠的是機器學習算法。這種算法幾乎就是“黑盒子”，因為算法的開發者也難以解釋算法的真正運行機制和可能造成的后果。法律乃善良公正之術。當司法擁抱科技時，如果人類將公平正義的決定權交給算法，那么就會面臨正義與科技誰會笑到最后的難題。
但對大數據和人工智能的冷思考并不意味著對它們的拒斥。大數據和人工智能在司法領域的運用是大勢所趨。如果因為它們現在所存在的缺陷就將其拒之千里之外，無疑是因噎廢食。實際上，在未來，隨著可供使用的數據越來越多，更多更好的工具被開發出來，也行大家今天所面臨的擔憂可能會得到緩解。但大家必須清醒地認識到，大數據和人工智能是一把雙刃劍。如果不能正確評價和對待它可能帶來的風險，那么就可能造成難以預料的后果。
大數據和人工智能并不免除任何人作出判斷的責任。因為這一責任屬于人類最核心的領域——理性。大數據和人工智能歸根結底只是人類理智的產物，盲目地迎合理性的產物而冀圖免除自己的責任是非理性的表現。正確認識理性產物中蘊含的非理性，以更好地履行自己的責任才是理性的表現。（作者系最高人民法院中國應用法學研究所助理研究員）
（中國應用法學研究所周維明）