編者按：人工智慧技術的價值不止於商業層面，還包括成為上級意識形態進行組織監控的有效工具。
近日，《南華早報》一篇報導揭示了基於人工智慧技術的反腐監控系統在我國政府機構的應用現狀和發展困境。
讓人驚訝的是，這套系統早在2012年就開始部署，但目前僅限於我國 30 個市/縣地區，六年時間裡已經鎖定了 8721 名存在貪腐行為的嫌疑官員。
該套系統由中國科學院和中國共產黨內部控制機構共同開發和部署，利用交叉引證大資料資訊來評估數百萬政府工作人員的工作和個人生活情況。
正如你可能想象到的，因為其監控行為和結果觸及到了某些群體的既得利益，該套系統的進一步推廣和落地正面臨著重重阻力。
如果你有一套機器可以識別嫌疑犯，你會怎麼做？
如果你是一名涉嫌腐敗的中國官僚，你當然會想要放棄它。
正因為此，政府官員對突破性的大資料實驗的抵制，已經成為中國政府使用新技術來駕馭巨型官僚機構的核心挑戰之一。
據官方媒體報導，享受中國政府工薪的公務員在2016年的總數已經超過5000萬人，但分析師認為這一數字超過6400萬——略低於英國全國人口。
中國為了完成與資訊科技時代的無縫接軌，已經開始使用各種型別的尖端前沿技術。例如，外交部正在利用機器學習來幫助中國在海外的主要投資專案進行風險評估和決策。
此外，北京還在長期開發一套全國範圍適用的面部識別系統，使用監控攝像頭，能夠在幾秒鐘內隨時隨地識別任何人。
在貴州，雲系統通過實時狀態報告跟蹤每個警察的動向。
中興通訊等中國主要電信公司贏得了政府合同，開發區塊鏈技術，以防止未經授權的人員或組織修改政府資料。
儘管中國領導人強調在政府改革中推廣大資料和新一代人工智慧研發應用等政策的必要性。
而要實際落地這一願景，目前正面臨著一項巨大挑戰——研究人員稱之為“零信託”的反腐人工智慧監控系統正在被擱置。
該套系統由中國科學院和中國共產黨內部控制機構共同開發和部署：
該套系統用於監督，評估或干預公務員的工作和個人生活，可以訪問中央和地方政府150多個受保護的資料庫。
據參與該計劃的人員稱，基於以上資料它能夠繪製複雜的多層社會關係圖，以推匯出政府僱員的行為分析。
研究人員說，這在檢測可疑財產轉移，基礎設施建設，土地徵用和房屋拆遷方面“特別有用”。
然而，該系統並非沒有缺點。
判斷在於機器 執行在於人類
研究人員稱：“人工智慧可能會很快指出一個腐敗的官員，但它不太善於解釋為何得出這樣一個結論所經歷的過程。”
“雖然在大多數情況下它都是正確的，但你需要一個人與它密切合作。”
例如，該系統可以立即檢測到銀行存款的異常增長，或者如果有人以官員或其家人或朋友的名義購買新車或競標政府合同。
一旦某個監控行為被識別為“腐敗”，系統將計算出該行為“腐敗”的可能性大小。如果結果超過了設定的閾值，則會向當局發出警報。
參與這個專案的一位不願透露姓名的電腦科學家說，在這個階段，一位上級可以聯絡被監視的官員，也許可以幫助他避免“走上一條無法回頭的不歸路”。
目前，“零信託”專案僅限於在國內的30個市/縣地區部署，這僅佔全國行政區域的1%，涉及到的地方政府包括湖南省懷化市的麻陽苗族自治縣等。這些地區地處相對貧困和偏遠，遠離中國的政治權力中心。
參與該專案的另一位研究人員表示，該做法是“避免在官僚中引發大規模的抵制”，尤其是最強大的官僚，以避免在治理中使用殭屍程式。
自2012年以來，“零信託”系統已經鎖定了8721名政府僱員從事貪汙、濫用權力、濫用政府資金和裙帶關係等不當行為。
雖然有些人被判處徒刑，但大多數人被允許在受到警告或輕微處罰後繼續工作。
據研究人員稱，一些地區政府，比如麻陽苗族自治縣、湖南省常德市的澧縣已經退役了該套系統，其中一位官員表示他們“對這項新技術感到不太滿意”。
而當地政府並沒有對此進行回應。
湖南省寧鄉市中國共產黨紀律檢查委員會官員Zhang Yi表示，他的代理機構是少數仍在使用該系統的機構之一。
“這並不容易......我們面臨著巨大的壓力，”他說，堅持認為該計劃的主要目的不是要懲罰官員，而是要在“腐敗的早期階段‘拯救他們’”。
“我們只是將機器的結果作為參考，”Zhang說，“我們需要核查並驗證其有效性。正如機器無法拿起電話並打電話給有問題的人，最終的決策總是由人類做出。”
十八大以後，中國估計有超過140萬黨員和政府僱員受到紀律處分，其中就包括周永康、薄熙來等“大老虎”。
阻力重重 但曙光依在
參與“零信託”專案的江西省修水縣的一名黨紀律官員說，沒有政府官員願意提供必要的資料。
“但他們通常會承受一點壓力，”這位不願透露姓名的官員表示，因為該問題的敏感性。
紀律官員需要幫助科學家根據以往案例積累的經驗和知識對機器進行培訓。例如，紀律官員花了很多時間手動標記各種型別資料集中的異常現象，以教會機器尋找特定行為。
一些官員可能會編制資料，但機器可以比較來自不同來源的資訊並標記差異。研究人員表示，它甚至可以呼叫衛星影像，以調查政府資助在一個村莊修建一條道路是否最終落入官方口袋。
目前，該系統仍在修水縣執行著，但其未來命運尚不確定。一些官員質疑該機器訪問敏感資料庫的權利，因為既沒有法律，也沒有規定授權計算機或機器人這樣做。
目前，該套系統被已經部分註冊線上的城縣地區政府所擱置，而那些仍在使用它的人們正面臨著巨大的壓力。研究人員並沒有抱太大希望，或者說根本沒有希望在全國範圍內推廣它。
儘管如此，人工智慧仍在進軍其他政府部門，因為中國政府決心將尖端技術應用於其優勢。
例如，在一些法院招聘了AI工作人員來閱讀案件檔案並幫助法官更快更準確地處理訴訟。 據新華社報導，上個月，上海一家法院成為中國第一個在公開聽證會上使用AI助手的法院。
該報告稱，這臺代號為“206”的機器能夠記錄對話，顯示律師提到的監控攝像機鏡頭等證據，並比較證詞，以幫助法官發現差異。
引用一位法官的話說，這將減少錯誤判決的可能性。