警用AI終端

第十七章：預(yù)測性監(jiān)控的倫理困境

下午三點的陽光斜斜切進市公安局的會議室，將長桌劈成明暗兩半。林峰坐在陰影里，指尖無意識地摩挲著“天璣-7”終端的手環(huán)——屏幕暗著，像在配合他此刻的沉默。對面，技術(shù)科科長張銳正用激光筆點著投影幕布上的數(shù)據(jù)流，紅色光點在“風(fēng)險預(yù)測模型V3.2”幾個字上停留了三秒。

“……簡單說，新算法能把犯罪預(yù)測準(zhǔn)確率提升到89.7%，”張銳推了推眼鏡，聲音帶著技術(shù)人員特有的篤定，“就拿上周南區(qū)的連環(huán)盜竊案來說，系統(tǒng)提前48小時標(biāo)記了三名高風(fēng)險人員，其中兩人在預(yù)警后24小時內(nèi)落網(wǎng)。如果全面鋪開，我們能從‘事后追查’徹底轉(zhuǎn)向‘事前干預(yù)’。”

會議室里響起一陣低低的議論。年輕警員小李眼睛發(fā)亮：“那以后不就等于有了‘先知’？”

“可以這么理解?！睆堜J點頭，目光掃過全場，最后落在林峰身上，“林隊，重案組是試點單位，這周末前需要你們提交首批試用反饋?！?/p>

林峰抬眼，視線越過亮著的數(shù)據(jù)圖表，落在窗外——老城區(qū)的灰瓦屋頂上，幾只鴿子正歪頭啄食，完全不受監(jiān)控攝像頭的影響。他忽然開口，聲音有點啞：“89.7%的準(zhǔn)確率，剩下的10.3%呢？”

張銳愣了一下：“什么？”

“被誤判的人?！绷址宓氖种盖昧饲米烂?，“模型把一個人標(biāo)記成‘高風(fēng)險’，依據(jù)是什么？消費記錄異常？深夜出現(xiàn)在案發(fā)地周邊？還是……鄰居的匿名舉報？”

“是多維度數(shù)據(jù)交叉驗證，”張銳調(diào)出另一份報告，“包括但不限于行蹤軌跡、社交網(wǎng)絡(luò)關(guān)鍵詞、歷史行為模式，甚至……”他頓了頓，“基礎(chǔ)生理指標(biāo)波動。比如長期心率過高、皮質(zhì)醇水平異常，這些都可能關(guān)聯(lián)暴力傾向?！?/p>

“生理指標(biāo)？”林峰皺緊眉，“你們在監(jiān)控每個人的激素水平？”

“不是主動監(jiān)控，是授權(quán)調(diào)取的醫(yī)療數(shù)據(jù)?！睆堜J強調(diào)，“有嚴(yán)格的權(quán)限限制，只有系統(tǒng)后臺能讀取，且僅用于風(fēng)險評估?！?/p>

“權(quán)限限制？”門口傳來一聲冷笑，副局長江濤推門進來，手里捏著一份卷宗，“早上技術(shù)科提交的‘高風(fēng)險名單’，我看了?！彼丫碜谒ぴ谧郎?，封面朝上——“未成年人風(fēng)險預(yù)警檔案”幾個字格外刺眼。

林峰的心沉了一下。

江濤指著卷宗里的照片：“15歲，三中的學(xué)生，叫陳默。模型給他的風(fēng)險評級是‘極高’，理由是‘連續(xù)三個月凌晨出現(xiàn)在網(wǎng)吧’‘社交賬號提及過三次‘想報復(fù)’’‘父親有暴力犯罪記錄’。系統(tǒng)建議：24小時動態(tài)監(jiān)控，必要時采取約束措施?！?/p>

會議室瞬間安靜下來。小李的興奮勁兒褪去了，撓了撓頭：“這……是不是有點過了？還只是個孩子?！?/p>

“過不過，看怎么定義‘預(yù)防’?！睆堜J推了推眼鏡，語氣平穩(wěn)，“三年前的‘手術(shù)刀案’，兇手在案發(fā)前半年就有多次持刀威脅他人的記錄，但因為沒造成實質(zhì)傷害，沒被納入重點關(guān)注。如果當(dāng)時有這套系統(tǒng)……”

“那是兩碼事！”林峰猛地站起來，椅子腿在地面劃出刺耳的聲響，“手術(shù)刀案的兇手有明確的暴力行為記錄，陳默呢？就因為在網(wǎng)吧待得晚、說了句氣話、父親犯過罪？”他拿起卷宗翻了兩頁，“你們查過他為什么凌晨去網(wǎng)吧嗎？他母親早逝，父親在服刑，他晚上去網(wǎng)吧是給人代練賺學(xué)費，‘想報復(fù)’是因為被同學(xué)勒索了兩百塊錢！”

“林隊，我們只看數(shù)據(jù)相關(guān)性——”

“數(shù)據(jù)能告訴你他每天早上五點回家路上，會給流浪貓喂火腿腸嗎？”林峰的聲音陡然拔高，“能算出他作業(yè)本上寫著‘想考警?！瘑?？！”

張銳的臉色有些難看：“林隊，系統(tǒng)不是要給他定罪，只是預(yù)警。就像天氣預(yù)報說可能下雨，我們帶把傘而已。”

“但這把‘傘’會壓垮一個孩子。”江濤忽然開口，他拿起陳默的檔案，指尖在“建議監(jiān)控”四個字上敲了敲，“昨天下午，技術(shù)科的人去學(xué)?！私馇闆r’，被其他學(xué)生看見了?，F(xiàn)在全校都在傳，陳默是‘潛在殺人犯’。這孩子今天沒去上課，班主任說他把自己鎖在親戚家，一天沒吃飯。”

張銳的喉結(jié)動了動：“我們按規(guī)程操作的，沒公開信息……”

“信息時代沒有絕對的‘不公開’。”江濤嘆了口氣，“一個穿著警服的人去找老師問一個學(xué)生的情況，本身就是一種信號?！彼D(zhuǎn)向林峰，“你怎么看，林峰？”

林峰坐下，手指按在“天璣-7”的手環(huán)上，屏幕亮起，彈出陳默的資料頁。他忽然開口：“靈犀，調(diào)出陳默的社交賬號關(guān)鍵詞云圖，排除‘報復(fù)’相關(guān)詞匯，按出現(xiàn)頻率排序。”

手環(huán)的全息投影屏上，原本被“報復(fù)”“不爽”等紅色詞匯占據(jù)的云圖瞬間重組，綠色的“奶奶”“學(xué)費”“刷題”“警察叔叔”幾個詞漸漸浮現(xiàn)，其中“警察叔叔”的字體甚至比“報復(fù)”更大。

“他半年前在作文里寫過，想當(dāng)警察，因為‘去年丟了錢包，是警察叔叔幫我找回來的’?！绷址宓穆曇艟徚诵?，“系統(tǒng)分析他的‘暴力傾向’時，算過這個嗎？”

張銳沉默了。技術(shù)科的一個年輕工程師小聲說：“模型目前……不納入‘正面詞匯’的權(quán)重計算，因為相關(guān)性太低?！?/p>

“所以問題就在這兒。”江濤靠在椅背上，目光掃過全場，“我們的系統(tǒng)能算出一個人‘可能做什么’，卻算不出他‘為什么沒做’。陳默有一百個理由走上歪路，但他現(xiàn)在還沒走——這一點，算法給不了答案。”

林峰想起三天前在技術(shù)排斥區(qū)遇到的老人。那片老城區(qū)拒絕接入智能安防，街道辦主任幾次協(xié)調(diào)，老人只說：“我一輩子沒犯過法，憑什么讓機器盯著我？”當(dāng)時他覺得是老頑固，此刻卻忽然懂了那份抗拒里的尊嚴(yán)。

“如果我們開始監(jiān)控一個15歲的孩子，就因為算法說他‘可能犯罪’，”林峰看著張銳，“那我們和拿著‘有罪推定’判案的舊社會差在哪里？”

“可如果不監(jiān)控，萬一他真的……”張銳的話沒說完，但意思很明顯。

“萬一?！绷址逯貜?fù)這兩個字，“我們是警察，不是賭徒。不能拿別人的人生賭‘萬一’?！彼酒鹕恚闷痍惸木碜?，“我去趟三中。”

“等等?！睆堜J叫住他，“系統(tǒng)的預(yù)警……”

“預(yù)警不是判決?！绷址寤仡^，陽光恰好落在他臉上，一半亮一半暗，“讓技術(shù)科調(diào)整模型，加上‘人性變量’——如果加不進去，就降低預(yù)警等級，把‘可能’留給我們自己判斷。”

手環(huán)忽然震動了一下，靈犀的電子音在他耳邊響起，比平時柔和了半度：“已記錄建議：新增‘正向行為權(quán)重模塊’，優(yōu)先級設(shè)定為高。另，陳默的銀行賬戶顯示，今早他給養(yǎng)老院轉(zhuǎn)了500元，附言：‘給奶奶買水果’?！?/p>

林峰腳步頓了頓，嘴角幾不可察地?fù)P了一下。他沒再說話，推門走出會議室，陽光在他身后鋪成一條路，手環(huán)的微光在手腕上輕輕跳動，像一顆正在學(xué)著理解溫度的星。

會議室里，張銳盯著投影幕上的云圖，忽然對工程師說：“把‘警察叔叔’這個詞的權(quán)重調(diào)至最高，重新跑一遍陳默的風(fēng)險評估。”

激光筆的紅點在“預(yù)測性監(jiān)控”幾個字上晃了晃，最終落在“倫理邊界”那欄空白處。張銳拿起筆，在筆記本上寫下：“機器算概率，人守底線?！贝巴獾镍澴诱癯犸w起，掠過監(jiān)控攝像頭的鏡頭，留下一片自由的陰影。

上一章 第十六章:在三年前的陰影 警用AI終端最新章節(jié)