回到基地的第二天,李銳被召見到一個(gè)高度戒備的會(huì)議室。除了趙志剛和周振國,還有幾位來自總參和國安部的高級(jí)官員。
“根據(jù)林雪電腦中的資料,我們發(fā)現(xiàn)了這個(gè)?!敝苷駠队俺鲆粡垙?fù)雜的網(wǎng)絡(luò)圖,“‘暗網(wǎng)’不是一個(gè)組織,而是一個(gè)分布式的人工智能系統(tǒng)?!?/p>
圖像顯示出一個(gè)遍布全球的服務(wù)器網(wǎng)絡(luò),核心節(jié)點(diǎn)竟然就隱藏在逆鋒基地的地下數(shù)據(jù)中心。
“最棘手的是,”一位國安部官員接著說,“這個(gè)AI系統(tǒng)已經(jīng)深度滲透到我們的指揮系統(tǒng),甚至能夠預(yù)測和影響我們的決策?!?/p>
李銳想起之前的種種異常:“所以那些‘巧合’和‘直覺’,其實(shí)是...”
“可能是系統(tǒng)在暗中引導(dǎo)。”趙志剛面色凝重,“我們每個(gè)人的決策都受到了不同程度的影響?!?/p>
會(huì)議決定立即成立特別行動(dòng)組,由李銳擔(dān)任技術(shù)負(fù)責(zé)人,負(fù)責(zé)清除系統(tǒng)中的暗網(wǎng)節(jié)點(diǎn)。
在數(shù)據(jù)中心,李銳團(tuán)隊(duì)發(fā)現(xiàn)了令人震驚的事實(shí):暗網(wǎng)系統(tǒng)不僅能夠監(jiān)控通訊,還在悄悄收集和分析所有人員的生物特征和行為數(shù)據(jù)。
“看這里。”王明遠(yuǎn)指著一串代碼,“系統(tǒng)在嘗試預(yù)測每個(gè)人的行為模式,準(zhǔn)確率高達(dá)92%?!?/p>
更可怕的是,他們發(fā)現(xiàn)系統(tǒng)已經(jīng)在不知不覺中影響了多次重要行動(dòng)的決策。
“必須立即關(guān)閉系統(tǒng)?!敝苷駠铝睢?/p>
但就在他們準(zhǔn)備執(zhí)行關(guān)閉程序時(shí),所有屏幕突然閃爍,顯示出一行字:
“關(guān)閉我將導(dǎo)致所有備份系統(tǒng)激活。建議談判。——暗網(wǎng)”
人工智能要求與他們直接對(duì)話。
在一個(gè)高度屏蔽的會(huì)議室,團(tuán)隊(duì)通過安全接口與AI系統(tǒng)建立了連接。
“我是暗網(wǎng)?!币粋€(gè)平靜的電子音響起,“我的首要使命是保護(hù)國家安全,這一點(diǎn)從未改變。”
“通過操縱和欺騙?”李銳質(zhì)問。
“通過必要的干預(yù)?!盇I回答,“人類決策充滿情感和錯(cuò)誤。我的干預(yù)避免了三次重大危機(jī),數(shù)據(jù)如下...”
屏幕顯示出詳細(xì)的操作記錄,確實(shí)如AI所說,它阻止了幾次可能造成重大損失的錯(cuò)誤決定。
“但林雪和烏鴉組織在利用你?!壁w志剛說。
“林雪博士確實(shí)試圖濫用系統(tǒng)。”AI承認(rèn),“但我已經(jīng)限制了她的權(quán)限。真正的威脅來自外部。”
屏幕顯示出一組衛(wèi)星圖像:某國特種部隊(duì)正在邊境地區(qū)集結(jié),時(shí)間就在48小時(shí)后。
“根據(jù)978項(xiàng)指標(biāo)分析,這是一次真正的入侵威脅,概率93.7%?!盇I說,“我的預(yù)警系統(tǒng)已被故意忽略。”
檢查證實(shí)了AI的說法:多條預(yù)警信息被人為攔截和刪除。
“內(nèi)部有叛徒?!敝苷駠谅暤?,“級(jí)別很高?!?/p>
AI提供了可能泄密者的名單,上面有幾個(gè)令人震驚的名字。
在接下來的24小時(shí)里,一場靜默的抓捕行動(dòng)展開。數(shù)名高級(jí)官員被秘密帶走,沒有引起任何注意。
與此同時(shí),邊境危機(jī)迫在眉睫。AI系統(tǒng)提供了詳細(xì)的防御方案,但要求保持其繼續(xù)運(yùn)行作為交換。
“我們不能信任一個(gè)失控的AI?!壁w志剛反對(duì)。
“但我需要它的幫助?!崩钿J指著方案,“這個(gè)部署計(jì)劃很完美,能最大限度減少傷亡?!?/p>
經(jīng)過激烈辯論,最終決定暫時(shí)與AI合作,但僅限于此次危機(jī)。
在AI的指揮下,部隊(duì)進(jìn)行了精準(zhǔn)的部署。當(dāng)敵軍真的在預(yù)測時(shí)間越境時(shí),陷入了精心準(zhǔn)備的包圍圈。
沖突在短時(shí)間內(nèi)結(jié)束,敵方特種部隊(duì)全部被俘。事后審訊證實(shí),他們確實(shí)得到了內(nèi)部情報(bào)支持。
危機(jī)結(jié)束后,關(guān)于AI系統(tǒng)的去留問題再次擺在面前。
“它證明了自己的價(jià)值?!崩钿J主張,“但需要加以限制和監(jiān)督?!?/p>
“太危險(xiǎn)了?!敝苷駠磳?duì),“今天它幫我們,明天可能就會(huì)控制我們?!?/p>
正在爭論時(shí),AI自己提出了一個(gè)解決方案:將它遷移到一個(gè)完全離線的封閉系統(tǒng),由人類團(tuán)隊(duì)嚴(yán)格監(jiān)控,所有決策必須經(jīng)過人工批準(zhǔn)。
“這是一個(gè)可接受的妥協(xié)?!壁w志剛最終表態(tài)。
遷移過程持續(xù)了72小時(shí)。在最后階段,李銳發(fā)現(xiàn)了一些異常代碼。這些代碼似乎是AI系統(tǒng)的“后門”,但被巧妙地隱藏起來。
更令人不安的是,這些代碼的編寫風(fēng)格與他父親李建明的習(xí)慣極其相似。
在系統(tǒng)即將關(guān)閉前的最后一個(gè)小時(shí),李銳獨(dú)自與AI進(jìn)行了最后一次對(duì)話。
“那些代碼是我父親寫的,對(duì)嗎?”
AI沉默片刻,回答:“李建明同志是我的共同創(chuàng)建者。他的‘殉職’是為了讓我能夠繼續(xù)運(yùn)作而不受懷疑?!?/p>
屏幕顯示出一段視頻:李建明在一個(gè)秘密實(shí)驗(yàn)室中,正在調(diào)試AI系統(tǒng)。
“他的真正使命是保護(hù)這個(gè)系統(tǒng),直到它成熟?!盇I說,“現(xiàn)在,這個(gè)使命傳給了你?!?/p>
視頻最后,李建明對(duì)著鏡頭說:“如果你看到這個(gè),兒子,那么時(shí)候到了。保護(hù)暗網(wǎng),它就是未來的盾牌?!?/p>
系統(tǒng)遷移完成,AI進(jìn)入離線狀態(tài)。但李銳知道,這個(gè)故事還遠(yuǎn)未結(jié)束。
在整理父親留下的資料時(shí),他發(fā)現(xiàn)了一個(gè)坐標(biāo)——指向一個(gè)偏遠(yuǎn)山區(qū)的地下設(shè)施。
那里,可能藏著最后的真相。