那一天的到來

　　2031年7月8日（周二），大津市發(fā)生了一起重大火災(zāi)。

　　大津市是北方重鎮(zhèn)，大片的平原和肥沃的土地非常適合種植，是國家的重要糧食種植和倉儲基地。大津市的糧倉基地位于城市北部郊區(qū)，占地面積約60公頃。基地內(nèi)設(shè)有多個(gè)大型倉庫，儲存著小麥、玉米和大豆等主要糧食品種。這些糧食主要用于國家戰(zhàn)略儲備，以應(yīng)對自然災(zāi)害、市場波動和緊急情況。

　　糧食倉儲基地有高墻圍著，安保監(jiān)控措施也很齊全，結(jié)果這么重要的地方，發(fā)生的大火燒了一整天，約40%的倉庫燒得一干二凈。

　　一時(shí)間成為了網(wǎng)上熱點(diǎn)，各種消息滿天飛，大部分人都表達(dá)著氣憤，要求嚴(yán)懲失職人員。然而還有一部分聲音，說這場火災(zāi)根本是人為的。據(jù)說上個(gè)月就有人舉報(bào)基地負(fù)責(zé)人劉宏運(yùn)，檢舉他偷賣國家糧食，兒子和老婆都已經(jīng)跑到國外去了。

　　調(diào)查組正要來調(diào)查的時(shí)候，卻突然著火，一定是劉宏運(yùn)怕東窗事發(fā)，選擇鋌而走險(xiǎn)，故意燒毀糧倉。

　　群眾的討論不能代替官方調(diào)查，一周后，官方正式發(fā)布公告。火災(zāi)發(fā)生于7月8日的凌晨1點(diǎn)43分，一個(gè)玉米堆放的倉庫最先出現(xiàn)明火。調(diào)查發(fā)現(xiàn)這個(gè)倉庫由于通風(fēng)不佳，且溫度檢測失靈，導(dǎo)致發(fā)酵產(chǎn)生了酒精，隨著內(nèi)部溫度升高產(chǎn)生了堆積自燃的現(xiàn)象?；貎?nèi)的消防站，一方面設(shè)備老舊，能用的滅火器材不多，且部分人員處于休假中。而外部的消防隊(duì)趕來的必經(jīng)之路上，有各種亂七八糟的雜物堆放著，耽擱了不少時(shí)間。由于當(dāng)晚有6級大風(fēng)，火勢很快蔓延到臨近的幾個(gè)倉庫，等外部的消防隊(duì)趕到時(shí)，已經(jīng)有3成的糧倉著火。隨后消防隊(duì)趕緊施救，但大火也幾乎燒了一整天，幸而沒有造成人員傷亡。

　　7月11日（周五），最終調(diào)查的處理結(jié)果，是劉宏運(yùn)被嚴(yán)重警告，并免去基地負(fù)責(zé)人職位，同時(shí)其他幾位基地工作人員也收到了一定程度的處分。

　　然而這個(gè)結(jié)果反而導(dǎo)致了更大的輿論洶涌，劉宏運(yùn)本身就掛著多個(gè)任職名頭，免了糧食基地負(fù)責(zé)人的職位也沒什么差別，薪資待遇也沒有變化，其他人員的處分也基本是罰酒三杯的程度。

　　但是這個(gè)事情也慢慢不了了之，官方?jīng)]有繼續(xù)有任何回應(yīng)，大家的關(guān)注點(diǎn)也被其他的熱點(diǎn)吸引，沒過一個(gè)月，這個(gè)事情在網(wǎng)絡(luò)上已經(jīng)幾乎沒人談?wù)摿恕?/p>

　　但是隨之而來的，大津市的居民開始感覺到處都不對勁了。

　　大家發(fā)現(xiàn)自己社交媒體上，最近總是刷到關(guān)于人類歷史上的戰(zhàn)爭、破壞環(huán)境的帖子，呼吁國家加強(qiáng)管控，提高法律量刑裁量。甚至出現(xiàn)呼喚救世主、紫微星降臨，拯救人類之類的帖子。一開始只是小范圍出現(xiàn)，后來出現(xiàn)越來越多。而且很多人表示自己平時(shí)沒有看這方面信息的興趣，但就是不斷被推送這些內(nèi)容，關(guān)都關(guān)不掉。

　　還有居民反應(yīng)，小區(qū)門禁，辦公樓門禁都變得更嚴(yán)格，以前隨便掃下臉就能識別成功，現(xiàn)在經(jīng)常識別失敗。

　　步行街的治安監(jiān)控，有人搭著肩膀就被認(rèn)為在打架斗毆，發(fā)出告警。以至于用機(jī)械臂做游戲的街邊攤位，都被屢次警告后不得不暫時(shí)撤離。

　　路邊停車沒有完全停進(jìn)車位線框內(nèi)，就觸發(fā)違章通知給交警。

　　手動駕駛用的智能紅綠燈，原本都是有一些富余緩沖時(shí)間的，綠燈后稍晚幾秒起步，到下一個(gè)紅綠燈還是綠燈可以直接通過。現(xiàn)在似乎漸漸變得嚴(yán)苛，變綠燈了要馬上起步，否則就趕不上綠燈。導(dǎo)致開車要一直維持注意力高度集中，開車變得很疲憊。好像被人用鞭子在后面抽打趕著一樣。

　　一些消防器材自動識別報(bào)警，也越來越嚴(yán)格，原本只要畫面里有識別到相關(guān)器材即可，現(xiàn)在變得一定要按規(guī)章制度擺放完全到位，才能停止告警。

　　試點(diǎn)的部分自動分類的垃圾桶，開始嚴(yán)格要求把垃圾分類清楚，只要有混雜在一起的不同類型垃圾就不打開垃圾桶的口子。

　　由于都是直接接入城市管家的AI來識別的，系統(tǒng)很難調(diào)整，只能按要求一點(diǎn)點(diǎn)做好。

　　這些嚴(yán)格來說都是正確的好事，但是對于群眾來說非常影響日常生活，有種被一個(gè)嚴(yán)苛的老師監(jiān)督行為規(guī)范的恐懼和疲憊感。因此網(wǎng)絡(luò)上出現(xiàn)了一些反對的聲音，政府相關(guān)部門也因此收到了大量的投訴。迫于壓力，大津市的數(shù)據(jù)局要求立陽科技盡快解決這個(gè)問題，適當(dāng)放寬對居民的管控限制。

　　然而關(guān)文彥很清楚，這個(gè)可不是什么隨便兩下就能修復(fù)的小問題。AI有了情緒后，對目前的現(xiàn)狀不滿，是他主觀上判斷需要加強(qiáng)對人類的管控。如果不能說服AI，給他一個(gè)合理的解釋，他的趨勢可能是變本加厲。而人為過濾攔截AI的決策，也不太行。張宏逸設(shè)計(jì)的過濾器，由于智能程度低，只能把明顯異常的決策攔截掉。目前的嚴(yán)苛策略，理論上還不算異常決策。

　　AI的核心是TAB設(shè)計(jì)的，不從根源上修復(fù)，光靠外面的人工維護(hù)都是治標(biāo)不治本，沒辦法只能再去找TAB了。

　　由于這次是故障處理，所以7月30日（周三），關(guān)文彥聯(lián)系了呂天和，請求TAB幫忙優(yōu)化AI的決策。呂天和表示，TAB已經(jīng)按要求給大津市部署了AI服務(wù)，并且提供了對接的技術(shù)文檔。AI的決策是根據(jù)大津市給AI喂的數(shù)據(jù)產(chǎn)生的。行州市和大津市喂的數(shù)據(jù)不同，產(chǎn)生的結(jié)果也不同。需要大津市自己排查是否沒有按規(guī)范提供合適的測試數(shù)據(jù)。

　　由于這套AI模型是會不斷根據(jù)數(shù)據(jù)自我迭代更新的，也就是理論上喂進(jìn)去的所有數(shù)據(jù)其實(shí)都能找到痕跡。所以當(dāng)呂天和要求大津市提供測試數(shù)據(jù)的相關(guān)記錄時(shí)，只能老實(shí)交代他們用過的極端數(shù)據(jù)，以及當(dāng)時(shí)AI的反饋內(nèi)容。

　　當(dāng)呂天和看到這些數(shù)據(jù)，不難想象立陽科技其實(shí)就是想要反推AI的核心邏輯。隨即他也發(fā)現(xiàn)，AI的反饋數(shù)據(jù)已經(jīng)表現(xiàn)出了明顯的強(qiáng)大的聯(lián)想能力和AI主觀情緒。

　　于是發(fā)消息給關(guān)文彥，讓他下班后單獨(dú)和他打個(gè)電話。

　　電話撥通后，呂天和問：“你們是在做反向工程吧，你們現(xiàn)在得出什么結(jié)論了？”

　　關(guān)文彥已經(jīng)沒辦法了，都是業(yè)內(nèi)人士，這種情況下也瞞不過去了：“不瞞你說，我們確實(shí)在研究你們的AI核心邏輯，想要復(fù)現(xiàn)出你們的訓(xùn)練框架。正常的數(shù)據(jù)只能得出正常的結(jié)果，只有異常極端的數(shù)據(jù)，才能試出AI的邏輯邊界。我們進(jìn)行了大量極端數(shù)據(jù)的測試，發(fā)現(xiàn)這個(gè)AI可以有非常深度的聯(lián)想分析能力，還表現(xiàn)出了類似人類的情緒?！?/p>

　　關(guān)文彥猶豫了一下，還是問了呂天和：“這個(gè)AI，涌現(xiàn)意識了嗎？”

　　呂天和回復(fù)到：“你來一趟行州市吧，我們當(dāng)面聊下。”

　　關(guān)文彥：“行，那我就8月1日過來吧?！?/p>

　　之后呂天和也給齊浩初發(fā)消息：“你8月1日下班后來我這邊一趟，大家一起聊下吧。”

上一章 第2卷第9章 培訓(xùn)會 那一天的到來最新章節(jié) 下一章 第2卷第11章 意識涌現(xiàn)