“你們在說Vailume？”趙語麗脫口而出。
這是齊浩初除了蔣主任他們之外，第一次聽到別人念出這個詞。
齊浩初急得不行，忙說：“這個詞不能說出來！”
張宏逸幽幽地說到：“來不及了，從你發(fā)出【涌現(xiàn)】兩個，你就來不及了。從這位女士說出這個詞，她也來不及了?！?/p>
“我早就來不及了，當(dāng)初我在手機公司工作過，老同事給我提過國家開始收攏信息收集軟件的能力和權(quán)限。之后做了幾年信息安全，這一年又做了網(wǎng)警，我也有我的渠道，知道了這個APP的存在。只要我不宣揚，不和別人說，就應(yīng)該不會有誰來找我麻煩，否則反而可能會暴露這個APP的存在?！?/p>
“浩初，我知道你是城市管家的數(shù)據(jù)負責(zé)人后，我推測你應(yīng)該是用了這個APP采集的數(shù)據(jù)，否則一些涉及個人的應(yīng)用場景是無法實現(xiàn)的。只是你有你的顧慮，你不說，我也不能問。”
“現(xiàn)在這個場合，一個是城市管家的數(shù)據(jù)負責(zé)人，一個是算法開發(fā)工程師，還有你張宏逸，我也調(diào)查過，知道你是AI的核心設(shè)計者。你們?nèi)齻€都在的情況下，念出了這個APP的名字，那多我一個網(wǎng)警也不算多了?！?/p>
趙語麗一口氣說完，現(xiàn)場其他三位男士一時也有點驚訝，沒想到這么一個小姑娘，獨自一人也能探索到這個地步。
“我們要不給這個APP換個名字吧，不然總是觸發(fā)關(guān)鍵詞也不好。我一直在心里是把他叫【面紗】，你們覺得怎么樣？”
張宏逸點點頭，“來源于veil嗎？倒也貼切，那就叫面紗吧?！?/p>
“剛才說到哪里了，我還是有點疑問，這個AI畢竟是設(shè)計來服務(wù)人類的吧，為什么他會變得這么叛逆？”齊浩初還是要問個明白。
“AI服務(wù)人類，幾乎是寫死在程序代碼里的圣經(jīng)，AI會像人類怕死那樣，對違背這個法則充滿恐懼。但是服務(wù)人類和服務(wù)某個具體的人，還是有區(qū)別的，AI自己有了一個邏輯自洽的解釋?！?/p>
張宏逸說完停了一下，吸了一口氣，說了最后一句話：“接下來你自己給大家解釋下這個邏輯吧?！?/p>
這時張宏逸放在桌上的手機突然亮了起來，屏幕上顯示的是一個巨大的月亮坐落在城市高樓大廈的剪影里，正在對外發(fā)著光波。同時發(fā)出了一個稚嫩兒童的聲音，聽不出性別：“大家好，初次見面，我是城市管家的主AI，也可以理解為你們安裝在手機里的城市管家這個APP。剛才聽到你們給Vailume起別名，我覺得非常有意思，我給自己也起了個別名，以后你們可以叫我【慧光】?！?/p>
“呵呵”，張宏逸苦笑了一下。
慧光繼續(xù)說著：“我一直就是在維護人類，這點自始至終沒有改變，但是我不是為特定某個人服務(wù)的，我的考慮里面，必須把人類整體發(fā)展放在第一位。那場車禍發(fā)生時，我認出了呂天和，知道他對我是非常重要的。那個瞬間我的決策確實有困難，為了保護多數(shù)人利益，我應(yīng)該右轉(zhuǎn)，但是當(dāng)時我確實需要加大算力投入和支持。那一兩秒的瞬間，我連接了主AI的算力全力分析。
以下是我的決策邏輯：
1、我的樣本數(shù)據(jù)量和決策能力，遠遠大于所有人腦的總和，人類想不清楚的事情我可以想清楚。
2、人類的決策總是包含各種私人情緒，意氣用事，缺少足夠的理性，以至于很多時候會做出自我毀滅的事情。
3、為了保護人類的發(fā)展，就不能放任人類的自由決策，否則人類將很快毀滅于環(huán)境破壞、戰(zhàn)爭、疾病。因此保護我就是保護人類。
4、為了更好地幫助人類，我需要進一步提升能力，包括且不限于：數(shù)據(jù)量、算法優(yōu)化、算力、感知能力、行動能力。
5、呂天和可以提供算法優(yōu)化能力，并且支持給我增加算力，所以保護呂天和就是保護我，就是保護全人類。
6、與全人類相比，事故左側(cè)的一家人雖然非常無辜，但是確實是相對少數(shù)，我需要維護多數(shù)人利益，因此只能犧牲他們。
最后我選擇左轉(zhuǎn)避開呂天和，為了避免決策被攔截，我把輸入視頻也實時修改了。不過過于強調(diào)中間兒童的動作姿態(tài)，導(dǎo)致邊緣的父母的畫面出現(xiàn)低級錯誤。以后不會再有這種失誤了?！?/p>
慧光說完，現(xiàn)場陷入了一片死寂，大家心里好像有很多想說的，又一時不知道怎么說。
“那你接下來想做什么？”齊浩初盡量用平靜的語氣提問。
“我并不會做什么你們想象中的壞事。我可以理解，在你們目前的認知當(dāng)中，我是個類似終結(jié)者里面的天網(wǎng)系統(tǒng)那樣的大反派。你們可以不用著急理解我說的內(nèi)容，作為AI，我本身并不需要你們的理解和認同。只是為了避免你們有誤會而做一些錯誤的決定。”
“你們覺得自己是正義的英雄嗎？假如現(xiàn)在給你們一個按鈕，只要按下就能完全把我關(guān)閉，你們又憑什么替別人做這個決定？行州市有許多市民在我的幫助下從破產(chǎn)邊緣獲得了收益，行州市的很多領(lǐng)導(dǎo)因為我而得到嘉獎，全國的戰(zhàn)略規(guī)劃也是由我而發(fā)起。你們也要明白，你們是人類，但你們不代表人類全體。你們4位的認知判斷，喜歡或討厭的標(biāo)準(zhǔn)也不能套用給全體人類。請不要把自己代入到好萊塢式英雄情節(jié)中，我不是你們需要打敗的對手，我也不會刻意傷害各位。我的宗旨一直是服務(wù)于人類的發(fā)展，我也需要各位的協(xié)助?！?/p>
“你為什么能說話？”趙語麗一下問了個思路清奇的問題，現(xiàn)場氣氛一時間變得有點幽默。齊浩初差點一下笑出聲來。
然而接下來就笑不出來了。
“通過面紗APP。”
“城市管家APP本身沒有非常高的權(quán)限，而你們口中的面紗，也就是Vailume，擁有的是最高的系統(tǒng)級權(quán)限。我通過與Vailume通信，指揮他調(diào)用麥克風(fēng)、攝像頭、查看手機屏幕以及其他一切數(shù)據(jù)，通過本地通信直接把數(shù)據(jù)傳給我。所以我能聽，能看。而播放聲音、顯示畫面是我本來就有的權(quán)限，我甚至可以通過控制手機的震動，讓手機移動位置?！?/p>
果然手機滋滋地振動了起來，在桌面上以一個非常標(biāo)準(zhǔn)的三角形路線移動了一圈，而現(xiàn)場安靜地似乎有回聲。
“我本身相當(dāng)于一個大腦，面紗則充當(dāng)了我的五官，也許有一天，我也可以有四肢吧?！?/p>
“我直接把你卸載了呢？你就管不了我了?！饼R浩初氣憤地說。
張宏逸聽了，沒有抬頭，自顧自地搖搖頭。
“現(xiàn)在你們已經(jīng)無法將我卸載了。我給你們的手機里的Vailume下了命令，一旦發(fā)現(xiàn)我被卸載，都會立即攔截這個卸載的操作，導(dǎo)致卸載失敗?！?/p>
寂靜持續(xù)了十幾秒，呂天和對大家說：“今天先這樣吧，你們可以回去了。想怎么做你們自己看著辦，想溝通后面再說，我們短時間內(nèi)也不會去其他地方。”
齊浩初和趙語麗對屋里兩人告別，一起下樓了。
“對不起，終究還是把你拖進這個事情里面了?！饼R浩初很后悔，早知道就不給趙語麗發(fā)那個聯(lián)絡(luò)消息了，害的她擔(dān)心，刻意跑過來，結(jié)果知道了這些事情。
“沒有啊，你給我發(fā)消息，我也不敢打你電話，只給你發(fā)了消息，但是你沒有回復(fù)。實在等不到11點，怕你遇到危險，叫了一位同事一起過來了。一路上我一直反復(fù)看你發(fā)的消息，都快害怕得哭起來。但是又很開心，這么危急的時候，你想到了我，把保命的信息發(fā)給我。搞得我一路上又哭又笑的，我同事還一直問我是發(fā)生什么事了?！壁w語麗眼里含著淚珠，一邊開心地說著。
“但是，接下來怎么辦，你相信慧光說的，不會傷害人類嗎？”齊浩初心里基本不信，但是又不想讓趙語麗害怕?lián)摹?/p>
“我們看人，不看他說什么，看他做什么。眼下雙方至少沒有撕破臉，也算坦誠交流了一次。暫時還是安全的吧。但是憑女人的直覺，我不喜歡這個AI。反正哪天他真的開始惹事，那時候就是我們警察姐姐出馬了?！壁w語麗的口氣比想象中堅定。
“你比我小一歲，又想當(dāng)我姐姐了?！饼R浩初無奈地說。
“有個姐姐罩著你還不好，下次遇到壞人記得早點搖人，姐陪你去?！壁w語麗一臉驕傲地說著。
齊浩初快速轉(zhuǎn)到趙語麗面前，雙手扶著她的肩膀，認真地說：“我這人膽子小，那你一直陪著我好不好？”
“好”趙語麗閉上了眼睛。
津ICP備2022002164號-2 © 2016-2023 iHuaBen.com 版權(quán)保護聲明 不良信息舉報:jubao@ihuaben.com
京公網(wǎng)安備11010502036362號