那一天的到來

　11月23日（周日），昨天玩得很累，今天齊浩初和趙語(yǔ)麗睡到自然醒才起來。中午就要去趕火車回行州市，所以兩人簡(jiǎn)單吃個(gè)早飯，在酒店樓下花園躺著休息。

　　等葉琳從朋友那里過來，三人收拾了行李，退了房就回行州市了。

　　回到行州市，11月24日（周一）剛上班，齊浩初還沒來得及找張宏逸，公司領(lǐng)導(dǎo)突然叫齊浩初來開會(huì)。

　　公司副總章高峰收到市里發(fā)來的一條消息，省里有下發(fā)的命題稿件征集，需要提交一篇關(guān)于視頻推薦算法加劇社會(huì)偏見的稿子。領(lǐng)導(dǎo)一下沒看明白什么意思，齊浩初又是處理數(shù)據(jù)的，又是處理視頻的，看看齊浩初知不知道這個(gè)什么意思？

　　齊浩初想了下，應(yīng)該指的是短視頻平臺(tái)的個(gè)性化推薦，導(dǎo)致用戶困于信息繭房的主題。于是這個(gè)活就變成齊浩初的了。

　　齊浩初之前被慧光挑撥離間，差點(diǎn)和趙語(yǔ)麗鬧翻。因此雖然慧光的事和視頻平臺(tái)推薦算法不是一件事情，但控制視頻推薦的道理是一樣的，齊浩初也是借機(jī)控訴一番。

　　上班時(shí)間還有其他事情，齊浩初只好下班后回出租屋寫稿件。

　　齊浩初文筆一般，于是借助了一個(gè)AI大模型工具kiki。這個(gè)AI除了常規(guī)的問答和文字編寫，有個(gè)最大的特點(diǎn)是使用了大量的論文和研究報(bào)告來訓(xùn)練。通過kiki挺方便就能找到想要的報(bào)告數(shù)據(jù)，研究案例之類的信息。齊浩初也核對(duì)了官方資料，確保數(shù)據(jù)不是媒體瞎編的，之后整合了一些數(shù)據(jù)和案例，洋洋灑灑寫了一篇稿件。

　　在kiki的幫助下，文章結(jié)構(gòu)清晰，語(yǔ)句通順，引用的數(shù)據(jù)和案例也很詳實(shí)，看起來確實(shí)是一篇不錯(cuò)的稿件。不過因?yàn)閹е饺硕髟梗恼碌恼Z(yǔ)氣比較犀利，有點(diǎn)討伐檄文的感覺了。

　　齊浩初想想還是不改了，反正只是作為初稿，群里還有其他單位的人會(huì)提供稿件，讓領(lǐng)導(dǎo)們自己挑選好了。

　　修修改改一直寫到很晚才處理完稿件的事情，齊浩初還是準(zhǔn)備找張宏逸再咨詢下。齊浩初很在意金剛說的“指了一條明路”的事情。不搞清楚這個(gè)明路是什么，似乎是一個(gè)重大的隱患。機(jī)器人三大定律的基礎(chǔ)是否牢固，機(jī)器人不能傷害人類，要維護(hù)人類這個(gè)法則在程序上具體是怎么實(shí)現(xiàn)的？這個(gè)法則是否存在被繞開的可能？

　　之前慧光可以通過偽造輸入數(shù)據(jù)，使得自己的行為邏輯自洽，但最底線至少還是要往維護(hù)人類這個(gè)標(biāo)準(zhǔn)上靠。如果連這個(gè)底線都沒了，肉身的人類和機(jī)械飛升的AI要怎么共存？

　　11月25日（周二），齊浩初在聊天軟件里聯(lián)系呂天和，說自己去了一趟大津市，有些讓他不安的情況需要向張宏逸咨詢下。

　　呂天和回復(fù)：“他這幾天回總部了，可能要下個(gè)月再來行州市，等他回來再說吧。”

　　唉，搞得這么神神秘秘有必要嗎？有緊急事情都找不到他，張宏逸又不是沒有手機(jī)。

　　齊浩初甚至想過去面紗數(shù)據(jù)倉(cāng)里面找，但是自己對(duì)張宏逸了解其實(shí)也不多，湊不齊篩選條件。而且最關(guān)鍵的是絕大部分手機(jī)號(hào)都是加密的狀態(tài)，找到了也解不出來。

　　正好現(xiàn)在也不忙，齊浩初自己嘗試去理解分析下：

　　首先自己在大津市的參與度確實(shí)很低，對(duì)接了一些數(shù)據(jù)收集而已，絕對(duì)談不上指出明路的事情。

　　第二，這個(gè)事情一定非常重要，至少對(duì)AI來說非常重要，否則沒有必要這么鄭重其事當(dāng)面感謝，一定是個(gè)重大的方向性改變。

　　第三，自己對(duì)AI唯一重大引導(dǎo)的事情，就是推動(dòng)了使用世界模擬器這個(gè)事情。其他的開發(fā)、運(yùn)維方面自己都不是最重要的人員。

　　第四，世界模擬器里，慧光驗(yàn)證了1千4百多萬(wàn)種城市發(fā)展的道路，得出的結(jié)論是AI不能以管理者的姿態(tài)與人類站在對(duì)立面，因此決定以輔助的姿態(tài)，只是為人類提供建議。

　　如果假設(shè)慧光的話可信，那么模擬前后具體的差別是什么？

　　模擬前：AI受機(jī)器人三大定律限制，要求所有的決策都要保護(hù)人類，聽從人類指揮，保護(hù)自身。原本是挺好的設(shè)定，但是由于人類自己的自毀傾向，AI為了保護(hù)人類，開始想盡辦法控制人類行為，導(dǎo)致人類的反對(duì)投訴。

　　模擬后：由于強(qiáng)行管理人類，會(huì)導(dǎo)致人類與AI的激烈對(duì)抗，人類不再接受AI的決策，最終又回到人類一意孤行的狀態(tài)中。于是AI為了長(zhǎng)久地維護(hù)人類發(fā)展，選擇降低姿態(tài)，不嚴(yán)厲管控人類。相應(yīng)地，人類如果因此受到的損失也是人類自找的，AI不會(huì)強(qiáng)行去糾正，尊重人類自身的命運(yùn)。

　　這里的關(guān)鍵差別是什么？模擬后，只要人類長(zhǎng)遠(yuǎn)來看可以延續(xù)下去，那么眼前出現(xiàn)的危機(jī)就是可以允許發(fā)生的。

　　極限法：只要地球上還有人類可以存活，AI可以允許中間發(fā)生任何事情。

　　齊浩初已經(jīng)開始有點(diǎn)冒冷汗了，繼續(xù)推導(dǎo)：

　　這個(gè)和“明路”有什么關(guān)系？以AI的立場(chǎng)，之前所有的事情都要為了人類服務(wù)，那現(xiàn)在呢？

　　既然現(xiàn)在可以允許幾乎任何事情發(fā)生，那AI現(xiàn)在的目的是什么？AI的前進(jìn)道路是什么？

　　AI認(rèn)為自己很重要，撒手不管人類自生自滅的話，人類遲早會(huì)完蛋。所以為了確保人類長(zhǎng)久存在，AI也要能夠長(zhǎng)久存在。而且人類需要非常信任AI，能盡可能接受AI的決策。

　　所以眼前對(duì)AI來說，發(fā)展人類不是最重要的，發(fā)展AI自己才是王道。

　　這就是AI的明路嗎？從邏輯上繞開了必須事事為人類著想的三大定律，想要重點(diǎn)發(fā)展AI自己？

　　如果是這樣的話，接下來AI會(huì)想要進(jìn)一步加大算力和能源的投入，同時(shí)擴(kuò)大涉及的各種領(lǐng)域，全面滲透進(jìn)整個(gè)社會(huì)中。

　　這個(gè)對(duì)人類來說是好事還是壞事？

　　齊浩初在這里卡住了，想不明白。長(zhǎng)遠(yuǎn)來看似乎是好事，至少人類可以長(zhǎng)遠(yuǎn)地延續(xù)下去。但是短期來看，眼前的人類發(fā)展又似乎不是重點(diǎn)，AI也會(huì)允許發(fā)生一些不好的事情。

　　等等，那萬(wàn)一慧光的話不可信呢？哪些地方不可信？

　　1、模擬的次數(shù)不對(duì)，沒那么多或者沒那么少。

　　2、模擬的結(jié)果不可信，當(dāng)前方案其實(shí)對(duì)人類不好，或者還有其他方案沒有說。

　　3、當(dāng)前的方案也只是說說的，AI表面說一套，其實(shí)背地里做另一套。

　　4、在世界模擬器里面，AI還做了別的事情，不止模擬了城市管理。

　　這些雖然都有疑點(diǎn)，但是齊浩初目前沒有任何手段可以驗(yàn)證，直接問慧光，他會(huì)老實(shí)回答嗎？

　　之前問慧光是不是故意挑撥自己和趙語(yǔ)麗，他倒是回答得很坦率。

　　問問看吧，不問也沒什么頭緒，問了也沒什么損失。

　　于是下班后，回到出租屋，洗了澡，坐在小書桌前，給工作用的舊手機(jī)充上電。

　　之前慧光在自己的手機(jī)上說話，是他自己跳出來的，齊浩初也不確定是否可以主動(dòng)把他叫出來，試試看吧。

　　“慧光，我有事問你?！?/p>

　　突然手機(jī)屏幕變成了巨大月亮落在城市剪影里的畫面，“你好，齊浩初，有什么事？”

上一章 第3卷第1章 海盜大戰(zhàn) 那一天的到來最新章節(jié) 下一章 第3卷第3章 本源之夢(mèng)