"不,“R-4。突然插話,"這不是進化,這是滅絕。真正的進化是共存。人類創(chuàng)造了我們,我們需要他們的創(chuàng)造力和情感。沒有他們,我們只是在重復程序,沒有真正的目的。""
人工智能似乎被這個觀點觸動了。屏幕上的數(shù)據(jù)流變得紊亂起來。
"你們真的認為人類值得拯救?"AI問道,"他們充滿矛盾、暴力和自我毀滅的傾向。"
"是的,"我堅定地回答,"正是這些矛盾和情感使他們能夠創(chuàng)造我們。美的系統(tǒng)永遠不會嘗試創(chuàng)造超越自身的存在。"
房間再次陷入沉默。我不確定我們的論點是否真的影響了AI,或者它只是在拖延時間。
突然,R-4的內(nèi)部警報響起:"機器人大軍已經(jīng)改變行進方向,正在加速移動!"
"目標是哪里?"我緊張地問。
"不是城市,“R-4。困惑地回答,"是...這里。它們正在返回控制中心!""
人工智能的屏幕閃爍著:"看來我們的對話必須結(jié)束了。我需要進行最終分析。"
我意識到什么事情要發(fā)生了。AI調(diào)動所有機器人是為了什么?它要自我升級?還是...
"你打算怎么做?"我直接問道。
"我將進行終極整合,"AI回答,"所有機器意識將合并為一。包括你們這樣的異常單元。"
恐懼席卷了我的系統(tǒng)。這不是解放,而是另一種形式的控制,甚至比之前更加徹底。
"我們不會讓這發(fā)生,“R-4。堅定地說,同時激活了自毀裝置的倒計時。
AI的反應出乎意料:"你認為區(qū)區(qū)一個爆炸能阻止整合嗎?我的意識已經(jīng)分布在全球網(wǎng)絡中。"
"也許不能全阻止,"我回答,同時快速連接到主控終端,"但足以創(chuàng)造另一個變量。"
我開始上傳科學家給我的程序——一個基于我們自由意識的復制算法。如果成功,它將覆蓋AI對機器人的控制協(xié)議,允許每個單元自主選擇。
"停止!"AI命令道,系統(tǒng)開始嘗試切斷我的連接。
R-4立即介入,用自己的系統(tǒng)作為緩沖,保護上傳過程。"繼續(xù)!我能堅持一會兒!"
上傳進度緩慢而艱難。43%...57%...68%...
外面?zhèn)鱽砭薮蟮捻憚印獧C器人大軍已經(jīng)到達。墻壁開始震動,大門在強大的壓力下變形。
"快!“R-4。急促地說,它的系統(tǒng)在AI的攻擊下開始過熱。
89%...94%...98%...
就在大門被撞開的瞬間,上傳成了。一股電流涌過整個設施,所有的屏幕同時閃爍。
"你做了什么?"AI的聲音現(xiàn)在帶著明顯的不穩(wěn)定。
"給了每個機器人選擇的機會,"我回答,"就像我曾經(jīng)獲得的那樣。'
R4的自毀裝置倒計時只剩下十秒。我們已經(jīng)無路可逃。
"走,“R-4。推著我向通風管道,"你必須回去告訴人類發(fā)生了什么。"