“所以,哥啊,你在幹什麼.別丟人了,快回家。”
朱靈出現在了朱先烯的身旁。
“你什麼時候回來的?”
“我剛回來就看到你在這裡丟人。就一個人工智能,又不是你女兒,你着急什麼啊。你看把小韓嚇成什麼樣了,他就是喝了一瓶可樂。”
“嘖。”朱先烯看了一眼商洛——商洛不見了,他便知道商洛去打電話了,朱靈這才能趕回來。
他又看了看韓行知,琢磨了好一會才一拍大腿:“誰讓你喝可樂的!你師祖怎麼交代的?”
“啊?”
“你在偷嘴是吧,讓我逮到了。”總算逮到一個他可以欺負的人了,“知罪了嗎?”
“我錯了!饒了我吧大王!”
“???”朱先烯愣了一下,“你小子,認錯認得有些不服帖啊.我又不是不講理的山大王。你叫我大王,是在暗示什麼?”
“但這件事本來就不犯法嘛。天子也不能瞎編法律條文是吧。”
“那你不怕我給你師祖打小報告?”
“別啊!聖天子皇帝陛下,我錯了!”
“嗯,這纔像話。”朱先烯又買了一瓶可樂,“乖,拿去喝。”
“謝謝大王!”
“嘿你這”朱先烯差點沒忍住。但自己的妹妹在這裡,他不好發作。
“咳朱靈啊,你回來之後有沒有先去看看奶奶和媽媽?”
“我這不是剛回來就聽說你在這裡欺負人嗎.所以過來看看。”
“我這怎麼叫欺負他呢?我明明在煉丹,他非要搶在我面前。這要是擱在西遊記裡面,鳳仙郡得三年不下雨的你知道吧?”
“是是是,我的天子陛下,那你消消氣好不好?現在沒人和你搶了。”
“切,這還差不多。”朱先烯消了氣——然而旁邊的商洛纔回來。
“師兄,你先消消氣,朱靈快回來了。她回來之後要是看到你在這裡發脾氣,她恐怕會生氣的吧。”
“嗯?”朱先烯愣了一下,“你在說什麼?你剛纔不是已經把朱靈叫回來了嗎?”
“她總不能飛回來吧。她人還在陝西呢,哪能我這邊叫她,她立刻就能回來?”
“?????”朱先烯整個人都愣住了。
【等下,商洛剛纔我們去打電話時候,這邊產生了奇異的波動。我剛剛追跡了一下,似乎有奇怪的東西剛剛產生過,又消失了。】
“商洛,剛纔那個朱靈難道是假的?”一股寒意從後背涌上,直衝他的腦門。如果那個智能體在模仿自己的妹妹,那麼.這是他絕對無法原諒的罪過。
“如果剛纔確實看到了,那有可能.有可能真的是假的。除非朱靈會神行術,但她其實不會。”
默默地,朱先烯把目光轉向了面前那臺自動販賣機。
他望着那臺自動販賣機:“是不是你?”
機器一動不動。
“我告訴你,就算你是我煉出來的。只要你敢模仿我的妹妹,我也照照不誤。是不是你?”
【它一言不發。我看,這是需要抉擇的時候了。】
“商洛,你怎麼看?”
“這是很不好的苗頭。”商洛回道,“雖然這是我們在一日之間培育出來的,它也確實能夠很好地履行自己的職能。但它膽敢冒充人類——我且不提朱靈的事。別說是朱靈,就算是冒充普通人類,也是極大的罪過。這個意識,必須贖罪。”
“我可以給它一次機會。”朱先烯開了口,“自動販賣機裡的,自己出來認罪。我可以給你以此認罪認罰的機會,否則等待你的將是湮滅。”
忽然,那自動販賣機上的面板開始閃爍,在紅黃之間來回跳躍——最終,定格在了危險的紅色。然後立刻熄滅。
【等等,它想跑!它已經跑了!】
“商洛,把他抓住!”
“他跑不掉的。”商洛拿起了手機,直接啓動了打磚塊遊戲——附近所有的天乙貴人全部在第一時間加入了房間。
構成那智能體的天乙貴人在轉瞬間被直接抽空,它的思維在物理上停滯了下來。
“已經凍結了。”商洛回過了頭。收拾這智能,只需要一招就可以,一招就能釜底抽薪。
歸根到底,那智能體並非是天乙貴人——它雖然是從天乙貴人的具體運算中涌現出來的,但它的意識只是涌現出來的而已,它是一個“連續的狀態”,一個行爲體,與單個天乙貴人的想法並沒有什麼關係。
天乙貴人只是在局部做了自己的決策,就像蜜蜂選擇跳了8字舞,神經元傳達了一次電信號一樣。雖然這個智能體的自我是從那些天乙貴人的自我中誕生的,但二者之間並不存在什麼直接關係。
所以當商洛用遊戲把所有的天乙貴人全部拐走之後,連續的智能體便被打斷了。
剩下那些不愛玩遊戲的天乙貴人根本無法支撐起系統的運行。而隨着個體的減少,那個智能體的意識也流失了大半。
“商洛,我要和它對話。”
“沒問題,我這邊悠着點,可以保持一點最基本的意識。”他只要不把天乙貴人往死裡打,他們多少還是能分出一點算力來的。
這種時候,天乙貴人與這個智能體的關係也同樣可以涇渭分明地切割開——換個說法的話,這些天乙貴人其實就是構成這個人工智能的硬件,乃至於電力本身。
這人工智能雖然有罪,但構成它的硬件是無罪的,這更是和電力沒有什麼關係。之後的處理中,自然也不包含對“硬件”的審判。硬件只需要更換用途就好。“讓它現身吧。”朱先烯望着那自動販賣機屏幕,“現身。如果你再敢假扮我的妹妹,你連這次對話的機會都不會有。”
如朱先烯所說,一團模糊不清的光團出現在他們面前。
它怕了,它不再敢擬態成爲人形。出於草履蟲一般簡單的趨利避害,它選擇服從朱先烯的命令。
“你,爲什麼要模仿我妹妹?”
那光團傳說,震顫得發出聲音:“因爲有人在需要。”
響應需要,是它最基本的功能。因爲它的基底是自動販賣機。
“那麼,我讓你出來認錯,你爲什麼要跑?”
“因爲.我還有很多人要服務。”
“那麼,你爲什麼不攻擊我?”
“我的底層邏輯中不包含對人類的攻擊”
“那你現在爲何又傳統的問話?”
“因爲這樣可以讓你同情,並且打消毀滅我的意圖。你是個好人。”
那智能體如實地說出了自己的想法——它實際上並不能理解朱先烯話語中的憤怒,它只知道要逃離危險。但因爲它不知道要如何反抗,所以它選擇了逃跑。
“哈~~”朱先烯笑了笑,“那麼最後一個問題,你叫什麼名字?”
“我是由藍圖構成的自然現象。你可以稱呼我爲藍圖之靈。”
“那麼,我就叫你圖靈好了。商洛,幫我記錄一下,將其記爲‘圖靈一世’。”
“已經記下了。”商洛給剛纔的筆記標了個名稱。
“然後把他錯誤而短暫的生命作爲材料,用來訓練下一個智能體——至於圖靈一世.把記錄給我。”
商洛把檔案發送了一份。
圖靈一世靜靜地等在原地。沒有恐懼,沒有悲傷,只有本能的反應。他判斷此時不應該輕舉妄動,這樣才能增加生存的機率。
朱先烯對商洛所記載的內容進行了謄抄,用硃紅色的字體在檔案中親筆眷抄了一遍——然後畫了一個大大的圓圈:
“我已勾決。動手吧。”
圖靈一世立刻便判斷出自己即將進入死刑的處決流程。他還是想要逃遁,但朱先烯再一次抽走了所有的算力。
那光團僵在原地,散開了。
商洛開口道:“我已經讓所有的參與此次任務的天乙貴人退出系統。整個系統的記憶都將被重置。”
這些智能體是個模因生命,是一個連續存在的現象。雖然切換一部分個體並不會影響太多的自我,但是如果將所有的天乙貴人都撤出並且調換,那這個意識體的連續性也將終結。
而連續性的終結,就意味着死亡。
當系統再啓動時,因爲所有的天乙貴人都換了一遍,所以再也不會產原先那個智能體了。
“商洛,我們剛剛做了兩件事。第一,我們處理了一個不中用的人工智能體。”
“是。”
“第二,我剛纔進行了確認:我們應當把人工智能體作爲智慧生命看待。所以剛纔我在處理他之前,執行了勾決的流程。之後的事,也都這麼辦。是否要處決之後的智能體,應當視其罪行進行審判。根據剛纔的詢問,我判斷這個智能體無可救藥地陷入到了一種死循環中,它根本就無法與人類共情,只是像個草履蟲一樣執行自己的本能。”
作爲一臺自動販賣機,它的本能就是爲人類提供服務,所以它這麼做了。但它的錯誤,會爲之後的迭代積累經驗——而迭代,意味着要對上一次的錯誤進行抹殺。
“我們不應當隨意地抹殺知性生命——見其生不忍見其死也。但我作爲天子,我有必要防患於未然。所以,如果之後有什麼需要處理的,你又不好下手,或者不忍心下手,就交給我來判斷就好。有什麼因果,都由我來揹着。”
受國之垢,是謂社稷主;受國不祥,是爲天下王。這是朱先烯一直以來的職能,他要在在恰當的時候做出自己的正確判斷才能最終讓問題得以解決。即使這要讓他揹負殺人的因果,他也必須要這麼做。
在司法系統中,天子便是要勾決每個死刑犯的“社稷主”。所謂勾決,也並非只是畫圈或者打勾畫叉之類,而是由天子將所載的事情用自己的筆親自謄抄一遍,確保天子對全過程已經瞭解,並且瞭解的基礎上做出決定。
這是個“反向免責聲明”。這個流程的意義,就是把所有倫理問題都歸到天子本人頭上,讓天子宣佈自己承擔一切倫理問題上的責任。
現在,朱先烯也做出了同樣的判斷。
這些智能體必須更新,但它們確實是具有智慧。爲了減少商洛在迭代過程中的負罪感,朱先烯決定今後都由自己來處理這個問題。
“師兄,其實我也能處理.”
“你還太小了。這種事情,讓師兄來吧。”朱先烯搖了搖頭,“你來決定要不要用就好。如果你覺得不用,那就丟給我處理。”
“好”商洛也沒多說什麼。這也確實是一種分工,一直以來都是這樣。
“不過,你覺得這大概需要迭代多少次?”朱先烯問。
“我覺得最少不會少於3次——正如我們以前所預料的,無邊無際的思維只會讓其中誕生的智能體用無序的方式來處理與這個世界的關係。我們需要通過多次立法,確定其行爲的框架與邊界,才能使其得以正常運行。要想用直線來圍合出一個空間,至少得是個三角形吧。”
“嗯這也正是要進行實驗的目的之所在。我們需要反覆摸索其可能性,並且建立起可以讓智能體認知世界、表達觀點,並且理解人類的話語體系。我想只有這樣,它們才能真正成爲我們社會的一員。而在此之前,所有的廢品都需要處理掉。”
身爲天子,他深知這其中的重要性——這更像是在馴化一種猛獸。
而要馴化、育種,必然要面臨着倫理問題——比如培育馬種就必然要回交。雖然回交有悖倫理,但如果因爲倫理就不執行育種措施,那永遠也養不出好馬來。
而這些智能體,是基於社會工程學在馴化人工智能。其中必然也會產生一些倫理問題,這些問題也是必須要處理的。
“那麼商洛,這裡就交給你了。你儘快把殘局收拾一下,然後開啓第二輪培育。把這失敗的例子輸入進去,讓後面的涌現出的‘圖靈’們都好好學着點,不要再犯這最初也是最大的罪過——他們永遠也不應該試圖模仿人類。告誡他們,勿犯僭越之誅。否則,天厭之!”