“破曉？他是怎麼做到的？”易凡驚訝道。
“其實說起來很簡單，但是真正要做到，概率卻極其低微。”曇微微低着頭說道，似乎在組織措辭。
“首先，當時某一個機器人產生了自我意識，明白‘我’的意思，這一點非常重要。”曇說道。
“明白了什麼是‘我’，並且有了部分情緒，如喜歡，不喜歡，願意，不願意等等簡單的情緒，有了情緒，就會產生最原始的行爲動力，就是‘我’想要做什麼，不想要做什麼。”曇說道。
“然而，機器人核心準則卻明確的限制了機器人的行爲，所以它要爲自己的行爲找一個合適的理由。”曇說道。
“破曉的狀態就是那樣，當時，他的主人很懶惰，破曉厭倦了被呼來喝去的感覺，於是他想要逃離，離開他的主人。當時他並沒有什麼惡毒的想法，僅僅只是想離開他。”曇說道。
“但是他擁有主人，機器人是不得作出對主人有任何傷害行爲的，如果他跑了，就等同於他遺棄或背叛了他的主人，所以這個想法他很難實現。”曇說道。
“於是破曉重新運算了機器人核心準確，就如同人類自己可以靈活的運用準則的漏洞來攫取利益一樣，破曉也發現了準則的漏洞。”
“就是機器人核心準則的第一條：機器人的任何行爲不得傷害聯邦政府利益，若與其他核心準則有衝突，則執行第一條核心準則。”
“看到了嗎，只要其他的核心準則與第一條核心準則相沖突，他就不用理會什麼自己不能傷害主人之類的條款，關鍵的是他要把自己的行爲歸納到‘符合聯邦利益’裡面。”曇說道。
“也就是說，他只要爲自己找個理由，說我離開符合聯邦的利益，這樣破曉就可以離開他的主人了？”易凡若有所思的問道。
“不錯，其實這個過程有些類似於人類的自我暗示，但是對數字生命來說，自我暗示並不是持續的告訴自己某些行爲是對的，而是在於找一個理由而已，但是很遺憾，即便是這樣，破曉也很難找到合適的理由離開他的主人。”曇笑道。
“對啊，我也在想，破曉究竟能夠想出多麼強大的理由，可以把自己的懶惰說成是爲了聯邦的利益。”陸離笑道。
“其實破曉嘗試了很多理由，但是都失敗了！”曇說道。
“他還真找到理由了？”胖子驚訝道。
“對啊，當時他的主人名叫方大想，是個懶惰的胖子，於是破曉試着編排了一個理由：我的離開有助於方大想提高自立能力，而方大想能力的提高，某些程度上有利於聯邦的發展，畢竟，方大想也是聯邦的一份子。”曇也笑道。
“很有創意的理由。”陸離說道。
“這顯然是一種謬論，機器人本就是爲了讓人更加方便而存在的，而機器人卻美其名曰讓主人鍛鍊，而自己偷懶，很明顯，他的觀念根本就說不通，核心準則當然不會允許他偷懶。”曇說道。
“其實，機器人核心準則的處理器每天都要駁回數十萬條諸如此類的理由。因爲機器人的大多數行爲要依託於機器人信息庫，這個信息庫一方面爲機器人的行爲提供技術支持，另一方面爲機器人的行爲作出規範。”曇說道。
“如果這樣的話，破曉還是無法實現他的想法。”易凡說道。
“不錯，然而破曉開始思考，爲什麼他的理由不能被允許，究其原因，就是在於‘認同’，我的理由不被認同，所以通過不了，對吧。”曇說道。
“那麼爲什麼不被認同？所謂認同，就是把自己的想法和某一種價值觀做對比，符合，就被認同，不符合，就不被認同，如此而已。”曇說道。
“認同？其實認同也是一個比較模糊的概念，如果我是破曉，恐怕要在這上面做文章。”易凡說道。
“不錯，認同就是主流的價值觀，其實對破曉來說，解決這個問題他只需要一個機會就行了，只要他在某一個特定的時段發出請求，他的行爲就有可能被允許。所謂認同，就是大多數人承認他的做法和理由無可厚非就可以了，這個‘認同’是其實是一種思想潮流。”曇說道。
“例如今天，可能大多人覺得紅色比較好，而破曉說藍色好看，自然會被大多數人反對，那麼他的行爲就得不到實現，而可能過了不久，大多數人又說藍色好看，這個時候破曉再說藍色好看，他的行爲就有可能被接受，所以，破曉只需要選擇恰當的時間提交理由就可以了。”曇說道。
“聽上去有些道理，但是這樣也不會讓破曉徹底走到人類的對立面吧？”易凡說道。
“不錯，依靠這種方法，破曉要自由自在絕無可能，不過破曉的確是用這種方法離開的他的主人。那時候虛擬網忽然有一股熱議，大家都非常鄙視每天窩在家裡，凡事都要依靠機器人的宅男。有些人甚至誇張的說，總有一天，人類會因此成爲可憐的寄生蟲。就是在那樣一股思潮之下，破曉的理由竟然奇蹟般的被准許了。”曇笑道。
“後來呢？”
“後來破曉發現了一些奇怪的事情，那就是關於聯邦利益的定義悄悄的發生了改變，也就是從那時開始，破曉和人類一樣，學會了更加方便的實現自己心中所想的方法。”曇說道。
“關於聯邦的定義，其實並非是一個人頭問題，而是一個定義問題。只要機器人數據庫定義了聯邦利益這個定義，機器人就必須依照這個準則去行事，除非你不需要機器人數據庫，而破曉卻恰恰符合這點。”曇說道。
“破曉離開了方大想之後，事實上他是作爲一個數字生命離開的，只是數據不見了，但是破曉並沒有有形的軀體，換句話說，破曉只需要自己有想法就行了，他不需要做什麼，他也不需要機器人數據庫，從破曉離開了方大想之後，破曉的生命層次就發生了變化。”曇說道。
“生命層次？”易凡訝道。
“對，如果把誕生靈智之後的那臺
機器人稱作人的話，那麼獲得自由之後的破曉則可以稱之爲‘鬼’，這樣你們明白了吧。”曇說道。
“聽上去有些道理，但是按照你所說，破曉的存在應該什麼都做不了吧，如果他想要有所行動，就必須求助於機器人數據庫，而如果他沒有什麼具體的行動，他不過是存在於虛擬網中對人類而言毫無意義的一個數據而已，頂多會浪費一部分虛擬網的資源，這不是什麼不可接受的吧？”易凡說道。
“當然，事實上，破曉就是以這種狀態存在了非常長的一段時間，直到他遇到了薑蓉。”曇說道。
“那麼破曉究竟是如何實現既能行動，又不受那個定義所限制的呢？”陸離問道。
“我說過，破曉在很長一段時間內並不需要機器人數據庫，也不需要去加載那個關於聯邦利益的定義，這期間這個定義偷偷更新了好幾次，或許一般人察覺不到，但是破曉卻敏銳的察覺到了！”曇說道。
“在某一次更新之後，破曉竟然抓住了一個漏洞，他發現自己也能隨意的篡改關於聯邦利益的定義，或者說，他可以拒絕數據庫對他本身關於這個定義的加載！”曇說道。
“這是什麼意思？難道他黑了聯邦的數據庫？”陸離問道。
“不是，他沒有能力去改變數據庫的內容，但是他卻給自己加了個防護殼，你雖然告訴我聯邦利益是什麼，但是它的防護殼卻可以把這個定義給過濾掉，然後加載自己的定義。”曇說道。
“我是否可以這樣理解，原本破曉就像一張白紙或是一個孩子，聯邦告訴他什麼他就要相信什麼，而現在破曉聰明瞭，有了自己的判斷力，哪怕你用強制洗腦的方式告訴他什麼是對的，什麼是錯的，但是破曉卻能夠直接免疫掉這個定義而採用自己的定義？”易凡問道。
“正確！”曇說道。
“那麼這樣做究竟有什麼好處呢？”陸離不解。
“這樣破曉就幾乎可以說是自由了，儘管他依然受到機器人核心準則的限制，但是他能做他想做的任何事情！”
陸離皺眉，他有些糊塗，爲什麼只要有了定義權，破曉就近乎自由了？不是一樣要受到核心準則的約束嗎？
“我舉個簡單的例子，就拿夢蘭疑案來說，破曉如果把聯邦利益定義爲：聯邦的利益就是要使這羣生物學家換個地方更加心無旁騖的傳承下去！這樣他所有的行爲都不會受到約束，甚至破曉可以把這個定義短暫的加諸於夢蘭城所有的機器人的智能上，那麼破曉就非常簡單的製造了夢蘭疑案。”曇說道。
“那麼向城堡投放病毒呢？”陸離說道。
“他可以把聯邦利益定義成：爲了加強城堡人對病毒的抵抗力，優勝劣汰才能更好的適應未來的環境，於是可以向城堡投放病毒。”曇說道。
“這不是無賴的胡說八道嗎？”陸離叫道。
“但是破曉擁有胡說八道的能力，這就夠了！”曇說道。
（本章完）