“難道有人破解了上網許可?可以不經由核心準則的認證而使用機器人的數據庫?”陸離問道。
“不是!接入機器人數據庫的入網許可非常簡單,只要有核心準則就行,但是簡單並不意味着容易破解,相反,越是簡單你就越難破解這個入網許可,越難出現什麼漏洞,實際上這個入網許可機制已經臻至完美,想要騙過這個許可系統幾乎不可能。”曇說道。
“這些機器人,有自己的另一套行爲數據庫!”易凡斬釘截鐵的說道。
“你怎麼這麼肯定?”陸離奇道。
“就算這些機器人能夠通過某種方法接入虛擬網,使用公共的機器人數據庫,那麼數據庫中也沒有關於機器人如何使用武器,如何防衛城堡這類的數據,如果機器人要勝任這些工作,必須有足夠的數據庫支撐,據我所知,一般的數據庫根本不會有這樣的信息存儲。”易凡說道。
“難道是軍用數據庫?”平無釋疑惑道。
“不排除這個可能,夢蘭城好像本身就歸十三家族之一的樑家所管轄,他們能夠弄到軍方的數據庫並非難事,雖然表面上看起來拿到軍方的數據庫比接入機器人的公共數據庫要難很多,但是其實打軍方數據庫的主意恐怕更具有操作性。”易凡說道。
聯邦無戰事,現在的軍方說白了就是一個鍍金場,而且還是一個嫉妒腐朽的鍍金場,如今的軍方傳出任何醜聞都不足爲奇,軍方的腐朽也早已經是公開的秘密。
幾人搖頭,軍隊如今的腐朽連平民都一清二楚,許多軍中的闊少更以炫耀軍中的奢靡爲榮,儘管偶有指責,但是民衆似乎習慣了軍中的奢靡,軍隊早已經成爲貴族的象徵,如今的軍隊在普通人眼裡早就失去了他原本的作用,要不是若昭的橫空出世,人們或許早就忘卻了軍隊的職責。
“難道是軍中的人太懶,自行篡改了機器人的核心準則麼?”胖子忽然問道。
“核心準則哪有那麼容易更改?”易凡苦笑道。
“不,這個核心準則一定被修改了,而且很容易修改!”陸離忽然說道。
幾人看着陸離,不明白陸離爲什麼這樣說話。
“你們應該知道,我在若耶城的時候曾經發生過一起車禍事故!若耶城一個富家公子的手動機車因爲行駛速度太快而偏離出手動機車軌道,然後我的機車被強行徵調去做緩衝氣墊!”陸離說道。
“這沒有什麼問題啊,根據機器人的第二條核心準則:機器人任何條件下不得傷害聯邦公民及其他動物,若有聯邦公民受到傷害或將要受到傷害,機器人有義務制止傷害的發生或繼續,徵調你的電車避免意外的發生,並且也保證了你的安全,這並沒有什麼不妥啊,官方不是做出解釋了嗎?”易凡奇怪的說道。
陸離的事情易凡比較瞭解,也就是那時候開始,陸離進入了易凡的視線,並且對陸離發出了邀請。如果不是那場車禍,或許陸離依然每天蝸居在那個不足二十平的保障房裡,每天無聊和半卡插科打諢,渾噩度日。
“問題就在這裡!當時智能電車給我的提示可不是這樣說的,因爲隨車是有錄音的,我可以完全確定,當時電車的提醒是:‘根據聯邦機器人第一核心準則,有權強制調用您暫時使用的電車作爲緩衝,以避免人員傷亡,請做好衝撞準備。’就是這個提醒!不是第二核心準則,而是根據第一核心準則對我的車進行徵調!”陸離有些憤怒的說道。
“第一核心準則?”幾人忽然驚訝道。
“對,就是第一核心準則,原來我一直不太明白機器人核心準則究竟是什麼東西,但是你們說第一核心準則是機器人的任
何行爲不得傷害聯邦政府利益,是不是可以解釋成機器人無論做什麼都要優先考慮聯邦利益?”
“可以這麼理解!”易凡點頭。
“你們不覺得這個第一核心準則太過模糊了嗎?”陸離問道。
“模糊?”
“是啊,一切以聯邦利益爲前提,那麼什麼是聯邦利益?”陸離問道。
“這個恐怕不好回答。”易凡笑道。
“不,一定有標準的答案,否則機器人會無法執行這個準則!一個模糊的概念機器人是無法執行,所以必須對聯邦利益做出精確的描述,這樣機器人才會完美的執行核心準則!對嗎?”陸離轉頭問曇。
“對!聯邦利益的確有一個明確的定義,而且很不幸的告訴你們,聯邦利益這個詞的定義,高層可以隨意修改!聯邦要修改機器人核心準則或許很難,但是修改一個定義還是很簡單的!”曇說道。
幾人面面相覷,他們都不笨,陸離和曇的話中所表達的意思幾人不用點破就能明白個大概。
聯邦利益這個詞的定義的確太過具有操作性了,高層可以把聯邦利益設定成全人類的利益,也可以設定成部分人的利益,或者在進行某一項高危險的工程的時候,聯邦也可以將其納入“聯邦利益”的範疇,因爲第一條核心準則有這樣的規定:如果其他準則與第一條核心準則有衝突,那麼就以第一條準則爲準。
“這個‘聯邦利益’的定義權掌握在誰的手裡?”百里雪薇問道。
幾人明白百里雪薇問這句話的意思,這個定義權實在太重要了!毫不客氣的說,誰掌握了這個定義權,誰就可以利用機器人爲所欲爲!
舉一個簡單的例子,如果一個人想要殺人,但是自己不能動手,他想要讓機器人殺死對手,然而根據機器人的第二核心準則機器人是不可以傷害人的,那麼只要這個人將殺死對手這件事列爲“符合聯邦利益”,那麼機器人就會執行殺人的動作,因爲即使違法了第二條核心準則,但是如果和第一核心準則有衝突的話,機器人會執行第一條核心準則,所以這個“聯邦利益”的定義權尤爲重要!
如果有人控制了這個定義權,將“聯邦利益”的定義篡改成“變異老鼠的利益”的話,恐怕頃刻間機器人會變成人類的敵人,想想都令人覺得不寒而慄。幾人忽然理解了墨盟的做法,如果有朝一日機器人忽然與人類爲敵,那麼無論幕後操縱者是人類或是別的什麼,對墨盟的衝擊最小,即便沒有了虛擬網,沒有了機器人,對墨盟來說依然不足爲患。
“這個定義權很明顯不會掌握在平民的手中,而且這個定義權並不是那麼容易被修改的!聯邦有四大機器人公司,這四個公司共用一個機器人數據庫,這是聯邦的法律規定的,如果要修改機器人的核心準則,必須輸入一個密匙才行,據我所知,這個密匙是一個極其複雜的加密系統,他的密碼被分成十七份,十三家族和四大公司每家都掌握有一小段密碼,而且每家的密碼根據加密方式的不同,是隨着時間不斷變化的。”
“如果要修改核心準則以及聯邦利益的定義,必須十七份密碼湊齊,並且按照一定的規律輸入才能得到修改權,而且整個過程只允許輸入一次,如果錯誤一次,那麼整個系統會封閉五年,五年之後才能再次獲得一次修改機會!所以機器人自出現一直到現在,沒有發生過什麼紕漏和意外!”曇解釋道。
“那麼我的那次事故至少證明所謂‘聯邦利益’並不包含平民利益。”陸離有些自嘲的說道。
“恐怕是的,而且我們甚至可以推測出,目前這個‘聯邦利益’的定位肯定是把人分成三六九
等的,比較重要的人遇到危險,是可以拉次一等的人墊背的。”百里雪薇冷嘲道,似乎對此極爲不滿。陸離和百里雪薇都是來自平民階層,對此當然極爲牴觸。
“憲法中不是說聯邦人人生而平等自由嗎?”胖子說道。
“哈哈哈……胖子,原來你比我還要純真無暇!”陸離忽然放聲笑道。
陸離的笑聲很大,彷彿要忘卻這些煩惱。易凡沒有說話,他知道如今討論這些東西只會徒增煩惱,即便是聯邦時代,人類的正確也依然是一個穩固的金字塔,有些人永遠高高在上,享受着文明發展所帶來的窮奢和浮華,有些人永遠在最底層苦苦掙扎,人人平等只是一個不可及的童話。
幾人不知道,在千靈草原上,乾坤和破曉也進行着一個關於機器人核心準則的探討。
“該死的,這個蟲蟲究竟是何方神聖?五百年前的一套加密方式到現在破解起來依然毫無頭緒!”乾坤有些氣急敗壞的說道。
“蟲蟲啊,人類歷史上最爲傑出的黑客,沒有之一!”破曉悠哉遊哉的說道。
“這個混蛋,把加密方式搞得那麼複雜做什麼,彰顯自己的與衆不同嗎?”乾坤似乎很惱怒。
“怎麼,還不放棄對機器人核心準則的入侵嗎?”破曉似乎嘲諷乾坤在做無用功。
“難道你不想修改聯邦的機器人核心準則嗎?”乾坤似乎不滿破曉的心不在焉。
“呵呵,我當然想修改,但是我可不認爲自己能夠入侵這個系統去修改,那套加密方式是無法入侵的,除非你是神!”破曉說道。
“千靈草原的聖父也有認慫的時候,蟲蟲只不過是五百年前的一個黑客而已,那個時候人類知道什麼?我就不信破解不了!”乾坤怒道,同時忘不了嘲諷破曉。
“我很疑惑,你的那個計劃不是進行的很順利嗎?爲什麼還要費勁去破解這個東西,你應該能算出來,憑藉你的力量,即使再花三百年,也不一定能夠破解了這個加密方式。”破曉道。
“順利個屁!樑家、馬家、平家的人還好說,但是有些議員家族竟然恪守着可笑的宗教信仰,說什麼死後迴歸主的懷抱,真是無稽之談!”乾坤怒道。
“哈哈……我倒是忘了人類還有信仰的存在。”看到乾坤的碰壁破曉似乎很開心。
“嘿,據我所知惑媛和幾個人類到了夢蘭城求醫,夢蘭城可是我們的後花園,要不要留下他們幾個?”乾坤忽然嘿嘿笑道。
“你這個白癡,你只看到他們幾個,難道你不知道曇也在暗中窺伺嗎?不怕死你就試試!”破曉說道。
“曇……”乾坤呢喃,似乎在考慮什麼。
“怕了?”破曉冷笑。
“你幫我拖住曇,他們幾個我來負責,沒有機甲的保護,殺死他們和捏死螞蟻沒有什麼區別!”乾坤冷聲道。
破曉沉默了,沒有說話。
“你怕曇?”乾坤問道。
“不,曇不會傷害我,我也不想傷害她!我只是不明白,你爲什麼要殺他們幾個?”破曉問道。
“凡是人類都該死!”乾坤冷漠的說道。
“那我就幫不了你了,我沒有你那麼狹隘!”破曉回絕了乾坤。
“哼!假仁假義的僞君子,不要以爲我不知道你打算做什麼,你現在的行爲比起我要殘忍萬億倍!”乾坤咬牙切齒的說道。
“我代表的是自然,是天道!千靈草原的動物們要歷經天擇,城堡人自然也不能例外,能不能活下來看他們自己的造化!”破曉冷漠的說道。
沒有人知道,一場驚世之災悄然臨近。
(本章完)