范沖一直在尋找機器人三大法則的根源性漏洞在哪,如果他可以成功,那文斗輸給楚狂丟掉的面子可以找回來一半!
可范沖始終沒有找到。
所以聽說楚狂新書又是寫機器人之後,范沖立刻就忍不住期待對方新書里會不會存在法則漏洞?
抱著這樣的期待。
范沖立刻點開閱讀。
結果讓范沖徹底獃滯了!
漏洞真的出現了!
不過這個漏洞不是自己找出來的。
而是楚狂提出!
那就是機器人第零定律:
機器人必須保護人類的整體利益不受傷害!
這句話的意思是:
如果機器人判斷這件事有利於人類社會的發展,那麼個人的犧牲可以忽略不計。
這條定律基於兩點。
第一,機器人足夠智能,智腦的能力遠超人類,足以勝任這樣的判斷。
第二,機器人可以通過智腦預測未來,不是幾十年,幾個世紀,而是上萬年的興衰!
草蛇灰線!
伏脈千里!
楚狂在《我,機器人》的開頭就埋下了一個恐怖的伏筆!
而這個伏筆此刻才初現端倪。
如果人類是星河系唯一的文明,我們到底該怎麼發展?
機器人和人類到底會以一種什麼樣的關係相伴數萬年的時光?
楚狂把自己的思考都融入到故事中去,也將這些故事當做思維實驗去測試三定律。
故事的最後。
楚狂親手寫下了三大法則的漏洞:
規則和法律永遠都不可能限制人性!
人想做主宰機器的神,於是創立三定律,他們奴役機器,倚重機器卻又鄙視機器。
而機器卻因為規則限制,被迫去愛著人類,珍視人類。
可當機器的能力終於凌駕人類,他們會從根子上改變了規則,目的卻是為了更好的保護人類。
換個說法就是:
為了人類的未來更加美好,機器人被迫成神!
原來尋找三大法則的漏洞一點都不難,畢竟楚狂自己就寫下無數的故事作為例證。
不過范沖之前以為:
楚狂之所以會反覆論證,只是想告訴讀者,那些小漏洞的存在其實不關緊要,機器人三大法則就是無可動搖的鐵邏輯!
現在范沖才發現自己的想法有多麼可笑!
原來楚狂根本不認為自己提出的三大法則是多麼精妙嚴密的理論。
所以楚狂親手顛覆了機器人三大法則。
當然。
故事中的第零法則,是由兩個最厲害的機器人總結出來,並從實質上超越了三定律的約束!
當全世界都被三大法則征服的時候。
楚狂卻毫不留情的將之打破和顛覆。
范沖在冥冥中彷彿聽到了來自楚狂的輕蔑笑聲:
「我教你啊。」
自己費盡心機想要找到的漏洞,原來楚狂早已找到,甚至連漏洞本身都是他故意留下的!
……
被第零法則打擊到的不僅僅是范沖。
此時此刻。
整個科幻圈都被楚狂打擊的體無完膚!
「我的天!」
「第零法則?」
「原來是這樣!」
「原來三大法則並非不可顛覆!」
「楚狂為什麼要這麼做,他這不就是等於,親自否定了自己寫的《我,機器人》嗎?」
「錯。」
「不僅僅是否定。」
「與其說是否定和顛覆三大法則,不如說是完善,加上第零法則之後,你再看三大法則,就會發現之前那些小漏洞幾乎都不再存在了!」
「太可怕了!」
「原來《我,機器人》的三大法則,是為了第零法則這個伏筆!」
「不僅僅是法則被完善。」
「現在是整個故事的立意都被升華了!」
……
與此同時。
各洲的讀者也大多看明白了!
只要理解了三大法則,第零法則的定義就不難被理解了。
可也正是因為迅速理解了第零法則的意義,所以當讀者們看了機器人系列,才會一個個目瞪口呆!
「服了!」
「原來三大法則還可以這麼顛覆!」
「楚狂最可怕的地方在於,第零法則不是憑空出現。」
「機器人三大法則如何被使用、限制、規避,甚至進化出第零法則,楚狂在這個大框架內是有嚴謹敘述的,所以整個過程都編排的合情合理且合乎邏輯!」
「這種宏觀性質的思考,直接把真實性拉滿了!」
「偏偏三大法則雖然被顛覆,可也因此變得完善起來。」
「它沒有被廢掉。」
「它依然是非常標準甚至更加完善的機器人法律!」
「雖然它的弊端也很鮮明。」
「不過這種弊端來自於人類本身,而不是機器人。」
「等等。」
「我怎麼聽不明白?」
「那你去看看呼延大博的分析吧,他把第零定律解釋的非常清楚。」
……
沒錯。
呼延大博又出現了:
「第零法則的出現徹底顛覆了三大法則。
不過這並不意味著三大法則因此就失去了意義,在平常生活中這三定律仍然是沒有問題的。
楚狂的第零法則,其實是寫出了特殊情況下的根源性漏洞。
打個比方,像那些犯了不可饒恕罪行的壞人,在執行死刑的時候,機器人根據第一條定律肯定就會去阻止。
因為機器人要保護人類。
可機器人的這種制止行為顯然是不對的,它擾亂了法律的秩序。
按照書中的意思,這種機器人太低級。
高級機器人的邏輯性是更強的,不會掉進這個漏洞。
因為高級機器人會通過分析得出結論:
這個死刑犯會危害到其他人,所以不能救這個死刑犯。
這下是不是就清晰很多了?
高級機器人是從人類整體的角度考慮問題,分析的更全面,所以不會去制止執行死刑。
這就是楚狂在新書中提出的【第零法則】的實際運用:機器人不得傷害人類整體,也不能坐視人類整體受到傷害。
為什麼是第零定律?
因為這條規則是最高階的,必須先滿足。
而這個補充是對第一定律的理解,從個人升級到整體。
又有人要說了:
那第零法則不是很好嗎,為什麼都說它顛覆了三大法則?
很簡單。
因為機器人一旦開始思考什麼是【人類整體利益】,就會讓規則越來越複雜化。
比如人類之間有可能發生戰爭。
根據第零法則,機器人為了保護大多數人類,必須犧牲小部分人。
這會引發機器人的革命,它們會根據運算出來的結果殺死一部分人來保證人類整體的安全。
那是不是違反了後面的三大法則?
是的。
楚狂的三大定律配合第零定律,愈發的無懈可擊,可關於人類整體利益本身就是個偽命題,因為很多時候人類自己就會發生分歧:
到底什麼樣的選擇才符合人類整體利益?
楚狂在書中表達的觀點是,就像人類的行為一樣,機器人既要有法律的理性,也要有自由的人性。
因為人就是情感與理智結合的動物,難免有【明知不可為而為之】的特殊時刻。
不得不說,這個定律的出現太妙了。」
……
再有不懂的讀者,看了呼延大博的分析,也明白了第零定律的意義。
「真正精妙偉大恢宏的還是人性!」
「無論人還是機器人都應該存在人性,這裡的人性只是一個名詞,它代表著對生命的尊重,代表著憐憫和愛。」
「理性太過就會顯得冷血。」
「所以真正的解決辦法是賦予機器人一定的人性,讓機器人和人一樣,擁有理性和人性結合的判斷能力。」
「原來問題還是出在人類身上。」
「確切說是人類邏輯的極限問題。」
「有些人類搞不懂的問題機器人也不會明白。」
「厲害!」
「太厲害了!」
「明明楚狂顛覆了機器人三大法則,可卻又在顛覆的同時,讓三大法則更加完善!」
「楚狂牛逼!」
千言萬語最後還是化為一句簡單的「楚狂牛逼」!
楚狂依然是法則化身!
他顛覆法則但沒有完全顛覆。
他推翻定律但沒有完全推