第三部分 智人失去控制權 第9章 大分離

上一章簡單回顧了近來的科學發現對自由主義哲學有何傷害,現在我們審視一下這些發現對實際生活有何影響。自由主義推崇自由市場和民主選舉,是因為自由主義相信每個人都獨一無二、各有價值,而且每個人的自由選擇就是權威的本源。但在21世紀,有三項「務實」的發展,可能會讓這種信念成為明日黃花:

1.人類將會失去在經濟和軍事上的用途,因此經濟和政治制度將不再繼續認同人類有太多價值。

2.社會系統仍然認為人類整體有其價值,但個人則無價值。

3.社會系統仍然會認為某些獨特的個人有其價值,但這些人會是一個超人類的精英階層,而不是一般大眾。

讓我們仔細審視這三個威脅。第一,科技發展將使人類不再具備經濟和軍事上的用途:這一點雖然不會從哲學層面推翻自由主義,但在實際生活中,很難想像民主制度、自由市場和其他自由主義制度如何承受這個打擊。畢竟,自由主義之所以能成為意識形態的主流,並不只是因為它的哲學論證最合理,更是因為它賦予每個人價值,這一點在政治、經濟和軍事上大有好處。在現代工業戰爭的大規模戰場、現代工業經濟的大規模生產線上,每個人都很重要。只要能拿起步槍或是扣動扳機,每雙手都有價值。

1793年春天,歐洲各王室派出軍隊,希望將法國大革命扼殺於襁褓之中。巴黎革命分子則宣布全國總動員,發動第一波全面戰爭。8月23日,法國國民公會(National vention)下令:「從現在起到一切敵人被逐出共和國領土時止,全法國人民始終處於徵髮狀態,以便為軍事服務。動員是普遍的。18歲至25歲的未婚公民或無子女的鰥夫應首先參軍,青年人則去打仗;已婚男子則製造武器和運送糧食;婦女則製造帳篷、衣服和服務於醫務;兒童則將舊布改成繃帶;老年人則至廣場鼓舞戰士們的勇氣,宣傳痛恨國王和共和國的統一。」

法國大革命最著名的文件《人權和公民權宣言》(The Declaration of the Rights of Man and of the Citizen)認定所有公民擁有同等價值,享有平等政治權利。但與國民公會所下的命令兩相對照,令人玩味。在這歷史上的同一時刻,一方面宣告普世人權,另一方面下令不分男女老幼全國總動員,難道真是巧合?雖然學者對於兩者究竟有何確切關係還多有爭辯,但在接下來的兩個世紀中,一種維護民主的常見論點認為讓公民擁有政治權利是件好事,因為民主國家的士兵和工人會比獨裁政權中的士兵和工人表現更好。據稱,讓人民享有政治權利,就能增強動機和進取心,而這在戰場上和工廠里都大有益處。

哈佛大學校長查爾斯·艾略特(Charles W. Eliot,任期為1869—1909年)曾於1917年8月5日在《紐約時報》發文稱:「民主軍隊的戰鬥力高於用貴族方式組織、獨裁方式統治的軍隊……由民眾決定立法、選舉公務員、解決和平與戰爭問題的國家,比起靠世襲或全能的神所委託的獨裁者,前者的軍隊戰鬥力也要更強。」

第一次世界大戰後,基於類似的理由,婦女獲得了各項權利。各國意識到女性在這場全面工業戰爭里扮演重要角色,認為有必要在和平時期也賦予女性政治權利。因此在1918年,美國總統伍德羅·威爾遜支持女性擁有投票權,向參議院表示,在第一次世界大戰中,「若不是因為有女性在各個領域提供服務,美國或其他任何參戰國家都不可能贏得勝利;而且這裡指的不只是我們司空見慣的女性工作領域,而是所有過去屬於男性的工作領域。如果不讓女性享有儘可能完整的權利,我們不僅會失去民眾的信任,更是咎由自取」 。

但到了21世紀,不論男女,大多數人都可能不再具有軍事和經濟上的價值。兩次世界大戰投入大量人力的時代已經過去,21世紀最先進的軍隊,主要靠的是尖端科技。現在的戰爭需要的不再是人數無上限的炮灰,而是精挑細選少數訓練精良的士兵,甚至人數更少的特種部隊超級戰士,加上幾個知道如何生產和使用先進科技的專家。由無人機和蠕蟲病毒組成的高科技部隊,正在取代20世紀的人海戰隊,而指揮作戰的將軍也將越來越多關鍵決定交給演算法處理。

有血有肉的戰士除了行事難以預測,還容易受到恐懼、飢餓和疲勞的影響,思考及行動的速度也越來越無法趕上現代戰爭的步調。從古巴比倫的尼布甲尼撒二世到現代伊拉克的薩達姆·海珊,雖然科技已有各種進展,但戰爭仍然處於人類的步調。討論得花上幾小時,一場戰役得花上幾天,戰爭得拖上幾年。但一場網路戰的時間可能只有幾分鐘。在網路指揮中心值勤的中尉發現有異常狀況後,就算立刻致電上級,上級再立刻上報白宮,最後還是只能一聲哀嘆,因為等到總統接到消息,這場戰爭早已一敗塗地。只要短短几秒,計畫精密的網路攻擊就能夠讓全美電網斷電,破壞航空管制中心,造成核電廠和化學工廠大量事故,干擾警察、軍隊和情報通信網路,甚至是抹除所有金融記錄,讓數萬億美元就這樣消失於無形,沒人知道究竟哪些錢歸誰所有。這種時候,唯一讓民眾還不會歇斯底里的原因,就是網路、電視和廣播也全面斷線,所以大家連情況有多慘都不知道。

如果是比較小的規模,假設空中有兩架無人機正在交戰。其中一架需要先接收到遠方地堡內操作人員的命令才能開火,另一架則能完全自主開火。你覺得哪一架勝算大?假設到了2093年,已經老舊迂腐的歐盟決定派出無人機和機器人來對抗新時期的法國大革命,新的巴黎公社可能會招募所有的黑客、計算機和智能手機參戰,但大多數人大概已經都派不上用場,頂多只能當人肉盾牌。這是事實:在今天的許多不對稱衝突中,大多數公民只能作為各式先進武器的人肉盾牌。

此外,就算不管勝敗問題,單單為了正義,也該支持用機器人和無人機取代士兵和飛行員。人類士兵可能犯下謀殺、強姦、劫掠等罪行,而且就算他們守規矩,誤殺平民仍然在所難免。相較之下,如果是搭載倫理演算法的計算機士兵,遵守國際刑事法院最新規約的可能性就高多了。

經濟領域也有相同情形,能夠舉起鎚子或按下按鈕的能力已經不如以往有價值。這也就危害了自由主義和資本主義之間重要的合作關係。在20世紀,自由主義認為倫理和經濟能夠兼得,保護人權和自由既是倫理道德的必要之舉,也是經濟發展的關鍵因素。自由主義認為,英美法等國正是因為開放經濟和社會而繁榮,而如果土耳其、巴西或中國也想達到同樣程度的繁榮,就該起而效法。許多甚至是絕大多數的專制君主或軍人政府,也是出於經濟而非道德因素,才最終願意走向開放。

到了21世紀,自由主義的影響力將會大不如前。隨著大眾在經濟上不再重要,僅靠倫理道德,是否足以保護人權和自由?無法從中獲得經濟利益後,精英階層和政府還會認定每個人都有價值嗎?過去有許多事情只有人類才能做得到,但現在機器人與計算機正迎頭趕上,可能很快就會在多數任務上超越人類。確實,計算機的運作方式與人類的行為方式非常不同,而且看來短期內計算機也不會變得更像人類,特別是應該並不會獲得意識或是具備情感和知覺。過去半個世紀,計算機智能(puter intelligence)已經有了巨大進展,但在計算機意識(puter sciousness)方面卻仍在原地踏步。據我們所知,2016年的計算機並未比20世紀50年代的計算機原型意識更強。然而,一場重大革命一觸即發。「智能」即將開始與「意識」脫鉤,人類因此面臨失去經濟價值的危險。

高度的智能與發達的意識一向是兩個形影不離的概念。必須是具有意識的個體,才能執行需要高度智能的任務,例如下棋、開車、診療,或是辨認出恐怖分子。然而,我們正在開發新型的「無意識智能」,做起這些事來比人類更快更好。原因在於,這些任務是基於「模式識別」,而無意識的演算法很快就能在這一點上超越人類。

科幻電影通常假設計算機如果想趕上甚至超越人類的智能,就必須發展出意識。但真正的科學卻有另一種看法。想達到超級智能可能有多種方式,並不是每一種都需要通過意識。數百萬年來,生物進化一直順著意識這條道路緩緩前行,但非生物的計算機卻可能完全不走這條窄路,而是走向另一條通往超級智能的捷徑。這就產生了一個新問題:智能和意識,究竟哪個才真正重要?在兩者仍然攜手同行時,討論兩者的價值孰高孰低,大概只會是哲學家的有趣消遣。但在21世紀,這正成為一個急迫的政治和經濟問題。至少對軍隊和企業來說,答案再簡單不過:智能是必要的,但意識可有可無。

軍隊和企業需要具有智能的代理人才有辦法運作,但這樣的代理人卻不見得需要有意識和主觀體驗。舉例來說,如果是有血肉

上一章目錄+書簽下一頁