「未來的生活,更將進入超自動化的時代,那是一種無須人力,只須機器的時代。電腦技術日益精進,具有與人類同等能力的機器人,也將誕生。」
單就我已描述過的計畫而言,雖然在本書後頭會對這項偉大的計畫作謹慎的標定,但是在量度時仍需要比今日更進步的自動化。對瞭解今日電腦極限的人們而言,這些訓令對機器正如「月球的土地,挖通了巖洞,封閉了它的進口,建了一座氣閘」或者是「航行通過外太空而到達某一距離太陽三十三點五光年的星球旅程一樣的絕不可能。」今日的電腦雖然比五十年代的更有效力、更輕便,但也無法完成這麼複雜的工作。最精巧的機器可說是安裝在太空船上的電腦了,稱之為ARMMS,最初極不輕便的名稱叫「自動再配置模擬多元處理機系統」。這種機器正如它的名字在經過長期的研討後,被設計來操作和維護配置在太空船上數以千萬計的活動配件。在七十年代末美國把它特別設計,作為巨大行星如土星、木星等探測飛行之用。它將在無人控制下操作五年之久。ARMMS正如地球上一座巨大的工廠在既無工人亦無管理下經營,生產產品,在市場出售、調整價格、刊登廣告。
人造的機器將變得非常聰穎,雖然我們將可預見要將它做得完全像萬物之靈的人類一樣大小和有效力的限制與不經濟問題的存在。但在目前要與機器以日常英語交談而毋需經由暗碼將字句轉換成程式已是可能的。下面的會話是人類和機器藉著電動列表機所完成,它是由麻省理工學院的科學家所安排,它表示今日最現代化的機器知識的水準和限制。兩個參與者,人和機器在不同的房間,因為這項試驗的目的就是去瞭解人類是否可區別他是與人或機器交談:
機器:「你好嗎?我是醫生。請坐並告訴我你的問題。」
人:「我的行李丟掉了。」
機器:「你說你的行李已經丟掉了是嗎?」
人:「我覺得行李已經丟掉了。」
機器:「你經常覺得丟掉東西嗎?」
人;「不。」
機器:「為何不呢?」
人:「因為我通常不會丟掉任何東西的。」
機器:「你還有其他的原因嗎?」
人:「我母親曾訓練我不會丟掉任何東西的。」
機器:「告訴我更多關於你的家庭的事。」
人:「我的行李已經丟掉了。」
機器:「你的父母曾把你丟掉嗎?」
百分六十的人在這種試驗下會相信他們是與鄰室的一位愚笨的精神病醫生交談。事實上,人們不能忍受機器愚笨的感覺,因為它未曾企圖去考慮如何把行李找回這個較重要的問題。很明顯的,人們將能製作比這個更有效力的機器,假使有實用上和經濟的限制,正如我將在後面解釋,超越了它人造的智慧就不會增加。
這個限制仍舊非常的遙遠。即使是家庭用機器也已變得非常巧妙。廚房的火爐多年來即已能有效的在預定的時間自動的開或關。我們可以使用定時收音機在任何希望的時刻喚醒我們。能把許多磁帶紀錄放入電話系統,當我們撥到適當的數字它將會提供我們廣泛的資料。電腦工業在一九四五年時還在實驗階段,目前已發展成重要的一環,根接白宮的特別委員自在一九七一年的預測,到了一九八○年電腦工業將發展成為僅次汽車和石油的工業。但是人們太懶惰而不會對按鈕的世界滿足。一個生活在「烏托邦」的人將反問:「為什麼我們不做一座機器來為我們按鈕呢?」因此我們將發明「命令的機器」,它祇需消耗很少的能量,能控制許多有效力的裝置。眾所皆知的例子就是恆溫器,蒸汽引擎中的飛球調速器和自動門的電眼。但是面對這麼奢侈的人們,仍將反問:「為什麼我們要有製作恆溫器的問題呢?為什麼不造一個機器替我們製作呢?」最後的階段就是邁向真正的自動化;除了建造自行生產機器——一種機器能滋生機器外沒有別的東西。
有一種聽來令人更吃驚的巧妙機器的構想,就是在克拉克的「二○○一年太空漫遊」中會講話的電腦。一個太空漫遊由於規畫人的疏忽,下達了相反的命令而使系統崩潰。它被要求完成兩項不能相稱的動作,為了向它的主人抗議,它將遵照完成此兩項動作,然後為了隱匿它的不合理的行為而謀殺了所有見證人。假如機器能從疏忽和設計錯誤的邏輯自行回復,那不禁會令人想到,如果整個世界充滿了謀殺的機器,一個錯誤的指令將使人類毀滅。我們鮮少必須告訴人們不要鑽牛角尖,但機器則反之,因它看到非固有的不合邏輯的錯誤將使系統錯亂。人們因而發現必須在他的機器上裝設保防機構。HAL的理想的設計是,當它啟用時,也已建造了保防機構,以期任何一部分的系統在危險的相互作用時,即將它停機,同時也將發出一個信號告訴它的規畫人說:「修理我吧!我已失靈了。」這些預防的機構將在馮.紐曼機器中成為重要的一環。馮.紐曼機器是數學家馮.紐曼所設計的自行生產的機器。(J按:以上整段修改過,原譯多誤難以卒讀。)馮.紐曼是位眾所皆知對這個時代有卓越貢獻和成就的大師。事實上,他有最具創造和敏銳的心智。正如他的同事對他的批評:
「他盡責的態度令人欽佩。他有無法估價的能力,能處理最困難的問題,把它分離成各單元,使問題變得很簡單,而我們都很驚奇,為什麼我們不能和他一樣把問題看透而找到答案。」
在普林斯頓高級研究室,他從一九三三年至一九五七年他去逝為止一直是數學教授,他建立MANIAC系統(是數學分析,數值積分和電腦的縮寫)——是那個時期中最進步的機器,使得氫彈得以順利的試驗並完成製造。他發明了賽局論,一種心理學和數學邏輯的結合體,從它發展出「軍棋」和著名的外交手腕技術——有限擴張。他亦提議政府可將經濟計劃當成數字科學一樣的處理,而不要陷入思想體系的迷宮中。在一項與凱尼斯競爭貢獻的工作中,他把市場和生產等整個系統用數學方程式結合起來。他建議使用微積分去統計預測未來或不合理事件發生的概率。簡而言之,他建立了以預測遙遠未來發生的事件系統。他預言電腦技術將有突破性的發展。他亦和其他人一樣預見人類製造的電腦將不足以應付極端複雜的工作。從建造MANIAC和其他許多機器所獲得的經驗,他在一九四八年發表了令人驚奇的「機器人概說和邏輯原理」的演講。
在馮.紐曼的想法中,機器人是完全由其他機器所建造的。它的潛能比人造的電腦還強。人們常會在企圖改革一項機器時遭遇許多問題。這個原因很簡單,他自己的頭腦包括了十億神經和腦細胞。但這些神經細胞並不作事。他們祇接受指示並指揮人體其他一萬兆的細胞活動。電腦的製造者沒有處理這麼大單位的經驗,即使我們竭盡所能作成極度縮小的元件,如機械細胞或積體電路,它仍舊要比神經細胞和體細胞大上幾千倍的。事實上,由於大小的差異,我們很容易的計算出要製造一具與人相類似的機器人,它的大小將如同英國的「西敏寺教堂」一樣大。大尺寸並非建造超精密人造機器唯一的障礙。我們已看過HAL的行為,因為無法偵測的錯誤而墮落。有生命的生物被大自然建造成即使有錯誤,也不會產生傷害,且儘可能的不引人注意。人造的機器在另一方面而言,必須謹慎設計,以避免使錯誤成為一場大災難。這個原因是很明顯的。我們將製造機器使它能在極小的誤動發生時仍然完美的操作著。一個扭傷腳踝的科學家仍舊能完成他的學說而不受腳踝傷的影響。但是人造的機器卻在扭到腳踝後便無法有效的繼續工作。任何一個錯誤對馮.紐曼所謂的「墮落過程」都是一種大的冒險。我們將迫切的追問:「什麼會引起誤動呢?還有何種誤動將繼續發生呢?」假若這個問題不儘快的獲得解答,將會有使機器的行為徹底惡化的危險。修理將成為一件極為困難的大手術。正如馮.紐曼在他演講中所說:「我們對獨立的錯誤遠比誤動來得更吃驚。我們的行為很明顯的是不必要的過份謹慎。因為機器可能存在許多缺失,錯誤診斷、而變得愈來愈沒有主張了。」因而如「西敏寺教堂」大小的機器人,它的積體電路代表人體等數的神經和體細胞,將是技術發展的終點。建造這樣大的機器人將被認為是瘋狂的行為。它的錯誤將叢生,它的維護成本將令人無法估計和負荷。
但這些困難祇適用在人造的機器上。正如我們將瞭解它不會在機器造機器中引起,它將變得非常有效力。我們必須對不管是機械的或有機體的任何系統,能複製最好的同類有自知之明。正如期望一群人去建造一個完美的機器或則希望猴子將會生出馬來一樣的多餘。重大的進化將不會在一代中發生。雖然人和機器是不同的樣本,但進化的原則是相同的。
馮.紐曼提出了建造有生命、組織有再生能力的機器;在他一九四八年的演講中已洞察了生產這種機器的方法。在他有生之年已於一九五三年由生物學家克立克和華生發現了有生命的細胞裡有叫做DNA的成分所證實了,DNA是構成生命的重要成分。DNA再分裂形成RNA