第四章 數位人生 支持-行動原則

目前測試新技術的默認計演算法則,是「預防原則」。預防原則有許多不同的公式,但這個原則的各種變化有一點是共通的:在接受新的技術之前,必須確定它是無害的。只有證明是安全的技術才能傳播。如果不能證明一個新技術是安全的,那麼應該禁止它、削減它、修正它、廢棄它或者對它視而不見。換句話說,對於新的想法,第一個念頭應該是不去用它,直到我們可以證明它的安全性。當創新出現的時候,我們第一步應該先暫停下來,第二步進行隔離測試——用模型或者一種不產生重要影響的、安全的、最低風險的方式來進行。只有通過了這樣的步驟,我們才開始嘗試著把它帶到實際生活中。

可惜預防原則並不總能提供完全可靠的保障。任何一個模型、實驗室、模擬環境或者測試都會有內在的不確定性,所以評估新技術唯一可靠的方式是讓它在真實環境裡面運行。充分使用之後,它的附屬作用才會表現出來。一個技術誕生之後馬上就進行測試的話,我們測試的只是它的主要效果。但通常大多數問題產生的根源是技術當中始料未及的附屬作用。附屬作用在高密度的、接近普遍使用的環境才會顯現出來。早期汽車的主要關注點圍繞著使用者:引擎不會熄火,剎車不會失靈。然而汽車帶來的真正威脅是對於全社會的——我們越來越多地了解到汽車不斷產生的微小污染、高速行駛時可能會奪去別人的生命,更不要說汽車瓦解了郊區的概念,以及長途通勤——這些都是附屬作用。

附屬作用是社會的不速之客,很難在各種預測、實驗室實驗和白皮書里預見他們的到來。科幻小說家亞瑟·C·克拉克(Arther C. Clark)觀察到,在馬車時代就有很多普通人迫切地想像有朝一日會出現沒有馬的馬車。汽車的出現眾望所歸,因為它延伸了馬車的主要功能——一種可以自已前進的交通工具。汽車可以實現馬車的一切功能,而且還不需要馬匹。但是克拉克也注意到,馬車時代的人很難想像沒有馬的馬車帶來的各種附屬作用,比如汽車電影院、交通堵塞或者「路怒症」 。

這些始料未及的後果,常常來自於這個新的技術與其它技術的互動。2005年有一份報告分析了前美國技術評估局 影響力有限的原因,這個研究總結道:

雖然對某些特定的比較成熟的技術(比如,超音速運動、核反應堆、某種藥劑產品)它可以出具比較合理(雖然通常也不太確定)的預測,但是技術劇變的能力並不是從單個物件中來的,而是來自於遍布社會方方面面的各種技術彼此互動。

小規模的精確實驗無法揭示附屬作用,加上我們使用技術時會有集體的衝動對它進行調整,所以幾乎無法建立可靠的模型來評估先進的技術創新。新興的技術必須在行動中測試,並且必須實時得到評估。換句話說,一個特定技術的風險必須通過現實生活的試錯來確定。我們可以把這種用行動來審查的計演算法則稱作「支持行動原則」。技術通過行動來測試,而非通過「不作為」。這樣的話,對於一個新的想法,該有的反應是:立即來試一下。

只要這個技術存在,就需要不斷嘗試,不斷測試。事實上,和預防原則相反,我們永遠不可能宣稱一種技術擁有「已經證實的安全性」。因為技術不停地被使用者重新設計,也不停地與周遭的環境一同演化,所以我們必須時刻保持警惕,不斷地對它進行測試。今天的汽車已經深植在高速公路、汽車餐廳、安全帶、衛星定位、改裝這些網路之中,和一百年前的福特T型汽車相比,今天的汽車是一種不同的技術。引起這些變化的原因與其說是內燃機的變化,不如說是因為眾多附屬的發明。今天的阿斯匹林亦是如此,它和其它的藥物一起改變了我們的壽命、服藥習慣、價格等等,和從柳皮提取精華的民間藥方或者100年前拜爾人工合成的版本相比,現在的阿斯匹林也不是同一種技術了,雖然他們都是相同的含有水楊酸的藥品。技術一邊生存一邊演變,技術一邊被使用一邊被重新創造。在擴散的過程中,技術會釋放出所附帶的第二階、第三階的力量。當一種技術被普遍使用而無處不在的時候,幾乎都會產生完全未曾預計的效果。

因此,技術必須在行動中被行動來評估。理想的過程是,我們先在實驗室里測試新技術,我們建立原型來嘗試,我們把新技術應用到一些試點項目中,我們調整對於技術的預期,我們監控技術的改變,我們修改技術並且重新為它們定義目標,接著我們再次用實際行動重新測試,如果我們還是對技術的效果不太滿意,我們可以把它們用到其它新的工作上去。

當然,我們仍然需要一開始就預測、預想並且讓已知的問題最小化。

所有的技術都會產生問題。沒有技術會沒有問題。並且所有的技術都有社會成本。所有的技術都會給周圍其它的技術造成顛覆,並且可能會減少別處其它技術的收益。我們必須去權衡並且最小化一個新的技術帶來的問題,但是問題是不可能徹底消除的。

此外,「不作為」(預防原則引發的默認反應)的成本也需要與採取行動的成本一起進行權衡。「不作為」也會產生問題和一些不可預料的後果。在日新月異的環境中,維持現狀的沉重代價往往隨著時間推移才會顯現出來。因此「不作為」的這些成本也應該計算到評估的等式中去。

最初版本的「支持行動原則」是由著名的技術永生黨人 馬克斯·摩爾(Max More)首先提出的。2004年他為這個想法撰寫了初稿,並在2005年進行了修訂。正如他最初理解的那樣,這個原則是一個方向,差不多也是一種哲學。我在下面這些片斷中把摩爾精深的哲學進行了簡化,這個簡化可能他自己並不認同。為了不和摩爾的版本混淆,我把我的總結稱作「支持-行動原則」。摩爾的第二版中有十條組成原則,我在我自己的版本中將其減少為五個。

這五個「支持-行動原則」是:

所有預想的工具都可以使用。使用的方法越多越好,因為不同的預想方法適應於不同的技術。想像情節、預測、科幻故事會展示技術的部分面貌。科學測量(如客觀的建模、模擬環境和控制實驗)應該佔有更大比重,但是他們也只是其中的一部分。在預想過程中既需要想像光明的一面,也需要同樣多地去想像不美好的一面。可能的話,還需要預想一下這個技術一旦被普遍使用而無處不在的情況:如果每一個人都免費擁有這個技術將會怎麼樣?預想不應該變成判斷。預想的目的是為後面四步準備基礎,它對未來的行動進行預演。

我們有越來越多的方法可以對正在使用的一切進行量化的測試。嵌入式技術可以把技術的日常使用變成大規模的試驗。無論開始的時候一個技術進行了多少測試,它都需要在真實環境中不斷重新被測試。我們也有更多精確地進行小規模測試的方法,所以我們可以關注容易受到影響的街區、亞文化、基因庫、使用圖譜等等。測試應該持續不斷全年無休,而不是遵循傳統的一次性的模式。另外,新技術可以讓公民的關注以自行組織評估的方式,成為科學驗證的對象。測試是主動的,而不是被動的。系統應該內建有持續保持警惕的機制。

風險真實存在且不計其數。不過並不是所有的風險都是等價的。必須權衡各種風險,區分輕重緩急。比起假設會發生的風險,對人類和環境健康的已知已證的威脅需要優先處理。

此外,「不作為」的風險和自然系統的風險也必須同等地納入到考慮之中。用摩爾的話來說:「和對待自然風險一樣對待技術風險,避免低估自然風險而高估人類-技術的風險。」

一旦出了錯——這是再所難免的——需要儘快補償實際造成的損失。但是不要因為假想或者潛在的危害做出責罰,這並不公平並且會削弱系統,那些好意辦事的人會因之喪失積極性。要有一個主動修正現存技術中危害的機制,這樣可以讓錯誤更快被修正,這樣也可以間接輔助未來技術的發展。任何一種技術都會帶來某種程度的危害(不僅僅是小差錯),這些危害必須被補救——這一想法應該成為技術創造的一部分。

對於技術而言,禁止是無效的。絕對的禁止絕對會被違背。回顧歷史上那些禁止技術的先例,我們發現大多數技術只是被臨時換下,他們要麼轉移到地球的另外一個角落,要麼進入另外一個小眾領域。當代對於核武器的禁止並沒有從根本上把核武器從這個星球上禁絕。對於轉基因食物的禁令只是讓轉基因玉米湧入其它大洲。對於槍械的禁令也許對普通公民有用,但並不適用於士兵和警察。從技術的觀點來看,禁令只更改技術出現在何處,卻不改變技術的本質。事實上,如果我們希望技術不再做惡,比禁令更好的方式是為技術尋找一些新的用途。比如,我們可以把DDT從一種用在莊稼上的殺蟲劑轉變成為治療瘧疾的家居藥物。如果把技術看作兒女的話,社會就是技術的父母,需要不斷地為技術尋找有益的夥伴,讓他們組合起來,使每一個新發明最好的那一面得以發展。

上一章目錄+書簽下一頁