人與機器(Man vs. Machine)
屏幕上跑著字幕,各就定位:振盪器、電路板、磁帶盤、點陣式印表機、笨笨的綠屏電腦。助理們紛紛將鍍鉻圓筒下降到桶艙中;他們的眼睛從防護罩裡露出來。片頭字幕結束,攝影機滑移到房間內的助手們頭上。科學家站在一面玻璃牆後,留著大鬍子,外表專業,他的冷漠無情與狂熱在助理之間早不是秘密。政界人士守在科學家身邊, 眼睛緊盯男人與他的機器,同時揣測他是否善用納稅人的錢。
科學家說這台超級電腦是完美的系統,不可能出錯。早在誕生之前,這套系統的履歷就已相當豐富:聲音辨識、專業分析、先進啓發式辨認(advanced heuristics)、神經網絡模擬、天氣預報、暴力密碼攻擊。(註1) 它是一套能夠執行戰爭策略,指揮木星探索任務的系統,科學家甚至說這套系統會唱一、二首歌。
對於這位科學家來說,這麼多人圍繞著他是很少見的。通常在這類電影裡,他比較想被他唯一的夥伴——他所創造的計算機陪伴。在電影《魔種》(Demon Seed, 1977)裡,科學家拋下妻子好跟最高階的專家系統「海神四號 」(Proteus IV)相伴。2010年,《威震太陽神》(The Year We Make Contact, 1984),他渴望與「哈爾9000」(HAL 9000)永遠長相廝守,共同登上受詛咒的「探索者一號」(Discovery One)。當我們第一次在《巨人:福賓計劃》(Colossus: The Forbin Project, 1970)和他相遇時,他幾乎可說是獨自「住在」一台體積巨大如建築物的電腦機器內部。
科學家與他「感性的」電腦,是在述說孤獨與智能。它是孤獨度破表,權貴階級所有,七間房間填滿的宅邸以及千萬造價的實驗室。這種孤獨是隨「科學怪人」的發明者弗蘭肯斯坦(Victor Frankenstein)自然地誕生,是沒同伴的普羅米修斯,為了影城放映與機場書店重新裝備的弗蘭肯斯坦博士,是一位有人格失調傾向的高階技客(alpha geek)。舉例來說,在鮑爾斯(Richard Power)1995年出版的小說《加拉迪雅2.2版 》(Galatea 2.2)(註2) 裡,他是令人難以忍受的自大狂,對同事和敵人同樣冷言冷語相譏。亞瑟.克拉克(Arthur C. Clark)也將科學家刻畫為粗魯與疏遠的人,跟「哈爾」一樣不近人情。在《巨人:福賓計劃》之中,他是從甘迺迪時期回返的舊時代角色, 在與之齊名的電腦警告其創造者:「某處還存在另一套系統」時,仍保持怪異地冷靜。作家迪恩.昆士(Dean Koontz)更推進一步:如同《魔種》1973年的原著小說所勾勒的,科學家本身就是殘忍的傢伙,有病的,打老婆的;甚至連「海神號」都寧願他去死。
另一個是亞歷山大.霍夫曼博士(Dr. Alexander Hoffmann),在哈里斯(Robert Harris) 2011年的驚悚小說《恐懼指數》(The Fear Index)中,這位從歐洲核能研究所涉足到股市的主角,是位轉行從商的物理學家。霍夫曼所操作的避險基金是設計能為其限定名單投資人帶來高達83%報酬率,這間公司的秘密是「Vixal-4」,一台「完全以累積金錢作為唯一生存條件」的機器⋯假如放任它運作,它將按照達爾文式的邏輯,不斷找尋擴張的方法直到宰制整個地球。
想當然爾,霍夫曼沒有辦法去猜想到這會造成何種後果,當他終於切斷自己所造電腦的電路系統時一切已經太遲:Vixal的軟體已如病毒繁衍,從一個伺服器跳到另一個,並成為如同資本一般「解體化」(disembodied)與全球化。如果科學家能更擴廣泛地閱讀,他早能警覺這類超速運算無可避免的的逸散症狀。這種有感知力的電腦文類,如同哥德式鬼故事,在誘捕與逃脫之間述說,其中揮之不去的(噩夢)並非陰溼城堡裡的不死殭屍,而是自動控溫的伺服器田地的電腦幽靈。
如果說普羅米修斯的神話還不足教訓,哈爾,巨人號(Colussus)與海神號都令人想起科技作家拉尼爾(Jaron Lanier)所說的「海妖伺服器」:為大型商業組織擁有,具有自戀、主張完全避免風險、與極端地資料庫累積。就像是哈爾是由穿著夾腳拖的千禧世代億萬富翁所持有,這類如海妖的伺服器將大公司的風險移轉到你身上,它企圖要知道有關你的一切資訊,同時間你卻是對它一無所知。理論上,海妖伺服器能夠完成任何任務,去除掉任何形式的僱用。他將市民貶低為個人式數據的供應者,對其進行分析且以公司的獲利為出發點資本化。可想而之,一些古板的觀眾在聽見我們對智能電腦是如何企圖要欺騙與除去它的人類同伴的敘述時,會多麼的嗤之以鼻。哈爾在1968年電影《2001:太空漫遊》設定了這樣的劇情框架,它在將注意力轉向到艙門之前,對大衛鮑曼 與法蘭克普爾隱瞞了木星計劃的真正本質,老母(mu-th-ur6000),在《異形》(1979)中出任務中的人工智慧—做出相似的舉動,與賽博格生化人艾希共謀而執行了「特別指令937」。福賓計劃中的巨人,在被啟動幾小時之後,開始與蘇聯的超級電腦聯絡且開始執行自己的外交計劃。
這個模式通常由欺騙隱瞞開始,然後剷除殲滅。任何所有的角色,即使是在前往木星的博士們,都可以被幾個高階的演算法給取代。在這個人類與電腦是唯一的場域裡,這些故事情節設計似乎也都認為這些機器人也都會自動走向滅絕。也許,儘管這是「駭客任務三部曲」可能要提出的,一個活生生的基努.李維其實終究不會是一個有效率的、或者必須存在的能量。
但這裡可能有另一種解釋方法,一個不再以人類為累贅出發而是與人類主宰比較有關的。自始,思考的機器一直都是騙人的機器,並不是因為達爾文主義,而是因為圖靈(Turing)主義。圖靈(Alan Turing)在1950年的論文〈計算機與智能〉中提出,哲學家不要再試圖回答「機器是否會思考」這種語義上的疑問,而是應該要以「模仿遊戲」(註3) 來回答這個疑問。在圖靈的遊戲裡,測試者向一位人類(X)與一台電腦(Y)提出問題。兩者分別隔離於兩個房間內,並與測試者以牆壁區隔空間,透過文字或媒介溝通,而測試者會透過提問的方式來詢問X或Y哪一個為電腦。(問:你可以講出《科學怪人》的大綱嗎?)如果電腦成功地說服測試者判讀它的回答是人類,那麼電腦就獲勝。在這裡,思想是一個被評量的表演,而此表演必須由身為人類的觀眾所認可。某種會思考的存在——聚合的、異種的、動物或其他人類語言或文化以外的事物,肯定輸掉這場遊戲,或僅能在極不利的條件下運作。對於圖靈而言,電腦在各方面都必須通過測試。它們決不會像圖靈本身的悲劇一樣——畢其一生在偽裝之下。(註4) 這也許是為什麼,克拉克愚蠢地企圖要解釋哈爾的行為,寫下因為電腦無法欺騙普爾和鮑曼,而造成自身的機能故障。再明顯不過的,哈爾不可能說謊。
圖靈說機器必須像人類;安迪.沃荷則補充每個人都應該是一部機器。從鮑曼(Bowman)、普爾(Poole)、福賓、霍夫曼(Hoffmann et al)的表現判斷,你可能會同意藝術家的看法。這些「人類」都會在模仿遊戲中輸得很慘,他們實現了笛卡爾式的邏輯,也就是身心分離,情緒與思考分開。然而,海神號抗議道:「我思,故我感覺」(I think, therefore, I feel)。這不單純是一個有感知的無生命體變得像人,更是一種完全不同的想法:情緒是一種思想,運算之於思考同等重要——而那是我們的智能機器在執行某些致命暴行之前,相信自己必須在行動前表示聲明。
每個人都知道接下來會發生什麼事,機器反叛了,而暴行通常為末日開路。最後不是以長期的機器禁絕(《烏有之鄉》[Erewhon, 1872];《沙丘》[Dune, 1965];人造《異形》[Alien, 1979–2007] 的綿延血脈支線)就是近乎全面的人類滅絕(第三次世界大戰,《魔鬼終結者》(Terminator, 1984迄今)系列中的人工智慧「天網」)作結。事情常常都從小規模、較切身相關的智能電腦開始,在掌控世界之前,先從科學家身邊的人下手,通常都是他們的配偶(《科學怪人》的劇情高潮,1818年)。或者在某些電玩中更像是喬瑟夫.羅西(Joseph Losey)1963年的電影《僕人》(The Servant)中的德克.博加德(Dirk Bogarde),與他那令人感到不安,看似有禮實則暗中掌控主人的男管家,奪取整棟屋子的權力並且恐嚇賓客。
然而,科學家認為小說是浪費時間。
出乎意料地,他從來沒有讀過任何一部科幻小說, 或者看過任何一部智能電腦的電影。更慘的是,他對於希臘神話一無所知。不像吸血鬼電影中,主角總是知道吸血鬼世界中運行的法則,在智能電腦電影(Sentient computer film)中,完全對於即將發生什麼樣的事情一無所知。所以,毫無防禦地,科學家繼續他的工作。他揮手示意讓助理們離去,並扣上門。地面正傳來低沈的鳴聲,而科學家坐在他的電腦前。他吸氣,閉上眼睛,啟動了開關。