書評

曹家榮/監控與數據科技的反烏托邦未來──讀《監控國家》
2023年7月6日,在中國上海舉辦的世界人工智慧大會(World Artificial Intelligence Conference, WAIC)上,現場展示的監視器畫面可清楚辨識路人。(攝影/AFP/WANG Zhao)

文字大小

分享

收藏

人工智慧與數據科技今日的發展,幾乎可以說正要開啟決定我們未來生活與命運的關鍵時刻。這不僅是在說包含ChatGPT等令人驚豔的人工智慧應用,或是Vision Pro所謂空間運算將帶來的改變,我們更需要認識到的,其實是日常生活中漸漸無所不在的各類監控科技。

《監控國家:中國全力打造的數位烏托邦,一座不斷進化、從上到下集體共構的全景監獄》這本以厚實的調查報導為基礎的新書,雖然是以中國為主體,但我認為,卻像是向讀者遞上了一面反思之鏡,讓我們能即時地(或者,希望不算太遲地)、更警覺地去思量,該選擇什麼樣的科技與未來生活?因此,這篇書評試圖向讀者們指出:《監控國家》除了是一本能讓我們更清楚地看見中國作為極權監控國家的過去、現在與未來之外,更重要的是,我們會發現,那樣被監控的生活其實並不只是遠在天邊,很有可能也將會是我們的未來生活。

以日常監控治理社會的「中國方案」

本書的故事背景是兩位作者筆下維吾爾族人塔依爾(Tahir Hamut Izgil)一家的遭遇。跟著塔依爾的故事,我們幾乎經歷了中國對於新疆維吾爾族的監控日常,隨處可見的警察崗哨及監視錄影機、各種數據收集與分類的表格,甚至是不明究理的生物識別數據採集作業。這些日常監控的運作,目的不僅僅在控制當下,更在於控制未來。如同本書第一部的另一要角,前新疆黨委書記陳全國所說的,他們要做到的是,在威脅出現之前,就先消滅威脅。

透過監控科技來消滅未來威脅,這種看似科幻電影《關鍵報告》(Minority Report)的情節,其實也正是肖莎娜.祖博夫(Shoshana Zuboff)《監控資本主義時代》一書中警示的,無所不在的監控與數據科技,將會導致一種「確定性的烏托邦」。但不同的是,《監控國家》讓我們可以更清楚看見,中國作為一個極權監控國家,是如何走上這一通往反烏托邦未來之路。或者說,對中國而言,這可能是一條夢想實現之路。

中國現任領導人習近平就任後不久,就清楚地宣示要將人工智慧與數據科技視為其國家發展計畫的核心。《監控國家》的兩位作者,在書中相當貼切地形容了習近平中國大夢的理想未來:

在理想的未來裡,只要擁有足夠的數據和正確的演算法,他們就不必像約瑟夫.史達林(Joseph Stalin)墨索里尼(Benito Mussolini)和其他20世紀的暴君那樣,動用暴力來強加自己的意志,而是能像谷歌(Google)的廣告商那樣,預測要在何時、何種方式,來推動國民按照中共偏好的方式行動,同時也可以抹除異議。中國將不再存在自由或壓迫,只會剩下最佳化。(頁152)

這種「最佳化」的想像,背後浮現的正是將社會整體看作是可加以設計、改造以及驅動的工程學思維。一方面,兩位作者帶我們看到,這種社會工程學思維在中國的萌芽,可以追溯至1950年代返回中國的重要科學家錢學森。他在1981年出版的書中主張,社會主義的社會,透過其所謂社會控制論的幫助,將「可以被設計成能自動進行自我修正的社會」。其後,錢學森的學生又進一步地將這種工程控制的思維,結合資訊科技的進展,將監控與數據分析帶進了中國的治理系統之中。

另一方面,我認為更重要的是,《監控國家》一書的兩位作者指出了,這個中國夢實際上也是中國向西方民主社會提出的一種挑戰,也就是有別於西方的、關於美好未來的「中國方案」。也因此,《監控國家》帶讀者看到,中國政府如何致力於監控科技與治理系統的「輸出」──例如,華為在烏干達設計的「平安城市」系統。但就如同兩位作者主張的,中國政府的目的不見得是要讓其他國家複製中國的治理模式,而更像是要向全世界展示「這世界除了自由民主之外,還有其他替代方案」。

《監控國家:中國全力打造的數位烏托邦,一座不斷進化、從上到下集體共構的全景監獄》, 李肇華(Josh Chin)、林和(Liza Lin)著, 李易安譯,麥田出版
《監控國家:中國全力打造的數位烏托邦,一座不斷進化、從上到下集體共構的全景監獄》, 李肇華(Josh Chin)、林和(Liza Lin)著, 李易安譯,麥田出版
絕非正義與邪惡的單純對立

甚至,我認為這本書更令人感到衝擊、也更值得一讀的地方在於,兩位作者不單純是在「揭露中國極權監控的邪惡」。特別是當我們從第8、9章看到,中國的各類監控科技背後不斷地有著西方科技公司的影子。像是微處理器大廠英特爾(Intel Corporation)便投資了一家名為東方網力的中國新創,其產品後來被用於新疆的影像監控網絡。而思科(Cisco Systems)的網路路由器設備,不僅協助了中國政府建造了舉世聞名的「防火牆」,更被用於打擊中國境內的宗教活動。當然也不用意外,新疆警方用的硬碟是希捷(Seagate)與威騰電子(Western Digital)的產品。

這些西方科技巨頭,在面對外界相關質疑時,總以「不知情」、「震驚」等說詞試圖含混過關,但實際上難以否認的是,對於資本主義企業而言,當中國這一龐大的市場擺在眼前時,那些民主與自由的理念、價值,恐怕早已成了營利的必要代價。換言之,這些因著所謂自由的政府與市場制度才得以獨立與茁壯的大企業,如今等同於是以助長極權監控的方式,貪婪地賺取大把利潤。而這樣的作為,恐難令人相信所謂的「西方」還有著任何「正義」。因此,如同兩位作者主張的,我們今天面對的,早已不是簡單的正邪二元對立的問題。

監控與民主,自由與安全的曖昧張力

本書的尾聲回到了塔依爾一家的故事,他們終於克服萬難去到了美國,但這卻也意味著將走上無法歸鄉的流亡之路。從人文地理學的角度來看,「家」是安全棲居之所,相對地,自由則源自於空間探索的可能性。然而,實際上更為複雜的是,對於人的基本需求而言,兩者從不是二擇一的選擇題,而是有著曖昧矛盾的張力。換言之,所謂的自由的探索,不可能讓人全然捨棄安全的需求;同樣地,絕對的安全若要以自由為代價,那必然帶來窒息的生活。《監控國家》一書以塔依爾一家的生命故事,帶讀者看到在監控科技擴張的未來世界中,自由與安全需求的滿足將是更難解的問題。

一方面,去到美國的塔依爾逃離了中國極權監控,某種意義上自由了,但無家可歸的流亡卻必然帶來某種不安全的焦慮感。另一方面,流亡的自由卻也可能在某一天變得虛假。雖然塔依爾一家可能尚未經歷到,但《監控國家》的兩位作者已指出,如今,臉部辨識系統也已成為了美國境內警察治理的武器。從九一一事件到COVID-19疫情的爆發,美國(以及其他許多所謂民主國家)正以看似不同的方式,卻實際上極為相似地靠向中國。

因此,如同本文開頭所說的,我們正面臨了人工智慧與數據科技將導向何種未來的關鍵選擇時刻,同時,我相信也如同《監控國家》兩位作者最後所說的,這個問題沒有簡單的答案。就像台灣過去在COVID-19疫情期間已經歷過的類似選擇:在特殊情境下合理且有效的監控科技,在多大程度、何種條件與程序、以及該由誰能決定,它的持續甚至擴大使用?也許讀者們在讀完《監控國家》後,可以找到屬於自己的答案。

(本文由麥田出版提供)

用行動支持報導者

獨立的精神,是自由思想的條件。獨立的媒體,才能守護公共領域,讓自由的討論和真相浮現。

在艱困的媒體環境,《報導者》堅持以非營利組織的模式投入公共領域的調查與深度報導。我們透過讀者的贊助支持來營運,不仰賴商業廣告置入,在獨立自主的前提下,穿梭在各項重要公共議題中。

你的支持能幫助《報導者》持續追蹤國內外新聞事件的真相,邀請你加入 3 種支持方案,和我們一起推動這場媒體小革命。

© 2024 All rights Reserved

有你才有報導者
有你才有報導者

這篇文章的完成有賴讀者的贊助支持,我們以非營利模式運作,

邀請你加入 3 種支持方案,讓報導者能夠走更長遠的路。

瞭解更多

有你才有報導者

這篇文章有賴讀者的贊助完成,我們以非營利模式運作,邀請你加入 3 種支持方案,讓我們能走更長遠的路。

瞭解更多