誰在審查你的臉書?紀錄片《網路監護人》揭開跨國外包的血汗黑洞

你可曾好奇,社交平台上,是誰在決定每一篇貼文、每一支影片能否上傳成功?漢斯・布洛克(Hans Block)、摩力茲・里斯維克(Moritz Riesewieck)兩位德國導演,以6年時間跨5國追蹤,終於在菲律賓找到了以數百計的「蜜獾部隊」,時薪1到3美元的他們,用幾秒鐘一則的速度,把關全球平台上的內容。這工作離矽谷的黃金夢很遠,但代價很大,有人最終在電腦螢幕前上吊自殺──而他就是專門負責審查自殺相關內容的人。

坐在東柏林的辦公室,34歲的里斯維克接受《報導者》專訪。在我們提問之前,他先問,台灣有沒有什麼數位工具帶來社會改變的「好消息」,經過6年,從矽谷一路追到馬尼拉,他想要重新相信科技一次。

從一個單純的問題出發,來自德國的兩位紀錄片導演,從沒料到自己會一路走進科技的黑暗角落,一個奪走人命的工作現場。

「我一開始就是好奇,為什麼(社交網站)有些貼文能夠發布,有些不行?」6年前的里斯維克,跟著這個提問開始調查,沒想到答案不是人工智慧、不是演算法,而是一個被稱為蜜獾(Honey badger)的神祕計畫。

根據《路透社》的調查,蜜獾計畫是一個專營外包工作的企業,在馬來西亞、菲律賓等地,為網路業者尋找外聘工作者的專案。求職者只會知道蜜獾計畫的字眼,但除非簽訂工作契約,否則不會知道在菲律賓的自己,正在應徵的工作,拿的其實是來自矽谷的錢;而他們也不會知道,其實社群營運分析師(Community operation analyst)的職稱,說穿了就是社群網站的內容審查員。

花了6年,里斯維克與夥伴布洛克走訪美國加州、緬甸、孟加拉、土耳其、馬尼拉,從內容審查的提問出發,深入觀察並記錄下矽谷決策者面臨的窘境跟內部決策時的真實思考,並帶領觀者直面社交網站興起的幾年間,羅興亞受害者、敘利亞難民、土耳其民眾等,如何被捲入人權漩渦。《網路監護人》(The Cleaners)不僅入圍日舞影展、鹿特丹影展,還拿下國際人權影展、國際紀錄片節等7項電影獎項。

防堵恐怖主義的前線,只受過幾小時訓練

要花6年這麼長的時間,除了因為要納入不同利害關係人的視角,最大的困難,還是如何讓這些「社群營運分析師」開口。

「他們全都簽了一份合約,上面有嚴格的保密協定,不能跟任何人提起這份工作的內容,連家人都不能知道,」里斯維克說,在工作的地方,有保全公司確保工作者不能與外人接觸,就連受訪者的家人,也要等到紀錄片放映,才了然自己的小孩、另一半,每天離家是去做什麼。

「我們特地去找法律顧問,才知道企業雖然能夠阻止機密外洩,但不能禁止員工們分享他們的感受,」里斯維克說,讓審查員開口談感受,成為他們的目標。即使如此,拍攝團隊平均還是花上數月時間,才能與受訪者建立信任。最後收進片中的露面受訪者,還是以離職員工為主。

其實,離職員工並不難找,社群營運分析師最長的在職時間只有半年,影片中就活生生地記錄了一名員工從加入到到決定離開的心境變化。

讓他們快速離開的原因,主要是精神壓力。社群營運分析師的工作是這樣的:每一則影片、照片、貼文,都只有幾秒鐘能決定是刪除還是發布,如果花太久時間,他們的工作就無法達標。

幾秒鐘之內,這些遠在菲律賓的年輕人,必須決定敘利亞的軍機轟炸畫面是保留還是刪除?或是判斷出一張軍人帶狗審判跪地男子的照片,是恐怖分子的刑求還是美軍的不道德私刑?

「你要記得,這些人不懂伊斯蘭,也不知道敘利亞發生什麼事,他們更不知道美國的白人至上主義跟種族歧視之間的關係,但他們幾秒鐘之內,就要決定一則貼文的去留。」

里斯維克在片中舉出幾個判斷失誤的例子,並沿線尋找到貼文的使用者,以及此則貼文的「受害者」,精準點出社群網站審查內容機制的失誤。

不只是判斷上的困難,還有他們承擔的責任。這些從街上、校園裡面被招募的年輕人,只受過幾小時的訓練,卻成為阻止極端主義、恐怖主義的前線,「美國國土安全部提供一份清單,我們必須下架上面列的37個恐怖組織,然後刪除他們發布的內容,」一位前任審查員受訪時說,「演算法做不到這件事,但我可以,我必須要幫助人們不受傷害。」

「我看過好幾百人被斬首」審查員難被看見的內心創傷

Fill 1
Fill 1
Fill 1
Fill 1
Fill 1
Fill 1
12
《網路監護人》導演摩力茲・里斯維克(Moritz Riesewieck)。(照片提供/台灣國際人權影展)

「對有些人來說,他們帶著類似宗教的情懷在做的,否則,他們可能做不下去,」里斯維克嘆道。

片中另一名信奉天主教的審查員,相信自己該為社交平台保護世人,「(如同)耶穌死在十字架上,為什麼我不為這個網路世界多承擔一些,讓更多人避開可能受到的傷害呢?」在任職數月後,她最終因承受不住創傷而辭職。「我感覺到我變成不同的人了,像病毒在身體裡滲透一樣,連我的思考方式都出現變化,」這名前任審查員說。

花了6年時間追查,自己也曾試著應徵審查員工作的里斯維克,認為自己是在說一個「新型態工傷」的故事。

審查員每一天目睹暴力、血腥、色情,有時是戰場上屍體四散的影片,有時是孩童身上滿是精液的照片,更甚者,還有自殺的直播。種種不堪的內容,組成審查員的工作日。片中受訪的員工透露,一位專門審查自殺內容的同事,在幾次申請調離工作未果後,最終以上吊自殺作結,「他選擇在筆電螢幕面前上吊,這是他想傳遞的訊息吧,」死者同事說。

「Facebook永遠都說他們是注重(員工)人權的,所以他們的確也要求這些外包單位,為員工提供心理輔導,」里斯維克解釋,但他們實地走訪之後才發現,幾乎是以一擋數百的心理輔導師,的確會對員工們付出關懷,但他們的方式是在集體集會時,問他們「大家還好嗎?」完成了解審查員心理狀態的程序。

「這是一個全新的方式來虐待勞工。過去,工傷是看得見的,但數位時代的新型態工傷、創傷,無法被看見,」里斯維克對《報導者》強調,片中的低薪勞工不只要用幾秒鐘給出矽谷菁英都沒把握的答案,還用生命付出矽谷菁英不肯掏出的成本:是這些不被看見的工傷,幫助Facebook、Google,繼續對全球廣告收入鯨吞蠶食。

10月23號,在美國眾議院的聽證會上,Facebook創辦人祖克柏(Mark Zuckerberg)回答了內容審查相關問題。

祖克柏對現況的理解,與紀錄片和眾議員的掌握明顯不同。美國民主黨眾議員凱蒂・波特(Katie Porter)問道:「Facebook的內容審核,是靠15,000個約聘者盯著謀殺、砍人、自殺跟其他可怕噁心的影片來完成的,是嗎?」這點,祖克柏回覆確認。但對低薪、心理支持不足等血汗條件,祖克柏只說,他會確保工作人員爭取該有的利益。而當眾議員問祖克柏是否願意每天花一個小時,進行Facebook內容審查工作?祖克柏兩次回覆,「為了我們社群最大利益服務,這不是我該做的事。」

「我們不是帶著揭露的心態拍這部片的,而是要讓他們(勞工)的感受被聽見,」與官方說法相較之下,影片顯露出濃濃的揭露意味,里斯維克強調,身處第一線的審查員需要被聽見,現代資訊流在這些發展中國家年輕人身上烙下的,需要被看見——當矽谷不斷強調「創造連結」的美妙,是他們在承擔資訊亂流,每天處理數億則訊息,撐起龐大廣告機器,掙那一小時1到3美元的報酬。

擔心AI和演算法會成為平台解方

Fill 1
臉書、紀錄片、網路監護人、血汗、跨國外包、科技黑洞、國際人權影展
面對網路審查員的血汗困境,演算法是否能真的成為解方,還是創造另外一個連「感受」都無法透露的不可控怪獸,把持幾十億使用者的自由?(照片提供/台灣國際人權影展)

即使,里斯維克帶著清楚意識,訪談聚焦在審查員的感受而不是科技公司機密,但光是工作的傷害與感受,就如同揭開社交網站事業黑洞一般,這是被藏起的成本曝了光,大發利市的另一邊,科技平台沒有說的真相。

《網路監護人》並不只是要指控平台業者。片中除了有Google、Facebook前主管受訪坦承平台責任外,導演的目標,是呈現結構性因素,以人的視角,解釋這份工作為什麼持續存在。於是里斯維克團隊不只運用舊大樓、程式模擬介面,來拍攝審查員工作的畫面,記錄視角也跟著審查員們回到家裡,了解他們的家境,以及這份工作對他們的重要性。

其中,一個前審查員帶著導演進到垃圾場,和自己由木頭搭起的家,赤裸裸的揭露,在貧富差距極大的國家跟城市,如此低落的勞動條件,可能還是比撿拾破爛的工作好一些。而菲律賓政府更是對這類既提供工作機會、又能打入世界頂尖科技產業鏈的外包公司張開雙手,鼓勵進駐。

《網路監護人》上映之後,除了受到獎項肯定,最讓製作團隊欣慰的是在各國引起的討論,誠實反映了各國民眾對社交網站認知的不同;不管是放映後觀眾的問答,或是各地的影評,都成為另一面鏡子,看見社交網站的角色在當代的重要性和爭議性。遺憾的是,不管是拍攝時的邀訪,到放映時的邀請與談,相關平台業者還是一律保持不回應的態度,用沉默面對曝光的黑洞。

業者無聲,但使用者討論震天價響。《網路監護人》在日內瓦、耶路撒冷、莫斯科都得獎,在德國,紀錄片、電視類型獎項都入圍,影片放映後里斯維克也隨即在德國出版書籍,回應需求,德國政府被要求加強對社交平台的施壓。在俄羅斯,人們則熱烈討論美國企業如何把持全球資訊傳遞。

如同戳洞遊戲一樣,里斯維克從審查員的處境,6年一路探進社交平台對於資訊管控的無能與無助,呈現了基層外包勞工的困難之後,里斯維克也不停自問,如果外包人力不是答案,那社交平台會用什麼方式回應?

「我擔心的是,社群平台業者會依此加強用演算法、人工智慧審查的政策,」他說,演算法長期被詬病的不透明、不受監督的特性,是否能真的成為解方,還是創造另外一個連「感受」都無法透露的不可控怪獸,把持幾十億使用者的自由?「科技業者必須時時提醒自己(演算法的危險),如果,他們真的想解決問題。」

《報導者》關心您,若需要進一步協助,可聯繫以下單位

自殺防治

遺族關懷

用行動支持報導者

優質深度報導必須投入優秀記者、足夠時間與大量資源⋯⋯我們需要細水長流的小額贊助,才能走更長遠的路。 竭誠歡迎認同《報導者》理念的朋友贊助支持我們!

本文依 CC 創用姓名標示-非商業性-禁止改作3.0台灣授權條款釋出