金錢輿論
和你交朋友、拉你上街頭!假訊息「產業」如何在世界點火?
2018年DFRLab論壇討論情況。(取自DFRLab官方粉絲頁)

文字大小

分享

收藏

前往專題

烏克蘭、美國、敘利亞、巴西,這是大西洋委員會數位鑑識實驗室(Digital Forensic Research Lab, DFRLab),從2014年起,一路追蹤網路不實訊息的路徑;實驗室從俄羅斯網軍追到了「墨西哥假新聞之王」、「巴西假新聞工廠」,他們是第一線的追查者。今(2018)年7月,Facebook靠他們,了解境外勢力如何在Facebook上假冒美國左派,發起抗爭。

《報導者》專訪DFRLab的共同創始人尼莫(Ben Nimmo),了解全球不實訊息的最新災情和戰術的進化,更試圖尋求解方。尼莫說:「我們現在看的到一切,只是個開始⋯⋯我們需要的,是一個更『聰明』的社會。」

7月31號,包括執行長桑德伯格(Sheryl Sandberg)在內的Facebook高層,突然召開緊急記者會。

「今天,我們刪除了Facebook和Instagram上的32個粉絲專頁和帳號。」Facebook發出的新聞稿寫道,名單上,從反種族主義的非裔美國人權運動,到反沙文主義的女權倡議粉絲專頁都有,他們發出數千則貼文、觸及幾十萬個使用者,從2017年3月到2018年7月,舉辦共27場實體活動,包括幾場數百人參與的抗議,著名左派社會運動分子、社運團體等,都被拉上街頭。

Facebook的調查指出,這些帳號和32個粉絲專頁,都是不真實(inauthentic)的。

Facebook解釋刪除的原因:「因爲他們(在平台上)參與並組織不真實的行動⋯⋯這類行為在Facebook上是不被允許的,我們並不想讓使用者或是組織,利用帳號建立一個作假的網絡,並且刻意誤導人們他們是誰、他們在幹什麼。」

這些「假的」帳號,背後到底是誰?「調查還在相當早期的階段,我們的所知有限。」新聞稿這麼說。

新世紀鍵盤偵探,嗅出災情
事實上,記者會召開的前一晚,Facebook一邊發出緊急記者會通知,一邊已把部分粉絲專頁和帳號名單交給DFRLab,尼莫
Ben Nimmo,大西洋委員會資訊國防資深學者(Senior Fellow),DFRLab共同創始人。
帶領的團隊,已有答案

這些反川普(Donald Trump)、反極右派、支持性別平權、為少數族裔發聲的帳號,背後,竟可能是俄羅斯網軍。

「這些手法,與過去3年俄羅斯的網軍如出一轍,從語言的使用來看,他們是從俄語系國家來的,」尼莫告訴我們。這些採自由派、左派觀點,以性別、種族、移民、人權等題的網路社團,發文連定冠詞、單複數都不分,還出現俄文語法直譯英文的句子,明顯是來自俄羅斯的勢力,用來激化美國自由派,為左右派之間點火的另一隻手。

分裂美國社會、創造衝突,這波不實訊息從目標到手法,都和2016年美國總統大選時,由俄羅斯Internet Research Agency相關團體發動的攻勢極度相似。

不只是美國,綜觀全球,「不實消息」造成的傷亡、暴力、影響選舉等案例,如星火燎原,災情隨社交網站、通訊軟體的版圖繼續擴張,不只是俄羅斯網軍會用,極權政府、政黨、各種意識形態團體,有錢,就能參戰。

翻開DFRLab 9月第一週的調查成果,巴西總統和國會大選被YouTube陰謀論影片主導;有心人複製伊朗政府訊息,透過假帳號和內容農場四處傳播;哥倫比亞的7項公投,民意被不實消息左右;俄羅斯在愛沙尼亞境內誤射飛彈,竟用不實資訊把原凶指向北約和西班牙等。

「全世界只要有網路的地方,就有不實訊息。」尼莫一一點名,歐洲、北美、南美、南非、緬甸,「這是個全球現象,更是一個全球的市場。」當我們打開電腦就看Facebook、Twitter,滑開手機就是刷LINE,這場戰爭,24小時的滲透我們的生活。從2016年美國大選至今,不只參戰的人多了,手法也跟著科技應用,日新月異。從2014年俄羅斯入侵烏克蘭算起,DFRLab追蹤不實訊息長達4年,尼莫以最新的調查報告,向我們提出兩大警告。

數位鑑識研究實驗室(DFRLab)

2014年開始,14人研究團隊專研美國、烏克蘭、中東、南美等網路不實資訊現況,透過網路上的公開資料進行數位鑑識,並研究對其對政治與社會的具體影響。是Facebook指定調研團隊。

警訊1:擬真好友化,在現實世界與真人展開互動

首先是「真人化」。

「他們現在更像人、更有組織,有系統性的戰略在運行,」尼莫解釋,從貼文的方式,以無痕瀏覽器的方式登入,不留手機號碼、以圖片和文字交雜貼文等,都在試著規避網路平台的演算法;這些網軍、假帳號,讓自己在網上的活動更像一個真實的人。

接著,他們和真人展開互動。尼莫以Facebook剛刪除的32個帳號和粉絲專頁為例,機器人跟網軍,透過活動、線上的互動,跟真實的帳號成為「朋友」,所以當未來他們支持的行動、主張,被視作由網軍操作時,真實的人就會替機器人帳號或是國外的網軍發聲。國內與國外、真與假,越來越難辨。

他以剛被刪除的粉絲專頁之一,Resisters為例。

Resisters稱自己為「為女性及少數族群發聲」的Facebook粉絲專頁上,最多互動的一則貼文,是關於南非的強暴問題。文中用兩張照片,介紹了南非最新的發明,一個防止女性被強暴的新產品,只要在女性陰道內安裝這款塑膠容器,容器就能在發生性行為時,如捕獸夾般夾住,讓對方必須立刻送醫。

這則貼文得到了11,000個按讚,3,600多個留言,近17萬的分享。

7月29日,Resisters舉辦「停止跨性軍人禁令」活動,在華盛頓特區的抗議,在Facebook吸引了近4,000人按參加、有興趣。Resisters成立的另一場活動,是抗議川普強制分離非法移民家庭。但再細看,Resisters卻同時也是極右派“Unite The Right 2”抗議的活動主辦單位之一。

先是透過煽動性的內容吸引社群,把左右派的美國使用者都握在手裡,又在兩邊發起實體活動,串聯有聲望的社運團體、意見領袖,讓自身擁有正當性。

活動發生當天,卻又以掛病號等理由缺席,「他們會說今天有一些突發的事情,我們不會去,你們去,」尼莫指出,「但事實是,他們住在遙遠的地方,根本就不會去。」

根據哥倫比亞大學研究員歐布萊克(Jonathan Albright)研究,這些「假專頁」,以聯絡不同城市的社運分子,寄訊息給不同團體,串聯資訊,張貼影音、照片等手法,鼓勵民眾參加活動,甚至曾經張貼工作職缺。他以其中The Black Elevation專頁為例,坐擁139,217個粉絲,不只利用技巧隱藏自己的地理位置,還購買假的粉絲,讓自己的專頁看起來更受歡迎。

專頁曾開出活動專員的職缺,並為此下廣告,得到超過1,000個讚、被分享了超過300次,一名紐約學生接受《紐約時報》(The New York Times)採訪時稱,專頁曾經透過Facebook通訊軟體對他進行文字的對話面試,對話中對方有大量的拼字錯誤。

DFRLab共同創辦人尼莫。(取自DFRLab官方粉絲專頁)
DFRLab共同創辦人尼莫。(取自DFRLab官方粉絲專頁)

尼莫分析,如此行為模式與過去的俄羅斯網軍相同,以假帳號爭取當地既有組織的認同,滲透社群之後,就能煽動。他認為,The Black Elevation試圖聘用活動專員,是為了在實體世界與其他社運分子互動,進一步發展關係,並要他們加入The Black Elevation。雖然最近一波移除的專頁,全都瞄準了左派的運動分子,他認為,背後的境外勢力極有可能對右派有一樣的操作。

真人化的各種手法與嘗試,不只是為逃避演算法的偵測,更是為辦實體活動擴大影響力,進一步在美國國內培養社群。若這32個專頁背後真是俄羅斯網軍,那麼利用左右衝突激化美國社會的撕裂,削弱美國內部的團結,俄羅斯便能得利。同樣手法,也能被需要選票的政治人物為用,或是社群領袖、網紅。

不實資訊真人化的進展,讓這一波「打假」的嘗試更加困難。尼莫指出,當機器人和網軍,因網路言論被認同,進而被立場相同的真實帳號們視作「朋友」,風險之一是,真實的人被機器人帳號激化,而後被操作的言論、不實資訊,也會被真人、社會中的意見領袖所擁護。

「其中一個被拿下的頁面,曾經與5個真實的團體合辦過活動,所以當Facebook拿下頁面的時候,他們(其他5個)不太能接受,覺得怎麼可能是假的?」尼莫說,「進一步的討論是,你該拿這些假帳號、他們貼的貼文怎麼辦?因為真人與假帳號已經混在一起了,真人的留言、回饋也能一起下架嗎?」

確定的是,實體活動的舉辦只是第一步,網路上的機器人帳號、網軍,未來將用各種不同的方法,讓真假的距離漸漸消失,「我們覺得在可預見的未來,會有實體世界的美國人受僱於這些網軍的支持者,去代表這些網路上的言論是真的。」

警訊2:不實輿論的全球生產鏈

除了國家間的資訊戰爭,不實資訊,更是一座誘人的大規模市場。

尼莫以創業家、外包商、聚落等商業用詞,來介紹不實資訊的全球交易市場和產業化,而正是因為背後的龐大商業動機加上跨國的協力,讓不實資訊,短時間內難以杜絕。

近期國際間最矚目的成功「創業家」,便是墨西哥的「假新聞之王」梅洛(Carlos Merlo),自稱手握150個「假粉絲頁面」、上千萬個機器人帳號的梅洛,公開承認接手過不同政治人物的委託,在當地媒體口中,他是假新聞百萬富翁,自稱經營顧問公司Victory Lab,提供機器人帳號管理、網路打壓、網路攻擊、產製假新聞網站、危機幣管理等服務。僱用10幾個員工之外,他還稱有200個志工幫他,同時也將工作外包,在不同採訪中他宣稱自身控制的Twitter帳號數,從400萬到1,000萬不等;收費標準從4.9萬披索(約新台幣8萬元)半年起跳,到100萬披索(約新台幣164萬元)一個月都有,也可以按單次活動收費,如果是要創造hashtag,可在12小時內就能成為全國性的新聞,要價9萬披索(約新台幣14.8萬元)。

「這是一個全球的生產鏈。」尼莫以梅洛為例,雖然是墨西哥的「假新聞之王」,但他靠的卻是印尼、馬來西亞、印度等地的帳號,沿著這些交易,就能發現世界上出現的「聚落」,任何人能靠著這樣的上下游,讓自己或是主張,在網路上爆紅。「我在德國、沙烏地阿拉伯、雅加達,都看過實際市場上交易的案例,裡頭也包括假帳號、機器人等。」尼莫補充,「很難確切地講買家是誰,我們只能知道受益者是名人、意見領袖、政治人物,或像是假新聞之王。」

以墨西哥的案例來看,談論墨西哥政黨政治的貼文,下頭的讚竟大部分來自巴西,「不可能有這麼多巴西人在意墨西哥政治,除非是用買的。」尼莫以此為線索,一路追查,果然,在巴西發現了另一個聚落。

他們發現,至少有超過100個巴西年輕人和高中生,去年9月建立了帳號,他們全都註明了在2018年7月7日加入Frases & Versos。Frases & Versos的Facebook頁面上寫著關於詩集與幽默,但實際上,卻是個按讚者的集中地,Facebook頁面分享著各種轉貼貼文,在此獲得讚數。當時,Frases & Versos擁有的粉絲量是500萬,是巴西足球聯盟的將近一半。

DFRLab從Frases & Versos專頁的管理者繼續追查,發現了一位名為Anderson Leite的Facebook使用者,在他的Facebook封面上寫著大大的PCSD四個字母,DFRLab以PCSD四個字母加上Anderson Leite在Facebook上的註冊帳號leitenovinho搜尋,沒想到,終於走進買賣交易的地方。

墨西哥假新聞大王、巴西聚落和網軍交易社團

總共有5個結果,包括Facebook頁面和封閉性社團。

這是個擁有1.4萬個成員的封閉性社團,也是假新聞買賣的交易發生地,一天能有687則貼文,過去一年已有上萬則貼文在裡頭,社團的介紹開宗明義寫著:「聚集全球的Facebook頁面管理者,交換知識、談判以及交換利益。」

在公開頁面RegistroDeTrocasPCSD(註)
這個頁面被移除,其存檔頁面如下:https://archive.is/aMTjR
上,則可以見到Facebook、Instagram、Twitter等,各種按讚、分享的交易,也有粉絲專頁上來兜售,交易後的收據也都直接貼在頁面上。以今年2月3號完成的一筆交易為例,擁有12萬個粉絲的專頁Eu e Você Amor ღ ,要價不到100美元,而1萬個Facebook按讚,在此只要60美元。

市場當然有風險,於是也有一個舉報區,將未付款、未兌現按讚或分享的名單,在名為AssessoriaSemprePCSD上,人人都能舉發。

如果從一個粉絲頁追蹤,就能發現一座線上市場、數座聚落,全球還有多少青年如巴西那100個高中生一般打工,養大了多少個像墨西哥假新聞之王的百萬富翁,最終,這條生產線造就多少明星、選舉的贏家,甚至一國總統?

我們該如何看待這條跨國的產業鏈?

尼莫解釋,這些其實都是網路行銷的一環,不是新鮮事,只是當這樣的力量足以影響一國或者他國政治時,便成為問題。過去,這樣的操作,不論是商業利益或者政治,在各網路平台上輕而易舉,於是才有如此公開的網上交易市場存在,但在2016年美國總統大選後,各平台才認真看待這樣的行為將為平台帶來的風險。

「如果有一個政府跟一個agency(代理)合作,這個agency告訴政府說,我可以讓你在網路上支持度很高,他有很多種做法,他們可以雇用真的人來做,也可以發起網路行銷活動,也可以為貼文打廣告,各種可能性都有,甚至用機器人、請網軍跟內容農場做。」

回應《報導者》發現的台灣案例,尼莫說,「利用網路行銷放大網路聲量,是一個慣用的手法,但用假帳號去創造操作就是不合法的,所以可以用這些方法去區分。」這解釋政治相關的交易為什麼如此隱密。

使用者、平台、政府該做什麼?
Fill 1
佐伯克、假訊息、臉書、AFP PHOTO
2018年4月,Facebook執行長祖克柏(Mark Zuckerberg)出席美國國會聽證會。(攝影/AFP PHOTO/JIM WATSON)

「現在這個時刻,是平台以及『不良行為者』間的對抗跟競爭,一方不斷地想方設法要回應外界的壓力,另一方不斷地進化,在平台上攻城掠地,」尼莫說。

一份史丹佛大學的研究指出,2016年選舉之後,570個假新聞網站在Facebook上的互動數大量下滑,最高峰時,它們曾經每月得到2億個互動數,今年7月,卻滑落至7,000萬次。

Facebook投入新的技術、更多人員抵制假新聞,聘僱更多內容管理者,收購新創公司,使用人工智慧軟體,似乎有些成效。Facebook也展開與各方的合作,如DFRLab,只是,Facebook平台上的數據卻還是不願開放,讓各地的真實災情,仍然像蒙紗的怪物。

另外,「我們還需要做的是,提高使用者的免疫力,」尼莫提醒,使用者要替自己提高抵抗不實資訊的能力,別讓自己成為幫兇。另外,繼續監督平台,以消費者的角色要求其善盡責任。

最後則是爭議性最大的政府角色。

對尼莫來說,立法,不是適當的選擇。

「你最不想要看到的結果,是政治人物、政府介入新聞跟言論自由,在國際上的案例,我們已經看到很多負面的案例。」尼莫也補充,立法的缺點,在於立法者永遠追不上網軍手法的變化。

他以法國為例,在去年總統大選期間,曾有人提議在選舉時期,社交網站上的新聞或是訊息,一但被認定為不實,必須在48小時內下架。「對法官、執法單位來說,48小時就像閃電一樣,⋯⋯(但)對社交網站來說,48小時就像是永遠,」他說,川普最受歡迎的推文,14分鐘就超過10萬個互動,最後光是留言就超過上百萬個,別說48個小時,幾個小時就已經完成資訊循環了。「你不可能只是立法就能應對這個問題,你必須跟平台合作,才能提出及時的解方,」尼莫呼籲。

如果不是立法,政府該做的,是什麼?

短期來說,政府必須讓社會大眾了解現況。讓社會理解社交網站上的不實資訊,人們被傷害的權益、社會中產生的衝突。

第二個短期解方,是推動網路廣告的透明化,讓使用者知道自己看到的廣告、社交網站內容,背後的買主是誰。

第三,「去了解這個社會(面對不實資訊)最脆弱的部分在哪裡。那裡有一群人不相信政府,代表政府的哪一些政策必須重新思考、規劃,」尼莫提出他的建議。

真正的問題,是如何讓社會更聰明

長期來說,政府必須支持教育與研究。「能夠做到這樣,就已經能發揮相當大的幫助了。如果要管制網路上的內容,最多只能做到暴力、情色、內容分級,如果要再給政府更大的權限,我想是沒有人會完全放心的,」他語重心長地說。

其實,DFRLab成員不過14位,4年前,他們甚至只有3個人,「我們現在看到的一切,只是個開始,未來至少好幾年,我們將目睹一個漫長的過程,會有更多的研究、組織出現,而這問題是不會消失的。」

要對不實訊息免疫,必須為社會打底。

「總體來說,你需要一個更『聰明』的社會,所以政府面對的真正的問題是,如何讓社會更聰明?」尼莫認為,最直接的做法,就是培養更多的老師、研究者,讓人們「知情」。「你可能要9歲的小孩,都會去Google用圖片搜尋來知道自己在網路上對話的到底是誰,90歲也可以,你必須重新思考,怎麼樣調整教育的系統,將整個社會都準備好,來應對這個問題。加上,科技工具一直在進展,你也會有更多工具可以使用。」

他以DFRLab的14人團隊為例,10個研究者,每天能夠發現幾個不實訊息,「如果你整個國家都有核實的能力,那你能做到什麼程度呢?」

用行動支持報導者

獨立的精神,是自由思想的條件。獨立的媒體,才能守護公共領域,讓自由的討論和真相浮現。

在艱困的媒體環境,《報導者》堅持以非營利組織的模式投入公共領域的調查與深度報導。我們透過讀者的贊助支持來營運,不仰賴商業廣告置入,在獨立自主的前提下,穿梭在各項重要公共議題中。

你的支持能幫助《報導者》持續追蹤國內外新聞事件的真相,邀請你加入 3 種支持方案,和我們一起推動這場媒體小革命。

© 2018 All rights Reserved

有你才有報導者
有你才有報導者

這篇文章的完成有賴讀者的贊助支持,我們以非營利模式運作,

邀請你加入 3 種支持方案,讓報導者能夠走更長遠的路。

瞭解更多

有你才有報導者

這篇文章有賴讀者的贊助完成,我們以非營利模式運作,邀請你加入 3 種支持方案,讓我們能走更長遠的路。

瞭解更多

報導者支持方案上線,用你的方式支持報導者!

瞭解更多

開創組織永續經營之路
報導者支持方案上線,用你的方式支持報導者!

瞭解更多

即時追蹤最新報導
即時追蹤最新報導

開啟文章推播功能得到報導者第一手消息!

開啟通知

即時追蹤最新報導

開啟文章推播功能得到報導者第一手消息!

開啟通知