別得罪你惹不起的人 臉書敢不敢刪除川普貼文?


深夜時分,門洛帕克的同事們下班數小時後,一位臉書工程師忍不住回到筆記型電腦前面。他剛才開心地喝了幾罐啤酒,這大概是他後來違背工作原則的原因之一。他知道,只要在鍵盤上輕敲幾下,就可以取得幾天前那位約會女子的臉書資訊。那次約會進行得不錯,但他們分開後24小時她便不再回覆訊息了。他想偷看她的臉書滿足好奇心,看看她是不是生病了?去度假了?還是小狗死了?只要能夠解釋為什麼她不想繼續約會就好。

晚上十點,他決定登入筆記型電腦,利用權限取得臉書所有用戶的串流資料,搜尋他的約會對象。這位工程師知道約會對象的姓名、出生地和就讀的大學,所以只花了幾分鐘就找到她。臉書的內部系統存有豐富的資訊,包括用戶在聊天室跟朋友之間數年的私訊對話、參與的活動、上傳的照片(包含她刪掉的那些),還有她留言或點閱過的貼文。他看到臉書為了協助廣告商投放廣告而對她做的歸類:公司判斷她30多歲,政治傾向偏左,生活多采多姿。她興趣廣泛,從狗到東南亞度假都有;透過她安裝在手機上的臉書應用程式,他更得知了她的即時位置。十幾頓晚餐約會都無法讓這位工程師獲得這麼多訊息,而現在,第一次約會後還不到一週,他就取得了所有資訊。

臉書的主管都對員工強調,只要有人被發現利用權限取得用戶資料作個人用途(例如查看朋友或家人的帳號),就會馬上被開除。然而,主管也知道公司沒有預防措施,因為這套系統的設計目的就是要公開透明、讓所有員工都能取得資訊,這是祖克柏的根本理念之一。祖克柏要去除拖累工程師、讓他們無法快速工作和獨立作業的繁文縟節。這項規範在臉書員工還不到100人時就開始實施,但幾年後公司有了數千名員工,卻沒有人重新審視此系統,只有員工的「良心」能阻止他們濫用權限取得用戶的私密資訊。

從2014年1月到2015年8月,臉書開除了52位存取用戶資料的員工,這位查看約會對象個資的工程師只是其中之一。在濫用特權的案例中,大部分是男性員工在查看他們感興趣的女性,其中多數人都僅止於查看用戶資訊,但也有少數人遠不只是這樣;有位工程師就用臉書資訊找到跟他一起去歐洲度假的女性當面對質 ── 他們兩人在旅途中吵架,這位工程師便在她離開兩人同住的房間後,追蹤她到新入住的旅館。另一位工程師甚至在第一次約會前就存取了約會對象的臉書頁面,他發現她常去舊金山的多洛瑞斯公園(Dolores Park),有天他就去那裡找她,跟她朋友一起享受陽光。

被開除的工程師用筆記型電腦查看特定帳號時,這種不尋常的活動會觸發臉書的系統,傳送違規訊息給工程師的主管,上述員工就是事後被發現的案例,但我們不曉得有多少人沒被發現。

臉書的內部系統設定,讓工程師能輕易窺探用戶隱私

馬克.祖克柏第一次注意到這個問題是在2015年9月,也就是艾力克斯.史戴摩斯(Alex Stamos)成為臉書新任資安長的三個月後。祖克柏的高階主管們聚在名為「水族箱」(the Aquarium)的執行長會議室中,抱著接下來可能會聽到壞消息的心理準備,因為業界公認史戴摩斯對資安的要求很高又直言不諱。那年夏天他被聘用時所定下的目標之一,就是要全面評估臉書的資安現況,這會是第一個由外來者執行的評估。

高階主管們交頭接耳,認為在這麼短的時間內不可能做徹底的資安評估,無論史戴摩斯交出怎樣的報告,肯定都只會點出一些表面的問題,讓這位新上任的資安長在任期一開始就輕鬆獲得好評。如果史戴摩斯能擺出像其他臉書高層那樣樂觀無比的態度,大家的日子都會好過一點。現在是公司狀況最好的時候:Instagram的廣告業務拓展了1,也創下每日登入用戶都達十億的新里程碑,他們只要坐看臉書這台機器靜靜運轉就可以了。

結果史戴摩斯反而有備而來,在報告中詳細指出臉書核心產品、勞動力和公司架構的問題。他告訴大家,臉書將太多資安部門的人力用在保護網站,嚴重忽略了包含Instagram和WhatsApp在內的手機應用程式。臉書曾經承諾要加密資料中心的用戶數據,實際上卻沒有進展,不像史戴摩斯的前東家雅虎(Yahoo),在美國國家安全局(National Security Agency)的吹哨者愛德華.史諾登(Edward Snowden)揭露政府可能窺探了矽谷公司裡未受保護的用戶數據後2,這兩年已經迅速開始保護數據。臉書的資安責任散落在公司各處,根據史戴摩斯的報告,臉書「在技術上或文化上都沒有準備好要面對」當前的挑戰。

史戴摩斯對高階主管們說,最糟的是公司雖然在過去的一年半裡,開除了很多濫用權限的員工,但並沒有解決或預防這個很明顯是系統性的問題。他在一張圖表中標示,幾乎每個月都有工程師利用臉書工具侵犯用戶隱私,滲入用戶的生活;那些工具原是為了方便工程師取得資料來打造新產品的。如果大眾知道這些違規情事,會非常憤怒;十幾年來,臉書有數千名工程師都在自由存取用戶的私密資料。史戴摩斯標示的只是被公司掌握的案例,他警告還有更多人躲過了偵測。

祖克柏明顯對史戴摩斯提出的數據感到訝異,也不太高興沒有人早點讓他知道這個問題。「負責工程管理的人都知道有員工不當使用資料,卻沒有人把案例匯整在一起,他們也很驚訝有這麼多工程師濫用資料。」史戴摩斯回憶道。

為什麼過去沒有人想到要重新評估這套讓工程師存取用戶資料的系統呢?祖克柏問,但會議室裡沒有人明講這個系統是他親自設計上線的。幾年來,他的員工曾建議用其他方式建構資料保存系統,但徒勞無功。「臉書過去曾有機會選擇別條路,做不同的決定,也許就能限制或甚至減少我們蒐集用戶的資料。」一位在2008年加入臉書,在公司裡跨團隊工作的老員工表示,「但這有違馬克的天性,即使之前我們提供他這些選項,我們也知道他不會選這條路。」

保護用戶隱私vs.提升工程師效率,是相衝突的兩難困境?

包括工程團隊主管在內的臉書高階主管,例如杰.波瑞克(Jay Parikh)和佩卓.康納賀提(Pedro Canahuati),都以資料存取權作為賣點,向團隊的新進工程師誇耀。臉書是全世界最龐大的測試實驗室,全球有四分之一的人都是受試者。主管們認為資料存取權象徵臉書高度透明且信任工程師。想知道用戶喜歡用飄出的氣球跟弟弟說生日快樂嗎?使用生日蛋糕的表情符號會有更高的回覆率嗎?工程師只要打開資料系統看看就可以了,非常即時,不需經過冗長又過度繁瑣的程序找答案。但康納賀提也提醒工程師資料存取權是一種特權,他說:「我們絕不容忍權限濫用,所以過去每一位不當存取資料的人都被開除了。」

史戴摩斯告訴祖克柏和其他高階主管,事後開除員工還不夠,他認為臉書有責任一開始就確保隱私權不被侵犯。他請求更改臉書現行的系統,撤銷多數工程師存取私密資料的權限,如果有人需要某個用戶的資料,就得透過適當管道提出正式申請。在當時的系統之下,有16,744名臉書員工能存取用戶的私密資料,史戴摩斯希望這個數字能下降到少於5,000人;針對如衛星定位和密碼等最敏感的資訊,他則希望限縮到少於100人。「每個人都知道工程師可以取得大量的資料,卻沒有人想過臉書已經發展成這麼大間的公司,能存取資料的人有這麼多。」史戴摩斯解釋,「大家都沒注意這點。」

臉書的工程主管波瑞克不理解為什麼公司必須顛覆整個系統?史戴摩斯建議的更動會大幅拖累許多產品團隊的工作。臉書大可實施預防措施即可,如限制工程師的資訊存取量,或在工程師查看某種資料時發出警訊。

產品工程部主管康納賀提也這麼認為,他告訴史戴摩斯,要求工程師每次存取資料時都提出書面申請實在難以實施,並指出:「這會讓整間公司的效率急遽下降,甚至包括其他的資安工作。」

祖克柏則表示,改變系統是第一要務,並請史戴摩斯和康納賀提想出解決方法,在一年內向大家報告進度。但是對工程團隊來說,這會造成很大的動盪,會議室裡許多主管都私下埋怨,認為史戴摩斯端出了最糟的劇本,說服老闆進行結構性的大檢修。

史戴摩斯那天占了上風,但也樹立了一些敵人。

在這場2015年9月的會議上,有位高階主管缺席了。雪柔.桑德伯格的先生在四個月前才剛過世。資安問題是桑德伯格的職責,嚴格來說史戴摩斯在她的管轄之下,但她從未對他所提出的整頓表示同意,也沒有被徵詢過意見。

為什麼臉書不刪除川普貼文?

2015年12月8日,臉書全球公共政策副總裁喬爾.卡普蘭(Joel Kaplan)在印度新德里一間旅館的商務中心,接到一通來自MPK的緊急電話,一位同事通知他得參加一場緊急會議。

幾個小時前,川普(Donald Trump)陣營在臉書上發布了他在南卡羅來納州普萊森山(Mount Pleasant)的演說影片。川普在影片中承諾要對恐怖分子採取更嚴厲的措施3,接著將恐怖分子和移民連結在一起,他說歐巴馬總統對非法移民都比對受傷的士兵好。川普向群眾保證,他不會跟歐巴馬一樣,「我要全面並徹底禁止穆斯林進入美國,直到國會議員把事情都搞清楚。」他宣布,觀眾爆出陣陣喝采。

煽動種族和移民議題是川普競選總統的重心,他的團隊更利用社群媒體火上加油。反穆斯林演說的影片在臉書上很快就吸引超過10萬人按讚,被分享超過14,000次。

這個影片讓社群媒體陷入了困境,社群平台對像川普這樣的候選人毫無準備,他吸引了極多的追蹤量,但也分化了許多臉書的用戶和員工。針對這件事,祖克柏和桑德伯格向卡普蘭尋求意見,他當時正在印度挽救祖克柏的免費網路服務計畫。

卡普蘭打了一通視訊電話,參與的有桑德伯格、臉書政策與傳播部長艾略特.舒瑞格(Elliot Schrage)、全球政策管理部長莫妮卡.畢柯(Monika Bickert),以及幾位政策和傳播部門的高級主管。卡普蘭已經在外旅行了好幾天,他的時間比位在總部的同事快13.5個小時。他靜靜地觀看視訊,聽著大家的擔憂,他得知祖克柏已表明對川普的貼文感到不安,認為可能會有人要求臉書移除貼文。卡普蘭建議主管們別草率行動。如何處理川普的反穆斯林言論由於政治因素而變得複雜,臉書多年來在經濟和政治上對民主黨的支持,讓他們在共和黨面前的形象不太光彩,共和黨也愈來愈不信任臉書的政治中立性。卡普蘭把川普的競選活動視為十足的威脅,而川普在臉書和推特(Twitter)的大量追蹤人數也顯示出共和黨內部有巨大的分歧。

卡普蘭還說,移除總統候選人的貼文是個重大決定,會被川普和他的支持者視為言論審查,也會被解讀成公司偏好自由派,支持川普的頭號勁敵希拉蕊.柯林頓(Hillary Clinton)。「別得罪你惹不起的人。4」卡普蘭提醒道。

桑德伯格和舒瑞格對於如何處置川普的帳號沒有太多意見,他們相信卡普蘭的政治直覺;他們跟川普的圈子沒有交集,也沒見過這種語不驚人死不休的政治風格。但那天會議上的某些主管卻非常吃驚,因為卡普蘭似乎讓政治凌駕了原則。一位參與視訊通話的人士形容他執著於穩定船隻,卻沒看見川普的言論正在捲起巨浪。

幾位資深高階主管紛紛發聲認同卡普蘭,他們擔憂關閉總統候選人的言論會上頭條新聞和引發反彈。川普和他的支持者早就把桑德伯格和祖克柏視為自由派菁英,是有錢又有權的資訊守門人,可以用不為人知的演算法審查守舊的意見。因此,臉書不能偏頗,這對保護事業是非常重要的。

於是視訊會議轉而開始嘗試正當化這個決定。川普的貼文可能會被認定違反臉書的社群規範,以前就有用戶檢舉他的競選帳號發表仇恨言論,數次的警告也讓臉書有理由徹底移除帳號。然而,同是哈佛法學院畢業生的舒瑞格、畢柯和卡普蘭都在想辦法擠出法律上的論點,為允許這則貼文的決定辯護。他們仔細探討仇恨言論的構成要件,連川普的文法也沒放過。

「他們一度開玩笑說,最高法院大法官曾經把色情定義為『我一看就知道』(I know it when I see it.)[1],臉書可得想出類似的說法。」一位參與對話的員工回憶道,「對於川普可能遭到封鎖的言論,臉書難道可以劃出清楚的界線嗎?劃界線似乎不是明智的做法。」

嚴格來說,臉書禁止仇恨言論,但公司卻一直改變仇恨言論的構成要件。什麼言論會讓臉書採取行動,在同一國家的不同地區都不一樣,需配合當地法律。各界對於兒童情色和暴力內容已有普遍的定義,但仇恨言論的定義不只因國家而異,也因文化而異。

主管們在討論中意識到,如果能想出解套方案,臉書就不用幫川普辯護。大家同意用「具新聞價值」為準則來保護政治演說,他們認為政治演說需要受到特別保護,因為大眾需要未經加工的影片來產生對候選人的看法。臉書的主管為政治演說創造了一套新的言論政策基礎,卻沒有經過審慎思考。「他們簡直在鬼扯,」一位員工回憶說,「匆匆忙忙就做了決定。」

對喬爾.卡普蘭來說,這是證明自己價值的關鍵時刻。雖然會議上有些人不太喜歡他,但他對來自華盛頓逐漸擴大的威脅提供了重要的建議。 閱讀完整內容
獲利至上:你的一舉一動,都是他們的賺錢工具!

本文摘錄自‎

獲利至上:你的一舉一動,都是他們的賺錢工具!

希拉.法蘭柯,希西莉雅.康

由 野人出版 提供