產品被惡意破壞，Twitter並不是唯一遭受這種情況的公司。
多年來，Twitter一直標榜言論自由，但很快，憤怒、分歧、辱罵在平台蔓延，政治勢力也開始利用平台謀利……現在，保證平台安全成為Twitter高管們要解決的首要問題。本文編譯自FastCompany原題為「「Did We Create This Monster?」 How Twitter Turned Toxic」的文章。
亞爾·羅森博格（Yair Rosenberg）想捉弄一下網路平台的惡魔們。
羅森博格是猶太人新聞與文化網站Tablet Magazine的資深作家，他在對2016年美國總統大選的報導中，成為反猶太推特用戶的攻擊目標。儘管遭到了誹謗，但他並沒有過分關注那些誹謗他的納粹分子。「我覺得他們相當可笑，很容易就被忽視了。」他說。
但有一種特殊類型的Twitter惡魔確實狠狠咬了他一口：有一些人盜用他人照片，冒充少數族裔，然後潛入到受矚目的談話中，吐著毒液。他解釋說：「毫無戒心的讀者會看到一個看起來像正統的猶太人，或者一個穆斯林婦女說著一些冒犯性的話語。」所以他們認為，哦，穆斯林是虔誠的教徒，猶太人是有宗教信仰的，但他們是非常無禮的人。」
羅森博格決定反擊。他與來自舊金山的開發者尼爾·錢德拉（Neal Chandra）合作，創建了一個名為「冒名頂替者」的Twitter智能機器人。從2016年12月開始，這個機器人將自己插入到與惡作劇帳戶相同的Twitter帖子中，並禮貌地揭露了「騙子們」的化妝舞會（「友情提示，這個帳戶是一個種族主義者，冒充猶太人來詆毀猶太人」）。
「冒名頂替者」很快就遭到了攻擊——種族主義者向Twitter舉報了機器人的行為。出乎意料的是，Twitter站在了種族主義者的一邊：在接下來的4月份，Twitter暫停了機器人的所有行動。在反誹謗聯盟的幫助下，羅森博格和錢德拉在三天後讓這個決定得到扭轉。但種族主義者們繼續提交騷擾報告，去年12月，Twitter再次將「冒名頂替者」列入黑名單。
羅森博格認為他所做的事情是維護公民權利，而不是警民主義，但他仍然不明白為什麼Twitter認為這是不可接受的，他甚至從未收到Twitter的官方解釋。但Twitter的這一裁決讓種族主義者在技術上贏得勝利。
一.致力於做安全平台的Twitter
儘管「冒名頂替者」的故事是特例，但它也反映了長期以來困擾Twitter的更大問題：濫用、匿名化、機器人大戰以及平台運營者的滯后決策。自從唐納德•特朗普成為總統並選擇Twitter作為其主要喉舌以來，這些問題只會加劇。這個平台成為世界上政治、憤怒、文化和對話的主要場所，也是#MAGA和#MeToo運動的發源地。
這一地位幫助改善了公司的命運。Twitter的日活用戶數同比增長了12%，並在2月份發布了有史以來第一個季度利潤報告，在過去的12個月時間里，它的股價翻了一番。儘管Twitter似乎不太可能在規模和盈利上與Facebook相匹敵，但它也沒有面臨失敗的危險。金融分析師們偶爾會呼籲首席執行官傑克•多爾西賣掉Twitter，也有批評人士要求他關閉Twitter，這些聲音看起來越來越不合潮流。
儘管Twitter的地位更加穩固，但多爾西對他的服務問題越來越直言不諱。「我們致力於讓Twitter變得更安全。」該公司在2月份的致股東信中承諾。在附帶的投資者電話會議上，多爾西概述了一項「訊息質量」計劃，目的是改善服務內容和帳號。Twitter的月活躍用戶已經停滯在3.3億——該公司一定程度上把其歸因於對垃圾郵件的不斷精簡。Twitter的清理工作是在含蓄地承認，那些仍在平台上遊蕩的麻煩製造者正在阻礙其發展，這些麻煩製造者包括仇恨者、假新聞傳播者，以及旨在影響公眾輿論的陰暗的機器人大軍。（Twitter並沒有讓多爾西或其他高管為這個故事接受採訪。我們採訪過的60多個消息來源，包括44名前Twitter員工，都要求匿名。）
儘管該公司近年來已經採取了重大舉措，以清除不良行為者，但它並沒有改變人們的印象——它並沒有努力讓這項服務更安全。Twitter對負面事件的反應總是讓用戶不滿意，而不僅僅是一點神秘——它懲罰羅森博格，而不是那些種族主義者，就是一個典型的例子。「有聰明人能再創建一個只有140個字元，沒有納粹主義的新網站嗎？」在Twitter去年11月推出280個字元的推文后不久，一名用戶在Twitter上發了這樣一條推文。
Twitter並不是唯一在其產品被惡意破壞的事實中掙扎的公司：自總統大選以來，Facebook和Google受到了更嚴格的審查，因為越來越多的訊息披露他們的平台是如何操縱公民的，從劍橋分析到陰謀影片。這些公司的反應是膽小的、反應性的，甚至更糟。「這些公司沒有早點解決現在暴露的問題是一種罪過，接下來他們還有很長的路要走。」民主數據公司（Data for Democracy）的創始人喬納森·摩根說，該組織是一個由技術專家和數據專家組成的團隊，負責處理政府的社會影響項目。
Twitter面臨的風險尤其高，因為啟用突發新聞和全球話語是其用戶吸引力和商業模式的關鍵。它面臨的挑戰越來越成為世界範圍級別。
Twitter是如何陷入這種困境的？為什麼它現在才開始處理多年來一直困擾著這個平台的不當行為呢？「Twitter上已經不再安全了，」一位前副總裁說。「那是潘多拉的盒子，一旦它被打開，你怎麼把它重新放回去呢？」
二.第一個麻煩：垃圾郵件
在Twitter的早期，當平台創始人正在尋找定位時，它的用戶向他們展示了Twitter的優勢。在全球社會運動者、持不同政見者、激進分子和Twitter上的告密者的激勵下，自由表達成為了這家初創公司的指導原則。「讓推特上的訊息流動起來，」Twitter的第一任總法律顧問Alex Macgillivray說，他後來在奧巴馬政府擔任副首席技術官。很快，Twitter內部給自己的定位是「言論自由黨派的言論自由之翼」。
這種想法被證明太過天真。一名前高管表示：「Twitter如此相信其對言論自由的承諾，以至於領導層完全誤解了它是如何被劫持和武器化的。」
第一個麻煩是垃圾郵件。兒童色情、釣魚攻擊和機器人充斥著推特。當時，Twitter似乎被其他挑戰分散了注意力。2010年10月，當公司任命迪克·科斯特洛為首席執行官時，他試圖修復Twitter的底層基礎設施——該公司已經成為其「失敗鯨」伺服器錯誤頁面的同義詞，該頁面反映的正是其薄弱的工程基礎。儘管Twitter在2011年的用戶數量已經達到了1億，但它的反垃圾郵件團隊只有4名工程師。一名前高級工程師說：「垃圾郵件令人難以置信的尷尬，他們製作了一些愚蠢的最低限度的工具來對抗它。」他還記得「該死的機器人大戰爆發」，因為假帳戶互相攻擊。
Twitter前工程安全經理萊斯利·麥利(Leslie Miley)表示：「如果Twitter不為唐納德·特朗普負責，那它就不能因「阿拉伯之春」而獲譽。」[圖片：Delcan & Company]
Twitter負責保護用戶的信托和安全組織由25號員工德爾·哈維（Del Harvey）負責。她在矽谷有一個非典型的簡歷：哈維之前曾與Perverted Justice組織合作過，這是一個有爭議的志願者組織，利用網路聊天室來搜尋明顯的性侵犯者，並與NBC合作製作「抓獲捕食者」節目（To Catch a Predator），假扮成未成年人，引誘戀童者在電視上被捕。她缺乏傳統的技術和政策經驗，這使她在組織內部成為一個極端的人物，儘管她的盟友們發現她對安全問題的熱情鼓舞人心。「在早期，她親自回應了個別受影響的用戶，不知疲倦地工作。」Macgillivray說，她接手了Twitter所面臨的一些最複雜的問題。我們有很多事沒做好，但做好的那些事有很多是出於德爾的領導能力。」
哈維認為壞的言論最終會被其他言論打敗，這個觀點得到了Macgillivray和其他高管的支持，也與最高法院大法官路易斯·布蘭代斯在1927年的里程碑式的第一修正案的判決相呼應，該判決認為，這種補救方法總是比「強制沉默」更可取。哈維偶爾會用「Yo bitch」這個短語作為例子，有人用這個詞表達謾罵，而另一些人則認為這是一個時髦的「你好」。Twitter怎麼判斷？思想的自由市場會解決這個問題。
到2012年，垃圾郵件正在演變成破壞性的攻擊和仇恨言論。哈維小組的幾位工程師建立了一些內部工具，使她的團隊能夠更快地刪除諸如兒童色情之類的非法內容，但他們並沒有準備好應對Twitter上的騷擾。一位前平台工程師說：「每次你建一堵牆，總會有人要建一個更高的梯子，而且外面總有更多的人試圖去操你，而不是試圖阻止他們。」那一年，澳大利亞電視名人夏洛特·道森在公開反對網路暴力后，遭受了一連串的惡意推文，道森甚至試圖自殺，最後被送往醫院搶救。接下來的夏天，英國活動人士卡洛琳·克里亞多-佩雷茲在10英鎊紙幣上印出了女性的形象，之後她的推特上充斥著「巨怪」，每小時能收到50次強姦威脅。
三.Twitter的毒性加重
Twitter的回應是，他們創建了一個專門的按鈕，用於在推文中報告網路濫用情況，但在這個平台上，巨魔變得越來越強大。科斯特洛在內部抱怨說，「濫用經濟學」是滯后的。「僅僅幾秒鐘就可以創建一個騷擾他人的帳戶，但舉報濫用帳號需要填寫一份耗時的表格。」哈維的團隊認真地回顧了每條報道的推文，但他們缺乏足夠多的支持人員，因此行動緩慢。多家消息人士稱，她的團隊花了幾個月的時間來回復積壓的違規罰單，這並不罕見。由於缺乏必要的語言支持，團隊成員不得不依靠Google翻譯來回答許多非英語的抱怨。用戶支持代理被罰單淹沒了，他們要手動評估標記的推文。如果被禁止的用戶上訴，他們有時會簡單地把罪犯放回平台上。「他們有些無力了，」一位與哈維密切合作的消息人士說。「直到今天，我都很震驚，Twitter在安全方面實在是太糟糕了。」
與此同時，Twitter的領導層專註于為該公司2013年11月的IPO做準備，因此它將大部分工程資源投入到監督用戶增長的團隊中，這是Twitter向華爾街推銷的關鍵。哈維沒有得到為Twitter的困境建立可擴展的解決方案所需的技術支持。
在此期間，Twitter平台的毒性加劇，特別是在國際市場上。在印度，有組織在平台散布歧視女性的訊息；在歐洲，有組織傳播反猶太人的訊息；在拉丁美洲，機器人開始干預選舉。巴西2014年總統競選期間，數百人使用了宣傳手段，導致一名公司高管與政府官員會面。據一名消息人士稱，「幾乎所有巴西眾議院和參議院的議員都問，『你在做什麼關於機器人的事情？（據報道，在這段時間里，俄羅斯開始測試自己的機器人，通過虛假訊息來影響公眾輿論。Twitter在很大程度上容忍了平台上的自動帳戶；一位知情人士回憶道，該公司曾向一名機器人農場主發出了勒令停止通知函，但遭到了漠視，這是該公司對這一問題反應乏力的一個信號。）Twitter的領導層似乎對海外的呼聲置若罔聞。一名前國際員工表示：「就是這樣一家灣區公司。每當美國發生一件事，就是全公司範圍內的悲劇，我們會說，「但這每天都在我們身上發生！」這呼應了Twitter成為矽谷短視行為的受害者的普遍不滿。
直到2014年年中，網路惡魔們迫使喜劇演員羅賓·威廉姆斯的女兒塞爾達在父親自殺后關閉Twitter（她後來又恢復使用了），科斯特洛終於受夠了。多名消息人士稱，科斯特洛曾在自己的訊息流中受到辱罵，他對哈維失去了信心。他新成立了一個部門對用戶提交的濫用罰單做出回應，繼續讓哈維負責制定公司的信任和安全指導方針。
四.話題標籤的戰爭
在Twitter上的對話經常會因為不同的世界觀而演變為對峙。
1.#NeverAgain:佛羅里達帕克蘭槍擊倖存者已經證明，他們善於利用Twitter來對抗針對他們的虛假訊息和騷擾運動。[照片: Michael Laughlin/Sun Sentinel/TNS/Getty Images] 2.#TwitterLockOut:當Twitter宣布改變自動帳戶監管方式時，它強化了親特朗普信仰，正如James O』Keefe Project Veritas曝光的那樣，該公司試圖扼殺他們的政治觀點。[照片: Chip Somodevilla/Getty Images] 3.#ReleaseTheMemo:親特朗普媒體、俄羅斯有關的惡魔以及總統本人暗示的美國代表Devin Nunes的秘密備忘錄揭露了一場水門事件規模的有關民主黨人和俄羅斯人勾結的掩蓋事件。[照片:Gabriella Demczuk/The New York Times/Redux] 4.# WITCH HUNT: 當2月底特朗普總統在他的一篇典型清晨推文中大喊「WITCH HUNT（政治迫害）！」時，這為Twitter帶來了幾個小時的歡樂時光，激發了無數來自綠野仙蹤的梗以及GIF圖。[照片: Cheris May/NurPhoto/Getty Images] 5.#1DayWithoutUs: 這項一年一度的英國運動旨在展示移徙者為社會所做的一切，在一定程度上是為了阻止推特上的反移民情緒，但它也被反移民情緒所劫持。[照片: Victoria Jones/AP Images] 6.#MuellerTime: 左派的俄羅斯人，比如自封的調查員路易絲·門施(Louise Mensch)喜歡使用這個標籤，有時用它來傳播有關羅伯特·穆勒(Robert Mueller)調查的錯誤訊息以及相關事件。[照片: Saul Loeb/AFP/Getty Images]
很快，這些威脅又發生了變化：ISIS開始利用Twitter來煽動追隨者。公司高管沉浸在自由言論的價值觀中，難以做出回應。一名前高管回憶說，一旦斬首影片開始流傳，就要和迪克發生激烈的爭論。迪克會說，「你不能讓人們在平台上被殺！我們應該把這些影片清除掉！」還有一些人會說，「那如果有一個博士生髮布了肯尼迪遇刺的照片呢？」他們決定允許斬首圖片出現，但只在刀觸到脖子之前。有兩個消息來源稱，Twitter指派了專門人員搜索並報告斬首內容，並且可以將其刪除。「這是世界上最愚蠢的事情，」與哈維密切合作的消息人士說。「高管們已經做出了刪除內容的政策決定，但他們不希望開發工具來主動執行該政策。」（Twitter已經清除了數十萬與ISIS相關的帳戶，這是一種為平台贏得讚譽的強硬手段。）
科斯特洛對公司在解決這些問題上的微薄努力感到失望，他在2015年2月發布了一份全公司的備忘錄，抱怨說他對Twitter在處理濫用問題上的「糟糕程度」感到「羞愧」。科斯特洛告訴Fast Company：「如果我能讓時光倒轉，我就會更早地採取行動。」他強調，所有的責任都在於當時的CEO：他自己。
五.沒有簡單的解決方案
「我經常聽到矽谷的人在談論虛假新聞和虛假訊息時，說這些問題是我們可以解決的，」布倫丹•尼漢（Brendan Nyhan）說，他是「光線觀察」（Bright Line Watch）的聯合主管，該組織負責監控對民主進程的威脅。「這是錯的，在這個問題很難解決，人們正在尋找一種不可能存在的解決方案。」
矽谷可能會理解這一點。去年，Facebook和YouTube分別宣布將其內容管理團隊擴大到2萬和1萬名員工的計劃。與此同時，截至2017年底，Twitter整個公司的員工總數僅為3317人，其中一小部分致力於改善「訊息質量」。
然而，將大量的人手投入到這項工作中並不是一種萬能葯。它產生了新的問題，從個人偏見到在幾秒鐘內對內容進行複雜的調用。「這些評論者使用詳細的規則來指導他們做出一致的決定，」哈佛大學伯克曼克萊因網際網路與社會中心的教員、危險言論項目主任蘇珊·本斯奇說。「這是一件很難的事情，尤其要大規模應用。」
人們會指責過於寬泛的內容清理，比如刪除那些無害的、沒有違反政策的內容。在帕克蘭槍擊事件發生后，YouTube對極端主義和槍支相關的影片進行了全網掃描，刪除了特定的影片片段，包括一些不應該被刪除的頻道內容。一位YouTube發言人向彭博社承認，「新成員可能會錯誤地應用我們的一些政策，導致錯誤的清除。」
這種質量控制難題的嚴重性可以解釋，為什麼Twitter總會在刪除用戶報告的騷擾訊息上遭受失敗——其中一些包括對死亡或強姦的影射——儘管這些訊息似乎違反了它的社區標準。在一些特殊背景下，Twitter還因為採取行動處罰違反規則的推文而遭受責備：女演員羅絲·麥高恩一條批評好萊塢名人哈維•韋恩斯坦性騷擾醜聞的推文，暴露了他人的電話號碼，Twitter暫時關閉了羅絲的帳號。一位前c級Twitter高管表示：「在很多事情上，你最終都會陷入滑坡。你總會聽到有人說，『最簡單的解決方案就是怎麼怎麼樣！』比如現在你總聽到，『為什麼你不把機器人扔掉？！』好吧，但是很多合法的媒體都要使用機器人自動帳號來發布頭條新聞。很多看似簡單的解決方案其實要複雜得多。」
六.多爾西的苦惱：要言論自由，還是安全？
在科斯特洛2015年2月的悔恨之後的第五個月，他從Twitter辭職。聯合創始人傑克·多爾西取代科斯特洛擔任首席執行官，他曾執掌該公司，但2008年被解僱。他同時在他的支付公司Square任同樣的職位，這個公司總部位於舊金山的一個街區。多爾西是電腦科學領域的一名英語專業的學生，他對Twitter的未來有著深刻的想法，但他不能總是以一種工程師的方式表達出來。一位前高管表示：「如果你發現傑克對某個人非常清晰地表達了自己關於Twitter的觀點，我會感到震驚。」他指出，多爾西使用了「金門大橋」和「烤麵包機」的電源插座來描述這項服務。有一次，他在舊金山的辦公室開會，他告訴員工他想要定義Twitter的使命，並繼續扮演披頭士的「黑鳥」，與會者在困惑的沉默中傾聽。
不過，毫無疑問，他相信Twitter的關鍵性精神。「Twitter代表著言論自由。2015年10月，多爾西在正式接任Twitter首席執行官的第一天在Twitter上寫道：「我們代表著對權力說真話。」
當多爾西的任期開始時，Twitter已經更好地處理了困擾平台的一些語言污染問題。該公司的反濫用業務已被蒂娜•巴哈特納格（Tina Bhatnagar）接手，她是一位嚴肅認真的銷售人員，對言論自由幾乎沒有耐心。巴哈特納格極大地增加了為該公司工作的外包支持代理的數量，並能夠將濫用報告的平均響應時間減少到僅僅幾個小時，儘管有些人認為這個過程太過數字遊戲。一位與她密切合作的消息人士說：「她更像是在說，『就把它們掛起來』。」如果公司的大部分都是由布蘭代斯法官的話引導的，巴哈特納格代表了波特·斯圖爾特關於淫穢的名言：「當我看到它的時候，我就知道了。」
這種意識形態上的分歧反映在公司的組織層級上，這使得哈維和巴哈特納格分別在公司的不同部門——法律和工程部門——分別管理著不同的人員。「他們經常做同樣的事情，但採用了截然不同的方法，這是一種瘋狂的行為，」一名前高級僱員說，他覺得這兩個派系之間存在著反彈。即使是那些看似在同一個團隊的人也並不總是意見一致：根據三個消息來源，科林•考威爾，Twitter的公共政策副總裁，曾一度拒絕向哈維的老闆、總法律顧問Vijaya Gadde(麥吉利弗雷的繼任者)作報告，部分是由於他們在關於如何最好的實現言論自由這一問題上存在分歧。
爭論變得越來越普遍：巴哈特納格的團隊想要暫停被發現有濫用行為的帳號，結果卻被Gadde和哈維否決了。「這讓蒂娜發瘋，」一位熟悉這一動態的消息人士說。「她會去找多爾西，多爾西要去聽，在他的手機上記筆記，然後說，讓我想想。但多爾西無法做出決定，他沒法做到既不惹惱言論自由的人，也不讓網路安全人員感到不安，所以事情永遠不會得到解決。」
多爾西的支持者認為，並不是他優柔寡斷，這個問題根本沒有簡單的答案。對多爾西的爭論通常都是奇怪的邊緣案例，這意味著他做出的任何決定都很難概括成廣泛的例子。一位熟悉該公司面臨的挑戰的消息人士稱：「你可以有一個完美的書面規則，但如果這個規則不適用於3.3億用戶，那這個規則跟沒有一樣。」
當時，多爾西還有其他的業務要求。當他再次擔任首席執行官時，用戶增長已經停滯，自IPO以來股價已經下跌了近70%，僅在2015年，該公司就有望虧損超過5億美元，一些備受尊敬的員工即將離職。儘管Twitter在發布新產品方面取得了一些進展，包括Moments和它的影片功能，但它難以更新其核心體驗。2016年1月，多爾西向用戶暗示了Twitter長期以來的140個字元限制，但又花了22個月的時間才發布了280個字元的推文。「Twitter是一團亂麻，」萊斯利·米莉說，她在2015年底被解僱之前，負責管理安全功能的工程團隊。「當你每年更換產品伺服器時，你很難保持一種策略。」
Twitter並沒有完全意識到2016年喜劇演員萊斯利·瓊斯(Leslie Jones)所遭受攻擊的開創性， Twitter上發布的一些虛假的、PS過的推文想要表明她分享內容的分裂性。[圖片:Delcan & Company]
七.政治勢力捲入，Twitter成怪物？
然後，美國總統大選到了。Twitter的所有缺點都將在世界舞台上被放大。Twitter的支持代理，那些審查標記內容的人，在社交媒體中最黑暗的淤泥中穿行，見證了唐納德·特朗普開始橫掃初選的最早的警告信號。「我們看到了這種根本性的轉變，」當時的一個人說。歧視似乎更加明目張膽，宣傳和機器人更加咄咄逼人。另一個人說：「當你把它清理掉，它會在幾分鐘內回來，繼續支持納粹，憎恨猶太人。」
2016年7月，巨怪們對周六夜現場和《超能敢死隊》的明星萊斯利·瓊斯的一次攻擊，是Twitter反騷擾行動的重要節點。在瓊斯被種族主義和性別歧視的推文轟炸之後，多爾西與她親自會面，向她道歉，並在內部宣布了「濫用緊急情況」。有些用戶在這次行動中被禁言。它還增強了其靜音和阻擋功能，並引入了一種可選工具，用戶可以過濾掉Twitter所認定的「低質量內容」。「我們的想法是，Twitter不會壓制言論自由——它只是不給用戶推送不想要的內容。」
但這些努力還不足以讓用戶免受柯林頓-特朗普選舉周期的「有毒」影響。在瓊斯遭受攻擊的過程中，假的、PS過的推文的截屏顯示了瓊斯在平台上傳播的分裂性的東西。這種類型的虛假訊息策略將成為2016年大選的標誌，而Twitter也沒有意識到訊息戰中這一新戰線的力量。
在兩次總統競選中，特朗普更清楚如何利用這項服務來傳播候選人的聲音。當Twitter從共和黨候選人那裡獲得大量廣告交易時，左傾的員工向銷售團隊抱怨，他們應該停止接受特朗普的「屁話錢」。
關於Twitter平台應該允許哪些內容存在的爭論仍在繼續，直到秋季還未結束。去年10月，Twitter拒絕了與特朗普競選團隊達成的一項價值500萬美元的協議，這個協議要求定製一套希拉里表情符號。一位知情人士說：「關於此事有一場激烈的內部辯論。傑克是矛盾的，但在最後關頭作出了決定。特朗普的盟友後來抨擊Twitter的政治偏見。
11月8日，當選舉結果源源不斷地湧入時，員工們都感到震驚，在特朗普獲勝后的第二天早上，Twitter的總部就成了一個鬼城。員工們終於開始評估他們的平台不僅在特朗普的崛起中所扮演的角色，還在話語的兩極分化和激進化中發揮了作用。
當時的一位產品團隊負責人說，當時每個人都在問自己：「是我們創造了這個怪物嗎？」
八.消除分歧，全力加強安全措施
在特朗普獲勝后的幾個月里，員工們普遍認為多爾西將正面回應Twitter在大選中的作用，但有十幾個消息來源表明，這位CEO在內部對這個問題基本保持沉默。前安全經理萊斯利·米莉說：「在沒有為唐納德•特朗普事件承擔責任的情況下，你不能因阿拉伯之春贏得讚譽。」
隨著時間的推移，多爾西的想法逐漸發生變化，對於這個平台應該允許什麼，他的態度不那麼矛盾了。有人稱這與特朗普備受爭議的移民禁令和持續的右翼操縱行為有關。與此同時，Twitter開始對公眾和美國國會進行更嚴格的審查，盡量減少虛假訊息的傳播。
多爾西授權工程師Ed Ho和David Gasca全面負責推特上的問題，2017年2月，內部稱之為「濫用問題衝刺」階段，Twitter推出了更激進的措施，永久封禁不良行為者，更好地過濾掉潛在的辱罵性或低質量的內容。「傑克變得有點痴迷了。」一位消息人士說，「每個部門都被要求停止手頭的項目，專註于解決安全問題。」
Twitter的安全操作與公司的消費者產品部門更加緊密地結合在一起。結果也是正向的。例如，在2017年5月，在了解了用戶通過Twitter的直接消息功能遭受了多少辱罵之後，負責監督該產品的團隊想出了一個主意，即引入一個二級收件箱來捕捉糟糕的內容，類似於垃圾郵件文件夾。「他們正在把事情往正軌引導。」該公司的一位前經理說，「確實應該從產品和政策兩個層面解決這個問題。」
在今年3月的一段影片問答中，多爾西被問到為什麼沒有更早從工程管道解決信任和安全問題。這位首席執行官笑了，然後承認：「公司內部有很多歷史分歧，我們沒有做到盡可能的合作。我們也認識到，缺乏合作對我們造成了很大的傷害。」
即使是之前的Twitter上的受害者也已經意識到，該公司新的安全措施起到了一定的作用。「我認為Twitter的表現比他們獲得的公共信用好得多。」開發商Brianna吳說。她成為了Gamergate的主要攻擊目標。Gamergate是一群鬆散的Twitter巨怪，2014年起針對遊戲行業中傑出女性進行攻擊。她補充道：「我最近收到的大多數的死亡威脅都是通過Facebook或電子郵件發送給我的，因為Twitter在我還沒來得及看到它們之前就已經非常有效地攔截了。」（吳女士在社交網路上的黑暗遭遇，促使她在波士頓地區獲得美國眾議院席位的競選活動，網路安全是她關注的主要問題之一。）
在2014巴西總統大選中，數以百計的機器人被用來在推特上傳播政治宣傳，導致一名公司高管訪問巴西，並會見了巴西國會議員。[圖片: Delcan & Company + Jenue]
自大選以來，Twitter也更加積極主動，取消了對帳戶的限制，並取消了對白人民族主義者和像理查德·斯賓塞這樣的右翼領導人的核查。（藍勾標記指的是經過驗證的用戶，最初是為了確認身份而設計的，但後來被解釋為認可。）有三個消息來源稱，多爾西本人親自指導了其中的一些決定。
去年10月，Twitter開始在政策和功能上推出一系列改變措施，將文明和真實原則放在言論自由之上。例如，雖然謀殺威脅一直是不被接受的，但現在用戶在任何情況下談到它，也會被關閉帳號。Twitter還提高了在平台發布虛假訊息的門檻。
這些打擊措施還沒有消除Twitter平台不斷惡化的問題：在2月份的帕克蘭大規模槍擊事件后，一些倖存的學生成為了騷擾的目標，據報道，與俄羅斯有關的機器人傳播了支持槍支的情緒和虛假訊息。不過，沒有人會指責Twitter沒有直面其最糟糕的元素。在最近的一次財報電話會議上，一位高盛分析師向多爾西施壓，要求多爾西推進Twitter清除機器人和執行安全政策方面的進展。「現在，訊息質量是Twitter的核心工作。」多爾西回應道。
九.政府介入，自我監管時代結束
在今年的情人節，參議員馬克·沃納走進華盛頓特區的一個豪華包廂，在這棟參議院辦公大樓里，他給自己倒了一份維生素水，並迅速解釋了為什麼矽谷需要為自己在2016年大選中扮演的角色負責。作為參議院情報委員會的民主黨副主席，沃納被高調的聽證會和機密簡報淹沒了，但這個話題對於自稱是「技術人員」的華納來說也是非常個人的，他在20世紀80年代投資了電信行業。
沃納正在關注委員會對俄羅斯選舉干預的調查，這一事件越來越多地集中在科技巨頭日益增長、不受約束的權力上。他認為，這些巨頭需要克服他們的「傲慢」，修復他們的平台。「最讓我惱火的事情之一是，科技公司最初的反應是把我們轟走。」他在皮椅上坐起來，身體向前傾，「噢，不！這裡什麼也沒有！不要看！只有在無情的壓力下，他們才會變得乾淨。」
他對Twitter的評價最嚴厲，他說Twitter的發展比Facebook和Google都要大得多。「但Twitter的所有行為都滯後於Facebook。」沃納用他沙啞的聲音抱怨道，他的臉變紅了。Twitter是唯一一個超出1月8日為情報委員會的調查提供結果的最後期限的公司，更糟糕的是，Twitter在幾周后披露，與克里姆林宮有關聯的機器人能夠產生超過4.5億次的傳播印象，大大高於該公司此前報道的數字。「有借口認為，『好吧，只是Twitter這樣』，這可不是一個長期可行的答案。」
當被問及為什麼這項服務不能解決一些濫用職權的問題時，一位前C級Twitter高管表示:「在很多事情上你最終都會走下坡路，有人說『哦，簡單的解決辦法是X!』，事實上許多簡單的解決方案都要比想象複雜得多。[照片：Delcan & Company]
沃納表示，他已經與馬克·祖克柏直接進行了線下對話，但從未與多爾西有過對話。沃納微笑著表示，該公司可能無法像Facebook和Google那樣投入那麼多資源，因為它有一個「更複雜、更不賺錢的商業模式」。
現在最大的問題是政府的干預可能是什麼樣子。沃納提出了一些寬泛的政策處方，包括反壟斷和數據隱私條例，但對Twitter及其競爭對手最具潛在影響的是讓他們對平台上的內容負責。當有人提出是否可以把對科技行業的監管力度更大的歐盟作為示範時，這位參議員回答說：「我很高興歐盟採取了行動，他們比我們更大膽。」
如果美國政府確實開始在監督社交網路方面發揮更積極的作用，它將產生一些歐洲正努力解決的令人惱火的問題。例如，1月1日，德國開始執行一項簡稱為「NetzDG」的法律，它要求大型社交網路在接到通知后的24小時內刪除違反該國現行言論法的材料，而不是對仇恨言論施加新的限制，這些法律比美國的同類法律要嚴格得多。全球公共政策研究所駐柏林的項目經理Mirko Hohmann說：「在普通法庭上，這個過程要花幾個月的時間，現在是由社交媒體公司在短短幾分鐘內做出的。」
他指出，Twitter暫時關閉了一家德國幽默雜誌的帳戶，原因是它在推特上發布了一篇諷刺文章，諷刺的是極右翼政黨的領導人比阿特克斯·馮·斯托克的聲音。霍曼說：「沒有哪個法院會判定這些推文是非法的，但在壓力之下，Twitter這麼做了。」（該公司甚至刪除了NetzDG的一位成員海科·馬斯的一條舊推文，因為他稱另一位政客為「白痴」。）
在美國馬里蘭州、紐約州和華盛頓州的議員們已經在努力規範社交網路上的政治廣告，而不是等待聯邦政府的行動或國際指導。正如沃納所言，矽谷自我監管的時代已經結束。
十.未來，Twitter將採取何種行動？
無論聯邦政府是否介入，加強大型社交網路解決網路暴力問題，都將涉及到尚未出現的解決方案。大西洋理事會數字取證研究實驗室的副主任格雷厄姆·布魯基說：「如果有一根魔杖可以用來解決這個問題，揮動魔杖就能擁有大量的資源和專業知識，那麼他們絕對會這麼做。」
不過，Twitter可以做很多事情來保護自己的平台。使用技術來識別邪惡的機器人是一個棘手的問題，但Twitter可以將所有的自動帳戶貼上這樣的標籤，這不會妨礙合法的訂閱，但會遏制俄羅斯機器人成為特朗普的支持者。
「問題不在於Twitter上有自動化帳號。」民主數據政策主管、人道主義技術中心的創始顧問Renee DiResta說。「問題是，這些自動帳戶被當作真實的人，它們的行為就像真人一樣，操縱著其他人們。」
Twitter還可以通過讓人們更容易看到和易於理解的方式來阻止人們創建令人反感的內容。蘇珊·本斯奇的危險言論項目被納入Twitter信任與安全委員會議程。她說，她懇求高管們提高「Twitter規則」政策的可見性，這些政策概述了你在這項服務上不能說的內容。「他們說沒有人讀規則，確實如此，也沒有人閱讀憲法，但這並不意味著我們不應該有公民課程，並試圖讓人們去讀它。」她回憶道。
Twitter還可以通過將透明度作為一個時髦詞彙來建立信任，與用戶和行銷人員分享更多關於Twitter如何工作以及與外部研究人員合作的訊息。與其他社交媒體巨頭相比，它的商業模式較少依賴於使用秘密演演演演算法將用戶的數據和行為貨幣化，這點讓Twitter可以更開放，這也是其他平台巨頭們無法做到的一點。「人們使用Twitter的方式，讓人們更容易看到事物和理解事物，在YouTube上實現這點很困難，在Facebook上則非常困難。」出版貿易集團Digital Content Next的首席執行官傑森·金特說。
為了實現這個更具協作性的目標，並受到非營利組織Cortico和麻省理工學院社會機器實驗室的研究的啟發，Twitter在3月份宣布，它將嘗試衡量自身「會話系統的健康」。該公司還邀請其他組織參與這一進程，Twitter表示將在7月公布其首批合作夥伴。
這一努力很吸引人，但眾包倡議聽起來與Twitter的信任和安全委員會驚人地相似。自2016年2月成立以來，這個委員會的使命一直是倡導人士、學者和草根組織合力為該公司的安全措施提供建議。
許多在Twitter工作的人想要的不是一個度量標準，而是一個自我批評。據一位與該公司領導層討論過這些問題的消息人士稱，「他們對每件事的反應基本上都是，『看，我們聽到了你的聲音，但你不能把發生的事情歸咎於Twitter。因為就算這件事不在Twitter上發生，也會在另一種媒介上發生。』高管們不承認我們有責任，這也是我辭職的原因之一。」
就連參議員沃納也認為，在他的同僚們考慮立法之前，科技公司的首席執行官們應該去國會參加一次聽證會。「我不是指多爾西，我說的是Facebook的祖克柏，Google的謝爾蓋·布林和拉里·佩奇，不要派你的律師去，不要派政策人員去。他們欠美國公眾一個解釋。」
多爾西在推特上發布消息稱，「不得不承認，我們沒有完全預測或理解到對現實世界的負面影響」，隨後，Twitter推出了新的健康指標計劃，美國公眾似乎終於得到了一個解釋。他接著說：「我們為人們如何利用我們的平台以及無法快速解決這個問題而感到羞愧，我們的大部分時間都在努力根據我們的條款刪除內容，而不是建立一個系統框架來鼓勵更健康的辯論、對話和批判性思維。這是我們現在需要的方法。」
一周後，在Twitter上的一段47分鐘的影片直播中，多爾西繼續承認過去的失誤。「我們總會繼續犯錯誤，過去，圍繞著這個平台上的安全、濫用、錯誤訊息和操縱等一系列話題，我都犯了錯誤。」
直播的重點是談論測量話語，多爾西試圖回答用戶提出的問題。但是，螢幕上滾動的數百條實時評論顯示了未來即將面臨的巨大挑戰。隨著影片的繼續，螢幕滾動訊息流中充斥著反猶太和恐同的侮辱性話語，還有一些擔心Twitter會對他們禁言的刻薄抱怨，還有人為Twitter禁止種族主義而發出哀怨的呼聲。多爾西撫摸著他的鬍子，瞇著眼睛看著他的手機，看著他在試圖尋找美好東西時糟糕的訊息流。
原文連結：https://www.fastcompany.com/40547818/did-we-create-this-monster-how-twitter-turned-toxic
