世界最大のメッセージアプリにアクセンチュアが派遣する「監視スタッフ」たち
フェイスブックが買収した世界最大のメッセージアプリ「ワッツアップ」。20億人のユーザー情報は、企業の説明とは裏腹に監視され、公的機関にも提供されている。アメリカの調査報道メディア「プロパブリカ」が29人の監視業務経験者に取材。時給、気が滅入る監視業務の詳細、その通報システムまで、内部事情を徹底的に明らかにし、データ資本主義の暗部を告発する。

有害コンテンツ監視業務 29人の証言

フェイスブックが軽視するワッツアップ20億ユーザーのプライバシー

ワッツアップは送受信されるメッセージを第三者が読むことはできないとユーザーに説明している。だが、同社は幅広くモニタリング業務を行っており、個人情報を検察と共有することが恒常的に行われている。

取材・執筆 ピーター・エルキンド、ジャック・ギラム、クレイグ・シルバーマン

202198日付補足:本記事では当初、ワッツアップがどの程度ユーザーのメッセージに対するチェックを行っているか、また通信を秘密にするための暗号化を解除しているか否かについて、意図しない混乱を招いてしまった。ワッツアップがチェックするのは悪質な内容の可能性ありとしてユーザーから通報があったメッセージのみであることを明確にすべく、文言の修正を行った。つまり、ワッツアップではエンドツーエンド暗号化が無効になっているということではない。

1. 世界最大のメッセージアプリ

「プライバシー重視ビジョン」とは裏腹に

20193月にマーク・ザッカーバーグがフェイスブック向けの「プライバシー重視ビジョン」を新たに発表した際、モデルとして取り上げたのが同社の世界的メッセージサービス、ワッツアップ(WhatsApp)だった。フェイスブックCEOの同氏は「プライバシー保護体制を構築してきたかと言われると、現時点ではわれわれは高い評価を得ていない」ことを認めた上で、次のように記した。「今後、通信はプライベートで暗号化されたサービスへと急速にシフトしていき、そこでは自分たちの通信が保護され、交わされる内容が永久に残ることはないとユーザーが確信できるものになるとわたしは考えています。これこそわれわれが実現に向けて取り組んでいきたいコミュニケーションの未来なのです。われわれはワッツアップを開発したのと同じ方法でそれを構築していく考えです」

Photo/Nicolas Ortega for ProPublica

ザッカーバーグのビジョンの主眼はワッツアップを特徴付ける機能に置かれており、彼いわくフェイスブックはまさにそれをインスタグラムやフェイスブック・メッセンジャーにも適用しようとしているという。それは「エンドツーエンド暗号化」だ。すべてのメッセージを読み出し不可能なフォーマットに変換し、送信先に届いて初めてロックが解除されるという仕組みになっている。ワッツアップのメッセージはきわめて強力に保護されているため、運営会社のフェイスブックも含め誰も一語たりとも読むことはできないのだ——ザッカーバーグはそう言っている。ザッカーバーグがかつて2018年にアメリカ上院で証言したように、「われわれはワッツアップで交わされる通信内容はまったく見ていない」というわけだ。

ワッツアップはこの点を特に強調し続けており、ユーザーがメッセージを送信する前には次のような説明が自動的に表示されるほどだ。「このチャットの参加者以外は誰も(ワッツアップですらも)内容を読んだり聴いたりすることはできません」

このように徹底した説明がある一方で、テキサス州オースティンやダブリン、シンガポールにあるオフィスビルのフロアを1000人超の契約スタッフが埋め尽くしていると知れば読者は驚くことになるだろう。時給制で働く彼らは、割り当てられた業務別のブースでコンピューターの前に座り、特別なフェイスブックのソフトウェアを使って何百万件ものプライベートメッセージや画像、動画を監視しているのだ。詐欺やスパムから児童ポルノやテロ計画の可能性があるものまで、多岐にわたる分野に関してモニターに警告が点滅すると、彼らが判断を下す。所要時間は通常、1分未満だ。

こうしたスタッフがアクセスできるのは、ワッツアップ上のメッセージの一部分でしかない。ユーザーから通報があったものや、運営側から悪質な内容の可能性があるとして自動的に転送されてきたものだ。こうした確認作業は監視業務全体からすると一側面でしかなく、ワッツアップは送信者のデータやアカウント情報といった暗号化されていない内容についてもチェックを行っている。

入手した49枚のスライド

プライバシーは聖域であると強調する一方でユーザーを監視することで、ワッツアップは舵取りの難しい状況に置かれている。プロパブリカは49枚のスライドからなる202012月の社内におけるマーケティングについてのプレゼンテーション資料を入手したが、そこではワッツアップの「プライバシー重視の主張」を「徹底的に」展開していくことが強調されていた。「ブランド・トーン・パラメータ」と題したスライドでは、同社の「ブランド・キャラクター」を「出稼ぎ労働者の母」(訳注:1936年に撮影された写真で、世界恐慌下で貧困にあえぐアメリカ人を象徴するもの)になぞらえたほか、タリバーンによる銃撃を生き延び、ノーベル平和賞を受賞したマララ・ユースフザイの写真を掲載した。このプレゼンテーションでは、コンテンツモデレーション(訳注:送受信される内容のチェック)に関する同社の対応については言及がなかった。

マララ・ユースフザイ Photo/Getty Images

ワッツアップのコミュニケーション担当ディレクターを務めるカール・ウッグは、オースティンをはじめとする各地で契約スタッフからなるチームがワッツアップ上のメッセージをチェックし、「極度に悪質」なユーザーを特定して削除していることは認めている。しかしウッグはプロパブリカに対し、同社はこの業務をコンテンツモデレーションとは捉えておらず、「実のところ、われわれがワッツアップの業務でその用語を使うことは通常ありません」と言っている。ワッツアップは本記事執筆のための役員への取材依頼には応じなかったが、質問に対し書面でコメントを寄せてくれた。それによると、「ワッツアップは世界中の何百万もの人びとにとってライフラインとなっています」とした上で次のように述べている。「アプリの構築に関しわれわれが下す決定はユーザーのプライバシー保護を優先したものであり、高いレベルの信頼性と不正使用防止を実践しています」

ワッツアップはコンテンツモデレーションを行っていないとしているが、これはフェイスブック社がワッツアップの姉妹サービスであるインスタグラムやフェイスブックについて言っていることとは明確に異なっている。同社によれば、およそ15000人のモデレーション担当スタッフがフェイスブックとインスタグラム——両者とも暗号化はされていない——のコンテンツをチェックしているという。四半期毎に公表される「透明性レポート」では、さまざまなカテゴリーで悪質なコンテンツがあるとしてフェイスブックとインスタグラムが「アクションを取った」アカウントの数が詳しく報告されている。ワッツアップではこうしたレポートは存在しない。

大量のコンテンツチェック担当スタッフの存在は、フェイスブック社によるワッツアップユーザーのプライバシー侵害行為の一部にすぎない。全体として見ると、同社の対応によって、ワッツアップ——20億人のユーザーを持つ世界最大のメッセージアプリだ——のプライバシー保護はユーザーが理解ないし期待しているであろうレベルよりもはるかに低くなっているのだ。プロパブリカはデータや文書、現職および過去に在籍していた従業員や契約スタッフ数十名への取材にもとづき調査を行ってきた。その結果、フェイスブック社が2014年にワッツアップを買収して以降、徹底したセキュリティ保護体制が複数の手法によって目立たないかたちでいかに侵食されてきたかをめぐる実態が判明した(2021年夏に発表された2本の記事ではワッツアップにおけるモデレーション担当スタッフの存在が指摘されていたが、ユーザーのプライバシー保護への影響よりも勤務環境や賃金に焦点を当てたものだった。今回の記事は、ワッツアップによるメッセージやユーザーデータの精査がどのように、そしてどのレベルまで行われているかを初めて明らかにするとともに、同社がそこで得た情報で何をしているかを初めて検証するものでもある)。

ワッツアップのコンテンツモデレーションに従事するスタッフによる主張は、昨年アメリカ証券取引委員会(SEC)で申立が行われた非公開の内部告発とも重なる部分が多い。プロパブリカはこの告発文書を入手したが、そこにはワッツアップがユーザーのメッセージや画像、動画をチェックすべく外部の契約スタッフや人工知能(AI)システム、アカウント情報を広範囲に活用している実態が詳細に記されていた。同文書は、ユーザーのプライバシー保護に関するワッツアップの主張は誤りであると指摘している。これに対しワッツアップの広報担当者は「その申立については拝見しておりません」と述べている。SECは本件について公開されたかたちでの対応はとっておらず、同委員会の広報担当者からのコメントも得られなかった。

ユーザーと検察の板挟み状態

フェイスブック社も、ワッツアップユーザーからどれだけのデータを収集し、それをどう取り扱い、どこまで法執行機関と共有しているかについて大事として捉えていないようだ。たとえば、ワッツアップはメタデータ——ユーザーの利用状況について多くの情報を含んでいる非暗号化記録だ——を司法省などの法執行機関と共有している。シグナルのような競合サービスは、ユーザーのプライバシーへの侵入を避けるべくメタデータの収集は意図的にかなり制限しているため、法執行機関都の情報共有は非常に少ない(ワッツアップの広報担当者は、「ワッツアップは有効な法律上の要請に応じております。人物を特定するかたちで誰がメッセージを送っているのかについて、リアルタイムで情報提供を求められるものも含まれます」と述べている)。

財務省職員が、不正な資金がアメリカの銀行を経由していることを示す機密文書をバズフィード・ニュースにリークした事件があった。プロパブリカの取材から、検察がこの重大事件を立件するに当たり、ワッツアップのユーザーデータが役立てられたことがわかっている。

他のソーシャルメディアやコミュニケーションアプリと同様、ワッツアップもプライバシー保護を求めるユーザーと、それとは事実上逆のこと、つまり犯罪やネット上の不正行為に対処するためとして情報提供を要求する法執行機関との板挟みになっている。このジレンマに対するワッツアップの対応は、ジレンマは一切存在しないと主張することだった。「ワッツアップ責任者」の肩書きをもつウィル・キャスカートは、7月にユーチューブ上で行われたオーストラリアのシンクタンクとのインタビューで、こう語っている。「エンドツーエンド暗号化によるユーザーの安心安全と犯罪解決のための法執行機関への協力は、確実に両立可能だと考えています」

プライバシー保護と法執行機関への情報提供の相克は、フェイスブックがワッツアップでどうやって利益を上げるかという、別のプレッシャーによってさらに深刻なものになっている。2014年に220億ドルでワッツアップを買収して以来、フェイスブックはユーザーから1銭も料金を取らないこのサービスから利益を生み出す術を模索し続けてきた。

この難題は、時にユーザーを、時に当局を、時に両者をいら立たせる動きに度々つながっていった。ワッツアップをマネタイズするという目標は、フェイスブックがワッツアップのユーザーデータを利用できるようにする——以前EUの規制当局に対しては技術的に不可能と答えていたのだが——という2016年のフェイスブック社の決定を後押した。マネタイズへの渇望からワッツアップでの広告掲載というプランも出たが、論議を呼んだ結果、2019年後半には撤回された。やはり頓挫することにはなったものの1月に発表された新たな取り組みにも、利益を上げよとの任務が影響していた。ワッツアップ上でユーザーが企業とやりとりする際に関する新たなプライバシーポリシーの導入だ。これにより、企業側は新たなかたちで顧客データを利用することが可能になるはずだった。ところが、この発表によってユーザーが他の競合サービスに流出するという事態を招くことになってしまった。

積極さを増していくワッツアップのビジネスプランの主眼は、豊富なサービスを企業に提供することに置かれていた。ユーザーがワッツアップ経由で料金を支払うことを可能にしたり、カスタマーサービスのチャットを管理できるようにしたりと、便利なサービスを提供するものではあったが、プライバシーの保護は十分ではなかった。その結果、1つのアプリのなかでプライバシーの取り扱いについて、2層からなるシステムが出来上がることになった。このシステムの下では、ユーザーがワッツアップを利用して企業とやりとりをする際、エンドツーエンド暗号化による保護がさらに弱まることになる。

202012月にワッツアップで行われたマーケティングについてのプレゼンテーションは、同社の原則が相反する状態にあることを表すものだった。そこでは、「プライバシーの保護は重要であり続ける」と述べられている。しかし、より緊急度の高い任務と思われることについても考えが示されている——「ワッツアップというブランドの開口部をこじ開け、これからのビジネス目標を徹底していくこと」が必要というのだ。

01