CyConX travel report Day One Keynote 3/4 Facebook& info operation

Mr. Alex Stamos氏( Chief Security Officer, Facebook)の講演は、「情報工作、選挙およびFacebook」です。ビデオは、このページです。スライドも一緒です。

これも、Facebookが、選挙に与える影響について、誠実に対応している姿勢がよく分かるプレゼンでした。個人的には、セキュリティは、情報の内容については、あまり関心をおくことがないですし、個人的には、ノンホリに近いので、いままで、勉強していなかったのですが、今後は、デジタル化社会における民主的な意見形成とソーシャルネットワークという論点もフォローの領域にいれたいと思います。

さて、内容のメモです。

最初は、FBの発展のグラフィックです。今では、2.2ビリオンの人が利用しています。99.9の人が、ポジティブなために利用しています。その一方で悪い目的のために利用しているのに対しては、一線を引いて対応しています。そのリスクを低減しようと考えています。

特に選挙に関するリスクは、政治的な関連性があるというだけではなく、FBの理想とする価値(言論の自由・思想の自由)に対する攻撃ということができます。

サイバーウッドストックのテーマといえば、CCRやジョーコッカーになりますが、敵のグループを理解し、対応することが重要になります。

この敵の行為者は、(1)商業的な動機からフェイクニュースを提供するものたち、(2)外国政府の影響を受けた工作者、(3)国内の影響をうけた工作者、(4)個人の参加者に4つに分けることができます。

(1)商業的な動機からフェイクニュースを提供するものたち

彼らは、その動機は、クリックを稼ぐこと、ときには、政治的な信条に動かされることがあります。技術的には、大衆製品のテンプレートのサイトを利用したり、偽のアカウントを利用したりします。広告費の安いところから、偽のペルソナによって高い広告費を表示させようとします。これに対する対応としては、削除、減少、通知になります。FBは、実名方針があるので、それにしたがっていなものとして削除することができます。ニュースフィードのアルゴリズムによって、フェイクニュースとして、表示されにくくすることができます。また、論争となっている事実については、ダッシュボードで、そのような事実であると表示するということができます。

(2)外国政府の影響を受けた工作者

次のカテゴリは、外国政府の影響を受けた工作者になります。DCleaks(Fancy Bearが運営していた)やDNCハッキングに関連して、米国政府が、外国政府の関与があったとして、アカウントの閉鎖を命じたという種類の案件ということになります。この種の事案は、国内の分断や、同盟国との分断を図ろうとするものです。

技術としては、新しいストーリーを考えて、それを増幅させようとするものになります。その結果、普通の人が、伝達して、従来からのニュース組織まで到達して、それが、正当なニュースとして伝達されるようになってくるのです。広告は、聴衆を引きつける手段ということになります。聴衆が世代を更新していくのに使われます。情報の面で、操作を図ろうとするのです。

これに対する対応は、広告とページの順位の透明性になります。フェースブックでは、すべての政治的トピックに関する広告は、選挙運動に関するものも含めて、厳格な基準のもと(物理的な所在、政府のIDなど)に許容されることになっています。すべての広告が、運営される組織が、特定されることになっています。いかなる政治的活動も、検索によって、どのような組織によって提供されているのかを見ることができるようになっています。

適切な選挙運動は、公衆の最大の利益のために行われているので、非常に個別化の進んだ広告や工夫された(hyper device)広告は、報道からは見れるようになっています。

また、組織化されたグループについては、脅威インテリジェンスグループがあり、調査を行っています。そのグループは、各国の言語に習熟しています。

さらに情報操作については、それを把握できるようにポリシを拡大しています。新しいフェイクアカウントを探知するシステムを構築しています。発見したアカウントを機械に学習させていくのです。

(3)国内の影響を与える運営者

国内の影響を与える運営者がいます。国内の聴衆に影響を与えようとするもので、通常は、与党側ですが、必ずしもそうとは限りません。国家側のメディアを増幅したり、反対意見・活動家の意見が拡散されるのを抑制したりします。ドキシングを使ったりします。また、場合によっては、外国のプロバイダーとかを利用します。

運営者が誰かというのは、複雑だったりします。政府や与党、国家所有もしくは、その傾向のメディア、政治的動機を有する、無償のグループ、海外からもありうる金銭的な動機による専門家、組織されたトローリング・グループ(例 アノニマス)などがいます。

これに対する対応は、広告とページの順位の透明性、執行を手作業でもしくは自動で行います。また、組織的な報告/フラグ付けを探知することを拡張し、協調された影響力の行使に対する政策を拡張しています。また、国によっては、活動家や人権団体との関係も構築しており、選挙のサイクルなどに応じた対応をしています。

(4)個人の参加者

最後のカテゴリは、個人の参加者になります。このグループは、自らの信念を広め、他人に対して不快感を十期することを目標にしています。

これらの個人は、ポストを積極的にシェアしており、クリックをするように推し進めています。政治的「敵」に対して、挑発的メッセージを流したり(トローリング)、恫喝したりします。フェイクニュースをコピペしたりします。

対応手法は、個人の権利に対して尊重された上でなされなければなりません。ニュースフィードのクリッグベイト(クリックを誘うウェブページやリンクや動画や広告など)の減少やコミュニティの基準を実行に移すこと、議論のある投稿にその旨を付け加えることなどになります。

フェースブックは、民主主義国家と共に、協同していて、関係を構築しています。また、アカデミックとも協力しています。

 

It's only fair to share...Share on LinkedInTweet about this on TwitterShare on Facebook
カテゴリー: 情報セキュリティ パーマリンク