【コラム】事前予想と異なるフェイスブック監督委員会によるトランプ氏への決定を掘り下げる

今回は「【コラム】事前予想と異なるフェイスブック監督委員会によるトランプ氏への決定を掘り下げる」についてご紹介します。

関連ワード（Facebook、SNS、アメリカ、コラム、ドナルド・トランプ等）についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

物議を醸しているFacebook（フェイスブック）のポリシーを決定するエリート集団が、米国時間5月5日にDonald Trump（ドナルド・トランプ）氏の命運を決する評決を発表したが、それは多くの人々が予想していたものとはまったく異なっていた。

ここでは今回の決定を掘り下げ、この決定がトランプ氏にとってだけでなく、コンテンツモデレーションにおける難しい決定を外部に委託するというFacebookの寛大な試みや、委員会の独立性の観点からも、何を意味するのかを明らかにしていきたい。

監督委員会は、トランプ氏が「危険な個人や組織」に関するFacebookのポリシーに違反しているとの判断を支持した。このポリシーでは、暴力を賞賛したり支持したりすることを禁止している。この決定の全文とそれにともなう方策の提言は、オンラインで誰でも読むことができる。

具体的には監督委員会は、トランプ氏の連邦議会議事堂の暴徒たちに対して「We love you. You’re very special（愛している。君たちは特別だ）」と送った投稿と、暴徒たちを「great patriots（偉大な愛国者）」と呼び「remember this day forever（この日のことを永遠に忘れてはいけない）」と伝えた投稿が、Facebookのルールに違反していると判断した。実際、委員会はこの2つの投稿が論点のルールに「著しく」違反しているとまで述べ、トランプ氏の言葉が実社会に害を及ぼす危険性は明らかだと断じている。

委員会は、トランプ氏が不正な選挙という根拠のない虚構を主張し、行動を執拗に呼びかけることで、暴力による深刻な状況に陥るリスクを引き起こしたと判断した。トランプ氏が投稿した時点では、明らかに危害のリスクが差し迫っており、暴動に関与した人々を支援する同氏の言葉は、暴徒の暴力的な行為を正当化するものだった。大統領として、トランプ氏は強い影響力を持っていた。同氏の投稿のリーチ数は多く、Facebookでは3500万人、Instagram（インスタグラム）では2400万人のフォロワーがいた。

監督委員会は、トランプ氏のアカウントを停止したFacebookの判断を称賛する一方で、同社が取った停止処分の方法には同意しなかった。Facebookが下した「無期限」の停止処分は、同社が表明しているポリシーに十分な裏付けのない恣意的な処罰であると、委員会は論じている。

関連記事：FacebookとInstagramがトランプ大統領のアカウントを「少なくとも政権交代が完了」までブロック

Facebookは、どのようなタイミングでアカウントを回復させるのか、あるいは回復があるのかないのかという明確な基準がないまま、ユーザーをプラットフォームから無期限に締め出すことは許されない。

このペナルティを適用するにあたり、Facebookは公表されている明確な手順に従っていない。『無期限』の停止は、同社のコンテンツポリシーには記載されていない。Facebookの通常のペナルティには、違反コンテンツの削除、期限付きの停止処分、ページやアカウントの永久的な無効化などがある。

監督委員会は、この点について言葉を濁すことなく「曖昧で基準」のない罰則を設け、最終的な判断を監督委員会に押し付けることで「Facebookはその責任を回避しようとしている」と述べている。逆に、監督委員会は、自社のコンテンツモデレーションルールに適合する、トランプ氏に対する適切なペナルティを策定することは、実際にはFacebookの責任であると主張している。

発表前日の著者であれば、監督委員会はFacebookが下したトランプ氏に対する決定を覆す可能性が高いと言っていただろう。また、結果がどうであれ、トランプ氏をプラットフォームに復帰させても、永久に追い出しても、結局は2度目の批判を受けることはないため、5月5日の重大な決定はFacebookにとってはWin-Winだとも言った。予想なんてこんなものだ。

Facebookは、トランプ氏の状況について、もっと明確な判断が得られると考えていただろう。これは、トランプ時代の（数々の）失策から前進する準備ができているであろう企業にとっては、かなり厄介な結果だ。しかしもし委員会が、Facebookの判断は間違っていたと宣言し、トランプ氏のアカウントを回復させていれば、もっと大きな頭痛の種になっていたであろうことは間違いない。

著者を含め多くの人々は「Facebookのコートにボールを真っ直ぐ投げ返す」という選択肢は想定していなかった。Facebookに最終決定権を与えるはずの監督委員会の決定が、実際には監督委員会の独立性を低下させるどころか、より高めているように見えるのは皮肉なことであり、少し驚きでもある。

しかし、忘れてはならないのは、結局のところ、Facebookが委員会の提言を拒否するだけで、すべてが台無しになってしまう可能性があるということだ。委員会には、Facebookが認める範囲の権限しかなく、Facebookがその気になれば、いつでも関係を解消することができる。

最終的に監督委員会は、Facebookに対して、a）トランプ氏のアカウント停止の期限を設定する、もしくは、b）アカウントの削除を求めている。それほど深刻ではないケースであれば、ルールに違反するコンテンツをFacebookが削除するというのが通常の措置だ。しかし、今回の波及的影響と、トランプ氏がFacebookのルール違反を繰り返しているという事実を考慮すると、明らかにその選択肢を超えていると言える。

しばらく待たなければならないだろう。委員会は、Facebookがトランプ氏の状況を評価し、プラットフォームのルールに合致する「相応の」措置を取るべく、6カ月以内に最終的な決定を下すよう求めている。Facebookをはじめとするソーシャルメディア企業は、常にルールを書き換え、その上で大きな判断を下している。そのため、同社が計画している措置に沿うポリシーを構築するには、少し時間が必要となる。

米国連邦議会議事堂での暴力事件後の数カ月間、Facebookはトランプ氏のアカウントに対する判断を「必要かつ正しい」と繰り返し弁明してきた。同社が6カ月後にトランプ氏のアカウントを回復させるとは考えにくいが、理論的には、Facebookはその停止期間が適切なペナルティであると定め、それをルールに書き込むことができる。Twitter（ツイッター）がトランプ氏を永久追放したということは、現時点ではFacebookも難なく先例に倣うことができるということだ。

委員会の決定を直接受けて、FacebookのNick Clegg（ニック・クレッグ）氏は次のようにだけ書いている。「当社はこれから委員会の決定を検討し、明確かつ適切な措置を決定する」。クレッグ氏によると、それまでトランプ氏のアカウントは停止状態が続くとのことだが、次に何が起こるかについてはそれ以上の示唆はなかった。では、11月5日まで待つとしよう。

もしトランプ氏が再選されていたら、今回の件はおそらくまったく違ったものになっていただろう。Facebookは、言論の自由や人と人とのつながりといった高潔な理想に沿って決定を下していると標榜するが、結局のところ、規制や政治的環境に非常に敏感だ。

2021年1月6日にトランプ氏がとった言動は、危険で目にあまるものだったが、その2週間後に迫ったバイデン氏の大統領就任式も、同社の判断に同じくらいの影響を与えただろう。そもそも、規制当局の監視を回避することが、監督委員会の存在理由でもある。

その可能性はある。監督委員会は今回の決定の中で、Facebookが「ユーザーが政治的リーダーである場合のアカウント停止について、委員会からの見解や勧告」を求めたと述べている。委員会からの方策の提言は、決定事項というほどの拘束力はないが、Facebookから求めた以上、耳を傾ける可能性は高いだろう。

もしそうなれば、監督委員会の提言により、今後Facebookが、注目を集めるアカウントをどのように扱うか再構築する可能性がある。

監督委員会は、政治的リーダーとその他の影響力のあるユーザーを明確に区別することは必ずしも有益ではないとし、多くの視聴者を持つその他のユーザーも深刻な危害をもたらす可能性があることを認めている。

すべてのユーザーに同じルールが適用されるべきであるが、危害の可能性と切迫の度合いを評価する際には状況が重要になってくる。影響力のあるユーザーの投稿により、切迫した危害が及ぶ恐れがある場合、Facebookは迅速にルールを適用する必要がある。Facebookは、今回のケースでは「ニュース性の価値」の許容範囲を適用しなかったと説明しているが、委員会はFacebookに対し、影響力のあるユーザーに関する決定方法について生じた大きな混乱に対処するよう求めた。委員会はまた、重大な危害を防ぐために緊急の対応が必要な場合、ニュース性の価値を考慮することを優先すべきではないと主張している。

Facebookをはじめとするソーシャルネットワークは、ニュース性の価値による免除の陰に隠れて、一部のユーザーを動揺させるような難しい方針決定を何年も避けてきた。理事会は、ルールを施行する際に政治的リーダーに対する特別な配慮は必要ないというだけでなく、被害をもたらす可能性のあるコンテンツを削除することは、ニュース性の価値があるからといってオンラインのままにしておくことよりもはるかに重要だとしている。

イエスでもありノーでもある。トランプ氏の停止処分は宙に浮いているかもしれないが、監督委員会は法的機関をモデルにしており、その真価は前例を作ることにある。監督委員会がこの件をFacebookに差し戻したのは、同社がトランプ氏に対してメニューにさえ載っていない処分を選んだからであり、トランプ氏の言動がグレーゾーンにあると考えたからではない。

監督委員会は、トランプ氏が連邦議会議事堂での暴徒を称賛する言葉を発したことで、プラットフォーム上に危険な脅威のリスクが高まったと明確に判断した。George Floyd（ジョージ・フロイド）氏の死亡事件に対する抗議活動の際にトランプ氏が発して悪評を買った「略奪が始まれば、銃撃が始まる」という発言について、当時Facebookは何の対応も取らなかったが、委員会が同じ結論を出したであろうことは容易に想像できる。しかし、委員会は、トランプ氏のような言動が永久追放に値するとは言っていない。それはFacebook次第だ。

関連記事
・ザッカーバーグ氏は「議会議事堂襲撃の責任はフェイスブックではなくトランプ元大統領にある」という
・Facebook社員がバーチャルストを敢行、トランプ米大統領の投稿に対する会社の態度に抗議

画像クレジット：Zach Gibson / Getty Images

【原文】

Facebook’s controversial policy-setting supergroup issued its verdict on Trump’s fate Wednesday, and it wasn’t quite what most of us were expecting.

We’ll dig into the decision to tease out what it really means, not just for Trump, but also for Facebook’s broader experiment in outsourcing difficult content moderation decisions and for just how independent the board really is.

What did the Facebook Oversight Board decide?

The Oversight Board backed Facebook’s determination that Trump violated its policies on “Dangerous Individuals and Organizations,” which prohibits anything that praises or otherwise supports violence. The the full decision and accompanying policy recommendations are online for anyone to read.

Specifically, the Oversight Board ruled that two Trump posts, one telling Capitol rioters “We love you. You’re very special” and another calling them “great patriots” and telling them to “remember this day forever” broke Facebook’s rules. In fact, the board went as far as saying the pair of posts “severely” violated the rules in question, making it clear that the risk of real-world harm in Trump’s words was was crystal clear:

The Board found that, in maintaining an unfounded narrative of electoral fraud and persistent calls to action, Mr. Trump created an environment where a serious risk of violence was possible. At the time of Mr. Trump’s posts, there was a clear, immediate risk of harm and his words of support for those involved in the riots legitimized their violent actions. As president, Mr. Trump had a high level of influence. The reach of his posts was large, with 35 million followers on Facebook and 24 million on Instagram.”

While the Oversight Board praised Facebook’s decision to suspend Trump, it disagreed with the way the platform implemented the suspension. The group argued that Facebook’s decision to issue an “indefinite” suspension was an arbitrary punishment that wasn’t really supported by the company’s stated policies:

It is not permissible for Facebook to keep a user off the platform for an undefined period, with no criteria for when or whether the account will be restored.

In applying this penalty, Facebook did not follow a clear, published procedure. ‘Indefinite’ suspensions are not described in the company’s content policies. Facebook’s normal penalties include removing the violating content, imposing a time-bound period of suspension, or permanently disabling the page and account.”

The Oversight Board didn’t mince words on this point, going on to say that by putting a “vague, standardless” punishment in place and then kicking the ultimate decision to the Oversight Board, “Facebook seeks to avoid its responsibilities.” Turning things around, the board asserted that it’s actually Facebook’s responsibility to come up with an appropriate penalty for Trump that fits its set of content moderation rules.

Is this a surprise outcome?

If you’d asked me yesterday, I would have said that the Oversight Board was more likely to overturn Facebook’s Trump decision. I also called Wednesday’s big decision a win-win for Facebook, because whatever the outcome, it wouldn’t ultimately be criticized a second time for either letting Trump back onto the platform or kicking him off for good. So much for that!

Facebook likely saw a more clear-cut decision on the Trump situation in the cards. This is a relatively challenging outcome for a company that’s probably ready to move on from its (many, many) missteps during the Trump era. But there’s definitely an argument that if the board declared that Facebook made the wrong call and reinstated Trump that would have been a much bigger headache.

A lot of us didn’t see the “straight up toss the ball back into Facebook’s court” option as a possible outcome. It’s ironic and a bit surprising that the Oversight Board’s decision to give Facebook the final say actually makes the board look more independent, not less.

But: It’s worth remembering that at the end of the day, Facebook could undermine the whole thing by just refusing to do what the board says. The board only has as much power as Facebook grants it and the company could call off the deal at any second, if it chose to.

What does it mean that the Oversight Board sent the decision back to Facebook?

Ultimately the Oversight Board is asking Facebook to either a) give Trump’s suspension and end date or b) delete his account. In a less severe case, the normal course of action would be for Facebook to remove whatever broke the rules, but given the ramifications here and the fact that Trump is a repeat Facebook rule-breaker, this is obviously all well past that option.

What will Facebook do?

We’re in for a wait. The board called for Facebook to evaluate the Trump situation and reach a final decision within six months, calling for a “proportionate” response that is justified by its platform rules. Since Facebook and other social media companies are re-writing their rules all the time and making big calls on the fly, that gives the company a bit of time to build out policies that align with the actions it plans to take.

In the months following the violence at the U.S. Capitol, Facebook repeatedly defended its Trump call as “necessary and right.” It’s hard to imagine the company deciding that Trump will get reinstated six months from now, but in theory Facebook could decide that length of time was an appropriate punishment and write that into its rules. The fact that Twitter permanently banned Trump means that Facebook could comfortably follow suit at this point.

In direct response to the decision, Facebook’s Nick Clegg wrote only: “We will now consider the board’s decision and determine an action that is clear and proportionate.” Clegg says Trump will stay suspended until then but didn’t offer further hints at what comes next. See you again on November 5.

If Trump had won reelection, this whole thing probably would have gone down very differently. As much as Facebook likes to say its decisions are aligned with lofty ideals — absolute free speech, connecting people — the company is ultimately very attuned to its regulatory and political environment.

Trump’s actions were on January 6 were dangerous and flagrant, but Biden’s looming inauguration two weeks later probably influenced the company’s decision just as much. Circumventing regulatory scrutiny is also arguably the r’aison dêtre for the Oversight Board to begin with.

Did the board actually change anything?

Potentially. In its decision, the Oversight Board said that Facebook asked for “observations or recommendations from the Board about suspensions when the user is a political leader.” The board’s policy recommendations aren’t binding like its decisions are, but since Facebook asked, it’s likely to listen.

If it does, the Oversight Board’s recommendations could reshape how Facebook handles high profile accounts in the future:

The Board stated that it is not always useful to draw a firm distinction between political leaders and other influential users, recognizing that other users with large audiences can also contribute to serious risks of harm.

While the same rules should apply to all users, context matters when assessing the probability and imminence of harm. When posts by influential users pose a high probability of imminent harm, Facebook should act quickly to enforce its rules. Although Facebook explained that it did not apply its ‘newsworthiness’ allowance in this case, the Board called on Facebook to address widespread confusion about how decisions relating to influential users are made. The Board stressed that considerations of newsworthiness should not take priority when urgent action is needed to prevent significant harm.

Facebook and other social networks have hidden behind newsworthiness exemptions for years instead of making difficult policy calls that would upset half their users. Here, the board not only says that political leaders don’t really deserve special consideration while enforcing the rules, but that it’s much more important to take down content that could cause harm than it is to keep it online because it’s newsworthy.

So… we’re back to square one?

Yes and no. Trump’s suspension may still be up in the air, but the Oversight Board is modeled after a legal body and its real power is in setting precedents. The board kicked this case back to Facebook because the company picked a punishment for Trump that wasn’t even on the menu, not because it thought anything about his behavior fell in a gray area.

The Oversight Board clearly believed that Trump’s words of praise for rioters at the Capitol created a high stakes, dangerous threat on the platform. It’s easy to imagine the board reaching the same conclusion on Trump’s infamous “when the looting starts, the shooting starts” statement during the George Floyd protests, even though Facebook did nothing at the time. Still, the board stops short of saying that behavior like Trump’s merits a perma-ban — that much is up to Facebook.

（文：Taylor Hatmaker、翻訳：Dragonfly）