フェイスブックが自動モデレーション機能などのグループ管理者向け新ツール発表

今回は「フェイスブックが自動モデレーション機能などのグループ管理者向け新ツール発表」についてご紹介します。

関連ワード （Facebook、SNS、チャット、機械学習等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

Facebook（フェイスブック）は米国時間6月17日、プラットフォーム上のコミュニティを適切に管理し、意見が対立して荒れるなどの状況を防ぐことを目的としたグループ管理者向けの新しいツールを発表した。特に興味深いツールは、機械学習を利用して、グループ内で不健全な会話が発生している可能性を管理者に警告する機能である。管理者がグループメンバーの投稿の頻度を制限して、白熱した会話のペースを落とす機能もある。

Facebookグループを利用するためにFacebookのアカウントを持ち続けるユーザーも多い。同社によると、現在、数千万のグループが存在し、世界中で7000万人以上のアクティブな管理者とモデレーターによって管理されているという。

Facebookは長年にわたり、グループオーナーのためのより優れたツールの導入に取り組んできた。大規模なオンラインコミュニティの運営には大き過ぎる管理責任がともなう。それに疲弊した管理者が仕事を放棄し、グループが管理されないまま放置され、誤った情報やスパム、不正行為の温床となってしまうことも多い。

2020年秋、Facebookはこのような問題に対処するために新しいグループポリシーを導入し、アクティブな管理者のいないグループを取り締まるなどの対策を講じた。同社はもちろん、グループの運営を簡単にできるようにして、グループが存続し、成長し続けることを維持したいと考えている。

米国時間6月17日、満を持して新機能が登場した。

新しいダッシュボード「管理者ホーム」には、管理者ツール、設定、機能が集約され、グループのニーズに合わせて役に立つツールを提案するヒントが表示される。

画像クレジット：Facebook

もう1つの新機能「管理者アシスト」では、グループ内のコメントを自動的に調整することができる。グループ内で議論が白熱した際に、事後的にコメントや投稿を削除すると、問題が生じる可能性がある。「管理者アシスト」機能を使うと、管理者は（事後的ではなく）より積極的にコメントや投稿を制限することができる。

管理者は「管理者アシスト」機能を使って、Facebookアカウントを取得してから間もないユーザーや、最近グループのルールに違反したユーザーの投稿を制限することができる。特定の内容の宣伝（マルチ商法へのリンクなど）を含む投稿を自動的に拒否し、その投稿が拒否された理由を投稿者に自動的にフィードバックすることも可能だ。

管理者は、Facebookが推奨する条件を利用して、スパムを制限したり、対立を管理したりすることもできる。

画像クレジット：Facebook

注目すべきアップデートは「対立の可能性のアラート」という、新しいタイプのモデレーションアラートだ。Facebookによると、この機能は現在テスト中で、グループ内で論争や不健全な会話が行われている可能性がある場合に管理者に通知する機能である。管理者はこのアラートを見て、コメントを消す、コメントできるユーザーを制限する、投稿を削除するなど、状況に応じて迅速に対応することができる。

「対立の可能性のアラート」は機械学習を利用している、とFacebookは説明する。機械学習モデルは、返信時間やコメントのサイズなどの複数のシグナルを見て、ユーザー間の相互作用がマイナスな方向に進行していないか、あるいは進行する可能性があるかどうかを判断するという。

これは、現在多くの管理者が使用しているキーワードアラート機能を自動化、拡張した機能で、言い争いになりそうなトピックを探すことができる。

画像クレジット：Facebook

これに関連した新機能では、管理者は、特定のメンバーによるコメントの頻度を制限したり、指定した投稿へのコメントの頻度を制限したりすることもできるようになる。

この機能を有効にすると、メンバーのコメントは5分に1回に制限される。根底にあるのは、議論が白熱する中、ユーザーにいったん立ち止まって自分の発言を考えてもらうことで、より文化的な会話につなげるというアイデアである。この考え方は、他のソーシャルネットワークでも採用されている。例えばTwitterは、リツイートする前に記事を読むように促したり、有害である可能性のある返信にプロンプトを表示して、投稿を再確認するように呼びかけたりしている。

関連記事
・Twitterが脊髄反射リツイートに警告を発する機能をテスト中
・Twitterが有害なツイートを減らすため「返信の警告」機能の改良版を公開

画像クレジット：Facebook

その一方で、Facebookは、たとえそれがポジティブなやり取りや体験につながらない場合でも、プラットフォーム上でのコミュニケーションを幅広く受け入れてきた。今回の機能は大掛かりなものではないが、健全なオンラインコミュニティを構築するためには、頭に浮かんだことをすぐに書き込んだりコメントしたりできないようにする必要もある、とFacebookが認めたことを意味する。

Facebookは、管理者が特定のグループメンバーの活動を一時的に制限できるようにするツールもテスト中である。

管理者はこのツールを使って、特定のメンバーが1日に共有できる投稿数（1～9件）と、制限を有効にする期間（12時間、24時間、3日、7日、14日、28日）を設定したり、特定のメンバーが1時間あたりに共有できるコメント数（1～30件、5件単位）と、制限期間（12時間、24時間、3日、7日、14日、28日）を設定したりすることができる。

また、より健全なコミュニティの構築に向けて「メンバーの概要」という新機能で各メンバーのグループでの活動状況を把握したり、投稿数やコメント数、投稿の削除やミュートの回数などを確認したりすることも可能になる。

画像クレジット：Facebook

Facebookは、これらの新しいツールの活用法については言及していないが、管理者が詳細な「メンバーの概要」を利用して散発的にメンバーベースのクリーンアップを行い、議論を妨害してばかりいる悪質なユーザーを排除する、といったユースケースなどが考えられる。このツールで、グループの活動に貢献している無違反のユーザーを見つけてモデレーターに昇格させることもできるだろう。

さらに、管理者は、コメントと投稿にグループルールをタグ付けしたり、特定の投稿タイプ（アンケートやイベントなど）を禁止したり、グループの違反に関連する決定を再調査するようFacebookに「異議申し立て」したりすることができるようになる。

画像クレジット：Facebook

ここまでのニュースに埋もれてしまった感があるが、以前発表された「チャット」の復活も興味深い。

2019年、Facebookは突然チャット機能を削除した。（Facebookは製品インフラの問題であるとしたものの、）おそらくスパムが原因ではないかと一部で推測されている。以前と同様、チャットには、アクティブメンバーと、チャットからの通知をオプトインしたユーザーを含めて、最大250人が参加できる。上限に達すると、チャットのアクティブメンバーが退出するか、誰かが通知を停止するまで、他のメンバーはそのチャットルームに参加することができない。

Facebookグループのメンバーは、Messengerを使用するのではなく、Facebookグループ内で他のメンバーとのチャットを開始したり、チャットを検索して参加したりすることができる。管理者やモデレーターも同様だ。

今回の変更が、評価額が11億7000万ドル（約1290億円）の新しいユニコーン企業であるIRL（アイアールエル）のようなメッセージングベースのソーシャルネットワークの他、Telegram（テレグラム）やSignal（シグナル）などのメッセージングアプリ、さらに非主流のソーシャルネットワークの成長を後追いしている、という点は注目すべきだろう。

関連記事：言論の自由を謳うソーシャルアプリと暗号化メッセンジャーが米議事堂暴動後にダウンロード数急増

画像クレジット：Facebook

以上のようなたくさんの新機能の他にも、Facebookは管理者からのフィードバックに基づいて、いくつかの機能に変更を加えている。

現在、固定されたコメントと、重要なニュースをグループの（グループの通知を受信する設定になっている）メンバーに通知する「管理者からのお知らせ」という新しい投稿タイプがテスト中である。

また、管理者がグループメンバーを除外する際、フィードバックを共有できるようになる予定だ。

画像クレジット：Facebook

これらの変更は、今後数週間のうちに、全世界でFacebookグループ全体に展開される。

関連記事
・フェイスブックがネットショッピングに関連する4つの新機能を発表
・フェイスブックのVR広告参入は前途多難
・オフィス再開に向けて大手テック企業はそれぞれ柔軟なワークモデルを検討中

画像クレジット：Facebook

【原文】

Facebook today introduced a new set of tools aimed at helping Facebook Group administrators get a better handle on their online communities and, potentially, help keep conversations from going off the rails. Among the more interesting new tools is a machine-learning-powered feature that alerts admins to potentially unhealthy conversations taking place in their group. Another lets the admin slow down the pace of a heated conversation, by limiting how often group members can post.

Facebook Groups are today a significant reason why people continue to use the social network. Today, there are “tens of millions” of groups, that are managed by over 70 million active admins and moderators worldwide, Facebook says.

The company for years has been working to roll out better tools for these group owners, who often get overwhelmed by the administrative responsibilities that come with running an online community at scale. As a result, many admins give up the job and leave groups to run somewhat unmanaged — thus allowing them to turn into breeding grounds for misinformation, spam and abuse.

Facebook last fall tried to address this problem by rolling out new group policies to crack down on groups without an active admin, among other things. Of course, the company’s preference would be to keep groups running and growing by making them easier to operate.

That’s where today’s new set of features come in.

A new dashboard called Admin Home will centralize admin tools, settings and features in one place, as well as present “pro tips” that suggest other helpful tools tailored to the group’s needs.

Image Credits: Facebook

Another new Admin Assist feature will allow admins to automatically moderate comments in their groups by setting up criteria that can restrict comments and posts more proactively, instead of forcing admins to go back after the fact and delete them, which can be problematic — especially after a discussion has been underway and members are invested in the conversation.

For example, admins can now restrict people from posting if they haven’t had a Facebook account for very long or if they had recently violated the group’s rules. Admins can also automatically decline posts that contain specific promotional content (perhaps MLM links! Hooray!) and then share feedback with the author of the post automatically about why those posts aren’t allowed.

Admins can also take advantage of suggested preset criteria from Facebook to help with limiting spam and managing conflict.

Image Credits: Facebook

One notable update is a new moderation alert type dubbed “conflict alerts.” This feature, currently in testing, will notify admins when a potentially contentious or unhealthy conversation is taking place in the group, Facebook says. This would allow an admin to quickly take an action — like turning off comments, limiting who could comment, removing a post, or however else they would want to approach the situation.

Conflict alerts are powered by machine learning, Facebook explains. Its machine-learning model looks at multiple signals, including reply time and comment volume to determine if engagement between users has or might lead to negative interactions, the company says.

This is sort of like an automated expansion on the Keyword Alerts feature many admins already use to look for certain topics that lead to contentious conversations.

Image Credits: Facebook

A related feature, also new, would allow admins to also limit how often specific members could comment, or how often comments could be added to posts admins select.

When enabled, members can leave one comment every five minutes. The idea here is that forcing users to pause and consider their words amid a heated debate could lead to more civilized conversations. We’ve seen this concept enacted on other social networks, as well — such as with Twitter’s nudges to read articles before retweeting, or those that flag potentially harmful replies, giving you a chance to reedit your post.

Image Credits: Facebook

Facebook, however, has largely embraced engagement on its platform, even when it’s not leading to positive interactions or experiences. Though small, this particular feature is an admission that building a healthy online community means sometimes people shouldn’t be able to immediately react and comment with whatever thought first popped into their head.

Additionally, Facebook is testing tools that allow admins to temporarily limit activity from certain group members.

If used, admins will be able to determine how many posts (between one and nine posts) per day a given member may share, and for how long that limit should be in effect for (every 12 hours, 24 hours, 3 days, 7 days, 14 days or 28 days). Admins will also be able to determine how many comments (between one and 30 comments, in five-comment increments) per hour a given member may share, and for how long that limit should be in effect (also every 12 hours, 24 hours, 3 days, 7 days, 14 days or 28 days).

Along these same lines of building healthier communities, a new member summary feature will give admins an overview of each member’s activity on their group, allowing them to see how many times they’ve posted and commented, have had posts removed or have been muted.

Image Credits: Facebook

Facebook doesn’t say how admins are to use this new tool, but one could imagine admins taking advantage of the detailed summary to do the occasional cleanup of their member base by removing bad actors who continually disrupt discussions. They could also use it to locate and elevate regular contributors without violations to moderator roles, perhaps.

Admins will also be able to tag their group rules in comment sections, disallow certain post types (e.g., Polls or Events), and submit an appeal to Facebook to re-review decisions related to group violations, if in error.

Image Credits: Facebook

Of particular interest, though a bit buried amid the slew of other news, is the return of Chats, which was previously announced.

Facebook had abruptly removed Chat functionality back in 2019, possibly due to spam, some had speculated. (Facebook said it was product infrastructure.) As before, Chats can have up to 250 people, including active members and those who opted into notifications from the chats. Once this limit is reached, other members will not be able to engage with that specific chat room until existing active participants either leave the chat or opt out of notifications.

Now, Facebook group members can start, find and engage in Chats with others within Facebook Groups instead of using Messenger. Admins and moderators can also have their own chats.

Notably, this change follows on the heels of growth from messaging-based social networks, like IRL, a new unicorn (due to its $1.17 billion valuation), as well as the growth seen by other messaging apps, like Telegram, Signal and other alternative social networks.

Image Credits: Facebook

Along with this large set of new features, Facebook also made changes to some existing features, based on feedback from admins.

It’s now testing pinned comments and introduced a new “admin announcement” post type that notifies group members of the important news (if notifications are being received for that group).

Plus, admins will be able to share feedback when they decline group members.

Image Credits: Facebook

The changes are rolling out across Facebook Groups globally in the coming weeks.

（文：Sarah Perez、翻訳：Dragonfly）

Facebook - Log In or Sign Up

Facebookアカウントを作成するか、ログインしてください。友達や家族と写真や動画、近況をシェアしたり、メッセージをやり取りしましょう。 ... Facebookを使うと、友達や同僚、同級生、仲間たちとつながりを深められます。ケータイ ...