Instagramは中傷DMをキーワードと絵文字でフィルターし犯人の新設アカウントもブロックできるツールを公開

今回は「Instagramは中傷DMをキーワードと絵文字でフィルターし犯人の新設アカウントもブロックできるツールを公開」についてご紹介します。

関連ワード （Facebook、Instagram、SNS、ブロック、誹謗中傷等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

Facebook（フェイスブック）とその兄弟アプリは、どうしたらプラットフォーム上での中傷や嫌がらせにうまく対処し根絶できるかという問題に、アルゴリズムと人力の両面で取り組むのが最良の方法と考え、長い間格闘を続けてきた。そんな中で、Instagram（インスタグラム）は米国時間4月20日、独自の新ツールを2つローンチした。

1つ目は、ダイレクトメッセージ（DM）、特にメッセージリクエストによる嫌がらせを、より強力に排除すための新しい手段だ。これには、中傷を示唆する単語、言い回し、絵文字、さらにはフィルターを回避するためにわざと綴りを変えて使われることがある、よくある綴り間違いを含む新しいキーワードのリストが使われる。もう1つは、たとえば新しいアカウントに変えてしつこく接触を試みる相手を、積極的にブロックできる権利がユーザーに与えられる。

このアカウントをブロックできる機能は、2〜3週間で世界中で使えるようになるとInstagramは話している。また、中傷DMのフィルター機能は、2〜3週間以内に英国、フランス、ドイツ、アイルランド、カナダ、オーストラリア、ニュージーランドで使えるようになり、その他の国々でも、2〜3カ月以内に利用可能になると、同社は私に話してくれた。

注意すべきは、これらの機能はInstagramだけのものであり、DM機能のあるFacebookの他の2つの大人気アプリMessenger（メッセンジャー）とWhatsApp（ワッツアップ）には適用されないことだ。広報担当者は、Facebookにはこれらのアプリにも、2021年後半には導入したい考えがあると認めていた（Instagramとその他のアプリは、これらの機能の広範な展開を検討する以前に、すでに定期的なアップデートを個別に実施している）。

Instagramは、この機能は中傷的内容を含むDMをスキャンするものだと話している。スキャンは、Facebookが差別や中傷に反対する団体（団体名は非公開）などの協力のもとに、その方針に従って作られた言葉や絵文字のリストと、ユーザーが自分で追加する可能性のある言葉や絵文字が基準になっている。これは、デフォルトで使えるようにしておくというより、むしろ最初から有効にしておくべきではないのか。

なぜそうしないのか？ユーザー数を確保するためのように思える。プライベートな会話は、当人同士が望むならそのまま続けられるようにするためだ。「私たちは人々のプライバシーを尊重しているため、ユーザーのエクスペリエンスは、ユーザー自身が最も好ましいと思うかたちに保てるようにしています」と広報担当者は話し、それはFacebookのコメントフィルターの仕組みに近いと指摘した。このオプションは、中傷的な表現を管理したい人のために、設定＞プライバシー＞Hidden Words（隠される言葉）として実装される予定だ。

外の世界では、Sentropy（セントロピー）やHive（ハイブ）をはじめとする数々のサードパーティーのサービスが、コンテンツの内容を審査するツールを作っている。しかしおもしろいのは、大手テック企業までもが、今そうしたツールを自前で作ろうという気になったことだ。この場合もそれに当たると、Facebookは話していた。

このシステムは完全に自動化されている。ただし、通報があったコンテンツは人が審査するとFacebookは言っていた。そのやりとりで生じたデータの保管は行わないが、通報された言葉は、コンテンツのブロックや、その後の削除、そのコンテンツを送った人間のブロックと警告といった処置の判断基準となる言葉のデータベース拡大に利用されることを同社は認めている。

そうした人々に対してFacebookは、強い悪意を持つ人たちは、まずプロフィールがブロックされるや、ときを置かずにいくつものアカウントを作り、その代役にあてているという現実に対処する賢い方法を、ようやく手に入れることとなった。

Facebookの誹謗中傷に対するポリシーでは、嫌がる相手に繰り返し接触を試みることをすでに禁止しているにも関わらず、DMが送られてくるその抜け道を、ずっと腹立たしく思ってきた。Facebookではまた、常習的犯行もすでに禁止している。これについて同社はこう説明する。「私たちの規約に違反してアカウントが停止された場合、私たちが関知し得る限り、その人物が作る新しいアカウントをすべて削除しています」。

同社のDMに関するアプローチは、他のソーシャルメディア企業が作り上げた対策の、ある意味、雛形になっている。

基本的にこれは、デフォルトでは開かれたかたちになっている。1つの受信トレイは実際に承認した相手からのメッセージ用で、もう1つはすべての人からのメッセージ用に設けられている。2つ目のトレイを丸ごと無視する人もいるが、本来のInstagramの仕組みと意味からすれば、話し相手を絞り込むのではなく、もっと増やすことがその目的だとわかる。つまり、DMに2つ目の受信トレイを活用しようという人にとって、それは単に電子メールの迷惑メールボックスの中を探るといった行為よりも有意義なものだ。

だが、もっと大きな問題のモグラ叩きは、これからも続く。より強力な対策を求めるユーザーの対応ばかりではない。規制当局の監視下に置かれた状態が続くFacebookは、嫌がらせの台頭とその適切な対処という極めて重大な問題に直面しているのだ。同社には、他社が解決するよりも早く解決することが求められている。

画像クレジット：NurPhoto / Getty Images

【原文】

Facebook and its family of apps have long grappled with the issue of how to better manage — and eradicate — bullying and other harassment on its platform, turning both to algorithms and humans in its efforts to tackle the problem better. In the latest development, today, Instagram is announcing some new tools of its own.

First, it’s introducing a new way for people to further shield themselves from harassment in their direct messages, specifically in message requests by way of a new set of words, phrases and emojis that might signal abusive content, which will also include common misspellings of those key terms, sometimes used to try to evade the filters. Second, it’s giving users the ability to proactively block people even if they try to contact the user in question over a new account.

The blocking account feature is going live globally in the next few weeks, Instagram said, and it confirmed to me that the feature to filter out abusive DMs will start rolling out in the U.K., France, Germany, Ireland, Canada, Australia and New Zealand in a few weeks’ time before becoming available in more countries over the next few months.

Notably, these features are only being rolled out on Instagram — not Messenger, and not WhatsApp, Facebook’s other two hugely popular apps that enable direct messaging. The spokesperson confirmed that Facebook hopes to bring it to Messenger later this year (no word on WhatsApp). Instagram and others have regularly issued updates on single apps before considering how to roll them out more widely.

Instagram said that the feature to filter DMs for abusive content — not scan, the company was clear to point out — will be based on a list of words and emojis that Facebook compiles with the help of anti-discrimination and anti-bullying organizations (it did not specify which), along with terms and emoji’s that you might add in yourself. And to be clear, it has to be turned on proactively, rather than being made available by default.

Why? More user license, it seems, and to keep conversations private if users want them to be. “We want to respect peoples’ privacy and give people control over their experiences in a way that works best for them,” a spokesperson said, pointing out that this is similar to how its comment filters also work. It will live in Settings>Privacy>Hidden Words for those who want to turn on the control.

There are a number of third-party services out there in the wild now building content moderation tools that sniff out harassment and hate speech — they include the likes of Sentropy and Hive — but what has been interesting is that the larger technology companies up to now have opted to build these tools themselves. That is also the case here, the company confirmed.

The system is completely automated, although Facebook noted that it reviews any content that gets reported. While it doesn’t keep data from those interactions, it confirmed that it will be using reported words to continue building its bigger database of terms that will trigger content getting blocked, and subsequently deleting, blocking and reporting the people who are sending it.

On the subject of those people, it’s been a long time coming that Facebook has started to get smarter on how it handles the fact that the people with really ill intent have wasted no time in building multiple accounts to pick up the slack when their primary profiles get blocked. People have been aggravated by this loophole for as long as DMs have been around, even though Facebook’s harassment policies had already prohibited people from repeatedly contacting someone who doesn’t want to hear from them, and the company had already also prohibited recidivism, which as Facebook describes it, means “if someone’s account is disabled for breaking our rules, we would remove any new accounts they create whenever we become aware of it.”

The company’s approach to direct messages has been something of a template for how other social media companies have built these out.

In essence, they are open-ended by default, with one inbox reserved for actual contacts, but a second one for anyone at all to contact you. While some people just ignore that second box altogether, the nature of how Instagram works and is built is for more, not less, contact with others, and that means people will use those second inboxes for their DMs more than they might, for example, delve into their spam inboxes in email.

The bigger issue continues to be a game of whack-a-mole, however, and one that not just its users are asking for more help to solve. As Facebook continues to find itself under the scrutinizing eye of regulators, harassment — and better management of it — has emerged as a very key area that it will be required to solve before others do the solving for it.

（文：Ingrid Lunden、翻訳：金井哲夫）

誹謗中傷 - Wikipedia

誹謗中傷 （ひぼうちゅうしょう）は、事実ではないことを根拠にした 悪口 を言いふらして、他人を傷つける行為である 。. 基本的に合法である批判や非難と混同されやすいが、批判とは「相手の行動に対する評価か相手の主張への反論」という法的・倫理違反者への言動自体へのこのように直すべきとした建設的な指摘やアドバイスである。. 非難は ...

誹謗中傷(ひぼうちゅうしょう)とは何？ Weblio辞書

誹謗中傷とは、根拠のない悪口を言いふらして他人の名誉を損なう行いのことである。Weblio国語辞典では「誹謗中傷」の意味や使い方、用例、類似表現などを解説しています。

誹謗中傷(ひぼうちゅうしょう)の意味・使い方 - 四字熟語一覧 ...

誹謗中傷(ひぼうちゅうしょう)の意味・使い方。［名］(スル)根拠のない悪口を言いふらして、他人を傷つけること。

誹謗中傷の意味とは？基準や問題点をわかりやすく解説 ...

近年注目されている「誹謗中傷」。しかし、誹謗中傷はどういう意味なのか、どこからが誹謗中傷になるのか、批判との違いは何なのかなど、わからないことも多い言葉です。そこで、この記事では、誹謗中傷の基礎知識から問題点までわかりやすく説明していきます。

インターネット上の誹謗中傷への対策 - 総務省

概要. SNS等のプラットフォームサービスの普及に伴い、インターネット上で気軽に自由なコミュニケーションを行うことができるようになった一方で、匿名のまま不特定多数に向けて特定個人の誹謗中傷を書き込んだり、特定個人のアカウントに対して一方的に誹謗中傷のメッセージ等を発信したりする事例も発生しており、インターネット上の誹謗中傷が深刻な社会 ...

ネットで誹謗中傷・炎上が続くのはなぜ？心理学的理由と対処 ...

【公認心理師が解説】SNSの普及と共に増える過激な誹謗中傷。ネット上で中傷の書き込みや炎上が起こりやすい背景として、「集団極性化」「没個性化」という2つの心理学的理由が考えられます。大切なのは「メタ認知」の力です。一時の感情や衝動に振り回されず、便利なツールとしてネットを使い続けていくためにぜひ覚えておきましょう。

誹謗中傷とは？:誹謗中傷対策の手引き

最近では「誹謗中傷」ということばセットで使用されることが多いですが、本来「誹謗」と「中傷」は別々の言葉です。 誹謗とは、根拠のない悪口で他人を誹り、名誉を汚し、貶めることをいいます。中傷とは、根拠のな

【2020年度版】実際にあったネット誹謗中傷トラブルの事例を ...

【弁護士監修記事】深刻化しているネットの誹謗中傷問題。本記事では最新の事例を見ながら、実際にどのような誹謗中傷トラブルで損害賠償を請求できたケースがあるのか確認していきます。

ネットでの誹謗中傷 投稿者を特定しやすくする改正法が可決 ...

改正プロバイダー責任制限法が21日、参院本会議で可決、成立した。ネット上で誹謗中傷を受けた被害者の迅速な救済が目的。匿名の投稿者を特定しやすくする内容で、2022年秋ごろまでに施行する

繰り返される誹謗中傷…私たちは「人の死」から学ばなくては ...

燃え殻さんに、周囲の人の死のこと、Twitterで24万以上のフォロワーを持つ立場から見たSNSの誹謗中傷について聞いた。