Instagramは中傷DMをキーワードと絵文字でフィルターし犯人の新設アカウントもブロックできるツールを公開

今回は「Instagramは中傷DMをキーワードと絵文字でフィルターし犯人の新設アカウントもブロックできるツールを公開」についてご紹介します。

関連ワード (Facebook、Instagram、SNS、ブロック、誹謗中傷等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Facebook(フェイスブック)とその兄弟アプリは、どうしたらプラットフォーム上での中傷や嫌がらせにうまく対処し根絶できるかという問題に、アルゴリズムと人力の両面で取り組むのが最良の方法と考え、長い間格闘を続けてきた。そんな中で、Instagram(インスタグラム)は米国時間4月20日、独自の新ツールを2つローンチした。

1つ目は、ダイレクトメッセージ(DM)、特にメッセージリクエストによる嫌がらせを、より強力に排除すための新しい手段だ。これには、中傷を示唆する単語、言い回し、絵文字、さらにはフィルターを回避するためにわざと綴りを変えて使われることがある、よくある綴り間違いを含む新しいキーワードのリストが使われる。もう1つは、たとえば新しいアカウントに変えてしつこく接触を試みる相手を、積極的にブロックできる権利がユーザーに与えられる。

このアカウントをブロックできる機能は、2〜3週間で世界中で使えるようになるとInstagramは話している。また、中傷DMのフィルター機能は、2〜3週間以内に英国、フランス、ドイツ、アイルランド、カナダ、オーストラリア、ニュージーランドで使えるようになり、その他の国々でも、2〜3カ月以内に利用可能になると、同社は私に話してくれた。

注意すべきは、これらの機能はInstagramだけのものであり、DM機能のあるFacebookの他の2つの大人気アプリMessenger(メッセンジャー)とWhatsApp(ワッツアップ)には適用されないことだ。広報担当者は、Facebookにはこれらのアプリにも、2021年後半には導入したい考えがあると認めていた(Instagramとその他のアプリは、これらの機能の広範な展開を検討する以前に、すでに定期的なアップデートを個別に実施している)。

Instagramは、この機能は中傷的内容を含むDMをスキャンするものだと話している。スキャンは、Facebookが差別や中傷に反対する団体(団体名は非公開)などの協力のもとに、その方針に従って作られた言葉や絵文字のリストと、ユーザーが自分で追加する可能性のある言葉や絵文字が基準になっている。これは、デフォルトで使えるようにしておくというより、むしろ最初から有効にしておくべきではないのか。

なぜそうしないのか?ユーザー数を確保するためのように思える。プライベートな会話は、当人同士が望むならそのまま続けられるようにするためだ。「私たちは人々のプライバシーを尊重しているため、ユーザーのエクスペリエンスは、ユーザー自身が最も好ましいと思うかたちに保てるようにしています」と広報担当者は話し、それはFacebookのコメントフィルターの仕組みに近いと指摘した。このオプションは、中傷的な表現を管理したい人のために、設定>プライバシー>Hidden Words(隠される言葉)として実装される予定だ。

外の世界では、Sentropy(セントロピー)やHive(ハイブ)をはじめとする数々のサードパーティーのサービスが、コンテンツの内容を審査するツールを作っている。しかしおもしろいのは、大手テック企業までもが、今そうしたツールを自前で作ろうという気になったことだ。この場合もそれに当たると、Facebookは話していた。

このシステムは完全に自動化されている。ただし、通報があったコンテンツは人が審査するとFacebookは言っていた。そのやりとりで生じたデータの保管は行わないが、通報された言葉は、コンテンツのブロックや、その後の削除、そのコンテンツを送った人間のブロックと警告といった処置の判断基準となる言葉のデータベース拡大に利用されることを同社は認めている。

そうした人々に対してFacebookは、強い悪意を持つ人たちは、まずプロフィールがブロックされるや、ときを置かずにいくつものアカウントを作り、その代役にあてているという現実に対処する賢い方法を、ようやく手に入れることとなった。

Facebookの誹謗中傷に対するポリシーでは、嫌がる相手に繰り返し接触を試みることをすでに禁止しているにも関わらず、DMが送られてくるその抜け道を、ずっと腹立たしく思ってきた。Facebookではまた、常習的犯行もすでに禁止している。これについて同社はこう説明する。「私たちの規約に違反してアカウントが停止された場合、私たちが関知し得る限り、その人物が作る新しいアカウントをすべて削除しています」。

同社のDMに関するアプローチは、他のソーシャルメディア企業が作り上げた対策の、ある意味、雛形になっている。

基本的にこれは、デフォルトでは開かれたかたちになっている。1つの受信トレイは実際に承認した相手からのメッセージ用で、もう1つはすべての人からのメッセージ用に設けられている。2つ目のトレイを丸ごと無視する人もいるが、本来のInstagramの仕組みと意味からすれば、話し相手を絞り込むのではなく、もっと増やすことがその目的だとわかる。つまり、DMに2つ目の受信トレイを活用しようという人にとって、それは単に電子メールの迷惑メールボックスの中を探るといった行為よりも有意義なものだ。

だが、もっと大きな問題のモグラ叩きは、これからも続く。より強力な対策を求めるユーザーの対応ばかりではない。規制当局の監視下に置かれた状態が続くFacebookは、嫌がらせの台頭とその適切な対処という極めて重大な問題に直面しているのだ。同社には、他社が解決するよりも早く解決することが求められている。

画像クレジット:NurPhoto / Getty Images


【原文】

Facebook and its family of apps have long grappled with the issue of how to better manage — and eradicate — bullying and other harassment on its platform, turning both to algorithms and humans in its efforts to tackle the problem better. In the latest development, today, Instagram is announcing some new tools of its own.

First, it’s introducing a new way for people to further shield themselves from harassment in their direct messages, specifically in message requests by way of a new set of words, phrases and emojis that might signal abusive content, which will also include common misspellings of those key terms, sometimes used to try to evade the filters. Second, it’s giving users the ability to proactively block people even if they try to contact the user in question over a new account.

The blocking account feature is going live globally in the next few weeks, Instagram said, and it confirmed to me that the feature to filter out abusive DMs will start rolling out in the U.K., France, Germany, Ireland, Canada, Australia and New Zealand in a few weeks’ time before becoming available in more countries over the next few months.

Notably, these features are only being rolled out on Instagram — not Messenger, and not WhatsApp, Facebook’s other two hugely popular apps that enable direct messaging. The spokesperson confirmed that Facebook hopes to bring it to Messenger later this year (no word on WhatsApp). Instagram and others have regularly issued updates on single apps before considering how to roll them out more widely.

Instagram said that the feature to filter DMs for abusive content — not scan, the company was clear to point out — will be based on a list of words and emojis that Facebook compiles with the help of anti-discrimination and anti-bullying organizations (it did not specify which), along with terms and emoji’s that you might add in yourself. And to be clear, it has to be turned on proactively, rather than being made available by default.

Why? More user license, it seems, and to keep conversations private if users want them to be. “We want to respect peoples’ privacy and give people control over their experiences in a way that works best for them,” a spokesperson said, pointing out that this is similar to how its comment filters also work. It will live in Settings>Privacy>Hidden Words for those who want to turn on the control.

There are a number of third-party services out there in the wild now building content moderation tools that sniff out harassment and hate speech — they include the likes of Sentropy and Hive — but what has been interesting is that the larger technology companies up to now have opted to build these tools themselves. That is also the case here, the company confirmed.

The system is completely automated, although Facebook noted that it reviews any content that gets reported. While it doesn’t keep data from those interactions, it confirmed that it will be using reported words to continue building its bigger database of terms that will trigger content getting blocked, and subsequently deleting, blocking and reporting the people who are sending it.

On the subject of those people, it’s been a long time coming that Facebook has started to get smarter on how it handles the fact that the people with really ill intent have wasted no time in building multiple accounts to pick up the slack when their primary profiles get blocked. People have been aggravated by this loophole for as long as DMs have been around, even though Facebook’s harassment policies had already prohibited people from repeatedly contacting someone who doesn’t want to hear from them, and the company had already also prohibited recidivism, which as Facebook describes it, means “if someone’s account is disabled for breaking our rules, we would remove any new accounts they create whenever we become aware of it.”

The company’s approach to direct messages has been something of a template for how other social media companies have built these out.

In essence, they are open-ended by default, with one inbox reserved for actual contacts, but a second one for anyone at all to contact you. While some people just ignore that second box altogether, the nature of how Instagram works and is built is for more, not less, contact with others, and that means people will use those second inboxes for their DMs more than they might, for example, delve into their spam inboxes in email.

The bigger issue continues to be a game of whack-a-mole, however, and one that not just its users are asking for more help to solve. As Facebook continues to find itself under the scrutinizing eye of regulators, harassment — and better management of it — has emerged as a very key area that it will be required to solve before others do the solving for it.

(文:Ingrid Lunden、翻訳:金井哲夫)

誹謗中傷 - Wikipedia

誹謗中傷 (ひぼうちゅうしょう)は、事実ではないことを根拠にした 悪口 を言いふらして、他人を傷つける行為である 。. 基本的に合法である批判や非難と混同されやすいが、批判とは「相手の行動に対する評価か相手の主張への反論」という法的・倫理違反者への言動自体へのこのように直すべきとした建設的な指摘やアドバイスである。. 非難は ...

誹謗中傷(ひぼうちゅうしょう)とは何? Weblio辞書

誹謗中傷とは、根拠のない悪口を言いふらして他人の名誉を損なう行いのことである。Weblio国語辞典では「誹謗中傷」の意味や使い方、用例、類似表現などを解説しています。

誹謗中傷(ひぼうちゅうしょう)の意味・使い方 - 四字熟語一覧 ...

誹謗中傷(ひぼうちゅうしょう)の意味・使い方。[名](スル)根拠のない悪口を言いふらして、他人を傷つけること。

誹謗中傷の意味とは?基準や問題点をわかりやすく解説 ...

近年注目されている「誹謗中傷」。しかし、誹謗中傷はどういう意味なのか、どこからが誹謗中傷になるのか、批判との違いは何なのかなど、わからないことも多い言葉です。そこで、この記事では、誹謗中傷の基礎知識から問題点までわかりやすく説明していきます。

インターネット上の誹謗中傷への対策 - 総務省

概要. SNS等のプラットフォームサービスの普及に伴い、インターネット上で気軽に自由なコミュニケーションを行うことができるようになった一方で、匿名のまま不特定多数に向けて特定個人の誹謗中傷を書き込んだり、特定個人のアカウントに対して一方的に誹謗中傷のメッセージ等を発信したりする事例も発生しており、インターネット上の誹謗中傷が深刻な社会 ...

ネットで誹謗中傷・炎上が続くのはなぜ?心理学的理由と対処 ...

【公認心理師が解説】SNSの普及と共に増える過激な誹謗中傷。ネット上で中傷の書き込みや炎上が起こりやすい背景として、「集団極性化」「没個性化」という2つの心理学的理由が考えられます。大切なのは「メタ認知」の力です。一時の感情や衝動に振り回されず、便利なツールとしてネットを使い続けていくためにぜひ覚えておきましょう。

誹謗中傷とは?:誹謗中傷対策の手引き

最近では「誹謗中傷」ということばセットで使用されることが多いですが、本来「誹謗」と「中傷」は別々の言葉です。 誹謗とは、根拠のない悪口で他人を誹り、名誉を汚し、貶めることをいいます。中傷とは、根拠のな

【2020年度版】実際にあったネット誹謗中傷トラブルの事例を ...

【弁護士監修記事】深刻化しているネットの誹謗中傷問題。本記事では最新の事例を見ながら、実際にどのような誹謗中傷トラブルで損害賠償を請求できたケースがあるのか確認していきます。

ネットでの誹謗中傷 投稿者を特定しやすくする改正法が可決 ...

改正プロバイダー責任制限法が21日、参院本会議で可決、成立した。ネット上で誹謗中傷を受けた被害者の迅速な救済が目的。匿名の投稿者を特定しやすくする内容で、2022年秋ごろまでに施行する

繰り返される誹謗中傷…私たちは「人の死」から学ばなくては ...

燃え殻さんに、周囲の人の死のこと、Twitterで24万以上のフォロワーを持つ立場から見たSNSの誹謗中傷について聞いた。

COMMENTS


21351:
2021-04-23 23:45

No.418 この"BBBでない"は結構重要です BBB=全てのブロックが浮いていない

21361:
2021-04-23 23:08

「別れてLINEもブロックされた」って話聞いてたんだけどなぁ。 彼女おったんやー。 (FF外失)

21359:
2021-04-23 22:44

【定期】ふぁぼ魔だから嫌だったらブロックしてねー

21354:
2021-04-23 21:36

フリーズてょくん👏 やーまんさんはTOTWと共にSブロックの得点王も受賞です!

21356:
2021-04-23 19:44

別にこれサブだし何個でも作れますがなにか?w ブロックしたのに悔しいからまた言ってきた?

21358:
2021-04-23 18:44

ニートの間に久しぶりに明るい髪の毛したくてみかちゃんとこ行ってきた。光の加減がすごいけど1枚目の色が1番リアル。 ほんですぐ伸びるからツーブロックしてさらに襟足も刈ってもらったわ🤣🤣 フルブロックと呼ぼう。 ここから色抜けてくるか…

21355:
2021-04-23 15:12

25日の湘南戦西サイド2階大人1枚チケット余っています。A8ブロック22列目で1番後ろの席となります! 2500円で購入希望の方いましたらよろしくお願いします。お金の受取方はDMで相談できたらと思います。 リツイートしていただけるとあり…

21353:
2021-04-23 12:11

光の欠片の受け取り無しで瞑想見えたら向こうからのブロックだと判断して即ブロかましてます。

21357:
2021-04-23 09:46

反天派や日共サポーターにブロックされることが増えててかなC 内ゲバはやめ郎❓

21360:
2021-04-23 06:25

死ねよ。ブロックするぞ

21350:
2021-04-23 05:09

手作りミートボールです🐻🍓✨ 明日のために作った、 豚バラブロックの味噌煮も 少し食べましたー😂🍀 煮込み系のご飯って、前日作ったほうが 美味しいですよね♪

21352:
2021-04-23 02:17

一度きりの人生 なりたい自分になりましょう✨ 理想の人生を送りましょう✨ 「私には無理、、、」 それは心のブロックが あなたの夢を邪魔しているんです🍀

Recommended

TITLE
CATEGORY
DATE
Ankerのプライムデーセール バッテリーからプロジェクターまで170品以上 2割引〜
くらテク
2021-06-17 07:02
DXで再注目されるチェンジマネジメントの重要性
IT関連
2021-07-14 14:11
バイデン大統領就任でホワイトハウスの公式サイト刷新、アクセシビリティ向上–隠しメッセージも
IT関連
2021-01-21 22:53
IPOを控えたソフトバンク出資のインド発ホテルチェーン「Oyo」にマイクロソフトが出資
IT関連
2021-08-22 21:44
移住者が急増するテキサス州オースティンの住宅問題を解決するスタートアップ「Homebound」
その他
2021-04-16 02:38
「ウマ娘」でゲーム事業の営業利益約500%増 サイバーエージェント4〜6月決算
企業・業界動向
2021-07-30 15:28
EISAの出現とISAバスの確立 PC標準化への道 :”PC”あるいは“Personal Computer”と呼ばれるもの、その変遷を辿る(1/3 ページ)
トップニュース
2021-02-23 07:55
共和薬品工業、基幹業務システムを9カ月で「SAP S/4HANA」に刷新
IT関連
2021-05-13 03:18
数秒のサンプルで動画から「うずくまる」「倒れ込む」動きを検出 NECがAI活用の新技術
ロボット・AI
2021-04-06 16:41
使い捨てマスクで“呼吸”入力、スマートフォン触らず操作 NTT「IBUKI」開発 :Innovative Tech
トップニュース
2021-04-15 23:50
Twitterも真似するClubhouse、新ラウンドで資金調達 クリエイター支援へ
企業・業界動向
2021-01-26 06:33
アニメ音楽の最先端行く“音の仕掛け人” 「攻殻」音楽プロデューサーが語る「エヴァ」庵野秀明監督との縁
IT関連
2021-07-14 04:42
iDeCo(イデコ):来年5月から65歳まで加入可能に–非課税投資を75歳まで続ける選択肢も
IT関連
2021-06-24 08:42
高配当利回り株の選び方・買い方
IT関連
2021-02-02 00:01