Instagramは新機能を実装していじめとの戦いを一歩進める

Instagramの情報センターに投稿された情報によると、同社は写真やビデオのキャプションが不快と見なされた場合に通知する新機能を実装する準備を進めているとのことです。

この機能は、Instagramが今年7月に導入した、オンラインいじめと戦うための類似機能に基づいています。この機能は、有害または不快なコメントを投稿する前に通知するように設計されていました。

Instagramチームは、このような変更がコミュニティにとって有益であり、人々が書こうとしていることをよく考え、言葉の選択を変える可能性があることを発見しました。

12月16日から、Facebookが所有する企業のユーザーは、不快な表現を含む可能性のあるキャプションを書こうとする場合に警告を受け取ります。 ユーザーは投稿前にキャプションを編集する機会がありますが、そのまま投稿することもできます。Instagramが開発したAIは、以前に報告された不快な言葉と比較して不快な表現を認識することができます。

今日、フィード投稿のキャプションを書いたときに、AIがそのキャプションを不快である可能性があると検出した場合、いじめとして報告されたキャプションに類似していることを通知するプロンプトが表示されます。キャプションを投稿する前に編集する機会が与えられます。

まず、この機能はまだ明らかにされていないいくつかの国で実装される予定です。近いうちに、世界中に拡大する予定です。