Facebookがディープフェイクコンテンツを禁止

今年のアメリカ大統領選挙を控えて、Facebookは偽情報の拡散を防ぐためにディープフェイク動画やその他の操作されたコンテンツを禁止すると発表しました。

ディープフェイク動画は、人工知能や**「ディープラーニング」**（機械学習手法の一部）を使用して修正されたコンピューター生成のもので、本物のように見えるように設計されています。

月曜日のブログ投稿で、Facebookはディープフェイクやその他の操作されたメディアをソーシャルメディアプラットフォームから削除する予定であると述べました。

会社は声明で、次の場合にはディープフェイクコンテンツがサイトから削除されると言いました：
• 平均的な人には明らかではなく、人を誤解させる可能性が高い方法で、明瞭さや品質の調整を超えて編集または合成された場合。
• 人工知能または機械学習の産物であり、コンテンツを動画に統合、置き換え、または重ね合わせて本物であるかのように見せかける場合。

このポリシーは、風刺やパロディコンテンツおよび特定の単語を省略したり順序を変更したりするように編集された動画を対象としていません。

Facebookコミュニティスタンダードに違反する動画は削除されますが、たとえ違反していなくても、第三者のチェッカーによって内容が虚偽かどうかが審査されます。もし虚偽と判断された場合には、注意書きが付けられ、ニュースフィードでの配信が減少します。

モニカ・ビッカート、Facebookグローバルポリシーマネジメント副社長はブログ投稿で書いている：「私たちは世界中で、技術、政策、メディア、法務、市民、学術の分野からの50以上のグローバル専門家と協議し、ポリシーの開発を進め、操作されたメディアを検出する科学を向上させてきました。」

新しいポリシーは、昨年の夏に下院議長ナンシー・ペロシの動画がバイラルになった際に続けて発表されました。その動画は彼女がろれつが回らず酔っているように見せるために編集され、何百万人もの人々がその動画を見ました。しかし、新しいFacebookポリシーは、この動画のようにAIを使用していない動画は許可されるという点で論争を呼んでいます。