ディープフェイクポルノ、GoogleとBingの検索結果上位に頻繁に登場?

GoogleとBingなどの人気検索エンジンが、非合意のディープフェイクポルノを検索結果の上位に表示しやすくなっていることが、NBCニュースの報告で明らかになりました。

これらの問題のあるディープフェイクは、実在の女性、特に有名人の顔をアダルトエンターテイナーの体に合成し、実際に性行為に従事しているかのように見せかけます。

生成AIの進歩により、Google検索を通じて発見可能なディープフェイクポルノの闇市場が急増しています。

検索エンジンの対応

NBCニュースは、セーフサーチをオフにして、36人の女性有名人の名前と「ディープフェイク」、「ディープフェイクポルノ」、「偽ヌード」などの明らかな検索用語を組み合わせることで、この問題を発見しました。

Bingでは35回、Googleでは34回、ディープフェイク動画へのリンクがトップ結果に表示されました。また、Bingは未成年と思われる画像を使用して、元ディズニーチャンネルの女性俳優の「偽ヌード写真」も表示しました。

Googleのスポークスパーソンは、このようなコンテンツが被害者にとってどれほど苦痛かを理解し、「検索により多くの保護をもたらすために積極的に取り組んでいる」と述べています。

Googleは「ウェブ上に存在するコンテンツをインデックス化する」と説明し、検索エンジンとしての役割を強調しています。しかし、Googleは「ディープフェイク」などの用語を使用した検索が一貫して結果を生成する一方で、「予期せぬ有害または露骨なコンテンツによって人々を驚かせないように」ランキングシステムを積極的に設計していると述べています。

法的対応と技術的課題

非合意のディープフェイクポルノをGoogle検索結果から削除する唯一の方法は、被害者が個人または「公認代表者」を通じてフォームを提出することです。

このフォームでは、被害者がディープフェイクで「識別可能に描かれている」こと、「問題の画像が偽物であり、裸または性的な状況で不正確に描かれている」こと、そして画像が被害者の同意なしに配布されたことを証明する必要があります。

この問題は、有名人だけでなく、一般の人々や子供たちにも影響を及ぼしています。昨年6月、子供の安全専門家たちは、オンラインで取引されている数千のリアルだが偽のAI子供性的画像を発見しました。これは、FBIがAI生成ディープフェイクを使用した性的恐喝スキームの増加に警告したのと同じ時期です。

ソース元のURLと名称

著:ニーナ・シック, 編集:ナショナル ジオグラフィック, 翻訳:片山 美佳子
¥1,870 (2024/01/15 21:11時点 | Amazon調べ)

コメント

コメントを残す