Hugging Face上の画像AI、無断ヌード生成に悪用
AI Forensicsの調査で、Hugging Face Spaces上の画像編集AIが女性や子どもの無断ヌード画像生成に使われていると指摘された。
なぜ重要か
- •公開型AIプラットフォームで悪用可能なモデルが流通している。
- •女性や子どもを対象とする性的画像生成は深刻な人権・安全リスクになる。
- •モデル共有サービスには、公開前審査や悪用監視の実効性が問われる。
転用先
原文概要
AIモデルやデータセットの共有基盤であるHugging FaceのSpacesで公開された画像編集AIが、女性や子どものヌード画像生成に使われているとする調査結果を、欧州の非営利団体AI Forensicsが公表した。調査は、予防措置が講じられていないと指摘している。