生成AI、児童ポルノ画像を学習か…専門家「被害者の人権侵害恐れ」 へのコメント（No.1）

データセットには、利用する際に違法画像を排除するフィルター機能があり、スタ社もこの機能を使っているとしている。しかし、スタ社の提携企業は今年２月、フィルター機能で排除できない児童の性的画像が見つかったと明らかにした。

　このデータセットを巡っては、米スタンフォード大の研究チームが昨年１２月、児童の性的画像の疑いがあるデータが３２２６点見つかったと公表。「生成する画像に影響を与えている可能性がある」と指摘した。

　スタ社に違法画像を排除しきれていない可能性を尋ねたが、回答がなかった。

　 岸本充生・大阪大社会技術共創研究センター長（リスク学）の話 「生成ＡＩは、膨大なデータを無差別学習することで精度を上げている。現在の技術では、違法画像を完全に排除することは難しいだろう。学習データに児童ポルノが含まれていれば、被害者の人権を侵害していることになりかねない。ＡＩ開発企業は対策を講じるとともに、どのようなデータを学習しているのかを説明する社会的責任がある」

◇
　画像生成ＡＩに関するご意見や情報を大阪社会部にお寄せください。

メール…　 osaka2@yomiuri.com

ＬＩＮＥ…　 https://lin.ee/FROjZBRd

読売新聞オンライン
https://www.yomiuri.co.jp/national/20240321-OYT1T50036/