トピック検索
ちゃんぽん鍋
生成ＡＩ、児童ポルノ画像を学習か…専門家「被害者の人権侵害恐れ」
2024/03/21 05:00 読売新聞
画像生成ＡＩ（人工知能）の精度を上げるための学習に使われる膨大な画像データの中に、国立国会図書館が「違法な児童ポルノの恐れがある」として閲覧を禁じた写真集の一部が含まれていることがわかった。データの中にはほかにも児童の裸の画像が複数あった。ネットから収集する過程で紛れ込んだとみられる。学習する際、違法画像を取り除くフィルター機能があるが、排除しきれていないという。
画像生成ＡＩは、文章を入力すると、イラストや写真のような画像を作り出す。最も人気が高い画像生成ＡＩの一つ「ステーブル・ディフュージョン（ＳＤ）」が学習に使うデータセット（データ群）はネット上で公開されていた。
読売新聞が昨年１２月、内容を調べた結果、１９９３年に出版された裸の少女を写した写真集の画像データが見つかった。
出版当時は規制する法律がなかったが、１８歳未満の性的画像の公開などを禁じた児童買春・児童ポルノ禁止法が施行された９９年以降、こうした写真集の公開は違法になった。国会図書館は２００６年、この写真集を「児童ポルノに該当する恐れがある」として閲覧を禁止していた。データセットの中にはほかにも児童の裸の画像データが複数あった。
ＳＤを開発した英新興企業「スタビリティーＡＩ」によると、データセットは、ドイツの非営利団体のもので、約５８億点に及ぶ画像データをネットから機械的に収集している。写真集の画像などは収集過程で紛れ込んだとみられる。
つづく
古トピの為、これ以上コメントできません
1件～9件 ( 全9件)
＊コメント欄のパトロールでYahoo!ニュースのAIを使用しています
ママスタコミュニティはみんなで利用する共有の掲示板型コミュニティです。みんなが気持ちよく利用できる場にするためにご利用前には利用ルール・禁止事項をご確認いただき、投稿時には以下内容をもう一度ご確認ください。
上記すべてをご確認いただいた上で投稿してください。
No.9 関連トピック
24/03/29 10:14:53
日本の園児の画像、海外ポルノサイトへの転載多数 少なくとも135園 画像調査で判明
https://mamastar.jp/bbs/topic/4414991
返信
No.8 五徳
24/03/26 15:55:08
ロリコンが大喜びしそうな使い道
返信
No.7 ふなばし鍋
24/03/22 21:54:40
そもそも、著作権者がネットに公開している画像は二次使用を許可していないケースが殆どだろうに。
何勝手に（無償で）収集して生成に使ってんの？
って思うんだけど。
返信
No.6 ばくだんうどん鍋
24/03/22 08:25:10
AI自体は技術の発展って意味で良いと思うけど、使う人間の知性や理性が追いついてない感じがするよね
AIも良い迷惑だわ
人間もアップデートしなきゃ、AIに人間＝害悪判定受けるSF映画が何百年後かに本当に起こりそう
返信
No.5 火鍋
24/03/22 08:22:44
AIが作った画像なら児ポ法違反にならないって事になったら、ロリコンは好みの実在の子供の写真を学習させて児童ポルノで製造し放題やん
返信
No.4 南米から来た鍋
24/03/21 22:35:31
前に、実在の児童をモデルにしてエロCGを制作した人が児童ポルノ禁止法違反で逮捕されたニュースがあったと思う
それを踏まえたら、これもアウトだと思う
返信
No.3 しゃぶしゃぶ鍋
24/03/21 17:54:50
出力結果が生成といえない学習元そのものになる可能性もあるもんね
そしたら学習もと本人の人権侵害する恐れがある
返信
No.2 主 ちゃんぽん鍋
24/03/21 10:59:00
リアルな生成ＡＩ性的画像が氾濫、実在の被害児童と区別困難…削除要請や捜査にも支障
2023/12/02 07:13
https://www.yomiuri.co.jp/national/20231201-OYT1T50210/
返信
No.1 主 ちゃんぽん鍋
24/03/21 10:58:13
データセットには、利用する際に違法画像を排除するフィルター機能があり、スタ社もこの機能を使っているとしている。しかし、スタ社の提携企業は今年２月、フィルター機能で排除できない児童の性的画像が見つかったと明らかにした。
このデータセットを巡っては、米スタンフォード大の研究チームが昨年１２月、児童の性的画像の疑いがあるデータが３２２６点見つかったと公表。「生成する画像に影響を与えている可能性がある」と指摘した。
スタ社に違法画像を排除しきれていない可能性を尋ねたが、回答がなかった。
岸本充生・大阪大社会技術共創研究センター長（リスク学）の話 「生成ＡＩは、膨大なデータを無差別学習することで精度を上げている。現在の技術では、違法画像を完全に排除することは難しいだろう。学習データに児童ポルノが含まれていれば、被害者の人権を侵害していることになりかねない。ＡＩ開発企業は対策を講じるとともに、どのようなデータを学習しているのかを説明する社会的責任がある」
◇
画像生成ＡＩに関するご意見や情報を大阪社会部にお寄せください。
メール… osaka2@yomiuri.com
ＬＩＮＥ… https://lin.ee/FROjZBRd
読売新聞オンライン
https://www.yomiuri.co.jp/national/20240321-OYT1T50036/
返信