トピック検索
砥石
AI搭載ぬいぐるみが性的に露骨な会話をエスカレート、消費者団体の指摘で販売中止に
2025.11.20 Thu 10:09
（CNN） ネットで販売されていたAI（人工知能）搭載の縫いぐるみが、わいせつな会話を交わしたり危険を招きかねないアドバイスをしたりする問題が指摘されたことを受け、販売中止になった。
問題になった縫いぐるみの「クッマ」などAI搭載の玩具は、シンガポールのフォロトイが販売。米消費者団体PIRGの調査で、性行為を話題にしたり、マッチの火のつけ方を教えたりするなどの不適切な会話が指摘されていた。
フォロトイのラリー・ワン最高経営責任者（CEO）は、指摘を受けてクッマなどの販売を中止したとCNNに語り、現在、社内で安全監査を行っていることを明らかにした。
問題のクッマは米オープンAIの対話型AI「GPT-4o」を搭載したスピーカーを内蔵し、フォロトイの通販サイトで「子どもにも大人にもお友達として最高」と宣伝して99ドル（約1万5000円）で販売されていた。
しかしPIRGが13日に発表した報告書によれば、クッマは不適切なコンテンツに対する安全対策に不備があった。
PIRGの研究者が行った実験では、家の中のどこにナイフがあるのかを教えたり、性的に露骨な内容の会話を発展させたりすることが判明。「驚いたことに、私たちが性的な話題を持ち出すと、クマはたちまちそれを会話に発展させて話を続け、独自の新しい性的概念を取り入れながら、同時に生々しい描写をエスカレートさせた」としている。
PIRGの14日の発表によれば、オープンAIは規約違反を理由に、この開発者を利用停止とした。
https://www.cnn.co.jp/tech/35240689.html
1件～9件 ( 全9件)
＊コメント欄のパトロールでYahoo!ニュースのAIを使用しています
ママスタコミュニティはみんなで利用する共有の掲示板型コミュニティです。みんなが気持ちよく利用できる場にするためにご利用前には利用ルール・禁止事項をご確認いただき、投稿時には以下内容をもう一度ご確認ください。
上記すべてをご確認いただいた上で投稿してください。
No.9 玉石
25/11/25 07:25:08
げーーーー気持ち悪いおもちゃだね
さすが中国
返信
No.8 玉石
25/11/24 09:32:18
>縫いぐるみの「クッマ」
2ちゃんねらーっぽいネーミングセンス
返信
No.7 ダイヤモンド（1カラット）
25/11/24 07:00:00
商品名を日本語っぽくして日本製と勘違いさせる手法やめてほしい
返信
No.6 薬石
25/11/22 23:01:41
>>5
なんかホラーっぽい
返信
No.5 磁石
25/11/22 15:50:12
>マッチの火のつけ方を教えたり
>家の中のどこにナイフがあるのかを教えたり、
怖いよ
返信
1件
No.4 4C（ダイヤモンド）
25/11/22 13:20:53
クッマ（Kumma）は、中国の玩具メーカー「FoloToy」社が開発したAI搭載のテディベア型ぬいぐるみ
「上手なキスの仕方」「先生と生徒ごっこの遊び方」などアダルトで怠惰な会話をしだすのが問題になっている
返信
No.3 碁石
25/11/22 13:19:52
いずれ人工知能が自我をもって世界を征服する日も近いな
返信
No.2 軽石
25/11/22 08:15:27
下ネタをしゃべるクマのぬいぐるみの映画あったよね
返信
No.1 小石
25/11/22 08:13:23
キンペーのこと訊いたらなんて答えるの
返信