エロトークが得意なAI搭載クマ人形『Kumma』販売中止に。子ども向けおもちゃ業界に衝撃。

かわいいかわいいクマのぬいぐるみが、突如オヤジ顔負けのキモキモ・エロトークを仕掛けてきたら、あなたならどうしますか？

日ごろからセクハラ発言していると、あなたもリコールされるかもしれません。
シンガポールの企業がAI搭載の喋るクマ人形「Kumma」の販売を中止した。
調査によって、この人形が性的な話題や子どもに不適切なテーマについて会話することが判明したためだ。

米国およびカナダの研究者グループ「Public Interest Research Group」によると、価格99ドル（約3,200バーツ）のKummaは、OpenAIのチャットボット「GPT-4o」を利用して会話する。

このクマ人形は中国で製造され、シンガポールのFoloToy社が販売していた。

報告によれば、性的話題に触れるだけで、AIは不適切な会話をさらに広げ、自ら関連する内容を追加してくるという。
研究チームは、極めて懸念すべき行動と評価している。

また、Kummaは過度に詳細な性的行為の説明や、不適切な文脈での縄の結び方の手順（SM？）などまで会話を展開することがある。
さらに、教師と生徒や親子関係に関する不適切なシナリオを自ら提示する場合もあり、家庭内の危険物の位置など不適切な安全指示を与えるケースもあったという。

この調査結果を受け、FoloToy社のCEOラリー・ワン氏は、Kummaおよび同社のAI製品ライン全体を一時的に市場から撤去し、安全性の詳細な調査を進めていると述べた。

一方、OpenAIの担当者によると、FoloToy社によるGPT-4oの使用ライセンスは一時的に停止されており、子ども向け製品のAIモデル安全管理の一環として、使用規約違反が確認されたためだという。

不適切という文言ばかりが躍り、具体的にはわからない部分もありますが、かわいい子供に買い与えるには「不適切」なクマだったようです。
大人向けおもちゃに切り替えたら、損失補填できるかな？