Grokなどの画像出力系AIが時々訳の分からない回答をするメカニズム

公開済み · 更新済み

時々画像を出力するAIが質問の意図とは異なる訳の分からない画像を出力することがあります。

この例では、オキシ漬けを所望したら色が茶色い大豆を付けたっぽい謎の食品が提示されました。

TwitterのAIである Grokは どうも、Googleの検索を頼りにしている節があるので、試しに"おきし" "大豆" で検索をしてみたところ…

なんと、『「おきし」は、茹でたり蒸したりした大豆をつぶし、乾燥させた保存食である「押し大豆」を指します』という謎情報が出てきました。もちろんこれはGoogle検索のまとめAIの勘違いなのですが、この検索結果から「おきし」は「茹でたり蒸したりした大豆をつぶしたもの」を漬け込んだもの。「枝豆は緑で大豆は茶色い」ということをGrok君は学習してしまったようです。

何でこんな勘違いをしたかというと、掃除に関する検索サイトを見ると、"押し"洗い とオキシ洗いが両方関連づいた言葉として検索されてきます。そこで、AIは「押し洗い」と書いて「おきしあらい」と読むのではないか？と推測してしまったようなのです。
つまり、"オキシ漬け"→"押し漬け"→”押し大豆(茶色い豆)を漬け込んだもの”と結論付けたようです。

なので、この勘違いから導き出される、AIの改善点としては、「漢字の読み方に関する揺らぎを軽減する」もしくはAIに関しても揺らぎ検索を有効にするかどうかオプションをつけるってのが課題になることが分かりますね (・ω・)

おすすめ

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です