生成AIに機械図面を見せて壁打ちしたら、どうも話がかみ合わない。
よくみると、AIが「右」と「左」を取り違えていた。
もし車の自動運転だったら、インターチェンジで逆方向へ行っちゃうよ。

右と左を間違えるのは、（原理的にいうと）対称性のためというよりも、AIが「空間的因果」を理解できないかららしい。

「右」と「左」は、AIにとって「似た場面で出てくる同じカテゴリーの言葉」として扱われる。
こうなると、右と左の違いなんてお構いなしに、ごっちゃに使う可能性があるという。

AIの内部処理を気持ちで表現するとしたら、
「右か、左か、これって似てるんでしょ。どっちでもいいんじゃないの」という感じなのだろう。

そう考えると、
意味はわからず、人の言葉だけ再現する“しゃべる鳥”のようにも思えてきます。

わかりやすいように、ハルシネーションの仕組みを、ちょっと極端に説明しました。
頻繁に起こることではないでしょう。
１回、そういうことがありましたという体験談です。

AIの名誉のために付言すると、そのあと、
「右と左が逆ですよ。」と指摘したら、「右と左を、間違っていました。」と返してきました。
現状として、右と左の概念がないわけではありません。
生成AIいわく「しゃべる鳥よりは複雑です」とのこと。

上りと下り、閉じると開く、買いと売り、敵と味方も、ごっちゃにされたら困りますよ！
注意しましょうね＾＾/