AIの誤使用はやめていただきたい

最近はAIの発展が著しく、誰もが気軽に使えるようになってきましたが、使い方によっては人に迷惑をかけるだけでなく、無駄な仕事を生んでしまうことに気が付きました。

ソースは何？

Google等で検索しても、トップにAI Overviewと言ったら形でAI生成の結果が表示されます。

ほうれん草と小松菜の鉄分はどっちが多いの？みたいな普遍的で且つ漠然とした回答を得るにはとても便利で重宝します。

しかし、AルータではVPNに対応してるの？みたいな質問に対してAIが対応していると答えて、お客さんに伝えて購入してみたら、実は対応してなかったと言う場合はどうでしょう。

AIがそう言ってたからと責任逃れできるでしょうか。できません。もう一度AIに聞くと違う回答が来る可能性もあります。

このような大事な局面では必ずソース（情報元、根拠）が必要になります。裏付け、裏どりが必要です。AI回答はソースを見つける手間を少し省いてくれるだけで、AI回答はソースになり得ないのです。

前述のソースの話に少し通ずるとこはありますが、AI生成は、良くも悪くも、足りてない情報を補おうとしたり、予測で生成したりします。

緑のきゅうりが野菜で、緑のキャベツが野菜で、青リンゴが野菜が果物か知りたいけど、青リンゴの情報がない、でも青は緑に近いし、画像を見るとほぼ緑だし、だから緑のリンゴは野菜だ、と言った具合に、かなり雑な例えですが、補おうとします。

AIは足りない情報については不確かな補填を行うため、リアルタイムで変わりゆく政治や経済、テクノロジーに関しては弱いと思っています。

ファイアウォールのバージョンと対応している機能なんて調べると、嘘ばっかり書いてあります。AIを責める気はありませんが、使い方がとても大事です。

悪魔の証明とは「ないことを証明せよ」と言う類のものです。宇宙人が存在しないことを証明するのは不可能です。いることの証明は、いると言う証拠が見つかれば証明できますが、逆は無理です。

これと少し似ていて、「AIの再生結果が間違っていることを証明せよ」なんて問いは、不可能とまではいかないかも知れませんが、とても難しく、かなりの労力を使います。

なんでそんなことするのかと思われるかも知れませんが、時々AI信者がいるのです。

とある営業マンが、エンジニアである私に問い合わせをしてきました。「〜製品ではVPN機能があるってAIが言ってるんですけど、確認いただけますか？」と言った具合です。

その製品はVPN機能は備わっておらず、他の類似製品の方には備わってました。それを伝えると「AIが違うってことですか？ないってどこに書いてありますか？」と言った具合に聞いてきます。その営業マンもお客さんに説明する必要があるのでしょうが、メーカーはわざわざないものをないと記載しません。

お米にわざわざ「このお米はアルコールは含まれていません。着色料は使ってません。」なんて書くのでしょうか。お米にアルコールは意味が分かりませんし、着色料使ってないなんてお米にはなんのアピールにもなりません。

こう言った具合に、AIの回答の正当性を調べる仕事ほど馬鹿馬鹿しいものはないと思います。

結局は使い方次第です。他の営業マンは、AI回答をとりあえず一次回答としてお客さんに伝えてました。

後にエンジニアが調べると全く事実と異なり、事実を伝えるとお客さんは「最初はこうだって言ってたじゃないか！」と怒りはじめました。そりゃそうだと言う感じです。

AI回答をそのまま外部に知らせてはいけません。せめて、使いたいなら、エンジニアにエスカレする時に補足情報として付け加えるとか、そう言った使い方をすべきです。

怒ったお客さんの責任は誰が取りますか？AIですか？無理です。営業マンがとります。しかし、会社としての信用も落ちるわけです。

AIは依存する対象ではなく、人間の同僚のように、足りない部分を補い合いながら付き合っていくことが大切です。