AI導入黎明期の光景

はじめに

ネット上では日々新しいAIのニュースが流れ、先週まで最高のAIとされていたものが、翌日にはもう最高とは呼べなくなっていることも少なくありません。私の職場でもAIの利用を推奨はしていないものの、機密情報を打ち込みさえしなければ使ってもよいというお達しが出ました。おそらく裏では活用していたであろう人を中心にAIっぽい文章やAIっぽいコードを見るようになって、みんなAI使ってるなぁと思うようになりました。
ただ、一方でAIの使い方それで大丈夫なの？と疑問を感じることも増えてきました。

起こっている事例

すべての文章はAIによって清書してもらうべき

これは以前の記事でも取り上げた話題です。あるメンバとリーダーはメールに送る文面、顧客に送るチャットの文面、資料に記載する文言、おそよ面に出る文章は全てAIに清書させようとしています。
それだけならまだよいのですが、他人がメールを送ろうとしたときや、ちょっとしたチャットのメッセージを送ろうとした時にも、それAIに清書してもらってないよね？ちゃんと清書してもらわないと！と言い出すようになりました。結構本気で言っているようで、後ろで私がちゃんと清書してもらっているの確認をとっています。「よし、それで送っていいよ」と言います。

調べ物を完全にAIに任せる

わからないことはとりあえずまずはAIに相談してみる。これは調べるヒントをもらえたりするので悪い選択肢ではありません。メンバもリーダーもまずはAIに質問して…とここまではよいのです。問題はここからで、調査結果としてAIが言っていたことをそのまま回答してくるのです。あるいはAIが言っていることが正しいという前提で後続の調査を行ってしまい。いつまでも調査が終了しないという事態に陥っています。

自分のコードを説明できない

ここ最近、AIを活用しながらコードを書いているメンバーのコードを見る機会がありました。しかし、目についただけでも以下のような状態になっていました。
・変数名と実際に格納されている情報と違う
・コールバック関数を呼ぶためのコールバック関数が書いてある
・明らかに実行時にエラーメッセージが図れるであろう処理が書いてある
・大量の警告が出ているが修正されずに残っている
・コメントが書かれているがコメントの文章がなぜか英語

そのシステムの担当者はコーディング能力が低いため、変数名と実際に格納されている情報が異なるくらいはよくあることだったので怪しいですがまぁ、無視しましょう。
警告もまぁ、100歩譲ってよいことにしましょう。
でも明らかに実行時エラーが出力されているコード、コールバック関数を呼ぶために定義されたコールバック関数は意味が分かりません。なんでこんなコード書いたのか尋ねたところ、AIに書いてもらった－度を張り付けて動いたからそのままにしたとの事でした。じゃあ、何をしているのか説明できると聞くと説明できないようでした。

自分の考えを正当性を示すためにAIを使う

今のChatGPTは質問者に対して過剰にヨイショしてくることで有名です。そのため、AIに自分の意見を聞かせてよいと言ってもらったからと言ってもあまり信用が置けないことで知られています。ChatGPTのアルトマンCEOもこの点について悪影響が強いので改善することを約束するほどです。そのことを知らないのか、AIと対話して否定されなかった。それなのにお前は否定するのか？AIが正しいといったからなんだというんだ？根拠を説明してくれればまだわかるが、AIが言ったというのだけではそれならあなたの主張は正しいということにはならない。

コミュニケーションをAIに代理させようとする

私もコミュニケーションが苦手でこういう会話になったときなって言ったらわからないという時は多々あります。そういう時にどのように伝えたらよいかをAIに訊ねてみてヒントをもらうことは私もやります。でも、私が実際に何を言うかは私が決めます。
中にはそうではない人がいるようです。AIにどんな話をするべきか、相手にこう言われた。なんて答えたらいいと思う？と聞いて、その内容をそのまま喋る。
これは健全なコミュニケーションが取れている状況なのでしょうか？

AIのことを信頼しすぎている

思うにこれまでプライベートでAIを使ってこなかったため、AIの得意なこと・不得手なことが分かっておらず、どんな質問やタスクにも正確に遂行してくれるエージェント、あるいは助手という認識でAIを使っているのだと思いました。
調べ物をAIに任せている事例や、AIが出力したコードをなんかうまくいっているから説明できないし警告も出てるけど納品しちゃえと言うのはAIを信頼しすぎていることの特徴的なエピソードなように思います。
自分の考えの根拠にAIを使うのはAIへの信頼感というより、権威付けのための利用ですが。

さいごに

これからのホワイトカラーの仕事ではAIは遅かれ早かれ活用せざるを得ない状況がやってくると思います。私の会社の人たちはまだAIがどういうものなのかよく理解できていないが故の初歩的な誤りを犯している気がします。しかし、まだまだ使ったばかりだと思うのでどんどん使って、使い方を学んでいくことが大切だと思いました。
基本的にはAIは業務支援ツールであくまで自分の仕事に責任を持つのは自分なのだということを自覚すればおのずと、AIの回答を正しいのか検証しようという姿勢が密についていくのではないかと思っています。

ケン

ヨワモンのパートナー

ヨワモンのパートナー