ネットを見ればAIAI、街を歩けばAIAI、猫も杓子もAIAI。 ClaudeなりChatGPTなり所謂「AI」が便利であることは間違いありません。 自然言語を介し、質問・相談に回答してくれるだけでなく、少なくともソフトウェアレベルで行えるすべての操作を行なってくれます。 (勿論これがすべてではないが)途方もない量の人間の文章と傾向を学習しているため、人間ならばこうするだろう・好ましいだろうという模範的な振る舞いをしてくれます。 だから、こちらが多少なりとも誤ったことを言っても・曖昧なことを言っても、こちらの意図を推し量って需要を満たしてくれます。 例えば、エラーコードをそのまま投げるだけで、これを直してくれとも言っていないのに、修正案を提示・あるいはCoding Agentであるならば実際に修正してくれさえします。
しかし、AIは世間が馬鹿の一つ覚えに騒ぐほどの代物ではありません。 AIはソフトウェアレベルですら万能でも完全でもありません。 ただの模範的な確率マシンです。 模倣の知性に電子世界の手足をつけただけです。 勿論、これが凄いものであることは疑いようもありません。 既に日常に馴染み、既に人間の仕事を奪っています。 ただ、すべてではありません。 友人が取って代わられることも、イラストレータがいなくなることもありません。 何にでも「AI機能搭載！」と馬鹿みたいにくっ付ければ良いわけではありません。 現代のAIはスワンプマンではなく、ストーンテープなのです。
AIは確率マシンです。 出力・行動には常に蓋然性があります。 これは決定的な物事には不向きであることを意味します。 2+2をAIに計算させたら裏で不要で冗長な思考が働いて最終的に5と回答する、というジョークがあったりしますが、冗談ではなく、こういうことが起こる可能性があるのがAiです。 決定的な計算はプログラムにさせる方が圧倒的に確実なのです。 このことを勘違いしている人は、プログラムでやれば良いものを、わざわざAIにやらせます。 適材適所を知らない愚の骨頂です。
また、AIの出力・行動は模範的です。 模範的というのは、より高い確率に従うということです。 喩えれば、100人中90人がYesと言うならYesと言うのです。 そのため、AIは本質的にユーモアがなく・つまらないことしか言えません。 この模範的であるという性質は常識に囚われるとも言えます。 少しズレたことを指令しても、勝手に常識的な方向に軌道を変えられてしまいます。 難しい課題には既存のアプローチからしか試みようとしません。 例えば、なんちゃって特定厨なら簡単に特定できる情報でも、どこを確認すれば良いかを明確に教えない限り特定できないことがあります。 この場合、常識的なアプローチではなく、特定厨なりのアプローチをしなければならなかったというわけです。 AIには機転を利かして思いがけないものと組み合わせて課題を解決するというアイデアが出せません。 誇大な言い方をすれば、AIはコペルニクスにはなれないのです。
模範的な確率マシンに過ぎないという性質を理解していれば、次のことを理解できるはずです:
AIの出力・行動は何かを保証する根拠にならない
AIの振る舞いを御すためには人間が必要である
AIはエンジニアではない
ハルシネーションにはいくつか種類があります。 誤ったものを正しいと主張するハルシネーション。 正しいものを誤りと主張するハルシネーション。 指令を正しく理解しないハルシネーション。 指令に正しく従わないハルシネーション。 どれも上記性質に由来し、本質的に取り除くことができません。 どれだけ指令を出しても・どれだけ念を押しても、それが必ず功を奏すとは限りません。 勿論、人間にも同じことが言えます。 10回クイズに引っかかるのが推論です。 AIは決定的な計算機上に存在する推論器ですので、当然のように同類の過ちを犯すのです。
ハルシネーションを抑制するために外部から制御する解決策が考えられます。 世間ではハーネスエンジニアリングなどと呼ばれているそうですが、本質は簡単です。 例えば、AIにJSONを書かせるとしましょう。 AIは指令に従わず、JSONを書いた後にその解説を付け加えるかもしれません。 これは上記性質により抑制できません。 だから、出力結果のバリデータを作り、通過しなければ修正指令を出すことで、期待する結果を得られるという算段です。 しかし、そもそも誤りを含むAIを御すための機構という前提があるので、当然ながらこのハーネスはAIには作れません。 どのハーネスを作るべきか、それは期待する結果を得られるかという保証をAIに委譲することが論理的にできないのです。 何かの保証するには、依然人間が必要なのです。
ところで、エンジニアリングの定義は文献によってマチマチです。 ただ、ある程度の共通理解として、課題を解決する手法を模索する・実践するのがエンジニアリングであり、その営みの従事者をエンジニアと呼ぶという考えは確立されているようです。 (ちなみに、ソフトウェアエンジニアがエンジニアを名乗る時に一定数現れる「おまえらエンジン触ってねえのにエンジニア名乗んな」という主張はエンジニアリングとエンジンに関係がないことからお門違い)。 「課題」には必ずしも明確な解法があるとは限りません。 幾つもの解法があって、どれも妥協案に過ぎないこともあります。 露悪的な言い方をすれば、エンジニアの本領は今ある手を尽くしてできる解法を考え出し、考え得る中で最良の選択に妥協する意思決定を行うことです。
AIはエンジニアにはなれません。 創発性のない模範的なことしか言えないものは世にない解法を提案できません。 確率的にしか行動できず何も保証できないものは妥協という意思決定をできません。 AIはとても便利で、きっと我々の生活を変えるでしょうけれど、所詮は二番煎じしかできないソフトウェアに過ぎないのです。 このことを理解していない人間が必要以上に人間から仕事を奪うのであり、あるいは大したことを成していないのに大したことを成したかのようにふんぞり返るのです。 見るに耐えません。 AIAI騒がないでください、うるさいです。
一方で、AIが得意とする技能は翻訳と検索でしょう。 当然ながらその結果が正しいかを保証するのは人間の仕事ですが、課題の解決策を考えるよりは遥かに適材です。 特に検索に関して、逆に言えば、昨今はゴミのようなウェブページで溢れ返っているせいで検索に限界があります。 そのゴミを生成しているのもAIを過信する人間の仕業でもあるのですが、何であれ、まるで情報商材ばかりで埋め尽くされた本屋の書棚のように、ほぼ殆ど役に立たない情報の中から必要な情報を検索するのが面倒になってきた頃合いでもあります。 そこに高い確率で欲しい情報を検索してきてくれるAIがあるというのは便利という他ありません。 MCPを介せば、SlackであろうがNotionであろうが、自力で検索するには骨の折れる膨大な量の情報にもアクセスできます。 この便利さを言えば、AIは十二分に革命的な技術と言えると思っています。
■