LLMがあれば、技術者は要らなくなるのか？

生成AIの進化を見て、「もう専門の技術者は要らなくなるのでは」という声を聞くことが増えました。たしかにコードや提案書は、AIがそれらしく出力してくれます。ですが、ここには一つ、抜け落ちやすい論点があります。その前に、言葉を少し整理しておきます。

生成AIとLLMの違い

「生成AI」は、文章・画像・音声・コードなど、新しいコンテンツを生み出すAIの総称です。その中でも、言葉を扱うことに特化したものが「LLM（大規模言語モデル）」です。文章の生成や要約、対話を得意とするChatGPTのようなサービスは、生成AIの一種であり、その中核にLLMがあります。

つまり、生成AIという大きな枠のなかに、言語を担うLLMが含まれる、という関係です。この記事では、文章や提案を生み出すLLMを念頭に話を進めます。

その出力の責任は、誰が負うのか

文章を生み出すLLMには、弱点があります。事実に基づかない内容をもっともらしく作る「ハルシネーション」、相手の期待に迎合して耳障りの良い答えを返す「シコファンシー（へつらい）」、同じ意見ばかりが増幅される「エコーチェンバー」といったものです。

たとえばAIが「この施策は御社の課題を完全に解決します」と、聞こえの良い提案を出してきたとします。ところが、その根拠が架空のデータだったり、他社の権利を侵害する手法だったりしたら、どうなるでしょうか。そのまま実行して炎上や訴訟が起きたとき、賠償責任や社会的信用を失うのは、AIでも開発者でもなく、実行した企業です。

だから、判断する人が要る

AIは強力な道具ですが、その出力を鵜呑みにせず、目的に照らして正しいかを見極め、責任を持って採否を決める役割は、人にしか担えません。技術とプロジェクトの文脈を理解し、判断する人がいて初めて、AIは安全に力を発揮します。道具が賢くなるほど、最後に判断し、責任を引き受ける人の価値は、むしろ上がっていきます。