チャットAIで何ができるかを知ろう | チャットAIの基礎

このレッスンでは、チャットAIが何を得意とし、何を苦手とするかを、動く仕組みから理解します。チャットAIとは、文章で頼むと文章で返す生成AIサービスのことで、ChatGPT・Claude・Geminiがその例です。

なぜ仕組みから入るか。得意と不得意の境目が、仕組みで決まっているからです。 境目を知らずに使うと、下書きは速くなる一方で、事実の照会を任せて間違った数値を資料に載せる、という形で失敗します。

チャットAIは、文章の続きを確率で作る

チャットAIの中身は言語モデルと呼ばれる仕組みで、次に来る言葉を確率で選んで文章を作ります。 言語モデルは、大量の文章から「この言葉の後にはこの言葉が続きやすい」という傾向を学んだものです。

例えるなら、大量の文章を読み込んだ予測変換です。スマートフォンの予測変換は次の1語を出しますが、言語モデルは次の言葉を選ぶ作業を何百語も続けて、文章として成立する形にします。

この仕組みから、1つの性質が導かれます。 出てくる文章は「もっともらしい」ことが保証されますが、「正しい」ことは保証されません。もっともらしさと正しさは別の物差しで、言語モデルが見ているのは前者だけです。

この性質を、上司に1分で説明できる言葉にしておきましょう。「大量の文章から次の言葉を当てる仕組みで、それらしい文章は作れるが、事実の保証はしない」で足ります。

チャットAIに向くのは「文章の形を変える仕事」、向かないのは「事実を保証する仕事」です。 前者は仕組みそのものが得意とする仕事で、後者は仕組みが扱えない仕事です。

向かない仕事を頼むと、答えが返ってこないのではなく、それらしい答えが返ってきます。 ここが厄介な点です。「分かりません」と言われれば別の手を打てますが、流暢な誤答は気付きにくく、そのまま資料に載ります。

向かない仕事は、チャットAIに「聞く」のではなく、原本を渡して「形を変えてもらう」形に直すと使えます。取引先の住所を聞くのではなく、取引先一覧を渡して宛名の形に整えてもらう、という使い方です。

自部門の業務を1つ思い浮かべ、「形を変える仕事」か「事実を保証する仕事」かを分けてみましょう。

チャットAIが学んだ文章には区切りの日付があり、その後の出来事は答えられないか、古いまま答えます。 この区切りを、公式ヘルプでは「知識の期限」（knowledge cutoff）と呼びます。

言語モデルは、ある時点までに集めた文章で作られます。その後の出来事は学んでいないので、聞かれると「知らない」と答えるか、学んだ範囲から推測して古い答えを返すかのどちらかです。

期限が何月かは、モデルごとに違い、更新もされます。 本文に日付を書いても数か月で古くなるので、使っているサービスの公式ヘルプで確認してください。

「これはいつ時点の話か」を、チャットAIに聞く前に自分で1度考える習慣を付けましょう。期限の後の話なら、次の節の検索つきの機能を使うか、原本を渡します。

検索つきの機能を使うと、チャットAIはWebを検索し、その結果を元に答えを作ります。 ChatGPT・Claude・Geminiのいずれにも、Web検索を使って答える機能があります。知識の期限の後の出来事も、検索で拾える範囲なら答えることが可能です。

	検索なし	検索つき
答えの材料	学習した文章だけ	学習した文章＋検索で見つけた Web ページ
最新の出来事	答えられないか古い	検索で拾えれば答えられる

このモジュール全体で、やってはいけないことは2つです。 1つは、答えが流暢だからという理由で事実として扱うこと。もう1つは、社内の機微な情報を確かめずに入力することです。

やってはいけないこと	代わりにすること	扱うレッスン
流暢な答えを事実として資料に載せる	数値と固有名詞を一次情報で照合してから載せる	03
顧客名・個人名・未公開の数値を入力する	入力前に3分類し、機微なら書き換える	02

どちらも、仕組みを知っていれば防げる失敗です。 前者は「正しさを保証しない仕組み」から、後者は「入力が事業者のサーバーへ送られる仕組み」から出てきます。

この2つを、部内で最初に共有する2行にしておきましょう。