机（コンテキスト）──
何が載り、何が落ちるのか

5.1頭脳が判断に使えるのは、机の上にあるものだけ

第2章で見たように、頭脳（言語モデル）は、渡された文章を読み、その続きとしてふさわしい言葉を組み立てる仕組みです。ここで大事なのは「渡された文章」という部分です。頭脳が一度に読める情報のまとまりを、業界ではコンテキストと呼びます。この教材では、これを机と言い換えています。

机の前に座って仕事をする人を想像してください。その人は、机の上に広げた書類だけを見て判断します。引き出しや書庫にどれほど大事な資料があっても、机の上に出さない限り、判断の材料にはなりません。頭脳もまったく同じです。机に載っていないものは、頭脳にとって存在しないのと同じです。

そして、人間の仕事ぶりと決定的に違う点がひとつあります。頭脳は、一手ごとに、机の上を最初から全部読み直しているのです。

人間なら、10分前に読んだ書類の内容は、なんとなく頭に残っています。しかし頭脳は、前の一手で考えたことを自分の中にためておく場所を持っていません。第3章で追ったループの1周ごとに、机の上にある指示、依頼、これまでのやりとり、道具の結果をすべて受け取り直し、そのうえで次の一手を決めます。前の周の「考え」が残っているように見えるのは、その考えが文章として机の上に書き残されているからです。

たとえるなら、一手ごとに担当者が入れ替わる職場です。新しい担当者は前任者と話すことができず、机の上に残された書類だけを頼りに続きを引き受けます。書類に書かれていないことは、前任者がどれほどよく分かっていたことでも、引き継がれません。エージェントの「記憶」とは、この机の上の書類のことなのです。

この「毎回全部読み直す」という性質から、3つのことが言えます。

• 机から消えたことは、どれほど大事でも判断に使われない。最初に伝えた条件でも、机から落ちれば、頭脳にとっては「言われていない」のと同じです。
• 机に載っているものは、関係がなくても判断に影響しうる。頭脳は机の上の全体を読んで続きを組み立てるため、紛れ込んだ資料にも引っぱられます。
• 机の上の量や並び方が、判断の質を左右する。同じ情報でも、埋もれて置かれているか、目に入る形で置かれているかで、使われ方が変わります。

以下の節では、この3つを順に見ていきます。

5.2机に載っているもの

エージェントの机には、大きく分けて6種類の情報が載っています。佐藤さんの調査の例で、それぞれ「誰が置くのか」「いつ載るのか」を整理してみましょう。

この表から、2つのことが見えてきます。

1つめは、机の上には、利用者が自分で置いていないものがたくさんあるということです。運用者の指示は利用者からは見えないことが多く、道具の結果や読んだ資料はエージェントが自分で持ち込みます。佐藤さんが机の上で直接コントロールできるのは、実は「依頼」の部分だけです。エージェントの振る舞いが思いどおりにならないとき、原因が佐藤さんの依頼文ではなく、机の別の場所にあることは珍しくありません。

2つめは、作業が進むほど、机の上は「道具の結果」と「やりとり」で埋まっていくということです。佐藤さんの調査なら、5社それぞれについて検索し、公式発表を読み、ニュース記事を読みます。そのたびに、読んだ文章がまるごと机に積み上がります。一方、佐藤さんの依頼は最初の数行だけです。作業の後半になると、机の上に占める依頼の割合は、ごくわずかになっています。

5.3机には広さの上限がある

机には、一度に載せられる量の上限があります。上限の大きさは仕組みによって違い、技術の進歩とともに広がってもきました。しかし、どれほど広くなっても上限があること自体は変わりません。そして、長い仕事を任せるほど、いつかは上限に近づきます。

上限に近づいたとき、仕組みが取れる手は大きく2つです。

• 古いものから捨てる：机の古いほうから順に、情報を取り除いて場所を空けます。
• 要約して詰める：これまでのやりとりや資料を短くまとめ直して、机の上を圧縮します。

どちらを選んでも、何かが机から落ちます。古いものから捨てれば、最初の依頼が真っ先に消えるおそれがあります。要約して詰めれば、全体の流れは残りますが、細部や、最初に伝えた細かい条件が落ちやすくなります。要約は「大事そうなことを短く残す」作業ですが、何を大事と見なすかは、要約する側の判断に任されるからです。

佐藤さんの例で、これが実際にどう起きるかを作業記録で追ってみましょう。佐藤さんは最初に「比較表は5列で（社名・サービス名・開始時期・価格帯・特徴）」と指定していました。作業は順調に進み、3社目までの調べものが終わったところで、机が上限に近づきます。

佐藤さんから見ると、エージェントは「指示を無視した」ように見えます。しかし机の上で起きていたことを見ると、事情は違います。8列にすると判断した時点で、机の上にはもう「5列で」という指示がなかったのです。エージェントは、机に載っている情報に対してはむしろ忠実に、「上司が読み比べやすい表」を作ろうとしていました。

この例が示しているのは、長い作業ほど、最初に伝えたことが危うくなるという構造です。最初の依頼は、作業が進むほど机の古いほうへ追いやられ、捨てたり要約したりするときに真っ先に対象になります。しかも、細かい条件ほど「要約では省いてよい細部」と見なされやすいのです。人間でも、長い会議の議事録を1段落にまとめると、冒頭で決めた細かい約束が抜け落ちることがあります。それと同じことが、机の上で自動的に起きています。

もうひとつ厄介なのは、机が上限に近づいたことや、要約で何が落ちたかが、利用者からは見えにくいことです。作業記録に「要約しました」と出る仕組みもあれば、何も知らせずに処理する仕組みもあります。利用者が気づけるのは、たいてい成果物を受け取ってからです。途中から最初の条件と食い違う動きをしている、すでに調べたことをもう一度調べ直している、といった様子が見えたら、机から何かが落ちたサインかもしれません。

5.4広くても「埋もれる」

それなら、机がもっと広くなれば問題は解決するのでしょうか。答えは「上限の問題は減るが、別の問題は残る」です。

机が広くなり、たくさんの情報を載せられるようになっても、頭脳が机の上のすべてに同じだけ丁寧に注意を向けられるわけではありません。情報が多くなるほど、本当に大事な一文に注意が向きにくくなります。長い机の真ん中あたりに置かれた情報ほど使われにくい、という傾向を示す研究もあります。改善は進んでいますが、「量が増えるほど、大事なものが目に留まりにくくなる」という性質そのものは、仕組みの成り立ちから来ています。

人間にたとえるなら、300ページの会議資料を渡されて「この中の1行が今日の結論を左右する」と言われた状態です。全部に目を通したつもりでも、肝心の1行を読み流してしまうことは十分にありえます。

さらに厄介なのは、関係ない資料が判断そのものをぶれさせることです。5.1節で見たように、頭脳は机の上の全体を読んで続きを組み立てます。関係ない資料も、読まれる以上は判断に影響しうるのです。

たとえば佐藤さんが、親切のつもりで「参考になるかもしれない」と、過去数年分の業界調査のフォルダを丸ごと渡したとします。机には、今回の5社の最新の発表と並んで、数年前の古いサービス情報や、すでに終了したサービスの説明が載ることになります。すると、次のようなことが起こりえます。

• 古い資料に載っていた価格が、最新の価格として比較表に紛れ込む。
• 同じ会社について資料ごとに内容が食い違い、どれを採用するかの判断が毎回ぶれる。
• 古い資料の書き方や論点に引っぱられ、今回の依頼とずれた観点で要約が書かれる。

机にたくさん載せることには、さらに別の負担もあります。頭脳は一手ごとに机の上を全部読み直すので、載せる量が増えるほど、一手あたりの時間も費用も増えていきます（第13章）。

5.5机の外に記憶を置く

机には上限があり、載せすぎると埋もれる。それでも長い仕事を任せるには、どうすればよいでしょうか。考え方の基本は、記憶を机の外に置き、必要なときに必要な分だけ机に戻すことです。机の外の棚にしまっておき、使うときだけ取り出すイメージです。代表的な方法が3つあります。

① 作業メモを書き出させ、あとで読み返す

1つめは、エージェント自身に、途中経過や決めたことをファイルに書き出させる方法です。「A社〜C社は調査済み」「比較表は5列」「D社は公式発表がまだ見つかっていない」といった内容を、机の外のファイルに残しておきます。机が要約されたり片づけられたりしても、ファイルは残ります。必要になったら、道具を使ってそのファイルを読み返し、机に戻せばよいのです。

人間でいえば、作業日誌や付箋にあたります。ただし注意点があります。何をメモに書くかも、エージェントの判断です。メモに書かれなかったことは、やはり失われます。

② 資料の山から、必要な部分だけを探して載せる

2つめは、大量の資料を机に全部載せるのではなく、机の外に置いたまま、いまの判断に関係しそうな部分だけを検索して机に載せる方法です（業界では「検索拡張生成」と呼ばれます）。社内の文書が何千件あっても、そのうち関係する数か所だけを机に載せれば、上限にも埋もれにも対処できます。

この方法の弱点は、検索で拾えなかった部分は、存在しないのと同じになることです。探し方がずれていれば、肝心の資料は机に載らず、頭脳はそれがあることすら知らないまま答えを組み立てます。答えの質は、検索の質を超えられません。

③ 前回の要点を、次回の机に載せ直す

3つめは、会話の終わりなどに要点を保存しておき、次に使うときに机の最初に載せ直す方法です。「前回の話を覚えている」ように見えるAIの機能は、多くの場合この仕組みで動いています。頭脳そのものが前回の会話で変わったわけではありません。保存しておいた要点を、毎回机に載せ直しているのです。

ここにも注意点があります。何が要点として残るかは、要約の判断次第です。大事なことが残っていないこともあれば、古くなった情報や誤った思い込みが要点として残り、毎回載せ直され続けることもあります。

3つの方法に共通しているのは、机の外の記憶は、机に載せるまで頭脳から見えないという点です。どの方法も、「何を、いつ、どれだけ机に載せるか」を工夫するためのものだと言えます。

佐藤さんの調査に当てはめると、たとえば次のようになります。作業の最初に「比較表は5列」「対象は最近1年以内の新サービス」といった条件を作業メモに書き出させておく。各社の資料は全部を机に載せず、新サービスに関する部分だけを探して載せる。表を作る段階で作業メモを読み返し、条件を机に戻してから作業する。こうすれば、5.3節で見たような「5列が消える」事態は起きにくくなります。ただし、どれも机に載せ直す仕組みがあってはじめて働くもので、魔法のように記憶が増えるわけではありません。

5.6長い仕事の頼み方への含意

ここまでの仕組みが分かると、長い仕事を任せるときに何に気をつければよいかが、理屈として見えてきます。

• 区切る：「調べる」「表を作る」「要約を書く」のように、仕事をいくつかの区切りに分けて頼みます。1回の作業で机が上限に近づきにくくなり、区切りごとに机を新しくし直せます。仕事の分け方そのものは第6章で扱います。
• 要点メモを残させる：区切りの終わりに、「決まったこと」「残っていること」「守るべき条件」を書き出させます。次の区切りは、散らかった机ではなく、そのメモから始められます。
• 大事な条件は節目で再掲する：最初に1回伝えれば十分、とは考えないことです。佐藤さんの例なら、表を作る段階で「比較表は5列」を改めて机に載せます。机から落ちうる以上、使う直前に載っていることが大切です。
• 関係ない資料を渡しすぎない：「念のため」でフォルダを丸ごと渡すのではなく、今回の判断に必要なものを選んで渡します。選ぶ手間は、埋もれやぶれを防ぐための投資です。

どれも「こう書けばうまくいく」という書き方の話ではありません。机には上限があり、落ちるものがあり、載せすぎると埋もれるという性質から、自然に出てくる対処です。頼み方の原則は、第12章で改めて整理します。

反対に、エージェントの振る舞いがおかしいと感じたときにも、この章の見方が役に立ちます。「指示を無視した」「急に的外れになった」と感じたら、頭脳の賢さを疑う前に、その時点の机の上に何が載っていて、何が載っていなかったかを考えてみてください。大事な条件が落ちていたのか、関係ない資料に引っぱられたのか、運用者の指示と依頼が食い違っていたのか。原因の見当がつけば、次にどう頼み直せばよいかも見えてきます。作業記録の読み方は第3章、確かめる仕組みは第11章で扱います。

確認確認問題