ループを1周ずつ追う
──作業記録の読み方

3.1ループのおさらい

第1章では、エージェントの特徴を「結果を見て、次の一手を自分で選ぶこと」とまとめました。この動きをもう少し細かく分けると、次の4つの段階の繰り返しになります。

• 観察：いま机の上にあるもの（依頼文、これまでの結果、メモなど）を読む
• 判断：目標に照らして、次に何をするかを1つ選ぶ
• 行動：道具を使って、選んだことを実行する（検索する、ファイルを読む、表を書くなど）
• 結果：行動の結果が机の上に載る。そして再び観察に戻る

この1周を、この教材ではループと呼びます。エージェントがしていることは、突き詰めればこのループを回し続けることだけです。

ここで、教材全体で使っている4つの例えを重ねてみましょう。頭脳（言語モデル）、手足（道具）、机（記憶、業界ではコンテキストと呼ばれます）、そしてループです。ループの各段階で、どれが働いているのかを図にすると次のようになります。

図で注目してほしいのは、頭脳が働いているのは「判断」の1か所だけだということです。頭脳は自分で検索したりファイルを開いたりはしません。机の上を読んで「次はこれをする」と決め、手足に頼むだけです（手足への頼み方は第4章で扱います）。そして手足が持ち帰った結果は、すべて机の上に置かれます。次の1周の判断は、その机の上だけを材料に行われます。

つまり、ある時点でのエージェントの判断の良し悪しは、そのとき机の上に何があったかでほぼ決まります。これが、作業記録を読むときの最初の手がかりになります。

3.2佐藤さんの依頼を、作業記録で追う

それでは、実際の動きを追ってみましょう。題材は、教材全体で使っている次の場面です。

多くのエージェントは、1手ごとに何をしたかを作業記録として残します。業界ではログと呼ばれるものです。下の記録は、説明のために読みやすく書き直したものですが、流れは実際の記録とよく似ています。各手の下の小さな文字は、「そのとき机の上に何があったか」と「なぜその手を選んだか」の補足です。

前半は順調に見えます。手6から手7にかけては、結果を見て次の一手を変えるという、エージェントらしい動きも出ています。後半を見てみましょう。

最終的に佐藤さんの手元に届くのは、比較表と要約の2つです。見た目はきれいに整っており、5社分の行もすべて埋まっています。けれども、記録を読んだ私たちは、D社の行だけが公式発表ではないこと、E社の行が一歩間違えば別会社の情報になっていたことを知っています。成果物だけを見た人には、この違いは見えません。

もう1つ大事なのは、どの手もその時点では「筋の通った判断」だったということです。手11でニュース記事を使ったのは、目標を果たそうとした結果です。エージェントは手を抜いたわけでも、うそをついたわけでもありません。1手ずつは合理的でも、全体として望ましくない結果になりうる。これが、作業記録を読む意味です。

3.3記録を読む3つの注目点

作業記録は長くなりがちで、すべての行を同じ熱量で読むのは現実的ではありません。そこで、次の3か所に絞って読むことをおすすめします。

注目点1　方針を変えたところ（なぜ変えたか）

エージェントが進め方を変えた手には、必ず「それまでのやり方では目標に届かない」と判断した理由があります。今回の記録では、手7（検索語に「今年」を加えた）と手11（ニュース記事で代用した）がこれにあたります。

手7は、目標の「最近」という条件を守るための変更で、目標に近づく方向の変更でした。一方の手11は、「公式の発表で調べる」という品質の条件を手放して、「行を埋める」ことを優先した変更です。方針の変更が、目標のどの部分を守り、どの部分を手放したのか。ここを読むと、成果物の質がどこで変わったかが分かります。

注目点2　同じことの繰り返し（堂々巡りの兆候）

手8〜手10のように、似た行動が結果を変えないまま続く箇所は、堂々巡りの兆候です。1回ごとの判断には「言葉を変えれば見つかるかもしれない」という理屈があるため、エージェント自身は足踏みに気づきにくいのです。

今回は3回で方針を変えましたが、いつもそうなるとは限りません。同じ型の行動が何度も並んでいたら、「行き詰まっているのに止まれていない」可能性を疑ってください。止まる仕組みの話は3.5節で扱います。

注目点3　「完了」の根拠（何を見て完了と判断したか）

手15で、エージェントは「完了」と報告しました。その根拠は「依頼文にある成果物が2つともそろった」ことです。ここで確かめたいのは、そろったことと、正しいことは別だという点です。

今回の完了判断は、「5行が埋まったか」「要約が書かれたか」という形の面だけを見ています。「D社の情報源が他と違うことを要約に書いたか」「E社の情報が本当にE社のものか」は、完了の判断材料に入っていません。完了の報告を読んだら、何を見て完了と判断したのかを記録の最後の数手から読み取ってください。

3.41周ごとに選んでいるだけ、ということの意味

ここまで追ってきて気づいた方もいるかもしれません。このエージェントは、最初に「全15手の計画」を立てていたわけではありません。手2で決めたのは「まず1社ずつ公式発表を検索する」という当面のやり方だけで、それ以降は毎周、机の上を見て、その場で次の一手を選んでいただけです。

これは、第2章で見た頭脳の性質と関係しています。頭脳は、机の上にあるものを読んで、次にふさわしい言葉を組み立てる仕組みでした。ループの中でも同じで、頭脳がするのは「いまの机の上から、次の一手を1つ選ぶ」ことです。何手も先まで見通した全体の計画は、特別な仕組みで書かせない限り、どこにも存在しません（計画を書かせる仕組みは第6章で扱います）。

全体の計画がないと、何が起きるのでしょうか。それぞれの1手は、その時点では目標のほうを向いています。しかし、ほんの少しずつ角度がずれていても、誰もそれを全体として修正しません。小さなずれは、周を重ねるごとに積み重なっていきます。

佐藤さんの例でいえば、手4で比較の項目を「サービス名・開始時期・対象顧客・特徴」と決めたのは、そのときの思いつきでした。もし上司が本当に知りたかったのが「価格」や「自社との競合度合い」だったとしたら、その時点でできた小さなずれは、手13の比較表、手14の要約にまでそのまま引き継がれます。途中でだれも「そもそも比べる項目はこれでよいか」と立ち止まらないからです。

手11の「ニュース記事で代用」も同じ構図です。1手としては合理的な選択でしたが、その結果、比較表の5行のうち1行だけ確かさの度合いが違う、という状態が最後まで残りました。ずれは、起きた手ではなく、ずっと後の成果物の中で姿を現すのです。

3.5ループが止まる条件

ループは放っておけば回り続けます。では、どんなときに止まるのでしょうか。大きく分けて3つあります。

• 目標に届いたと判断したとき：今回の手15がこれです。エージェント自身が「目標を果たした」と判断して止まります。
• 上限に達したとき：あらかじめ決めておいた回数・時間・費用の上限に達したら、目標の途中でも止まります。
• 行き詰まったとき：これ以上できることがない、または道具が使えないなどの理由で、先に進めなくなって止まります。

このうち、上限を設ける理由は、3.3節の注目点2と関係しています。エージェントは堂々巡りに自分で気づけないことがあります。気づけないまま回り続ければ、ループの1周ごとに時間と費用がかかり続けます。上限は、エージェント自身の判断とは別のところで、ループを確実に止めるための安全装置です。どのくらいの上限が適切かという考え方は、第13章「費用と時間」で扱います。

そして、最も注意したいのが1つめの「目標に届いたと判断したとき」です。ここで言う「完了」は、エージェント自身の判断にすぎません。第三者が中身を確かめたうえでの完了ではなく、「依頼文と机の上を見比べて、そろったと思った」という1手の判断です。手15がまさにそうでした。

3.6人はどこで介入できるか

ここまでの話から、エージェントに任せた仕事を人がまったく見ないのは危ういことが分かります。とはいえ、15手すべてに付き添うのでは任せた意味がありません。人が関わるべき場面は、大きく3つの時点に分けられます。

佐藤さんの例でいえば、始める前に「公式発表が見つからない会社があったら、その旨を表に書いて空欄にしてよい」と一言添えていれば、手11の代用は起きなかったかもしれません。途中で「3社分のメモを見せて」と頼んでいれば、比較の項目が上司の意図とずれていることに早く気づけたでしょう。どの時点で、どの程度止めて確認させるかは、第8章「権限は段階で渡す」で、確認を仕組みとして組み込む方法は第11章「確かめる仕組み」で詳しく扱います。

確認確認問題