01エージェントの基本

AIエージェント

目標を渡されると、道具を使い、結果を見て次の一手を自分で選び、終わりも自分で決めて動くAIの仕組み。違いは賢さではなく「次の一手を誰が決めるか」。→ 第1章

手順に沿うAIワークフロー

人があらかじめ決めた作業の流れの一部を、AIが担当する形。次に何をするかは手順書が決める。→ 第1章

自律性

AIにどこまで自分で決めさせるかの度合い。オン・オフのスイッチではなく、段階的に調整できる「つまみ」のようなもの。→ 第1章・第8章

02頭脳（言語モデル）

頭脳言語モデル

机の上の文章を読み、「次に来そうな言葉」を予測して文章を書く仕組み。文章を読み書きすること以外はできない。→ 第2章

断片トークン

言語モデルが文章を扱うときの小さな単位。1文字のことも、よく使う言葉のひとかたまりのこともある。→ 第2章

事前学習

膨大な文章を材料に、次の断片を予測する腕を鍛える段階。使い始める前に、作り手が行う。→ 第2章

知識の締め切りカットオフ

学習に使った文章が集められた時点。頭脳はそれより後の出来事を知らない。→ 第2章

考える時間

答える前に、途中の考えを文章として書き出させる仕組み。精度は上がるが、時間と費用がかかる。書き出された考えが本当の理由とは限らない。→ 第2章

ゆらぎ温度

次の断片を、確からしさに応じたばらつきを持たせて選ぶ性質。同じ依頼でも答えが変わる理由。ばらつきの大きさの設定は「温度」と呼ばれることがある。→ 第2章

作り話ハルシネーション

事実でないことを、もっともらしく述べてしまう現象。「知らない」より「それらしい続き」が選ばれることで起きる。固有名詞・数字・出典で起きやすい。→ 第2章・第9章

03手足（道具）

手足道具・ツール

検索、ファイルの読み書き、送信など、外の世界に働きかける手段。エージェントにできることの上限と、危険の上限を決める。→ 第4章

説明書

使える道具の名前・働き・指定すべき条件を書いた文章。頭脳が道具について知っているのはこれだけ。→ 第4章

依頼書

頭脳が書く「この道具を、この条件で使いたい」という決まった形式の文章。頭脳自身は道具を動かさない。→ 第4章

実行役ハーネス

頭脳の外側で、依頼書を読み取って実際に道具を動かし、結果を机に戻す仕組み。止める・確認するのはここで行うのが確実。→ 第4章・第8章

共通の差し込み口

道具をエージェントにつなぐための共通の規格。家電のコンセントのように、決まった形式なら差すだけで使える。→ 第4章

04机（記憶）

机コンテキスト

頭脳が一度に読める情報のまとまり。判断に使えるのは机の上にあるものだけで、一手ごとに最初から読み直している。広さに上限がある。→ 第5章

運用者の指示システムプロンプトなど

サービスや仕組みを用意した側が、机のいちばん最初にあらかじめ置いておく指示。利用者からは見えないことが多い。→ 第5章

要約して詰める

机が上限に近づいたとき、これまでのやりとりを短くまとめ直して場所を空けること。細部や最初の条件が落ちやすい。→ 第5章

検索して一部だけ載せる方法検索拡張生成

大量の資料を机の外に置いたまま、いまの判断に関係する部分だけを探して机に載せる方法。探せなかった部分は存在しないのと同じになる。→ 第5章

机の設計コンテキストエンジニアリング

机の上に何を、どの順番で、どれだけ置くかをあらかじめ設計する考え方。→ 第5章

05ループと進め方

ループ

観察→判断→行動→結果を、目標に届くまで繰り返す動き。全体の計画があるのではなく、1周ごとに次の一手を選んでいる。→ 第3章

作業記録ログ

エージェントが1手ごとに何をし、何が返ってきたかの記録。「方針の変更」「同じことの繰り返し」「完了の根拠」の3か所に注目して読む。→ 第3章

上限

ループを回す回数・時間・費用にあらかじめ設けておく限度。堂々巡りを確実に止める安全装置。→ 第3章・第13章

計画

頭脳が書き、机に置いて毎周見返す「やることリスト」。特別な仕組みではなく、机の上のメモの一つ。→ 第6章

分解

大きな目標を「小目標」と「作業」に小分けにすること。作業は、見ただけで次の一手が浮かぶ大きさにする。→ 第6章

依存関係

ある作業が、別の作業の結果を必要とする関係。見落とすと手戻りが起きる。→ 第6章

チェックポイント

小目標の区切りごとに、そこまでの結果を確かめる地点。早い段階の誤りほど安く直せる。→ 第6章・第11章

完了条件

どこまでやれば終わりかを、誰が見ても判断できる形で書いた基準。→ 第6章

06複数のエージェント

指揮役オーケストレーター

全体を見渡して仕事を割り振り、担当役の結果をまとめる役のエージェント。→ 第7章

担当役サブエージェント

割り振られた一部分をこなす役のエージェント。自分の机を持ち、指示書に書かれたことしか知らない。→ 第7章

点検役

作る役とは別に、成果物を確かめる役。同じ頭脳・同じ情報だと、同じところを見落としやすい。→ 第7章・第11章

伝言ゲームの劣化

机から机へ情報を引き継ぐたびに、書かれなかった前提や要約で削られた細部が落ちていくこと。→ 第7章

07権限と失敗

権限

エージェントが現実に起こせることの範囲。渡した道具と実行役の設定で決まる。最悪の結果の天井を決めるのは、賢さではなく権限。→ 第8章

取り返しのつきやすさ・影響範囲

行動を仕分ける2つの軸。元に戻せるかどうかと、結果が自分だけ・社内・社外のどこまで届くか。戻せず外に届く行動の前に、人の確認を置く。→ 第8章

最小権限の原則

必要な道具だけ、必要な範囲だけ、必要な期間だけ渡すという考え方。うまくいかなかったときの被害を小さくする。→ 第8章

承認・承認疲れ

承認は、取り返しのつかない行動の直前で止まり、人の許可を待つ仕組み。確認を求める回数が多すぎると、中身を見ずに許可するようになる。これが承認疲れ。→ 第8章

失敗の型

エージェントの間違え方の決まった形。作り話・目標の取り違え・やりすぎ・堂々巡り・前提の忘却・早すぎる完了の6つ。賢くなると頻度は下がるが、型は変わらない。→ 第9章

誤りの連鎖

1つの誤りが机に載ると正しいものとして扱われ、後ろの作業すべての土台になって広がっていくこと。早いチェックポイントで断ち切るのが最も安い。→ 第9章・第6章

08安全と確認

外から来た文章に紛れ込む命令プロンプトインジェクション

ウェブページやメールなど、エージェントが読む外部の文章に命令を紛れ込ませ、利用者の意図と違う行動を取らせること。頭脳は指示と資料を確実には区別できない。→ 第10章

避けるべき3つの組み合わせ

「機密情報に触れられる」「外から来た文章を読む」「外へ送る手段がある」の3つがそろうと、漏えいの経路ができる。どれか1つを外すのが基本。→ 第10章

確かめやすさの3段

機械的に確かめられる／元の資料に当たれば確かめられる／人の判断が要る、の3段。作るより確かめるほうが簡単な仕事ほど任せやすい。→ 第11章

抜き取り

全体から一部を選んで確かめること。誤りが1件でも見つかったら、同じ種類の箇所を全部見直す合図にする。→ 第11章

問題集評価

正解の分かっている自分の仕事の例題を集めたもの。定期的に解かせて出来を確かめ、頭脳や道具が入れ替わったときも同じ物差しで比べられる。→ 第11章

自動化への過信

結果がいつも正しいと、確かめる人が中身を見ずに通すようになること。出来が良くなるほど起きやすい。→ 第11章

09頼み方と費用

依頼の6つの要素

目標・背景・制約・判断基準・完了条件・報告のしかた。頭脳は机にないことを知らないので、事情を知らない人に頼むときと同じことを文字にして渡す。→ 第12章

ひな形

うまくいった頼み方を、6つの要素の枠として残したもの。失敗が起きたら一文を足し、効いていない注意書きは削って育てる。→ 第12章

読む量・書く量

頭脳の利用料の土台になる、読んだ断片と書いた断片の数。読む量はその周の机の上の全部なので、ループが長いほど1周あたりも増える。→ 第13章

総額で比べる

人がやる場合と比べるとき、利用料だけでなく、依頼を整える時間・確認の時間・やり直し・待ち時間を含めて比べること。→ 第13章

10仕事と組織に入れる

4つの物差し

任せるかどうかを測る、確かめやすさ・取り返しやすさ・頻度・判断のあいまいさの4つ。仕事を丸ごとではなく、作業に分けてから当てはめる。基準は難しさではなく、作業の性質。→ 第14章

仕事の地図

確かめやすさと取り返しやすさで作業を「任せる」「任せて確かめる」「下書きまで任せる」「人がやる」の4つに分けた図。頻度とあいまいさで位置を調整する。→ 第14章

任せられる形に作り変える

出典を残す、送信を下書きまでにする、確認の区切りを入れるなど、仕事の流れを少し変えて、任せにくい作業を任せやすい側へ動かすこと。→ 第14章

人の4つの役割

エージェントと働く人に残る、設計する・頼む・監督する・責任を持つの4つ。作業の時間は減っても、これらの時間は残る。→ 第15章

承認の記録

誰が、いつ、何を見て承認したかの記録。作業記録・出典とあわせて残しておくと、成果物の確かさを自分の言葉で説明できる。→ 第15章・第8章

属人化

仕事のやり方や判断の勘所が特定の人の頭の中にしかなく、その人がいないと回らない状態。ひな形・問題集・失敗の記録をチームで共有して防ぐ。→ 第15章

自動化の皮肉

仕組みに任せる部分が増えるほど、人に残るのはまれな異常への対応になるのに、ふだん任せきりのため、その対応が難しくなるという考え方。人の腕と目を保つ工夫が要る理由。→ 第15章

10の本質

教材全体を貫く、モデルが変わっても残る10の性質。8つは4つの部品から生まれ、確認と責任の2つは人と仕組みの側に置かれる。→ 第16章

変わるのは程度、残るのは性質

頭脳の性能や机の広さなどは変わっても、それぞれに「どれだけ変わっても残る性質」がついているという見方。ニュースは「頭脳・道具・机・ループのどれの改善か」で読む。→ 第16章