AIエージェントの作り方
AIエージェントの作り方:ループ、ツール、メモリ、ガードレール | We.Inc
AIエージェントを基礎から作る方法。判断・実行・観察のループ、ツール定義、メモリ、ステップ上限、人による承認、テストまで解説。ステップシミュレーター付き。
AIエージェントの作り方
AIエージェントとはループです。言語モデルが目標とそれまでの経過をすべて読み、定義済みのツールを1つ呼び出すか、最終回答を返します。あなたのコードがツールを実行し、結果を追記して再びモデルに問い合わせます。ステップ上限、権限、人による承認、テストがこのループを安全に保ちます。
エージェントを構成する5つの要素
- 要素
- 作るもの
- ないと起きる問題
- ループ
- モデルを呼び出し、ツールを実行し、繰り返すコード
- 最初の返答の後に何も起きない
- ツール
- 説明と入力スキーマを持つ名前付きの関数
- モデルは話せるだけで行動できない
- メモリ
- 進行中のやり取りの記録と、実行間で保存するメモ
- モデルが実行済みの呼び出しを繰り返す
- ガードレール
- ステップとコストの上限、最小権限、危険な操作の承認
- 暴走するループ、想定外の請求、損害を与える操作
- 評価
- 変更のたびに再実行する、チェック付きの固定テストタスク
- 不具合をユーザーから知らされる
シミュレーターを動かして、1つのタスクがループを進む様子を見てみましょう。承認のオンとオフを切り替えると、ガードレールが危険なステップのどこで割り込むかがわかります。トレースは学習用に台本化されています。実際の実行では、判断ステップごとにモデルへ問い合わせます。
- 「次のステップ」を押して、ループを1手ずつ進めます。
- 各行を読みます。「判断」はモデルの選択、「実行」はあなたのコードによるツールの実行、「観察」は結果がメモリに追加されることです。
- send_emailの承認を切り替えてもう一度実行し、2つのトレースを比べます。
- 「リセット」を押すと最初からやり直せます。
- まずはツール1つ、タスク1つから始めましょう。ツールを追加するのは、ツール不足でテストタスクが失敗したときだけにします。ツールが増えるほど、モデルが選択を誤る余地も増えるからです。
- ツールの結果は短く事実だけにしましょう。毎ステップでやり取りの記録全体がモデルに送られるため、長い結果はコストがかかり、重要な情報が埋もれます。
- 権限チェックは指示文ではなくツールのコードに書きましょう。モデルは言葉で指示を覆されることがありますが、関数が強制するチェックは回避できません。
- 各ステップの入力、出力、コストをすべてログに残しましょう。実行がうまくいかなかったとき、どの判断が悪かったかを知る唯一の手段がログです。
よくある質問
エージェントを作るのにフレームワークは必要ですか?
必要ありません。このページの例が示すとおり、核となるのは1回のモデル呼び出しを囲むwhileループと、ツール名によるswitchです。フレームワークはリトライ、トレース、連携機能を追加し、後々役に立ちますが、学習中はループの仕組みを隠してしまいます。
モデルはどのようにツールを呼び出すのですか?
リクエストのたびにツール定義を送ります。モデルがツールを使いたいときは、通常のテキストの代わりにツール名と引数を返します。あなたのコードが関数を実行し、その結果を次のメッセージとして返します。
メモリとコンテキストの違いは何ですか?
コンテキストは、今回の呼び出しでモデルが見る内容です。指示、目標、これまでのやり取りの記録が含まれます。メモリは、あなたが保存して後でコンテキストに戻すと決めたもので、前回の実行のメモなどがあります。
エージェントが永遠に動き続けるのを防ぐには?
ステップ数と総支出に上限を設け、どちらかに達したら明確なメッセージで実行を終了させます。OWASPは2025年版の言語モデル応用アプリのリスクの1つにUnbounded Consumptionを挙げています。
エージェントはどうテストすればよいですか?
結果を確認できる固定タスクのセットを用意します。正しいツールが呼ばれたか、危険な操作が承認を待ったか、最終回答に数値が含まれているか、といった確認です。プロンプトやツールを変更するたびにこのセットを実行し、合格数を比較します。
本当に機能するガードレール
- OWASPの2025年版リストは、Excessive Agency(過剰な権限委譲)を中心的なリスクに挙げ、その原因を3つに整理しています。過剰な機能、過剰な権限、過剰な自律性です。それぞれに、コードで制御できる対策があります。
- エージェントにはタスクに必要なツールだけを与え、各ツールには機能する範囲で最も狭い認証情報を持たせ、送信、支払い、削除といった影響の大きい操作には人の承認を必須にしましょう。モデルが正しく振る舞うと信じるのではなく、ツールが呼び出すシステム側で認可を確認します。
信頼できないテキストが最大の攻撃対象
- Webページ、メール、ファイルなど、ツールが取得するものには、あなたのモデルを狙った指示が含まれている可能性があります。OWASPはこれを間接プロンプトインジェクションと呼んでいます。
- 取得したコンテンツはデータであると明示し、自分の指示とは分けて扱い、ツール結果のテキストだけでより強力なツールが使えるようにはしないでください。他の防御が漏れたとき、特権的なステップへの人による承認が最後の砦になります。
素のJavaScriptで書くループ
フレームワークもベンダーSDKも使いません。callModelは固定の判断を再生するスタブなので、ファイルはそのまま動きます。実際には、利用しているモデルサービスへのリクエストに置き換えてください。
ツールは1つのオブジェクトにまとめ、危険なツールには承認を必須にし、ループはステップ上限で停止します。node agent.mjsで実行できます。
設計で備えるべきリスク
OWASP Top 10 for LLM Applications 2025のうち、エージェントに特に重要な項目
- リスク
- エージェントでの現れ方
- コードでの対策
- LLM01:2025 Prompt Injection
- 取得したページが、あなたのデータを外部にメールするようモデルに指示する
- 信頼できないコンテンツを分離し、特権的な操作は承認制にする
- LLM06:2025 Excessive Agency
- 読み取りだけでよいはずのレコードをエージェントが削除できてしまう
- ツールを減らし、認証情報を絞り、影響の大きい操作は承認制にする
- LLM10:2025 Unbounded Consumption
- ループが失敗するツールを一晩中リトライし続ける
- ステップ上限、支出上限、タイムアウト、レート制限
- LLM05:2025 Improper Output Handling
- モデルの出力が未確認のままSQLやHTMLに埋め込まれる
- 後続で使う前に検証とエスケープを行う
目標:3社の仕入れ見積もりのうち最安のものを見つけ、要約をオフィスマネージャーにメールで送る。
モデルが、届いた内容を確認するためにread_quotesを選ぶ。
コードがread_quotes()を実行し、3つのファイルを返す。
結果をメモリに追加:A $1,240、B $1,180、C $1,315。
必要な情報が揃ったので、モデルが要約の下書きを添えてsend_emailを選ぶ。
send_emailは影響の大きい操作に指定されているため、人が下書きを承認するまで実行が一時停止する。
承認済み。コードが承認されたテキストでsend_email()を実行する。
結果をメモリに追加:メッセージ送信済み。
モデルが最終回答を返す:最安は見積もりBの$1,180。要約を送信済み。モデル呼び出しは3回で、10ステップの上限内。
モデルが、届いた内容を確認するためにread_quotesを選ぶ。
コードがread_quotes()を実行し、3つのファイルを返す。
結果をメモリに追加:A $1,240、B $1,180、C $1,315。
必要な情報が揃ったので、モデルが要約の下書きを添えてsend_emailを選ぶ。
承認ルールがないため、コードが下書きをすぐに送信する。事前に誰も確認していない。
結果をメモリに追加:メッセージ送信済み。
モデルが最終回答を返す。今回はうまくいったが、数値の誤りや注入された指示があっても、確認されないまま送信されていた。
判断
実行
観察
ガードレール
完了
エージェントループのシミュレーター
次のステップ
リセット
send_emailの前に承認を必須にする
ステップ {n} / {v}
実行が完了しました。
未到達
無料トライアルを始める · 7日間の無料トライアル、本日$0
関連: ガイド|Webマーケティングと集客を学ぶ
- TypeScriptでMCPサーバーを作る方法
- コーディングなしでECサイトを作る方法
- オンラインでパーソナルブランドを築く方法
- 予約につながるレストランのウェブサイトの作り方
- ドメイン名の取得方法
- Squarespaceのキャンセル方法(ドメインとコンテンツを保持する)
- Wixの解約方法(プラン・返金・ドメイン)
- divを中央寄せする方法:全手法を比較
製品
- AI ホームページ作成ツール:作りたいサイトを普段の言葉で伝えるだけで、数分で公開
- ホワイトラベル プラットフォーム:自社ブランド、自社ドメイン、自社の利益で運営
- エンタープライズ:SSO、個別の SLA、専任サポート
- 開発者向け API:自社の SaaS にサイト生成機能を組み込み
ご利用いただける方
- 制作会社・代理店向け:自社ブランドで再販
- フリーランス向け:自分ブランドのビルダーを持つ
- ホスティング事業者向け:サービスにビルダーを追加
- SaaS プラットフォーム向け:API でサイト作成を組み込み
- スタートアップ向け
- 金融サービス向け
- 医療・ヘルスケア向け
機能
リソース
- ブログ
- ヘルプセンター
- 無料ビジネスツール
- ホームページ テンプレート
- テンプレート集
- サイト事例
- ガイド
- 比較
- 代替サービス
- おすすめ
- レビュー
- 料金ガイド
- 用語集・ガイド
- 連携サービス
- 開発者向け
- ベンチマーク
- Windows アプリ