AIエージェントのための業務ソフト：信頼できるかを見極める方法

画面をクリックして回ったりHTMLをスクレイピングしたりするエージェントは、推測で動いています。JSONを返し、自身のスキーマを公開するコマンドラインやAPIがあるかを確認してください。どのコマンドがあり、どの項目が必須で、どの値が許されるのか。エラーも機械可読であるべきで、呼び出しを修正すべきか、待つべきか、あなたに確認すべきかをエージェントに伝えるコードが必要です。

網羅性も確認しましょう。UIでしかできないことは、エージェントは回り道で行うか、まったくできません。

エージェントには、あなたのパスワードではなく、いつでも取り消せる専用のキーが必要です。キーがリクエストのたびに送られるのではなく、短命のトークンと交換されるならなお良いでしょう。

エージェントに任せるべきでない操作もあります。新しいキーの作成、アカウントの削除、パスワードの変更です。ソフトウェアはこれらを、ドキュメントで控えるよう勧めるだけでなく、エージェントによるアクセスに対してサーバー側でブロックすべきです。

発行済みの請求書は取り消せず、取消処理しかできません。ソフトウェアはこうした操作を破壊的なものとして示し、明示的な確認があった場合にのみ実行すべきです。その確認はツール自体に組み込まれている必要があります。Replitでは、プロンプト内の一文はデータベースを守りませんでした。

エージェントが重要なものを変更する前に、何を送信するのかを正確に示せるべきです。メソッド、アドレス、本文。そうすれば、言葉で述べられた意図ではなく、自分の目で見たものを承認できます。

エージェントは再試行します。接続が切れるともう一度試み、対策がなければ作業時間や入金がシステムに二重に登録されます。レコードの作成時に、サーバーが再試行を見分けられる独自のIDを受け付けるか、一括操作が完全に成功するか、まったく実行されないかのどちらかになっているかを確認してください。繰り返してはいけない操作では、エラーがその旨を伝えるべきです。

後から、何が起きたのかを知りたくなるものです。つまり、すべての操作が自分でも実行できる読みやすいコマンドであること、キーを漏らさずにリクエストを必要に応じて記録できること、どのキーがいつ使われていたかがわかることです。エージェントごとに1つのキーを使えば、これが明確になります。

ミスは起こります。大切なのは、その直し方です。下書きの編集や削除、記帳の修正、発行済みのものの取消を、黙って上書きするのではなく記録を残して行えること。請求済みのものはロックされ、ある箇所の修正が完成した請求書を変えてしまわないようにすべきです。

プラン外の機能やリクエスト過多など、エージェントが制限に達したとき、ソフトウェアはそれを明確に伝えるべきです。理由と、待てば解決するのか、あなたの判断が必要なのかを添えて。制限をエラーと取り違えたエージェントは、再試行を続けるか、回避策を探し始めます。

エージェントごとに、必要最小限の権限を持つ専用のキーを与えてください。読み取りで足りる場合は読み取り用キーを。取り返しのつかない操作は自分が依頼したときだけ許可し、承認する前にドライランを確認しましょう。Time Momentumのエージェントによる操作はProプランに含まれます。