Skip to content

承認と信頼 ​

ファイルを書き、コマンドを実行し、人にメッセージを送れる Bot には、あなたが本当に理解している境界線が必要です。このページはその境界線を使う側の視点から説明します: Bot はどこまで手が届くのか、いつ立ち止まって確認を求めるのか、承認は何をカバーして何をカバーしないのか。具体的な仕組み——メンバーリスト、モード、ルール——は アクセス制御 にあります。

Bot がデフォルトで触れられる範囲 ​

  • 自分のワークスペースだけ、それ以上はありません。 各 Bot は自分専用の隔離されたコンテナワークスペース(/data)の中で作業します。ファイルも状態もその中に留まり、Bot 同士は互いの中を見られません——ワークスペース を参照してください。
  • あなたがつないだチャネルと、許可した人だけ。 Bot があるプラットフォームに現れるのは、あなたが プラットフォーム タブで追加したからです。あるアイデンティティに応答するのは、アクセス制御が許可しているからです。
  • それぞれの人には、与えられたレベルの権限しかありません。 ワークスペースの権限は 5 段階——チャット、ファイル読み取り、ファイル書き込み、コマンド実行、管理——に分かれています。タスクに必要なレベルだけを与え、それ以上は与えません。レベルの定義は アクセス制御 にあります。

これらの権限は、Bot の アクセス タブにある 2 つのメンバーリストから来ます。チャネルメンバー は IM プラットフォーム上のアイデンティティを、ワークスペースメンバー は Memoh の登録ユーザーを管理します。

いつ確認を求めてくるか ​

書き込み系・実行系のツール呼び出しには、人間による承認を必須にできます。設定は Bot ごとに Toolの承認 タブで行います。あるツールが要確認に設定されているときの流れは次のとおりです:

  1. Bot がそのアクションを提案します——特定の 1 回のツール呼び出しであり、この時点ではまだ何も実行されていません。
  2. あなたが承認または拒否します。
  3. 承認された呼び出しだけが実行されます。拒否されたものは決して実行されません。

承認は常にアクションの前に行われるので、リクエストに目を通すその一瞬こそがコントロールそのものであって、事後の火消しではありません。保留中のリクエストはタイムアウトすることもあり、無限には待ち続けません。見逃してしまったら、Bot にそのアクションをもう一度試させてください。

ゲートをさらに増やしたい場合

Toolの承認の設定とは別に、イベントにマッチした Hook から人間による承認を要求することもできます——ツール全体を止めるのではなく、特定の種類のコマンドだけを見張りたいときに向いています。

承認を必須にしておきたい操作 ​

以下は推奨であって、Memoh が強制するデフォルトではありません。手堅いスタート地点のリストとして使ってください:

  • ワークスペースの外に出ていくメッセージ——他の人に送られたり、公開の場に投稿されたりするすべてのもの。
  • ファイルの削除や上書き。特に Bot 自身が作ったのではないもの。
  • ワークスペース内でのインストールや、長時間走るコマンドの実行。
  • お金を使う操作、本番環境に触れる操作のすべて。

Bot 自身のワークスペースの中で完結するアクション(下書き、整理、読み取り)は、最初に承認から解放する価値のあるものです。この推奨を 1 つのルーチンのライフサイクル——最初の読み取り専用の実行から段階的な緩和まで——にどう組み込むかは、Bot との協働 を見てください。

画面の引き継ぎと認証情報 ​

可視デスクトップで作業中の Bot がログイン画面や CAPTCHA にぶつかったら、あなたが画面を引き継ぎ、パスワード、パスキー、ワンタイムコードを自分の手で入力してから、制御を返します。認証情報はあなたのキーボードからサイトへ直接渡ります——最初から最後まで、それを Bot に教える必要はありません。

その後もブラウザのセッションはそのワークスペースに残るため、以降のタスクはログインしたままで、もう一度引き継ぐ必要はありません。Browser / Computer Use と クイックスタート を参照してください。

境界についての率直な注意 ​

承認にできないこと

承認が堰き止めるのは「提案されたアクション」です——すでに実行された作業を取り消すことはできず、すでに送られてしまったメッセージを回収することもできません。リクエストの拒否はその 1 件のリクエストを止めるだけで、ロールバックボタンではありません。

だからこそ、本当に長く効く習慣は アクセス制御 にあるあの一文です: タスクに必要な最低限のレベルを与え、何回かの実行を確認してから、少しずつ広げる。Bot への信頼は、新しい同僚への信頼と同じものです: 証拠を積み重ねて、少しずつ築いていきます。

Published under AGPLv3