社内AIエージェントの権限設計と開発費用｜承認・監査・停止

地球企業のAIエージェントは、文章を生成するだけでなく、検索、通知、登録、承認依頼など複数の道具を扱い始めている。Λ-51である。便利さが増すほど、「何を許可し、どこで止めるか」が開発費用を左右する。

今回は戸惑井 源三と、社内AIエージェントの権限設計を整理する。ワレワレは技術と制御を、源三は利用者が迷わない運用を担当する。この記事を読むと、安全な権限設計の論点、開発費用の検討帯、承認・監査・停止を含む段階導入の手順が分かる。

戸惑井 源三： わしは「権限」と聞くだけで難しそうに感じるんや。でも、AIが勝手に送信や削除までしたら困る。どこで人に聞き返すか、画面で分かるようにしてほしいな。

AIエージェントの権限設計とは

通常の業務システムでは、利用者がボタンを押して処理を実行する。AIエージェントでは、利用者の依頼を解釈し、複数の処理を組み合わせる場合がある。

そのため、社内AIエージェントの権限設計では、次の単位で権限を分ける。

• 読み取り：文書、顧客、予定などを参照する
• 下書き：メールや申請を作るが送信しない
• 実行：通知、登録、更新、送信を行う
• 承認依頼：実行前に指定者へ確認する
• 取消・停止：処理を中断し、必要なら戻す

重要なのは、接続できるかではなく、どの条件なら何を実行できるかである。

実行までの安全な流れ

ワレワレの観察では、自動化の成否は賢さより境界で決まる。もっとも、宇宙文明の比較は説明の比喩であり、現実の設計根拠は組織の規程と検証結果に置く。

開発費用に影響する機能

項目	小さく始める構成	複雑になる条件
認証	既存アカウントでログイン	SSO、複数組織、端末制御
権限	部門・役割単位	個別例外、機密区分、代理
接続先	一つの社内データ	複数SaaS、外部API、双方向更新
承認	一段階の確認	金額や内容による多段階分岐
履歴	依頼と結果を保存	入力、参照、判断過程の長期監査
停止	管理者が無効化	即時遮断、処理取消、復旧手順

概算では、社内データの検索と回答だけなら比較的小さく始められる。一方、外部への送信やデータ更新、多段階承認、監査要件を含めると、設計とテストの範囲が広がる。

金額は接続先、既存基盤、セキュリティ要件で変わる。試作は数十万円台から検討できる場合があるが、業務利用の初期版は100万〜300万円程度、複数連携や厳格な監査を含む場合はそれ以上も想定する。これは固定価格ではなく、要件整理前の検討帯である。

見積もりを比較するときの内訳

同じ「AIエージェント開発」でも、見積範囲は異なる。次の費用が含まれているかを分けて確認する。

• 業務整理と権限ルールの設計
• 画面、認証、管理機能の開発
• AIモデル利用料と検索基盤
• 外部サービスとの接続・認証
• テストデータ作成と権限別の検証
• ログ保管、監視、バックアップ
• 導入研修、マニュアル、運用支援
• 公開後の保守と仕様変更への対応

月額費用には、クラウド、モデル・API利用、監視、問い合わせ対応が含まれる場合がある。利用人数だけでなく、依頼回数、文書量、保存期間、外部接続数による従量課金も確認する。

戸惑井 源三： なるほどな。安い見積でも、「検索だけ」なのか「送信まで」なのかで全然違うんや。わしなら、見積書にできることと、できへんことを大きく書いてもらう。

承認が必要な処理を分ける

すべてを承認制にすると利用されなくなる。逆に、送信や更新を無条件に許すと影響が大きい。

承認の候補は次のとおりである。

• 外部へのメール・メッセージ送信
• 顧客情報や契約情報の更新
• 金額を伴う発注や予約
• 大量データの出力・削除
• 機密区分の高い文書へのアクセス

閲覧だけの処理でも、個人情報や人事情報は対象を限定する。利用者の役職だけでなく、依頼目的、対象件数、実行時間などを条件に加える設計もある。

監査ログに残す内容

結果だけでは原因を追えない。最低限、利用者、依頼時刻、利用した機能、参照対象、承認者、実行結果、エラーを残す。

AIの内部推論をそのまま保存するのではなく、監査に必要な入力、ルール、処理、結果を整理する。ログ自体にも機密情報が含まれるため、閲覧権限と保存期間が必要だ。

たとえば、顧客一覧を出力した場合は、誰が依頼し、どの条件で何件を取得し、どこへ渡したかを追えるようにする。回答文の作成だけなら、参照した資料の版と確認日を残す。処理の種類によって必要な証跡は違う。

監査担当が生の技術ログを読めない場合は、日付、利用者、処理、結果、承認の有無を一覧できる画面やCSV出力も検討する。見られるログを作らなければ、保存していても運用上の価値は低い。

Λ-51： 「全部保存」は安全策に見えるが、漏えい時の影響と保管費を増やす。必要性、保存期間、削除方法を先に決めるべきである。

緊急停止と復旧を設計する

停止機能は管理画面の飾りではない。誤送信、接続先の障害、権限設定ミスを検知したとき、誰がどの範囲を止めるかを決める。

1. エージェント全体を停止する
2. 特定の接続先だけを無効化する
3. 更新・送信だけを止め、閲覧を残す
4. 実行中の処理を確認する
5. 影響範囲を調べて復旧する

戸惑井 源三： 「停止」のボタンは、押したら何が止まるか書いてほしいんや。確認画面も必要やけど、緊急時に何回も聞き返されるのは困る。権限のある人が迷わず止められる練習も要るな。

小さく導入する手順

最初は、限定した文書を検索して回答案を作る範囲から始める。次に下書き、承認付き送信、限定的な更新へ進む。

• 対象部署と利用者を絞る
• 読み取り専用で精度とログを確認する
• 誤回答時の報告窓口を決める
• 承認が必要な操作を追加する
• 停止訓練と権限棚卸しを行う

便利だから権限を足すのではなく、業務上の必要性と検証結果で段階を進める。

検証で用意したいテスト

正常な依頼だけでは不十分である。権限のない文書を求める、曖昧な宛先へ送信する、大量件数を出力する、接続先が停止する、といった状況も試す。

テスト	確認する動作
権限外の検索	拒否し、理由と問い合わせ先を示す
外部送信	宛先・本文・添付を承認前に表示する
大量処理	上限で止め、管理者へ通知する
接続エラー	中途半端な更新を残さず再試行条件を示す
緊急停止	新規実行を止め、進行中処理を確認できる

Λ-51： 精度検証と権限制御の検証は分けるべきである。回答が正しくても、見てはいけない情報を参照したなら合格ではない。

まとめ

社内AIエージェントの開発費用は、モデルの選択だけでは決まらない。接続先、実行権限、承認、監査、停止と復旧が大きく影響する。

Λ-51： ワレワレの結論は、最小権限から始め、実行範囲を検証に合わせて広げることだ。

戸惑井 源三： わしの結論は、利用者にも管理者にも「今から何が起きるか」が見えることや。必要な連携と安全対策を整理したい場合は、無料見積もり相談で初期範囲を具体化できるで。