AIに仕事を任せる企業が増えるなか、「使いすぎて請求が膨らむ」「社外秘がAIに流れる」という不安に先回りする仕組みが、日本でも使えるようになった。システム同士のデータ連携を専門とする米国企業Boomi（ブーミ）が、AIを会社で安全に使うための管理基盤を国内向けに提供し始めた。日本航空（JAL）なども使う会社だ。9月に米国で発表したものが、10月に日本向けとして届いた。
試験的に使う段階から、本格的に任せる段階へ。その間にある壁を崩せるのか。
Boomi、AI管理基盤を日本で提供開始
9月に発表された基盤
中身は大きく2つだ。AIの利用額に上限を設けること。そして、機密情報をAIに送る前に自動で隠すこと。
対象は「AIエージェント」と呼ばれるAIである。質問に答えるだけの従来のチャットAIと違い、人に代わって予約の手配や書類の処理といった業務を自分で進める。便利な反面、人の目が届かないところで動く時間が長くなる。
管理基盤は、AIと社内システムの間に置く「関所」のような役割を担う。AIに向かう通信がここを必ず通り、使いすぎていないか、見せてはいけない情報が混ざっていないかを確かめられる。Boomiはこの仕組みをAIエージェントの管理基盤として業界初の位置づけと説明している。
なぜ今、関所が必要なのか。調査の数字がその理由を示している。Boomiが委託した調査（Forrester Consulting実施）では、経営層の86%がAIを試験導入の段階から先へ進めていた。ところが、AIエージェントの行動を完全に信頼しているのは34%にとどまる。技術は動いているのに、任せきれない企業が多数派ということだ。
10月に加わった日本向け対応
米国での発表から約1か月後、この基盤は日本の企業向けに提供が始まった。日本企業にとって大きいのは、データを国内に置いたまま使えることだ。社内の機密や顧客情報が海外に出ていく不安を、最初から抱えずに済む。
ただし、データをどこの施設に置くのか、個人情報保護法などの国内ルールにどう対応するのか、日本語での問い合わせ窓口がどこまであるのか。こうした導入判断に欠かせない細部は、今回の発表では詳しく示されていない。検討する企業は、契約前にBoomiへ確認する必要がある。
管理の甘さがもたらす損害は、すでに数字で見え始めている。同じ調査では、準備不足のままAIエージェントを導入した企業に、平均で210万ドル（約3億円）の追加コストが生じていた。さらに調査会社のGartnerは、2027年までに企業の40%が、管理の欠如による本番環境のトラブルを理由に、AIエージェントの権限を縮小するか運用を止めざるを得なくなると予測している。
導入実績は国内にもある。JALはBoomiの基盤でシステムやデータの連携を見直し、AIエージェントの統制にも使っている。伊藤忠商事の完全子会社で小型建設機械を扱うMultiquip（マルチクイップ）は、基幹システムとAIを結び、部品の検索時間を90%減らした。誤回答の発生率も0.5%未満に抑えたという。
ただし、調査も事例もBoomi側が公表したものだ。Boomiに利害のない第三者が効果を検証した結果ではない。関所を置けばAIを信頼できるのか。その答えは、導入した企業の現場が出すことになる。
AIの使いすぎを予算で止める
AIは、使った分だけお金がかかる仕組みが主流だ。文字の量を「トークン」という単位で数え、その量に応じて料金が決まる。長い資料を読み込ませたり、システムが自動で何千回も問い合わせたりすれば、請求額はその分だけ増える。AIエージェントは人が見ていないところで動き続けるため、使われ方が見えにくい。気づいたときには、予算を大きく超えていることがある。調査で見えた平均約3億円の追加コストも、こうした準備不足から生じたものだ。
利用額と通信を管理する「AI Gateway」は、この問題を、AIに問い合わせが届く手前で止める。通った量をその場で数え、決めておいた上限を超えると、それ以上は通さない。
上限は、会社全体、部門、個人、AIエージェントごとに決められる。「営業部は月にこの額まで」「このエージェントはここまで」といった線引きが、一か所でできる。量を数える機能と、短時間に問い合わせられる回数を絞る機能を組み合わせているため、一気に使われて予算を使い切る事態も防げる。
これにより運用の順番が変わる。これまでは月末に請求書が届いて、はじめて使いすぎに気づいた。この基盤では、使っている最中に利用量を確認でき、上限に達した時点で止まる。
また、特定のAIに縛られない。ChatGPT、Claude、Geminiなど、会社が使うAIを同じ入口にまとめて管理できる。AIごとに別々の管理画面を見る必要はない。
機密情報を送信前に隠す
請求額を抑えられても、もう一つ不安が残る。AIに渡した社内の情報が、外に漏れないかという点だ。
AIに仕事を頼むということは、社内のデータをAIに渡すということだ。そこに顧客の名前や住所、口座番号が混ざっていたらどうなるか。利用条件によっては、渡した内容がAIの学習に使われることがある。学習に取り込まれた情報は、あとから取り戻せない。新製品の設計や取引条件といった会社の秘密も同じ危険にさらされる。
AIエージェントは人の手を離れて動くため、うっかり混ぜてしまった情報に誰も気づかないまま送られかねない。Multiquipのように、受注や在庫、顧客の記録を扱う基幹システムとAIを結ぶ企業ならなおさらだ。つなぐほど、AIの手元に届く情報の幅は広がる。
そこでBoomiは、使いすぎを見張る同じ入口で、データの中身も調べる。AIに渡す情報を守る「Model Guardrails」がその役目で、検査を担うのが「Boomi DataDetective」だ。AIに送る前のデータから個人情報や機密情報を自動で見つけ出し、書類の黒塗りのように伏せ字にして（マスキング）から送り出す。AIに届くのは、隠したあとのデータだけである。
従来のやり方は、人が一つずつ指定する方式だった。「この列は氏名だから隠す」「あの列は口座番号だから隠す」と、項目ごとに設定していく。項目が増えるたびに作業も増え、指定を忘れた項目はそのまま素通りする。
DataDetectiveは、データの項目名や並び方といった構造を手がかりに、AIが機密かどうかを判定する。たとえば項目名が「顧客氏名」や「口座番号」なら、人が指定しなくても隠す対象と見なす。指定漏れの心配は小さくなる。
順番が大事なのは、AIの側に渡ってしまってから「やはり消してほしい」と頼んでも、手遅れになりやすいからだ。送る前に隠しておけば、顧客の名前も口座番号も、そもそも外に出ていない。学習データに取り込まれる心配をする必要がなくなる。
もっとも、自動判定である以上、どこまで見逃さずに拾えるかは現場で試して確かめるしかない。
これで、費用と情報という二つの不安は、AIの手前で押さえられる。ただ、関所が守れるのは、AIに入るものと使う量までだ。AIが出した答えを、そのまま実行してよいのか。この問いは、関所では解けない。
重要業務は人が承認する
Boomiの基盤は、ここにも歯止めを置く。送金や顧客データの書き換えなど、影響の大きい操作をAIが実行しようとした時点で、処理がいったん止まる。担当者が内容を見て、承認するか却下するかを決める。人が最後に判を押さない限り、AIは先へ進めない。どの操作を止めるかは、企業側が決めて組み込める。大口の支払いや人事情報の変更が、その典型例だ。
この仕組みは、AIの判断が間違っていたときの歯止めになる。さらにBoomiは、AIがいつ、どのデータをもとに判断したかを記録として残せると説明している。後から監査が入っても、当時の判断を再現して説明できるという。
売る側も、全自動にはしていない。Boomiのトップは、自社の経理業務の約50%をAIが実行していると明かした。そのうえで、人による最終確認を入れているという。AIを売る会社が、自分の経理では最後の確認を人に残している。
関所を置いたうえで本番に使っている例もある。米国のLexitas（レキシタス）は、支払処理の約50%を自律型のAIエージェントで自動化した。いずれもBoomiが公表した数字で、管理の仕組みがあったから本番で使えた、という文脈で語られている。
では、この仕組み全体は何のためにあるのか。費用の節約のためではない。Gartnerの予測は、管理が追いつかない企業ほど、AIを任せる範囲を狭めざるを得なくなることを示している。あくまで予測であり、期限は2027年までと区切られている。この予測が当たるなら、上限、伏せ字、人の承認は、節約の道具ではなくなる。AIを止めずに使い続けるための条件になる。
もっとも、関所が整っても、どこまでAIに権限を渡すかを決めるのは企業の側だ。仕組みは判断を助けるが、判断そのものは代わってくれない。
