AIエージェントへの信頼は高いのに、制御できている企業は少ない

2026-10-02 · {minutes}分で読めます

AIエージェントを自社のシステムで動かしている企業に「信頼していますか」と聞けば、多くは「はい」と答えます。ところが、続けて2つ聞くと、答えは急に自信を失います。いまどのエージェントが動いているか把握していますか。誤作動した瞬間に止められますか。

これは、Harnessが公表した報告書『The State of Agent DLC 2026』に表れているパターンです。調査は、米国、英国、フランス、ドイツ、インドの大企業に勤めるエンジニアとエンジニアリングリーダー700人を対象に、Sapio Researchが2026年7月に実施しました。Harnessはこの分野のツールを販売している会社なので、結論はその点を踏まえて読む必要があります。それでも、中心となる発見は納得しやすいものです。調査した全分野で、信頼度は70%台半ばに集まっている一方、その信頼を裏付ける統制の整備率は、はるかに低いのです。

なぜエージェントには別の監督が必要なのか

従来のソフトウェアは、実行するたびに同じ動きをします。AIエージェントは、実行のたびに異なる結果を出すことがあります。その揺らぎは、エージェントを使う理由の大部分でもありますが、同時に、多くのチームがすでに持っているチェック(合格か不合格かが決まるテストスイートなど)がうまく当てはまらない理由でもあります。

数字で見るギャップ

信頼度と、実際に整っている仕組みを比べると、次のとおりです。

  • インベントリ: 77%が、自社環境で動くエージェントを漏れなく把握していると自信を持っていますが、それを確認するツールを実際に使っているのは44%です。

  • テスト: 74%が、本番前に障害を見つけられるテストだと信頼していますが、問題のあるリリースを自動でブロックする仕組みがあるのは19%です。

  • 停止: 76%が、誤作動したエージェントを15分以内に止められると考えていますが、すぐ使えるキルスイッチを持つのは33%です。

  • セキュリティ: 75%が、エージェントはエンドツーエンドで安全だと回答しましたが、このグループのセキュリティインシデント発生率(88%)は、全体(87%)とほぼ同じでした。

  • コスト: 74%が、エージェントごとの費用を把握していると答えていますが、60%が直近の四半期に予算を超過しています。

セキュリティの項目は、もう一度見る価値があります。「安全だと感じている」ことは、インシデントが起きたかどうかについて、何も教えてくれませんでした。

仕組みが崩れるところ

多くの企業は、エージェントの変更(プロンプトの修正や設定の調整など)を、通常のコードと同じパイプラインに通しています。エージェントの変更管理のために作られた専用の仕組みを持つ企業は、34%にとどまります。実際には、1行のプロンプト修正が、小さなバグ修正よりも少ない確認で本番に届いてしまうことがある、ということです。

先を行く企業は何が違うのか

報告書は、ギャップを縮めつつある組織に共通する習慣をいくつか挙げています。まず、エージェントを別のカテゴリとして扱い、コード用のパイプラインを流用せず、テスト、セキュリティチェック、インベントリ、ロールバック計画を専用に持ちます。次に、場当たり的なレビューをやめ、公開前にすべての変更が通るべき基準を一つに揃えます。確認するのはツールでも人でも構いません。そして、全員に一度に配信するのではなく、まず少人数に変更を出すカナリアリリースのように、段階的に展開します。

すでにエージェントを動かしている場合は、私たちからの提案として、まず平易なリストを作ってください。すべてのエージェントについて、担当者、触れられる範囲、止められる人を書き出すだけです。半日で終わり、何かを購入する前に、最初の2つのギャップを埋められます。

信頼には裏付けが必要です

これらのギャップは、一つひとつを見れば劇的ではありません。インベントリの欠落や、テストされていないプロンプト修正は、問題が起きるその日まで表面化しにくく、その日になって初めて、事前に持っているべきだった答えを探すことになります。最も備えができているのは、必要になる前に、可視化、テスト、機能する停止手順を整えた企業でしょう。

業務にAIを取り入れる予定があるなら、SUMはこうした統制を見据えたプラットフォームや連携の構築をお手伝いします。自動化したいことを、ぜひお問い合わせください。

出典:Harness「New Harness Report Reveals Enterprise Confidence in AI Agents Isn't Backed by Real Controls」(2026年9月10日)。Sapio Researchが実施した、技術職700人への調査に基づく。報告書全文

関連サービス

開発の進め方

AI駆動開発の進め方と、各工程でエンジニアが判断する内容。

進め方を見る

LET'S TALK

まずは小さな案件から、お試しください。

本契約の前に、トライアルでコミュニケーションと品質をご確認いただけます。

  1. 01 お問い合わせ
  2. 02 ヒアリング
  3. 03 ご提案・お見積り
  4. 04 トライアル
  5. 05 ご契約・開発