なぜエージェンティックAIにも人間の監視が必要なのか？ Human-in-the-Loopで実現する信頼性とガバナンス

OpenText™ Content Aviator™は、自律型のAIワークフローに人間による監視とガバナンスを組み込みながら、AIの価値を最大限に引き出すことを目指しています。

エージェンティックAIは、単に質問に答えるだけの存在ではありません。情報を分析し、意思決定を支援しながら、人間の介入を最小限に抑えて複数のステップから成る業務を自律的に実行できます。その結果、生産性は大きく向上します。

一方で、新たな課題も生まれます。それは、「人間はどのような形で、どの段階まで関与すべきなのか」という問いです。

多くの業務において、人間がAIのあらゆる行動を逐一承認する必要はありません。しかし、AIがどのように動作しているのかを把握し、その判断の根拠となる情報を信頼できる状態を維持しながら、人間の判断が必要な場面では適切に介入できる仕組みが求められます。

特にAIが企業のコンテンツを扱う場合、このバランスを適切に保つことが重要になります。

AIには適切な自律性が必要

エージェンティックAIへの移行によって、AI活用の考え方は大きく変わりつつあります。

AIがより大きな価値を生み出すためには、単に質問に答えるだけでは不十分です。適切なガードレールの範囲内で、定義されたタスクを自律的に遂行できることが求められます。

これにより、組織には新たな可能性が生まれます。反復的な業務をAIが担うことで、人間は経験や文脈理解、専門知識に基づく意思決定に集中できるようになるからです。

しかし、自律性が高まるほど責任も大きくなります。

文書の草案を作成するAIと、レコードの分類やアクセス権限の変更、ワークフローの開始、さらには重要なビジネス情報に基づくアクションを実行するAIでは、その影響範囲は大きく異なります。

AIの能力が向上するほど、AIがどのような情報を利用し、どのようなアクションを実行しているのかを理解し、人間の判断をどこで介在させるべきかを明確にすることが重要になります。

目指すべきなのは、AIのあらゆる行動に人間を介在させることではありません。人間が責任と主導権を維持しながら活用できるAIワークフローを構築することです。

エンタープライズコンテンツの価値を最大化する

エージェンティックAIを業務プロセスへ導入する際、エンタープライズ・コンテンツ・マネジメント（ECM）の重要性はこれまで以上に高まります。

AIが有益な判断を行うためには、単に情報へアクセスできるだけでは不十分です。その情報の背景や関連性を含むコンテキストを理解し、既存の権限設定やポリシー、業務プロセスに従って行動できる必要があります。

OpenText Content Aviatorは、組織内のコンテンツ構造や管理ルールを理解するよう設計された、エージェンティックAI搭載のコンテンツアシスタントです。

単なるキーワード検索ではなく、ナレッジグラフを活用して情報とビジネスコンテキストを関連付けることで、実際のコンテンツや利用者の役割、業務プロセスに基づいた回答を提供します。

これにより、ユーザーは企業全体にわたるコンテンツに対して自然な言葉で質問し、自身のアクセス権限に基づいた回答を迅速に得ることができます。組織内に蓄積されたナレッジを、より効率的に活用できるようになるのです。

さらにContent Aviatorには、文書の要約、分類、比較、翻訳、機密情報のマスキング、コンテンツ生成などを担う専門特化型のAIが組み込まれています。

組織が新たな自動化の機会を見出した場合には、こうした機能を拡張し、より幅広いコンテンツ関連業務を支援することも可能です。

AIが担う業務の範囲が広がることで、人間はより付加価値の高い判断や意思決定に集中できるようになります。

ガバナンスを業務プロセスに組み込む

AIの自律性が高まったからといって、ガバナンスの重要性が低下するわけではありません。

Content Aviatorは、既存のガバナンス体制をAIによる業務プロセスにも適用できるよう設計されています。人間とAIのどちらがコンテンツを扱う場合でも、アクセス制御や保存ポリシー、監査証跡といった既存の仕組みをそのまま活用できます。

つまり、ガバナンスはAIによる処理が完了した後で実施する追加作業ではなく、コンテンツ管理プロセスそのものに組み込まれているのです。

これは、AIの役割が単なる情報検索からコンテンツの更新や管理へと広がる場面で特に重要になります。

Content Aviatorを活用すれば、人間がすべての管理業務を手作業で行わなくても、コンテンツを適切に管理できます。AIは、事前に定義されたワークフローに基づき、文書やレコードの移動、名称変更、アクセス権限の更新などのタスクを実行できます。

こうした仕組みによって、より実践的なHuman-in-the-Loop（人間が関与する仕組み）型のAI活用が実現します。AIが大量の定型業務を処理する一方で、人間は状況を把握し続け、必要な場面で判断を下すことができます。

また、従業員の業務環境を大きく変える必要もありません。Content Aviatorは、Microsoft 365 Copilot、Teams、Word、Excel、PowerPointをはじめ、Salesforce Agentforce、SAP、Googleなど、日常的に利用しているツールと連携し、企業コンテンツのインテリジェンスを提供します。

AIと人はどのように協働するのか

実際の業務プロセスを例に考えてみましょう。

例えば、担当者が顧客からのクレームへの対応方針を判断する場合、請求書や配送記録、関連するコミュニケーション履歴など、複数の文書を確認しなければならないことがあります。

従来であれば、複数のシステムから情報を収集し、それらを比較・整理した上で結論を導き出す必要がありました。

Content Aviatorを活用すると、AIが関連コンテンツを収集し、文書を要約し、情報を比較することで、次の業務プロセスへ進むための判断材料を整理します。

さらに、分類、翻訳、機密情報のマスキング、文書作成などを担う専門特化型のAIも活用できます。

もちろん、人間が業務プロセスから排除されるわけではありません。むしろ人間は、自身の専門知識や経験が最も価値を発揮する領域に集中できるようになります。

これこそが、Human-in-the-Loop（人間が関与する仕組み）を取り入れたエージェンティックAIの本質です。

AIのあらゆるアクションに信頼を組み込む

Human-in-the-Loop（人間が関与する仕組み）型AIの中心にあるのは、「信頼」です。

AIが適切な情報に基づいて行動していることを確認できること。既存のアクセス制御やガバナンスポリシーが遵守されているという確信を持てること。そして、人間による判断が必要な場面では、その役割が明確に定義されていることが重要です。

Content Aviatorは、こうした要件を前提として設計されています。

ガバナンスが確保された企業コンテンツとAIを連携させ、専門特化型のAIに業務遂行に必要なコンテキストを提供するとともに、ガバナンスそのものを業務プロセスへ組み込みます。

これにより組織は、「すべてを人手で管理する」か、「十分な統制なしにAIへ任せる」かという二者択一から脱却できます。

重要なのは、AIに多くの業務を任せながらも、重要な判断が求められる領域では人間が関与し続けることです。

エージェンティックAIが業務プロセスの一部として定着していく中でも、人間による監視の重要性が失われることはありません。むしろ、その役割はより意図的で戦略的なものへと変化していくでしょう。

AIから最大の価値を引き出せる組織とは、何を自動化し、どこでレビューを行い、どの判断を最終的に人間が下すべきかを理解している組織です。

Content Aviatorの詳細については、こちらをご覧ください。