トラベルボイス | 観光産業ニュース 読者数 No.1
総務省と経済産業省は2026年3月31日、新たに改定した「AI事業者ガイドライン（第1.2版）」を公表した。このガイドラインは、日本におけるAIガバナンスの統一的な指針を示すもの。今回の改訂では、「AIエージェント」や「フィジカルAI」の登場を踏まえたリスク整理や、AIガバナンスの具体化が大きな柱となっている。付属資料では、その定義や期待、新たなリスクなどが示され、旅行分野における自律型AIの具体例も盛り込まれた。
また、ガイドラインでは、対象者を「AI開発者」「AI提供者」「AI利用者」の3つに大別し、それぞれが「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」「アカウンタビリティ」「教育・リテラシー」「公正競争確保」という9つの共通の指針に沿って取り組むべき事項を整理している。
AI開発者・提供者・利用者それぞれに対する留意事項も強化された。共通して強調されたのは、人間の判断の介在やプライバシー・セキュリティに配慮した運用、関連情報の文書化やトレーサビリティの確保など。AIエージェントの自律的な判断に対しては、重要な意思決定に人間の関与を組み込むことが必要とし、個人情報の不適切入力の防止や、適切なデータの学習、システム・サービスの更新内容の管理、ログ（操作履歴や入出力記録等）の管理体制整備も求めている。さらに、AIモデルの真正性確認や適切な権限設定、操作履歴の確認・ログ管理の重要性が示され、自律型AIの運用には継続的な監視体制の重要性も示した。
「AIエージェント」の位置づけリスク
技術の進化を反映し、第1.2版の付属資料では、AIエージェントについて、ユーザーの意図を理解し、自律的にタスクを遂行することで、複雑な業務プロセスを効率化し、人的負荷を大幅に削減できるものとして説明している。また、フィジカルAIについては、少子高齢化による労働力不足を補い、人と協働して生産性を向上させることが期待されると整理した。
従来のAIによる予測やコンテンツ生成にとどまらず、自らタスクを実行するAIエージェントの普及は、業務の飛躍的な効率化や新たな便益の創出が期待されている。 一方で、AIの利用範囲拡大に伴う社会的リスクの増大にも警鐘を鳴らしている。
特に、AIエージェントやマルチモーダルな生成AI、フィジカルAIのように複雑で多様な情報を扱うシステムでは、従来のAIに比べて多様な入力経路や外部連携が増えるため、攻撃される対象が拡大し、データ汚染や悪意あるプロンプト攻撃のリスクがさらに高まるとした。
また、自律的な動作の中で、「人間の意図しない商品の注文やファイル削除等の動作を行う可能性がある」といった、ハルシネーション等による誤った出力の危険性も指摘している。
旅行分野の事例：自律型「旅行先提案・予約AIエージェント」
ガイドラインの付属資料では、各分野のAIシステム・サービスの具体例が紹介されている。
観光分野においては、ある航空会社が提供する「旅行先提案・予約AIエージェント」を紹介した。このサービスは、従来のFAQ応答型や予約サポート型AIとは違い、ユーザーの希望条件に応じて最適な旅行先やフライトオプションを提案し、外部の予約システム等と自律的に連携。空席確認から便の選択、実際の予約確定までを一連のワークフローとして実行できる。
しかし、このような自律型の高度なAIサービスを提供するにあたっては、システム間の連携において特有のリスクがある。外部APIの呼び出しや社内外システムとの物理的な連携・認証がおこなわれるため、インフラ構築における強固なセキュリティ対策が不可欠とした。
また、AIエージェントが自律的に顧客の予約手続き（決済や個人情報の取り扱いを含む）を完結させることから、「意図しない商品の注文（誤予約）」といったリスクを防止するセーフガードの徹底や、必要に応じて人間の判断の介在が求められることも示した。