AIエージェントの利活用|自律性と人間の関与・ガードレール【ITパスポート】

ITパスポート試験

ITパスポート 第2部 データ・AIの利活用10-4 AI エージェント利活用最終更新 2026-10-18

AIエージェントは、目標を伝えると、状況を見ながらツールやシステムを自分で操作して、仕事を最後まで進めるAIです。

AIエージェントとは ── 答えるだけでなく、実行する

総務省・経済産業省のAI事業者ガイドラインは、AIエージェントを「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」と定めています。

チャットで質問して使う生成AIは、基本的に答えを返すところまでです(使い方は10-3 生成AI 利活用)。 返ってきた答えをもとに、予約の画面を開いたりメールを送ったりするのは人です。 AIエージェントは、その先の実行までを受け持ちます。

生成AIのチャットとAIエージェントの違い。左=生成AIのチャット:人が「質問」し、AIが「回答」する。答えを返すところまで。右=AIエージェント:「目標」を受け取ると、状況を把握する→計画を立てる→ツールやシステムで実行する→結果を確かめる、をくり返す。目標に向けて自分で動く。

チャットは答えを返すところまで。AIエージェントは、目標に向けて実行まで自分で進めます。

たとえば「来週の大阪出張を手配して」と頼むと、AIエージェントは予定表で空いている日を確かめ、会社の旅費の規程に合う便とホテルを探し、予約し、出張の申請を出す、という手順を自分で組み立てて進めます。 満席なら別の便を探し直します。状況の把握・計画・実行・結果の確認のくり返しです。 AIエージェントは、目標を受け取ると、手順を自分で組み立てて、ツールやシステムを操作しながら実行まで進めます。

似た言葉と区別しておきます。RPAは、人が決めた操作の手順をそのままくり返すツールで、状況に応じて手順を組み替えることはしません。 また、強化学習で「エージェント」と呼ぶのは、試行錯誤しながら学習する側のことで、この回のAIエージェントとは使われ方が違います。

活用領域と活用目的

AI事業者ガイドラインの別添は、AIエージェントの例として次のようなサービスを挙げています。

AIエージェントの活用領域。3枚のカード。旅行の提案・予約(行き先と便を提案する、空席の確認から予約の確定まで)。営業・問い合わせの支援(顧客管理のシステムと連携する、商談の日程調整やメールの配信)。業務の流れに沿った自動化(業務の手順を組み立てる、その手順どおりに自律的に動く)。下の帯に「目的 何段階もの作業を一続きで任せ、人の負荷を減らす」。

どの例も、いくつものシステムをまたぐ作業を、一続きで任せています。

旅行の提案・予約 … 利用者の希望に合う行き先と便を提案し、外部の予約システムと連携して、空席の確認から予約の確定まで一続きで行う

営業・問い合わせの支援 … 顧客管理や営業支援のシステムと連携し、見込み客の管理、商談の日程の調整、一人ひとりに合わせたメールの配信まで行う

業務の流れに沿った自動化 … 利用者が自社の業務の手順(ワークフロー)を組み、その手順に従って自律的に動くAIエージェントを作る

どの例にも共通するのは、いくつものシステムをまたぐ、何段階もの作業を任せている点です。 ガイドラインの別添は、AIエージェントによって複雑な業務の流れを効率化し、人の負荷を大きく減らせること、これまで人手に頼っていた調整・分析・意思決定を自動化できることを挙げています。 AIエージェントを使う目的は、何段階もの作業を一続きで任せて、人の負荷を減らすことです。

自律性と人間の関与

自律性は、AIが人の指示を待たずに、自分で判断して動ける度合いです。 ガイドラインは、AIエージェントの定義にいう自律について「高度な自律状態だけを指しているのではなく、ある程度の自律性を持つものも含む」としています。自律の度合いには幅がある、ということです。 どこまで任せるかは使う側が決めます。たとえば案を出すだけ、人が承認してから実行させる、実行まで任せて人は見守る、のように段階を分けて考えられます。

任せ方を考えるときに見るのは、AIの誤りがどこに出るかです。チャットの生成AIの誤りは、まちがった文章として出てきます。 AIエージェントの誤りは、実行された操作として出てきます。 ガイドラインの別添は、人の意図しない商品の注文やファイルの削除をしてしまう可能性、外から操られて社内のデータを外部に送ってしまう可能性を挙げています。 読み込んだメールやWebページに悪意のある指示が紛れ込んでいて、それに従ってしまう、ということも起こりえます。

AIエージェントへの人間の関与を、仕事の流れに沿った3つの段階で示した図。実行の前=重要な操作は人が承認する。動作中=動きを見守り、止められるようにする。実行のあと=記録を確かめ、再発を防ぐ。

人の関与は、実行の前・動作中・実行のあとの3か所で考えます。

そこで、人の関わり方を実行の前・動作中・実行のあとの3か所に分けて決めておきます。ガイドラインの別添も、事前と動作時の人間の関与、事後の再発防止策の検討を挙げています。

人間の関与の3か所

実行の前 … 送金・発注・削除・社外への送信など、重要な操作は人が承認してから実行させる

動作中 … 何をしているかを見守り、おかしな動きをしたら止められるようにしておく

実行のあと … 操作の記録(ログ)を残して確かめ、問題があれば原因を調べて再発を防ぐ

承認をはさむ操作は、重要度に応じて選びます。ガイドラインの別添も、人の判断が必要な事項を重要度に応じて整理し、対象を選ぶことが重要だとしています。 空席を調べるだけの操作まで毎回承認させると、確認が多すぎて目を通さずに承認するようになり、人の関与が形だけになります。 取り返しのつかない操作や、人の権利や利益に大きく関わる操作ほど、実行の前に人が確かめます。

AIの流れに人が直接関わるヒューマンインザループ、実行はAIに任せて人が全体を監視するヒューマンオンザループ、自動化バイアスの考え方は、27-2 AI 倫理・AI ガバナンスで扱っています。

ある会社が、備品の在庫が減ったら発注までを行うAIエージェントを導入します。人間の関与の決め方として、最も適切なものはどれですか。

ガードレール ── 動ける範囲を先に決める

人がすべての動きを見張り続けることはできません。ガイドラインの別添も、AIエージェントの自律性が高まると、人の監視だけでは、AIどうしの高速なやり取りに対応しきれなくなる場合があることを指摘しています。 そこで、AIがはみ出してはいけない範囲を、あらかじめ仕組みとして決めておきます。これをガードレールといいます。 道路のガードレールが、運転を誤った車が道から外れるのを防ぐのと同じ考え方です。

ガードレール ── はみ出さない範囲を先に決める。道路を走るロボットの両側にガードレールがあり、3枚の看板が立っている。安全性への配慮=許可した操作とシステムだけを使う。倫理的配慮=不適切な表現を出さない。法令順守=個人情報を勝手に外へ出さない。

AIエージェントが自分で動いても、外へはみ出さないように、範囲を仕組みで決めておきます。

ガードレールは、次のような面から考えます。

ガードレールで配慮すること

安全性への配慮 … 連携できるツールやシステムを許可した一覧のものに限る。仕事に関係のない話題や操作には進ませない。悪意のある指示に乗っ取られにくくする

倫理的配慮 … 差別的な表現や不適切な言葉を含む出力を検知して止める

法令順守 … 法令や社内の規程に反する操作をさせない。たとえば顧客の個人データを、本人の同意なく第三者に渡す操作を止める(個人データを第三者に提供するには、法律で原則として本人の同意が要る。個人情報保護の回)

出張の手配の例でいえば、「使ってよいのは社内の予定表と旅費の規程と、契約している予約サイトだけ」「規程の上限を超える予約はしない」「社員の個人情報は予約に要る分しか外へ渡さない」といった決まりが、ガードレールになります。 ガードレールは、AIエージェントがどう動いても外へはみ出さないように、動ける範囲を仕組みで決めておくものです。

ただし、ガードレールを置けば安心、というわけではありません。想定していなかった抜け道は残ります。 ガードレールで範囲を決め、重要な操作には人の承認をはさみ、問題が起きたら機能を絞って人の判断に切り替えられるようにし、記録を見て直していく、と組み合わせて使います。 使う側も、サービスの提供者が定めた利用上の注意を守り、想定された範囲の中で使います。

社内の問い合わせに答え、必要なら手続まで行うAIエージェントを作ります。次のうち、法令順守の面から置くガードレールとして、最も適切なものはどれですか。

まとめ

この回で持ち帰ること

1. AIエージェント=特定の目標を達成するために、環境を感知し自律的に行動するAIシステム。答えを返すだけでなく、ツールやシステムを操作して実行まで進める

2. 活用の目的=いくつものシステムをまたぐ、何段階もの作業を一続きで任せ、人の負荷を減らす。例は旅行の予約、営業・問い合わせの支援、業務の流れに沿った自動化

3. 自律性には度合いがある。AIエージェントの誤りは「実行された操作」として出るので、どこまで任せるかを決める

4. 人間の関与は、実行の前(重要な操作の承認)・動作中(見守りと停止)・実行のあと(記録の確認と再発防止)。承認する操作は重要度で選ぶ

5. ガードレール=はみ出してはいけない範囲を仕組みで決めておくもの。安全性への配慮・倫理的配慮・法令順守の面から置き、人の関与と組み合わせる

教科書の一覧(現行の試験の順)教科書の一覧(新しい試験の順)過去問

ITパスポートのUdemy講座を口コミで比べる。動画講座3つ・問題集3つ、受講者数・★評価・口コミつき。広告を含むページですITパスポートのUdemy講座を口コミで比べる。動画講座3つ・問題集3つ、受講者数・★評価・口コミつき。広告を含むページです

Udemy の ITパスポート講座を、受講者数・★評価・口コミで比べたページです(広告を含みます)。

出典:IPA「ITパスポート試験 シラバス(案)Ver0.1」(2026年8月31日)、「ITパスポート試験 シラバス Ver6.5」、 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」本編・別添(2026年3月31日)、個人情報の保護に関する法律 第27条。 練習問題は当サイトが説明のために作ったものです。

タイトルとURLをコピーしました