AIエージェントとは？業務で任せられる作業と、人が判断を残す箇所

「AIエージェント」という言葉を、AIツールの案内やニュースで見かけることが増えました。ただ、チャットで質問に答えるAIと何が違うのか、自社の業務のどこを任せられるのかは、言葉だけでは分かりにくいものです。

この記事では、AIエージェントの仕組みをチャットとの違いから説明し、問い合わせの一次対応を例に、任せやすい作業と人が判断を残す箇所を整理します。結論としては、情報を調べて下書きを作るところまではエージェントに任せ、お客様への送信やシステムへの登録のように外部に影響する操作は、人が確認してから実行する形で始めると安全です。

AIエージェントの仕組み

AIエージェントは、人から目標を受け取り、必要な手順を組み立てて、道具を使いながら作業を進める仕組みです。ここでいう道具は、社内文書の検索、業務システムのデータの参照、メールの下書きの作成など、プログラムから呼び出せる機能を指します。

エージェントは、次の流れを繰り返して作業を進めます。

1. 目標と現在の状況を確認する
2. 次に行う手順を決める
3. 道具を呼び出して結果を受け取る
4. 結果を見て、目標に届いたかを判断する
5. 届いていなければ2に戻り、届いていれば結果をまとめる

この流れの中で、どの道具をどの順番で使うかは、AIのモデルが判断します。人が手順をすべて書いておく従来の自動化と比べると、問い合わせの内容に応じて調べる先を変えられる点が違います。その一方で、手順の選び方を誤ると、意図しない道具を使ったり、同じ処理を繰り返したりすることがあります。

チャットとの違い

チャットのAIとエージェントは、同じAIのモデルを使うことがありますが、任せる範囲が違います。

チャットでは、AIの回答を読んだ人が最後に判断します。エージェントは、道具に書き込みや送信の権限を持たせると、人が見る前に操作が終わることがあります。そのため、エージェントを導入するときは、どの道具にどこまでの権限を渡すかを先に決めます。権限の分け方はAIに社内システムを操作させるときの権限設計で詳しく説明しています。

任せやすい作業と人が判断を残す作業

エージェントに任せる作業は、結果を人が確かめやすく、誤っても取り消しやすいものから選びます。

任せやすいのは、社内文書や過去の対応履歴を調べる作業、データを参照して状況をまとめる作業、返信文や報告の下書きを作る作業です。これらは参照と作成だけで終わるため、誤りがあっても人が確認の段階で直せます。

人が判断を残すのは、お客様へのメール送信、注文や契約の登録・変更、返金や値引き、データの削除のように、外部に影響が出たり取り消しにくかったりする操作です。こうした操作は、エージェントが内容を準備し、人が承認してから実行する形にします。承認の入れ方はAIの操作に人の承認を入れる設計とは？を参考にしてください。

問い合わせの一次対応の想定例

ここからは想定例です。通信販売を行う会社のサポート担当者が、メールで届く問い合わせの一次対応にエージェントを使う場面を考えます。

エージェントが使える道具は三つです。よくある質問と対応手順をまとめた社内文書の検索、注文管理システムの参照、返信メールの下書きの作成です。注文管理システムは読み取りだけを許可し、メールの送信と注文の変更の権限は渡しません。

「先週注文した商品がまだ届かない」というメールが届いた場合、エージェントは次の順で進めます。まず問い合わせを「配送の確認」に分類し、メールにある注文番号で注文管理システムを参照します。発送日と配送状況を確認したら、社内文書から配送が遅れたときの対応手順を探します。最後に、状況と手順をもとに返信の下書きを作ります。

担当者の画面には、返信の下書きと一緒に、参照した注文情報、使った社内文書の該当箇所、エージェントが判断した分類が表示されます。担当者はそれらを見比べ、内容が正しければ送信します。メールに注文番号がない場合や、注文管理システムの情報と問い合わせの内容が合わない場合、エージェントは下書きを作らずに担当者へ戻します。

処理を止める条件を決める

エージェントを業務で使うときは、どの条件で処理を止めて人へ戻すかを、作る前に決めておきます。止める条件がないと、根拠のない返信を作ったり、失敗した処理を何度も繰り返したりします。

手順の回数や利用料の上限は、システムの設定として持たせます。AIのモデルに「何回まで」と指示するだけでは、上限が守られない場合があるためです。

記録を残して見直す

エージェントが何をしたかは、あとから人が追えるように記録します。受け取った目標、呼び出した道具と結果、作った下書き、止まった理由、人が直した内容を残すと、誤りが起きたときに、どの手順で判断を誤ったかを特定できます。

運用を始めたら、担当者が下書きを直した件数と内容、止まった理由の内訳を定期的に見ます。同じ理由で止まる問い合わせが多ければ、社内文書を追加するか、その種類の問い合わせを対象から外すかを判断します。業務を手順に分けて自動化する考え方は、定型業務をAIで自動化するときの考え方でも説明しています。

導入を始める順番

エージェントは、権限を少しずつ広げる順番で導入します。最初は社内文書の検索とデータの参照だけを許可し、調べた結果をまとめて人に見せる段階から始めます。次に下書きの作成を加え、担当者が大きく直さずに使える下書きが続くかを確かめます。外部に影響する操作を任せるのはその後で、人の承認を通してから実行する形にします。

この順番で進めると、各段階でエージェントの判断の傾向を確かめてから権限を広げられます。最初から送信や登録まで任せる設計にすると、誤りが起きたときに、どこで判断を誤ったかを調べにくくなります。

まとめ

AIエージェントは、目標を受けて道具を使いながら複数の手順を進める仕組みです。調べる作業や下書きの作成は任せやすく、送信、登録、返金のように外部に影響する操作は人が承認してから実行します。止める条件と記録の項目を先に決め、参照だけの段階から権限を広げていくと、業務への影響を抑えながら試せます。

e-GrantsのAIアプリケーション受託開発では、使う人と業務の流れを整理し、必要な画面・機能・データの扱いを設計します。よくある質問への回答案をAIが作り、担当者が確認して送る仕組みのように、人の確認を組み込んだAIアプリの開発もご相談いただけます。課題の整理から設計・開発、公開後の保守運用まで担当します。