ブログ/YBB

AIが読んだメールの中の指示、会社の依頼と同じに扱っていい?

著者:

メールを読んで、要点をまとめてもらう。
返信の下書きまで作れたら、助かりそうです。

ただ、そのメールの中に、別の作業をするよう書かれていたら、どう扱うでしょうか。
読む資料に書かれたことと、会社がAIに頼んだこと。その境界を、先に考えておきたいんです。

読ませた文章が、作業の指示になるとは限らない

ここからは架空の例です。AIにメールの要約だけを頼んだところ、本文に別の資料を外へ送るよう求める記述があったとします。

会社が許可したのは要約です。本文に何かが書かれているだけで、資料を探すことや送信することまで許可したわけではありません。

OpenAIは、第三者の文章に含まれた悪意ある指示が、AIを利用者の意図と違う行動へ誘導する問題を説明しています。こうした問題は「プロンプトインジェクション」と呼ばれます。参考:OpenAI公式「Understanding prompt injections」

これは今回、実際の会社で起きた事故を紹介しているのではありません。
メールやWebをAIに読ませ、さらに操作も任せるときの、仕事の設計についての話です。

「読める」と「送ってよい」を分ける

ある資料をAIが参照できることと、その内容を誰かへ送ってよいことは別です。

例えばメール対応なら、次のように作業を分けられます。

  • 読む対象は、指定したメールだけ。
  • 作るのは、社内で確認する要約や下書き。
  • 実際の送信や別資料の共有は、人が宛先と内容を確認する。

使う製品や連携方法で、設定できる範囲は異なります。依頼文に書くだけでなく、接続する資料や操作権限を必要な範囲へ絞れるかも、管理担当者と確認します。

注意書きを一文加えれば、あらゆる問題を防げるということではありません。

便利さを、許可の広さだけで増やさない

最初から全メール、全フォルダー、送信まで任せる必要はありません。
まず、どの仕事なら、読むだけや下書きまででも助かるかを考えてみる。

試行には機密を含まない架空の材料を使い、想定と違う依頼が資料に含まれた場合は、人へ確認を戻す進め方を決めます。攻撃を再現したり、本物の資料を外へ送ったりする必要はありません。

今日できるのは、一つの業務に「読む範囲」「下書きまでの範囲」「人が確認する操作」を書き添えることです。

AIが読んだ内容に仕事を動かされるのではなく、自分たちが決めた仕事のためにAIを使う。その順序を大切にしたいと思います。

YBBでは、経営者と現場の仕事を見ながら、一つの実業務からAI活用を考え、試していきます。専門的な安全設計は、管理担当者や適切な専門家と確認しながら進めます。

企業AI導入・組織づくり支援「YBB」について

※公式資料確認日:2026年11月3日。製品ごとの機能や権限設定は、利用時の公式案内で確認してください。

← ブログ一覧へ戻る

YCBとYBB、
どちらが合うか迷う方も。

今の仕事と相談したいことをお聞かせください。研修・講演・協業のご相談も、こちらで受け付けています。