目次
「生成AIを業務に使いたいが、社内のデータを渡して大丈夫なのか」——AI導入のご相談で、必ずと言っていいほど出てくる質問です。
答えは「全部ダメ」でも「全部OK」でもありません。私たちは自社で複数の業務にAIを組み込んできましたが、その中で処理ごとに線を引くやり方に落ち着きました。社内で完結させる処理もあれば、あえてクラウドの生成AIに任せる処理もあります。
この記事では、実際に使っている判断軸と、その背景にある実例を整理します。
この記事の結論
- 線引きは「機微性・人の確認・鍵の管理」の3点で決める
- 外部に出さずに済む処理は、まず社内完結の構成を検討する
- 外から来た文章をAIに読ませる経路は、騙される前提で設計する
生成AIに業務データを渡すリスクとは
生成AIを業務に組み込むとき、リスクは大きく3つの場所にあります。
- データが外に出ること：クラウドの生成AIに渡した時点で、データは自社の管理下を離れます
- AIが誤ること・騙されること：AIの出力は常に正しいとは限らず、読ませる文章によっては意図しない動作をします
- 接続の鍵が漏れること：AIや外部サービスにつなぐAPIキーが漏れれば、データ以前に仕組みそのものが危険にさらされます
「AIに渡してよいか」という問いは、実はこの3つをまとめて聞いています。だから判断軸も3つに分けると整理しやすくなります。
線引きの3つの軸：生成AIに渡すかの判断基準
私たちが使っている判断軸は次のとおりです。
| 軸 | 確認すること | 慎重になるべきケース |
|---|---|---|
| データの機微性 | 外部に出てよいデータか | 会計データ・個人情報など |
| 人の確認の有無 | AIの出力を人が確認する工程があるか | 出力がそのまま確定・送信される |
| 鍵の管理体制 | APIキーを把握し、すぐ止められるか | 鍵の所在が分からない・共有されている |
流れにすると、次のようになります。
ポイントは、処理単位で判断することです。「会社としてAIを使うか」ではなく、「この処理にクラウドAIが必要か」を1つずつ見ていきます。
社内で完結させた処理：経費・証憑の読み取り
経費や証憑まわりの処理は、会計データそのものを扱います。ここでは、会計データを外部のクラウドAIに渡さない構成を選びました。
具体的には、次の順で情報を取り出します。
- ファイル名から読む：日付や取引先などをファイル名のルールで判別する
- PDFから抽出する：電子のPDFは、pypdf（PDFからテキストを取り出すライブラリ）で文字を抽出する
- 紙のみローカルOCR：紙をスキャンした文字情報のない書類だけ、手元のOCRに回す
生成AIを使えば「何でも読める」仕組みは簡単に作れます。しかし証憑の多くは、ファイル名と電子PDFの文字情報で十分に処理できました。外部に出す必要がないものは出さない——これが最初の線引きです。
クラウドの生成AIに任せた処理：手書き帳票の構造化
一方で、手書きの帳票を読み取って項目ごとに整理する処理は、クラウドの生成AIを使っています。手書き文字を正しく構造化するには、手元の仕組みでは精度が足りなかったためです。
その代わり、人の確認工程を必ず残しました。AIが整理した結果を人が確認してから確定する流れです。精度が必要な処理ほどAIの力を借りたくなりますが、同時に誤りの影響も大きくなります。「AIに任せる」と「AIの結果をそのまま使う」は別物として設計します。
プロンプトインジェクションの対策：外から来た文章を疑う
もう1つ、見落とされがちなリスクがあります。私たちの社内AIも、プロンプトインジェクションで騙されかけたことがあります。
プロンプトインジェクションとは、AIに読ませる文章の中に指示を紛れ込ませ、本来の動作をねじ曲げる攻撃です。メールや問い合わせなど、外部から来た文章をそのままAIに読ませる経路があると、その文章が「命令」として働いてしまうおそれがあります。
対策の基本は、前提を疑うことです。
- 外部由来の文章を扱う経路を洗い出す：どこから来た文章をAIが読んでいるかを把握する
- AIが騙される前提で権限を絞る：AIの判断だけで送信・削除などが実行されないようにする
- 人の確認を挟む：外部の文章をもとにした出力は、確定前に人が見る
ここでも2つ目の軸である「人の確認」が効いてきます。
APIキー漏洩に備える対策：インシデント時に1日でやったこと
3つ目の軸は鍵の管理です。利用中のサービスがインシデントを公表した際、私たちは1日で次の対応を行いました。
- 全APIキーのローテーション：すべての鍵を再発行し、古い鍵を使えなくする
- Sensitive化：鍵を機密値として扱う設定にし、画面などに表示されにくくする
- 二段階認証（2FA）：管理画面へのログインに2FAを設定する
1日で終えられたのは、どの鍵がどこで使われているかを把握していたからです。鍵の所在が分からない状態では、止めることも入れ替えることもできません。クラウドAIを使う前に、鍵を管理できる体制があるかを確認してください。なお、各サービスの設定項目や仕様は変わるため、最新は公式で確認してください。
まとめ
- 生成AIに渡すかは、データの機微性・人の確認の有無・鍵の管理体制の3点で判断する
- 会計データのように外部に出したくないものは、ファイル名・pypdf・ローカルOCRなどで社内完結できないか先に検討する
- 精度が要る処理はクラウドAIを使ってよいが、人の確認工程を必ず残す
- 外部から来た文章をAIに読ませる経路は、プロンプトインジェクションを前提に設計する
- APIキーの所在を把握し、いざというときにすぐ入れ替えられる状態にしておく
よくある質問
Q. 会計データを生成AIに入力しても大丈夫ですか？ 一律に禁止する必要はありませんが、外部に出さずに処理できる方法がないかを先に検討すべきです。証憑の読み取りなら、ファイル名やPDFのテキスト抽出、ローカルOCRで社内完結できる場合があります。
Q. プロンプトインジェクションとは何ですか？ AIに読ませる文章の中に指示を紛れ込ませ、本来の動作をねじ曲げる攻撃です。メールなど外部から来た文章をそのままAIに読ませる仕組みでは、AIが騙される前提で権限や確認工程を設計する必要があります。
Q. 利用中のAIサービスでインシデントが起きたら何をすべきですか？ まずAPIキーをすべて再発行し、古い鍵を無効にします。あわせて鍵を機密値として扱う設定や二段階認証を見直します。私たちは公表を受けて1日で実施しました。どの鍵がどこにあるか把握しておくことが前提です。
RENOYでは、「この業務のどこまでをAIに任せてよいか」の線引きから、社内完結の構成づくり、運用体制の整備まで、無料相談で承っています。「AIを使いたいが、データの扱いが不安で踏み出せない」という段階のご相談も歓迎です。まずはお気軽に無料個別相談（オンライン・60分）をご利用ください。サービス内容をまとめた資料は資料請求からご覧いただけます。