AIへの画像入力による情報漏えいを防ぐプロンプトDLPの仕組み
- 8月25日
- 読了時間: 17分
更新日：8月31日
「テキストのコピー＆ペーストが禁止されているから、エラー画面や設計図をスクリーンショットしてAIに画像を解説させよう」
従業員の何気ないその行為が、新たなセキュリティリスク「画像経由の情報漏えい」として注目されています。
これまでは、文字テキストの送信であれば社内ルールや従来のセキュリティツールで検出・制御できていました。しかし、画像化することでセキュリティの網をかいくぐり、機密情報や個人情報が社外へ流出してしまうケースが増加しています。（参考：3）
本記事では、なぜAIへの画像入力が危険なのか、従来のテキスト監視（CASBやプロンプトDLP）の限界、そしてVision APIやOCR（Optical Character Recognition：光学文字認識）を活用した最新の「マルチモーダルAI対応プロンプトDLP」の仕組みと実務的なセキュリティ対策までをわかりやすく解説します。
INDEX
なぜChatGPT等のAIへの画像入力で情報漏えいが起こるのか？
ChatGPTなどの生成AIに対する「画像入力」は、人間の目にはただの画像に見えても、AIにとっては「読み取り可能なテキストデータの塊」です。AIの画像認識技術の進化により、画像に含まれるテキストや構造情報は一瞬で解読されます。
「画像ならテキスト検知に引っかからないだろう」という心理的な油断と、会社が把握していない「シャドーAI（Shadow AI）」の利用が重なることで、個人情報やソースコードがAIの学習データに取り込まれ、深刻な情報漏えいを引き起こすリスクが高まっています。
▶︎マルチモーダルAI（画像認識機能）が生み出す新しいリスク経路
「マルチモーダルAI」とは、テキストだけでなく画像・音声・動画など、複数の種類のデータを同時に処理できるAIシステムです。
ChatGPTをはじめ、GeminiやClaudeといった主要なAIモデルは、アップロードされたスクリーンショットや画像の内容を瞬時に解釈し、その情報をもとにテキストを生成する高度な画像・テキスト解析能力を備えています。（参考：7）
この技術的進歩は業務効率を劇的に向上させた一方、セキュリティ面では「まったく新しい情報漏えいルート」を生み出しました。
従来のDLP（データ流出防止策）は、HTTPリクエストのテキストボディやクリップボードの文字列を監視していましたが、画像の中身までスキャンする仕組みを持っていません。そのため、従業員が「顧客データベースの画面をスクリーンショットしてAIに貼り付ける」だけで、従来の防御線を容易にスルーし、機密情報が外部AIへ漏えいしてしまうのです。
▶︎「シャドーAI」利用が招く学習データ化と機密漏えいリスク
企業において最も懸念されるのが、管理者の目が届かないプライベートアカウントや許可されていないAIツールを業務利用する「シャドーAI」の存在です。
CybSafe/NCA（全米サイバーセキュリティ連盟）の調査（2024年）によれば、AIを業務利用している従業員の3分の1以上（38%）が、雇用主の許可を得ずにAIツールへ機密情報を共有していることが明らかになっています。（参考：6）
従業員自身は「単にエラー画面を見てもらっただけ」「業務を効率化しただけ」という無自覚な認識であっても、無料プランや個人アカウントでオプトアウト設定をしていない場合、入力データがAIモデルの学習・蓄積に利用されるリスクがあります（学習設定・プランによって異なります）。
▶︎「テキストではないから安全」という誤解——画像に仕込まれた指示のリスク
現場の従業員や管理者の間に広がる「文字を打ち込んでいないスクリーンショットの画像なら、ログにも残りにくく安全だろう」という認識は、セキュリティ上、大きな間違いです。
実際には、生成AIは画像を内部でOCR（光学文字認識）処理し、画像内の文字をテキストデータに変換した上で解釈・処理しています。
さらに近年、マルチモーダルAIを狙った高度な攻撃手法として画像経由のプロンプトインジェクション（Image-based Prompt Injection）が注目を集めています。これは、画像内に人間の目では認識しにくい悪意ある指示文（テキスト）を仕込み、AIに予期せぬ動作を行わせる手法です。悪質な画像をAIに読み込ませた場合、システムの乗っ取りやさらなる情報漏えいにつながる恐れがあります。（参考：5）
「画像だから安全」という思い込みは技術的にも完全に誤りであり、今最も対策を急ぐべきセキュリティの穴となっています。
スクリーンショット・画像経由で実際に漏えいする情報の具体例
画像やスクリーンショットを経由した情報漏えいは、企業に甚大なビジネス被害をもたらします。個人情報をはじめ、システム構成図やソースコード、財務・契約データに至るまで、企業の根幹に関わるあらゆる情報が対象となり、一瞬にして重大なインシデントへと発展する危険性を秘めています。（参考：4）
事例1：個人情報・顧客データが含まれた画面キャプチャの誤送信
最も頻繁に発生し、かつ法的リスクが極めて高いのが個人情報や顧客データの流出です。
よくある具体シーン
●CRM（顧客管理システム）やSFA（営業支援ツール）の画面をスクリーンショットし、「この顧客リストを属性別に分類して」とChatGPTに指示。
●問い合わせフォームに届いた顧客からの苦情メール画面をキャプチャし、「適切な返信文案を作成して」と指示。
漏えいする情報
顧客の氏名、電話番号、メールアドレス、住所、購入履歴、クレジットカード情報の一部など。
法的な影響
スクリーンショットに含まれる顧客情報は、個人情報保護法における「個人データ」に該当します。これを本人の同意やデータの再学習を防ぐ適切な設定（オプトアウトなど）なしに外部AIサービスへ送信する行為は、個人情報保護法第27条（第三者提供の制限）や関連ガイドラインに抵触する重大なコンプライアンス違反です。（参考：2）
日本の個人情報保護法やEUのGDPR（一般データ保護規制）に抵触した場合、監督機関への報告義務や本人への個別通知が生じるだけでなく、多額の制裁金やブランドイメージの失墜といった重大な損害につながるリスクがあります。
事例2：開発コードやインフラ構成図（設計書）の画像アップロード
エンジニアやプロダクトマネージャーの現場で急増しているのが、開発・技術資産の画像化による漏えいです。
よくある具体シーン
●IDE（統合開発環境）でエラーが発生した際、エラーログやソースコードを含めた画面全体をスクリーンショットして「原因と修正コードを教えて」と質問。
●AWSやAzureなどのクラウドインフラ構成図（ネットワーク設計書）の画像をアップロードし、「この設計のボトルネックや改善点をレビューして」と依頼。
漏えいする情報
独自アルゴリズム、ハードコーディングされたAPIキー・データベース接続パスワード、内部IPアドレス、サーバー構成。
セキュリティ上のリスク
未公開情報は、不正競争防止法上の「営業秘密」やコアな「知的財産」に該当します。GitHubやJira、Confluenceなどの画面スクリーンショットをオプトアウト未設定のAIに入力した場合、データがAIに学習され、競合他社など第三者のプロンプト出力として機密が流出する恐れがあります。
過去には海外の半導体大手や大手IT企業でもAI経由のソースコード流出が話題となっており、企業の競争力やインフラの安全性を根本から脅かす重大なリスクとなります。
事例3：未公開の決算資料や契約書スキャンデータの画像解析
経理・法務・内部統制担当者が、PDFスキャンした契約書や決算資料の内容をAIに解析させようとして、そのままスキャン画像をアップロードするケースもリスクが高い場面です。
よくある具体シーン
●役員会議で使用する未公開の決算数値グラフや事業計画書のパワーポイントスライドを画像化し、「要約用のエグゼクティブサマリーを作って」と依頼。
●取引先から紙で受領した手書き署名入りの契約書をスキャン（PDF/画像化）し、「法的リスクや不利な条項がないかチェックして」とアップロード。
漏えいする情報
インサイダー取引該当情報（未公開の業績、M&A情報）、取引条件、違約金条項、社外秘の利益率。
ビジネス・法的リスク
インサイダー情報や厳格な秘密保持契約（NDA）に関わる情報をAIベンダー側へアップロードすることは、重大な法令・契約違反を招きます。これにより、インサイダー取引規制違反による法的処罰や、競合他社への戦略漏えいのリスクが発生します。さらに、取引先からのNDA違反に基づく損害賠償請求（契約内容によっては高額になり得ます）や、企業の社会的信用失墜へと直結するため、厳重な管理が必要です。
従来のプロンプトDLP・CASBが「画像入力」を防げない理由
従来のプロンプトDLPやCASBは、HTTPリクエストのテキスト部分のみを監視します。画像ファイルの中に含まれる文字情報は検知できず、ネットワークをそのまま通過してしまうため、従来のセキュリティ製品だけでは画像経由の漏えいを防止できません。
▶︎従来のプロンプトDLP・CASBの監視範囲と限界
企業がこれまで導入してきた代表的なデータ漏えい防止策として、CASB（キャスビー）や従来型のプロンプトDLP（Data Loss Prevention）があります。しかし、これら従来のツールには明確な限界があります。
従来のプロンプトDLPの検知プロセス
プロンプトDLP（Data Loss Prevention）は、生成AIへの入力テキストをリアルタイムで監視し、機密情報や個人情報の流出を防ぐセキュリティ技術です。
従業員がブラウザからAIの入力欄にテキストを送信する際、DLP製品が通信を中継し、クレジットカード番号などの特定の数字パターンやマイナンバー、さらには「極秘」「インサイダー」といった禁止キーワードが含まれていないかをテキストベースで検査します。条件に一致するデータを検知した場合は、送信の自動遮断やマスキング処理を行うことで、外部への情報漏えいを未然に遮断します。
CASBの検知プロセス
CASB（Cloud Access Security Broker）は、従業員のクラウドサービス利用状況を可視化・制御し、セキュリティポリシーを適用するためのソリューションです。
CASBは、社内ネットワークから未認可の生成AIサービスへのアクセスをドメインやURLフィルターでブロックしたり、従業員の利用ログを監査したりする役割を担います。しかし、会社が公認する認可済みの生成AIサービスに対して画像ファイルがアップロードされた場合、その画像の中身までを検査・検知することは一般的に困難です。
▶︎テキスト検知をすり抜ける「画像データ」の壁
画像入力が従来のDLPを通過してしまう技術的要因は以下の3点に集約されます。
文字情報の非構造化
画像内の文字は「文字コード」ではなく「ピクセルの配色パターン（色空間）」として表現されています。文字列検索アルゴリズム（正規表現など）はそのままでは一切機能しません。
多種多様な拡張子とマルチモーダルフォーマット
PNG, JPEG, WebP, GIFなどの画像フォーマットに加え、PDFやクリップボード経由の直接ペーストなど、送信形態が多岐にわたるため、静的なファイル拡張子フィルターでは防ぎきれません。
処理遅延の問題
ネットワークのプロキシ（中間サーバー）段階で全ての画像ファイルを解析しようとすると、広範な計算リソースが必要となり、通信速度が極端に低下するため、従来の製品ではリアルタイム検査が回避されてきた経緯があります。
Vision API×OCRでDLPを画像対応に拡張する「マルチモーダルAI対応プロンプトDLP」の仕組み
「マルチモーダルAI対応プロンプトDLP」は、画像がAIに送信される直前のわずか数ミリ秒で「OCRによる文字抽出」と「Vision APIによる画像構造解析」を実行します。画像に含まれる機密データ（個人情報や技術資産）を瞬時に識別し、プロンプトを遮断またはマスキング（伏字化）することで情報漏えいを未然に防ぎます。
▶︎OCR（光学文字認識）による画像内テキストの高速抽出
マルチモーダルAI対応プロンプトDLPによる第一ステップは、アップロードされようとしている画像データから、含まれている文字情報をリアルタイムに復元・抽出するプロセスの実行です。ここで活用されるのが高精度なOCR技術です。
かつてのOCRは処理に数秒の時間がかかり、日本語の認識精度も低いものでした。しかし、最新のOCRエンジンは、傾いたスクリーンショットや低解像度の印刷文字であれば、数十〜数百ミリ秒で、99%以上の精度で文字を抽出可能です。これにより、「画像」を「検知可能なテキスト」へと瞬時に変換します。
※OCR（Optical Character Recognition）：紙の文書や画像に含まれる文字をカメラやスキャナで読み取り、コンピュータで利用可能なテキストデータに変換する技術。（参考：10）
▶︎Vision APIを活用した画像構造・視覚オブジェクトの解析
テキストの抽出（OCR）だけでは防ぎきれないリスクが存在します。たとえば、「文字が一切書かれていない人物の顔写真」「会社のロゴマーク」「新製品の意匠・CAD図面」「手書きの幾何学的なインフラ構成図」などです。
これらを検知するために機能するのが、「Vision API（画像認識API）」による視覚的オブジェクト・文脈の解析機能です。
Vision APIを活用したDLPは、画像が「どのような文脈（コンテキスト）を持っているか」を機械学習モデルによって高度に分類します。単なる文字の有無を超えて、「これは人事システム画面のスクリーンショットである」「これは設計図面である」といった定性的な視覚特性に基づいてセキュリティレベルを判定します。
▶︎DLPポリシーに基づく機密データのリアルタイム遮断・マスキング
OCRとVision APIで抽出されたテキスト・メタデータは、DLPポリシーエンジンによって評価されます。ポリシーに違反する場合のアクションとしては以下が一般的です。
●ブロック
AI送信自体を完全に阻止し、ユーザーに警告メッセージを表示
●マスキング
個人情報部分を「***」などで自動的に置換してから送信
●ウォーターマーク検出
機密ラベルが貼られた文書の送信をブロック
●アラート＆ログ
管理者に通知し、インシデント記録として保存
画像入力による漏えいを防ぐ4つのセキュリティ対策
画像経由の情報漏えいを防ぐには、ツール導入だけでなく「運用ルール」「契約環境」「ネットワーク制御」「意識改革」を組み合わせた重層的な対策（多層防御）が不可欠です。
対策1：マルチモーダルAI対応プロンプトDLPツールの導入と監視ルール作成
有力な技術的アプローチのひとつが、画像解析（OCR + Vision API）機能を備えた「マルチモーダルAI対応プロンプトDLP」の導入です。
導入のアプローチ
従業員のWebブラウザや社内プロキシと、認可済みの生成AI（ChatGPT Enterpriseなど）の間に、DLPの中継ゲートウェイを配置します。すべての画像アップロードリクエストをこのゲートウェイを通過させるように構成します 。
推奨されるプロンプトDLPの検知ルール設定
●個人識別情報の自動伏字化
マイナンバー、電話番号、メールアドレス、住所、クレジットカード番号を画像内から検知した場合は自動で黒塗り。
●認証情報の絶対遮断
「AWS_SECRET_ACCESS_KEY」や「 -----BEGIN PRIVATE KEY----- 」などのAPIキーや秘密鍵画像は送信を即座にブロック。
●社外秘判定ロゴ・スタンプのブロック
「極秘」「社外秘」等のウォーターマークが含まれる画像のアップロードを禁止、遮断。
対策2：オプトアウト環境の徹底とガイドライン策定
企業における生成AIの安全な利用には、まず入力データがモデルの再学習に使用されない環境の構築と規約上の担保が不可欠です。
具体的には、ChatGPTの「Enterprise」や「Team」、あるいは「Azure OpenAI Service」といったビジネス向け法人プランを契約することで、規約上データがAIモデルの学習に利用されないオプトアウト環境を確保できます。（参考：8,9）
また、自社専用の対話ポータルを開発し、OpenAI APIやGoogle CloudのVertex AI、GeminiなどのAPI経由でシステムを構築する構成にすれば、API利用データは学習対象外となるため安全性が高まります。
さらに、導入時には経済産業省などの「AI事業者ガイドライン」に沿って「社内AI利用ガイドライン」を改定し、「画像入力に関する明確なルール」を盛り込むことが重要です。（参考：1）
対策3：CASBやWebプロキシを活用した画像アップロードの遮断・ログ監査
シャドーAIを徹底的に排除するためには、ネットワーク境界での制御（CASBやSWG/Webプロキシ）を組み合わせます。
ネットワーク層での段階的制御アプローチ
●レベル1（シャドーAIの遮断）
許可されていない未承認AIサイト（例：個人用AIツール、海外の野良AIサイト）への通信自体をCASBでブロックする。
●レベル2（画像アップロード通信の制限）
未許可のAIサイトにおいて、テキスト送信は許可しつつも、「Content-Type: multipart/form-data」や「image/」形式のマルチパート通信（ファイル添付）のみをシグネチャ検知で制限する。
●レベル3（ログの長期的保持とトレーサビリティ）
いつ・どのユーザーが・どのAIサービスへ・どんな画像を入力したのか、OCR抽出テキストとともにログを最低1年間保管し、定期的な監査体制を構築する。
万が一、事故が発生した際にも「どの画像が漏えいしたか」をログから追跡できるようにしておくことが、内部統制およびコンプライアンス上の大きな要件となります。
対策4：画像入力のリスクに特化した従業員教育
システムによる制御（DLP）を潜り抜ける「最後の砦」は、従業員一人ひとりのリテラシーです。定期的な情報セキュリティ研修に「AIへの画像入力による特有のリスク」をテーマとして組み込む必要があります。
教育ではまず、エラー画面や設計図のスクリーンショットの送信はテキスト入力と同等以上に危険であり、顧客のメールアドレスなど無自覚な情報漏えいにつながる事実を、ヒヤリハット事例などを通して実感させることが重要です。また、AIの出力を過信して元画像の確認を怠る「自動化バイアス」に警鐘を鳴らし、画像編集ソフトで復元されない正しい塗りつぶし手順も周知します。さらに、システムによる制御は万全ではないことを前提に、送信前に必ず人間の目で背景の映り込みを確認するルールや、シャドーAI利用のリスク、インシデント発生時の報告フローを徹底することが求められます。
画像入力AIとプロンプトDLPに関するよくある質問（FAQ）
Q. 「オプトアウト環境」を設定していれば、画像入力の情報漏えい対策は完璧ですか？
A. いいえ、完璧ではありません。再学習による長期的な漏えいは防げますが、画像内に第三者が悪意ある命令を仕込むプロンプトインジェクション攻撃等のリスクは残ります。したがって、送信データ自体をリアルタイムで検知・マスキングするプロンプトDLPによる制御を併用することが極めて有効です。
Q. モザイクや黒塗りしたスクリーンショットならAIに入力しても安全ですか？
A. 完全な「不可逆の黒塗り（完全に透過率0%で塗りつぶす）」であれば安全ですが、不完全な加工は危険です。不透明度が不十分なモザイク処理や半透明ペンツールは、コントラスト調整やAI補正により復元されてしまうリスクがあります。
Q. 画像のマスキングとは具体的にどういう処理ですか？
A. OCRで抽出された個人情報部分を特定し、送信されるテキストプロンプト内でその情報を「***」や「[REDACTED]」などの文字列に置き換えてからAIに送信する処理です。元画像自体を黒塗り等で加工する方式もあります。
Q. 従来のCASBやDLPが画像の入力を防げないのはなぜですか？
A. 従来のCASBやDLPは、送信パケットに含まれるテキストデータのパターンを検知するように設計されているためです。スクリーンショットなどの画像は「バイナリデータ（非構造化データ）」としてネットワークを通過するため、内部にどのようなテキストが写っているのかをリアルタイムに解読・ブロックすることができず、すり抜けてしまいます。
Q. API経由でVision機能（GPT-4o等）を使う場合もDLP対策は必要ですか？
A. はい、DLP対策は必要です。OpenAIなどの主要APIサービスでは再学習されない規定（オプトアウト）になっていますが、「APIキーの誤用」「通信ログの漏えい」「プロンプトインジェクション攻撃による予期せぬデータ外部送信」などのリスクは残ります。送信前の段階で画像内の個人情報や機密データをDLPでブロック・マスキングすることは、セキュリティの多層防御において不可欠です。
まとめ
画像の抜け道を塞いで安心して生成AIをビジネス活用するために
生成AIのマルチモーダル化により、スクリーンショットの画像入力による利便性が高まる一方、従来のテキスト監視をすり抜ける「画像経由の情報漏えい」が深刻な企業リスクとなっています。
この課題への解決策が、Vision APIとOCRを組み合わせた「マルチモーダルAI対応プロンプトDLP」です。画像内テキストをリアルタイムに抽出・評価し、機密データが含まれる場合に自動で遮断・マスキングする仕組みにより、テキストと画像の両方をカバーする統合的なDLP体制を実現できます。
「安全に使える環境」をインフラとして従業員に提供したうえで、一人ひとりのAIリテラシー教育を継続する。これこそが、生成AIの大きな便益を享受しながら、企業の資産を守り抜く実践的なセキュリティの取り組み方です。
出典・参考一覧
経済産業省・総務省「AI事業者ガイドライン」 https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html
個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン（通則編）」 https://www.ppc.go.jp/personalinfo/legal/guidelines_tsusoku/
個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」 https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
IPA（独立行政法人情報処理推進機構）「情報セキュリティ10大脅威」 https://www.ipa.go.jp/security/10threats/index.html
OWASP「Top 10 for Large Language Model Applications（LLM01: Prompt Injection）」 https://owasp.org/www-project-top-10-for-large-language-model-applications/
CybSafe / National Cybersecurity Alliance (NCA) 調査レポート https://www.cybsafe.com/whitepapers/2024-security-awareness-predictions-report
OpenAI「GPT-4V(ision) System Card」 https://openai.com/index/gpt-4v-system-card/
OpenAI「Enterprise Privacy（企業向けデータ利用ポリシー）」 https://openai.com/ja-JP/enterprise-privacy/
Microsoft「Azure OpenAI Service のデータ、プライバシー、セキュリティ」（日本語） https://learn.microsoft.com/ja-jp/azure/foundry/responsible-ai/openai/data-privacy
Google Cloud「Vision API — OCR（光学文字認識）」 https://cloud.google.com/vision/docs/ocr
