ざまくりプランツざまくりプランツZAMAKURI PLANTS

AI導入 / 2026-08-04

生成AIのセキュリティ対策：導入前から運用までの実務チェック

情報漏えい、プロンプト攻撃、誤情報、外部連携、サプライチェーンを層で守る実務チェック。

生成AIのセキュリティは、「機密情報を入力しない」という利用者教育だけでは守れません。アカウント、データ、モデル、外部連携、出力、ログ、供給元を含むシステムとして扱う必要があります。

責任者、許可用途、事故連絡を含む組織ルールは生成AIの社内ルール設計と併せて整備します。

IPAのAIセキュリティページは、サプライチェーン、漏えい・改ざん、学習モデルへの攻撃、学習データの汚染、個人情報・営業秘密の漏えい、偽情報・誤情報などを課題として挙げています。NISTの生成AI向けAI RMF Profileも、生成AI固有のリスクを特定し、組織の目的と優先度に合わせて管理するための行動を提示しています。

守る対象を先に決める

資産台帳へ、少なくとも次を追加します。

  • 利用サービス、モデル、バージョンまたは提供形態
  • 利用者、管理者、サービスアカウント
  • 入力データと出力データ
  • 接続するストレージ、検索、メール、コード、業務システム
  • プロンプト、評価データ、監査ログ
  • 外部提供者と再委託・サブプロセッサ

チャット画面だけを見ていると、ブラウザ拡張や外部コネクタを通じたデータ移動を見落とします。

代表的なリスクと対策

情報漏えい

誤入力、共有リンク、過剰なアクセス権、ログ転記、外部連携から情報が漏れる可能性があります。入力区分、法人向け契約、最小権限、共有制御、保存期間、削除、DLPなど、複数の層で対策します。

プロンプトインジェクション

外部文書やWebページに埋め込まれた指示が、AIの本来の目的を上書きし、秘密の開示や意図しない操作を誘う場合があります。外部コンテンツを命令として信頼しない設計、ツール権限の分離、許可リスト、重要操作前の人の承認、出力検証を組み合わせます。

誤情報と過信

生成AIは、自然な文体で誤った内容を返す可能性があります。一次情報による確認、根拠リンク、確信度ではなく検証可能性を基準にしたレビュー、用途別の評価データを用意します。重要な意思決定を生成結果だけで自動化しません。

評価ケースと回帰確認は生成AIの品質評価で扱います。

外部連携の過剰権限

メール送信、ファイル削除、コード実行などの権限をAIへ与えると、誤操作や攻撃の影響が広がります。読み取りと書き込みを分け、対象範囲を限定し、破壊的操作や外部送信には明示的承認を置きます。

サプライチェーン

モデル、API、OSSライブラリ、プラグイン、データ提供者の変更が影響します。提供者のセキュリティ情報、更新通知、脆弱性対応、データフロー、サービス終了時の移行方法を確認します。

供給者と契約条件の確認は生成AIサービスの調達・契約チェックリストへ接続します。

導入前・運用中・停止時のチェック

導入前

  • データフローと信頼境界を図示する
  • 管理者認証と最小権限を設定する
  • 禁止入力と許可用途を定める
  • 外部連携を必要最小限にする
  • テストデータで攻撃・誤操作・漏えい経路を確認する
  • インシデント連絡と停止手順を決める

運用中

  • 利用者、権限、連携を定期確認する
  • 重大な誤り、拒否漏れ、危険な操作を記録する
  • モデル・機能・契約変更時に再評価する
  • 評価用ケースで回帰を確認する
  • 不要な履歴と共有を削除する

停止・移行時

  • アカウントとトークンを無効化する
  • 保存データの削除・返却を確認する
  • 業務依存を代替手順へ戻す
  • 必要な監査証跡を規程に沿って保全する

「一度通ったテスト」を永続保証にしない

モデル、検索対象、プロンプト、連携、利用者が変われば、リスクも変わります。変更点に応じたfocused testを行い、すべてを毎回やり直すのではなく、影響する統制を選んで確認します。

まとめ

生成AIの防御は、利用者の注意だけに依存させません。最小権限、データ制御、外部連携の分離、人の承認、継続評価、停止手順を重ね、ひとつの対策が破られても被害を限定できる構成にします。

Sources