LLMアプリケーションのためのセキュアプログラミング ローカルLLMによる実証と検証

詳細目次

第Ⅰ部　基礎知識と準備

第1章　LLMセキュリティの最前線
　1.1　LLMの歴史とその変遷
　1.2　情報セキュリティの歴史とLLMセキュリティ
　1.3　プロンプトインジェクションの脅威
　1.4　LLMへの脱獄攻撃
　1.5　世界が警戒するLLMの脆弱性と実社会のリスク
　1.6　最先端の研究が解き明かすLLM攻撃の正体

第2章　準備と実験環境の構築
　2.1　Python環境と仮想環境の構築
　2.2　Ollamaのインストールとモデルの準備
　2.3　ローカルLLMの構成
　2.4　Hello Ollamaプログラム
　2.5　セキュリティ実験：脱獄攻撃とLLMの反応
　2.5　脱獄攻撃からLLMをどう守るか


第Ⅱ部　基礎編：セキュアプログラミングの実践

第3章　LLMセキュリティの基本
　3.1　入力サニタイズの重要性
　3.2　キーワードによる防御
　3.3　難読化攻撃
　3.4　多言語攻撃
　3.5　ガードレール設計と限界
　3.6　デルタチェックによる防御
　3.7　少数ショット学習による防御
　3.8　実践演習：悪意のあるプロンプトの検知と遮断
　3.9　検閲API連携とハイブリッド防御
　3.10　性能とセキュリティのトレードオフ

第4章　出力バリデーション
　4.1　間接的プロンプトインジェクション
　4.2　出力の構造化とJSON出力の強制
　4.3　Pydanticによる型検閲
　4.4　セルフ・コレクション
　4.5　正規表現とPydanticによる構造化データの完全修復
　4.6　サンドボックスを用いた生成コードの検証
　4.7　ストリーミング出力における逐次デルタチェックの設計


第Ⅲ部　応用編：AIエージェントとRAGのセキュリティ

第5章　RAG セキュリティ
　5.1　RAG におけるデータ汚染攻撃
　5.2　強制誘導インジェクション攻撃
　5.3　権限を越えた機密情報の推論漏えい
　5.4　ACL を用いたセキュアなRAG検索
　5.5　継続的モニタリングと監査ログ

第6章　セキュアAIエージェント
　6.1　関数コールを伴うエージェントの危険性
　6.2　エージェントの暴走によるDoS 攻撃
　6.3　権限分離の設計
　6.4　外部API によるサプライチェーン攻撃
　6.5　AI エージェントの動作原理と出力バリデーションの統合

あとがき：AI 共生時代を生き抜くエンジニアの倫理と技術

付録A　セキュアシステム設計の基本原則（Saltzer＆Schroeder）
付録B　LLMセキュリティに役立つリソース集