37 ローカル LLM の防御と SourceVault -- モデルを信じず、外で確かめる
LM に私的なデータを読ませる「思考のための杖」は、読んだ文に動かされる弱点を持つ。本発表では、プロンプトインジェクション・バックドア・生成物の汚染の研究と事故を整理し、防御を 6 層に分けて何が効くかを示す。そのうえで自作の NBAccess・ClaudeRuntime・ClaudeOrchestrator・SourceVault を紹介し、SourceVault の関所・宛先による判定・裏付けの照合を実行例とともに解説する。
