多層防御ライン
社内ドキュメントの取り込み、AIの回答生成、社外への発信──情報が境界を越える3つの通過点それぞれに、専用のチェック機構を組み込んでいます。加えて、機械的な規則だけでは判定しきれない「私的情報らしさ」はAIが分類し、最終判断は人が行う承認フローも実装済みです。「AIおっきぃ」をはじめ、オフィス影山が構築・運用するAIエージェント基盤に実装済みの仕組みです。
情報がシステムの境界を越える3つの地点(取り込み・生成・発信)それぞれに検査ゲートを設置。人が毎回チェックしなくても、パイプラインを通るだけで機械的に守られる構成です。
PIIマスキング
社内ドキュメントをAIが検索・参照できるようにする前に、メールアドレス・電話番号・郵便番号などを自動的に読めなくします。
指示乗っ取り検知
取り込んだ文章に紛れ込んだ「AIへの命令」を検知し、無効化してから回答を生成します。
品質・攻撃性チェック
SNSやnoteへの投稿前に、攻撃的・不適切な表現が含まれていないかをチェックリストで確認します。
プライベート情報ガードレール
正規表現によるPIIマスキング(GUARD01)では拾いきれない、文脈依存の私的情報(健康記録・家族の家計情報など)をAIが2段階で分類。リスクが高い場合は自動遮断ではなく承認待ちキューへ回し、最終判断は必ず人が行います。誤って登録済みだった場合の取り消し・監査ログ機能も備えています。
技術的な実装を見る
それぞれのチェックは、以下の処理の中に組み込まれています。
社内ドキュメントの取り込み処理(rag_indexer_v2.py) — 検索用データベースへ登録する直前にPIIマスキングを実行。
AIの回答生成処理(agentic_rag.py / discord_bot.py) — 検索結果をもとに回答を作る直前に指示乗っ取り検知を実行。
投稿前チェックリスト(ng-patterns.md) — SNS・note投稿前に人とAIの両方で確認。
プライベート情報ガードレール(privacy_guardrail_llm.py) — 取り込み処理の中でPIIマスキングとは別に、文脈から私的情報らしさをAI(Claude)が判定。リスクが高いファイルは索引化を保留してレビューキューへ起票し、承認・誤検知・取り消しの3コマンドで人が判断・運用します。
GUARD01〜03の検査ロジック本体は security_guards.py にまとめて実装し、自動テスト(9件)で動作を検証。GUARD04は実データでの動作検証を実施済みです。
自動テスト 9件 全て合格 · 本番環境へ反映済み(2026-08-30)
AI活用は、便利さだけでなく「何を守っているか」まで含めてご相談いただけます。