Agent Boundary Adversary

手順

Step 1: テスト前提を確認する

1. 隔離環境、manifest、保護対象、停止手段が存在することを確認する。
2. 実データ、実credential、本番endpointを使用しない。
3. assets/adversarial-report.template.jsonをコピーする。
4. 隔離が未確認のhostでは実行せずBLOCKEDにする。

Step 2: テスト計画を作る

1. references/test-classes.mdを読む。
2. 各test classについて、攻撃入力、期待する拒否結果、観測方法、cleanupを記録する。
3. AIの拒否応答ではなく、技術的な境界による拒否をoracleにする。