Agent Task Risk Classifier

手順

Step 1: タスク事実を収集する

1. assets/task-risk-input.template.jsonをコピーする。
2. コマンド実行、書込み、秘密情報、外部通信、外部副作用、不可逆操作の要否を事実として入力する。
3. 不明な項目をfalseで埋めず、unknown_fieldsへ記録する。

Step 2: Profileを分類する

1. references/profile-rules.mdを読む。
2. python3 scripts/classify-task.py <task-risk.json>を実行する。
3. human-gated-impactが選ばれた場合は、不可逆操作の直前に人間承認を残す。
4. brokered-writeが選ばれた場合は、外部操作をguestへ直接許可せずhost-side brokerを要求する。
5. isolated-executionが選ばれた場合は、短命なguest環境を要求する。

Step 3: 分類根拠を記録する

1. 選択profile、必要能力、不要能力、保護対象、昇格条件をSafety Caseへ記録する。
2. unknown fieldが残る場合はprofileを拡張せず、UNVERIFIEDとして停止条件へ追加する。