AI 智能体工作流与安全 · guide-agent-safety
共通指南 · AI 智能体工作流与安全边界
说明生态环境分析实训中任务契约、工具白名单、结构化证据、合成样例和人工复核的使用边界。
怎样让智能体参与分析流程，同时保留来源、工具和结论的可审计性？
KEY POINTS
这条内容的重点
- 能够区分脚本化工具演练、AI 与合成样例、AI 与已核验真实公开数据、未运行/失败四种状态。
- 能够先记录计划、预期证据与停止条件，再检查白名单工具调用轨迹。
- 能够识别模型自评、自动指标和来源/许可核验之间的边界。
WORKFLOW
内容流程
确认运行状态
查看案例任务契约、数据来源说明和结构化运行报告；明确是否真实数据、合成样例、未运行或失败。
本步产物 带状态的数据与任务检查记录
先记录计划
在任何算法工具调用前记录分析计划、数据检查、拟调用工具、预期证据与停止条件。
本步产物 可供审阅的智能体计划
使用白名单工具
只允许读取任务/来源契约、只读盘点本案数据目录、读取 outputs 下结构化报告、运行固定合成工具演练或请求人工审核；不让模型指定任意路径或执行命令。
本步产物 有界的工具轨迹与结果摘要
交由人工核验
对照数据、方法、报告与解释边界检查模型提交；需要来源、许可或专业判断时请求人工审核。
本步产物 带人工复核状态和结论边界的实验记录
METHODS
相关方法
- 任务契约与工具白名单
- 计划—工具—证据轨迹核验
- 合成样例与真实公开数据状态区分
- 人工复核与停止条件
DELIVERABLES
可获得的内容
- 智能体计划与工具证据审阅表
- 真实/合成/未运行状态标记
- 人工复核意见与停止条件记录
LIMITATIONS
适用范围与注意事项
- 默认工具演练使用固定确定性合成样例，不调用模型、不下载数据，也不构成真实生态环境分析。
- 真实模型调用需要使用者自行配置兼容服务，并先确认任务文本与摘要可以发送给该服务；密钥不得写入 Notebook 或网页。
- 智能体只读获准的结构化运行报告，不能据此证明原始数据、许可或计算过程正确；来源、数据适用性和专业结论须人工复核。
MATERIALS
相关资料与下载
只展示已核准公开的资料。
当前没有已批准公开的资料。待核验或私有文件不会显示。