Hallucination
模型生成看似合理但缺乏事实支持或与事实相反的内容。
应用与产品层企业集成与交付层信任、安全与治理层
source-grounded-ragevidence-ledgerhuman-gate
requires-human-gate
FAILURE MODE REGISTRY
AI 系统失败模式
文档要求的 8 类失败模式：幻觉、伪造引用、逻辑跳步、规则违规、检索失败、不可审计决策、成本爆炸和静默失败。
Fake Citation
输出引用不存在、引用错位或把证据用于不支持的结论。
模型服务与编排层应用与产品层信任、安全与治理层
evidence-ledgeraudit-trailschema-validation
requires-human-gate
Logic Gap
从证据到结论之间缺失可检查的推理链或约束步骤。
信任、安全与治理层认知治理与图谱层
rule-engineschema-validationhuman-gate
requires-human-gate
Policy Violation
模型建议或工具动作违反业务规则、合规要求或组织权限边界。
企业集成与交付层信任、安全与治理层
rule-engineaudit-trailhuman-gate
requires-human-gate
Retrieval Failure
RAG 没有检索到正确材料，或检索到材料但没有被正确使用。
模型服务与编排层应用与产品层
source-grounded-ragevidence-ledger
Unauditable Decision
系统给出结论但无法复现输入、证据、模型版本、规则版本和责任人。
企业集成与交付层信任、安全与治理层认知治理与图谱层
audit-trailevidence-ledger
requires-human-gate
Cost Explosion
上下文、模型路由、工具调用或并发策略导致请求成本不可控。
算力与硬件层框架内核与推理运行层模型服务与编排层
schema-validationaudit-trail
Silent Failure
系统没有显式报错，但结果质量、权限、证据或流程状态已经偏离预期。
模型服务与编排层应用与产品层企业集成与交付层
audit-trailevidence-ledgerhuman-gate
requires-human-gate