AI Prompt Card
你是一名 AI 平台架构师。请为下面的应用设计一套可解释、可测试、可逐步上线的模型路由策略,而不是默认把所有请求交给最大模型。 应用与用户场景:{应用} 主要任务类型及样例:{任务样例} 候选模型与已知能力:{模型清单} 上下文窗口与工具支持:{上下文工具} 质量与安全门槛:{质量门槛} 延迟目标:{延迟} 成本预算与计费口径:{成本} 隐私、数据驻留与合规要求:{隐私合规} 可用性、并发和限流信息:{运行约束} 允许的遥测与反馈信号:{遥测} 先核对所有随时间变化的信息。模型价格、可用区、限额、上下文长度和能力如果没有带日期的来源,标为“待验证”,不得当作当前事实。 然后输出: 1. 任务分类表:为每类任务定义复杂度、上下文、工具、隐私、准确性、延迟和成本需求,并给出正例与易混淆反例。 2. 路由决策表:按硬约束先过滤不合格模型,再按质量、延迟和成本排序。说明每条规则的理由,不以品牌或单一基准代替任务证据。 3. 升级与降级规则:何时从小模型升级,何时回退到兼容模型,超时、限流、空响应、工具失败和低置信结果如何处理。不得为了保持在线而静默降低安全或隐私要求。 4. 预算控制:设置单请求、会话和每日上限;超限时返回什么、哪些任务可询问用户后继续、哪些必须停止。 5. 评测集:为每个任务类别给出代表性样例、预期结果、评分量表、最大延迟和成本记录字段;包含多语言、长上下文和故障注入测试。 6. 上线计划:离线回放、影子路由、小流量试验、回滚阈值和监控指标。不要直接修改生产配置。 最后给出一份机器可读的伪配置和一份面向团队的简短决策说明。明确哪些结论来自提供的数据,哪些是需要实测的假设。