基础请求链路
浏览器只与自己的业务服务端通信，由服务端保存 Modb API Key、组织上下文并调用模型。不要让浏览器直接携带网关密钥。
- 用户输入校验
- 会话上下文裁剪
- 服务端模型调用
- 流式转发
- 日志与额度记录
模型选择与降级
简单问答可优先选择速度和价格合适的模型，复杂分析再切换更强模型。降级策略应验证输出质量，不能只在错误后随机更换模型。
成本与滥用控制
限制单次输入、历史轮数、最大输出和用户请求频率。匿名用户应使用更严格额度，登录用户可按套餐或业务规则分配资源。
常见问题
关于使用统一 AI API 构建聊天机器人的常见问题
聊天机器人为什么需要服务端？
服务端用于保护 API Key、控制额度并执行输入校验。
会话历史需要全部发送吗？
不需要，应按相关性和 Token 预算裁剪或摘要。
如何改善等待体验？
使用流式响应并显示明确的生成、停止和错误状态。