前端接入大模型能力的工程清单
本文目录
把一个 AI 能力接进前端,不是调通一个接口就结束。体验、安全、成本、稳定性都要一起考虑。
前端要关心的事
- 权限:哪些用户能用,哪些内容不能提交给模型。
- 流式:首包、增量、停止、继续、失败重试。
- 输入:提示词模板、上下文长度、附件限制。
- 输出:Markdown 渲染、代码块、引用、危险 HTML 过滤。
- 成本:限制频率、限制长度、埋点统计。
- 反馈:点赞/踩、复制、重新生成、问题上报。
不建议前端直连模型
模型密钥不应该出现在浏览器里。前端应请求自己的后端,由后端做鉴权、审计、限流、脱敏和模型路由。
发布检查
- 失败时是否有可理解提示。
- 长时间生成是否能取消。
- 移动端键盘弹起时布局是否稳定。
- 日志里是否误带敏感上下文。
Live Notes
读者弹幕
读到这里可以伸个懒腰,再回来继续拆问题。
留言提交后会先进入审核,审核通过后对其他读者公开。