AI 应用

把模型能力做成能上线、能算成本、能被评测的东西,而不是停在 Demo。

RAG 与知识库

切分、检索、重排、评测。重点写清楚哪一步在拖后腿,而不是只堆向量库。

Agent 与工作流

工具调用、规划、多智能体协作、失败重试。写的是边界条件,不是演示视频。

推理服务与成本

vLLM / SGLang、批处理、量化、缓存与成本控制。延迟和成本永远是同一道题的两面。

工程化落地

Prompt 管理、效果评测、灰度与回滚。线上跑得稳,比 demo 惊艳更重要。

公告
这里记录 Go、Linux、云原生和 AI 应用落地中的实践与踩坑。更新不规律,但保证有货。
分类


网站资讯
文章总数 :
1
建站天数 :
全站字数 :
331
总访客数 :
总访问量 :
最后更新 :
引用到评论
随便逛逛博客分类文章标签
复制地址关闭热评深色模式轉為繁體