📌 置顶AMD 显卡跑语音模型的那些坑：ROCm 兼容性实录
陈老师··203 阅读
买不起 N 卡，用 AMD 跑 Whisper、TTS、语音克隆，从驱动到 ROCm 到框架兼容，一路踩坑的记录。
文章
54 篇向量召回率上不去？这 6 个细节我调了一周
张老师··431 阅读
embedding 没换、分块没动，只靠调参数和细节，召回率从 0.7 提到 0.85 的完整过程。
LLM 应用日志与监控：出了事怎么定位是哪个环节的锅
王老师··257 阅读
请求日志、token 统计、延迟分位、错误追踪，一套适合 LLM 应用的监控方案。
vLLM 生产部署笔记：从 PagedAttention 到 OpenAI 兼容接口
陈老师··895 阅读
为什么吞吐比 HuggingFace 原生高那么多、KV cache 显存怎么算、以及上线前必须改的几个环境变量。
DeepSeek API 接入实战：便宜大碗，但这些坑你得知道
王老师··428 阅读
从拿到 key 到生产调用的完整记录，包括长上下文、JSON 模式、以及和 OpenAI 客户端不兼容的地方。
AI 服务上生产的注意事项，都是踩出来的
唐老师··129 阅读
从开发环境到生产环境，模型服务化部署必须处理的 10 件事。
聊天流式输出是怎么实现的？SSE 从原理到代码
陈老师··670 阅读
为什么大模型回复是一个字一个字蹦出来的？手写一个 SSE 服务端和前端对接，附踩坑。
API 限流与重试策略：别再裸调大模型接口了
陈老师··532 阅读
429 和 5xx 怎么区分处理、退避重试怎么写、并发怎么控制，生产级调用姿势。
MCP 协议初探：给 AI 装“USB 接口”是什么体验
唐老师··760 阅读
为什么说 MCP 是 AI 的工具标准化协议，我用它接了一个本地文件系统工具，记录全过程。
Ollama 部署 Qwen2.5 的那些坑，我踩了一遍
张老师··214 阅读
从拉模型到跑起来的完整记录，包括 OLLAMA_HOST 配置、显卡显存占用、以及那个让我查了半天的 concurrent 参数。
检索完为什么要 rerank？重排模型实测与接入
谭老师··124 阅读
top-20 召回 top-5 精排，cross-encoder 重排让 RAG 准确率明显提升的实践。
提示词工程实战笔记：同样是调 AI，为什么别人效果比你好
张老师··927 阅读
角色设定、few-shot、思维链、格式约束，这些技巧在实际业务里哪些真有用哪些是玄学。
跑大模型 OOM 排查全记录：从报错到解决
王老师··749 阅读
CUDA out of memory、内存泄漏、上下文暴涨，OOM 的几种类型和对应解法。
AI 应用多租户隔离：一个模型服务 N 个客户怎么设计
谭老师··448 阅读
会话隔离、数据隔离、配额隔离、安全边界，SaaS 化 AI 服务的架构思考。
AI 内容安全审查：上线前必须做的过滤
张老师··89 阅读
用户输入和模型输出的双重审查，关键词 + 模型审核 + 合规要点。
提示词缓存与复用：省一半 token 的实战方案
谭老师··188 阅读
system prompt 和检索上下文每次重复发送太浪费，语义缓存让相似问题直接命中。
Agent 工具设计实战：工具怎么定，Agent 才好用
张老师··377 阅读
工具数量、命名、参数设计、错误返回，工具层设计直接决定 Agent 的成败。
给 Agent 加记忆：短期、长期、向量记忆怎么设计
张老师··646 阅读
对话记忆、摘要记忆、向量检索记忆三件套，以及记忆越界导致的问题。
TTS 语音合成接入实战：让 AI 会说话
王老师··972 阅读
从 Edge-TTS 到 CosyVoice，不同 TTS 方案的音色、延迟、成本对比与接入。
模型升级不是玄学：一套可复用的 LLM 回归评估流程
王老师··210 阅读
换模型、调 prompt、改参数之后，怎么科学判断效果变好还是变差。
把 AI 应用容器化的实践：从 Dockerfile 到 compose 编排
唐老师··693 阅读
模型权重怎么进镜像、GPU 怎么透传、多服务怎么编排，一个 AI 应用的容器化完整记录。
大模型 API 成本控制实战：从烧钱到省一半的账单
张老师··253 阅读
按场景选模型、token 压缩、语义缓存、批量处理，一套完整的省钱组合拳。
2025 年最值得关注的 10 个 AI 工具
谭老师··1548 阅读
覆盖写作、编程、绘画、办公全场景。
用 Redis 管理对话会话：状态存储与缓存实践
唐老师··141 阅读
对话历史存哪、过期策略怎么定、高并发下会话一致性怎么保证。
Function Calling 实战：让模型学会调你的 API
谭老师··471 阅读
工具声明的格式、参数校验、结果回填，以及本地模型 function calling 不稳定的应对方案。
Stable Diffusion WebUI 换模型踩坑：ckpt、safetensors、LoRA 全弄明白
陈老师··476 阅读
模型格式区别、下载后放哪、为什么换模型没效果、LoRA 怎么挂载，一次讲清。
知识库问答系统上线前，我这样做的评估
谭老师··486 阅读
检索准确率、生成准确率、端到端指标，一套可落地的 RAG 评估方案。
显存不够跑大模型？这 6 种方案我都试过了
张老师··391 阅读
从量化、卸载层、到 CPU offload、投机解码，按性价比排序的显存优化实战。
自建 OpenAI 兼容层：把多个模型统一成一个接口
陈老师··463 阅读
one-api/new-api 部署、渠道配置、负载均衡，让团队用一套 API 调所有模型。
本地 RAG 从零搭建，我用的这 5 个组件
唐老师··532 阅读
不想用 Dify 全家桶的话，自己拼一个 RAG 需要哪些东西？本文给出最小可用的组合和完整链路。
CrewAI 实践：让 3 个 AI 角色协作写一份市场报告
张老师··917 阅读
角色分工、任务定义、流程编排，用 CrewAI 搭一个内容生产流水线的完整过程。
多模态大模型实战：让 AI 看懂图片
唐老师··585 阅读
图片理解、文档 OCR、图表分析，VLM 能干什么以及怎么接入。
LoRA 微调实战：用少量数据让模型学会你的领域
谭老师··210 阅读
为什么选 LoRA、数据怎么准备、训练参数怎么调、效果怎么评估。
机器学习入门路线图（零基础版）
王老师··1850 阅读
三个月从零搭建机器学习知识体系。
用 LangGraph 搭一个会查数据库的 Agent，踩坑记录
张老师··605 阅读
StateGraph 节点怎么设计、工具怎么注册、循环怎么控制，一个真实业务 Agent 的完整实现笔记。
LangChain 接本地 Ollama，我踩的 6 个坑
王老师··463 阅读
LCEL 链跑不通、工具调用失效、token 数算不对……本地模型接 LangChain 的常见问题都在这。
CUDA 环境搭建与排错：驱动、toolkit、torch 三角关系的血泪史
谭老师··545 阅读
nvidia-smi 有卡但 torch 用不了、版本对不上、容器里没驱动……这些 GPU 环境问题一次讲透。
Embedding 模型微调：领域效果不够时的最后一招
王老师··494 阅读
用领域数据微调 bge-m3，哪些场景值得微调、训练数据怎么造、效果提升多少。
Milvus、Qdrant、Chroma 到底选哪个？我三个都跑过
王老师··167 阅读
单机 vs 分布式、功能完整性、上手难度、维护成本，从实际使用角度做的对比。
llama.cpp 量化到 GGUF 全流程，从 fp16 到 Q4_K_M 一次说清
唐老师··875 阅读
不同量化等级的显存占用、推理速度、质量损失实测对比，以及转换脚本里那些容易写错的参数。
Prompt 注入攻击与防御：AI 应用的安全底线
谭老师··566 阅读
用户输入里藏指令让模型泄漏系统提示词、执行危险操作，这类攻击怎么防。
AutoGen 多智能体初体验：让两个 AI 自己对话解决问题的尝试与翻车
张老师··976 阅读
两个 Agent 互相辩论、一个改代码一个当裁判，看起来很美，实际用起来有一堆问题。
AI 应用数据脱敏：喂给大模型之前先处理这些
王老师··401 阅读
PII、密钥、内部信息进模型前怎么脱敏，以及脱敏与功能的平衡。
让 AI 操作浏览器：从 Playwright 到自主浏览的 Agent 实践
陈老师··604 阅读
AI 自己点按钮、填表单、翻页的两种实现路径，以及为什么“看截图操作”比“读 DOM”更接近真实用户。
知识图谱 + RAG：关系型问题终于能答了
陈老师··969 阅读
当向量检索答不了“谁和谁是什么关系”这类问题，知识图谱补上了这个短板。
ComfyUI 部署实战：从节点流到 API 化
唐老师··712 阅读
为什么我从 WebUI 转到 ComfyUI、工作流怎么设计、怎么用 API 批量出图。
ASR 语音识别接入：把语音转成文字的那些事
陈老师··965 阅读
Whisper 本地部署、FunASR 中文优化、流式识别，语音输入功能的落地记录。
提示词工程完全指南：从新手到专家
唐老师··1255 阅读
系统讲解提示词的结构化写法、常见陷阱与高阶技巧。
长文档进 RAG 怎么处理？我的分块+摘要+分层方案
王老师··577 阅读
几百页的 PDF 直接切块会丢失全局信息，分层检索和文档摘要才是正确姿势。
大模型胡说八道怎么治？我试过的 7 种防幻觉方法
陈老师··76 阅读
从 prompt 约束到检索增强到置信度阈值，防幻觉手段的实测效果排序。
文档分块策略实验：分块方式对 RAG 效果的巨大影响
谭老师··214 阅读
固定长度、递归切分、语义切分、按结构切分，四种分块在真实数据上的对比。
国内下载 HuggingFace 模型的三种姿势，别再等超时了
王老师··324 阅读
镜像站、代理、离线迁移，以及 hf_transfer 加速的配置细节。
混合检索实战：BM25 + 向量检索怎么融合才有效
谭老师··624 阅读
关键词匹配和语义匹配各有所长，加权融合、RRF 融合的实测对比。
Embedding 模型怎么选？我把 bge-m3 和 OpenAI 的实测对比写在这
张老师··429 阅读
中文检索场景下，bge-m3 到底比 text-embedding-3-small 强在哪？附多语言和长文本的对比数据。