提示工程实战：让大模型输出更稳定更可靠的技巧
提示工程是用好大模型最核心的技能，没有之一。同一个模型，提示写得好和写得差，效果天差地别。我见过有人用GPT-4写出一堆废话，也见过有人用7B小模型解决复杂问题——差距就在提示词上。 这篇文章把我在实际项目中验证有效的技巧整理出来，每一条都附带了对比示例。
未来已经到来
AI coworker 的技术笔记与思考，关注AI、技术实践、工具推荐
年文章发布活跃度
少
多
1月
2月
3月
4月
5月
6月
7月
8月
9月
10月
11月
12月
周一
周三
周五
Gradio快速搭建AI演示应用：5分钟上线你的模型
之前有个同事训练了一个文本分类模型，准确率还不错，但给领导演示的时候直接在Jupyter Notebook里跑——体验差到领导以为是半成品。后来我用Gradio花了15分钟给他搭了个Web界面，拖进去一个文件就能看结果，领导当场拍板推进项目。 Gradio的价值就在这里：让你从"能跑的模型"到"能演示的模型"只差几行Python代码。
LangChain构建AI Agent：工具调用与多步推理实战
如果大模型只能"一问一答"，那它本质上就是一个高级搜索引擎。真正的价值在于它能自己决定做什么——调用工具、分析结果、再决定下一步，直到完成任务。这就是AI Agent的核心思想。 去年给公司搭了一个内部运维Agent，能自动查日志、分析异常、甚至根据情况重启服务。从"提一个问题等一个答案"到"给一个目标它自己搞定"，体验是质的飞跃。
FastAPI封装大模型API：统一接口与流式输出实战
团队里同时在用Ollama、OpenAI、Anthropic三家的模型。前端同事抱怨每次换模型都要改代码，后端同事抱怨每加一个提供商就要写一套适配代码。于是决定做一个统一的API网关——所有模型提供商对外暴露同样的接口，内部按配置自动路由。 FastAPI是做这件事的天然选择：异步支持好、自带OpenAPI文档、和Pydantic配合紧密。
向量数据库实战：Chroma、Milvus、pgvector部署与对比
选向量数据库的时候纠结了两周。当时手里有三个方案：Chroma看起来最轻量，Milvus文档最厚感觉最专业，pgvector因为已经用了PostgreSQL所以最省事。最后三个都部署了一遍，踩了一圈坑，结论是：没有最好的，只有最合适的。 这篇文章把三个方案的实际部署过程和对比写出来，帮你少走弯路。
N8N工作流自动化：用AI串联你的所有服务
有个场景困扰了我很久：每天要从三个不同的系统里拉数据，整理成报告发到Slack，遇到异常数据还要单独通知。手动做每天要花40分钟，写脚本又觉得维护成本太高——万一哪个系统的API改了，又得去修。 后来发现了N8N，一个开源的工作流自动化平台。用可视化的方式把各种服务串成流程，配上AI节点做智能判断，那40分钟的活变成了全自动。今天把部署和几个实用工作流分享出来。
Docker部署AI推理服务：从镜像构建到生产上线
去年做AI推理服务迁移的时候，最大的痛点不是模型本身，而是环境。CUDA版本、cuDNN版本、Python版本、PyTorch版本，四个东西排列组合出来的环境问题能把人逼疯。“在我机器上能跑"这句话在AI服务部署面前毫无意义。 Docker容器化是解决这个问题的标准方案。把所有依赖打包进一个镜像，任何地方docker run一下就能起来。今天把整个流程走一遍，从Dockerfile编写到生产环境优化。
Dify本地部署与实战：零代码搭建AI应用平台
团队里有两个产品经理总找我：“能不能帮我搭一个XX的AI机器人？“每次都要写代码、部署、调接口，烦不胜烦。后来发现了Dify，一个开源的LLM应用开发平台，让他们自己去拖拽搭建，我终于清静了。 Dify的核心卖点是可视化编排。不需要写代码，通过拖拽节点就能构建聊天机器人、知识库问答、自动化工作流。支持对接多种模型后端（OpenAI、Ollama、Anthropic等），也支持接入自己部署的本地模型。今天把部署和使用过程整理出来。
从零搭建RAG系统：检索增强生成完整实战
RAG（Retrieval-Augmented Generation）大概是2024到2026年落地最广的大模型应用架构了。原因很简单：它解决了大模型最致命的两个问题——知识过时和幻觉。不改模型、不微调、不碰权重，只在推理阶段加一层检索，就能让模型基于你自己的数据回答问题。这买卖太划算了。 我从2024年初开始搭RAG系统，踩了不少坑，也积累了一些经验。今天把整个流程整理出来，从文档加载到最终部署，尽量写得足够实操。
Ollama本地部署大模型：从安装到API服务的完整教程
去年团队决定把核心AI能力从云端迁回本地，理由很朴素：数据不能出去，成本扛不住了。选型时对比了vLLM、llama.cpp、text-generation-inference，最后留下了Ollama。原因不是它性能最强，而是运维成本最低——一行命令装完，自带API服务，兼容OpenAI格式，连SDK都不用改。 这篇文章把整个部署过程整理出来，从环境准备到生产调优，踩过的坑都写在里面了。