部署指南

提示

LangChain 智能体支持本地和云端多种部署方式，结合官方工具与云原生能力，可实现高效、可扩展的生产级部署。本文梳理常见部署流程与注意事项，助力智能体安全上线。

本地部署

本地部署适用于小规模测试或单机服务场景。通常将智能体封装为 Web 服务或 API，便于本地调用和调试。常见方式如下：

LangServe 部署 LangChain 官方提供的 LangServe 库，可将 chain 或 agent 快速包装为 RESTful API 服务。LangServe 基于 FastAPI 实现，自动处理 HTTP 请求和响应序列化，内置 Pydantic 验证。只需几行代码即可生成 Uvicorn 服务。例如：

from langchain import load_chain
from langserve import serve_chain

chain = load_chain("path/to/chain.yaml")
serve_chain(chain, port=8000)

目前 LangServe 更适合简单 Chain 或 Runnable 对象的部署，复杂 LangGraph 代理建议参考下文云端部署方案。
自定义 FastAPI 服务 可用 FastAPI/Flask 等框架编写 API，将用户请求转发给 LangChain Agent，返回 JSON 结果。常见做法是实现 /invoke（一次性问答）和 /stream（流式输出）两个端点，分别调用 agent.invoke(user_input) 和 agent.astream。此方式需自行管理并发和状态，但灵活性高。
CLI 工具/批处理 对于离线批处理任务，可直接用脚本调用 agent，无需部署服务。适用于非交互式场景。

提示

完成 API 服务开发后，建议用 Docker 容器封装，便于本地或服务器托管。

示例 Dockerfile：

FROM python:3.10-slim
WORKDIR /app
COPY requirements.txt .
RUN pip install -r requirements.txt
COPY . .
CMD ["uvicorn", "app.main:app", "--host", "0.0.0.0", "--port", "8000"]

构建并运行：

docker build -t myagent .
docker run -p 8000:8000 myagent

云原生部署（Kubernetes 等）

对于大规模并发或高可用需求，推荐将服务部署到云环境（如 Kubernetes）。云原生部署需关注伸缩、配置、状态同步与监控等方面。

Kubernetes 部署流程 将 Docker 镜像推送到镜像仓库（如 Docker Hub），编写 Deployment YAML 运行多个副本，并用 Service 暴露端口。例如：

apiVersion: apps/v1
kind: Deployment
metadata:
  name: langchain-agent
spec:
  replicas: 3
  selector:
    matchLabels:
      app: langchain-agent
  template:
    metadata:
      labels:
        app: langchain-agent
    spec:
      containers:
      - name: agent
        image: myrepo/myagent:latest
        ports:
        - containerPort: 8000
        env:
        - name: OPENAI_API_KEY
          valueFrom: ...
        resources:
          requests:
            memory: "1Gi"
            cpu: "500m"

提示

可设置 HPA（Horizontal Pod Autoscaler）根据 CPU 利用率自动扩容。

状态共享与一致性 多副本部署时，若需共享对话状态（如 Memory），应使用外部存储。可将 LangGraph Checkpointer 指向 Postgres，或用 Redis 等缓存。确保所有副本访问同一存储，避免对话记忆丢失。
Ingress 与鉴权 配置 Ingress Controller（如 Nginx Ingress）将域名路由到 Service，并启用 TLS（HTTPS）及认证（如 HTTP Basic、OAuth）保护服务，防止未授权访问。
LangGraph Platform 对于复杂 LangGraph 应用，官方提供 LangGraph Platform（需企业许可），支持 K8s Operator 部署和一键伸缩。适合企业级场景，普通团队可用自定义 FastAPI 服务满足需求。
监控与日志 部署后应收集 API 请求量、响应时间、错误率等指标，并集中存储日志（如 EFK、云厂商日志服务），便于故障排查和性能分析。
成本与限流 云端部署需关注 LLM 调用成本，建议设置并发上限和速率限制，防止滥用。可对 API Key 或用户请求频率做限流，LangChain 需在应用层集成相关中间件。

总结

LangChain 智能体部署流程与常规 Web 服务类似，但需特别关注状态同步、外部 API 资源和安全配置。结合官方工具与云原生能力，可实现高效、可扩展的生产级部署。建议根据实际需求选择本地或云端方案，合理配置资源与监控，保障智能体稳定运行与数据安全。