跳转至

概述

中间件是专为 LangChain 预构建 Agent 设计的可插拔组件,旨在实现对 Agent 内部行为的精细化控制。除 LangChain 框架内置的中间件外,本库结合实际应用场景,进一步补充了更为丰富的中间件支持。

本库提供的中间件包括:

此外,本库还扩充了官方中间件的功能,增强了模型配置的可用性,支持通过字符串参数指定模型:

  • SummarizationMiddleware
  • LLMToolSelectorMiddleware
  • ModelFallbackMiddleware
  • LLMToolEmulator

注意

后续示例中,我们均是从 langchain_dev_utils.agents 中导入了 create_agent 函数,而不是 langchain.agents。这是因为本库也提供了一个与官方 create_agent 函数功能完全相同的函数,只是扩充了通过字符串指定模型的功能。这使得可以直接使用 register_model_provider 注册的模型,而无需初始化模型实例后传入。

示例运行前,请确保:

1.注册 vllm 模型提供商

register_model_provider(
    "vllm",
    "openai-compatible",
    base_url="http://localhost:8000/v1",
)

2.从 langchain_dev_utils.agents 中导入 create_agent 函数

from langchain_dev_utils.agents import create_agent