[D]框架阅读：langchain精读
输入“/”快速插入内容
[D]框架阅读：langchain精读
[D]框架阅读：langchain精读
用户2242用户2242
用户9311用户9311
用户988用户9882025年4月17日修改
2510
7
3
📌
Tony Hoare: premature optimization is the root of all evil / 过早优化是万恶之源
1.
引言
在今年3月到5月，我陆续读完了市面上稍有热度的论文全文、框架代码，输出了总计53篇笔记，这些笔记在公司内是全员透明的，有长有短。大部分的论文对应代码只有5-10行，对应阅读笔记也往往很短；而LangChain这个库代码接近10万行，引起了我的兴趣。以我的第一感受，LLM中间层还没有这个量级的代码需求。在体验了LangChain的一些例子以后，我心里泛起了浓浓的疑惑 —— 真的有必要使用LangChain吗？
2.
简介
2.
评星：⭐️⭐️⭐️
4.
介绍：实现了Simulator、Agent、算子（可以被AI使用的内置工具）、Chain、LLM（大量不同网站提供的API）、记忆、检索器、向量库、工具
a.
额外概念：callbacks（可观测）、chat_models、client、docstore、document_loaders、embeddings、output_parsers等
5.
评价：langchain设计比较糟糕，用户有非常高昂的理解代价与使用成本
a.
过度复杂：langchain：655 class，2826 function；比实际需要的复杂度高一个数量级
b.
缺乏统一设计：问题出现在langchain的大部分代码中 —— 没有阅读过源码都没法很好的成为框架的使用者
i.
以*Chain类为例：它的主体功能是一个AI函数，使用LLM运行；提供了三个不同的入口（实际还有一个predict_and_parse调用predict，也会偶尔被调用，严格意义说是四个入口），参数有微小的区别，没有文档，所有的Examples都随机使用其中之一：
1.
def predict(self, callbacks: Callbacks = None, **kwargs: Any) -> str:
a.
return self(kwargs, callbacks=callbacks)[self.output_key]
b.
输入一批kwargs（模板的要求输入），返回一个
2.
def run(self, *args: Any, callbacks: Callbacks = None, **kwargs: Any) -> str:
a.
return self(kwargs, callbacks=callbacks)[self.output_keys[0]]
b.
输入*args填模板，返回第一个output。没有独立函数的必要
3.
def __call__(self, inputs: Union[Dict[str, Any], Any], return_only_outputs: bool = False, callbacks: Callbacks = None) -> Dict[str, Any]:
a.
其中除了准备prompt，做一些修补以外，主要就是调用self._call(inputs)
4.
这种设计很明显违背了“单一接口”原则，用户体验比较糟糕
c.
质量低：它倾向以Notebook代替测试用例，注意到它的docs文档中有大量的notebook，并且每个模块都有getting_start.md
i.
维护成本高：意味着框架基本定型，很难改变，因为如果改变就得逐个手动检查所有notebook
ii.
可运行测试少：notebook不可重复，而测试用例可以。notebook写多意味着写少了测试用例，拉低了整体质量
2.1
例子
这是一个最小化全流程的例子，展示通过ZeroShotAgent+ReAct方法使用数学工具，解决一个带推理的数学问题
代码块
from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.agents import AgentType
from langchain.chat_models import ChatOpenAI
from langchain.llms import OpenAI
if __name__ == '__main__':
# First, let's load the language model we're going to use to control the agent.
chat = ChatOpenAI(temperature=0)
# Next, let's load some tools to use. Note that the `llm-math` tool uses an LLM, so we need to pass that in.
llm = OpenAI(temperature=0)
tools = load_tools(["llm-math"], llm=llm)
# Finally, let's initialize an agent with the tools, the language model, and the type of agent we want to use.
agent = initialize_agent(tools, chat, agent=AgentType.CHAT_ZERO_SHOT_REACT_DESCRIPTION, verbose=True)
# Now let's test it out!
# agent.run("Who is Olivia Wilde's boyfriend? What is his current age raised to the 0.23 power?")
agent.run("What is Olivia Wilde's current age raised to the 0.23 power?")