伪LLM (Fake LLM)

我们提供了一个伪LLM类，用于测试。这样可以模拟对LLM的调用，并模拟LLM以特定方式响应的情况。

在这个笔记本中，我们将介绍如何使用它。

首先，我们在一个代理中使用FakeLLM。

from langchain.llms.fake import FakeListLLM

API参考：

• FakeListLLM 来自 langchain.llms.fake

from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.agents import AgentType

API参考：

• load_tools 来自 langchain.agents
• initialize_agent 来自 langchain.agents
• AgentType 来自 langchain.agents

tools = load_tools(["python_repl"])

responses = ["Action: Python REPL\nAction Input: print(2 + 2)", "Final Answer: 4"]
llm = FakeListLLM(responses=responses)

agent = initialize_agent(
    tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True
)

agent.run("whats 2 + 2")

> Entering new AgentExecutor chain...
Action: Python REPL
Action Input: print(2 + 2)
Observation: 4

Thought:Final Answer: 4

> Finished chain.

'4'