烟花 (Fireworks)

This page covers how to use the Fireworks models within Langchain. (本页介绍如何在Langchain中使用烟花模型。)

安装和设置 (Installation and Setup)

• 要使用烟花模型，您需要拥有一个烟花API密钥。要生成一个密钥，请在platform.fireworks.ai上注册。
• 通过设置FIREWORKS_API_KEY环境变量进行身份验证。

LLM

烟花通过LLM模块与Langchain集成，该模块允许对部署在烟花模型上的任何模型进行标准化使用。

在这个例子中，我们将使用llama-v2-13b模型。

from langchain.llms.fireworks import Fireworks 

llm = Fireworks(model="fireworks-llama-v2-13b-chat", max_tokens=256, temperature=0.4)
llm("Name 3 sports.")

有关更详细的步骤，请参见这里。