DeepInfra(深度基础设施)
本页面介绍如何在LangChain中使用DeepInfra生态系统。 它分为两个部分:安装和设置,以及对特定DeepInfra包装器的引用。
安装和设置
- 从此链接here获取您的DeepInfra API密钥。
- 获取DeepInfra API密钥并将其设置为环境变量(
DEEPINFRA_API_TOKEN
)
可用模型
DeepInfra提供了一系列可供部署的开源LLM。 您可以在此处列出支持的模型。 google/flan*模型可以在此处查看。
您可以在此处查看请求和响应参数的列表。
包装器
LLM
存在一个DeepInfra LLM包装器,您可以使用以下代码访问:
from langchain.llms import DeepInfra