Skip to main content

Runhouse 运行房屋

本页面介绍如何在 LangChain 中使用 Runhouse 生态系统。 它分为三个部分：安装和设置、LLMs 和嵌入。

安装和设置 Installation and Setup​

  • 使用 pip install runhouse 安装 Python SDK
  • 如果您想使用按需集群，请使用 sky check 检查您的云凭据

自托管的LLMs Self-hosted LLMs​

对于基本的自托管LLM，您可以使用 SelfHostedHuggingFaceLLM 类。对于更自定义的LLM，您可以使用 SelfHostedPipeline 父类。

from langchain.llms import SelfHostedPipeline, SelfHostedHuggingFaceLLM

有关自托管LLMs的更详细的演练，请参阅此笔记本

自托管的嵌入 Self-hosted Embeddings​

通过 Runhouse，有几种使用自托管嵌入在 LangChain 中的方法。

对于来自 Hugging Face Transformers 模型的基本自托管嵌入，您可以使用 SelfHostedEmbedding 类。

from langchain.llms import SelfHostedPipeline, SelfHostedHuggingFaceLLM

有关自托管嵌入的更详细的演练，请参阅此笔记本