模板仓库

那么，你创建了一个非常酷的链 - 现在怎么办？如何部署它并与世界轻松共享？

本节介绍了几种选项。请注意，这些选项适用于快速部署原型和演示，而不适用于生产系统。如果您需要帮助部署生产系统，请直接与我们联系。

以下是一些设计成易于fork和修改以使用您的链的GitHub模板仓库列表。这个列表远非详尽无遗，我们非常欢迎在这方面的贡献。

Streamlit​

这个仓库作为一个模板，展示了如何使用Streamlit部署LangChain。它实现了一个聊天机器人界面。它还包含了如何在Streamlit平台上部署此应用的说明。

Gradio (on Hugging Face)​

这个仓库作为一个模板，展示了如何使用Gradio部署LangChain。它实现了一个聊天机器人界面，并采用了“Bring-Your-Own-Token”的方法（不会产生大额费用）。它还包含了如何在Hugging Face平台上部署此应用的说明。这受到了James Weaver的优秀示例的很大影响。

Chainlit​

这个仓库是一个教程，介绍了如何使用Chainlit可视化和部署LangChain代理。您可以使用Chainlit创建类似ChatGPT的用户界面。一些关键功能包括中间步骤可视化、元素管理和显示（图像、文本、轮播等）以及云部署。Chainlit与LangChain集成的文档

Beam​

这个仓库作为一个模板，展示了如何使用Beam部署LangChain。

它实现了一个问答应用，并包含了将应用部署为无服务器REST API的说明。

Vercel​

一个在Vercel上运行LangChain的最简示例，使用Flask。

FastAPI + Vercel​

一个在Vercel上运行LangChain的最简示例，使用FastAPI和LangCorn/Uvicorn。

Kinsta​

一个在Kinsta上部署LangChain的最简示例，使用Flask。

Fly.io​

一个在Fly.io上部署LangChain的最简示例，使用Flask。

Digitalocean App Platform​

一个在DigitalOcean App Platform上部署LangChain的最简示例。

CI/CD Google Cloud Build + Dockerfile + Serverless Google Cloud Run​

一个关于如何使用Docker和Cloud Build CI/CD流水线将LangChain部署到Google Cloud Run的LangChain项目的样板。

Google Cloud Run​

一个在Google Cloud Run上部署LangChain的最简示例。

SteamShip​

这个仓库包含了Steamship的LangChain适配器，使LangChain开发人员能够快速部署他们的应用程序到Steamship上。这包括：生产就绪的端点、跨依赖项的水平扩展、应用状态的持久存储、多租户支持等。

Langchain-serve​

这个仓库允许用户将任何LangChain应用程序部署为REST/WebSocket API，或者作为Slack机器人。利用Jina AI Cloud的可扩展性和无服务器架构，或者在本地使用Kubernetes进行部署。

BentoML​

这个仓库提供了一个示例，展示了如何使用BentoML部署LangChain应用程序。BentoML是一个框架，可以将机器学习应用程序容器化为标准的OCI镜像。BentoML还允许自动生成OpenAPI和gRPC端点。使用BentoML，您可以集成来自所有流行的ML框架的模型，并将它们部署为在最优硬件上独立扩展的微服务。

OpenLLM​

OpenLLM是一个用于在生产环境中操作大型语言模型（LLM）的平台。使用OpenLLM，您可以运行任何开源LLM的推理，部署到云端或本地，并构建强大的AI应用程序。它支持广泛的开源LLM，提供灵活的API，并对LangChain和BentoML提供一流的支持。请参阅OpenLLM的集成文档以了解与LangChain的使用方法。

Databutton​

这些模板示例展示了如何使用Databutton构建、部署和共享LangChain应用程序。您可以使用Streamlit创建用户界面，通过调度Python代码自动化任务，并在内置存储中存储文件和数据。示例包括具有对话记忆的聊天机器人界面、个人搜索引擎以及LangChain应用程序的起始模板。部署和共享只需点击一次即可。