Skip to main content

语言模型

LangChain提供了两种类型模型的接口和集成：

  • LLMs：以文本字符串作为输入并返回文本字符串的模型
  • Chat models：由语言模型支持，以聊天消息列表作为输入并返回聊天消息的模型

LLMs与Chat Models的区别​

LLMs和Chat Models在细微但重要的方面有所不同。在LangChain中，LLMs指的是纯文本补全模型。它们封装的API接受一个字符串提示作为输入，并输出一个字符串补全。OpenAI的GPT-3就是一个LLM。Chat Models通常由LLMs支持，但专门针对对话进行了调优。关键是，它们的提供者API公开了与纯文本补全模型不同的接口。它们接受一个聊天消息列表作为输入。通常，这些消息会标记说话者（通常是"System"、"AI"和"Human"之一）。它们返回一个（"AI"）聊天消息作为输出。GPT-4和Anthropic的Claude都是以Chat Models的形式实现的。

为了使LLMs和Chat Models可以互换使用，它们都实现了Base Language Model接口。该接口公开了常用的方法"predict"，它接受一个字符串并返回一个字符串，以及"predict messages"，它接受消息并返回一个消息。如果您正在使用特定的模型，建议您使用该模型类的特定方法（即LLMs使用"predict"，Chat Models使用"predict messages"），但如果您正在创建一个可以与不同类型模型一起使用的应用程序，共享的接口可能会有所帮助。