Skip to main content

Google Cloud Platform Vertex AI PaLM

注意：这与Google PaLM集成是分开的，它在Google Cloud上公开了Vertex AI PaLM API。

默认情况下，Google Cloud不会使用客户数据来训练其基础模型，这是Google Cloud AI/ML隐私承诺的一部分。有关Google如何处理数据的更多详细信息也可以在Google的客户数据处理附加协议（CDPA）中找到。

要使用Vertex AI PaLM，您必须安装google-cloud-aiplatform Python包，并满足以下条件之一：

  • 为您的环境配置了凭据（gcloud、工作负载身份等）
  • 将服务帐号JSON文件的路径存储为GOOGLE_APPLICATION_CREDENTIALS环境变量

此代码库使用google.auth库，该库首先查找上述应用凭据变量，然后查找系统级身份验证。

有关更多信息，请参见：

#!pip install google-cloud-aiplatform
from langchain.llms import VertexAI
from langchain import PromptTemplate, LLMChain
template = """问题：{question}

答案：让我们逐步思考。"""

prompt = PromptTemplate(template=template, input_variables=["question"])
llm = VertexAI()
llm_chain = LLMChain(prompt=prompt, llm=llm)
question = "贾斯汀·比伯出生的那一年，哪支NFL球队赢得了超级碗？"

llm_chain.run(question)
    '贾斯汀·比伯出生于1994年3月1日。1994年的超级碗由旧金山49人队赢得。\n最终答案：旧金山49人队。'

现在您可以在Vertex AI中利用Codey API进行代码生成。模型名称如下：

  • code-bison：用于代码建议
  • code-gecko：用于代码补全
llm = VertexAI(model_name="code-bison")
llm_chain = LLMChain(prompt=prompt, llm=llm)
question = "编写一个Python函数，用于判断一个数是否为质数？"

llm_chain.run(question)
    '```python\ndef is_prime(n):\n  """\n  判断一个数是否为质数。\n\n  参数：\n    n：要测试的数。\n\n  返回值：\n    如果该数是质数，则返回True；否则返回False。\n  """\n\n  # 检查数是否为1。\n  if n == 1:\n    return False\n\n  # 检查数是否为2。\n  if n == 2:\n    return True\n\n'