Skip to main content

Oracle Cloud Infrastructure 生成式人工智能

Oracle Cloud Infrastructure (OCI) 生成式人工智能是一个完全托管的服务,提供一套最先进的、可定制的大型语言模型(LLMs),涵盖广泛的使用案例,并通过单一 API 提供访问。通过 OCI 生成式人工智能服务,您可以访问现成的预训练模型,或基于您自己的数据在专用 AI 集群上创建和托管您自己的微调自定义模型。该服务和 API 的详细文档可在 这里这里 获取。

本笔记本解释了如何使用 OCI 的生成式人工智能模型与 LangChain。

# 代码示例
import langchain

# 初始化模型
model = langchain.OracleGenerativeAIModel(api_key="your_api_key")

# 生成文本
response = model.generate("生成一些文本")
print(response)

前提条件

我们需要安装 oci sdk

!pip install -U oci

OCI 生成式 AI API 端点

https://inference.generativeai.us-chicago-1.oci.oraclecloud.com

身份验证

此 langchain 集成支持的身份验证方法有:

  1. API 密钥
  2. 会话令牌
  3. 实例主体
  4. 资源主体

这些遵循标准 SDK 身份验证方法,详细信息请参见 此处

# 示例代码
def authenticate(api_key):
# 身份验证逻辑
pass

用法

from langchain_community.embeddings import OCIGenAIEmbeddings

# 使用默认的身份验证方法 API-key
embeddings = OCIGenAIEmbeddings(
model_id="MY_EMBEDDING_MODEL",
service_endpoint="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com",
compartment_id="MY_OCID",
)


query = "This is a query in English."
response = embeddings.embed_query(query)
print(response)

documents = ["This is a sample document", "and here is another one"]
response = embeddings.embed_documents(documents)
print(response)
# 使用会话令牌进行身份验证
embeddings = OCIGenAIEmbeddings(
model_id="MY_EMBEDDING_MODEL",
service_endpoint="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com",
compartment_id="MY_OCID",
auth_type="SECURITY_TOKEN",
auth_profile="MY_PROFILE", # 替换为您的配置文件名称
)


query = "This is a sample query"
response = embeddings.embed_query(query)
print(response)

documents = ["This is a sample document", "and here is another one"]
response = embeddings.embed_documents(documents)
print(response)

相关


此页面是否有帮助?


您还可以留下详细的反馈 在 GitHub 上