Google El Carro for Oracle Workloads

Google El Carro Oracle Operator 提供了一种在Kubernetes中运行Oracle数据库的方法，作为一个可移植的、开源的、社区驱动的、无供应商锁定的容器编排系统。El Carro 提供了强大的声明式API，用于全面和一致的配置和部署，以及实时操作和监控。 通过利用El Carro Langchain集成，扩展您的Oracle数据库的功能，以构建AI驱动的体验。

本指南介绍了如何使用El Carro Langchain集成来 保存、加载和删除langchain文档 使用ElCarroLoader和ElCarroDocumentSaver。此集成适用于任何Oracle数据库，无论其运行在哪里。

在GitHub上了解更多关于该包的信息。

开始之前

请完成 入门指南 部分，以设置您的 El Carro Oracle 数据库。

🦜🔗 库安装

集成位于其自己的 langchain-google-el-carro 包中，因此我们需要安装它。

%pip install --upgrade --quiet langchain-google-el-carro

基本用法

设置 Oracle 数据库连接

填写以下变量以提供您的 Oracle 数据库连接详细信息。

# @title Set Your Values Here { display-mode: "form" }
HOST = "127.0.0.1"  # @param {type: "string"}
PORT = 3307  # @param {type: "integer"}
DATABASE = "my-database"  # @param {type: "string"}
TABLE_NAME = "message_store"  # @param {type: "string"}
USER = "my-user"  # @param {type: "string"}
PASSWORD = input("请输入用于数据库用户的密码: ")

如果您使用的是 El Carro，您可以在 El Carro Kubernetes 实例的状态中找到主机名和端口值。使用您为 PDB 创建的用户密码。

示例输出：

kubectl get -w instances.oracle.db.anthosapis.com -n db
NAME   DB ENGINE   VERSION   EDITION      ENDPOINT      URL                DB NAMES   BACKUP ID   READYSTATUS   READYREASON        DBREADYSTATUS   DBREADYREASON

mydb   Oracle      18c       Express      mydb-svc.db   34.71.69.25:6021   ['pdbname']            TRUE          CreateComplete     True            CreateComplete

ElCarroEngine 连接池

ElCarroEngine 配置一个连接池到您的 Oracle 数据库，允许您的应用程序成功连接，并遵循行业最佳实践。

from langchain_google_el_carro import ElCarroEngine

elcarro_engine = ElCarroEngine.from_instance(
    db_host=HOST,
    db_port=PORT,
    db_name=DATABASE,
    db_user=USER,
    db_password=PASSWORD,
)

初始化表格

通过 elcarro_engine.init_document_table(<table_name>) 初始化默认模式的表格。表格列：

• page_content (类型: text)
• langchain_metadata (类型: JSON)

elcarro_engine.drop_document_table(TABLE_NAME)
elcarro_engine.init_document_table(
    table_name=TABLE_NAME,
)

保存文档

使用 ElCarroDocumentSaver.add_documents(<documents>) 保存 langchain 文档。要初始化 ElCarroDocumentSaver 类，您需要提供两样东西：

1. elcarro_engine - 一个 ElCarroEngine 引擎的实例。
2. table_name - 存储 langchain 文档的 Oracle 数据库中的表名。

from langchain_core.documents import Document
from langchain_google_el_carro import ElCarroDocumentSaver

doc = Document(
    page_content="Banana",
    metadata={"type": "fruit", "weight": 100, "organic": 1},
)

saver = ElCarroDocumentSaver(
    elcarro_engine=elcarro_engine,
    table_name=TABLE_NAME,
)
saver.add_documents([doc])

加载文档

使用 ElCarroLoader.load() 或 ElCarroLoader.lazy_load() 加载 langchain 文档。 lazy_load 返回一个生成器，该生成器在迭代过程中仅查询数据库。 要初始化 ElCarroLoader 类，您需要提供：

1. elcarro_engine - ElCarroEngine 引擎的实例。
2. table_name - Oracle 数据库中存储 langchain 文档的表名。

from langchain_google_el_carro import ElCarroLoader

loader = ElCarroLoader(elcarro_engine=elcarro_engine, table_name=TABLE_NAME)
docs = loader.lazy_load()
for doc in docs:
    print("Loaded documents:", doc)

通过查询加载文档

除了从表中加载文档外，我们还可以选择从通过 SQL 查询生成的视图中加载文档。例如：

from langchain_google_el_carro import ElCarroLoader

loader = ElCarroLoader(
    elcarro_engine=elcarro_engine,
    query=f"SELECT * FROM {TABLE_NAME} WHERE json_value(langchain_metadata, '$.organic') = '1'",
)
onedoc = loader.load()
print(onedoc)

通过 SQL 查询生成的视图可以具有与默认表不同的模式。在这种情况下，ElCarroLoader 的行为与从具有非默认模式的表中加载文档相同。请参阅 部分 加载带有自定义文档页面内容和元数据的文档。

删除文档

从 Oracle 表中删除一组 langchain 文档，使用 ElCarroDocumentSaver.delete(<documents>)。

对于具有默认模式（page_content, langchain_metadata）的表，删除标准为：

如果在列表中存在一个 document，则应删除 row，满足以下条件：

• document.page_content 等于 row[page_content]
• document.metadata 等于 row[langchain_metadata]

docs = loader.load()
print("Documents before delete:", docs)
saver.delete(onedoc)
print("Documents after delete:", loader.load())

高级用法

使用自定义文档页面内容和元数据加载文档

首先，我们准备一个具有非默认模式的示例表，并用一些任意数据填充它。

import sqlalchemy

create_table_query = f"""CREATE TABLE {TABLE_NAME} (
    fruit_id NUMBER GENERATED BY DEFAULT AS IDENTITY (START WITH 1),
    fruit_name VARCHAR2(100) NOT NULL,
    variety VARCHAR2(50),
    quantity_in_stock NUMBER(10) NOT NULL,
    price_per_unit NUMBER(6,2) NOT NULL,
    organic NUMBER(3) NOT NULL
)"""
elcarro_engine.drop_document_table(TABLE_NAME)

with elcarro_engine.connect() as conn:
    conn.execute(sqlalchemy.text(create_table_query))
    conn.commit()
    conn.execute(
        sqlalchemy.text(
            f"""
            INSERT INTO {TABLE_NAME} (fruit_name, variety, quantity_in_stock, price_per_unit, organic)
            VALUES ('Apple', 'Granny Smith', 150, 0.99, 1)
            """
        )
    )
    conn.execute(
        sqlalchemy.text(
            f"""
            INSERT INTO {TABLE_NAME} (fruit_name, variety, quantity_in_stock, price_per_unit, organic)
            VALUES ('Banana', 'Cavendish', 200, 0.59, 0)
            """
        )
    )
    conn.execute(
        sqlalchemy.text(
            f"""
            INSERT INTO {TABLE_NAME} (fruit_name, variety, quantity_in_stock, price_per_unit, organic)
            VALUES ('Orange', 'Navel', 80, 1.29, 1)
            """
        )
    )
    conn.commit()

如果我们仍然使用默认参数的 ElCarroLoader 从这个示例表加载 langchain 文档，加载文档的 page_content 将是表的第一列，而 metadata 将由所有其他列的键值对组成。

loader = ElCarroLoader(
    elcarro_engine=elcarro_engine,
    table_name=TABLE_NAME,
)
loaded_docs = loader.load()
print(f"Loaded Documents: [{loaded_docs}]")

我们可以通过在初始化 ElCarroLoader 时设置 content_columns 和 metadata_columns 来指定要加载的内容和元数据。

1. content_columns: 要写入文档的 page_content 的列。
2. metadata_columns: 要写入文档的 metadata 的列。

例如，在这里，content_columns 中列的值将被连接成一个以空格分隔的字符串，作为加载文档的 page_content，而加载文档的 metadata 将仅包含在 metadata_columns 中指定的列的键值对。

loader = ElCarroLoader(
    elcarro_engine=elcarro_engine,
    table_name=TABLE_NAME,
    content_columns=[
        "variety",
        "quantity_in_stock",
        "price_per_unit",
        "organic",
    ],
    metadata_columns=["fruit_id", "fruit_name"],
)
loaded_docs = loader.load()
print(f"Loaded Documents: [{loaded_docs}]")

保存带有自定义页面内容和元数据的文档

为了将 langchain 文档保存到带有自定义元数据字段的表中，我们首先需要通过 ElCarroEngine.init_document_table() 创建这样一个表，并指定我们希望拥有的 metadata_columns 列表。在这个例子中，创建的表将包含以下列：

• content (类型: text): 用于存储水果描述。
• type (类型 VARCHAR2(200)): 用于存储水果类型。
• weight (类型 INT): 用于存储水果重量。
• extra_json_metadata (类型: JSON): 用于存储水果的其他元数据信息。

我们可以使用以下参数与 elcarro_engine.init_document_table() 创建表：

1. table_name: 在 Oracle 数据库中用于存储 langchain 文档的表名。
2. metadata_columns: 一个 sqlalchemy.Column 的列表，表示我们需要的元数据列列表。
3. content_column: 用于存储 langchain 文档的 page_content 的列名。默认值: "page_content", "VARCHAR2(4000)"
4. metadata_json_column: 用于存储 langchain 文档的额外 JSON metadata 的列名。默认值: "langchain_metadata", "VARCHAR2(4000)"。

elcarro_engine.drop_document_table(TABLE_NAME)
elcarro_engine.init_document_table(
    table_name=TABLE_NAME,
    metadata_columns=[
        sqlalchemy.Column("type", sqlalchemy.dialects.oracle.VARCHAR2(200)),
        sqlalchemy.Column("weight", sqlalchemy.INT),
    ],
    content_column="content",
    metadata_json_column="extra_json_metadata",
)

使用 ElCarroDocumentSaver.add_documents(<documents>) 保存文档。如您在本例中所见，

• document.page_content 将被保存到 content 列中。
• document.metadata.type 将被保存到 type 列中。
• document.metadata.weight 将被保存到 weight 列中。
• document.metadata.organic 将以 JSON 格式保存到 extra_json_metadata 列中。

doc = Document(
    page_content="Banana",
    metadata={"type": "fruit", "weight": 100, "organic": 1},
)

print(f"Original Document: [{doc}]")

saver = ElCarroDocumentSaver(
    elcarro_engine=elcarro_engine,
    table_name=TABLE_NAME,
    content_column="content",
    metadata_json_column="extra_json_metadata",
)
saver.add_documents([doc])

loader = ElCarroLoader(
    elcarro_engine=elcarro_engine,
    table_name=TABLE_NAME,
    content_columns=["content"],
    metadata_columns=[
        "type",
        "weight",
    ],
    metadata_json_column="extra_json_metadata",
)

loaded_docs = loader.load()
print(f"Loaded Document: [{loaded_docs[0]}]")

删除具有自定义页面内容和元数据的文档

我们还可以通过 ElCarroDocumentSaver.delete(<documents>) 从具有自定义元数据列的表中删除文档。删除标准如下：

如果列表中存在一个 document，则应删除 row，满足以下条件：

• document.page_content 等于 row[page_content]
• 对于 document.metadata 中的每个元数据字段 k
  • document.metadata[k] 等于 row[k] 或 document.metadata[k] 等于 row[langchain_metadata][k]
• row 中没有额外的元数据字段，而这些字段在 document.metadata 中不存在。

loader = ElCarroLoader(elcarro_engine=elcarro_engine, table_name=TABLE_NAME)
saver.delete(loader.load())
print(f"Documents left: {len(loader.load())}")

更多示例

请查看 demo_doc_loader_basic.py 和 demo_doc_loader_advanced.py 以获取完整的代码示例。

相关

• 文档加载器 概念指南
• 文档加载器 操作指南