Oracle AI Vector Search：生成嵌入¶

Oracle AI Vector Search 专为人工智能 (AI) 工作负载设计，允许您基于语义而非关键词查询数据。Oracle AI Vector Search 的最大优势之一是，可以在同一个系统中将非结构化数据的语义搜索与业务数据的关系搜索结合起来。这不仅强大，而且效率显著提高，因为您无需添加专门的向量数据库，从而消除了多个系统之间数据碎片化带来的麻烦。

此外，您的向量可以受益于 Oracle 数据库所有最强大的功能，例如以下各项：

• 分区支持
• Real Application Clusters 可伸缩性
• Exadata 智能扫描
• 地理分布数据库之间的分片处理
• 事务
• 并行 SQL
• 灾难恢复
• 安全性
• Oracle Machine Learning
• Oracle Graph Database
• Oracle Spatial and Graph
• Oracle Blockchain
• JSON

本指南演示了如何使用 Oracle AI Vector Search 中的嵌入功能，利用 OracleEmbeddings 为您的文档生成嵌入。

如果您刚开始使用 Oracle 数据库，可以考虑探索免费的 Oracle 23 AI，它为设置数据库环境提供了很好的入门指导。在使用数据库时，通常建议避免默认使用 system 用户；相反，您可以创建自己的用户以增强安全性和自定义。有关用户创建的详细步骤，请参阅我们的端到端指南，其中也展示了如何在 Oracle 中设置用户。此外，了解用户权限对于有效管理数据库安全至关重要。您可以在官方的Oracle 指南中了解更多关于管理用户账户和安全的主题。

先决条件¶

确保您已安装 Oracle Python Client 驱动程序，以促进 llama_index 与 Oracle AI Vector Search 的集成。

In [ ]

%pip install llama-index-embeddings-oracleai

%pip install llama-index-embeddings-oracleai

连接到 Oracle 数据库¶

以下示例代码将展示如何连接到 Oracle 数据库。默认情况下，python-oracledb 在“瘦”模式下运行，该模式直接连接到 Oracle 数据库。此模式无需 Oracle Client 库。但是，当 python-oracledb 使用这些库时，会提供一些附加功能。当使用 Oracle Client 库时，python-oracledb 被称为处于“厚”模式。两种模式都具备全面的功能，支持 Python Database API v2.0 规范。请参阅以下指南，其中讨论了每种模式支持的功能。如果您无法使用瘦模式，可能需要切换到厚模式。

In [ ]

import sys

import oracledb

# Update the following variables with your Oracle database credentials and connection details
username = "<username>"
password = "<password>"
dsn = "<hostname>/<service_name>"

try:
    conn = oracledb.connect(user=username, password=password, dsn=dsn)
    print("Connection successful!")
except Exception as e:
    print("Connection failed!")
    sys.exit(1)

import sys import oracledb # 使用您的 Oracle 数据库凭据和连接详情更新以下变量 username = "" password = "" dsn = "/" try: conn = oracledb.connect(user=username, password=password, dsn=dsn) print("连接成功!") except Exception as e: print("连接失败!") sys.exit(1)

对于嵌入生成，用户有多种提供商选项，包括在数据库内生成嵌入以及使用第三方服务（如 OcigenAI、Hugging Face 和 OpenAI）。选择第三方提供商的用户必须建立包含所需身份验证信息的凭据。另外，如果用户选择“database”作为提供商，则需要将 ONNX 模型加载到 Oracle 数据库中以方便嵌入生成。

加载 ONNX 模型¶

Oracle 支持多种嵌入提供商，用户可以在专有数据库解决方案和第三方服务（如 OCIGENAI 和 HuggingFace）之间进行选择。此选择决定了生成和管理嵌入的方法。

重要：如果用户选择数据库选项，则必须将 ONNX 模型上传到 Oracle 数据库中。相反，如果选择第三方提供商进行嵌入生成，则无需将 ONNX 模型上传到 Oracle 数据库。

直接在 Oracle 内部使用 ONNX 模型的一个显著优势在于，通过消除将数据传输到外部方的需求，可以增强安全性和性能。此外，此方法避免了通常与网络或 REST API 调用相关的延迟。

以下是将 ONNX 模型上传到 Oracle 数据库的示例代码

In [ ]

from llama_index.embeddings.oracleai import OracleEmbeddings

# please update with your related information
# make sure that you have onnx file in the system
onnx_dir = "DEMO_DIR"
onnx_file = "tinybert.onnx"
model_name = "demo_model"

try:
    OracleEmbeddings.load_onnx_model(conn, onnx_dir, onnx_file, model_name)
    print("ONNX model loaded.")
except Exception as e:
    print("ONNX model loading failed!")
    sys.exit(1)

from llama_index.embeddings.oracleai import OracleEmbeddings # 请使用您的相关信息更新 # 确保系统中有 onnx 文件 onnx_dir = "DEMO_DIR" onnx_file = "tinybert.onnx" model_name = "demo_model" try: OracleEmbeddings.load_onnx_model(conn, onnx_dir, onnx_file, model_name) print("ONNX 模型已加载。") except Exception as e: print("ONNX 模型加载失败!") sys.exit(1)

创建凭据¶

当选择第三方提供商来生成嵌入时，用户需要建立凭据以安全地访问提供商的端点。

重要：选择“database”提供商生成嵌入时，无需凭据。但是，如果用户决定使用第三方提供商，则必须为所选提供商创建特定凭据。

以下是一个示例

In [ ]

try:
    cursor = conn.cursor()
    cursor.execute(
        """
       declare
           jo json_object_t;
       begin
           -- HuggingFace
           dbms_vector_chain.drop_credential(credential_name  => 'HF_CRED');
           jo := json_object_t();
           jo.put('access_token', '<access_token>');
           dbms_vector_chain.create_credential(
               credential_name   =>  'HF_CRED',
               params            => json(jo.to_string));

           -- OCIGENAI
           dbms_vector_chain.drop_credential(credential_name  => 'OCI_CRED');
           jo := json_object_t();
           jo.put('user_ocid','<user_ocid>');
           jo.put('tenancy_ocid','<tenancy_ocid>');
           jo.put('compartment_ocid','<compartment_ocid>');
           jo.put('private_key','<private_key>');
           jo.put('fingerprint','<fingerprint>');
           dbms_vector_chain.create_credential(
               credential_name   => 'OCI_CRED',
               params            => json(jo.to_string));
       end;
       """
    )
    cursor.close()
    print("Credentials created.")
except Exception as ex:
    cursor.close()
    raise

try: cursor = conn.cursor() cursor.execute( """ declare jo json_object_t; begin -- HuggingFace dbms_vector_chain.drop_credential(credential_name => 'HF_CRED'); jo := json_object_t(); jo.put('access_token', ''); dbms_vector_chain.create_credential( credential_name => 'HF_CRED', params => json(jo.to_string)); -- OCIGENAI dbms_vector_chain.drop_credential(credential_name => 'OCI_CRED'); jo := json_object_t(); jo.put('user_ocid',''); jo.put('tenancy_ocid',''); jo.put('compartment_ocid',''); jo.put('private_key',''); jo.put('fingerprint',''); dbms_vector_chain.create_credential( credential_name => 'OCI_CRED', params => json(jo.to_string)); end; """ ) cursor.close() print("凭据已创建。") except Exception as ex: cursor.close() raise

生成嵌入¶

Oracle AI Vector Search 提供了多种生成嵌入的方法，可以使用本地托管的 ONNX 模型或第三方 API。有关配置这些替代方案的详细说明，请参阅Oracle AI Vector Search 指南。

注意：使用第三方嵌入生成提供商（不包括使用 ONNX 模型的“database”提供商）时，用户可能需要配置代理。

In [ ]

# proxy to be used when we instantiate summary and embedder object
proxy = "<proxy>"

# 实例化 summary 和 embedder 对象时使用的代理 proxy = ""

以下示例代码将展示如何生成嵌入

In [ ]

from llama_index.embeddings.oracleai import OracleEmbeddings

"""
# using ocigenai
embedder_params = {
    "provider": "ocigenai",
    "credential_name": "OCI_CRED",
    "url": "https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/embedText",
    "model": "cohere.embed-english-light-v3.0",
}

# using huggingface
embedder_params = {
    "provider": "huggingface", 
    "credential_name": "HF_CRED", 
    "url": "https://api-inference.huggingface.co/pipeline/feature-extraction/", 
    "model": "sentence-transformers/all-MiniLM-L6-v2", 
    "wait_for_model": "true"
}
"""

# using ONNX model loaded to Oracle Database
embedder_params = {"provider": "database", "model": "demo_model"}

# Remove proxy if not required
embedder = OracleEmbeddings(conn=conn, params=embedder_params, proxy=proxy)
embed = embedder._get_text_embedding("Hello World!")

""" verify """
print(f"Embedding generated by OracleEmbeddings: {embed}")

from llama_index.embeddings.oracleai import OracleEmbeddings """ # 使用 ocigenai embedder_params = { "provider": "ocigenai", "credential_name": "OCI_CRED", "url": "https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/embedText", "model": "cohere.embed-english-light-v3.0", } # 使用 huggingface embedder_params = { "provider": "huggingface", "credential_name": "HF_CRED", "url": "https://api-inference.huggingface.co/pipeline/feature-extraction/", "model": "sentence-transformers/all-MiniLM-L6-v2", "wait_for_model": "true" } """ # 使用加载到 Oracle 数据库的 ONNX 模型 embedder_params = {"provider": "database", "model": "demo_model"} # 如果不需要代理，请删除 proxy = proxy) embedder = OracleEmbeddings(conn=conn, params=embedder_params, proxy=proxy) embed = embedder._get_text_embedding("Hello World!") """ 验证 """ print(f"由 OracleEmbeddings 生成的嵌入: {embed}")

端到端演示¶

请参阅我们的完整演示指南Oracle AI Vector Search 端到端演示指南，了解如何借助 Oracle AI Vector Search 构建端到端 RAG 流水线。