跳至主要內容

Oracle AI Vector Search：產生嵌入

Oracle AI Vector Search 專為人工智慧 (AI) 工作負載而設計，讓您能夠根據語意而非關鍵字查詢資料。Oracle AI Vector Search 的最大優勢之一是，非結構化資料的語意搜尋可以與單一系統中的業務資料的關聯式搜尋相結合。這不僅功能強大，而且效率更高，因為您無需新增專用的向量資料庫，從而消除了多個系統之間資料碎片化的困擾。

此外，您的向量可以受益於 Oracle Database 所有最強大的功能，例如：

本指南示範如何使用 Oracle AI Vector Search 中的嵌入功能，以使用 OracleEmbeddings 為您的文件產生嵌入。

如果您剛開始使用 Oracle Database，請考慮探索免費的 Oracle 23 AI，它提供了設定資料庫環境的絕佳入門指南。在使用資料庫時，通常建議避免預設使用系統使用者；相反地，您可以建立自己的使用者，以提高安全性和自訂性。有關使用者建立的詳細步驟，請參閱我們的端到端指南，其中也示範了如何在 Oracle 中設定使用者。此外，了解使用者權限對於有效地管理資料庫安全性至關重要。您可以在官方Oracle 指南中找到有關管理使用者帳戶和安全性的更多資訊。

先決條件​

請確保您已安裝 Oracle Python Client 驅動程式，以方便 Langchain 與 Oracle AI Vector Search 的整合。

# pip install oracledb

連線至 Oracle Database​

以下範例程式碼將示範如何連線至 Oracle Database。依預設，python-oracledb 在「Thin」模式下執行，該模式直接連線至 Oracle Database。此模式不需要 Oracle Client 程式庫。但是，當 python-oracledb 使用它們時，可以使用一些額外的功能。當使用 Oracle Client 程式庫時，python-oracledb 被稱為處於「Thick」模式。兩種模式都具有全面的功能，支援 Python Database API v2.0 規範。請參閱以下指南，其中討論了每種模式支援的功能。如果您無法使用 thin 模式，您可能需要切換到 thick 模式。

import sys

import oracledb

# Update the following variables with your Oracle database credentials and connection details
username = "<username>"
password = "<password>"
dsn = "<hostname>/<service_name>"

try:
    conn = oracledb.connect(user=username, password=password, dsn=dsn)
    print("Connection successful!")
except Exception as e:
    print("Connection failed!")
    sys.exit(1)

對於嵌入產生，使用者有多種提供者選項可用，包括資料庫內的嵌入產生以及 OcigenAI、Hugging Face 和 OpenAI 等第三方服務。選擇第三方提供者的使用者必須建立包含必要驗證資訊的憑證。或者，如果使用者選擇「database」作為其提供者，則需要將 ONNX 模型載入到 Oracle Database 中以方便嵌入。

載入 ONNX 模型​

Oracle 容納各種嵌入提供者，使使用者能夠在專有資料庫解決方案和 OCIGENAI 和 HuggingFace 等第三方服務之間進行選擇。此選擇決定了產生和管理嵌入的方法。

重要提示：如果使用者選擇資料庫選項，他們必須將 ONNX 模型上傳到 Oracle Database 中。相反地，如果選擇第三方提供者來產生嵌入，則不需要將 ONNX 模型上傳到 Oracle Database。

直接在 Oracle 內使用 ONNX 模型的一個顯著優勢是，它透過消除將資料傳輸到外部方的需求，從而提供增強的安全性和效能。此外，此方法避免了通常與網路或 REST API 呼叫相關聯的延遲。

以下是將 ONNX 模型上傳到 Oracle Database 的範例程式碼

from langchain_community.embeddings.oracleai import OracleEmbeddings

# Update the directory and file names for your ONNX model
# make sure that you have onnx file in the system
onnx_dir = "DEMO_DIR"
onnx_file = "tinybert.onnx"
model_name = "demo_model"

try:
    OracleEmbeddings.load_onnx_model(conn, onnx_dir, onnx_file, model_name)
    print("ONNX model loaded.")
except Exception as e:
    print("ONNX model loading failed!")
    sys.exit(1)
API 參考：OracleEmbeddings

建立憑證​

在選擇第三方提供者來產生嵌入時，使用者需要建立憑證以安全地存取提供者的端點。

重要提示：在選擇「database」提供者來產生嵌入時，不需要任何憑證。但是，如果使用者決定使用第三方提供者，他們必須建立特定於所選提供者的憑證。

以下是一個說明性範例

try:
    cursor = conn.cursor()
    cursor.execute(
        """
       declare
           jo json_object_t;
       begin
           -- HuggingFace
           dbms_vector_chain.drop_credential(credential_name  => 'HF_CRED');
           jo := json_object_t();
           jo.put('access_token', '<access_token>');
           dbms_vector_chain.create_credential(
               credential_name   =>  'HF_CRED',
               params            => json(jo.to_string));

           -- OCIGENAI
           dbms_vector_chain.drop_credential(credential_name  => 'OCI_CRED');
           jo := json_object_t();
           jo.put('user_ocid','<user_ocid>');
           jo.put('tenancy_ocid','<tenancy_ocid>');
           jo.put('compartment_ocid','<compartment_ocid>');
           jo.put('private_key','<private_key>');
           jo.put('fingerprint','<fingerprint>');
           dbms_vector_chain.create_credential(
               credential_name   => 'OCI_CRED',
               params            => json(jo.to_string));
       end;
       """
    )
    cursor.close()
    print("Credentials created.")
except Exception as ex:
    cursor.close()
    raise

產生嵌入​

Oracle AI Vector Search 提供了多種產生嵌入的方法，使用本機託管的 ONNX 模型或第三方 API。有關設定這些替代方案的完整說明，請參閱Oracle AI Vector Search 指南。

注意：使用者可能需要設定代理才能使用第三方嵌入產生提供者，不包括使用 ONNX 模型的「database」提供者。

# proxy to be used when we instantiate summary and embedder object
proxy = "<proxy>"

以下範例程式碼將示範如何產生嵌入

from langchain_community.embeddings.oracleai import OracleEmbeddings
from langchain_core.documents import Document

"""
# using ocigenai
embedder_params = {
    "provider": "ocigenai",
    "credential_name": "OCI_CRED",
    "url": "https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/embedText",
    "model": "cohere.embed-english-light-v3.0",
}

# using huggingface
embedder_params = {
    "provider": "huggingface", 
    "credential_name": "HF_CRED", 
    "url": "https://api-inference.huggingface.co/pipeline/feature-extraction/", 
    "model": "sentence-transformers/all-MiniLM-L6-v2", 
    "wait_for_model": "true"
}
"""

# using ONNX model loaded to Oracle Database
embedder_params = {"provider": "database", "model": "demo_model"}

# If a proxy is not required for your environment, you can omit the 'proxy' parameter below
embedder = OracleEmbeddings(conn=conn, params=embedder_params, proxy=proxy)
embed = embedder.embed_query("Hello World!")

""" verify """
print(f"Embedding generated by OracleEmbeddings: {embed}")
API 參考：OracleEmbeddings | Document

端到端示範​

請參閱我們的完整示範指南Oracle AI Vector Search 端到端示範指南，以借助 Oracle AI Vector Search 建立端到端 RAG 管道。

這個頁面有幫助嗎？