Cloudflare Workers AI

Cloudflare, Inc. (維基百科) 是一家美國公司，提供內容傳遞網路服務、雲端網路安全、DDoS 緩解和 ICANN 認證的網域註冊服務。

Cloudflare Workers AI 允許您透過 REST API 從您的程式碼在 Cloudflare 網路執行機器學習模型。

Cloudflare AI 文件 列出了所有可用的文字嵌入模型。

設定

需要 Cloudflare 帳戶 ID 和 API 令牌。請從此文件中找到如何取得它們的方法。

import getpass

my_account_id = getpass.getpass("Enter your Cloudflare account ID:\n\n")
my_api_token = getpass.getpass("Enter your Cloudflare API token:\n\n")

範例

from langchain_community.embeddings.cloudflare_workersai import (
    CloudflareWorkersAIEmbeddings,
)

API 參考：CloudflareWorkersAIEmbeddings

embeddings = CloudflareWorkersAIEmbeddings(
    account_id=my_account_id,
    api_token=my_api_token,
    model_name="@cf/baai/bge-small-en-v1.5",
)
# single string embeddings
query_result = embeddings.embed_query("test")
len(query_result), query_result[:3]

(384, [-0.033627357333898544, 0.03982774540781975, 0.03559349477291107])

# string embeddings in batches
batch_query_result = embeddings.embed_documents(["test1", "test2", "test3"])
len(batch_query_result), len(batch_query_result[0])

(3, 384)

相關

• 嵌入模型概念指南
• 嵌入模型操作指南