OllamaEmbeddings

這將幫助您開始使用 LangChain 的 Ollama 嵌入模型。如需 OllamaEmbeddings 功能和組態選項的詳細文件，請參閱 API 參考。

概觀

整合詳細資訊

供應商	套件
Ollama	langchain-ollama

設定

首先，請依照這些指示設定並執行本機 Ollama 執行個體

• 下載並將 Ollama 安裝到可用的支援平台（包括適用於 Linux 的 Windows 子系統）
• 透過 ollama pull <模型名稱> 擷取可用的 LLM 模型
  • 透過模型庫檢視可用模型清單
  • 例如，ollama pull llama3
• 這將下載模型的預設標記版本。通常，預設指向最新的、最小尺寸參數的模型。

在 Mac 上，模型將下載到 ~/.ollama/models

在 Linux（或 WSL）上，模型將儲存在 /usr/share/ollama/.ollama/models

• 指定感興趣模型的確切版本，例如 ollama pull vicuna:13b-v1.5-16k-q4_0（在此實例中檢視 Vicuna 的各種標記）
• 若要檢視所有提取的模型，請使用 ollama list
• 若要直接從命令列與模型聊天，請使用 ollama run <模型名稱>
• 檢視Ollama 文件以取得更多命令。在終端機中執行 ollama help 以查看可用的命令。

憑證

Ollama 沒有內建的驗證機制。

如果您想要取得模型呼叫的自動追蹤，您也可以透過取消註解下方內容來設定您的 LangSmith API 金鑰

# os.environ["LANGSMITH_TRACING"] = "true"
# os.environ["LANGSMITH_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")

安裝

LangChain Ollama 整合位於 langchain-ollama 套件中

%pip install -qU langchain-ollama

Note: you may need to restart the kernel to use updated packages.

例項化

現在我們可以例項化我們的模型物件並產生嵌入

from langchain_ollama import OllamaEmbeddings

embeddings = OllamaEmbeddings(
    model="llama3",
)

API 參考：OllamaEmbeddings

索引和檢索

嵌入模型通常用於檢索增強生成 (RAG) 流程中，既作為索引資料的一部分，也用於稍後檢索資料。如需更詳細的指示，請參閱我們的RAG 教學課程。

在下方，查看如何使用我們在上面初始化的 embeddings 物件來索引和檢索資料。在此範例中，我們將在 InMemoryVectorStore 中索引和檢索範例文件。

# Create a vector store with a sample text
from langchain_core.vectorstores import InMemoryVectorStore

text = "LangChain is the framework for building context-aware reasoning applications"

vectorstore = InMemoryVectorStore.from_texts(
    [text],
    embedding=embeddings,
)

# Use the vectorstore as a retriever
retriever = vectorstore.as_retriever()

# Retrieve the most similar text
retrieved_documents = retriever.invoke("What is LangChain?")

# show the retrieved document's content
retrieved_documents[0].page_content

API 參考：InMemoryVectorStore

'LangChain is the framework for building context-aware reasoning applications'

直接使用

在幕後，向量儲存區和檢索器實作正在呼叫 embeddings.embed_documents(...) 和 embeddings.embed_query(...)，以為 from_texts 和檢索 invoke 操作中使用的文字建立嵌入。

您可以直接呼叫這些方法以取得嵌入，以用於您自己的用例。

嵌入單一文字

您可以使用 embed_query 嵌入單一文字或文件

single_vector = embeddings.embed_query(text)
print(str(single_vector)[:100])  # Show the first 100 characters of the vector

[-0.001288981, 0.006547121, 0.018376578, 0.025603496, 0.009599175, -0.0042578303, -0.023250086, -0.0

嵌入多個文字

您可以使用 embed_documents 嵌入多個文字

text2 = (
    "LangGraph is a library for building stateful, multi-actor applications with LLMs"
)
two_vectors = embeddings.embed_documents([text, text2])
for vector in two_vectors:
    print(str(vector)[:100])  # Show the first 100 characters of the vector

[-0.0013138362, 0.006438795, 0.018304596, 0.025530428, 0.009717592, -0.004225636, -0.023363983, -0.0
[-0.010317663, 0.01632489, 0.0070348927, 0.017076202, 0.008924255, 0.007399284, -0.023064945, -0.003

API 參考

如需 OllamaEmbeddings 功能和組態選項的詳細文件，請參閱 API 參考。

相關內容

• 嵌入模型概念指南
• 嵌入模型操作指南