Typesense
Typesense 是一個開源、記憶體內搜尋引擎,您可以自行託管或在 Typesense Cloud 上執行。
Typesense 專注於效能,方法是將整個索引儲存在 RAM 中(並在磁碟上備份),並且還專注於提供開箱即用的開發人員體驗,方法是簡化可用選項並設定良好的預設值。
它還允許您將基於屬性的篩選與向量查詢結合使用,以獲取最相關的文件。
此筆記本向您展示如何使用 Typesense 作為您的向量資料庫。
讓我們先安裝我們的依賴項
%pip install --upgrade --quiet typesense openapi-schema-pydantic langchain-openai langchain-community tiktoken
我們想要使用 OpenAIEmbeddings
,因此我們必須取得 OpenAI API 金鑰。
import getpass
import os
if "OPENAI_API_KEY" not in os.environ:
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")
from langchain_community.document_loaders import TextLoader
from langchain_community.vectorstores import Typesense
from langchain_openai import OpenAIEmbeddings
from langchain_text_splitters import CharacterTextSplitter
讓我們導入我們的測試數據集
loader = TextLoader("../../how_to/state_of_the_union.txt")
documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)
embeddings = OpenAIEmbeddings()
docsearch = Typesense.from_documents(
docs,
embeddings,
typesense_client_params={
"host": "localhost", # Use xxx.a1.typesense.net for Typesense Cloud
"port": "8108", # Use 443 for Typesense Cloud
"protocol": "http", # Use https for Typesense Cloud
"typesense_api_key": "xyz",
"typesense_collection_name": "lang-chain",
},
)
相似度搜尋
query = "What did the president say about Ketanji Brown Jackson"
found_docs = docsearch.similarity_search(query)
print(found_docs[0].page_content)
Typesense 作為檢索器
Typesense 與所有其他向量資料庫一樣,是 LangChain 檢索器,透過使用餘弦相似度。
retriever = docsearch.as_retriever()
retriever
query = "What did the president say about Ketanji Brown Jackson"
retriever.invoke(query)[0]