跳到主要內容
Open on GitHub

Remembrall

本頁涵蓋如何在 LangChain 中使用 Remembrall 生態系統。

什麼是 Remembrall?

Remembrall 讓您的語言模型擁有長期記憶、檢索增強生成,以及只需幾行程式碼即可實現完全的可觀察性。

Screenshot of the Remembrall dashboard showing request statistics and model interactions.

它作為 OpenAI 呼叫之上的輕量級代理運作,並在執行階段使用已收集的相關事實,簡單地擴增聊天呼叫的上下文。

設定

若要開始使用,請在 Remembrall 平台使用 Github 登入,並從設定頁面複製您的 API 金鑰

您使用修改後的 openai_api_base(見下方)和 Remembrall API 金鑰傳送的任何請求,都會自動在 Remembrall 儀表板中追蹤。您永遠不必與我們的平台分享您的 OpenAI 金鑰,且 Remembrall 系統永遠不會儲存此資訊。

為此,我們需要安裝以下依賴項目

pip install -U langchain-openai

啟用長期記憶

除了透過 x-gp-api-key 設定 openai_api_base 和 Remembrall API 金鑰外,您應指定一個 UID 以維護記憶。這通常會是唯一的使用者識別碼(例如電子郵件)。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-remember": "user@email.com",
}
})

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5) # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))
API 參考:ChatOpenAI

啟用檢索增強生成

首先,在 Remembrall 儀表板中建立文件上下文。貼上文件文字或上傳 PDF 文件以進行處理。儲存文件上下文 ID,並如下所示插入。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-context": "document-context-id-goes-here",
}
})

print(chat_model.predict("This is a question that can be answered with my document."))
API 參考:ChatOpenAI

此頁面是否實用?