Remembrall
本頁涵蓋如何在 LangChain 中使用 Remembrall 生態系統。
什麼是 Remembrall?
Remembrall 讓您的語言模型擁有長期記憶、檢索增強生成,以及只需幾行程式碼即可實現完全的可觀察性。
它作為 OpenAI 呼叫之上的輕量級代理運作,並在執行階段使用已收集的相關事實,簡單地擴增聊天呼叫的上下文。
設定
若要開始使用,請在 Remembrall 平台使用 Github 登入,並從設定頁面複製您的 API 金鑰。
您使用修改後的 openai_api_base
(見下方)和 Remembrall API 金鑰傳送的任何請求,都會自動在 Remembrall 儀表板中追蹤。您永遠不必與我們的平台分享您的 OpenAI 金鑰,且 Remembrall 系統永遠不會儲存此資訊。
為此,我們需要安裝以下依賴項目
pip install -U langchain-openai
啟用長期記憶
除了透過 x-gp-api-key
設定 openai_api_base
和 Remembrall API 金鑰外,您應指定一個 UID 以維護記憶。這通常會是唯一的使用者識別碼(例如電子郵件)。
from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-remember": "user@email.com",
}
})
chat_model.predict("My favorite color is blue.")
import time; time.sleep(5) # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))
API 參考:ChatOpenAI
啟用檢索增強生成
首先,在 Remembrall 儀表板中建立文件上下文。貼上文件文字或上傳 PDF 文件以進行處理。儲存文件上下文 ID,並如下所示插入。
from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-context": "document-context-id-goes-here",
}
})
print(chat_model.predict("This is a question that can be answered with my document."))
API 參考:ChatOpenAI