Helicone
本頁面涵蓋如何在 LangChain 中使用 Helicone 生態系統。
什麼是 Helicone?
Helicone 是一個 開源 可觀察性平台,可代理您的 OpenAI 流量,並為您提供關於您的支出、延遲和使用情況的關鍵洞察。
快速開始
在您的 LangChain 環境中,您只需添加以下參數。
export OPENAI_API_BASE="https://oai.hconeai.com/v1"
現在前往 helicone.ai 創建您的帳戶,並在我們的儀表板中添加您的 OpenAI API 金鑰以查看您的日誌。
如何啟用 Helicone 快取
from langchain_openai import OpenAI
import openai
openai.api_base = "https://oai.hconeai.com/v1"
llm = OpenAI(temperature=0.9, headers={"Helicone-Cache-Enabled": "true"})
text = "What is a helicone?"
print(llm.invoke(text))
API 參考:OpenAI
如何使用 Helicone 自訂屬性
from langchain_openai import OpenAI
import openai
openai.api_base = "https://oai.hconeai.com/v1"
llm = OpenAI(temperature=0.9, headers={
"Helicone-Property-Session": "24",
"Helicone-Property-Conversation": "support_issue_2",
"Helicone-Property-App": "mobile",
})
text = "What is a helicone?"
print(llm.invoke(text))
API 參考:OpenAI