PromptLayer OpenAI
PromptLayer 是第一個讓您追蹤、管理和分享 GPT 提示工程的平台。PromptLayer 作為您的程式碼和 OpenAI 的 python 函式庫之間的中介軟體。
PromptLayer 記錄您所有的 OpenAI API 請求，讓您可以在 PromptLayer 儀表板中搜尋和探索請求歷史記錄。
此範例展示如何連接到 PromptLayer 以開始記錄您的 OpenAI 請求。
另一個範例在這裡。
安裝 PromptLayer
使用 PromptLayer 與 OpenAI 需要 promptlayer 套件。使用 pip 安裝 promptlayer。
%pip install --upgrade --quiet promptlayer
匯入
import os
import promptlayer
from langchain_community.llms import PromptLayerOpenAI
API 參考：PromptLayerOpenAI
設定環境 API 金鑰
您可以在 www.promptlayer.com 上點擊導覽列中的設定齒輪來建立 PromptLayer API 金鑰。
將其設定為名為 PROMPTLAYER_API_KEY 的環境變數。
您也需要一個 OpenAI 金鑰，名為 OPENAI_API_KEY。
from getpass import getpass
PROMPTLAYER_API_KEY = getpass()
········
os.environ["PROMPTLAYER_API_KEY"] = PROMPTLAYER_API_KEY
from getpass import getpass
OPENAI_API_KEY = getpass()
········
os.environ["OPENAI_API_KEY"] = OPENAI_API_KEY
像平常一樣使用 PromptLayerOpenAI LLM
您可以選擇性地傳入 pl_tags，以使用 PromptLayer 的標記功能追蹤您的請求。
llm = PromptLayerOpenAI(pl_tags=["langchain"])
llm("I am a cat and I want")
上述請求現在應該會出現在您的 PromptLayer 儀表板上。
使用 PromptLayer Track
如果您想使用任何 PromptLayer 追蹤功能，您需要在實例化 PromptLayer LLM 時傳遞參數 return_pl_id 以取得請求 ID。
llm = PromptLayerOpenAI(return_pl_id=True)
llm_results = llm.generate(["Tell me a joke"])
for res in llm_results.generations:
pl_request_id = res[0].generation_info["pl_request_id"]
promptlayer.track.score(request_id=pl_request_id, score=100)
使用此功能，您可以在 PromptLayer 儀表板中追蹤模型的效能。如果您正在使用提示範本，您也可以將範本附加到請求。總體而言，這讓您有機會在 PromptLayer 儀表板中追蹤不同範本和模型的效能。