Pipeshift

Pipeshift 是一個適用於開放原始碼 LLM 的微調和推論平台

• 您攜帶您的資料集。微調多個 LLM。一鍵開始推論，並觀看它們擴展到數百萬。

安裝與設定

• 安裝 Pipeshift 整合套件。

  pip install langchain-pipeshift

• 在 Pipeshift 註冊以取得您的 Pipeshift API 金鑰。

身分驗證

您可以使用您的 Pipeshift API 金鑰，透過以下任何一種方式執行身分驗證

1. 將 API 金鑰新增至環境變數，變數名稱為 PIPESHIFT_API_KEY。

   os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"

2. 透過將 api_key 傳遞至 pipeshift LLM 模組或聊天模組

   llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)
   
                       OR
   
   chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

聊天模型

請參閱範例。

from langchain_pipeshift import ChatPipeshift

LLM

請參閱範例。

from langchain_pipeshift import Pipeshift