DeepInfra
DeepInfra 讓您輕鬆運行最新的機器學習模型。DeepInfra 負責所有與運行、擴展和監控模型相關的繁重工作。使用者可以專注於您的應用程式，並透過簡單的 REST API 呼叫整合模型。
DeepInfra 提供了與 LangChain 整合的範例。
本頁介紹如何在 LangChain 中使用 DeepInfra 生態系統。它分為兩個部分：安裝與設定，以及特定 DeepInfra 封裝器的參考。
安裝與設定
- 從此連結取得您的 DeepInfra API 金鑰。
- 取得 DeepInfra API 金鑰並將其設定為環境變數 (
DEEPINFRA_API_TOKEN)。
可用模型
DeepInfra 提供了各種可供部署的開源 LLM。
您可以查看請求和回應參數列表。
聊天模型遵循 openai api
LLM
查看使用範例。
from langchain_community.llms import DeepInfra
API 參考：DeepInfra
Embeddings
查看使用範例。
from langchain_community.embeddings import DeepInfraEmbeddings
API 參考：DeepInfraEmbeddings
聊天模型
查看使用範例。
from langchain_community.chat_models import ChatDeepInfra
API 參考：ChatDeepInfra