CerebriumAI
Cerebrium 是一個無伺服器 GPU 基礎架構供應商。它提供對多個 LLM 模型的 API 存取。
請參閱 CerebriumAI 文件 中的範例。
安裝與設定
- 安裝 python 套件
pip install cerebrium
- 取得 CerebriumAI API 金鑰 並將其設定為環境變數 (
CEREBRIUMAI_API_KEY
)
LLMs
請參閱使用範例。
from langchain_community.llms import CerebriumAI
API 參考文件:CerebriumAI