SambaNova

客戶正轉向 SambaNova，以快速部署最先進的 AI 功能，從而獲得競爭優勢。我們專為企業規模打造的 AI 平台是下一代 AI 運算的技術骨幹。我們為基礎模型提供動力，這些模型可以解鎖隱藏在數據中的寶貴商業洞察。

SambaNova RDU 專為 AI 設計，採用革命性的數據流架構構建。這種設計使 RDU 在這些工作負載方面比 GPU 效率更高，因為它消除了對記憶體的冗餘調用，而記憶體的冗餘調用是 GPU 功能的內在限制。這種內建的效率是使 RDU 能夠在更小的佔用空間內實現比 GPU 更高性能的功能之一。

在我們的架構之上，我們開發了一些平台，使公司和開發人員能夠充分利用 RDU 處理器和開源模型。

SambaNovaCloud

SambaNova 的 SambaNova Cloud 是一個使用開源模型執行推論的平台

您可以在此處獲取免費的 SambaNovaCloud API 金鑰 此處

SambaStudio

SambaNova 的 SambaStudio 是一個功能豐富、基於 GUI 的平台，提供在 SambaNova DataScale 系統中訓練、部署和管理模型的功能。

安裝與設定

安裝整合套件

pip install langchain-sambanova

將您的 API 金鑰設定為環境變數

如果您是 SambaNovaCloud 使用者

export SAMBANOVA_API_KEY="your-sambanova-cloud-api-key-here"

或者如果您是 SambaStudio 使用者

export SAMBASTUDIO_API_KEY="your-sambastudio-api-key-here"

聊天模型

from langchain_sambanova import ChatSambaNovaCloud

llm = ChatSambaNovaCloud(model="Meta-Llama-3.3-70B-Instruct", temperature=0.7)
llm.invoke("Tell me a joke about artificial intelligence.")

有關 ChatSambaNovaCloud 組件的更詳細逐步說明，請參閱此筆記本

from langchain_sambanova import ChatSambaStudio

llm = ChatSambaStudio(model="Meta-Llama-3.3-70B-Instruct", temperature=0.7)
llm.invoke("Tell me a joke about artificial intelligence.")

有關 ChatSambaStudio 組件的更詳細逐步說明，請參閱此筆記本

嵌入模型

from langchain_sambanova import SambaStudioEmbeddings

embeddings = SambaStudioEmbeddings(model="e5-mistral-7b-instruct")
embeddings.embed_query("What is the meaning of life?")

有關 SambaStudioEmbeddings 組件的更詳細逐步說明，請參閱此筆記本

API 參考文件 langchain-sambanova