Groq

Groq 開發了世界首款語言處理單元™，或 LPU。 Groq LPU 具有確定性的單核心串流架構，為 GenAI 推論速度設定了標準，並為任何給定的工作負載提供可預測和可重複的效能。

除了架構之外，Groq 軟體旨在為像您這樣的開發人員提供您需要的工具，以創建創新、強大的 AI 應用程式。

使用 Groq 作為您的引擎，您可以

• 為即時 AI 和 HPC 推論實現毫不妥協的低延遲和效能 🔥
• 了解任何給定工作負載的確切效能和運算時間 🔮
• 利用我們的尖端技術在競爭中保持領先 💪

安裝與設定

安裝整合套件

pip install langchain-groq

請求 API 金鑰 並將其設定為環境變數

export GROQ_API_KEY=gsk_...

聊天模型

請參閱使用範例。

from langchain_groq import ChatGroq

API 參考：ChatGroq