ChatOctoAI
OctoAI 提供對高效運算的輕鬆訪問，並使用戶能夠將他們選擇的 AI 模型整合到應用程式中。OctoAI 運算服務可協助您輕鬆執行、調整和擴展 AI 應用程式。
本筆記本示範如何使用 langchain.chat_models.ChatOctoAI 於 OctoAI 端點。
設定
若要執行我們的範例應用程式，只需採取兩個簡單的步驟
-
從您的 OctoAI 帳戶頁面取得 API 令牌。
-
將您的 API 令牌貼到下面的程式碼單元格中，或使用
octoai_api_token關鍵字參數。
注意：如果您想使用與可用模型不同的模型，您可以將模型容器化並自行建立自訂 OctoAI 端點，方法是依照從 Python 建立容器和從容器建立自訂端點，然後更新您的 OCTOAI_API_BASE 環境變數。
import os
os.environ["OCTOAI_API_TOKEN"] = "OCTOAI_API_TOKEN"
from langchain_community.chat_models import ChatOctoAI
from langchain_core.messages import HumanMessage, SystemMessage
範例
chat = ChatOctoAI(max_tokens=300, model_name="mixtral-8x7b-instruct")
messages = [
SystemMessage(content="You are a helpful assistant."),
HumanMessage(content="Tell me about Leonardo da Vinci briefly."),
]
print(chat(messages).content)
李奧納多·達文西 (1452-1519) 是一位義大利博學家，通常被認為是歷史上最偉大的畫家之一。然而，他的天賦遠遠超出藝術範疇。他還是一位科學家、發明家、數學家、工程師、解剖學家、地質學家和製圖師。
達文西最著名的作品是他的畫作，如《蒙娜麗莎》、《最後的晚餐》和《岩間聖母》。他的科學研究領先於他的時代，他的筆記本包含各種機器、人體解剖學和自然現象的詳細繪圖和描述。
儘管達文西從未接受過正規教育，但他對知識的渴求和觀察能力使他成為許多領域的先驅。他的作品至今仍繼續啟發和影響著藝術家、科學家和思想家。