ChatMistralAI

這將幫助您開始使用 Mistral 聊天模型。如需所有 ChatMistralAI 功能和組態的詳細文件，請前往 API 參考。ChatMistralAI 類別建立於 Mistral API 之上。如需 Mistral 支援的所有模型列表，請查看此頁面。

概觀

整合詳細資訊

類別	套件	本地	可序列化	JS 支援	套件下載次數	套件最新版本
ChatMistralAI	langchain_mistralai	❌	beta	✅

模型功能

工具呼叫	結構化輸出	JSON 模式	圖片輸入	音訊輸入	視訊輸入	Token 層級串流	原生非同步	Token 使用量	Logprobs
✅	✅	✅	❌	❌	❌	✅	✅	✅	❌

設定

若要存取 ChatMistralAI 模型，您需要建立一個 Mistral 帳戶、取得 API 金鑰，並安裝 langchain_mistralai 整合套件。

憑證

需要有效的 API 金鑰才能與 API 通訊。完成後，設定 MISTRAL_API_KEY 環境變數

import getpass
import os

if "MISTRAL_API_KEY" not in os.environ:
    os.environ["MISTRAL_API_KEY"] = getpass.getpass("Enter your Mistral API key: ")

如果您想要取得模型呼叫的自動追蹤，您也可以透過取消註解下方內容來設定您的 LangSmith API 金鑰

# os.environ["LANGSMITH_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")
# os.environ["LANGSMITH_TRACING"] = "true"

安裝

LangChain Mistral 整合存在於 langchain_mistralai 套件中

%pip install -qU langchain_mistralai

例項化

現在我們可以例項化我們的模型物件並產生聊天完成

from langchain_mistralai import ChatMistralAI

llm = ChatMistralAI(
    model="mistral-large-latest",
    temperature=0,
    max_retries=2,
    # other params...
)

API 參考：ChatMistralAI

調用

messages = [
    (
        "system",
        "You are a helpful assistant that translates English to French. Translate the user sentence.",
    ),
    ("human", "I love programming."),
]
ai_msg = llm.invoke(messages)
ai_msg

AIMessage(content='Sure, I\'d be happy to help you translate that sentence into French! The English sentence "I love programming" translates to "J\'aime programmer" in French. Let me know if you have any other questions or need further assistance!', response_metadata={'token_usage': {'prompt_tokens': 32, 'total_tokens': 84, 'completion_tokens': 52}, 'model': 'mistral-small', 'finish_reason': 'stop'}, id='run-64bac156-7160-4b68-b67e-4161f63e021f-0', usage_metadata={'input_tokens': 32, 'output_tokens': 52, 'total_tokens': 84})

print(ai_msg.content)

Sure, I'd be happy to help you translate that sentence into French! The English sentence "I love programming" translates to "J'aime programmer" in French. Let me know if you have any other questions or need further assistance!

鏈接

我們可以像這樣使用提示範本鏈接我們的模型

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a helpful assistant that translates {input_language} to {output_language}.",
        ),
        ("human", "{input}"),
    ]
)

chain = prompt | llm
chain.invoke(
    {
        "input_language": "English",
        "output_language": "German",
        "input": "I love programming.",
    }
)

API 參考：ChatPromptTemplate

AIMessage(content='Ich liebe Programmierung. (German translation)', response_metadata={'token_usage': {'prompt_tokens': 26, 'total_tokens': 38, 'completion_tokens': 12}, 'model': 'mistral-small', 'finish_reason': 'stop'}, id='run-dfd4094f-e347-47b0-9056-8ebd7ea35fe7-0', usage_metadata={'input_tokens': 26, 'output_tokens': 12, 'total_tokens': 38})

API 參考

前往 API 參考 以取得所有屬性和方法的詳細文件。

相關連結

• 聊天模型概念指南
• 聊天模型操作指南