Writer LLM

Writer 是一個產生不同語言內容的平台。

此範例說明如何使用 LangChain 與 Writer 模型互動。

設定

若要存取 Writer 模型，您需要建立 Writer 帳戶、取得 API 金鑰，並安裝 writer-sdk 和 langchain-community 套件。

憑證

前往 Writer AI Studio 註冊 OpenAI 並產生 API 金鑰。完成後，設定 WRITER_API_KEY 環境變數

import getpass
import os

if not os.environ.get("WRITER_API_KEY"):
    os.environ["WRITER_API_KEY"] = getpass.getpass("Enter your Writer API key:")

安裝

LangChain Writer 整合位於 langchain-community 套件中

%pip install -qU langchain-community writer-sdk

[notice] A new release of pip is available: 24.2 -> 24.3.1
[notice] To update, run: pip install --upgrade pip
Note: you may need to restart the kernel to use updated packages.

現在我們可以初始化我們的模型物件，以與 writer LLM 互動

from langchain_community.llms import Writer as WriterLLM

llm = WriterLLM(
    temperature=0.7,
    max_tokens=1000,
    # other params...
)

API 參考：Writer

調用

response_text = llm.invoke(input="Write a poem")

print(response_text)

串流

stream_response = llm.stream(input="Tell me a fairytale")

for chunk in stream_response:
    print(chunk, end="")

非同步

Writer 透過 ainvoke() 和 astream() 方法支援非同步呼叫

API 參考

如需所有 Writer 功能的詳細文件，請前往我們的 API 參考。

相關內容

• LLM 概念指南
• LLM 操作指南