Replicate
本頁面涵蓋如何在 LangChain 內於 Replicate 上執行模型。
安裝與設定
- 建立 Replicate 帳戶。取得您的 API 金鑰並將其設定為環境變數 (
REPLICATE_API_TOKEN) - 使用
pip install replicate安裝 Replicate python 用戶端
呼叫模型
在 Replicate 探索頁面 上尋找模型，然後貼上此格式的模型名稱和版本：owner-name/model-name:version
例如，對於此 dolly 模型，按一下 [API] 索引標籤。模型名稱/版本會是："replicate/dolly-v2-12b:ef0e1aefc61f8e096ebe4db6b2bacc297daf2ef6899f0f7e001ec445893500e5"
只需要 model 參數，但任何其他模型參數也可以使用 input={model_param: value, ...} 格式傳入
例如，如果我們執行 stable diffusion 並想要變更影像尺寸
Replicate(model="stability-ai/stable-diffusion:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf", input={'image_dimensions': '512x512'})
請注意，只會傳回模型的第一個輸出。 從這裡，我們可以初始化我們的模型
llm = Replicate(model="replicate/dolly-v2-12b:ef0e1aefc61f8e096ebe4db6b2bacc297daf2ef6899f0f7e001ec445893500e5")
並執行它
prompt = """
Answer the following yes/no question by reasoning step by step.
Can a dog drive a car?
"""
llm(prompt)
我們可以使用此語法呼叫任何 Replicate 模型 (不只是 LLM)。例如，我們可以呼叫 Stable Diffusion
text2image = Replicate(model="stability-ai/stable-diffusion:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf", input={'image_dimensions':'512x512'})
image_output = text2image("A cat riding a motorcycle by Picasso")