OpenGradient
OpenGradient 是一個去中心化 AI 計算網路,可實現全球可訪問、無需許可且可驗證的 ML 模型推論。
OpenGradient langchain 套件目前提供一個工具組,讓開發人員能夠為 OpenGradient 網路上的模型建立自己的自訂 ML 推論工具。這以前是一個挑戰,因為大型模型參數會污染上下文視窗——想像一下必須給你的代理一個 200x200 的浮點數據陣列!
該工具組透過將所有資料處理邏輯封裝在工具定義本身中來解決此問題。 這種方法保持了代理的上下文視窗的整潔,同時讓開發人員可以完全靈活地為他們的 ML 模型實作自訂資料處理和即時資料檢索。
安裝與設定
確保您擁有 OpenGradient API 金鑰才能訪問 OpenGradient 網路。如果您已經有 API 金鑰,只需設定環境變數
!export OPENGRADIENT_PRIVATE_KEY="your-api-key"
如果您需要設定新的 API 金鑰,請下載 opengradient SDK 並按照說明初始化新設定。
!pip install opengradient
!opengradient config init
設定好 API 金鑰後,安裝 langchain-opengradient 套件。
pip install -U langchain-opengradient
OpenGradient 工具組
OpenGradientToolkit 使開發人員能夠基於部署在 OpenGradient 去中心化網路上的ML 模型和工作流程建立專用工具。這種整合使 LangChain 代理能夠訪問強大的 ML 功能,同時保持高效的上下文使用。
主要優勢
-
🔄 即時資料整合 - 在您的工具中處理即時資料饋送
-
🎯 動態處理 - 適用於特定代理輸入的自訂資料管道
-
🧠 上下文效率 - 處理複雜的 ML 操作,而不會淹沒您的上下文視窗
-
🔌 無縫部署 - 輕鬆與 OpenGradient 網路上已有的模型整合
-
🔧 完全自訂 - 透過 OpenGradient SDK 建立和部署您自己的特定模型,然後從它們建構自訂工具
-
🔐 可驗證的推論 - 所有推論都在去中心化的 OpenGradient 網路上執行,允許使用者選擇各種安全模式,例如 ZKML 和 TEE,以實現無需信任、可驗證的模型執行
有關詳細範例和實作指南,請查看我們的綜合教學。