MLX

MLX 是一個類似 NumPy 的陣列框架，專為在 Apple 晶片上進行高效且彈性的機器學習而設計，由 Apple machine learning research 團隊為您帶來。

安裝與設定

安裝多個 Python 套件

pip install mlx-lm transformers huggingface_hub

聊天模型

查看使用範例。

from langchain_community.chat_models.mlx import ChatMLX

API 參考文件：ChatMLX

LLMs

MLX 本地管線

查看使用範例。

from langchain_community.llms.mlx_pipeline import MLXPipeline

API 參考文件：MLXPipeline