کوانتایز کردن Phi-3.5 با استفاده از چارچوب Apple MLX
February 1, 2026 · View on GitHub
MLX یک چارچوب آرایهای برای پژوهشهای یادگیری ماشین روی سیلیکون اپل است که توسط تیم پژوهش یادگیری ماشین اپل ارائه شده است.
MLX توسط پژوهشگران یادگیری ماشین برای پژوهشگران یادگیری ماشین طراحی شده است. این چارچوب به گونهای طراحی شده که کاربرپسند باشد، اما در عین حال برای آموزش و استقرار مدلها کارآمد باشد. طراحی خود چارچوب نیز از نظر مفهومی ساده است. هدف ما این است که به پژوهشگران امکان دهیم به راحتی MLX را توسعه داده و بهبود بخشند تا بتوانند ایدههای جدید را سریعتر بررسی کنند.
مدلهای زبان بزرگ (LLM) میتوانند در دستگاههای سیلیکون اپل از طریق MLX تسریع شوند و مدلها به صورت محلی به راحتی اجرا شوند.
اکنون چارچوب Apple MLX از تبدیل کوانتایز کردن Phi-3.5-Instruct (پشتیبانی چارچوب Apple MLX)، Phi-3.5-Vision (پشتیبانی چارچوب MLX-VLM) و Phi-3.5-MoE (پشتیبانی چارچوب Apple MLX) پشتیبانی میکند. بیایید در ادامه امتحان کنیم:
Phi-3.5-Instruct
python -m mlx_lm.convert --hf-path microsoft/Phi-3.5-mini-instruct -q
Phi-3.5-Vision
python -m mlxv_lm.convert --hf-path microsoft/Phi-3.5-vision-instruct -q
Phi-3.5-MoE
python -m mlx_lm.convert --hf-path microsoft/Phi-3.5-MoE-instruct -q
🤖 نمونههایی برای Phi-3.5 با Apple MLX
| آزمایشگاهها | معرفی | رفتن |
|---|---|---|
| 🚀 معرفی آزمایشگاه Phi-3.5 Instruct | یاد بگیرید چگونه از Phi-3.5 Instruct با چارچوب Apple MLX استفاده کنید | رفتن |
| 🚀 معرفی آزمایشگاه Phi-3.5 Vision (تصویر) | یاد بگیرید چگونه از Phi-3.5 Vision برای تحلیل تصویر با چارچوب Apple MLX استفاده کنید | رفتن |
| 🚀 معرفی آزمایشگاه Phi-3.5 Vision (moE) | یاد بگیرید چگونه از Phi-3.5 MoE با چارچوب Apple MLX استفاده کنید | رفتن |
منابع
-
آشنایی با چارچوب Apple MLX https://ml-explore.github.io/mlx/
-
مخزن GitHub چارچوب Apple MLX https://github.com/ml-explore
-
مخزن GitHub MLX-VLM https://github.com/Blaizzy/mlx-vlm
سلب مسئولیت:
این سند با استفاده از سرویس ترجمه هوش مصنوعی Co-op Translator ترجمه شده است. در حالی که ما در تلاش برای دقت هستیم، لطفاً توجه داشته باشید که ترجمههای خودکار ممکن است حاوی خطاها یا نادرستیهایی باشند. سند اصلی به زبان بومی خود باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حیاتی، ترجمه حرفهای انسانی توصیه میشود. ما مسئول هیچ گونه سوءتفاهم یا تفسیر نادرستی که از استفاده این ترجمه ناشی شود، نیستیم.