כימות Phi-3.5 באמצעות מסגרת Apple MLX

MLX היא מסגרת מערכים למחקר למידת מכונה על שבבי Apple, מבית מחקר למידת המכונה של Apple.

MLX עוצבה על ידי חוקרי למידת מכונה עבור חוקרי למידת מכונה. המסגרת מיועדת להיות ידידותית למשתמש, אך עדיין יעילה לאימון והפעלת מודלים. העיצוב של המסגרת עצמה גם פשוט מבחינה רעיונית. אנו שואפים להקל על החוקרים להרחיב ולשפר את MLX במטרה לחקור רעיונות חדשים במהירות.

ניתן להאיץ LLMs במכשירי Apple Silicon באמצעות MLX, והמודלים יכולים לפעול מקומית בנוחות רבה.

כעת מסגרת Apple MLX תומכת בהמרת כימות של Phi-3.5-Instruct(תמיכה במסגרת Apple MLX), Phi-3.5-Vision(תמיכה במסגרת MLX-VLM), ו-Phi-3.5-MoE(תמיכה במסגרת Apple MLX). בואו ננסה זאת בהמשך:

Phi-3.5-Instruct

python -m mlx_lm.convert --hf-path microsoft/Phi-3.5-mini-instruct -q

Phi-3.5-Vision

python -m mlxv_lm.convert --hf-path microsoft/Phi-3.5-vision-instruct -q

Phi-3.5-MoE

python -m mlx_lm.convert --hf-path microsoft/Phi-3.5-MoE-instruct  -q

🤖 דוגמאות ל-Phi-3.5 עם Apple MLX

מעבדות	הקדמה	מעבר
🚀 Lab-Introduce Phi-3.5 Instruct	למדו כיצד להשתמש ב-Phi-3.5 Instruct עם מסגרת Apple MLX	מעבר
🚀 Lab-Introduce Phi-3.5 Vision (תמונה)	למדו כיצד להשתמש ב-Phi-3.5 Vision לניתוח תמונות עם מסגרת Apple MLX	מעבר
🚀 Lab-Introduce Phi-3.5 Vision (moE)	למדו כיצד להשתמש ב-Phi-3.5 MoE עם מסגרת Apple MLX	מעבר

משאבים

1. למדו על מסגרת Apple MLX https://ml-explore.github.io/mlx/

2. מאגר GitHub של Apple MLX https://github.com/ml-explore

3. מאגר GitHub של MLX-VLM https://github.com/Blaizzy/mlx-vlm

כתב ויתור:
מסמך זה תורגם באמצעות שירות תרגום מבוסס בינה מלאכותית Co-op Translator. למרות שאנו שואפים לדיוק, יש לקחת בחשבון כי תרגומים אוטומטיים עלולים להכיל שגיאות או אי-דיוקים. המסמך המקורי בשפת המקור שלו נחשב למקור הסמכותי. למידע קריטי מומלץ להשתמש בתרגום מקצועי על ידי מתרגם אנושי. אנו לא נושאים באחריות לכל אי-הבנה או פרשנות שגויה הנובעת משימוש בתרגום זה.