01.Guidance.md
March 30, 2026 · View on GitHub
Guidance-AI ודגמי Phi כשירות (MaaS)
אנו מביאים את Guidance לנקודת הקצה ללא שרת Phi-3.5-mini במסגרת Microsoft Foundry כדי להפוך את הפלטים ליותר צפויים באמצעות הגדרת המבנה המותאם לאפליקציה. עם Guidance, ניתן לבטל ניסיונות חוזרים יקרים, וניתן, לדוגמה, להגביל את המודל לבחור מתוך רשימות מוגדרות מראש (כגון קודי רפואה), להגביל פלט לציטוטים ישירים מהקשר שניתן, או לעקוב אחרי regex כלשהו. Guidance מנווט את המודל טוקן אחר טוקן בערימת האינפרנס, מה שמפחית עלות ושהייה ב-30-50%, מה שהופך אותו לתוספת ייחודית ויקרת ערך ל-נקודת הקצה ללא שרת Phi-3-mini.
Guidance-AI הוא מסגרת שנועדה לעזור למפתחים ליצור ולפרוס דגמי AI באופן יעיל. היא מתמקדת במתן כלים ופרקטיקות מיטביות לבניית אפליקציות AI חזקות.
כאשר משולב עם דגמי Phi כשירות (MaaS), הוא מציע פתרון חזק לפריסת דגמי שפה קטנים (SLMs) שהם גם חסכוניים וגם בעלי ביצועים גבוהים.
Guidance-AI היא מסגרת תוכנה המיועדת לסייע למפתחים לשלוט ולנווט דגמי שפה גדולים (LLMs) באופן יעיל יותר. היא מאפשרת מבנה מדויק של הפלטים, מפחיתה שהייה ועלות בהשוואה לשיטות הנחיה מסורתיות או כוונון עדין.
תכונות עיקריות של Guidance-AI:
- שליטה יעילה: מאפשרת למפתחים לשלוט איך מודל השפה מייצר טקסט, ומבטיחה פלטים איכותיים ורלוונטיים.
- הפחתת עלות ושיהייה: מייעלת את תהליך ההפקה להיות חסכוני ומהיר יותר.
- אינטגרציה גמישה: עובדת עם מגוון סביבות, כולל Transformers, llama.cpp, AzureAI, VertexAI, ו-OpenAI.
- מבני פלט עשירים: תומכת במבני פלט מורכבים כמו תנאים, לולאות ושימוש בכלים, המקלים על הפקת תוצאות ברורות וניתנות לניתוח.
- תאימות: מאפשרת לתוכנית Guidance אחת לפעול במגוון סביבות, מה שמגביר את הגמישות והנוחות.
דוגמאות לשימושים:
- הפקה מוגבלת: שימוש בביטויים רגולריים ודקדוקים חופשיים מהקשר להנחות את הפלט של המודל.
- שילוב כלים: שילוב אוטומטי של שליטה והפקה, כמו שימוש במחשבון בתוך משימת יצירת טקסט.
לפרטים ודוגמאות מפורטות יותר, ניתן לבדוק את מאגר Guidance-AI ב-GitHub.
תכונות עיקריות של דגמי Phi:
- חסכוניים: מתוכננים להיות במחיר נגיש תוך שמירה על ביצועים גבוהים.
- שהייה נמוכה: אידיאליים ליישומים בזמן אמת הדורשים תגובות מהירות.
- גמישות: ניתנים לפריסה בסביבות מגוונות, כולל ענן, קצה ומצבים אופליין.
- התאמה אישית: ניתן לכוונן דגמים באמצעות נתונים תחומיים לשיפור הביצועים.
- אבטחה ועמידה ברגולציה: מבוססים על עקרונות ה-AI של מיקרוסופט, הכוללים אחריות, שקיפות, הוגנות, אמינות, בטיחות, פרטיות והכללה.
דגמי Phi כשירות (MaaS):
דגמי Phi זמינים במערכת חיוב בתשלום לפי שימוש דרך API לאינפרנס, מה שמקל לשלב אותם באפליקציות שלך ללא עלויות התחלתיות משמעותיות.
התחלה עם Phi-3:
כדי להתחיל להשתמש בדגמי Phi, ניתן לחקור את קטלוג דגמי Azure AI או את שוק הדגמים ב-GitHub המציע דגמים מוכנים להתאמה אישית. בנוסף, ניתן להשתמש בכלים כמו Microsoft Foundry לפיתוח ופריסת אפליקציות AI.
משאבים
מחברת דוגמה להתחלה עם Guidance
כתב ויתור:
מסמך זה תורגם באמצעות שירות תרגום מבוסס בינה מלאכותית Co-op Translator. למרות שאנו שואפים לדייק, יש לקחת בחשבון כי תרגומים אוטומטיים עלולים להכיל טעויות או חוסר דיוקים. המסמך המקורי בשפת המקור שלו צריך להיחשב למקור הסמכותי. למידע קריטי, מומלץ לתרגום מקצועי על ידי אדם מקצועי. אנו לא נושאים באחריות לכל אי הבנה או פרשנות מוטעית הנובעת משימוש בתרגום זה.