מעבדה 3 - פריסת Phi-3-vision בשירות Azure Machine Learning

אנו משתמשים ב-NPU כדי להשלים את פריסת הייצור של הקוד המקומי, ולאחר מכן רוצים להוסיף את היכולת להפעיל את PHI-3-VISION דרכו כדי להמיר תמונות לקוד.

בהקדמה זו, נוכל לבנות במהירות שירות Model As Service של Phi-3 Vision בשירות Azure Machine Learning.

Note： Phi-3 Vision דורש כוח מחשוב כדי לייצר תוכן במהירות גבוהה יותר. אנו זקוקים לכוח מחשוב בענן שיעזור לנו להשיג זאת.

1. יצירת שירות Azure Machine Learning

עלינו ליצור שירות Azure Machine Learning בפורטל Azure. אם ברצונכם ללמוד כיצד, אנא בקרו בקישור הבא https://learn.microsoft.com/azure/machine-learning/quickstart-create-resources?view=azureml-api-2

2. בחירת Phi-3 Vision בשירות Azure Machine Learning

3. פריסת Phi-3-Vision ב-Azure

4. בדיקת נקודת הקצה ב-Postman

Note

1. הפרמטרים שיש להעביר חייבים לכלול Authorization, azureml-model-deployment, ו-Content-Type. יש לבדוק את פרטי הפריסה כדי לקבל אותם.

2. כדי להעביר פרמטרים, Phi-3-Vision דורש קישור לתמונה. יש לעיין בשיטת GPT-4-Vision להעברת פרמטרים, לדוגמה

{
  "input_data":{
    "input_string":[
      {
        "role":"user",
        "content":[ 
          {
            "type": "text",
            "text": "You are a Python coding assistant.Please create Python code for image "
          },
          {
              "type": "image_url",
              "image_url": {
                "url": "https://ajaytech.co/wp-content/uploads/2019/09/index.png"
              }
          }
        ]
      }
    ],
    "parameters":{
          "temperature": 0.6,
          "top_p": 0.9,
          "do_sample": false,
          "max_new_tokens": 2048
    }
  }
}

3. יש לקרוא ל-/score באמצעות שיטת Post

מזל טוב! השלמתם את פריסת PHI-3-VISION במהירות וניסיתם כיצד להשתמש בתמונות כדי לייצר קוד. בשלב הבא נוכל לבנות יישומים בשילוב עם NPUs ועננים.

כתב ויתור:
מסמך זה תורגם באמצעות שירות תרגום מבוסס בינה מלאכותית Co-op Translator. למרות שאנו שואפים לדיוק, יש לקחת בחשבון כי תרגומים אוטומטיים עלולים להכיל שגיאות או אי-דיוקים. המסמך המקורי בשפת המקור שלו נחשב למקור הסמכותי. למידע קריטי מומלץ להשתמש בתרגום מקצועי על ידי מתרגם אנושי. אנו לא נושאים באחריות לכל אי-הבנה או פרשנות שגויה הנובעת משימוש בתרגום זה.