Replace Model_Name

GitHub மாடல்களில் Phi குடும்பம்

GitHub Models வரவேற்கிறோம்! Azure AI-ல் ஹோஸ்ட் செய்யப்பட்ட AI மாடல்களை ஆராய்வதற்கு எங்கள் அனைத்தும் தயாராக உள்ளது.

GitHub Models-ல் கிடைக்கும் மாடல்களுக்கான கூடுதல் தகவலுக்கு, GitHub Model Marketplace பார்க்கவும்.

கிடைக்கும் மாடல்கள்

ஒவ்வொரு மாடலுக்கும் தனித்துவமான playground மற்றும் மாதிரி குறியீடு உள்ளது.

GitHub Model Catalog-ல் Phi குடும்பம்

• Phi-4

• Phi-3.5-MoE instruct (128k)

• Phi-3.5-vision instruct (128k)

• Phi-3.5-mini instruct (128k)

• Phi-3-Medium-128k-Instruct

• Phi-3-medium-4k-instruct

• Phi-3-mini-128k-instruct

• Phi-3-mini-4k-instruct

• Phi-3-small-128k-instruct

• Phi-3-small-8k-instruct

தொடங்குதல்

இங்கே சில அடிப்படை உதாரணங்கள் உள்ளன, அவற்றை நீங்கள் உடனடியாக இயக்கலாம். அவற்றை samples கோப்பகத்தில் காணலாம். உங்கள் விருப்பமான மொழியில் நேரடியாக செல்ல விரும்பினால், கீழே உள்ள மொழிகளில் உதாரணங்களை காணலாம்:

• Python
• JavaScript
• C#
• Java
• cURL

மாதிரிகள் மற்றும் மாடல்களை இயக்குவதற்கான தனித்துவமான Codespaces சூழல் உள்ளது.

மாதிரி குறியீடு

கீழே சில பயன்பாடுகளுக்கான உதாரண குறியீடு உள்ளது. Azure AI Inference SDK பற்றிய கூடுதல் தகவலுக்கு முழு ஆவணங்கள் மற்றும் மாதிரிகளை பார்க்கவும்.

அமைப்பு

1. தனிப்பட்ட அணுகல் டோக்கனை உருவாக்கவும்
   டோக்கனுக்கு எந்த அனுமதிகளையும் வழங்க தேவையில்லை. டோக்கன் Microsoft சேவைக்கு அனுப்பப்படும் என்பதை கவனிக்கவும்.

கீழே உள்ள குறியீடு துணுக்குகளை பயன்படுத்த, உங்கள் டோக்கனை client code-க்கு key ஆக அமைக்க ஒரு சூழல் மாறியை உருவாக்கவும்.

நீங்கள் bash பயன்படுத்தினால்:

export GITHUB_TOKEN="<your-github-token-goes-here>"

நீங்கள் powershell பயன்படுத்தினால்:

$Env:GITHUB_TOKEN="<your-github-token-goes-here>"

நீங்கள் Windows command prompt பயன்படுத்தினால்:

set GITHUB_TOKEN=<your-github-token-goes-here>

Python மாதிரி

Dependencies நிறுவவும்

Azure AI Inference SDK-ஐ pip மூலம் நிறுவவும் (தேவை: Python >=3.8):

pip install azure-ai-inference

அடிப்படை குறியீடு மாதிரியை இயக்கவும்

இந்த மாதிரி chat completion API-க்கு அடிப்படை அழைப்பை காட்டுகிறது. இது GitHub AI மாடல் inference endpoint மற்றும் உங்கள் GitHub டோக்கனை பயன்படுத்துகிறது. அழைப்பு synchronous ஆகும்.

import os
from azure.ai.inference import ChatCompletionsClient
from azure.ai.inference.models import SystemMessage, UserMessage
from azure.core.credentials import AzureKeyCredential

endpoint = "https://models.inference.ai.azure.com"
model_name = "Phi-4"
token = os.environ["GITHUB_TOKEN"]

client = ChatCompletionsClient(
    endpoint=endpoint,
    credential=AzureKeyCredential(token),
)

response = client.complete(
    messages=[
        UserMessage(content="I have \$20,000 in my savings account, where I receive a 4% profit per year and payments twice a year. Can you please tell me how long it will take for me to become a millionaire? Also, can you please explain the math step by step as if you were explaining it to an uneducated person?"),
    ],
    temperature=0.4,
    top_p=1.0,
    max_tokens=2048,
    model=model_name
)

print(response.choices[0].message.content)

பல முறை உரையாடலை இயக்கவும்

இந்த மாதிரி chat completion API-யுடன் பல முறை உரையாடலை காட்டுகிறது. chat பயன்பாட்டிற்காக மாடலை பயன்படுத்தும்போது, அந்த உரையாடலின் வரலாற்றை நிர்வகிக்கவும் மற்றும் மாடலுக்கு சமீபத்திய செய்திகளை அனுப்பவும்.

import os
from azure.ai.inference import ChatCompletionsClient
from azure.ai.inference.models import AssistantMessage, SystemMessage, UserMessage
from azure.core.credentials import AzureKeyCredential

token = os.environ["GITHUB_TOKEN"]
endpoint = "https://models.inference.ai.azure.com"
# Replace Model_Name
model_name = "Phi-4"

client = ChatCompletionsClient(
    endpoint=endpoint,
    credential=AzureKeyCredential(token),
)

messages = [
    SystemMessage(content="You are a helpful assistant."),
    UserMessage(content="What is the capital of France?"),
    AssistantMessage(content="The capital of France is Paris."),
    UserMessage(content="What about Spain?"),
]

response = client.complete(messages=messages, model=model_name)

print(response.choices[0].message.content)

வெளியீட்டை ஸ்ட்ரீம் செய்யவும்

சிறந்த பயனர் அனுபவத்திற்காக, மாடலின் பதிலை ஸ்ட்ரீம் செய்ய விரும்புவீர்கள், இதனால் முதல் token விரைவாக தோன்றும் மற்றும் நீண்ட பதில்களுக்கு காத்திருக்க வேண்டிய அவசியம் இல்லை.

import os
from azure.ai.inference import ChatCompletionsClient
from azure.ai.inference.models import SystemMessage, UserMessage
from azure.core.credentials import AzureKeyCredential

token = os.environ["GITHUB_TOKEN"]
endpoint = "https://models.inference.ai.azure.com"
# Replace Model_Name
model_name = "Phi-4"

client = ChatCompletionsClient(
    endpoint=endpoint,
    credential=AzureKeyCredential(token),
)

response = client.complete(
    stream=True,
    messages=[
        SystemMessage(content="You are a helpful assistant."),
        UserMessage(content="Give me 5 good reasons why I should exercise every day."),
    ],
    model=model_name,
)

for update in response:
    if update.choices:
        print(update.choices[0].delta.content or "", end="")

client.close()

GitHub மாடல்களுக்கு இலவச பயன்பாடு மற்றும் வீத வரம்புகள்

playground மற்றும் இலவச API பயன்பாட்டுக்கான வீத வரம்புகள் மாடல்களுடன் பரிசோதிக்கவும் மற்றும் உங்கள் AI பயன்பாட்டை prototype செய்யவும் உதவுவதற்காக வடிவமைக்கப்பட்டுள்ளது. அந்த வரம்புகளை மீறி பயன்பாட்டை அளவுக்கு கொண்டு செல்ல, Azure கணக்கில் இருந்து வளங்களை வழங்க வேண்டும், மேலும் GitHub தனிப்பட்ட அணுகல் டோக்கனுக்கு பதிலாக அங்கீகரிக்க வேண்டும். உங்கள் குறியீட்டில் வேறு எதையும் மாற்ற தேவையில்லை. Azure AI-ல் இலவச tier வரம்புகளை மீறுவதற்கான வழிகளை கண்டறிய இந்த இணைப்பைப் பயன்படுத்தவும்.

வெளிப்பாடுகள்

மாடலுடன் தொடர்பு கொள்ளும்போது, நீங்கள் AI-யுடன் பரிசோதிக்கிறீர்கள் என்பதை நினைவில் கொள்ளவும், எனவே உள்ளடக்கத் தவறுகள் ஏற்படலாம்.

இந்த அம்சம் பல வரம்புகளுக்கு உட்பட்டது (உதாரணமாக, ஒரு நிமிடத்திற்கு கோரிக்கைகள், ஒரு நாளுக்கு கோரிக்கைகள், ஒரு கோரிக்கைக்கு tokens, மற்றும் ஒரே நேரத்தில் கோரிக்கைகள்) மற்றும் உற்பத்தி பயன்பாடுகளுக்கு வடிவமைக்கப்படவில்லை.

GitHub Models Azure AI Content Safety-ஐ பயன்படுத்துகிறது. GitHub Models அனுபவத்தின் ஒரு பகுதியாக இந்த வடிகட்டிகளை அணைக்க முடியாது. நீங்கள் மாடல்களை ஒரு கட்டண சேவையின் மூலம் பயன்படுத்த முடிவு செய்தால், உங்கள் தேவைகளை பூர்த்தி செய்ய உங்கள் உள்ளடக்க வடிகட்டிகளை அமைக்கவும்.

இந்த சேவை GitHub-ன் Pre-release Terms-க்கு உட்பட்டது.

---

குறிப்பு:
இந்த ஆவணம் Co-op Translator என்ற AI மொழிபெயர்ப்பு சேவையைப் பயன்படுத்தி மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சிக்கின்றோம், ஆனால் தானியக்க மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறான தகவல்கள் இருக்கக்கூடும் என்பதை தயவுசெய்து கவனத்தில் கொள்ளுங்கள். அதன் தாய்மொழியில் உள்ள மூல ஆவணம் அதிகாரப்பூர்வ ஆதாரமாக கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்முறை மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பைப் பயன்படுத்துவதால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கங்களுக்கு நாங்கள் பொறுப்பல்ல.