സാമ്പിൾ 01: OpenAI SDK വഴി വേഗത്തിലുള്ള ചാറ്റ്
January 29, 2026 · View on GitHub
പ്രാദേശിക AI ഇൻഫറൻസിനായി Microsoft Foundry Local ഉപയോഗിച്ച് OpenAI SDK എങ്ങനെ ഉപയോഗിക്കാമെന്ന് കാണിക്കുന്ന ഒരു ലളിതമായ ചാറ്റ് ഉദാഹരണം.
അവലോകനം
ഈ സാമ്പിൾ കാണിക്കുന്നു:
- Foundry Local ഉപയോഗിച്ച് OpenAI Python SDK എങ്ങനെ ഉപയോഗിക്കാമെന്ന്
- Azure OpenAIയും പ്രാദേശിക Foundry കോൺഫിഗറേഷനുകളും എങ്ങനെ കൈകാര്യം ചെയ്യാമെന്ന്
- ശരിയായ പിശക് കൈകാര്യം ചെയ്യലും ഫാൾബാക്ക് തന്ത്രങ്ങളും എങ്ങനെ നടപ്പിലാക്കാമെന്ന്
- സർവീസ് മാനേജ്മെന്റിനായി FoundryLocalManager എങ്ങനെ ഉപയോഗിക്കാമെന്ന്
മുൻകൂട്ടി ആവശ്യങ്ങൾ
- Foundry Local: ഇൻസ്റ്റാൾ ചെയ്ത് PATH-ൽ ലഭ്യമായിരിക്കണം
- Python: 3.8 അല്ലെങ്കിൽ അതിനുശേഷം
- മോഡൽ: Foundry Local-ൽ ലോഡ് ചെയ്ത മോഡൽ (ഉദാ.,
phi-4-mini)
ഇൻസ്റ്റലേഷൻ
-
Python പരിസ്ഥിതി സജ്ജമാക്കുക:
cd Module08 py -m venv .venv .venv\Scripts\activate -
ആവശ്യമായ പാക്കേജുകൾ ഇൻസ്റ്റാൾ ചെയ്യുക:
pip install -r requirements.txt -
Foundry Local സർവീസ് ആരംഭിച്ച് മോഡൽ ലോഡ് ചെയ്യുക:
foundry model run phi-4-mini
ഉപയോഗം
Foundry Local (ഡീഫോൾട്ട്)
# Using FoundryLocalManager (recommended)
python samples\01\chat_quickstart.py "Explain what Foundry Local is"
# Using manual configuration
set BASE_URL=http://localhost:8000
set MODEL=phi-4-mini
set API_KEY=
python samples\01\chat_quickstart.py "Write a welcome message"
Azure OpenAI
set AZURE_OPENAI_ENDPOINT=https://your-resource.openai.azure.com
set AZURE_OPENAI_API_KEY=your-api-key
set AZURE_OPENAI_API_VERSION=2024-08-01-preview
set MODEL=your-deployment-name
python samples\01\chat_quickstart.py "Hello from Azure OpenAI"
കോഡ് സവിശേഷതകൾ
FoundryLocalManager ഇന്റഗ്രേഷൻ
ശരിയായ സർവീസ് മാനേജ്മെന്റിനായി ഔദ്യോഗിക Foundry Local SDK ഉപയോഗിക്കുന്നു:
from foundry_local import FoundryLocalManager
from openai import OpenAI
# ഫൗണ്ട്രി ലോക്കൽ ആരംഭിക്കുക
manager = FoundryLocalManager(alias)
model_info = manager.get_model_info(alias)
# OpenAI ക്ലയന്റ് ക്രമീകരിക്കുക
client = OpenAI(
base_url=manager.endpoint,
api_key=manager.api_key
)
പിശക് കൈകാര്യം ചെയ്യൽ
മാനുവൽ കോൺഫിഗറേഷനിലേക്ക് ഫാൾബാക്ക് ഉള്ള ശക്തമായ പിശക് കൈകാര്യം ചെയ്യൽ:
- സ്വയം സർവീസ് കണ്ടെത്തൽ
- SDK ലഭ്യമല്ലെങ്കിൽ സുഖപ്രദമായ ഡിഗ്രേഡേഷൻ
- പ്രശ്നപരിഹാരത്തിനായി വ്യക്തമായ പിശക് സന്ദേശങ്ങൾ
പരിസ്ഥിതി വ്യത്യാസങ്ങൾ
| വ്യത്യാസം | വിവരണം | ഡീഫോൾട്ട് | ആവശ്യമാണ് |
|---|---|---|---|
MODEL | മോഡൽ ആലിയാസ് അല്ലെങ്കിൽ പേര് | phi-4-mini | ഇല്ല |
BASE_URL | Foundry Local അടിസ്ഥാന URL | http://localhost:8000 | ഇല്ല |
API_KEY | API കീ (സാധാരണ പ്രാദേശികത്തിന് ആവശ്യമില്ല) | "" | ഇല്ല |
AZURE_OPENAI_ENDPOINT | Azure OpenAI എൻഡ്പോയിന്റ് | - | Azure-ക്കായി |
AZURE_OPENAI_API_KEY | Azure OpenAI API കീ | - | Azure-ക്കായി |
AZURE_OPENAI_API_VERSION | Azure API പതിപ്പ് | 2024-08-01-preview | ഇല്ല |
പ്രശ്നപരിഹാരം
സാധാരണ പ്രശ്നങ്ങൾ
-
"Foundry SDK ഉപയോഗിക്കാൻ കഴിഞ്ഞില്ല" മുന്നറിയിപ്പ്:
- foundry-local-sdk ഇൻസ്റ്റാൾ ചെയ്യുക:
pip install foundry-local-sdk - അല്ലെങ്കിൽ മാനുവൽ കോൺഫിഗറേഷനായി പരിസ്ഥിതി വ്യത്യാസങ്ങൾ സജ്ജമാക്കുക
- foundry-local-sdk ഇൻസ്റ്റാൾ ചെയ്യുക:
-
കണക്ഷൻ നിരസിച്ചു:
- Foundry Local പ്രവർത്തിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുക:
foundry service status - മോഡൽ ലോഡ് ചെയ്തിട്ടുണ്ടോ എന്ന് പരിശോധിക്കുക:
foundry service ps
- Foundry Local പ്രവർത്തിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുക:
-
മോഡൽ കണ്ടെത്താനായില്ല:
- ലഭ്യമായ മോഡലുകൾ പട്ടികപ്പെടുത്തുക:
foundry model list - മോഡൽ ലോഡ് ചെയ്യുക:
foundry model run phi-4-mini
- ലഭ്യമായ മോഡലുകൾ പട്ടികപ്പെടുത്തുക:
സ്ഥിരീകരണം
# Check Foundry Local status
foundry service status
# List loaded models
foundry service ps
# Test API endpoint
curl http://localhost:8000/v1/models
റഫറൻസുകൾ
അസൂയാപത്രം:
ഈ രേഖ AI വിവർത്തന സേവനം Co-op Translator ഉപയോഗിച്ച് വിവർത്തനം ചെയ്തതാണ്. നാം കൃത്യതയ്ക്ക് ശ്രമിച്ചിട്ടുണ്ടെങ്കിലും, യന്ത്രം ചെയ്ത വിവർത്തനങ്ങളിൽ പിശകുകൾ അല്ലെങ്കിൽ തെറ്റുകൾ ഉണ്ടാകാമെന്ന് ദയവായി ശ്രദ്ധിക്കുക. അതിന്റെ മാതൃഭാഷയിലുള്ള യഥാർത്ഥ രേഖ അധികാരപരമായ ഉറവിടമായി കണക്കാക്കണം. നിർണായകമായ വിവരങ്ങൾക്ക്, പ്രൊഫഷണൽ മനുഷ്യ വിവർത്തനം ശുപാർശ ചെയ്യപ്പെടുന്നു. ഈ വിവർത്തനം ഉപയോഗിക്കുന്നതിൽ നിന്നുണ്ടാകുന്ന ഏതെങ്കിലും തെറ്റിദ്ധാരണകൾക്കോ തെറ്റായ വ്യാഖ്യാനങ്ങൾക്കോ ഞങ്ങൾ ഉത്തരവാദികളല്ല.