07.FoundryLocal.md

March 30, 2026 · View on GitHub

Foundry Local में Phi-Family मॉडल के साथ शुरुआत करना

Foundry Local का परिचय

Foundry Local एक शक्तिशाली ऑन-डिवाइस AI इनफरेंस समाधान है जो एंटरप्राइज़-ग्रेड AI क्षमताओं को सीधे आपके स्थानीय हार्डवेयर पर लाता है। यह ट्यूटोरियल आपको Foundry Local के साथ Phi-Family मॉडल सेट अप और उपयोग करने में मदद करेगा, जो आपको आपकी AI वर्कलोड्स पर पूर्ण नियंत्रण प्रदान करता है जबकि गोपनीयता बनाए रखते हुए लागत को कम करता है।

Foundry Local आपके डिवाइस पर स्थानीय रूप से AI मॉडल चलाकर प्रदर्शन, गोपनीयता, अनुकूलन और लागत में लाभ प्रदान करता है। यह आपके मौजूदा वर्कफ्लोज़ और एप्लिकेशन में सहजता से CLI, SDK, और REST API के माध्यम से एकीकृत हो जाता है।

arch

Foundry Local क्यों चुनें?

Foundry Local के लाभों को समझना आपको अपनी AI तैनाती रणनीति के बारे में सूचित निर्णय लेने में मदद करेगा:

  • ऑन-डिवाइस इनफरेंस: अपने स्वयं के हार्डवेयर पर मॉडल चलाएं, अपनी लागत को कम करते हुए सभी डेटा को अपने डिवाइस पर ही रखें।

  • मॉडल अनुकूलन: विशिष्ट आवश्यकताओं और उपयोग मामलों को पूरा करने के लिए पूर्व सेट मॉडल चुनें या अपना खुद का मॉडल उपयोग करें।

  • लागत प्रभावशीलता: आपके मौजूदा हार्डवेयर का उपयोग करके आवर्ती क्लाउड सेवा खर्चों को समाप्त करें, जिससे AI अधिक सुलभ हो।

  • सहज एकीकरण: SDK, API एंडपॉइंट्स, या CLI के माध्यम से अपने एप्लिकेशन से कनेक्ट करें, और आवश्यकता बढ़ने पर Microsoft Foundry में आसानी से स्केल करें।

शुरुआत नोट: यह ट्यूटोरियल Foundry Local को CLI और SDK इंटरफेस के माध्यम से उपयोग करने पर केंद्रित है। आप दोनों दृष्टिकोण सीखेंगे जिससे आप अपने उपयोग के लिए सर्वश्रेष्ठ तरीका चुन सकेंगे।

भाग 1: Foundry Local CLI की सेटिंग

चरण 1: इंस्टॉलेशन

Foundry Local CLI आपके लिए AI मॉडल को स्थानीय रूप से प्रबंधित और चलाने का प्रवेश द्वार है। आइए इसे अपनी प्रणाली पर स्थापित करें।

समर्थित प्लेटफार्म: विंडोज़ और macOS

विस्तृत इंस्टॉलेशन निर्देशों के लिए, कृपया आधिकारिक Foundry Local दस्तावेज़ देखें।

चरण 2: उपलब्ध मॉडल खोजें

एक बार Foundry Local CLI इंस्टॉल हो जाने के बाद, आप देख सकते हैं कि आपके उपयोग के लिए कौन से मॉडल उपलब्ध हैं। यह कमांड आपको सभी समर्थित मॉडल दिखाएगा:

foundry model list

चरण 3: Phi परिवार मॉडल को समझना

Phi परिवार उपयोग के विभिन्न मामलों और हार्डवेयर कॉन्फ़िगरेशन के लिए अनुकूलित कई मॉडल प्रदान करता है। Foundry Local में उपलब्ध Phi मॉडल इस प्रकार हैं:

उपलब्ध Phi मॉडल:

  • phi-3.5-mini - बुनियादी कार्यों के लिए कॉम्पैक्ट मॉडल
  • phi-3-mini-128k - लंबी बातचीत के लिए विस्तारित संदर्भ संस्करण
  • phi-3-mini-4k - सामान्य उपयोग के लिए मानक संदर्भ मॉडल
  • phi-4 - बेहतर क्षमताओं वाला उन्नत मॉडल
  • phi-4-mini - Phi-4 का हल्का संस्करण
  • phi-4-mini-reasoning - जटिल तर्क कार्यों के लिए विशेष

हार्डवेयर संगतता: प्रत्येक मॉडल को आपके सिस्टम की क्षमताओं के आधार पर विभिन्न हार्डवेयर एक्सेलेरेशन (CPU, GPU) के लिए कॉन्फ़िगर किया जा सकता है।

चरण 4: अपना पहला Phi मॉडल चलाना

आइए एक व्यावहारिक उदाहरण के साथ शुरू करें। हम phi-4-mini-reasoning मॉडल चलाएंगे, जो जटिल समस्याओं को चरण-दर-चरण हल करने में उत्कृष्ट है।

मॉडल चलाने का कमांड:

foundry model run Phi-4-mini-reasoning-generic-cpu

पहली बार सेटअप: जब आप किसी मॉडल को पहली बार चलाएंगे, तो Foundry Local इसे स्वचालित रूप से आपके स्थानीय डिवाइस पर डाउनलोड करेगा। डाउनलोड समय आपके नेटवर्क गति पर निर्भर करेगा, इसलिए प्रारंभिक सेटअप के दौरान कृपया धैर्य रखें।

चरण 5: मॉडल का वास्तविक समस्या के साथ परीक्षण

अब चलिए अपने मॉडल का परीक्षण एक क्लासिक तर्क समस्या के साथ करते हैं ताकि देखें यह चरण-दर-चरण तर्क कैसे करता है:

उदाहरण समस्या:

Please calculate the following step by step: Now there are pheasants and rabbits in the same cage, there are thirty-five heads on top and ninety-four legs on the bottom, how many pheasants and rabbits are there?

अपेक्षित व्यवहार: मॉडल को इस समस्या को तार्किक चरणों में विभाजित करना चाहिए, यह तथ्य उपयोग करते हुए कि टियान के 2 पैर होते हैं और खरगोशों के 4 पैर होते हैं, ताकि समीकरणों के सिस्टम को हल किया जा सके।

परिणाम:

cli

भाग 2: Foundry Local SDK के साथ एप्लिकेशन बनाना

SDK उपयोग क्यों करें?

जबकि CLI परीक्षण और त्वरित इंटरैक्शन के लिए उत्तम है, SDK आपको Foundry Local को आपके एप्लिकेशन में प्रोग्रामिंग के माध्यम से एकीकृत करने में सक्षम बनाता है। यह निम्नलिखित संभावनाएं खोलता है:

  • कस्टम AI-समर्थित एप्लिकेशन बनाना
  • स्वचालित वर्कफ्लोज़ बनाना
  • मौजूदा सिस्टम में AI क्षमताएं एकीकृत करना
  • चैटबॉट और इंटरैक्टिव टूल्स विकसित करना

समर्थित प्रोग्रामिंग भाषाएं

Foundry Local आपके विकास प्राथमिकताओं के अनुकूल कई प्रोग्रामिंग भाषाओं के लिए SDK समर्थन प्रदान करता है:

📦 उपलब्ध SDKs:

अगले कदम

  1. अपने विकास वातावरण के आधार पर अपनी पसंदीदा SDK चुनें
  2. विस्तृत कार्यान्वयन मार्गदर्शिकाओं के लिए SDK-विशिष्ट दस्तावेज़ का पालन करें
  3. जटिल एप्लिकेशन बनाने से पहले सरल उदाहरणों से शुरुआत करें
  4. प्रत्येक SDK रिपॉजिटरी में प्रदान किए गए नमूना कोड का अन्वेषण करें

निष्कर्ष

अब आपने सीखा है कैसे:

  • ✅ Foundry Local CLI को इंस्टॉल और सेटअप करें
  • ✅ Phi परिवार मॉडल खोजें और चलाएं
  • ✅ वास्तविक दुनिया की समस्याओं के साथ मॉडल का परीक्षण करें
  • ✅ एप्लिकेशन विकास के लिए SDK विकल्पों को समझें

Foundry Local एक शक्तिशाली आधार प्रदान करता है जो AI क्षमताओं को सीधे आपके स्थानीय वातावरण में लाता है, जिससे आपको प्रदर्शन, गोपनीयता, और लागत पर नियंत्रण मिलता है, साथ ही जब आवश्यकता हो क्लाउड समाधान की तरफ स्केल करने की लचीलापन भी बनी रहती है।

अस्वीकरण:
इस दस्तावेज़ का अनुवाद AI अनुवाद सेवा Co-op Translator का उपयोग करके किया गया है। जबकि हम सटीकता के लिए प्रयासरत हैं, कृपया ध्यान दें कि स्वचालित अनुवाद में त्रुटियाँ या असंगतियाँ हो सकती हैं। मूल दस्तावेज़ अपनी मूल भाषा में ही अधिकारिक स्रोत माना जाना चाहिए। महत्वपूर्ण जानकारी के लिए, पेशेवर मानव अनुवाद की सिफारिश की जाती है। इस अनुवाद के उपयोग से उत्पन्न किसी भी गलतफ़हमी या गलत व्याख्या के लिए हम जिम्मेदार नहीं होंगे।