मोड्युल ०८: माइक्रोसफ्ट फाउन्ड्री लोकलसँग व्यावहारिक अनुभव - पूर्ण डेभलपर टूलकिट

January 29, 2026 · View on GitHub

अवलोकन

माइक्रोसफ्ट फाउन्ड्री लोकल एज एआई विकासको नयाँ पुस्ता हो, जसले डेभलपरहरूलाई शक्तिशाली उपकरणहरू प्रदान गर्दछ ताकि उनीहरूले एआई एप्लिकेसनहरू स्थानीय रूपमा निर्माण, तैनात, र स्केल गर्न सकून्, Azure AI Foundry सँग सहज एकीकरण कायम राख्दै। यो मोड्युलले फाउन्ड्री लोकलको स्थापना देखि लिएर उन्नत एजेन्ट विकाससम्मको व्यापक कभरेज प्रदान गर्दछ।

मुख्य प्रविधिहरू:

  • माइक्रोसफ्ट फाउन्ड्री लोकल CLI र SDK
  • Azure AI Foundry एकीकरण
  • उपकरणमा मोडेल इन्फरेन्स
  • स्थानीय मोडेल क्यासिङ र अप्टिमाइजेसन
  • एजेन्ट-आधारित आर्किटेक्चरहरू

सिकाइ उद्देश्यहरू

यो मोड्युल पूरा गरेर, तपाईं:

  • फाउन्ड्री लोकलमा महारत हासिल गर्नुहोस्: Windows 11 विकासका लागि स्थापना, कन्फिगर, र अप्टिमाइज गर्नुहोस्
  • विविध मोडेलहरू तैनात गर्नुहोस्: phi, qwen, deepseek, र GPT मोडेलहरू CLI कमाण्डहरू प्रयोग गरेर स्थानीय रूपमा चलाउनुहोस्
  • उत्पादन समाधानहरू निर्माण गर्नुहोस्: उन्नत प्रम्प्ट इन्जिनियरिङ र डेटा एकीकरणको साथ एआई एप्लिकेसनहरू सिर्जना गर्नुहोस्
  • ओपन-सोर्स इकोसिस्टमको लाभ उठाउनुहोस्: Hugging Face मोडेलहरू र समुदाय योगदानहरू एकीकृत गर्नुहोस्
  • एआई एजेन्टहरू विकास गर्नुहोस्: ग्राउन्डिङ र ऑर्केस्ट्रेशन क्षमताहरूको साथ बुद्धिमान एजेन्टहरू निर्माण गर्नुहोस्
  • उद्यम ढाँचाहरू कार्यान्वयन गर्नुहोस्: उत्पादन तैनातीका लागि मोड्युलर, स्केलेबल एआई समाधानहरू सिर्जना गर्नुहोस्

सत्र संरचना

१: फाउन्ड्री लोकलसँग सुरु गर्नुहोस्

केन्द्रबिन्दु: स्थापना, CLI सेटअप, मोडेल तैनाती, र हार्डवेयर अप्टिमाइजेसन

मुख्य विषयहरू: पूर्ण स्थापना • CLI कमाण्डहरू • मोडेल क्यासिङ • हार्डवेयर एक्सेलेरेशन • मल्टी-मोडेल तैनाती

नमूना: REST च्याट क्विकस्टार्ट • OpenAI SDK एकीकरण • मोडेल डिस्कभरी र बेंचमार्किङ

अवधि: २-३ घण्टा | स्तर: प्रारम्भिक

२: Azure AI Foundryसँग एआई समाधान निर्माण गर्नुहोस्

केन्द्रबिन्दु: उन्नत प्रम्प्ट इन्जिनियरिङ, डेटा एकीकरण, र क्लाउड कनेक्टिभिटी

मुख्य विषयहरू: प्रम्प्ट इन्जिनियरिङ • डेटा एकीकरण • Azure वर्कफ्लोहरू • प्रदर्शन अप्टिमाइजेसन • निगरानी

नमूना: Chainlit RAG एप्लिकेसन

अवधि: २-३ घण्टा | स्तर: मध्यम

३: ओपन-सोर्स मोडेलहरू फाउन्ड्री लोकल

केन्द्रबिन्दु: Hugging Face एकीकरण, BYOM रणनीतिहरू, र समुदाय मोडेलहरू

मुख्य विषयहरू: HuggingFace एकीकरण • Bring-your-own-model • Model Mondays अन्तर्दृष्टि • समुदाय योगदानहरू • मोडेल चयन

नमूना: मल्टी-एजेन्ट ऑर्केस्ट्रेशन

अवधि: २-३ घण्टा | स्तर: मध्यम

४: अत्याधुनिक मोडेलहरू अन्वेषण गर्नुहोस्

केन्द्रबिन्दु: LLMs vs SLMs, EdgeAI कार्यान्वयन, र उन्नत डेमोहरू

मुख्य विषयहरू: मोडेल तुलना • Edge vs क्लाउड इन्फरेन्स • Phi + ONNX Runtime • Chainlit RAG एप • WebGPU अप्टिमाइजेसन

नमूना: मोडेल-एज-टूल्स राउटर

अवधि: ३-४ घण्टा | स्तर: उन्नत

५: छिटो एआई-संचालित एजेन्टहरू निर्माण गर्नुहोस्

केन्द्रबिन्दु: एजेन्ट आर्किटेक्चरहरू, सिस्टम प्रम्प्टहरू, ग्राउन्डिङ, र ऑर्केस्ट्रेशन

मुख्य विषयहरू: एजेन्ट डिजाइन ढाँचाहरू • सिस्टम प्रम्प्ट इन्जिनियरिङ • ग्राउन्डिङ प्रविधिहरू • मल्टी-एजेन्ट प्रणालीहरू • उत्पादन तैनाती

नमूना: मल्टी-एजेन्ट ऑर्केस्ट्रेशन • उन्नत मल्टी-एजेन्ट प्रणाली

अवधि: ३-४ घण्टा | स्तर: उन्नत

६: फाउन्ड्री लोकल - मोडेलहरू उपकरणको रूपमा

केन्द्रबिन्दु: मोड्युलर एआई समाधानहरू, उद्यम स्केलिङ, र उत्पादन ढाँचाहरू

मुख्य विषयहरू: मोडेलहरू उपकरणको रूपमा • उपकरणमा तैनाती • SDK/API एकीकरण • उद्यम आर्किटेक्चरहरू • स्केलिङ रणनीतिहरू

नमूना: मोडेल-एज-टूल्स राउटर • फाउन्ड्री टूल्स फ्रेमवर्क

अवधि: ३-४ घण्टा | स्तर: विशेषज्ञ

७: प्रत्यक्ष API एकीकरण ढाँचाहरू

केन्द्रबिन्दु: SDK निर्भरता बिना शुद्ध REST API एकीकरण अधिकतम नियन्त्रणका लागि

मुख्य विषयहरू: HTTP क्लाइन्ट कार्यान्वयन • कस्टम प्रमाणीकरण • मोडेल स्वास्थ्य निगरानी • स्ट्रिमिङ प्रतिक्रिया • उत्पादन त्रुटि ह्यान्डलिङ

नमूना: प्रत्यक्ष API क्लाइन्ट

अवधि: २-३ घण्टा | स्तर: मध्यम

८: Windows 11 नेटिभ च्याट एप्लिकेसन

केन्द्रबिन्दु: फाउन्ड्री लोकल एकीकरणको साथ आधुनिक नेटिभ च्याट एप्लिकेसन निर्माण गर्नुहोस्

मुख्य विषयहरू: Electron विकास • Fluent Design System • नेटिभ Windows एकीकरण • वास्तविक-समय स्ट्रिमिङ • च्याट इन्टरफेस डिजाइन

नमूना: Windows 11 च्याट एप्लिकेसन

अवधि: ३-४ घण्टा | स्तर: उन्नत

९: उन्नत मल्टी-एजेन्ट ऑर्केस्ट्रेशन

केन्द्रबिन्दु: परिष्कृत एजेन्ट समन्वय, विशेष कार्य प्रतिनिधित्व, र सहयोगात्मक एआई वर्कफ्लोहरू

मुख्य विषयहरू: बुद्धिमान एजेन्ट समन्वय • फंक्शन कलिङ ढाँचाहरू • क्रस-एजेन्ट संचार • वर्कफ्लो ऑर्केस्ट्रेशन • गुणस्तर आश्वासन संयन्त्रहरू

नमूना: उन्नत मल्टी-एजेन्ट प्रणाली

अवधि: ४-५ घण्टा | स्तर: विशेषज्ञ

१०: फाउन्ड्री लोकल उपकरण फ्रेमवर्कको रूपमा

केन्द्रबिन्दु: फाउन्ड्री लोकललाई विद्यमान एप्लिकेसनहरू र फ्रेमवर्कहरूमा एकीकृत गर्न उपकरण-प्रथम आर्किटेक्चर

मुख्य विषयहरू: LangChain एकीकरण • Semantic Kernel फंक्शनहरू • REST API फ्रेमवर्कहरू • CLI उपकरणहरू • Jupyter एकीकरण • उत्पादन तैनाती ढाँचाहरू

नमूना: फाउन्ड्री टूल्स फ्रेमवर्क

अवधि: ४-५ घण्टा | स्तर: विशेषज्ञ

पूर्वापेक्षाहरू

प्रणाली आवश्यकताहरू

  • अपरेटिङ सिस्टम: Windows 11 (22H2 वा पछिल्लो)
  • मेमोरी: १६GB RAM (ठूला मोडेलहरूको लागि ३२GB सिफारिस गरिएको)
  • स्टोरेज: मोडेल क्यासिङका लागि ५०GB खाली ठाउँ
  • हार्डवेयर: NPU-सक्षम उपकरण सिफारिस गरिएको (Copilot+ PC), GPU वैकल्पिक
  • नेटवर्क: प्रारम्भिक मोडेल डाउनलोडका लागि उच्च-गति इन्टरनेट

विकास वातावरण

  • Visual Studio Code एआई टूलकिट एक्सटेन्सनको साथ
  • Python 3.10+ र pip
  • Git संस्करण नियन्त्रणका लागि
  • PowerShell वा Command Prompt
  • Azure CLI (क्लाउड एकीकरणका लागि वैकल्पिक)

ज्ञान आवश्यकताहरू

  • एआई/एमएल अवधारणाको आधारभूत समझ
  • कमाण्ड लाइन परिचितता
  • Python प्रोग्रामिङ आधारभूत
  • REST API अवधारणाहरू
  • प्रम्प्टिङ र मोडेल इन्फरेन्सको आधारभूत ज्ञान

मोड्युल समयरेखा

कुल अनुमानित समय: ३०-३८ घण्टा

सत्रकेन्द्रबिन्दु क्षेत्रनमूनासमयजटिलता
१सेटअप र आधारभूत०१, ०२, ०३२-३ घण्टाप्रारम्भिक
२एआई समाधानहरू०४२-३ घण्टामध्यम
३ओपन सोर्स०५२-३ घण्टामध्यम
४उन्नत मोडेलहरू०६३-४ घण्टाउन्नत
५एआई एजेन्टहरू०५, ०९३-४ घण्टाउन्नत
६उद्यम उपकरणहरू०६, १०३-४ घण्टाविशेषज्ञ
७प्रत्यक्ष API एकीकरण०७२-३ घण्टामध्यम
८Windows 11 च्याट एप०८३-४ घण्टाउन्नत
९उन्नत मल्टी-एजेन्ट०९४-५ घण्टाविशेषज्ञ
१०उपकरण फ्रेमवर्क१०४-५ घण्टाविशेषज्ञ

मुख्य स्रोतहरू

आधिकारिक दस्तावेज:

समुदाय र समर्थन:

सिकाइ परिणामहरू

यो मोड्युल पूरा गरेपछि, तपाईं सक्षम हुनुहुनेछ:

प्राविधिक महारत

  • तैनात र व्यवस्थापन गर्नुहोस्: विकास र उत्पादन वातावरणहरूमा फाउन्ड्री लोकल स्थापना
  • मोडेलहरू एकीकृत गर्नुहोस्: माइक्रोसफ्ट, Hugging Face, र समुदाय स्रोतहरूबाट विविध मोडेल परिवारहरूसँग सहज काम गर्नुहोस्
  • एप्लिकेसनहरू निर्माण गर्नुहोस्: उन्नत सुविधाहरू र अप्टिमाइजेसनको साथ उत्पादन-तयार एआई एप्लिकेसनहरू सिर्जना गर्नुहोस्
  • एजेन्टहरू विकास गर्नुहोस्: ग्राउन्डिङ, तर्क, र उपकरण एकीकरणको साथ परिष्कृत एआई एजेन्टहरू कार्यान्वयन गर्नुहोस्

रणनीतिक समझ

  • आर्किटेक्चर निर्णयहरू: स्थानीय बनाम क्लाउड तैनाती बीच सूचित विकल्पहरू बनाउनुहोस्
  • प्रदर्शन अप्टिमाइजेसन: विभिन्न हार्डवेयर कन्फिगरेसनहरूमा इन्फरेन्स प्रदर्शन अप्टिमाइज गर्नुहोस्
  • उद्यम स्केलिङ: स्थानीय प्रोटोटाइपहरूबाट उद्यम तैनातीसम्म स्केल गर्ने एप्लिकेसनहरू डिजाइन गर्नुहोस्
  • गोपनीयता र सुरक्षा: स्थानीय इन्फरेन्सको साथ गोपनीयता-संरक्षण एआई समाधानहरू कार्यान्वयन गर्नुहोस्

नवाचार क्षमता

  • द्रुत प्रोटोटाइपिङ: सबै १० नमूना ढाँचाहरूमा एआई एप्लिकेसन अवधारणाहरू छिटो निर्माण र परीक्षण गर्नुहोस्
  • समुदाय एकीकरण: ओपन-सोर्स मोडेलहरूको लाभ उठाउनुहोस् र इकोसिस्टममा योगदान गर्नुहोस्
  • उन्नत ढाँचाहरू: RAG, एजेन्टहरू, र उपकरण एकीकरण सहित अत्याधुनिक एआई ढाँचाहरू कार्यान्वयन गर्नुहोस्
  • फ्रेमवर्क महारत: LangChain, Semantic Kernel, Chainlit, र Electron सँग विशेषज्ञ-स्तरको एकीकरण
  • उत्पादन तैनाती: स्थानीय प्रोटोटाइपहरूबाट उद्यम प्रणालीहरूमा स्केलेबल एआई समाधानहरू तैनात गर्नुहोस्
  • भविष्य-तयार विकास: उदीयमान एआई प्रविधिहरू र ढाँचाहरूका लागि तयार एप्लिकेसनहरू निर्माण गर्नुहोस्

सुरु गर्ने तरिका

१. वातावरण सेटअप: Windows 11 सिफारिस गरिएको हार्डवेयरको साथ सुनिश्चित गर्नुहोस् (पूर्वापेक्षाहरू हेर्नुहोस्) २. फाउन्ड्री लोकल स्थापना गर्नुहोस्: पूर्ण स्थापना र कन्फिगरेसनका लागि सत्र १ अनुसरण गर्नुहोस् ३. नमूना ०१ चलाउनुहोस्: सेटअप प्रमाणित गर्न आधारभूत REST API एकीकरणबाट सुरु गर्नुहोस् ४. नमूनाहरू मार्फत प्रगति गर्नुहोस्: व्यापक महारतका लागि नमूना ०१-१० पूरा गर्नुहोस्

सफलता मापन

सबै १० व्यापक नमूनाहरू मार्फत आफ्नो प्रगति ट्र्याक गर्नुहोस्:

आधार स्तर (नमूना ०१-०३)

  • फाउन्ड्री लोकल सफलतापूर्वक स्थापना र कन्फिगर गर्नुहोस्
  • REST API एकीकरण पूरा गर्नुहोस् (नमूना ०१)
  • OpenAI SDK अनुकूलता कार्यान्वयन गर्नुहोस् (नमूना ०२)
  • मोडेल डिस्कभरी र बेंचमार्किङ प्रदर्शन गर्नुहोस् (नमूना ०३)

एप्लिकेसन स्तर (नमूना ०४-०६)

  • कम्तीमा ४ विभिन्न मोडेल परिवारहरू तैनात र चलाउनुहोस्
  • कार्यात्मक RAG च्याट एप्लिकेसन निर्माण गर्नुहोस् (नमूना ०४)
  • मल्टी-एजेन्ट ऑर्केस्ट्रेशन प्रणाली सिर्जना गर्नुहोस् (नमूना ०५)
  • बुद्धिमान मोडेल राउटिङ कार्यान्वयन गर्नुहोस् (नमूना ०६)

उन्नत एकीकरण स्तर (नमूना ०७-१०)

  • उत्पादन-तयार API क्लाइन्ट निर्माण गर्नुहोस् (नमूना ०७)
  • Windows 11 नेटिभ च्याट एप्लिकेसन विकास गर्नुहोस् (नमूना ०८)
  • उन्नत मल्टी-एजेन्ट प्रणाली कार्यान्वयन गर्नुहोस् (नमूना ०९)
  • व्यापक उपकरण फ्रेमवर्क सिर्जना गर्नुहोस् (नमूना १०)

महारत संकेतकहरू

  • सबै १० नमूनाहरू त्रुटि बिना सफलतापूर्वक चलाउनुहोस्
  • विशिष्ट प्रयोग केसहरूको लागि कम्तीमा ३ नमूनाहरू अनुकूलित गर्नुहोस्
  • उत्पादन-जस्तै वातावरणमा २+ नमूनाहरू तैनात गर्नुहोस्

यो मोड्युलले एज एआई विकासको अत्याधुनिक प्रविधि प्रस्तुत गर्दछ, जसले माइक्रोसफ्टको उद्यम-स्तरीय उपकरणहरूलाई खुला-स्रोत इकोसिस्टमको लचिलोपन र नवप्रवर्तनसँग संयोजन गर्दछ। फाउन्ड्री लोकलका सबै १० व्यापक नमूनाहरूलाई पूर्ण रूपमा सिकेर, तपाईं एआई अनुप्रयोग विकासको अग्रभागमा उभिन सक्नुहुनेछ।

पूर्ण सिकाइ मार्ग:

  • आधारभूत (नमूना ०१-०३): API एकीकरण र मोडेल व्यवस्थापन
  • अनुप्रयोगहरू (नमूना ०४-०६): RAG, एजेन्टहरू, र बौद्धिक रुटिङ
  • उन्नत (नमूना ०७-१०): उत्पादन फ्रेमवर्कहरू र उद्यम एकीकरण

Azure OpenAI एकीकरण (सत्र २) को लागि, आवश्यक वातावरण चरहरू र API संस्करण सेटिङहरूको लागि व्यक्तिगत नमूना README फाइलहरू हेर्नुहोस्।

अस्वीकरण:
यो दस्तावेज़ AI अनुवाद सेवा Co-op Translator प्रयोग गरेर अनुवाद गरिएको हो। हामी यथार्थताको लागि प्रयास गर्छौं, तर कृपया ध्यान दिनुहोस् कि स्वचालित अनुवादमा त्रुटिहरू वा अशुद्धताहरू हुन सक्छ। यसको मूल भाषा मा रहेको दस्तावेज़लाई आधिकारिक स्रोत मानिनुपर्छ। महत्वपूर्ण जानकारीको लागि, व्यावसायिक मानव अनुवाद सिफारिस गरिन्छ। यस अनुवादको प्रयोगबाट उत्पन्न हुने कुनै पनि गलतफहमी वा गलत व्याख्याको लागि हामी जिम्मेवार हुने छैनौं।