FineTuning_Qlora.md

February 1, 2026 · View on GitHub

QLoRA के साथ Phi-3 का फाइन-ट्यूनिंग

Microsoft के Phi-3 Mini भाषा मॉडल को QLoRA (Quantum Low-Rank Adaptation) का उपयोग करके फाइन-ट्यून करना।

QLoRA संवाद की समझ और प्रतिक्रिया उत्पन्न करने में सुधार करने में मदद करेगा।

transformers और bitsandbytes के साथ 4bits में मॉडल लोड करने के लिए, आपको accelerate और transformers को स्रोत से इंस्टॉल करना होगा और यह सुनिश्चित करना होगा कि आपके पास bitsandbytes लाइब्रेरी का नवीनतम संस्करण हो।

नमूने

अस्वीकरण:
यह दस्तावेज़ AI अनुवाद सेवा Co-op Translator का उपयोग करके अनुवादित किया गया है। जबकि हम सटीकता के लिए प्रयासरत हैं, कृपया ध्यान दें कि स्वचालित अनुवादों में त्रुटियाँ या अशुद्धियाँ हो सकती हैं। मूल दस्तावेज़ अपनी मूल भाषा में ही अधिकारिक स्रोत माना जाना चाहिए। महत्वपूर्ण जानकारी के लिए, पेशेवर मानव अनुवाद की सलाह दी जाती है। इस अनुवाद के उपयोग से उत्पन्न किसी भी गलतफहमी या गलत व्याख्या के लिए हम जिम्मेदार नहीं हैं।