FineTuning_Qlora.md

February 1, 2026 · View on GitHub

تنظیم دقیق Phi-3 با QLoRA

تنظیم دقیق مدل زبان Phi-3 Mini مایکروسافت با استفاده از QLoRA (Quantum Low-Rank Adaptation).

QLoRA به بهبود درک مکالمه و تولید پاسخ کمک می‌کند.

برای بارگذاری مدل‌ها در حالت ۴ بیت با استفاده از transformers و bitsandbytes، باید accelerate و transformers را از سورس نصب کنید و مطمئن شوید که آخرین نسخه کتابخانه bitsandbytes را دارید.

نمونه‌ها

سلب مسئولیت:
این سند با استفاده از سرویس ترجمه هوش مصنوعی Co-op Translator ترجمه شده است. در حالی که ما در تلاش برای دقت هستیم، لطفاً توجه داشته باشید که ترجمه‌های خودکار ممکن است حاوی خطاها یا نواقصی باشند. سند اصلی به زبان بومی خود باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حیاتی، ترجمه حرفه‌ای انسانی توصیه می‌شود. ما مسئول هیچ گونه سوءتفاهم یا تفسیر نادرستی که از استفاده از این ترجمه ناشی شود، نیستیم.