FineTuning_Qlora.md

Penalaan Halus Phi-3 dengan QLoRA

Penalaan halus model bahasa Phi-3 Mini Microsoft menggunakan QLoRA (Quantum Low-Rank Adaptation).

QLoRA akan membantu meningkatkan pemahaman perbualan dan penjanaan respons.

Untuk memuatkan model dalam 4bit dengan transformers dan bitsandbytes, anda perlu memasang accelerate dan transformers dari sumber serta pastikan anda mempunyai versi terkini perpustakaan bitsandbytes.

Contoh

• Ketahui Lebih Lanjut dengan buku nota contoh ini
• Contoh Penalaan Halus Python
• Contoh Penalaan Halus Hugging Face Hub dengan LORA
• Contoh Penalaan Halus Hugging Face Hub dengan QLORA

Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang sahih. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.