01.Guidance.md

March 30, 2026 ยท View on GitHub

Guidance-AI dan Model Phi sebagai Perkhidmatan (MaaS)

Kami membawa Guidance ke titik hujung tanpa pelayan Phi-3.5-mini dalam Microsoft Foundry untuk menjadikan keluaran lebih boleh diramal melalui mendefinisikan struktur yang disesuaikan dengan aplikasi. Dengan Guidance, anda boleh menghapuskan cubaan semula yang mahal, dan boleh, sebagai contoh, mengehadkan model untuk memilih dari senarai yang telah ditentukan (contohnya, kod perubatan), mengehadkan keluaran kepada petikan langsung dari konteks yang disediakan, atau mengikuti regex apa pun. Guidance mengarahkan model token demi token dalam susunan inferens, mengurangkan kos dan kelewatan sebanyak 30-50%, yang menjadikannya tambahan unik dan bernilai pada titik hujung tanpa pelayan Phi-3-mini.

Guidance-AI ialah rangka kerja yang direka untuk membantu pembangun mencipta dan melancarkan model AI dengan cekap. Ia menumpukan pada menyediakan alat dan amalan terbaik untuk membina aplikasi AI yang teguh.

Apabila digabungkan dengan Model Phi sebagai Perkhidmatan (MaaS), ia menawarkan penyelesaian yang berkuasa untuk melancarkan model bahasa kecil (SLM) yang menjimatkan kos dan berprestasi tinggi.

Guidance-AI ialah rangka kerja pengaturcaraan yang direka untuk membantu pembangun mengawal dan mengarahkan model bahasa besar (LLM) dengan lebih berkesan. Ia membolehkan penyusunan keluaran yang tepat, mengurangkan kelewatan dan kos berbanding kaedah prompting tradisional atau fine-tuning.

Ciri-ciri Utama Guidance-AI:

  • Kawalan Cekap: Membolehkan pembangun mengawal bagaimana model bahasa menjana teks, memastikan keluaran berkualiti tinggi dan relevan.
  • Pengurangan Kos dan Kelewatan: Mengoptimumkan proses penjanaan supaya lebih menjimatkan kos dan pantas.
  • Integrasi Fleksibel: Berfungsi dengan pelbagai backend, termasuk Transformers, llama.cpp, AzureAI, VertexAI, dan OpenAI.
  • Struktur Keluaran Kaya: Menyokong struktur keluaran kompleks seperti kondisional, gelung, dan penggunaan alat, memudahkan penjanaan keputusan yang jelas dan boleh diparse.
  • Keserasian: Membolehkan satu program Guidance dijalankan pada pelbagai backend, meningkatkan fleksibiliti dan kemudahan penggunaan.

Contoh Kes Penggunaan:

  • Penjanaan Terhad: Menggunakan ungkapan biasa dan tatabahasa tanpa konteks untuk membimbing keluaran model.
  • Integrasi Alat: Secara automatik mengatur kawalan dan penjanaan, seperti menggunakan kalkulator dalam tugas penjanaan teks.

Untuk maklumat lebih terperinci dan contoh, anda boleh lihat repositori Guidance-AI di GitHub.

Semak Contoh Phi-3.5

Ciri-ciri Utama Model Phi:

  1. Berpatutan: Direka untuk mampu milik sambil mengekalkan prestasi tinggi.
  2. Kelewatan Rendah: Sesuai untuk aplikasi masa nyata yang memerlukan respons pantas.
  3. Fleksibiliti: Boleh digunakan dalam pelbagai persekitaran, termasuk awan, edge, dan senario luar talian.
  4. Penyesuaian: Model boleh disesuaikan dengan data khusus domain untuk meningkatkan prestasi.
  5. Keselamatan dan Pematuhan: Dibina dengan prinsip AI Microsoft, memastikan akauntabiliti, ketelusan, keadilan, kebolehpercayaan, keselamatan, privasi, dan keterangkuman.

Model Phi sebagai Perkhidmatan (MaaS):

Model Phi tersedia melalui sistem bil bayar mengikut penggunaan melalui API inferens, memudahkan integrasi ke dalam aplikasi anda tanpa kos awal yang besar.

Memulakan dengan Phi-3:

Untuk mula menggunakan model Phi, anda boleh meneroka katalog model Azure AI atau Model Marketplace GitHub yang menawarkan model pra-bina dan boleh disesuaikan. Selain itu, anda boleh menggunakan alat seperti Microsoft Foundry untuk membangunkan dan melancarkan aplikasi AI anda.

Sumber

Nota Contoh tentang memulakan dengan Guidance

Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber rasmi. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau tafsiran yang timbul daripada penggunaan terjemahan ini.