Phi Cookbook: ตัวอย่างใช้งานจริงกับโมเดล Phi ของ Microsoft

Phi คือชุดโมเดล AI แบบโอเพนซอร์สที่พัฒนาโดย Microsoft

Phi ปัจจุบันเป็นโมเดลภาษาขนาดเล็ก (SLM) ที่ทรงพลังและคุ้มค่าที่สุด มีการวัดผลที่ดีมากในหลายภาษา การให้เหตุผล การสร้างข้อความ/แชท โค้ดดิ้ง รูปภาพ เสียง และสถานการณ์อื่นๆ

คุณสามารถปรับใช้ Phi บนคลาวด์หรืออุปกรณ์ที่ EDGE และสามารถสร้างแอปพลิเคชัน AI เชิงสร้างสรรค์ได้ง่ายๆ ด้วยพลังการคำนวณที่จำกัด

ทำตามขั้นตอนเหล่านี้เพื่อเริ่มใช้งานแหล่งข้อมูลนี้:

1. Fork ที่เก็บนี้: คลิก
2. โคลนที่เก็บนี้: git clone https://github.com/microsoft/PhiCookBook.git
3. เข้าร่วมชุมชน Microsoft AI Discord และพบปะผู้เชี่ยวชาญและนักพัฒนาร่วมกัน

🌐 รองรับหลายภาษา

รองรับผ่าน GitHub Action (อัตโนมัติและอัปเดตเสมอ)

อาหรับ | เบงกาลี | บัลแกเรีย | พม่า (เมียนมา) | จีน (ตัวย่อ) | จีน (ตัวเต็ม, ฮ่องกง) | จีน (ตัวเต็ม, มาเก๊า) | จีน (ตัวเต็ม, ไต้หวัน) | โครเอเชีย | เช็ก | เดนมาร์ก | ดัตช์ | เอสโตเนีย | ฟินแลนด์ | ฝรั่งเศส | เยอรมัน | กรีก | ฮีบรู | ฮินดี | ฮังการี | อินโดนีเซีย | อิตาลี | ญี่ปุ่น | กันนาดา | เขมร | เกาหลี | ลิทัวเนีย | มาเลย์ | มาลายาลัม | มาราธี | เนปาล | ไพจิ้นไนจีเรีย | นอร์เวย์ | เปอร์เซีย (ฟาร์ซี) | โปแลนด์ | โปรตุเกส (บราซิล) | โปรตุเกส (โปรตุเกส) | ปัญจาบี (กูรมุกฮี) | โรมาเนีย | รัสเซีย | เซอร์เบีย (คีริลลิก) | สโลวัก | สโลวีเนีย | สเปน | สวาฮิลี | สวีเดน | ตากาล็อก (ฟิลิปปินส์) | ทมิฬ | เทลูกู | ไทย | ตุรกี | ยูเครน | อูรดู | เวียดนาม

ต้องการโคลนแบบโลคัล?

ที่เก็บนี้มีการแปลภาษามากกว่า 50 ภาษา ซึ่งทำให้ขนาดดาวน์โหลดเพิ่มขึ้นอย่างมาก หากต้องการโคลนโดยไม่รวมการแปล ให้ใช้ sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

นี่จะมอบทุกอย่างที่คุณต้องการเพื่อทำคอร์สให้เสร็จเร็วขึ้นมาก

สารบัญ

• บทนำ

  • ยินดีต้อนรับสู่ครอบครัว Phi
  • การตั้งค่าสิ่งแวดล้อมของคุณ
  • ทำความเข้าใจเทคโนโลยีหลัก
  • ความปลอดภัย AI สำหรับโมเดล Phi
  • การรองรับฮาร์ดแวร์ Phi
  • โมเดล Phi และการใช้งานบนแพลตฟอร์มต่างๆ
  • การใช้ Guidance-ai และ Phi
  • โมเดล GitHub Marketplace
  • แคตตาล็อกโมเดล Azure AI

• การรัน Phi ในสภาพแวดล้อมต่างๆ

  • Hugging face
  • โมเดล GitHub
  • แคตตาล็อกโมเดล Microsoft Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• การรัน Phi Family

  • การรัน Phi บน iOS
  • การรัน Phi บน Android
  • การรัน Phi บน Jetson
  • การรัน Phi บน AI PC
  • การรัน Phi กับ Apple MLX Framework
  • การรัน Phi บน Local Server
  • การรัน Phi บน Remote Server โดยใช้ AI Toolkit
  • การรัน Phi กับ Rust
  • การรัน Phi--Vision ในเครื่อง
  • การรัน Phi กับ Kaito AKS, Azure Containers(รองรับอย่างเป็นทางการ)

• การ Quantify Phi Family

  • การ Quantize Phi-3.5 / 4 โดยใช้ llama.cpp
  • การ Quantize Phi-3.5 / 4 โดยใช้ Generative AI extensions สำหรับ onnxruntime
  • การ Quantize Phi-3.5 / 4 โดยใช้ Intel OpenVINO
  • การ Quantize Phi-3.5 / 4 โดยใช้ Apple MLX Framework

• การประเมิน Phi

  • AI ที่รับผิดชอบ
  • Microsoft Foundry สำหรับการประเมิน
  • การใช้ Promptflow สำหรับการประเมิน

• RAG กับ Azure AI Search

  • วิธีใช้ Phi-4-mini และ Phi-4-multimodal(RAG) กับ Azure AI Search

• ตัวอย่างการพัฒนาแอปพลิเคชัน Phi

  • แอปพลิเคชันข้อความและแชท

    • Phi-4 ตัวอย่าง
      • [📓] แชทกับโมเดล Phi-4-mini ONNX
      • แชทกับโมเดล Phi-4 local ONNX แบบ .NET
      • แชทแอปพลิเคชันคอนโซล .NET กับ Phi-4 ONNX โดยใช้ Sementic Kernel
    • Phi-3 / 3.5 ตัวอย่าง
      • แชทบอทโลคัลในเว็บเบราว์เซอร์โดยใช้ Phi3, ONNX Runtime Web และ WebGPU
      • OpenVino Chat
      • โมเดลหลายตัว - การโต้ตอบ Phi-3-mini และ OpenAI Whisper
      • MLFlow - การสร้าง wrapper และใช้ Phi-3 กับ MLFlow
      • การปรับแต่งโมเดล - วิธีปรับแต่งโมเดล Phi-3-min สำหรับ ONNX Runtime Web ด้วย Olive
      • แอป WinUI3 กับ Phi-3 mini-4k-instruct-onnx
      • ตัวอย่างแอปโน้ตที่ขับเคลื่อนด้วย AI แบบหลายโมเดล WinUI3
      • ปรับแต่งและรวมโมเดล Phi-3 ที่กำหนดเองกับ Prompt flow
      • ปรับแต่งและรวมโมเดล Phi-3 ที่กำหนดเองกับ Prompt flow ใน Microsoft Foundry
      • ประเมินโมเดล Phi-3 / Phi-3.5 ที่ปรับแต่งใน Microsoft Foundry มุ่งเน้นไปที่หลักการ Responsible AI ของ Microsoft
      • [📓] ตัวอย่างการทำนายภาษา Phi-3.5-mini-instruct (จีน/อังกฤษ)
      • Phi-3.5-Instruct WebGPU RAG Chatbot
      • ใช้ Windows GPU สร้างโซลูชัน Prompt flow กับ Phi-3.5-Instruct ONNX
      • ใช้ Microsoft Phi-3.5 tflite สร้างแอป Android
      • ตัวอย่าง Q&A .NET การใช้โมเดล ONNX Phi-3 ท้องถิ่นโดยใช้ Microsoft.ML.OnnxRuntime
      • แอปแชทคอนโซล .NET กับ Semantic Kernel และ Phi-3

  • ตัวอย่างโค้ด SDK การอนุมาน Azure AI

    • ตัวอย่าง Phi-4
      • [📓] สร้างโค้ดโปรเจกต์โดยใช้ Phi-4-multimodal
    • ตัวอย่าง Phi-3 / 3.5
      • สร้าง Visual Studio Code GitHub Copilot Chat ของคุณเองกับครอบครัว Microsoft Phi-3
      • สร้าง Visual Studio Code Chat Copilot Agent ของคุณเองกับ Phi-3.5 โดย GitHub Models

  • ตัวอย่างเหตุผลขั้นสูง

    • ตัวอย่าง Phi-4
      • [📓] ตัวอย่าง Phi-4-mini-reasoning หรือ Phi-4-reasoning
      • [📓] การปรับแต่ง Phi-4-mini-reasoning ด้วย Microsoft Olive
      • [📓] การปรับแต่ง Phi-4-mini-reasoning ด้วย Apple MLX
      • [📓] Phi-4-mini-reasoning กับ GitHub Models
      • [📓] Phi-4-mini-reasoning กับ Microsoft Foundry Models

  • ตัวอย่างสาธิต

    • ตัวอย่าง Phi-4-mini โฮสต์บน Hugging Face Spaces
    • ตัวอย่าง Phi-4-multimodal โฮสต์บน Hugginge Face Spaces

  • ตัวอย่างการมองเห็น

    • ตัวอย่าง Phi-4
      • [📓] ใช้ Phi-4-multimodal อ่านภาพและสร้างโค้ด
    • ตัวอย่าง Phi-3 / 3.5
      • [📓]Phi-3-vision-แปลงข้อความจากภาพเป็นข้อความ
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • สาธิต: Phi-3 รีไซเคิล
      • Phi-3-vision - ผู้ช่วยภาษาภาพ - กับ Phi3-Vision และ OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]ตัวอย่าง Phi-3.5 Vision หลายเฟรมหรือหลายภาพ
      • Phi-3 Vision โมเดล ONNX ท้องถิ่นโดยใช้ Microsoft.ML.OnnxRuntime .NET
      • เมนูพื้นฐาน Phi-3 Vision โมเดล ONNX ท้องถิ่นโดยใช้ Microsoft.ML.OnnxRuntime .NET

  • ตัวอย่าง Reasoning-Vision

    • Phi-4-Reasoning-Vision-15B
      • [📓] ใช้ Phi-4-Reasoning-Vision-15B ตรวจจับการเดินลัดถนน
      • [📓] ใช้ Phi-4-Reasoning-Vision-15B ทำคณิตศาสตร์
      • [📓] ใช้ Phi-4-Reasoning-Vision-15B ตรวจจับ UI

  • ตัวอย่างคณิตศาสตร์

    • ตัวอย่าง Phi-4-Mini-Flash-Reasoning-Instruct สาธิตคณิตศาสตร์กับ Phi-4-Mini-Flash-Reasoning-Instruct

  • ตัวอย่างเสียง

    • ตัวอย่าง Phi-4
      • [📓] การถอดเสียงเสียงด้วย Phi-4-multimodal
      • [📓] ตัวอย่างเสียง Phi-4-multimodal
      • [📓] ตัวอย่างการแปลเสียงพูด Phi-4-multimodal
      • แอปพลิเคชันคอนโซล .NET ที่ใช้ Phi-4-multimodal Audio เพื่อวิเคราะห์ไฟล์เสียงและสร้างถอดความ

  • ตัวอย่าง MOE

    • ตัวอย่าง Phi-3 / 3.5
      • [📓] ตัวอย่างโมเดล Mixture of Experts (MoEs) Phi-3.5 สำหรับโซเชียลมีเดีย
      • [📓] การสร้าง Retrieval-Augmented Generation (RAG) Pipeline กับ NVIDIA NIM Phi-3 MOE, Azure AI Search, และ LlamaIndex

  • ตัวอย่างการเรียกใช้ฟังก์ชัน

    • ตัวอย่าง Phi-4 🆕
      • [📓] การใช้ Function Calling กับ Phi-4-mini
      • [📓] การใช้ Function Calling เพื่อสร้าง multi-agents กับ Phi-4-mini
      • [📓] การใช้ Function Calling กับ Ollama
      • [📓] การใช้ Function Calling กับ ONNX

  • ตัวอย่างการผสมผสานมัลติโมดอล

    • ตัวอย่าง Phi-4 🆕
      • [📓] การใช้ Phi-4-multimodal เป็นนักข่าวเทคโนโลยี
      • แอปคอนโซล .NET ที่ใช้ Phi-4-multimodal วิเคราะห์ภาพ

• การปรับแต่งโมเดล Phi

  • สถานการณ์การปรับแต่งโมเดล
  • การปรับแต่งโมเดล vs RAG
  • ให้ Phi-3 กลายเป็นผู้เชี่ยวชาญในอุตสาหกรรม
  • การปรับแต่ง Phi-3 ด้วย AI Toolkit สำหรับ VS Code
  • การปรับแต่ง Phi-3 ด้วย Azure Machine Learning Service
  • การปรับแต่ง Phi-3 ด้วย Lora
  • การปรับแต่ง Phi-3 ด้วย QLora
  • การปรับแต่ง Phi-3 ด้วย Microsoft Foundry
  • การปรับแต่ง Phi-3 ด้วย Azure ML CLI/SDK
  • การปรับแต่งด้วย Microsoft Olive
  • ห้องปฏิบัติการปรับแต่งด้วย Microsoft Olive Hands-On
  • การปรับแต่ง Phi-3-vision ด้วย Weights and Bias
  • การปรับแต่ง Phi-3 ด้วย Apple MLX Framework
  • การปรับแต่ง Phi-3-vision (สนับสนุนอย่างเป็นทางการ)
  • การปรับแต่ง Phi-3 ด้วย Kaito AKS , Azure Containers (การสนับสนุนอย่างเป็นทางการ)
  • การปรับแต่ง Phi-3 และ 3.5 Vision

• ห้องปฏิบัติการเชิงปฏิบัติการ

  • สำรวจโมเดลล้ำสมัย: LLMs, SLMs, การพัฒนาท้องถิ่น และอื่น ๆ
  • ปลดล็อกศักยภาพ NLP: การปรับแต่งด้วย Microsoft Olive

• งานวิจัยทางวิชาการและสิ่งพิมพ์

  • หนังสือเรียนคือสิ่งที่คุณต้องการ II: รายงานทางเทคนิค phi-1.5
  • รายงานทางเทคนิค Phi-3: โมเดลภาษาที่มีความสามารถสูงบนโทรศัพท์ของคุณ
  • รายงานทางเทคนิค Phi-4
  • รายงานทางเทคนิค Phi-4-Mini: โมเดลภาษามัลติโมเดลที่กะทัดรัดแต่ทรงพลังผ่าน Mixture-of-LoRAs
  • การปรับแต่งโมเดลภาษาขนาดเล็กสำหรับฟังก์ชันเรียกใช้งานในรถยนต์
  • (WhyPHI) การปรับแต่ง PHI-3 สำหรับการตอบคำถามแบบตัวเลือกหลายข้อ: ระเบียบวิธี ผลลัพธ์ และความท้าทาย
  • รายงานทางเทคนิค Phi-4-reasoning
  • รายงานทางเทคนิค Phi-4-mini-reasoning

การใช้โมเดล Phi

Phi บน Microsoft Foundry

คุณสามารถเรียนรู้วิธีใช้ Microsoft Phi และวิธีสร้างโซลูชันแบบ E2E ในอุปกรณ์ฮาร์ดแวร์ที่แตกต่างกันของคุณ เพื่อสัมผัสประสบการณ์ Phi ด้วยตัวเอง ให้เริ่มต้นด้วยการลองเล่นกับโมเดลและปรับแต่ง Phi สำหรับสถานการณ์ของคุณโดยใช้ Microsoft Foundry Azure AI Model Catalog คุณสามารถเรียนรู้เพิ่มเติมได้ที่ การเริ่มต้นใช้งานกับ Microsoft Foundry

สนามเล่น แต่ละโมเดลมีสนามเล่นเฉพาะเพื่อทดสอบโมเดล Azure AI Playground

Phi บน GitHub Models

คุณสามารถเรียนรู้วิธีใช้ Microsoft Phi และวิธีสร้างโซลูชันแบบ E2E ในอุปกรณ์ฮาร์ดแวร์ของคุณต่าง ๆ เพื่อสัมผัสประสบการณ์ Phi ด้วยตัวเอง ให้เริ่มต้นด้วยการเล่นกับโมเดลและปรับแต่ง Phi สำหรับสถานการณ์ของคุณโดยใช้ GitHub Model Catalog คุณสามารถเรียนรู้เพิ่มเติมได้ที่ การเริ่มต้นใช้งานกับ GitHub Model Catalog

สนามเล่น แต่ละโมเดลมี สนามเล่นเพื่อทดสอบโมเดล

Phi บน Hugging Face

คุณยังสามารถค้นหาโมเดลบน Hugging Face

สนามเล่น สนามเล่น Hugging Chat

🎒 หลักสูตรอื่นๆ

ทีมของเราผลิตหลักสูตรอื่นๆ! ลองดู:

LangChain

Azure / Edge / MCP / Agents

---

ชุดการเรียนรู้ Generative AI

---

การเรียนรู้แกนหลัก

---

ชุด Copilot

ปัญญาประดิษฐ์ที่รับผิดชอบ

ไมโครซอฟท์มุ่งมั่นที่จะช่วยลูกค้าใช้ผลิตภัณฑ์ AI ของเราอย่างรับผิดชอบ แบ่งปันบทเรียนของเรา และสร้างพันธมิตรที่มีพื้นฐานความไว้วางใจผ่านเครื่องมือต่าง ๆ เช่น Transparency Notes และ Impact Assessments แหล่งข้อมูลเหล่านี้หลายรายการสามารถพบได้ที่ https://aka.ms/RAI
แนวทางของไมโครซอฟท์สำหรับ AI ที่รับผิดชอบมีรากฐานจากหลักการ AI ของเราเกี่ยวกับความเป็นธรรม ความน่าเชื่อถือและความปลอดภัย ความเป็นส่วนตัวและความปลอดภัย ความครอบคลุม ความโปร่งใส และความรับผิดชอบ

โมเดลภาษา ข้อความ และเสียงขนาดใหญ่ - เช่น โมเดลที่ใช้ในตัวอย่างนี้ - อาจมีพฤติกรรมที่ไม่เป็นธรรม ไม่น่าเชื่อถือ หรือน่าสะเทือนใจจนก่อให้เกิดความเสียหาย โปรดศึกษาเอกสาร Azure OpenAI service Transparency note เพื่อรับทราบเกี่ยวกับความเสี่ยงและข้อจำกัดต่าง ๆ แนวทางที่แนะนำในการลดความเสี่ยงเหล่านี้คือการรวมระบบความปลอดภัยไว้ในสถาปัตยกรรมของคุณที่สามารถตรวจจับและป้องกันพฤติกรรมที่เป็นอันตรายได้ Azure AI Content Safety ให้ชั้นการป้องกันอิสระที่สามารถตรวจจับเนื้อหาที่เป็นอันตรายที่สร้างขึ้นโดยผู้ใช้และ AI ในแอปพลิเคชันและบริการต่างๆ Azure AI Content Safety รวมถึง API ข้อความและภาพที่ช่วยให้คุณตรวจจับเนื้อหาที่เป็นอันตราย ใน Microsoft Foundry บริการ Content Safety ช่วยให้คุณดู สำรวจ และลองใช้ตัวอย่างโค้ดสำหรับการตรวจจับเนื้อหาที่เป็นอันตรายในหลายรูปแบบ เอกสาร quickstart documentation ต่อไปนี้จะแนะนำคุณผ่านการส่งคำขอไปยังบริการนี้

อีกด้านหนึ่งที่ต้องพิจารณาคือประสิทธิภาพโดยรวมของแอปพลิเคชัน ด้วยแอปพลิเคชันแบบมัลติ-โหมดและมัลติ-โมเดล เราถือว่าประสิทธิภาพหมายถึงระบบทำงานตามที่คุณและผู้ใช้ของคุณคาดหวัง รวมถึงการไม่สร้างผลลัพธ์ที่เป็นอันตราย สิ่งสำคัญคือต้องประเมินประสิทธิภาพของแอปพลิเคชันโดยรวมของคุณโดยใช้ Performance and Quality and Risk and Safety evaluators นอกจากนี้คุณยังสามารถสร้างและประเมินผลด้วย custom evaluators

คุณสามารถประเมินแอปพลิเคชัน AI ของคุณในสภาพแวดล้อมการพัฒนาด้วย Azure AI Evaluation SDK โดยใช้ชุดข้อมูลทดสอบหรือเป้าหมาย การสร้าง AI ของแอปพลิเคชันของคุณจะถูกวัดเชิงปริมาณด้วยตัวประเมินในตัวหรือผู้ประเมินที่คุณกำหนดเอง ในการเริ่มต้นใช้งาน azure ai evaluation sdk เพื่อประเมินระบบของคุณ คุณสามารถติดตาม quickstart guide เมื่อคุณดำเนินการรันการประเมินแล้ว คุณสามารถ visualize the results in Microsoft Foundry

เครื่องหมายการค้า

โปรเจกต์นี้อาจมีเครื่องหมายการค้าหรือโลโก้สำหรับโปรเจกต์ ผลิตภัณฑ์ หรือบริการ ใช้งานที่ได้รับอนุญาตของเครื่องหมายการค้าหรือโลโก้ของ Microsoft ต้องเป็นไปตามและปฏิบัติตาม Microsoft's Trademark & Brand Guidelines การใช้เครื่องหมายการค้าหรือโลโก้ของ Microsoft ในเวอร์ชันที่ดัดแปลงของโปรเจกต์นี้ต้องไม่ก่อให้เกิดความสับสนหรือสื่อว่ามีการสนับสนุนจาก Microsoft การใช้เครื่องหมายการค้าหรือโลโก้ของบุคคลที่สามใดๆ อยู่ภายใต้นโยบายของบุคคลที่สามเหล่านั้น

ขอความช่วยเหลือ

หากคุณติดขัดหรือต้องการคำถามเกี่ยวกับการสร้างแอป AI เข้าร่วมได้ที่:

หากคุณมีข้อเสนอแนะเกี่ยวกับผลิตภัณฑ์หรือข้อผิดพลาดระหว่างการสร้างเยี่ยมชมได้ที่:

---

ข้อจำกัดความรับผิดชอบ:
เอกสารนี้ได้รับการแปลโดยใช้บริการแปลภาษา AI Co-op Translator แม้เราจะพยายามให้เกิดความถูกต้องแต่กรุณาทราบว่าการแปลอัตโนมัติอาจมีข้อผิดพลาดหรือความไม่ถูกต้อง เอกสารต้นฉบับในภาษาต้นทางควรถือเป็นแหล่งข้อมูลที่เชื่อถือได้ สำหรับข้อมูลที่สำคัญ ควรใช้การแปลโดยผู้เชี่ยวชาญด้านมนุษย์ เราไม่รับผิดชอบต่อความเข้าใจผิดหรือการตีความผิดที่เกิดจากการใช้การแปลนี้