Phi Cookbook: Praktiska exempel med Microsofts Phi-modeller

Phi är en serie öppen källkods-AI-modeller utvecklade av Microsoft.

Phi är för närvarande den mest kraftfulla och kostnadseffektiva lilla språkmodellen (SLM), med mycket bra referensvärden inom flerspråkighet, resonemang, text-/chatskapande, kodning, bilder, ljud och andra scenarier.

Du kan distribuera Phi i molnet eller på kant-enheter, och du kan enkelt bygga generativa AI-applikationer med begränsad beräkningskraft.

Följ dessa steg för att komma igång med att använda dessa resurser:

1. Fork:a lagret: Klicka
2. Klon:a lagret: git clone https://github.com/microsoft/PhiCookBook.git
3. Gå med i Microsoft AI Discord-communityn och träffa experter och andra utvecklare

🌐 Stöd för flera språk

Stöds via GitHub Action (Automatiserat & Alltid uppdaterat)

Arabiska | Bengali | Bulgariska | Burmese (Myanmar) | Kinesiska (förenklad) | Kinesiska (traditionell, Hongkong) | Kinesiska (traditionell, Macau) | Kinesiska (traditionell, Taiwan) | Kroatiska | Tjeckiska | Danska | Nederländska | Estniska | Finska | Franska | Tyska | Grekiska | Hebreiska | Hindi | Ungerska | Indonesiska | Italienska | Japanska | Kannada | Khmer | Koreanska | Litauiska | Malay | Malayalam | Marathi | Nepali | Nigeriansk pidgin | Norska | Persiska (Farsi) | Polska | Portugisiska (Brasilien) | Portugisiska (Portugal) | Punjabi (Gurmukhi) | Rumänska | Ryska | Serbiska (kyrilliska) | Slovakiska | Slovenska | Spanska | Swahili | Svenska | Tagalog (filippinska) | Tamil | Telugu | Thailändska | Turkiska | Ukrainska | Urdu | Vietnamesiska

Föredrar du att klona lokalt?

Detta lager inkluderar 50+ språköversättningar vilket avsevärt ökar nedladdningsstorleken. För att klona utan översättningar, använd sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Detta ger dig allt du behöver för att slutföra kursen med en mycket snabbare nedladdning.

Innehållsförteckning

• Introduktion

  • Välkommen till Phi-familjen
  • Så sätter du upp din miljö
  • Förståelse av nyckelteknologier
  • AI-säkerhet för Phi-modeller
  • Phi hårdvarustöd
  • Phi-modeller & tillgänglighet över plattformar
  • Använda Guidance-ai och Phi
  • GitHub Marketplace-modeller
  • Azure AI Model Catalog

• Inferenz av Phi i olika miljöer

  • Hugging face
  • GitHub-modeller
  • Microsoft Foundry Model Catalog
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• Inferenz Phi-familjen

  • Inference Phi på iOS
  • Inference Phi på Android
  • Inference Phi på Jetson
  • Inference Phi på AI PC
  • Inference Phi med Apple MLX Framework
  • Inference Phi på lokal server
  • Inference Phi på fjärrserver med AI Toolkit
  • Inference Phi med Rust
  • Inference Phi–Vision lokalt
  • Inference Phi med Kaito AKS, Azure Containers (officiellt stöd)

• Kvantifiera Phi-familjen

  • Kvantisera Phi-3.5 / 4 med llama.cpp
  • Kvantisera Phi-3.5 / 4 med Generative AI extensions för onnxruntime
  • Kvantisera Phi-3.5 / 4 med Intel OpenVINO
  • Kvantisera Phi-3.5 / 4 med Apple MLX Framework

• Utvärdera Phi

  • Ansvarsfull AI
  • Microsoft Foundry för utvärdering
  • Använda Promptflow för utvärdering

• RAG med Azure AI Search

  • Hur man använder Phi-4-mini och Phi-4-multimodal (RAG) med Azure AI Search

• Phi applikationsutvecklingsexempel

  • Text- & chattapplikationer

    • Phi-4-exempel
      • [📓] Chatta med Phi-4-mini ONNX-modell
      • Chatta med Phi-4 lokal ONNX-modell .NET
      • Chat .NET konsolapp med Phi-4 ONNX via Semantic Kernel
    • Phi-3 / 3.5-exempel
      • Lokal chatbot i webbläsare med Phi3, ONNX Runtime Web och WebGPU
      • OpenVino Chat
      • Multi Model - Interaktiv Phi-3-mini och OpenAI Whisper
      • MLFlow - Skapa ett wrapper och använd Phi-3 med MLFlow
      • Modeloptimering - Hur man optimerar Phi-3-minimodellen för ONNX Runtime Web med Olive
      • WinUI3-app med Phi-3 mini-4k-instruct-onnx -WinUI3 Multi Model AI-drivet anteckningsexempel
      • Fintsuning och integrera anpassade Phi-3-modeller med Prompt flow
      • Fintsuning och integrera anpassade Phi-3-modeller med Prompt flow i Microsoft Foundry
      • Utvärdera den fintsunade Phi-3 / Phi-3.5-modellen i Microsoft Foundry med fokus på Microsofts ansvarsfulla AI-principer
      • [📓] Phi-3.5-mini-instruct språklig förutsägelseexempel (kinesiska/engelska)
      • Phi-3.5-Instruct WebGPU RAG Chatbot
      • Använd Windows GPU för att skapa Prompt flow-lösning med Phi-3.5-Instruct ONNX
      • Använd Microsoft Phi-3.5 tflite för att skapa Android-app
      • Q&A .NET-exempel med lokal ONNX Phi-3-modell med Microsoft.ML.OnnxRuntime
      • Konsolchat .NET-app med Semantic Kernel och Phi-3

  • Azure AI Inference SDK kodbaserade exempel

    • Phi-4-exempel
      • [📓] Generera projektkod med Phi-4-multimodal
    • Phi-3 / 3.5-exempel
      • Bygg din egen Visual Studio Code GitHub Copilot Chat med Microsoft Phi-3-familjen
      • Skapa din egen Visual Studio Code Chat Copilot Agent med Phi-3.5 av GitHub-modeller

  • Avancerade resonemangsexempel

    • Phi-4-exempel
      • [📓] Phi-4-mini-resonemang eller Phi-4-resonemangsexempel
      • [📓] Fintsuning av Phi-4-mini-resonemang med Microsoft Olive
      • [📓] Fintsuning av Phi-4-mini-resonemang med Apple MLX
      • [📓] Phi-4-mini-resonemang med GitHub-modeller
      • [📓] Phi-4-mini-resonemang med Microsoft Foundry-modeller

  • Demos

    • Phi-4-mini demos värd på Hugging Face Spaces
    • Phi-4-multimodala demos värd på Hugginge Face Spaces

  • Visionsexempel

    • Phi-4-exempel
      • [📓] Använd Phi-4-multimodal för att läsa bilder och generera kod
    • Phi-3 / 3.5-exempel
      • [📓]Phi-3-vision-Bild text till text
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • DEMO: Phi-3 Återvinning
      • Phi-3-vision - Visuell språkassistent - med Phi3-Vision och OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision multi-frame eller multi-image exempel
      • Phi-3 Vision Lokal ONNX-modell med Microsoft.ML.OnnxRuntime .NET
      • Menybaserad Phi-3 Vision Lokal ONNX-modell med Microsoft.ML.OnnxRuntime .NET

  • Resonemang-Visionsexempel

    • Phi-4-Reasoning-Vision-15B
      • [📓] Använda Phi-4-Reasoning-Vision-15B för att upptäcka olaglig gång
      • [📓] Använda Phi-4-Reasoning-Vision-15B för matematik
      • [📓] Använda Phi-4-Reasoning-Vision-15B för att upptäcka UI

  • Mattexempel

    • Phi-4-Mini-Flash-Reasoning-Instruct-exempel Mattematisk demo med Phi-4-Mini-Flash-Reasoning-Instruct

  • Ljudexempel

    • Phi-4-exempel
      • [📓] Extrahera ljudtranskript med Phi-4-multimodala
      • [📓] Phi-4-multimodalt ljudexempel
      • [📓] Phi-4-multimodal talöversättningsexempel
      • .NET-konsolapplikation som använder Phi-4-multimodal ljud för att analysera en ljudfil och generera transkript

  • MOE-exempel

    • Phi-3 / 3.5-exempel
      • [📓] Phi-3.5 Mixture of Experts Models (MoEs) Sociala Medier-exempel
      • [📓] Bygga en Retrieval-Augmented Generation (RAG) pipeline med NVIDIA NIM Phi-3 MOE, Azure AI Search och LlamaIndex

  • Funktionsanrops-exempel

    • Phi-4-exempel 🆕
      • [📓] Använda funktionsanrop med Phi-4-mini
      • [📓] Använda funktionsanrop för att skapa multi-agenter med Phi-4-mini
      • [📓] Använda funktionsanrop med Ollama
      • [📓] Använda funktionsanrop med ONNX

  • Multimodal Mixing-exempel

    • Phi-4-exempel 🆕
      • [📓] Använda Phi-4-multimodal som teknikjournalist
      • .NET-konsolapplikation som använder Phi-4-multimodal för att analysera bilder

• Fintsuning Phi-exempel

  • Fintsuning-scenarier
  • Fintsuning vs RAG
  • Fintsuning för att låta Phi-3 bli en branschexpert
  • Fintsuning Phi-3 med AI Toolkit för VS Code
  • Fintsuning Phi-3 med Azure Machine Learning Service
  • Fintsuning Phi-3 med Lora
  • Fintsuning Phi-3 med QLora
  • Fintsuning Phi-3 med Microsoft Foundry
  • Fintsuning Phi-3 med Azure ML CLI/SDK
  • Fintsuning med Microsoft Olive
  • Fintsuning med Microsoft Olive Hands-On Lab
  • Fintsuning Phi-3-vision med Weights and Bias
  • Fintsuning Phi-3 med Apple MLX Framework
  • Fintsuning Phi-3-vision (officiellt stöd)
  • Finjustera Phi-3 med Kaito AKS, Azure Containers (officiellt stöd)
  • Finjustera Phi-3 och 3.5 Vision

• Praktisk labb

  • Utforska toppmoderna modeller: LLMs, SLMs, lokal utveckling med mera
  • Lås upp NLP:s potential: Finjustering med Microsoft Olive

• Akademiska forskningsartiklar och publikationer

  • Textbooks Are All You Need II: phi-1.5 teknisk rapport
  • Phi-3 teknisk rapport: En högpresterande språkmodell lokalt på din telefon
  • Phi-4 teknisk rapport
  • Phi-4-Mini teknisk rapport: Kompakta men kraftfulla multimodala språkmodeller via Mixture-of-LoRAs
  • Optimering av små språkmodeller för funktionsanrop i fordon
  • (WhyPHI) Finjustering av PHI-3 för flervalsfrågor: Metodik, resultat och utmaningar
  • Phi-4-reasoning teknisk rapport
  • Phi-4-mini-reasoning teknisk rapport

Användning av Phi-modeller

Phi på Microsoft Foundry

Du kan lära dig hur du använder Microsoft Phi och hur du bygger E2E-lösningar på dina olika hårdvaruenheter. För att testa Phi själv, börja med att leka med modellerna och anpassa Phi för dina scenarier med hjälp av Microsoft Foundry Azure AI Model Catalog. Du kan lära dig mer i Kom igång med Microsoft Foundry

Testmiljö Varje modell har en dedikerad testmiljö för att prova modellen Azure AI Playground.

Phi på GitHub-modeller

Du kan lära dig hur du använder Microsoft Phi och hur du bygger E2E-lösningar på dina olika hårdvaruenheter. För att testa Phi själv, börja med att leka med modellen och anpassa Phi för dina scenarier med hjälp av GitHub Model Catalog. Du kan lära dig mer i Kom igång med GitHub Model Catalog

Testmiljö Varje modell har en dedikerad testmiljö för att prova modellen.

Phi på Hugging Face

Du kan också hitta modellen på Hugging Face

Testmiljö Hugging Chat testmiljö

🎒 Andra kurser

Vårt team producerar andra kurser! Kolla in:

LangChain

Azure / Edge / MCP / Agentprogram

---

Generativ AI-serie

---

Kärnkunskap

---

Copilot-serie

Ansvarsfull AI

Microsoft är engagerade i att hjälpa våra kunder använda våra AI-produkter ansvarsfullt, dela med oss av våra lärdomar och bygga förtroendebaserade partnerskap genom verktyg som Transparency Notes och Impact Assessments. Många av dessa resurser finns på https://aka.ms/RAI.
Microsofts syn på ansvarsfull AI grundar sig på våra AI-principer för rättvisa, tillförlitlighet och säkerhet, integritet och säkerhet, inkludering, transparens och ansvarsskyldighet.

Storskaliga språk-, bild- och talmodeller – som de som används i detta exempel – kan potentiellt bete sig på sätt som är orättvisa, opålitliga eller stötande, vilket kan orsaka skada. Vänligen konsultera Azure OpenAI-tjänstens Transparency note för information om risker och begränsningar. Den rekommenderade metoden för att mildra dessa risker är att inkludera ett säkerhetssystem i din arkitektur som kan upptäcka och förhindra skadligt beteende. Azure AI Content Safety erbjuder ett oberoende skyddslager som kan upptäcka skadligt användargenererat och AI-genererat innehåll i applikationer och tjänster. Azure AI Content Safety inkluderar text- och bild-API:er som gör det möjligt för dig att upptäcka material som är skadligt. Inom Microsoft Foundry tillåter Content Safety-tjänsten dig att visa, utforska och prova exempel på kod för att upptäcka skadligt innehåll över olika modaliteter. Följande snabbstartsdokumentation guidar dig genom att göra förfrågningar till tjänsten.

En annan aspekt att ta hänsyn till är den övergripande applikationsprestandan. Med multimodala och multimodellsapplikationer anser vi att prestanda betyder att systemet fungerar som du och dina användare förväntar sig, inklusive att inte generera skadliga resultat. Det är viktigt att bedöma prestandan för din övergripande applikation med hjälp av Evaluatorer för Prestanda och Kvalitet samt Risk och Säkerhet. Du har också möjlighet att skapa och utvärdera med anpassade evaluatorer.

Du kan utvärdera din AI-applikation i din utvecklingsmiljö med hjälp av Azure AI Evaluation SDK. Med antingen en testdatamängd eller ett mål mäts dina generativa AI-applikationsgenereringar kvantitativt med inbyggda evaluatorer eller anpassade evaluatorer efter eget val. För att komma igång med Azure AI Evaluation SDK för att utvärdera ditt system kan du följa snabbstartsguiden. När du har genomfört en utvärderingskörning kan du visualisera resultaten i Microsoft Foundry.

Varumärken

Detta projekt kan innehålla varumärken eller logotyper för projekt, produkter eller tjänster. Auktoriserad användning av Microsofts varumärken eller logotyper är föremål för och måste följa Microsofts riktlinjer för varumärken och varumärkesprofil.
Användning av Microsofts varumärken eller logotyper i modifierade versioner av detta projekt får inte skapa förvirring eller antyda Microsofts sponsring. All användning av tredjeparts varumärken eller logotyper är föremål för dessa tredjeparts policyer.

Få hjälp

Om du kör fast eller har frågor om att bygga AI-appar, gå med i:

Om du har produktfeedback eller stöter på fel medan du bygger, besök:

---

Ansvarsfriskrivning: Detta dokument har översatts med hjälp av AI-översättningstjänsten Co-op Translator. Även om vi strävar efter noggrannhet, var vänlig observera att automatiska översättningar kan innehålla fel eller brister. Det ursprungliga dokumentet på dess modersmål bör betraktas som den auktoritativa källan. För kritisk information rekommenderas professionell mänsklig översättning. Vi ansvarar inte för eventuella missförstånd eller feltolkningar som uppstår från användningen av denna översättning.