Кулинарная книга Phi: Практические примеры с моделями Phi от Microsoft

Phi — это серия моделей искусственного интеллекта с открытым исходным кодом, разработанных Microsoft.

В настоящее время Phi является самой мощной и экономичной моделью малого языка (SLM), демонстрирующей очень хорошие показатели в многоязычии, логике, генерации текста/чата, программировании, изображениях, аудио и других сценариях.

Вы можете развернуть Phi в облаке или на периферийных устройствах, а также легко создавать генеративные AI-приложения с ограниченной вычислительной мощностью.

Выполните следующие шаги, чтобы начать использовать эти ресурсы:

1. Сделайте форк репозитория: Нажмите
2. Клонируйте репозиторий: git clone https://github.com/microsoft/PhiCookBook.git
3. Присоединяйтесь к сообществу Microsoft AI Discord и знакомьтесь с экспертами и разработчиками

🌐 Поддержка многоязычности

Поддерживается через GitHub Action (автоматически и всегда актуально)

Арабский | Бенгальский | Болгарский | Бирманский (Мьянма) | Китайский (упрощенный) | Китайский (традиционный, Гонконг) | Китайский (традиционный, Макао) | Китайский (традиционный, Тайвань) | Хорватский | Чешский | Датский | Нидерландский | Эстонский | Финский | Французский | Немецкий | Греческий | Иврит | Хинди | Венгерский | Индонезийский | Итальянский | Японский | Каннада | Кхмерский | Корейский | Литовский | Малайский | Малаялам | Маратхи | Непальский | Нигерийский пиджин | Норвежский | Персидский (фарси) | Польский | Португальский (Бразилия) | Португальский (Португалия) | Пенджаби (гурмукхи) | Румынский | Русский | Сербский (кириллица) | Словацкий | Словенский | Испанский | Суахили | Шведский | Тагальский (филиппинский) | Тамильский | Телугу | Тайский | Турецкий | Украинский | Урду | Вьетнамский

Предпочитаете клонировать локально?

В этом репозитории более 50 языков переводов, что значительно увеличивает размер скачивания. Чтобы клонировать без переводов, используйте выборочную загрузку (sparse checkout):

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Это даст вам всё необходимое для прохождения курса с гораздо более быстрой загрузкой.

Оглавление

• Введение

  • Добро пожаловать в семейство Phi
  • Настройка вашей среды
  • Понимание ключевых технологий
  • Безопасность ИИ для моделей Phi
  • Поддержка оборудования Phi
  • Модели Phi и доступность на платформах
  • Использование Guidance-ai и Phi
  • Модели на GitHub Marketplace
  • Каталог моделей Azure AI

• Инференс Phi в разных средах

  • Hugging face
  • Модели на GitHub
  • Каталог моделей Microsoft Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• Инференс семейства Phi

  • Инференс Phi на iOS
  • Инференс Phi на Android
  • Инференс Phi на Jetson
  • Инференс Phi на AI ПК
  • Инференс Phi с использованием Apple MLX Framework
  • Инференс Phi на локальном сервере
  • Инференс Phi на удалённом сервере с использованием AI Toolkit
  • Инференс Phi с Rust
  • Инференс Phi--Vision локально
  • Инференс Phi с Kaito AKS, Azure Containers (официальная поддержка)

• Квантование семейства Phi

  • Квантование Phi-3.5 / 4 с помощью llama.cpp
  • Квантование Phi-3.5 / 4 с использованием расширений Generative AI для onnxruntime
  • Квантование Phi-3.5 / 4 с помощью Intel OpenVINO
  • Квантование Phi-3.5 / 4 с использованием Apple MLX Framework

• Оценка Phi

  • Ответственный ИИ
  • Microsoft Foundry для оценки
  • Использование Promptflow для оценки

• RAG с Azure AI Search

  • Как использовать Phi-4-mini и Phi-4-мультимодальный (RAG) с Azure AI Search

• Примеры разработки приложений Phi

  • Текстовые и чат-приложения

    • Образцы Phi-4
      • [📓] Чат с моделью Phi-4-mini ONNX
      • Чат с локальной моделью Phi-4 ONNX .NET
      • Чат .NET консольное приложение с Phi-4 ONNX с использованием Semantic Kernel
    • Образцы Phi-3 / 3.5
      • Локальный чатбот в браузере с использованием Phi3, ONNX Runtime Web и WebGPU
      • OpenVino Chat
      • Мультимодель — интерактивный Phi-3-mini и OpenAI Whisper
      • MLFlow — создание оболочки и использование Phi-3 с MLFlow
      • Оптимизация модели — как оптимизировать модель Phi-3-min для ONNX Runtime Web с помощью Olive
      • Приложение WinUI3 с Phi-3 mini-4k-instruct-onnx -Образец приложения WinUI3 с несколькими моделями AI Powered Notes
      • Дообучение и интеграция пользовательских моделей Phi-3 с помощью Prompt flow
      • Дообучение и интеграция пользовательских моделей Phi-3 с Prompt flow в Microsoft Foundry
      • Оценка дообученной модели Phi-3 / Phi-3.5 в Microsoft Foundry с акцентом на принципы ответственного ИИ Microsoft
      • [📓] Пример языкового предсказания Phi-3.5-mini-instruct (китайский/английский)
      • Веб-GPU чатбот Phi-3.5-Instruct RAG
      • Использование GPU Windows для создания решения Prompt flow с Phi-3.5-Instruct ONNX
      • Использование Microsoft Phi-3.5 tflite для создания Android-приложения
      • Пример Q&A .NET с локальной моделью ONNX Phi-3 с использованием Microsoft.ML.OnnxRuntime
      • Консольное чат-приложение .NET с Semantic Kernel и Phi-3

  • Образцы кода SDK Azure AI Inference

    • Образцы Phi-4
      • [📓] Генерация кода проекта с использованием Phi-4-multimodal
    • Образцы Phi-3 / 3.5
      • Создайте собственный чат GitHub Copilot Visual Studio Code с Microsoft Phi-3 Family
      • Создайте собственного агента чата Visual Studio Code с Phi-3.5 по моделям GitHub

  • Примеры продвинутого рассуждения

    • Образцы Phi-4
      • [📓] Образцы Phi-4-mini-reasoning или Phi-4-reasoning
      • [📓] Дообучение Phi-4-mini-reasoning с Microsoft Olive
      • [📓] Дообучение Phi-4-mini-reasoning с Apple MLX
      • [📓] Phi-4-mini-reasoning с моделями GitHub
      • [📓] Phi-4-mini-reasoning с моделями Microsoft Foundry

  • Демонстрации

    • Демонстрации Phi-4-mini, размещённые на Hugging Face Spaces
    • Демонстрации Phi-4-multimodal, размещённые на Hugging Face Spaces

  • Образцы для Vision

    • Образцы Phi-4
      • [📓] Использование Phi-4-multimodal для чтения изображений и генерации кода
    • Образцы Phi-3 / 3.5
      • [📓]Phi-3-vision — преобразование текста с изображения в текст
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • ДЕМО: утилизация Phi-3
      • Phi-3-vision — визуальный языковой помощник — с Phi3-Vision и OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Пример мультифреймовой или мультиизображенческой модели Phi-3.5 Vision
      • Локальная модель Phi-3 Vision ONNX с использованием Microsoft.ML.OnnxRuntime .NET
      • Меню-ориентированная локальная модель Phi-3 Vision ONNX с использованием Microsoft.ML.OnnxRuntime .NET

  • Образцы Reasoning-Vision

    • Phi-4-Reasoning-Vision-15B
      • [📓] Использование Phi-4-Reasoning-Vision-15B для определения перехода в неположенном месте
      • [📓] Использование Phi-4-Reasoning-Vision-15B для математики
      • [📓] Использование Phi-4-Reasoning-Vision-15B для определения интерфейса пользователя

  • Образцы для математических задач

    • Образцы Phi-4-Mini-Flash-Reasoning-Instruct Демонстрация математики с Phi-4-Mini-Flash-Reasoning-Instruct

  • Образцы для аудио

    • Образцы Phi-4
      • [📓] Извлечение транскриптов аудио с использованием Phi-4-multimodal
      • [📓] Аудиопример Phi-4-multimodal
      • [📓] Пример перевода речи с помощью Phi-4-multimodal
      • Консольное .NET-приложение, использующее Phi-4-multimodal Audio для анализа аудиофайла и создания транскрипта

  • Образцы MOE

    • Образцы Phi-3 / 3.5
      • [📓] Модель смешивания экспертов Phi-3.5 (MoEs) — пример для социальных сетей
      • [📓] Создание конвейера Retrieval-Augmented Generation (RAG) с NVIDIA NIM Phi-3 MOE, Azure AI Search и LlamaIndex

  • Образцы вызова функций

    • Образцы Phi-4 🆕
      • [📓] Использование вызова функций с Phi-4-mini
      • [📓] Использование вызова функций для создания мультиагентов с Phi-4-mini
      • [📓] Использование вызова функций с Ollama
      • [📓] Использование вызова функций с ONNX

  • Образцы мультимодального смешивания

    • Образцы Phi-4 🆕
      • [📓] Использование Phi-4-multimodal в роли технологического журналиста
      • Консольное .NET-приложение, использующее Phi-4-multimodal для анализа изображений

• Дообучение Phi

  • Сценарии дообучения
  • Дообучение против RAG
  • Дообучение: пусть Phi-3 станет отраслевым экспертом
  • Дообучение Phi-3 с AI Toolkit для VS Code
  • Дообучение Phi-3 с помощью Azure Machine Learning Service
  • Дообучение Phi-3 с Lora
  • Дообучение Phi-3 с QLora
  • Дообучение Phi-3 с Microsoft Foundry
  • Дообучение Phi-3 с Azure ML CLI/SDK
  • Дообучение с Microsoft Olive
  • Практическая лаборатория по дообучению с Microsoft Olive
  • Дообучение Phi-3-vision с Weights and Bias
  • Дообучение Phi-3 с помощью Apple MLX Framework
  • Дообучение Phi-3-vision (официальная поддержка)
  • Тонкая настройка Phi-3 с Kaito AKS, Azure Containers(официальная поддержка)
  • Тонкая настройка Phi-3 и 3.5 Vision

• Практическая лаборатория

  • Изучение передовых моделей: LLM, SLM, локальная разработка и многое другое
  • Раскрытие потенциала NLP: тонкая настройка с Microsoft Olive

• Академические исследовательские статьи и публикации

  • Textbooks Are All You Need II: технический отчет phi-1.5
  • Технический отчет Phi-3: мощная языковая модель локально на вашем телефоне
  • Технический отчет Phi-4
  • Технический отчет Phi-4-Mini: компактные, но мощные мультимодальные языковые модели с помощью Mixture-of-LoRAs
  • Оптимизация малых языковых моделей для вызова функций в автомобиле
  • (WhyPHI) Тонкая настройка PHI-3 для многовариантного тестирования: методология, результаты и проблемы
  • Технический отчет Phi-4 reasoning
  • Технический отчет Phi-4-mini reasoning

Использование моделей Phi

Phi на Microsoft Foundry

Вы можете узнать, как использовать Microsoft Phi и как создавать сквозные решения на ваших различных аппаратных устройствах. Чтобы самостоятельно познакомиться с Phi, начните с работы с моделями и настройте Phi под ваши сценарии, используя Каталог моделей Microsoft Foundry Azure AI. Подробнее вы узнаете в руководстве по началу работы с Microsoft Foundry

Песочница У каждой модели есть выделенная песочница для тестирования модели Azure AI Playground.

Phi на моделях GitHub

Вы можете узнать, как использовать Microsoft Phi и как создавать сквозные решения на ваших различных аппаратных устройствах. Чтобы самостоятельно познакомиться с Phi, начните работу с моделью и настройте Phi под ваши сценарии с помощью Каталога моделей GitHub. Подробнее в руководстве по началу работы с Каталогом моделей GitHub

Песочница У каждой модели есть выделенная песочница для тестирования модели.

Phi на Hugging Face

Модель также доступна на Hugging Face

Песочница Hugging Chat playground

🎒 Другие курсы

Наша команда выпускает и другие курсы! Ознакомьтесь:

LangChain

Azure / Edge / MCP / Агенты

---

Серия по генеративному ИИ

---

Основное обучение

---

Серия Copilot

Ответственный ИИ

Microsoft стремится помочь нашим клиентам использовать наши продукты ИИ ответственно, делиться опытом и строить партнерства, основанные на доверии, с помощью таких инструментов, как заметки о прозрачности и оценки воздействия. Многие из этих ресурсов доступны по адресу https://aka.ms/RAI. Подход Microsoft к ответственному ИИ основан на наших принципах ИИ: справедливость, надежность и безопасность, конфиденциальность и безопасность, инклюзивность, прозрачность и подотчетность.

Модели для работы с естественным языком, изображениями и речью крупномасштабного уровня — такие, как используемые в этом примере — могут потенциально вести себя несправедливо, ненадежно или оскорбительно, что может привести к ущербу. Пожалуйста, ознакомьтесь с Заметкой о прозрачности службы Azure OpenAI, чтобы быть в курсе рисков и ограничений. Рекомендуемый подход к снижению этих рисков — включить в вашу архитектуру систему безопасности, которая может обнаруживать и предотвращать вредоносное поведение. Azure AI Content Safety предоставляет независимый уровень защиты, способный обнаруживать вредоносный контент, созданный пользователями и ИИ, в приложениях и сервисах. Azure AI Content Safety включает API для текста и изображений, которые позволяют обнаруживать вредоносные материалы. В Microsoft Foundry сервис Content Safety позволяет просматривать, изучать и пробовать пример кода для обнаружения вредоносного контента в различных модальностях. Следующая документация по быстрому старту проведет вас через процесс отправки запросов к сервису.

Другой аспект, который следует учитывать — общая производительность приложения. В многомодальных и многомодельных приложениях под производительностью понимается выполнение системы в соответствии с вашими и ожиданиями ваших пользователей, включая негенерацию вредоносных результатов. Важно оценить производительность вашего общего приложения с помощью оценщиков производительности и качества, а также оценки рисков и безопасности. У вас также есть возможность создавать и оценивать с помощью пользовательских оценщиков.

Вы можете оценивать ваше AI-приложение в среде разработки с помощью Azure AI Evaluation SDK. Используя тестовый набор данных или целевой показатель, ваши генерации в генеративном AI приложении количественно измеряются с помощью встроенных или пользовательских оценщиков по вашему выбору. Чтобы начать работу с azure ai evaluation sdk для оценки вашей системы, вы можете следовать руководству по быстрому старту. После выполнения оценки вы можете визуализировать результаты в Microsoft Foundry.

Торговые марки

Этот проект может содержать торговые марки или логотипы проектов, продуктов или услуг. Авторизованное использование торговых марок или логотипов Microsoft подчиняется и должно соответствовать Руководству Microsoft по торговым маркам и брендам. Использование торговых марок или логотипов Microsoft в модифицированных версиях этого проекта не должно вызывать путаницу или предполагать спонсорство Microsoft. Любое использование торговых марок или логотипов третьих сторон подчиняется политике этих третьих сторон.

Получение помощи

Если у вас возникли трудности или есть вопросы по созданию AI-приложений, присоединяйтесь к:

Если у вас есть отзывы о продукте или ошибки в процессе разработки, посетите:

---

Отказ от ответственности:
Этот документ был переведен с использованием сервиса автоматического перевода Co-op Translator. Несмотря на наши усилия обеспечить точность, имейте в виду, что автоматические переводы могут содержать ошибки или неточности. Оригинальный документ на его исходном языке следует считать авторитетным источником. Для критически важной информации рекомендуется профессиональный перевод человеком. Мы не несем ответственности за любые недоразумения или неправильные толкования, возникшие в результате использования данного перевода.