شروع کار با Phi-3 به صورت محلی
February 1, 2026 · View on GitHub
این راهنما به شما کمک میکند محیط محلی خود را برای اجرای مدل Phi-3 با استفاده از Ollama راهاندازی کنید. میتوانید مدل را به چند روش مختلف اجرا کنید، از جمله استفاده از GitHub Codespaces، VS Code Dev Containers، یا محیط محلی خودتان.
راهاندازی محیط
GitHub Codespaces
میتوانید این قالب را به صورت مجازی با استفاده از GitHub Codespaces اجرا کنید. دکمه زیر یک نسخه وب VS Code را در مرورگر شما باز میکند:
VS Code Dev Containers
⚠️ این گزینه فقط در صورتی کار میکند که Docker Desktop شما حداقل ۱۶ گیگابایت رم اختصاص داده باشد. اگر کمتر از ۱۶ گیگابایت رم دارید، میتوانید گزینه GitHub Codespaces را امتحان کنید یا محیط محلی را راهاندازی کنید.
گزینه مرتبط، VS Code Dev Containers است که پروژه را در VS Code محلی شما با استفاده از افزونه Dev Containers باز میکند:
-
Docker Desktop را اجرا کنید (اگر نصب نیست، ابتدا نصب کنید)
-
پروژه را باز کنید:
-
در پنجره VS Code که باز میشود، پس از نمایش فایلهای پروژه (که ممکن است چند دقیقه طول بکشد)، یک پنجره ترمینال باز کنید.
-
ادامه دهید با مراحل استقرار
محیط محلی
-
مطمئن شوید ابزارهای زیر نصب شدهاند:
آزمایش مدل
-
از Ollama بخواهید مدل phi3:mini را دانلود و اجرا کند:
ollama run phi3:miniدانلود مدل چند دقیقه طول خواهد کشید.
-
وقتی در خروجی "success" را دیدید، میتوانید از طریق پرامپت به آن مدل پیام ارسال کنید.
>>> Write a haiku about hungry hippos -
پس از چند ثانیه، باید جریان پاسخ از مدل را مشاهده کنید.
-
برای آشنایی با تکنیکهای مختلف استفاده شده در مدلهای زبانی، دفترچه پایتون ollama.ipynb را باز کرده و هر سلول را اجرا کنید. اگر از مدلی غیر از 'phi3:mini' استفاده کردید، مقدار
MODEL_NAMEرا در سلول اول تغییر دهید. -
برای گفتگو با مدل phi3:mini از طریق پایتون، فایل پایتون chat.py را باز کرده و اجرا کنید. میتوانید در بالای فایل مقدار
MODEL_NAMEرا به دلخواه تغییر دهید و همچنین پیام سیستم یا مثالهای few-shot را در صورت تمایل ویرایش کنید.
سلب مسئولیت:
این سند با استفاده از سرویس ترجمه هوش مصنوعی Co-op Translator ترجمه شده است. در حالی که ما در تلاش برای دقت هستیم، لطفاً توجه داشته باشید که ترجمههای خودکار ممکن است حاوی خطاها یا نادرستیهایی باشند. سند اصلی به زبان بومی خود باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حیاتی، ترجمه حرفهای انسانی توصیه میشود. ما مسئول هیچ گونه سوءتفاهم یا تفسیر نادرستی که از استفاده از این ترجمه ناشی شود، نیستیم.