லோக்கல் சர்வரில் Phi-3 ஐ பயன்படுத்துதல்
February 1, 2026 · View on GitHub
நாம் Phi-3 ஐ ஒரு லோக்கல் சர்வரில் நிறுவலாம். பயனர்கள் Ollama அல்லது LM Studio தீர்வுகளைத் தேர்ந்தெடுக்கலாம், அல்லது தாங்களே தங்கள் கோடுகளை எழுதலாம். Semantic Kernel அல்லது Langchain மூலம் Phi-3 இன் லோக்கல் சேவைகளை இணைத்து Copilot பயன்பாடுகளை உருவாக்கலாம்.
Semantic Kernel மூலம் Phi-3-mini ஐ அணுகுதல்
Copilot பயன்பாட்டில், நாம் Semantic Kernel / LangChain மூலம் பயன்பாடுகளை உருவாக்குகிறோம். இந்த வகை பயன்பாட்டு கட்டமைப்பு பொதுவாக Azure OpenAI Service / OpenAI மாதிரிகளுடன் இணக்கமாக இருக்கும், மேலும் Hugging Face மற்றும் லோக்கல் மாதிரிகளில் உள்ள திறந்த மூல மாதிரிகளையும் ஆதரிக்க முடியும். Semantic Kernel மூலம் Phi-3-mini ஐ அணுக வேண்டுமெனில் என்ன செய்ய வேண்டும்? .NET உதாரணமாக எடுத்துக்கொண்டால், Semantic Kernel இல் Hugging Face Connector உடன் இணைக்கலாம். இயல்பாக, இது Hugging Face இல் உள்ள மாதிரி ஐடியுடன் பொருந்தும் (முதல் முறையாக பயன்படுத்தும் போது, மாதிரி Hugging Face இலிருந்து பதிவிறக்கம் செய்யப்படும், இது அதிக நேரம் எடுக்கும்). நீங்கள் கட்டிய லோக்கல் சேவையுடன் இணைக்கவும் முடியும். இவற்றில் ஒப்பிடும்போது, இரண்டாவது முறையை பயன்படுத்த பரிந்துரைக்கிறோம், ஏனெனில் இது அதிக சுயாதீனத்தன்மையைக் கொண்டுள்ளது, குறிப்பாக நிறுவன பயன்பாடுகளில்.
Semantic Kernel மூலம் லோக்கல் சேவைகளை அணுகுவதன் மூலம், தாங்களே கட்டிய Phi-3-mini மாதிரி சர்வருடன் எளிதாக இணைக்க முடியும். இதோ அதன் செயல்பாட்டு முடிவு:
மாதிரி குறியீடு https://github.com/kinfey/Phi3MiniSamples/tree/main/semantickernel
குறிப்பு:
இந்த ஆவணம் Co-op Translator என்ற AI மொழிபெயர்ப்பு சேவையைப் பயன்படுத்தி மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சிக்கின்றோம், ஆனால் தானியங்கி மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறான தகவல்கள் இருக்கக்கூடும் என்பதை தயவுசெய்து கவனத்தில் கொள்ளுங்கள். அதன் தாய்மொழியில் உள்ள மூல ஆவணம் அதிகாரப்பூர்வ ஆதாரமாக கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்முறை மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பைப் பயன்படுத்துவதால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கங்களுக்கு நாங்கள் பொறுப்பல்ல.