Windows GPU-யை Prompt Flow தீர்வை Phi-3.5-Instruct ONNX உடன் உருவாக்க பயன்படுத்துதல்

February 1, 2026 · View on GitHub

இந்த ஆவணம் Phi-3 மாடல்களை அடிப்படையாகக் கொண்ட AI பயன்பாடுகளை உருவாக்க ONNX (Open Neural Network Exchange) உடன் PromptFlow-ஐ எப்படி பயன்படுத்துவது என்பதற்கான உதாரணமாகும்.

PromptFlow என்பது LLM (Large Language Model)-அடிப்படையிலான AI பயன்பாடுகளின் முழுமையான மேம்பாட்டு சுழற்சியை, யோசனை மற்றும் மாதிரியாக்கம் முதல் சோதனை மற்றும் மதிப்பீடு வரை எளிமைப்படுத்த வடிவமைக்கப்பட்ட மேம்பாட்டு கருவிகளின் தொகுப்பாகும்.

PromptFlow-ஐ ONNX உடன் ஒருங்கிணைப்பதன் மூலம், டெவலப்பர்கள் கீழ்க்கண்டவற்றை செய்ய முடியும்:

  • மாடல் செயல்திறனை மேம்படுத்துதல்: ONNX-ஐ பயன்படுத்தி மாடல் முடிவீடு மற்றும் பிரயோகத்தை திறமையாகச் செய்யலாம்.
  • மேம்பாட்டை எளிமைப்படுத்துதல்: PromptFlow-ஐ பயன்படுத்தி வேலைப்போக்கை நிர்வகிக்கவும், மீண்டும் மீண்டும் செய்ய வேண்டிய பணிகளை தானியங்கமாக்கவும் முடியும்.
  • கூட்டாண்மையை மேம்படுத்துதல்: ஒரே மேம்பாட்டு சூழலை வழங்குவதன் மூலம் குழு உறுப்பினர்களிடையே சிறந்த கூட்டாண்மையை ஊக்குவிக்க முடியும்.

Prompt flow என்பது LLM அடிப்படையிலான AI பயன்பாடுகளின் முழுமையான மேம்பாட்டு சுழற்சியை, யோசனை, மாதிரியாக்கம், சோதனை, மதிப்பீடு முதல் உற்பத்தி பிரயோகம் மற்றும் கண்காணிப்பு வரை எளிமைப்படுத்த வடிவமைக்கப்பட்ட மேம்பாட்டு கருவிகளின் தொகுப்பாகும். இது prompt engineering-ஐ மிகவும் எளிதாக்கி, உற்பத்தி தரத்துடன் LLM பயன்பாடுகளை உருவாக்க உதவுகிறது.

Prompt flow OpenAI, Azure OpenAI Service மற்றும் தனிப்பயன் மாடல்களுடன் (Huggingface, local LLM/SLM) இணைக்க முடியும். Phi-3.5-ன் அளவிடப்பட்ட ONNX மாடலை உள்ளூர் பயன்பாடுகளில் பிரயோகிக்க நாங்கள் நம்புகிறோம். Prompt flow நமக்கு எங்கள் வணிகத்தை சிறப்பாக திட்டமிடவும், Phi-3.5 அடிப்படையிலான உள்ளூர் தீர்வுகளை முடிக்கவும் உதவுகிறது. இந்த உதாரணத்தில், Windows GPU அடிப்படையிலான Prompt flow தீர்வை முடிக்க ONNX Runtime GenAI Library-ஐ இணைப்போம்.

நிறுவல்

Windows GPU-க்கு ONNX Runtime GenAI

Windows GPU-க்கு ONNX Runtime GenAI அமைக்க இந்த வழிகாட்டுதலைப் படிக்கவும் இங்கே கிளிக் செய்யவும்

VSCode-ல் Prompt flow அமைக்க

  1. Prompt flow VS Code Extension-ஐ நிறுவவும்

pfvscode

  1. Prompt flow VS Code Extension-ஐ நிறுவிய பிறகு, அந்த extension-ஐ கிளிக் செய்து, Installation dependencies-ஐ தேர்வு செய்து, இந்த வழிகாட்டுதலின்படி Prompt flow SDK-ஐ உங்கள் சூழலில் நிறுவவும்

pfsetup

  1. Sample Code பதிவிறக்கம் செய்து, VS Code-ஐ பயன்படுத்தி இந்த மாதிரியைத் திறக்கவும்

pfsample

  1. flow.dag.yaml-ஐ திறந்து உங்கள் Python சூழலைத் தேர்வு செய்யவும்

pfdag

chat_phi3_ort.py-ஐ திறந்து உங்கள் Phi-3.5-instruct ONNX மாடல் இருப்பிடத்தை மாற்றவும்

pfphi

  1. உங்கள் Prompt flow-ஐ சோதனை செய்ய இயக்கவும்

flow.dag.yaml-ஐ திறந்து visual editor-ஐ கிளிக் செய்யவும்

pfv

இதனை கிளிக் செய்த பிறகு, அதை இயக்கி சோதிக்கவும்

pfflow

  1. மேலும் முடிவுகளைச் சரிபார்க்க terminal-ல் batch-ஐ இயக்கலாம்

pf run create --file batch_run.yaml --stream --name 'Your eval qa name'

முடிவுகளை உங்கள் இயல்புநிலை உலாவியில் பார்க்கலாம்

pfresult

குறிப்பு:
இந்த ஆவணம் Co-op Translator என்ற AI மொழிபெயர்ப்பு சேவையைப் பயன்படுத்தி மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சிக்கின்றோம், ஆனால் தானியங்கி மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறான தகவல்கள் இருக்கக்கூடும் என்பதை தயவுசெய்து கவனத்தில் கொள்ளவும். அதன் தாய்மொழியில் உள்ள மூல ஆவணம் அதிகாரப்பூர்வ ஆதாரமாக கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்முறை மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பைப் பயன்படுத்துவதால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கங்களுக்கு நாங்கள் பொறுப்பல்ல.