EdgeAI ആരംഭിക്കുന്നവർക്ക്: പഠന പാതകളും പഠന ഷെഡ്യൂളും

January 29, 2026 · View on GitHub

കേന്ദ്രീകൃത പഠന പാത (1 ആഴ്ച)

ദിവസംശ്രദ്ധ കേന്ദ്രീകരിക്കുകകണക്കാക്കിയ മണിക്കൂറുകൾ
ദിവസം 0മോഡ്യൂൾ 0: EdgeAI പരിചയം1-2 മണിക്കൂർ
ദിവസം 1മോഡ്യൂൾ 1: EdgeAI അടിസ്ഥാനങ്ങൾ3 മണിക്കൂർ
ദിവസം 2മോഡ്യൂൾ 2: SLM അടിസ്ഥാനങ്ങൾ3 മണിക്കൂർ
ദിവസം 3മോഡ്യൂൾ 3: SLM വിന്യാസം2 മണിക്കൂർ
ദിവസം 4-5മോഡ്യൂൾ 4: മോഡൽ ഓപ്റ്റിമൈസേഷൻ (6 ഫ്രെയിംവർക്കുകൾ)4 മണിക്കൂർ
ദിവസം 6മോഡ്യൂൾ 5: SLMOps3 മണിക്കൂർ
ദിവസം 7മോഡ്യൂൾ 6-7: AI ഏജന്റുകളും വികസന ഉപകരണങ്ങളും4 മണിക്കൂർ
ദിവസം 8മോഡ്യൂൾ 8: Foundry Local Toolkit (ആധുനിക നടപ്പാക്കൽ)1 മണിക്കൂർ

കേന്ദ്രീകൃത പഠന പാത (2 ആഴ്ച)

ദിവസംശ്രദ്ധ കേന്ദ്രീകരിക്കുകകണക്കാക്കിയ മണിക്കൂറുകൾ
ദിവസം 1-2മോഡ്യൂൾ 1: EdgeAI അടിസ്ഥാനങ്ങൾ3 മണിക്കൂർ
ദിവസം 3-4മോഡ്യൂൾ 2: SLM അടിസ്ഥാനങ്ങൾ3 മണിക്കൂർ
ദിവസം 5-6മോഡ്യൂൾ 3: SLM വിന്യാസം2 മണിക്കൂർ
ദിവസം 7-8മോഡ്യൂൾ 4: മോഡൽ ഓപ്റ്റിമൈസേഷൻ4 മണിക്കൂർ
ദിവസം 9-10മോഡ്യൂൾ 5: SLMOps3 മണിക്കൂർ
ദിവസം 11-12മോഡ്യൂൾ 6: AI ഏജന്റുകൾ2 മണിക്കൂർ
ദിവസം 13-14മോഡ്യൂൾ 7: വികസന ഉപകരണങ്ങൾ3 മണിക്കൂർ

ഭാഗകാല പഠനം (4 ആഴ്ച)

ആഴ്ചശ്രദ്ധ കേന്ദ്രീകരിക്കുകകണക്കാക്കിയ മണിക്കൂറുകൾ
ആഴ്ച 1മോഡ്യൂൾ 1-2: അടിസ്ഥാനങ്ങൾ & SLM അടിസ്ഥാനങ്ങൾ6 മണിക്കൂർ
ആഴ്ച 2മോഡ്യൂൾ 3-4: വിന്യാസം & ഓപ്റ്റിമൈസേഷൻ6 മണിക്കൂർ
ആഴ്ച 3മോഡ്യൂൾ 5-6: SLMOps & AI ഏജന്റുകൾ5 മണിക്കൂർ
ആഴ്ച 4മോഡ്യൂൾ 7: വികസന ഉപകരണങ്ങൾ & ഇന്റഗ്രേഷൻ3 മണിക്കൂർ
ദിവസംശ്രദ്ധ കേന്ദ്രീകരിക്കുകകണക്കാക്കിയ മണിക്കൂറുകൾ
ദിവസം 0മോഡ്യൂൾ 0: EdgeAI പരിചയം1-2 മണിക്കൂർ
ദിവസം 1-2മോഡ്യൂൾ 1: EdgeAI അടിസ്ഥാനങ്ങൾ3 മണിക്കൂർ
ദിവസം 3-4മോഡ്യൂൾ 2: SLM അടിസ്ഥാനങ്ങൾ3 മണിക്കൂർ
ദിവസം 5-6മോഡ്യൂൾ 3: SLM വിന്യാസം2 മണിക്കൂർ
ദിവസം 7-8മോഡ്യൂൾ 4: മോഡൽ ഓപ്റ്റിമൈസേഷൻ4 മണിക്കൂർ
ദിവസം 9-10മോഡ്യൂൾ 5: SLMOps3 മണിക്കൂർ
ദിവസം 11-12മോഡ്യൂൾ 6: SLM ഏജന്റിക് സിസ്റ്റങ്ങൾ2 മണിക്കൂർ
ദിവസം 13-14മോഡ്യൂൾ 7: EdgeAI നടപ്പാക്കൽ സാമ്പിളുകൾ2 മണിക്കൂർ
മോഡ്യൂൾപൂർത്തീകരണ തീയതിചെലവഴിച്ച മണിക്കൂറുകൾപ്രധാന പഠനങ്ങൾ
മോഡ്യൂൾ 0: EdgeAI പരിചയം
മോഡ്യൂൾ 1: EdgeAI അടിസ്ഥാനങ്ങൾ
മോഡ്യൂൾ 2: SLM അടിസ്ഥാനങ്ങൾ
മോഡ്യൂൾ 3: SLM വിന്യാസം
മോഡ്യൂൾ 4: മോഡൽ ഓപ്റ്റിമൈസേഷൻ (6 ഫ്രെയിംവർക്കുകൾ)
മോഡ്യൂൾ 5: SLMOps
മോഡ്യൂൾ 6: SLM ഏജന്റിക് സിസ്റ്റങ്ങൾ
മോഡ്യൂൾ 7: EdgeAI നടപ്പാക്കൽ സാമ്പിളുകൾ
പ്രായോഗിക അഭ്യാസങ്ങൾ
മിനി-പ്രോജക്ട്

ഭാഗകാല പഠനം (4 ആഴ്ച)

ആഴ്ചശ്രദ്ധ കേന്ദ്രീകരിക്കുകകണക്കാക്കിയ മണിക്കൂറുകൾ
ആഴ്ച 1മോഡ്യൂൾ 1-2: അടിസ്ഥാനങ്ങൾ & SLM അടിസ്ഥാനങ്ങൾ6 മണിക്കൂർ
ആഴ്ച 2മോഡ്യൂൾ 3-4: വിന്യാസം & ഓപ്റ്റിമൈസേഷൻ6 മണിക്കൂർ
ആഴ്ച 3മോഡ്യൂൾ 5-6: SLMOps & AI ഏജന്റുകൾ5 മണിക്കൂർ
ആഴ്ച 4മോഡ്യൂൾ 7: വികസന ഉപകരണങ്ങൾ & ഇന്റഗ്രേഷൻ3 മണിക്കൂർ

പരിചയം

EdgeAI ആരംഭിക്കുന്നവർക്ക് സ്വാഗതം! ഈ ഡോക്യുമെന്റ് കോഴ്‌സ് മെറ്റീരിയലുകൾ ഫലപ്രദമായി നയിക്കാൻ സഹായിക്കുന്നതിനും നിങ്ങളുടെ പഠനാനുഭവം പരമാവധി പ്രയോജനപ്പെടുത്തുന്നതിനും രൂപകൽപ്പന ചെയ്തതാണ്. ഇത് ഘടിത പഠന പാതകൾ, നിർദ്ദേശിച്ച പഠന ഷെഡ്യൂളുകൾ, പ്രധാന ആശയങ്ങളുടെ സംഗ്രഹങ്ങൾ, കൂടാതെ Edge AI സാങ്കേതികവിദ്യകളുടെ ആഴത്തിലുള്ള മനസ്സിലാക്കലിനായി സഹായകമായ അധിക വിഭവങ്ങൾ നൽകുന്നു.

ഇത് 20 മണിക്കൂർ ദൈർഘ്യമുള്ള സംക്ഷിപ്ത കോഴ്‌സാണ്, EdgeAI യെക്കുറിച്ചുള്ള അടിസ്ഥാന അറിവ് സമയക്ഷമമായ രീതിയിൽ നൽകുന്നു, അതുകൊണ്ട് തിരക്കുള്ള പ്രൊഫഷണലുകൾക്കും വിദ്യാർത്ഥികൾക്കും ഈ ഉയർന്ന വളർച്ചയിലുള്ള മേഖലയിലെ പ്രായോഗിക കഴിവുകൾ വേഗത്തിൽ നേടാൻ അനുയോജ്യമാണ്.

കോഴ്‌സ് അവലോകനം

ഈ കോഴ്‌സ് എട്ട് സമഗ്ര മോഡ്യൂളുകളായി ക്രമീകരിച്ചിരിക്കുന്നു:

  1. EdgeAI പരിചയം - അടിസ്ഥാനവും വ്യവസായ പ്രയോഗങ്ങളും പഠന ലക്ഷ്യങ്ങളും
  2. EdgeAI അടിസ്ഥാനങ്ങളും പരിവർത്തനവും - മുഖ്യ ആശയങ്ങളും സാങ്കേതിക മാറ്റവും മനസ്സിലാക്കൽ
  3. സ്മോൾ ലാംഗ്വേജ് മോഡൽ അടിസ്ഥാനങ്ങൾ - വിവിധ SLM കുടുംബങ്ങളും അവയുടെ ആർക്കിടെക്ചറുകളും
  4. സ്മോൾ ലാംഗ്വേജ് മോഡൽ വിന്യാസം - പ്രായോഗിക വിന്യാസ തന്ത്രങ്ങൾ നടപ്പാക്കൽ
  5. മോഡൽ ഫോർമാറ്റ് പരിവർത്തനം & ക്വാണ്ടൈസേഷൻ - OpenVINO ഉൾപ്പെടെ 6 ഫ്രെയിംവർക്കുകളുമായി ഉയർന്നതല ഓപ്റ്റിമൈസേഷൻ
  6. SLMOps - സ്മോൾ ലാംഗ്വേജ് മോഡൽ ഓപ്പറേഷനുകൾ - ഉത്പാദന ജീവിതചക്രം മാനേജ്മെന്റ് & വിന്യാസം
  7. SLM ഏജന്റിക് സിസ്റ്റങ്ങൾ - AI ഏജന്റുകൾ, ഫംഗ്ഷൻ കോളിംഗ്, മോഡൽ കോൺടെക്സ്റ്റ് പ്രോട്ടോക്കോൾ
  8. EdgeAI നടപ്പാക്കൽ സാമ്പിളുകൾ - AI ടൂൾകിറ്റ്, Windows വികസനം, പ്ലാറ്റ്ഫോം-നിർദ്ദിഷ്ട നടപ്പാക്കലുകൾ
  9. Microsoft Foundry Local – സമ്പൂർണ്ണ ഡെവലപ്പർ ടൂൾകിറ്റ് - ഹൈബ്രിഡ് Azure ഇന്റഗ്രേഷനോടുകൂടിയ ലോക്കൽ-ഫസ്റ്റ് വികസനം (മോഡ്യൂൾ 08)

ഈ പഠന ഗൈഡ് എങ്ങനെ ഉപയോഗിക്കാം

  • ക്രമാനുസൃത പഠനം: ഏറ്റവും സുസ്ഥിരമായ പഠനാനുഭവത്തിനായി മോഡ്യൂളുകൾ ക്രമത്തിൽ പിന്തുടരുക
  • അറിവ് പരിശോധനാ പോയിന്റുകൾ: ഓരോ വിഭാഗത്തിനുശേഷവും സ്വയം മൂല്യനിർണയ ചോദ്യങ്ങൾ ഉപയോഗിക്കുക
  • പ്രായോഗിക അഭ്യാസങ്ങൾ: സിദ്ധാന്ത ആശയങ്ങൾ ശക്തിപ്പെടുത്താൻ നിർദ്ദേശിച്ച അഭ്യാസങ്ങൾ പൂർത്തിയാക്കുക
  • അധിക വിഭവങ്ങൾ: നിങ്ങൾക്ക് ഏറ്റവും കൂടുതൽ താൽപ്പര്യമുള്ള വിഷയങ്ങൾക്ക് അധിക പഠന സാമഗ്രികൾ പരിശോധിക്കുക

പഠന ഷെഡ്യൂൾ ശുപാർശകൾ

കേന്ദ്രീകൃത പഠന പാത (1 ആഴ്ച)

ദിവസംശ്രദ്ധ കേന്ദ്രീകരിക്കുകകണക്കാക്കിയ മണിക്കൂറുകൾ
ദിവസം 0മോഡ്യൂൾ 0: EdgeAI പരിചയം1-2 മണിക്കൂർ
ദിവസം 1-2മോഡ്യൂൾ 1: EdgeAI അടിസ്ഥാനങ്ങൾ6 മണിക്കൂർ
ദിവസം 3-4മോഡ്യൂൾ 2: SLM അടിസ്ഥാനങ്ങൾ8 മണിക്കൂർ
ദിവസം 5മോഡ്യൂൾ 3: SLM വിന്യാസം3 മണിക്കൂർ
ദിവസം 6മോഡ്യൂൾ 8: Foundry Local Toolkit3 മണിക്കൂർ

ഭാഗകാല പഠനം (3 ആഴ്ച)

ആഴ്ചശ്രദ്ധ കേന്ദ്രീകരിക്കുകകണക്കാക്കിയ മണിക്കൂറുകൾ
ആഴ്ച 1മോഡ്യൂൾ 0: പരിചയം + മോഡ്യൂൾ 1: EdgeAI അടിസ്ഥാനങ്ങൾ7-9 മണിക്കൂർ
ആഴ്ച 2മോഡ്യൂൾ 2: SLM അടിസ്ഥാനങ്ങൾ7-8 മണിക്കൂർ
ആഴ്ച 3മോഡ്യൂൾ 3: SLM വിന്യാസം (3മണിക്കൂർ) + മോഡ്യൂൾ 8: Foundry Local Toolkit (2-3മണിക്കൂർ)5-6 മണിക്കൂർ

മോഡ്യൂൾ 0: EdgeAI പരിചയം

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • Edge AI എന്താണെന്ന്, ഇന്നത്തെ സാങ്കേതിക രംഗത്ത് അതിന്റെ പ്രാധാന്യം എന്താണെന്ന് മനസ്സിലാക്കുക
  • Edge AI വഴി പരിവർത്തനം സംഭവിച്ച പ്രധാന വ്യവസായങ്ങൾ തിരിച്ചറിയുക, അവയുടെ പ്രത്യേക ഉപയോഗ കേസുകൾ അറിയുക
  • എഡ്ജ് വിന്യാസത്തിനായി സ്മോൾ ലാംഗ്വേജ് മോഡലുകളുടെ (SLMs) ഗുണങ്ങൾ മനസ്സിലാക്കുക
  • പൂർണ്ണ കോഴ്‌സിനുള്ള വ്യക്തമായ പഠന പ്രതീക്ഷകളും ഫലങ്ങളും സ്ഥാപിക്കുക
  • Edge AI മേഖലയിലെ കരിയർ അവസരങ്ങളും ആവശ്യമായ കഴിവുകളും തിരിച്ചറിയുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

വിഭാഗം 1: Edge AI പാരഡൈം & നിർവചനം

  • പ്രധാന ആശയങ്ങൾ:
    • Edge AI vs. പരമ്പരാഗത ക്ലൗഡ് AI പ്രോസസ്സിംഗ്
    • ഹാർഡ്‌വെയർ, മോഡൽ ഓപ്റ്റിമൈസേഷൻ, ബിസിനസ് ആവശ്യകതകളുടെ ഏകീകരണം
    • റിയൽ-ടൈം, സ്വകാര്യത സംരക്ഷിക്കുന്ന, ചെലവ്-ക്ഷമമായ AI വിന്യാസം

വിഭാഗം 2: വ്യവസായ പ്രയോഗങ്ങൾ

  • പ്രധാന ആശയങ്ങൾ:
    • നിർമ്മാണം & Industry 4.0: പ്രവചനപരമായ പരിപാലനം & ഗുണനിലവാര നിയന്ത്രണം
    • ആരോഗ്യസംരക്ഷണം: ഡയഗ്നോസ്റ്റിക് ഇമേജിംഗ് & രോഗി നിരീക്ഷണം
    • സ്വയംനടത്തുന്ന സിസ്റ്റങ്ങൾ: സ്വയം ഓടുന്ന വാഹനങ്ങൾ & ഗതാഗതം
    • സ്മാർട്ട് നഗരങ്ങൾ: ട്രാഫിക് മാനേജ്മെന്റ് & പൊതു സുരക്ഷ
    • ഉപഭോക്തൃ സാങ്കേതികവിദ്യ: സ്മാർട്ട്‌ഫോണുകൾ, ധരിക്കാവുന്ന ഉപകരണങ്ങൾ, സ്മാർട്ട് ഹോമുകൾ

വിഭാഗം 3: സ്മോൾ ലാംഗ്വേജ് മോഡൽ അടിസ്ഥാനങ്ങൾ

  • പ്രധാന ആശയങ്ങൾ:
    • SLM സവിശേഷതകളും പ്രകടന താരതമ്യങ്ങളും
    • പാരാമീറ്റർ കാര്യക്ഷമത vs. കഴിവ് വ്യാപാരങ്ങൾ
    • എഡ്ജ് വിന്യാസ നിയന്ത്രണങ്ങളും ഓപ്റ്റിമൈസേഷൻ തന്ത്രങ്ങളും

വിഭാഗം 4: പഠന ഫ്രെയിംവർക്ക് & കരിയർ പാത

  • പ്രധാന ആശയങ്ങൾ:
    • കോഴ്‌സ് ഘടനയും ക്രമാനുസൃത മാസ്റ്ററി സമീപനവും
    • സാങ്കേതിക കഴിവുകളും പ്രായോഗിക നടപ്പാക്കൽ ലക്ഷ്യങ്ങളും
    • കരിയർ പുരോഗതി അവസരങ്ങളും വ്യവസായ പ്രയോഗങ്ങളും

സ്വയം മൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. Edge AI സാദ്ധ്യമാക്കിയ മൂന്ന് പ്രധാന സാങ്കേതിക പ്രവണതകൾ എന്തെല്ലാം?
  2. Edge AI vs. ക്ലൗഡ് അടിസ്ഥാന AI യുടെ ഗുണങ്ങളും വെല്ലുവിളികളും താരതമ്യം ചെയ്യുക.
  3. Edge AI പ്രധാന ബിസിനസ് മൂല്യം നൽകുന്ന മൂന്ന് വ്യവസായങ്ങൾ പേരിടുക, കാരണം വിശദീകരിക്കുക.
  4. സ്മോൾ ലാംഗ്വേജ് മോഡലുകൾ എങ്ങനെ Edge AI യെ യാഥാർത്ഥ്യ വിന്യാസത്തിന് പ്രായോഗികമാക്കുന്നു?
  5. ഈ കോഴ്‌സിൽ നിങ്ങൾ വികസിപ്പിക്കേണ്ട പ്രധാന സാങ്കേതിക കഴിവുകൾ എന്തെല്ലാം?
  6. ഈ കോഴ്‌സിൽ ഉപയോഗിക്കുന്ന നാലു ഘട്ട പഠന സമീപനം വിവരിക്കുക.

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. വ്യവസായ ഗവേഷണം: ഒരു വ്യവസായ പ്രയോഗം തിരഞ്ഞെടുക്കുക, യാഥാർത്ഥ്യ Edge AI നടപ്പാക്കൽ ഗവേഷണം നടത്തുക (30 മിനിറ്റ്)
  2. മോഡൽ പര്യവേക്ഷണം: Hugging Face ൽ ലഭ്യമായ സ്മോൾ ലാംഗ്വേജ് മോഡലുകൾ ബ്രൗസ് ചെയ്ത് അവയുടെ പാരാമീറ്റർ എണ്ണം, കഴിവുകൾ താരതമ്യം ചെയ്യുക (30 മിനിറ്റ്)
  3. പഠന പദ്ധതി: പൂർണ്ണ കോഴ്‌സ് ഘടന അവലോകനം ചെയ്ത് നിങ്ങളുടെ വ്യക്തിഗത പഠന ഷെഡ്യൂൾ രൂപപ്പെടുത്തുക (15 മിനിറ്റ്)

അധിക വിഭവങ്ങൾ

മോഡ്യൂൾ 1: EdgeAI അടിസ്ഥാനങ്ങളും പരിവർത്തനവും

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • ക്ലൗഡ് അടിസ്ഥാന AI യും എഡ്ജ് അടിസ്ഥാന AI യും തമ്മിലുള്ള വ്യത്യാസങ്ങൾ മനസ്സിലാക്കുക
  • വിഭവപരിധിയുള്ള പരിസരങ്ങളിൽ കോർ ഓപ്റ്റിമൈസേഷൻ സാങ്കേതികതകൾ ആസൂത്രണം ചെയ്യുക
  • EdgeAI സാങ്കേതികവിദ്യകളുടെ യാഥാർത്ഥ്യ പ്രയോഗങ്ങൾ വിശകലനം ചെയ്യുക
  • EdgeAI പ്രോജക്ടുകൾക്കായി വികസന പരിസ്ഥിതി സജ്ജമാക്കുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

വിഭാഗം 1: EdgeAI അടിസ്ഥാനങ്ങൾ

വിഭാഗം 2: യാഥാർത്ഥ്യ കേസുകൾ

  • പ്രധാന ആശയങ്ങൾ:
    • Microsoft Phi & Mu മോഡൽ ഇക്കോസിസ്റ്റം
    • വ്യവസായങ്ങളിലുടനീളം പ്രായോഗിക നടപ്പാക്കലുകൾ
    • വിന്യാസ പരിഗണനകൾ

വിഭാഗം 3: പ്രായോഗിക നടപ്പാക്കൽ മാർഗ്ഗനിർദ്ദേശം

  • പ്രധാന ആശയങ്ങൾ:
    • വികസന പരിസ്ഥിതി സജ്ജീകരണം
    • ക്വാണ്ടൈസേഷൻ & ഓപ്റ്റിമൈസേഷൻ ഉപകരണങ്ങൾ
    • EdgeAI നടപ്പാക്കലുകളുടെ മൂല്യനിർണയ മാർഗ്ഗങ്ങൾ

വിഭാഗം 4: Edge വിന്യാസ ഹാർഡ്‌വെയർ

  • പ്രധാന ആശയങ്ങൾ:
    • ഹാർഡ്‌വെയർ പ്ലാറ്റ്ഫോം താരതമ്യങ്ങൾ
    • പ്രത്യേക ഹാർഡ്‌വെയറിനുള്ള ഓപ്റ്റിമൈസേഷൻ തന്ത്രങ്ങൾ
    • വിന്യാസ പരിഗണനകൾ

സ്വയം മൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. ക്ലൗഡ് അടിസ്ഥാന AI യും എഡ്ജ് അടിസ്ഥാന AI യും നടപ്പാക്കലുകളിൽ താരതമ്യം ചെയ്യുക.
  2. എഡ്ജ് വിന്യാസത്തിനായി മോഡലുകൾ ഓപ്റ്റിമൈസ് ചെയ്യാനുള്ള മൂന്ന് പ്രധാന സാങ്കേതികതകൾ വിശദീകരിക്കുക.
  3. എഡ്ജിൽ AI മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്ന പ്രധാന ഗുണങ്ങൾ എന്തെല്ലാം?
  4. ഒരു മോഡൽ ക്വാണ്ടൈസ് ചെയ്യുന്നതിന്റെ പ്രക്രിയയും അത് പ്രകടനത്തെ എങ്ങനെ ബാധിക്കുന്നതും വിവരിക്കുക.
  5. വ്യത്യസ്ത ഹാർഡ്‌വെയർ ആക്സിലറേറ്ററുകൾ (NPUs, GPUs, CPUs) എങ്ങനെ EdgeAI വിന്യാസത്തെ സ്വാധീനിക്കുന്നു എന്ന് വിശദീകരിക്കുക.

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. വേഗത്തിലുള്ള പരിസ്ഥിതി സജ്ജീകരണം: ആവശ്യമായ പാക്കേജുകളുമായി ഒരു ലഘു വികസന പരിസ്ഥിതി ക്രമീകരിക്കുക (30 മിനിറ്റ്)
  2. മോഡൽ പര്യവേക്ഷണം: മുൻകൂട്ടി പരിശീലിപ്പിച്ച ഒരു സ്മോൾ ലാംഗ്വേജ് മോഡൽ ഡൗൺലോഡ് ചെയ്ത് പരിശോധിക്കുക (1 മണിക്കൂർ)
  3. അടിസ്ഥാന ക്വാണ്ടൈസേഷൻ: ഒരു ചെറിയ മോഡലിൽ ലളിതമായ ക്വാണ്ടൈസേഷൻ പരീക്ഷിക്കുക (1 മണിക്കൂർ)

മോഡ്യൂൾ 2: സ്മോൾ ലാംഗ്വേജ് മോഡൽ അടിസ്ഥാനങ്ങൾ

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • വ്യത്യസ്ത SLM കുടുംബങ്ങളുടെ ആർക്കിടെക്ചറൽ സിദ്ധാന്തങ്ങൾ മനസ്സിലാക്കുക
  • വ്യത്യസ്ത പാരാമീറ്റർ സ്കെയിലുകളിലുള്ള മോഡൽ കഴിവുകൾ താരതമ്യം ചെയ്യുക
  • കാര്യക്ഷമത, കഴിവ്, വിന്യാസ ആവശ്യകതകൾ അടിസ്ഥാനമാക്കി മോഡലുകൾ വിലയിരുത്തുക
  • വ്യത്യസ്ത മോഡൽ കുടുംബങ്ങൾക്ക് അനുയോജ്യമായ ഉപയോഗ കേസുകൾ തിരിച്ചറിയുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

വിഭാഗം 1: Microsoft Phi മോഡൽ കുടുംബം

  • പ്രധാന ആശയങ്ങൾ:
    • ഡിസൈൻ തത്ത്വചിന്തയുടെ പരിണാമം
    • കാര്യക്ഷമത-പ്രഥമ ആർക്കിടെക്ചർ
    • പ്രത്യേക കഴിവുകൾ

വിഭാഗം 2: Qwen കുടുംബം

  • പ്രധാന ആശയങ്ങൾ:
    • ഓപ്പൺ സോഴ്‌സ് സംഭാവനകൾ
    • സ്കെയിലബിൾ വിന്യാസ ഓപ്ഷനുകൾ
    • ഉയർന്ന നിരീക്ഷണ ആർക്കിടെക്ചർ

വിഭാഗം 3: Gemma കുടുംബം

  • പ്രധാന ആശയങ്ങൾ:
    • ഗവേഷണ-നിർമ്മിത നവീകരണം
    • മൾട്ടിമോഡൽ കഴിവുകൾ
    • മൊബൈൽ ഓപ്റ്റിമൈസേഷൻ

വിഭാഗം 4: BitNET കുടുംബം

  • പ്രധാന ആശയങ്ങൾ:
    • 1-ബിറ്റ് ക്വാണ്ടൈസേഷൻ സാങ്കേതികവിദ്യ
    • ഇൻഫറൻസ് ഓപ്റ്റിമൈസേഷൻ ഫ്രെയിംവർക്ക്
    • സുസ്ഥിരത പരിഗണനകൾ

വിഭാഗം 5: Microsoft Mu മോഡൽ

  • പ്രധാന ആശയങ്ങൾ:
    • ഡിവൈസ്-ഫസ്റ്റ് ആർക്കിടെക്ചർ
    • Windows-ഉം സിസ്റ്റം ഇന്റഗ്രേഷനും
    • സ്വകാര്യത സംരക്ഷിക്കുന്ന പ്രവർത്തനം

വിഭാഗം 6: Phi-Silica

  • പ്രധാന ആശയങ്ങൾ:
    • NPU-ഓപ്റ്റിമൈസ്ഡ് ആർക്കിടെക്ചർ
    • പ്രകടന മാനദണ്ഡങ്ങൾ
    • ഡെവലപ്പർ ഇന്റഗ്രേഷൻ

സ്വയം മൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. Phi മോഡൽ കുടുംബവും Qwen മോഡൽ കുടുംബവും ആർക്കിടെക്ചറൽ സമീപനങ്ങളിൽ താരതമ്യം ചെയ്യുക.
  2. BitNET ന്റെ ക്വാണ്ടൈസേഷൻ സാങ്കേതികവിദ്യ പരമ്പരാഗത ക്വാണ്ടൈസേഷനിൽ നിന്ന് എങ്ങനെ വ്യത്യസ്തമാണ് എന്ന് വിശദീകരിക്കുക.
  3. Windows ഇന്റഗ്രേഷനിനായി Mu മോഡലിന് ഉള്ള പ്രത്യേകമായ ഗുണങ്ങൾ എന്തെല്ലാം ആണ്?
  4. Phi-Silica NPU ഹാർഡ്‌വെയർ ഉപയോഗിച്ച് പ്രകടന മെച്ചപ്പെടുത്തൽ എങ്ങനെ നടത്തുന്നു എന്ന് വിവരിക്കുക.
  5. പരിമിതമായ കണക്ടിവിറ്റി ഉള്ള മൊബൈൽ ആപ്ലിക്കേഷനിനായി ഏത് മോഡൽ കുടുംബം ഏറ്റവും അനുയോജ്യമായിരിക്കും, അതിന്റെ കാരണം എന്താണ്?

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. മോഡൽ താരതമ്യം: രണ്ട് വ്യത്യസ്ത SLM മോഡലുകളുടെ വേഗത പരിശോധന (1 മണിക്കൂർ)
  2. സാധാരണ ടെക്സ്റ്റ് ജനറേഷൻ: ചെറിയ മോഡലുമായി ടെക്സ്റ്റ് ജനറേഷൻ അടിസ്ഥാന നടപ്പാക്കൽ (1 മണിക്കൂർ)
  3. വേഗത്തിലുള്ള ഓപ്റ്റിമൈസേഷൻ: ഇൻഫറൻസ് വേഗം മെച്ചപ്പെടുത്താൻ ഒരു ഓപ്റ്റിമൈസേഷൻ സാങ്കേതിക വിദ്യ പ്രയോഗിക്കുക (1 മണിക്കൂർ)

മോഡ്യൂൾ 3: ചെറിയ ഭാഷാ മോഡൽ വിന്യാസം

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • വിന്യാസ നിയന്ത്രണങ്ങൾ അടിസ്ഥാനമാക്കി അനുയോജ്യമായ മോഡലുകൾ തിരഞ്ഞെടുക്കുക
  • വിവിധ വിന്യാസ സാഹചര്യങ്ങൾക്ക് അനുയോജ്യമായ ഓപ്റ്റിമൈസേഷൻ സാങ്കേതിക വിദ്യകൾ കൈകാര്യം ചെയ്യുക
  • SLM-കൾ ലൊക്കൽ, ക്ലൗഡ് പരിസ്ഥിതികളിൽ നടപ്പിലാക്കുക
  • EdgeAI ആപ്ലിക്കേഷനുകൾക്കായി പ്രൊഡക്ഷൻ-സജ്ജമായ കോൺഫിഗറേഷനുകൾ രൂപകൽപ്പന ചെയ്യുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

സെക്ഷൻ 1: SLM ആഡ്വാൻസ്ഡ് പഠനം

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • പാരാമീറ്റർ വർഗ്ഗീകരണ ഫ്രെയിംവർക്ക്
    • ആഡ്വാൻസ്ഡ് ഓപ്റ്റിമൈസേഷൻ സാങ്കേതിക വിദ്യകൾ
    • മോഡൽ സമ്പാദന തന്ത്രങ്ങൾ

സെക്ഷൻ 2: ലൊക്കൽ പരിസ്ഥിതി വിന്യാസം

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • Ollama പ്ലാറ്റ്ഫോം വിന്യാസം
    • Microsoft Foundry ലൊക്കൽ പരിഹാരങ്ങൾ
    • ഫ്രെയിംവർക്ക് താരതമ്യ വിശകലനം

സെക്ഷൻ 3: കണ്ടെയ്‌നറൈസ്ഡ് ക്ലൗഡ് വിന്യാസം

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • vLLM ഉയർന്ന പ്രകടന ഇൻഫറൻസ്
    • കണ്ടെയ്‌നർ ഓർക്കസ്ട്രേഷൻ
    • ONNX റൺടൈം നടപ്പാക്കൽ

സ്വയംമൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. ലൊക്കൽ വിന്യാസത്തിനും ക്ലൗഡ് വിന്യാസത്തിനും ഇടയിൽ തിരഞ്ഞെടുക്കുമ്പോൾ പരിഗണിക്കേണ്ട ഘടകങ്ങൾ എന്തെല്ലാം ആണ്?
  2. Ollamaയും Microsoft Foundry Local ഉം വിന്യാസ ഓപ്ഷനുകളായി താരതമ്യം ചെയ്യുക.
  3. SLM വിന്യാസത്തിനായി കണ്ടെയ്‌നറൈസേഷന്റെ ഗുണങ്ങൾ വിശദീകരിക്കുക.
  4. എഡ്ജിൽ വിന്യസിച്ച SLM-ന്റെ പ്രധാന പ്രകടന സൂചകങ്ങൾ എന്തെല്ലാം ആണ്?
  5. മോഡൽ തിരഞ്ഞെടുപ്പിൽ നിന്ന് പ്രൊഡക്ഷൻ നടപ്പിലാക്കലിലേക്കുള്ള സമ്പൂർണ വിന്യാസ പ്രവൃത്തി പ്രവാഹം വിവരിക്കുക.

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. അടിസ്ഥാന ലൊക്കൽ വിന്യാസം: Ollama ഉപയോഗിച്ച് ഒരു ലളിതമായ SLM വിന്യസിക്കുക (1 മണിക്കൂർ)
  2. പ്രകടന പരിശോധന: വിന്യസിച്ച മോഡലിൽ വേഗത പരിശോധന നടത്തുക (30 മിനിറ്റ്)
  3. സാധാരണ ഇന്റഗ്രേഷൻ: വിന്യസിച്ച മോഡൽ ഉപയോഗിക്കുന്ന ഒരു ലഘു ആപ്ലിക്കേഷൻ സൃഷ്ടിക്കുക (1 മണിക്കൂർ)

മോഡ്യൂൾ 4: മോഡൽ ഫോർമാറ്റ് പരിവർത്തനം, ക്വാണ്ടൈസേഷൻ

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • 1-ബിറ്റ് മുതൽ 8-ബിറ്റ് പ്രിസിഷൻ വരെ ആഡ്വാൻസ്ഡ് ക്വാണ്ടൈസേഷൻ സാങ്കേതിക വിദ്യകൾ കൈകാര്യം ചെയ്യുക
  • ഫോർമാറ്റ് പരിവർത്തന തന്ത്രങ്ങൾ (GGUF, ONNX) മനസിലാക്കുക
  • ആറ് ഫ്രെയിംവർക്കുകളിൽ (Llama.cpp, Olive, OpenVINO, MLX, workflow synthesis) ഓപ്റ്റിമൈസേഷൻ നടപ്പിലാക്കുക
  • Intel, Apple, ക്രോസ്-പ്ലാറ്റ്ഫോം ഹാർഡ്‌വെയറുകളിൽ പ്രൊഡക്ഷൻ എഡ്ജ് പരിസ്ഥിതികൾക്കായി ഓപ്റ്റിമൈസ്ഡ് മോഡലുകൾ വിന്യസിക്കുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

സെക്ഷൻ 1: ക്വാണ്ടൈസേഷൻ അടിസ്ഥാനങ്ങൾ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • പ്രിസിഷൻ വർഗ്ഗീകരണ ഫ്രെയിംവർക്ക്
    • പ്രകടനവും കൃത്യതയും തമ്മിലുള്ള വ്യാപാരം
    • മെമ്മറി ഫുട്പ്രിന്റ് ഓപ്റ്റിമൈസേഷൻ

സെക്ഷൻ 2: Llama.cpp നടപ്പാക്കൽ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • ക്രോസ്-പ്ലാറ്റ്ഫോം വിന്യാസം
    • GGUF ഫോർമാറ്റ് ഓപ്റ്റിമൈസേഷൻ
    • ഹാർഡ്‌വെയർ ആക്സിലറേഷൻ സാങ്കേതിക വിദ്യകൾ

സെക്ഷൻ 3: Microsoft Olive സ്യൂട്ട്

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • ഹാർഡ്‌വെയർ-അവെയർ ഓപ്റ്റിമൈസേഷൻ
    • എന്റർപ്രൈസ്-ഗ്രേഡ് വിന്യാസം
    • ഓട്ടോമേറ്റഡ് ഓപ്റ്റിമൈസേഷൻ പ്രവൃത്തി പ്രവാഹങ്ങൾ

സെക്ഷൻ 4: OpenVINO ടൂൾകിറ്റ്

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • Intel ഹാർഡ്‌വെയർ ഓപ്റ്റിമൈസേഷൻ
    • Neural Network Compression Framework (NNCF)
    • ക്രോസ്-പ്ലാറ്റ്ഫോം ഇൻഫറൻസ് വിന്യാസം
    • LLM വിന്യാസത്തിനുള്ള OpenVINO GenAI

സെക്ഷൻ 5: Apple MLX ഫ്രെയിംവർക്ക്

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • Apple Silicon ഓപ്റ്റിമൈസേഷൻ
    • ഏകീകൃത മെമ്മറി ആർക്കിടെക്ചർ
    • LoRA ഫൈൻ-ട്യൂണിംഗ് കഴിവുകൾ

സെക്ഷൻ 6: Edge AI ഡെവലപ്പ്മെന്റ് വർക്ക്‌ഫ്ലോ സിന്തസിസ്

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • ഏകീകൃത വർക്ക്‌ഫ്ലോ ആർക്കിടെക്ചർ
    • ഫ്രെയിംവർക്ക് തിരഞ്ഞെടുപ്പ് തീരുമാന വൃക്ഷങ്ങൾ
    • പ്രൊഡക്ഷൻ റെഡിനസ് വാലിഡേഷൻ
    • ഭാവി-സുരക്ഷാ തന്ത്രങ്ങൾ

സ്വയംമൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. വ്യത്യസ്ത പ്രിസിഷൻ നിലകളിൽ (1-ബിറ്റ് മുതൽ 8-ബിറ്റ് വരെ) ക്വാണ്ടൈസേഷൻ തന്ത്രങ്ങൾ താരതമ്യം ചെയ്യുക.
  2. എഡ്ജ് വിന്യാസത്തിനുള്ള GGUF ഫോർമാറ്റിന്റെ ഗുണങ്ങൾ വിശദീകരിക്കുക.
  3. Microsoft Olive-യിലെ ഹാർഡ്‌വെയർ-അവെയർ ഓപ്റ്റിമൈസേഷൻ വിന്യാസ കാര്യക്ഷമത എങ്ങനെ മെച്ചപ്പെടുത്തുന്നു?
  4. മോഡൽ കംപ്രഷനിൽ OpenVINOയുടെ NNCF-ന്റെ പ്രധാന ഗുണങ്ങൾ എന്തെല്ലാം ആണ്?
  5. Apple MLX ഏകീകൃത മെമ്മറി ആർക്കിടെക്ചർ ഉപയോഗിച്ച് ഓപ്റ്റിമൈസേഷൻ എങ്ങനെ നടത്തുന്നു?
  6. ഓപ്റ്റിമൽ ഓപ്റ്റിമൈസേഷൻ ഫ്രെയിംവർക്ക് തിരഞ്ഞെടുപ്പിൽ വർക്ക്‌ഫ്ലോ സിന്തസിസ് എങ്ങനെ സഹായിക്കുന്നു?

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. മോഡൽ ക്വാണ്ടൈസേഷൻ: മോഡലിന് വ്യത്യസ്ത ക്വാണ്ടൈസേഷൻ നിലകൾ പ്രയോഗിച്ച് ഫലങ്ങൾ താരതമ്യം ചെയ്യുക (1 മണിക്കൂർ)
  2. OpenVINO ഓപ്റ്റിമൈസേഷൻ: Intel ഹാർഡ്‌വെയറിനായി NNCF ഉപയോഗിച്ച് മോഡൽ കംപ്രസ് ചെയ്യുക (1 മണിക്കൂർ)
  3. ഫ്രെയിംവർക്ക് താരതമ്യം: ഒരേ മോഡൽ മൂന്ന് വ്യത്യസ്ത ഓപ്റ്റിമൈസേഷൻ ഫ്രെയിംവർക്കുകളിൽ പരീക്ഷിക്കുക (1 മണിക്കൂർ)
  4. പ്രകടന ബഞ്ച്മാർക്കിംഗ്: ഇൻഫറൻസ് വേഗതയും മെമ്മറി ഉപയോഗവും ഓപ്റ്റിമൈസേഷൻ പ്രഭാവം അളക്കുക (1 മണിക്കൂർ)

മോഡ്യൂൾ 5: SLMOps - ചെറിയ ഭാഷാ മോഡൽ ഓപ്പറേഷനുകൾ

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • SLMOps ലൈഫ്‌സൈക്കിൾ മാനേജ്മെന്റ് സിദ്ധാന്തങ്ങൾ മനസിലാക്കുക
  • എഡ്ജ് വിന്യാസത്തിനായി ഡിസ്റ്റിലേഷൻ, ഫൈൻ-ട്യൂണിംഗ് സാങ്കേതിക വിദ്യകൾ കൈകാര്യം ചെയ്യുക
  • നിരീക്ഷണത്തോടെ പ്രൊഡക്ഷൻ വിന്യാസ തന്ത്രങ്ങൾ നടപ്പിലാക്കുക
  • എന്റർപ്രൈസ്-ഗ്രേഡ് SLM ഓപ്പറേഷനുകളും പരിപാലന വർക്ക്‌ഫ്ലോകളും നിർമ്മിക്കുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

സെക്ഷൻ 1: SLMOps പരിചയം

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • AI ഓപ്പറേഷനുകളിൽ SLMOps പാരഡൈം മാറ്റം
    • ചെലവ് കാര്യക്ഷമതയും പ്രൈവസി-ഫസ്റ്റ് ആർക്കിടെക്ചറും
    • തന്ത്രപരമായ ബിസിനസ് സ്വാധീനം, മത്സര ഗുണങ്ങൾ

സെക്ഷൻ 2: മോഡൽ ഡിസ്റ്റിലേഷൻ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • നോളജ് ട്രാൻസ്ഫർ സാങ്കേതിക വിദ്യകൾ
    • രണ്ട് ഘട്ട ഡിസ്റ്റിലേഷൻ പ്രക്രിയ നടപ്പാക്കൽ
    • Azure ML ഡിസ്റ്റിലേഷൻ വർക്ക്‌ഫ്ലോകൾ

സെക്ഷൻ 3: ഫൈൻ-ട്യൂണിംഗ് തന്ത്രങ്ങൾ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • പാരാമീറ്റർ-എഫിഷ്യന്റ് ഫൈൻ-ട്യൂണിംഗ് (PEFT)
    • LoRA, QLoRA ആഡ്വാൻസ്ഡ് രീതികൾ
    • മൾട്ടി-അഡാപ്റ്റർ ട്രെയിനിംഗ്, ഹൈപ്പർപാരാമീറ്റർ ഓപ്റ്റിമൈസേഷൻ

സെക്ഷൻ 4: പ്രൊഡക്ഷൻ വിന്യാസം

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • മോഡൽ പരിവർത്തനം, ക്വാണ്ടൈസേഷൻ പ്രൊഡക്ഷനായി
    • Foundry Local വിന്യാസ കോൺഫിഗറേഷൻ
    • പ്രകടന ബഞ്ച്മാർക്കിംഗ്, ഗുണനിലവാര പരിശോധന

സ്വയംമൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. SLMOps പരമ്പരാഗത MLOps-നേക്കാൾ എങ്ങനെ വ്യത്യസ്തമാണ്?
  2. എഡ്ജ് വിന്യാസത്തിനുള്ള മോഡൽ ഡിസ്റ്റിലേഷന്റെ ഗുണങ്ങൾ വിശദീകരിക്കുക.
  3. സ്രോതസ്സ് പരിമിതമായ പരിസ്ഥിതികളിൽ SLM-കളുടെ ഫൈൻ-ട്യൂണിംഗിന് പ്രധാന പരിഗണനകൾ എന്തെല്ലാം ആണ്?
  4. എഡ്ജ് AI ആപ്ലിക്കേഷനുകൾക്കുള്ള സമ്പൂർണ പ്രൊഡക്ഷൻ വിന്യാസ പൈപ്പ്‌ലൈൻ വിവരിക്കുക.

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. അടിസ്ഥാന ഡിസ്റ്റിലേഷൻ: വലിയ ടീച്ചർ മോഡലിൽ നിന്ന് ചെറിയ മോഡൽ സൃഷ്ടിക്കുക (1 മണിക്കൂർ)
  2. ഫൈൻ-ട്യൂണിംഗ് പരീക്ഷണം: ഒരു പ്രത്യേക ഡൊമെയ്‌നിനായി മോഡൽ ഫൈൻ-ട്യൂൺ ചെയ്യുക (1 മണിക്കൂർ)
  3. വിന്യാസ പൈപ്പ്‌ലൈൻ: മോഡൽ വിന്യാസത്തിനായി അടിസ്ഥാന CI/CD പൈപ്പ്‌ലൈൻ സജ്ജമാക്കുക (1 മണിക്കൂർ)

മോഡ്യൂൾ 6: SLM ഏജന്റിക് സിസ്റ്റങ്ങൾ - AI ഏജന്റുകളും ഫംഗ്ഷൻ കോളിംഗും

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • ചെറിയ ഭാഷാ മോഡലുകൾ ഉപയോഗിച്ച് എഡ്ജ് പരിസ്ഥിതികൾക്കായി ബുദ്ധിമുട്ടുള്ള AI ഏജന്റുകൾ നിർമ്മിക്കുക
  • സിസ്റ്റമാറ്റിക് വർക്ക്‌ഫ്ലോകളോടെ ഫംഗ്ഷൻ കോളിംഗ് കഴിവുകൾ നടപ്പിലാക്കുക
  • സ്റ്റാൻഡേർഡൈസ്ഡ് ടൂൾ ഇന്ററാക്ഷനിനായി മോഡൽ കോൺടെക്സ്റ്റ് പ്രോട്ടോക്കോൾ (MCP) ഇന്റഗ്രേഷൻ കൈകാര്യം ചെയ്യുക
  • കുറഞ്ഞ മനുഷ്യ ഇടപെടലോടെ സങ്കീർണ്ണമായ ഏജന്റിക് സിസ്റ്റങ്ങൾ സൃഷ്ടിക്കുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

സെക്ഷൻ 1: AI ഏജന്റുകളും SLM അടിസ്ഥാനങ്ങളും

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • ഏജന്റ് വർഗ്ഗീകരണ ഫ്രെയിംവർക്ക് (റിഫ്ലക്സ്, മോഡൽ-ബേസ്‌ഡ്, ഗോൾ-ബേസ്‌ഡ്, ലേണിംഗ് ഏജന്റുകൾ)
    • SLM vs LLM വ്യാപാര വിശകലനം
    • എഡ്ജ്-സ്പെസിഫിക് ഏജന്റ് ഡിസൈൻ പാറ്റേണുകൾ
    • ഏജന്റുകൾക്കുള്ള സ്രോതസ്സ് ഓപ്റ്റിമൈസേഷൻ

സെക്ഷൻ 2: ചെറിയ ഭാഷാ മോഡലുകളിൽ ഫംഗ്ഷൻ കോളിംഗ്

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • സിസ്റ്റമാറ്റിക് വർക്ക്‌ഫ്ലോ നടപ്പാക്കൽ (ഇന്റന്റ് ഡിറ്റക്ഷൻ, JSON ഔട്ട്പുട്ട്, ബാഹ്യ എക്സിക്യൂഷൻ)
    • പ്ലാറ്റ്ഫോം-സ്പെസിഫിക് നടപ്പാക്കലുകൾ (Phi-4-mini, തിരഞ്ഞെടുക്കപ്പെട്ട Qwen മോഡലുകൾ, Microsoft Foundry Local)
    • ആഡ്വാൻസ്ഡ് ഉദാഹരണങ്ങൾ (മൾട്ടി-ഏജന്റ് സഹകരണം, ഡൈനാമിക് ടൂൾ തിരഞ്ഞെടുപ്പ്)
    • പ്രൊഡക്ഷൻ പരിഗണനകൾ (റേറ്റ് ലിമിറ്റിംഗ്, ഓഡിറ്റ് ലോഗിംഗ്, സുരക്ഷാ നടപടികൾ)

സെക്ഷൻ 3: മോഡൽ കോൺടെക്സ്റ്റ് പ്രോട്ടോക്കോൾ (MCP) ഇന്റഗ്രേഷൻ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • പ്രോട്ടോക്കോൾ ആർക്കിടെക്ചർ, ലെയർഡ് സിസ്റ്റം ഡിസൈൻ
    • മൾട്ടി-ബാക്ക്എൻഡ് പിന്തുണ (ഡെവലപ്പ്മെന്റിനായി Ollama, പ്രൊഡക്ഷനായി vLLM)
    • കണക്ഷൻ പ്രോട്ടോക്കോളുകൾ (STDIO, SSE മോഡുകൾ)
    • യഥാർത്ഥ ലോക ആപ്ലിക്കേഷനുകൾ (വെബ് ഓട്ടോമേഷൻ, ഡാറ്റ പ്രോസസ്സിംഗ്, API ഇന്റഗ്രേഷൻ)

സ്വയംമൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. എഡ്ജ് AI ഏജന്റുകൾക്കുള്ള പ്രധാന ആർക്കിടെക്ചറൽ പരിഗണനകൾ എന്തെല്ലാം ആണ്?
  2. ഫംഗ്ഷൻ കോളിംഗ് ഏജന്റ് കഴിവുകൾ എങ്ങനെ മെച്ചപ്പെടുത്തുന്നു?
  3. ഏജന്റ് കമ്മ്യൂണിക്കേഷനിൽ മോഡൽ കോൺടെക്സ്റ്റ് പ്രോട്ടോക്കോളിന്റെ പങ്ക് വിശദീകരിക്കുക.

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. ലളിതമായ ഏജന്റ്: ഫംഗ്ഷൻ കോളിംഗ് ഉള്ള ഒരു അടിസ്ഥാന AI ഏജന്റ് നിർമ്മിക്കുക (1 മണിക്കൂർ)
  2. MCP ഇന്റഗ്രേഷൻ: ഒരു ഏജന്റ് ആപ്ലിക്കേഷനിൽ MCP നടപ്പിലാക്കുക (30 മിനിറ്റ്)

വർക്ക്‌ഷോപ്പ്: പ്രായോഗിക പഠന പാത

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • Foundry Local SDKയും മികച്ച പ്രാക്ടീസുകളും ഉപയോഗിച്ച് പ്രൊഡക്ഷൻ-സജ്ജമായ AI ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കുക
  • സമഗ്രമായ പിശക് കൈകാര്യം ചെയ്യലും ഉപയോക്തൃ ഫീഡ്ബാക്ക് പാറ്റേണുകളും നടപ്പിലാക്കുക
  • ഗുണനിലവാര മൂല്യനിർണയവും പ്രകടന നിരീക്ഷണവും ഉള്ള RAG പൈപ്പ്‌ലൈൻ സൃഷ്ടിക്കുക
  • കോഓർഡിനേറ്റർ പാറ്റേണുകളുള്ള മൾട്ടി-ഏജന്റ് സിസ്റ്റങ്ങൾ വികസിപ്പിക്കുക
  • ടാസ്‌ക്-അധിഷ്ഠിത മോഡൽ തിരഞ്ഞെടുപ്പിനായി ബുദ്ധിമുട്ടുള്ള മോഡൽ റൂട്ടിംഗ് കൈകാര്യം ചെയ്യുക
  • പ്രൈവസി സംരക്ഷിക്കുന്ന ആർക്കിടെക്ചറുകളോടെ ലൊക്കൽ-ഫസ്റ്റ് AI പരിഹാരങ്ങൾ വിന്യസിക്കുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

സെഷൻ 01: Foundry Local ആരംഭിക്കൽ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • FoundryLocalManager SDK ഇന്റഗ്രേഷൻ, ഓട്ടോമാറ്റിക് സർവീസ് ഡിസ്കവറി
    • അടിസ്ഥാനവും സ്ട്രീമിംഗ് ചാറ്റും നടപ്പാക്കൽ
    • പിശക് കൈകാര്യം ചെയ്യൽ പാറ്റേണുകളും ഉപയോക്തൃ ഫീഡ്ബാക്കും
    • പരിസ്ഥിതി അടിസ്ഥാന കോൺഫിഗറേഷൻ

സെഷൻ 02: RAG ഉപയോഗിച്ച് AI പരിഹാരങ്ങൾ നിർമ്മിക്കൽ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • സെന്റൻസ്-ട്രാൻസ്ഫോർമേഴ്സുമായി ഇൻ-മെമ്മറി വെക്ടർ എംബെഡ്ഡിംഗുകൾ
    • RAG പൈപ്പ്‌ലൈൻ നടപ്പാക്കൽ (റിട്രീവ് → ജനറേറ്റ്)
    • RAGAS മെട്രിക്‌സുമായി ഗുണനിലവാര മൂല്യനിർണയം
    • ഓപ്ഷണൽ ഡിപ്പെൻഡൻസികൾക്കുള്ള ഇംപോർട്ട് സുരക്ഷ

സെഷൻ 03: ഓപ്പൺ സോഴ്‌സ് മോഡലുകൾ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • മൾട്ടി-മോഡൽ ബഞ്ച്മാർക്കിംഗ് തന്ത്രങ്ങൾ
    • ലാറ്റൻസി, ത്രൂപുട്ട് അളക്കലുകൾ
    • ഗ്രേസ്‌ഫുൾ ഡീഗ്രേഡേഷൻ, പിശക് പുനരുദ്ധാരണം
    • മോഡൽ കുടുംബങ്ങൾക്കിടയിലെ പ്രകടന താരതമ്യം

സെഷൻ 04: ആധുനിക മോഡലുകൾ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • SLM vs LLM താരതമ്യ രീതി
    • ടൈപ്പ് ഹിന്റുകളും സമഗ്ര ഔട്ട്പുട്ട് ഫോർമാറ്റിംഗും
    • മോഡൽ-പ്രതി പിശക് കൈകാര്യം ചെയ്യൽ
    • വിശകലനത്തിനുള്ള ഘടനാപരമായ ഫലങ്ങൾ

സെഷൻ 05: AI-ശക്തിയുള്ള ഏജന്റുകൾ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • കോഓർഡിനേറ്റർ പാറ്റേണോടെ മൾട്ടി-ഏജന്റ് ഓർക്കസ്ട്രേഷൻ
    • ഏജന്റ് മെമ്മറി മാനേജ്മെന്റ്, സ്റ്റേറ്റ് ട്രാക്കിംഗ്
    • പൈപ്പ്‌ലൈൻ പിശക് കൈകാര്യം ചെയ്യൽ, സ്റ്റേജ് ലോഗിംഗ്
    • പ്രകടന നിരീക്ഷണം, സ്ഥിതിവിവരക്കണക്കുകൾ

സെഷൻ 06: ടൂളുകളായി മോഡലുകൾ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • ഇന്റന്റ് ഡിറ്റക്ഷൻ, പാറ്റേൺ മാച്ചിംഗ്
    • കീവേഡ് അടിസ്ഥാന മോഡൽ റൂട്ടിംഗ് ആൽഗോരിതങ്ങൾ
    • മൾട്ടി-സ്റ്റെപ്പ് പൈപ്പ്‌ലൈൻ (പ്ലാൻ → എക്സിക്യൂട്ട് → റിഫൈൻ)
    • സമഗ്ര ഫംഗ്ഷൻ ഡോക്യുമെന്റേഷൻ

സ്വയംമൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. FoundryLocalManager മാനുവൽ REST കോൾസിനേക്കാൾ സർവീസ് മാനേജ്മെന്റ് എങ്ങനെ ലളിതമാക്കുന്നു?
  2. സെന്റൻസ്-ട്രാൻസ്ഫോർമേഴ്സ് പോലുള്ള ഓപ്ഷണൽ ഡിപ്പെൻഡൻസികൾക്കുള്ള ഇംപോർട്ട് ഗാർഡുകളുടെ പ്രാധാന്യം വിശദീകരിക്കുക.
  3. മൾട്ടി-മോഡൽ ബഞ്ച്മാർക്കിംഗിൽ ഗ്രേസ്‌ഫുൾ ഡീഗ്രേഡേഷൻ ഉറപ്പാക്കാൻ എന്തെല്ലാം തന്ത്രങ്ങൾ ഉണ്ട്?
  4. കോഓർഡിനേറ്റർ പാറ്റേൺ എങ്ങനെ മൾട്ടി സ്പെഷ്യലിസ്റ്റ് ഏജന്റുകളെ ഓർക്കസ്ട്രേറ്റ് ചെയ്യുന്നു?
  5. ബുദ്ധിമുട്ടുള്ള മോഡൽ റൂട്ടറിന്റെ ഘടകങ്ങൾ വിവരിക്കുക.
  6. പ്രൊഡക്ഷൻ-സജ്ജമായ പിശക് കൈകാര്യം ചെയ്യലിന്റെ പ്രധാന ഘടകങ്ങൾ എന്തെല്ലാം ആണ്?

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. ചാറ്റ് ആപ്ലിക്കേഷൻ: പിശക് കൈകാര്യം ചെയ്യലോടെ സ്ട്രീമിംഗ് ചാറ്റ് നടപ്പിലാക്കുക (45 മിനിറ്റ്)
  2. RAG പൈപ്പ്‌ലൈൻ: ഗുണനിലവാര മൂല്യനിർണയത്തോടെ ലഘു RAG നിർമ്മിക്കുക (1 മണിക്കൂർ)
  3. മോഡൽ ബഞ്ച്മാർക്കിംഗ്: 3+ മോഡലുകൾ പ്രകടനത്തിൽ താരതമ്യം ചെയ്യുക (1 മണിക്കൂർ)
  4. മൾട്ടി-ഏജന്റ് സിസ്റ്റം: 2 സ്പെഷ്യലിസ്റ്റ് ഏജന്റുകളുള്ള കോഓർഡിനേറ്റർ സൃഷ്ടിക്കുക (1.5 മണിക്കൂർ)
  5. ബുദ്ധിമുട്ടുള്ള റൂട്ടർ: ടാസ്‌ക്-അധിഷ്ഠിത മോഡൽ തിരഞ്ഞെടുപ്പ് നിർമ്മിക്കുക (1 മണിക്കൂർ)
  6. പ്രൊഡക്ഷൻ വിന്യാസം: നിരീക്ഷണവും സമഗ്ര പിശക് കൈകാര്യം ചെയ്യലും ചേർക്കുക (45 മിനിറ്റ്)

സമയം വിന്യാസം

കേന്ദ്രീകൃത പഠനം (1 ആഴ്ച):

  • ദിവസം 1: സെഷൻ 01-02 (ചാറ്റ് + RAG) - 3 മണിക്കൂർ
  • ദിവസം 2: സെഷൻ 03-04 (ബഞ്ച്മാർക്കിംഗ് + താരതമ്യം) - 3 മണിക്കൂർ
  • ദിവസം 3: സെഷൻ 05-06 (ഏജന്റുകൾ + റൂട്ടിംഗ്) - 3 മണിക്കൂർ
  • ദിവസം 4: പ്രായോഗിക അഭ്യാസങ്ങളും പരിശോധനയും - 2 മണിക്കൂർ

പാർട്ട്-ടൈം പഠനം (2 ആഴ്ച):

  • ആഴ്ച 1: സെഷനുകൾ 01-03 (മൊത്തം 6 മണിക്കൂർ)
  • ആഴ്ച 2: സെഷനുകൾ 04-06 + അഭ്യാസങ്ങൾ (മൊത്തം 5 മണിക്കൂർ)

മോഡ്യൂൾ 7: EdgeAI നടപ്പാക്കൽ സാമ്പിളുകൾ

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • Visual Studio Code-നുള്ള AI ടൂൾകിറ്റ് ഉപയോഗിച്ച് സമഗ്രമായ EdgeAI ഡെവലപ്പ്മെന്റ് വർക്ക്‌ഫ്ലോകൾ കൈകാര്യം ചെയ്യുക
  • Windows AI Foundry പ്ലാറ്റ്ഫോം, NPU ഓപ്റ്റിമൈസേഷൻ തന്ത്രങ്ങളിൽ വിദഗ്ധത നേടുക
  • വിവിധ ഹാർഡ്‌വെയർ പ്ലാറ്റ്ഫോമുകളിലും വിന്യാസ സാഹചര്യങ്ങളിലും EdgeAI നടപ്പിലാക്കുക
  • പ്ലാറ്റ്ഫോം-സ്പെസിഫിക് ഓപ്റ്റിമൈസേഷനുകളോടെ പ്രൊഡക്ഷൻ-സജ്ജമായ EdgeAI ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

സെക്ഷൻ 1: Visual Studio Code-നുള്ള AI ടൂൾകിറ്റ്

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • VS Code-ൽ സമഗ്രമായ Edge AI ഡെവലപ്പ്മെന്റ് പരിസ്ഥിതി
    • എഡ്ജ് വിന്യാസത്തിനുള്ള മോഡൽ കാറ്റലോഗും കണ്ടെത്തലും
    • ലൊക്കൽ ടെസ്റ്റിംഗ്, ഓപ്റ്റിമൈസേഷൻ, ഏജന്റ് ഡെവലപ്പ്മെന്റ് വർക്ക്‌ഫ്ലോകൾ
    • എഡ്ജ് സാഹചര്യങ്ങളിലെ പ്രകടന നിരീക്ഷണവും മൂല്യനിർണയവും

സെക്ഷൻ 2: Windows EdgeAI ഡെവലപ്പ്മെന്റ് ഗൈഡ്

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • Windows AI Foundry പ്ലാറ്റ്ഫോം സമഗ്ര അവലോകനം
    • ഫി സിലിക്ക API ഫോർ എഫിഷ്യന്റ് NPU ഇൻഫറൻസ്
    • ഇമേജ് പ്രോസസ്സിംഗ്, OCR-ക്കുള്ള കമ്പ്യൂട്ടർ വിഷൻ APIകൾ
    • ലൊക്കൽ ഡെവലപ്പ്മെന്റിനും ടെസ്റ്റിംഗിനും Foundry Local CLI

സെക്ഷൻ 3: പ്ലാറ്റ്ഫോം-സ്പെസിഫിക് നടപ്പാക്കലുകൾ

  • പ്രാധാന്യപ്പെട്ട ആശയങ്ങൾ:
    • NVIDIA Jetson Orin Nano വിന്യാസം (67 TOPS AI പ്രകടനം)
    • .NET MAUI, ONNX Runtime GenAI ഉപയോഗിച്ച് മൊബൈൽ ആപ്ലിക്കേഷനുകൾ
    • ക്ലൗഡ്-എഡ്ജ് ഹൈബ്രിഡ് ആർക്കിടെക്ചറോടെ Azure EdgeAI പരിഹാരങ്ങൾ
    • യൂണിവേഴ്സൽ ഹാർഡ്‌വെയർ പിന്തുണയുള്ള Windows ML ഓപ്റ്റിമൈസേഷൻ
    • പ്രൈവസി-ഫോകസുള്ള RAG നടപ്പാക്കലോടെ Foundry Local ആപ്ലിക്കേഷനുകൾ

സ്വയംമൂല്യനിർണയ ചോദ്യങ്ങൾ

  1. AI ടൂൾകിറ്റ് എങ്ങനെ EdgeAI ഡെവലപ്പ്മെന്റ് വർക്ക്‌ഫ്ലോ ലളിതമാക്കുന്നു?
  2. വ്യത്യസ്ത ഹാർഡ്‌വെയർ പ്ലാറ്റ്ഫോമുകളിലെ വിന്യാസ തന്ത്രങ്ങൾ താരതമ്യം ചെയ്യുക.
  3. എഡ്ജ് ഡെവലപ്പ്മെന്റിനായി Windows AI Foundry-യുടെ ഗുണങ്ങൾ എന്തെല്ലാം ആണ്?
  4. ആധുനിക എഡ്ജ് AI അപ്ലിക്കേഷനുകളിൽ NPU ഓപ്റ്റിമൈസേഷന്റെ പങ്ക് വിശദീകരിക്കുക.
  5. Phi Silica API എങ്ങനെ NPU ഹാർഡ്‌വെയർ പ്രയോജനപ്പെടുത്തി പ്രകടന ഓപ്റ്റിമൈസേഷൻ നടത്തുന്നു?
  6. സ്വകാര്യത-സംബന്ധമായ അപ്ലിക്കേഷനുകൾക്കായി ലോക്കൽ vs. ക്ലൗഡ് ഡിപ്ലോയ്മെന്റിന്റെ ഗുണങ്ങൾ താരതമ്യം ചെയ്യുക.

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. AI ടൂൾകിറ്റ് സെറ്റപ്പ്: AI ടൂൾകിറ്റ് കോൺഫിഗർ ചെയ്ത് ഒരു മോഡൽ ഓപ്റ്റിമൈസ് ചെയ്യുക (1 മണിക്കൂർ)
  2. Windows AI Foundry: Phi Silica API ഉപയോഗിച്ച് ഒരു ലളിതമായ Windows AI അപ്ലിക്കേഷൻ നിർമ്മിക്കുക (1 മണിക്കൂർ)
  3. ക്രോസ്-പ്ലാറ്റ്ഫോം ഡിപ്ലോയ്മെന്റ്: ഒരേ മോഡൽ രണ്ട് വ്യത്യസ്ത പ്ലാറ്റ്ഫോമുകളിൽ ഡിപ്ലോയ് ചെയ്യുക (1 മണിക്കൂർ)
  4. NPU ഓപ്റ്റിമൈസേഷൻ: Windows AI Foundry ടൂളുകൾ ഉപയോഗിച്ച് NPU പ്രകടനം പരിശോധിക്കുക (30 മിനിറ്റ്)

മോഡ്യൂൾ 8: Microsoft Foundry Local – സമ്പൂർണ്ണ ഡെവലപ്പർ ടൂൾകിറ്റ് (ആധുനികമാക്കിയ)

പ്രധാന പഠന ലക്ഷ്യങ്ങൾ

  • ആധുനിക SDK ഇന്റഗ്രേഷനോടുകൂടി Foundry Local ഇൻസ്റ്റാൾ ചെയ്യുകയും കോൺഫിഗർ ചെയ്യുകയും ചെയ്യുക
  • കോഓർഡിനേറ്റർ പാറ്റേണുകളുള്ള ആധുനിക മൾട്ടി-ഏജന്റ് സിസ്റ്റങ്ങൾ നടപ്പിലാക്കുക
  • ഓട്ടോമാറ്റിക് ടാസ്‌ക് അടിസ്ഥാനമാക്കിയുള്ള ഇന്റലിജന്റ് മോഡൽ റൂട്ടറുകൾ നിർമ്മിക്കുക
  • സമഗ്രമായ മോണിറ്ററിങ്ങോടുകൂടിയ പ്രൊഡക്ഷൻ-റെഡി AI പരിഹാരങ്ങൾ ഡിപ്ലോയ് ചെയ്യുക
  • ഹൈബ്രിഡ് ഡിപ്ലോയ്മെന്റ് സീനാരിയോകൾക്കായി Azure AI Foundry ഇന്റഗ്രേറ്റ് ചെയ്യുക
  • FoundryLocalManager, OpenAI ക്ലയന്റ് എന്നിവയുമായി ആധുനിക SDK പാറ്റേണുകൾ കൈകാര്യം ചെയ്യുക

പഠന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

സെക്ഷൻ 1: ആധുനിക ഇൻസ്റ്റലേഷൻ, കോൺഫിഗറേഷൻ

  • പ്രധാന ആശയങ്ങൾ:
    • FoundryLocalManager SDK ഇന്റഗ്രേഷൻ
    • ഓട്ടോമാറ്റിക് സർവീസ് കണ്ടെത്തൽ, ഹെൽത്ത് മോണിറ്ററിംഗ്
    • പരിസ്ഥിതി അടിസ്ഥാന കോൺഫിഗറേഷൻ പാറ്റേണുകൾ
    • പ്രൊഡക്ഷൻ ഡിപ്ലോയ്മെന്റ് പരിഗണനകൾ

സെക്ഷൻ 2: ആധുനിക മൾട്ടി-ഏജന്റ് സിസ്റ്റങ്ങൾ

  • പ്രധാന ആശയങ്ങൾ:
    • സ്പെഷ്യലിസ്റ്റ് ഏജന്റുകളുള്ള കോഓർഡിനേറ്റർ പാറ്റേൺ
    • റിട്രീവൽ, റീസണിംഗ്, എക്സിക്യൂഷൻ ഏജന്റ് സ്പെഷ്യലൈസേഷൻ
    • ഫീഡ്ബാക്ക് ലൂപ്പ് മെക്കാനിസങ്ങൾ
    • പ്രകടന മോണിറ്ററിംഗ്, സ്റ്റാറ്റിസ്റ്റിക്സ് ട്രാക്കിംഗ്

സെക്ഷൻ 3: ഇന്റലിജന്റ് മോഡൽ റൂട്ടിംഗ്

  • പ്രധാന ആശയങ്ങൾ:
    • കീവേഡ് അടിസ്ഥാനമാക്കിയുള്ള മോഡൽ സെലക്ഷൻ ആൽഗോരിതങ്ങൾ
    • ബഹുമുഖ മോഡൽ പിന്തുണ (ജനറൽ, റീസണിംഗ്, കോഡ്, ക്രിയേറ്റീവ്)
    • പരിസ്ഥിതി വേരിയബിൾ കോൺഫിഗറേഷൻ
    • സർവീസ് ഹെൽത്ത് ചെക്കിംഗ്, എറർ ഹാൻഡ്ലിംഗ്

സെക്ഷൻ 4: പ്രൊഡക്ഷൻ-റെഡി നടപ്പാക്കൽ

  • പ്രധാന ആശയങ്ങൾ:
    • സമഗ്രമായ എറർ ഹാൻഡ്ലിംഗ്, ഫാൾബാക്ക് മെക്കാനിസങ്ങൾ
    • അഭ്യർത്ഥന മോണിറ്ററിംഗ്, പ്രകടന ട്രാക്കിംഗ്
    • ഇന്ററാക്ടീവ് Jupyter നോട്ട്‌ബുക്ക് ഉദാഹരണങ്ങൾ, ബെഞ്ച്മാർക്കുകൾ
    • നിലവിലുള്ള അപ്ലിക്കേഷനുകളുമായി ഇന്റഗ്രേഷൻ പാറ്റേണുകൾ

സ്വയം-അവലോകന ചോദ്യങ്ങൾ

  1. ആധുനിക FoundryLocalManager സമീപനം മാനുവൽ REST കോൾസിൽ നിന്ന് എങ്ങനെ വ്യത്യസ്തമാണ്?
  2. കോഓർഡിനേറ്റർ പാറ്റേൺ വിശദീകരിച്ച് അത് സ്പെഷ്യലിസ്റ്റ് ഏജന്റുകളെ എങ്ങനെ ഓർക്കസ്ട്രേറ്റ് ചെയ്യുന്നു?
  3. ഇന്റലിജന്റ് റൂട്ടർ ചോദ്യം ഉള്ളടക്കത്തിന്റെ അടിസ്ഥാനത്തിൽ അനുയോജ്യമായ മോഡലുകൾ എങ്ങനെ തിരഞ്ഞെടുക്കുന്നു?
  4. പ്രൊഡക്ഷൻ-റെഡി AI ഏജന്റ് സിസ്റ്റത്തിന്റെ പ്രധാന ഘടകങ്ങൾ എന്തെല്ലാം?
  5. Foundry Local സർവീസുകൾക്കായി സമഗ്രമായ ഹെൽത്ത് മോണിറ്ററിംഗ് എങ്ങനെ നടപ്പിലാക്കാം?
  6. ആധുനിക സമീപനവും പരമ്പരാഗത നടപ്പാക്കലും തമ്മിലുള്ള ഗുണങ്ങൾ താരതമ്യം ചെയ്യുക.

പ്രായോഗിക അഭ്യാസങ്ങൾ

  1. ആധുനിക SDK സെറ്റപ്പ്: FoundryLocalManager ഓട്ടോമാറ്റിക് സർവീസ് കണ്ടെത്തലോടെ കോൺഫിഗർ ചെയ്യുക (30 മിനിറ്റ്)
  2. മൾട്ടി-ഏജന്റ് സിസ്റ്റം: സ്പെഷ്യലിസ്റ്റ് ഏജന്റുകളോടുകൂടിയ ആധുനിക കോഓർഡിനേറ്റർ പ്രവർത്തിപ്പിക്കുക (30 മിനിറ്റ്)
  3. ഇന്റലിജന്റ് റൂട്ടിംഗ്: വ്യത്യസ്ത ചോദ്യം തരം ഉപയോഗിച്ച് മോഡൽ റൂട്ടർ പരീക്ഷിക്കുക (30 മിനിറ്റ്)
  4. ഇന്ററാക്ടീവ് എക്സ്പ്ലോറേഷൻ: Jupyter നോട്ട്‌ബുക്കുകൾ ഉപയോഗിച്ച് ആധുനിക ഫീച്ചറുകൾ പരിശോധിക്കുക (45 മിനിറ്റ്)
  5. പ്രൊഡക്ഷൻ ഡിപ്ലോയ്മെന്റ്: മോണിറ്ററിംഗ്, എറർ ഹാൻഡ്ലിംഗ് പാറ്റേണുകൾ നടപ്പിലാക്കുക (30 മിനിറ്റ്)
  6. ഹൈബ്രിഡ് ഇന്റഗ്രേഷൻ: Azure AI Foundry ഫാൾബാക്ക് സീനാരിയോകൾ കോൺഫിഗർ ചെയ്യുക (30 മിനിറ്റ്)

സമയം വിനിയോഗ മാർഗ്ഗനിർദ്ദേശം

30 മണിക്കൂർ ദൈർഘ്യമുള്ള കോഴ്‌സ് ടൈംലൈൻ (വർക്ക്ഷോപ്പ് ഉൾപ്പെടെ) പരമാവധി പ്രയോജനം നേടാൻ, നിങ്ങളുടെ സമയം എങ്ങനെ വിനിയോഗിക്കാമെന്ന് നിർദ്ദേശിച്ചിട്ടുള്ളതാണ്:

പ്രവർത്തനംസമയം വിനിയോഗംവിവരണം
കോർ മെറ്റീരിയലുകൾ വായിക്കൽ12 മണിക്കൂർഓരോ മോഡ്യൂളിലെയും അടിസ്ഥാന ആശയങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുക
പ്രായോഗിക അഭ്യാസങ്ങൾ10 മണിക്കൂർപ്രധാന സാങ്കേതിക വിദ്യകളുടെ പ്രായോഗിക നടപ്പാക്കൽ (വർക്ക്ഷോപ്പ് ഉൾപ്പെടെ)
സ്വയം-അവലോകനം3 മണിക്കൂർചോദ്യങ്ങൾ, പ്രതിഫലനത്തിലൂടെ മനസ്സിലാക്കൽ പരിശോധിക്കൽ
മിനി-പ്രോജക്ട്5 മണിക്കൂർചെറിയ പ്രായോഗിക നടപ്പാക്കലിലൂടെ അറിവ് പ്രയോഗിക്കുക

സമയ പരിധി അനുസരിച്ചുള്ള പ്രധാന ശ്രദ്ധ കേന്ദ്രങ്ങൾ

നിങ്ങൾക്ക് 10 മണിക്കൂർ മാത്രമുണ്ടെങ്കിൽ:

  • മോഡ്യൂൾ 0 (പരിചയം) കൂടാതെ മോഡ്യൂൾ 1, 2, 3 (കോർ എഡ്ജ് AI ആശയങ്ങൾ) പൂർത്തിയാക്കുക
  • ഓരോ മോഡ്യൂളിലും കുറഞ്ഞത് ഒരു പ്രായോഗിക അഭ്യാസം ചെയ്യുക
  • നടപ്പാക്കൽ വിശദാംശങ്ങളേക്കാൾ അടിസ്ഥാന ആശയങ്ങൾ മനസ്സിലാക്കാൻ ശ്രദ്ധിക്കുക

20 മണിക്കൂർ മുഴുവൻ വിനിയോഗിക്കാനാകുന്നുവെങ്കിൽ:

  • എല്ലാ എട്ട് മോഡ്യൂളുകളും (പരിചയം ഉൾപ്പെടെ) പൂർത്തിയാക്കുക
  • ഓരോ മോഡ്യൂളിലെയും പ്രധാന പ്രായോഗിക അഭ്യാസങ്ങൾ നടത്തുക
  • മോഡ്യൂൾ 7-ൽ നിന്ന് ഒരു മിനി-പ്രോജക്ട് പൂർത്തിയാക്കുക
  • കുറഞ്ഞത് 2-3 അധിക സ്രോതസ്സുകൾ പരിശോധിക്കുക

20 മണിക്കൂറിൽ കൂടുതൽ സമയം ഉള്ളവർ:

  • എല്ലാ മോഡ്യൂളുകളും വിശദമായ അഭ്യാസങ്ങളോടുകൂടി പൂർത്തിയാക്കുക
  • ബഹുമുഖ മിനി-പ്രോജക്ടുകൾ നിർമ്മിക്കുക
  • മോഡ്യൂൾ 4-ൽ ആധുനിക ഓപ്റ്റിമൈസേഷൻ സാങ്കേതിക വിദ്യകൾ പഠിക്കുക
  • മോഡ്യൂൾ 5-ൽ നിന്നുള്ള പ്രൊഡക്ഷൻ ഡിപ്ലോയ്മെന്റ് നടപ്പാക്കുക

അനിവാര്യ സ്രോതസ്സുകൾ

നിങ്ങളുടെ പരിമിത പഠന സമയത്തിന് ഏറ്റവും മൂല്യമുള്ള ഈ ശ്രദ്ധാപൂർവ്വം തിരഞ്ഞെടുത്ത സ്രോതസ്സുകൾ:

വായിക്കേണ്ട ഡോക്യുമെന്റേഷൻ

  • ONNX Runtime Getting Started - ഏറ്റവും കാര്യക്ഷമമായ മോഡൽ ഓപ്റ്റിമൈസേഷൻ ടൂൾ
  • Ollama Quick Start - SLM-കൾ ലോക്കലായി ഡിപ്ലോയ് ചെയ്യാനുള്ള വേഗതയേറിയ മാർഗം
  • Microsoft Phi Model Card - മുൻനിര എഡ്ജ്-ഓപ്റ്റിമൈസ്ഡ് മോഡലിനുള്ള റഫറൻസ്
  • OpenVINO Documentation - ഇൻറലിന്റെ സമഗ്ര ഓപ്റ്റിമൈസേഷൻ ടൂൾകിറ്റ്
  • AI Toolkit for VS Code - ഇന്റഗ്രേറ്റഡ് എഡ്ജ് AI ഡെവലപ്പ്മെന്റ് പരിസ്ഥിതി
  • Windows AI Foundry - Windows-നിർദ്ദിഷ്ട എഡ്ജ് AI ഡെവലപ്പ്മെന്റ് പ്ലാറ്റ്ഫോം

സമയം ലാഭിക്കുന്ന ടൂളുകൾ

  • Hugging Face Transformers - വേഗത്തിലുള്ള മോഡൽ ആക്‌സസ്, ഡിപ്ലോയ്മെന്റ്
  • Gradio - AI ഡെമോകൾക്കുള്ള വേഗ UI വികസനം
  • Microsoft Olive - ലളിതമാക്കിയ മോഡൽ ഓപ്റ്റിമൈസേഷൻ
  • Llama.cpp - കാര്യക്ഷമ CPU ഇൻഫറൻസ്
  • OpenVINO NNCF - ന്യൂറൽ നെറ്റ്‌വർക്ക് കംപ്രഷൻ ഫ്രെയിംവർക്ക്
  • OpenVINO GenAI - വലിയ ഭാഷാ മോഡൽ ഡിപ്ലോയ്മെന്റ് ടൂൾകിറ്റ്

പുരോഗതി ട്രാക്കിംഗ് ടെംപ്ലേറ്റ്

20 മണിക്കൂർ കോഴ്‌സ് വഴി നിങ്ങളുടെ പഠന പുരോഗതി ട്രാക്ക് ചെയ്യാൻ ഈ ലളിതമായ ടെംപ്ലേറ്റ് ഉപയോഗിക്കുക:

മോഡ്യൂൾപൂർത്തിയാക്കിയ തീയതിചെലവഴിച്ച മണിക്കൂറുകൾപ്രധാന പഠനങ്ങൾ
മോഡ്യൂൾ 0: എഡ്ജ് AI പരിചയം
മോഡ്യൂൾ 1: എഡ്ജ് AI അടിസ്ഥാനങ്ങൾ
മോഡ്യൂൾ 2: SLM അടിസ്ഥാനങ്ങൾ
മോഡ്യൂൾ 3: SLM ഡിപ്ലോയ്മെന്റ്
മോഡ്യൂൾ 4: മോഡൽ ഓപ്റ്റിമൈസേഷൻ
മോഡ്യൂൾ 5: SLMOps
മോഡ്യൂൾ 6: AI ഏജന്റുകൾ
മോഡ്യൂൾ 7: ഡെവലപ്പ്മെന്റ് ടൂളുകൾ
വർക്ക്ഷോപ്പ്: പ്രായോഗിക പഠനം
മോഡ്യൂൾ 8: Foundry Local ടൂൾകിറ്റ്
പ്രായോഗിക അഭ്യാസങ്ങൾ
മിനി-പ്രോജക്ട്

മിനി പ്രോജക്ട് ആശയങ്ങൾ

എഡ്ജ് AI ആശയങ്ങൾ പ്രായോഗികമായി അഭ്യസിക്കാൻ ഈ പ്രോജക്ടുകളിൽ ഒന്നോ അതിലധികമോ പൂർത്തിയാക്കാൻ പരിഗണിക്കുക (ഓരോന്നും 2-4 മണിക്കൂർ സമയമെടുക്കും):

തുടക്കക്കാരുടെ പ്രോജക്ടുകൾ (2-3 മണിക്കൂർ ഓരോന്നും)

  1. എഡ്ജ് ടെക്സ്റ്റ് അസിസ്റ്റന്റ്: ചെറിയ ഭാഷാ മോഡൽ ഉപയോഗിച്ച് ലളിതമായ ഓഫ്‌ലൈൻ ടെക്സ്റ്റ് പൂർത്തീകരണ ഉപകരണം സൃഷ്ടിക്കുക
  2. മോഡൽ താരതമ്യ ഡാഷ്ബോർഡ്: വ്യത്യസ്ത SLM-കളുടെ പ്രകടന മെട്രിക്‌സ് അടിസ്ഥാനമാക്കി അടിസ്ഥാന ദൃശ്യീകരണം നിർമ്മിക്കുക
  3. ഓപ്റ്റിമൈസേഷൻ പരീക്ഷണം: ഒരേ അടിസ്ഥാന മോഡലിൽ വ്യത്യസ്ത ക്വാണ്ടൈസേഷൻ നിലകളുടെ സ്വാധീനം അളക്കുക

മധ്യസ്ഥ പ്രോജക്ടുകൾ (3-4 മണിക്കൂർ ഓരോന്നും)

  1. AI ടൂൾകിറ്റ് വർക്ക്‌ഫ്ലോ: VS Code AI ടൂൾകിറ്റ് ഉപയോഗിച്ച് ഒരു മോഡൽ ആരംഭത്തിൽ നിന്ന് ഡിപ്ലോയ്മെന്റ് വരെ ഓപ്റ്റിമൈസ് ചെയ്യുക
  2. Windows AI Foundry അപ്ലിക്കേഷൻ: Phi Silica API, NPU ഓപ്റ്റിമൈസേഷൻ ഉപയോഗിച്ച് Windows ആപ്പ് സൃഷ്ടിക്കുക
  3. ക്രോസ്-പ്ലാറ്റ്ഫോം ഡിപ്ലോയ്മെന്റ്: ഒരേ ഓപ്റ്റിമൈസ്ഡ് മോഡൽ Windows (OpenVINO)യും മൊബൈൽ (.NET MAUI)യും പ്ലാറ്റ്ഫോമുകളിൽ ഡിപ്ലോയ് ചെയ്യുക
  4. ഫംഗ്ഷൻ കോളിംഗ് ഏജന്റ്: എഡ്ജ് സീനാരിയോകൾക്കായി ഫംഗ്ഷൻ കോളിംഗ് കഴിവുള്ള AI ഏജന്റ് നിർമ്മിക്കുക

ആധുനിക ഇന്റഗ്രേഷൻ പ്രോജക്ടുകൾ (4-5 മണിക്കൂർ ഓരോന്നും)

  1. OpenVINO ഓപ്റ്റിമൈസേഷൻ പൈപ്പ്‌ലൈൻ: NNCF, GenAI ടൂൾകിറ്റ് ഉപയോഗിച്ച് സമ്പൂർണ്ണ മോഡൽ ഓപ്റ്റിമൈസേഷൻ നടപ്പിലാക്കുക
  2. SLMOps പൈപ്പ്‌ലൈൻ: പരിശീലനത്തിൽ നിന്ന് എഡ്ജ് ഡിപ്ലോയ്മെന്റിലേക്കുള്ള സമ്പൂർണ്ണ മോഡൽ ലൈഫ്‌സൈക്കിൾ നടപ്പിലാക്കുക
  3. മൾട്ടി-മോഡൽ എഡ്ജ് സിസ്റ്റം: എഡ്ജ് ഹാർഡ്‌വെയറിൽ ചേർന്ന് പ്രവർത്തിക്കുന്ന ബഹുമുഖ സ്പെഷ്യലൈസ്ഡ് മോഡലുകൾ ഡിപ്ലോയ് ചെയ്യുക
  4. MCP ഇന്റഗ്രേഷൻ സിസ്റ്റം: ടൂൾ ഇന്ററാക്ഷനിനായി മോഡൽ കോൺടെക്സ്റ്റ് പ്രോട്ടോക്കോൾ ഉപയോഗിച്ച് ഏജന്റിക് സിസ്റ്റം നിർമ്മിക്കുക

റഫറൻസുകൾ

പഠന സമൂഹം

ചർച്ചയിൽ പങ്കെടുക്കുകയും മറ്റ് പഠനാർത്ഥികളുമായി ബന്ധപ്പെടുകയും ചെയ്യുക:

സമാപനം

എഡ്ജ് AI കൃത്രിമ ബുദ്ധിമുട്ടിന്റെ അതിർത്തിയാണ്, ശക്തമായ കഴിവുകൾ നേരിട്ട് ഉപകരണങ്ങളിലേക്ക് കൊണ്ടുവരുമ്പോൾ സ്വകാര്യത, ലാറ്റൻസി, കണക്ടിവിറ്റി എന്നിവയുമായി ബന്ധപ്പെട്ട പ്രധാന പ്രശ്നങ്ങൾ പരിഹരിക്കുന്നു. ഈ 20 മണിക്കൂർ കോഴ്‌സ് നിങ്ങൾക്ക് എഡ്ജ് AI സാങ്കേതികവിദ്യകളുമായി ഉടൻ പ്രവർത്തിക്കാൻ ആവശ്യമായ അടിസ്ഥാന അറിവും പ്രായോഗിക കഴിവുകളും നൽകുന്നു.

കോഴ്‌സ് ഉദ്ദേശ്യപൂർവ്വം ലഘുവും പ്രധാന ആശയങ്ങളിൽ കേന്ദ്രീകരിച്ചും രൂപകൽപ്പന ചെയ്തതാണ്, അതിനാൽ നിങ്ങൾക്ക് വേഗത്തിൽ മൂല്യവത്തായ വിദഗ്ധത നേടാം. ലളിതമായ ഉദാഹരണങ്ങളോടെയുള്ള പ്രായോഗിക പരിശീലനം പഠനത്തെ ശക്തിപ്പെടുത്താനുള്ള പ്രധാന മാർഗമാണ്.

സന്തോഷകരമായ പഠനം!

അസൂയാ:
ഈ രേഖ AI വിവർത്തന സേവനം Co-op Translator ഉപയോഗിച്ച് വിവർത്തനം ചെയ്തതാണ്. നാം കൃത്യതയ്ക്ക് ശ്രമിച്ചെങ്കിലും, സ്വയം പ്രവർത്തിക്കുന്ന വിവർത്തനങ്ങളിൽ പിശകുകൾ അല്ലെങ്കിൽ തെറ്റുകൾ ഉണ്ടാകാമെന്ന് ദയവായി ശ്രദ്ധിക്കുക. അതിന്റെ മാതൃഭാഷയിലുള്ള യഥാർത്ഥ രേഖയാണ് പ്രാമാണികമായ ഉറവിടം എന്ന് പരിഗണിക്കേണ്ടതാണ്. നിർണായക വിവരങ്ങൾക്ക്, പ്രൊഫഷണൽ മനുഷ്യ വിവർത്തനം ശുപാർശ ചെയ്യപ്പെടുന്നു. ഈ വിവർത്തനം ഉപയോഗിക്കുന്നതിൽ നിന്നുണ്ടാകുന്ന ഏതെങ്കിലും തെറ്റിദ്ധാരണകൾക്കോ തെറ്റായ വ്യാഖ്യാനങ്ങൾക്കോ ഞങ്ങൾ ഉത്തരവാദികളല്ല.