Phi മോഡലുകളുടെ AI സുരക്ഷ
February 1, 2026 · View on GitHub
Phi കുടുംബ മോഡലുകൾ Microsoft Responsible AI Standard അനുസരിച്ച് വികസിപ്പിച്ചിരിക്കുന്നു, ഇത് താഴെപ്പറയുന്ന ആറു സിദ്ധാന്തങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ള കമ്പനിവ്യാപക ആവശ്യകതകൾക്കുള്ള ഒരു സെറ്റ് ആണ്: ഉത്തരവാദിത്വം, പരദർശിത്വം, നീതി, വിശ്വാസ്യതയും സുരക്ഷയും, സ്വകാര്യതയും സുരക്ഷയും, ഉൾപ്പെടുത്തലും, അവ Microsoftയുടെ Responsible AI സിദ്ധാന്തങ്ങൾ രൂപപ്പെടുത്തുന്നു.
മുമ്പത്തെ Phi മോഡലുകളെപ്പോലെ, പലയിടങ്ങളിൽ നിന്നുള്ള സുരക്ഷാ മൂല્યાંകനം കൂടാതെ പരിശീലനാനന്തരം സുരക്ഷാ സമീപനവും സ്വീകരിച്ചു, ഈ റിലീസിന്റെ ബഹുഭാഷാ കഴിവുകൾ ഉൾപ്പെടുത്താൻ അധിക ആരോഗ്യസംരക്ഷണങ്ങൾ എടുത്തു. ഭാഷകളിൽ കൂടിയ_LANGUAGE_ പരീക്ഷണങ്ങളിലും ധിയാനിലേക്കുള്ള ആപാധാന കാര്യങ്ങളിലും ഉൾപ്പെടുള്ള സുരക്ഷാ പരിശീലനവും മൂല്യനിർണ്ണയവും Phi Safety Post-Training Paper ൽ വിശദീകരിച്ചിരിക്കുന്നു. Phi മോഡലുകൾ ഈ സമീപനത്തിൽ നിന്ന് ലാഭം നേടുമ്പോൾ, ഡിസൈനർമാർക്ക് കര്മ്മപരമായ ഉപയോഗകേസ്, സംസ്കാരപരവും ഭാഷാപരവുമായ സാഹചര്യങ്ങൾ എന്നിവ പരിഗണിച്ച് ഉത്തരവാദിത്വപരമായ AI മികച്ച ഉപയോഗ രീതികൾ പ്രയോഗിക്കാനാണ് നിർദേശം.
മികച്ച പ്രാക്ടിസുകൾ
മറ്റ് മോഡലുകൾ പോലെ, Phi മോഡൽ കുടുംബം നീതി വില്ലായ്മ, വിശ്വാസ്യതക്കുറവ്, അല്ലെങ്കിൽ വിശുദ്ധിയില്ലാതെ പ്രവർത്തിക്കാമെന്ന സാധ്യതകൾ ഉണ്ട്.
SLM, LLM എന്നിവയുടെ ചില പരിധികളായ പെരുമാറ്റങ്ങൾ അറിയേണ്ടതാണ്, അവയിൽ ഉൾപ്പെടുന്നത്:
- സേവന ഗുണമെതാണ്യത: Phi മോഡലുകൾ പ്രധാനമായും ഇംഗ്ലീഷ് എഴുത്തിൽ പരിശീലിതമാണ്. ഇംഗ്ലീഷിനെക്കാൾ മറ്റ് ഭാഷകൾ കൂടുതലായി വൃത്തികെട്ട പ്രകടനം കാണിക്കും. പരിശീലന ഡാറ്റയിൽ കുറവുള്ള ഇംഗ്ലീഷ് ഭാഷാ പദവിവിധികൾ സാധാരണ അമേരിക്കൻ ഇംഗ്ലീഷിനെ അപേക്ഷിച്ച് കുറവുള്ള പ്രകടനമുണ്ടാക്കാം.
- ഹാനികൾ പ്രതിനിധാനം ചെയ്യല് & സtereотипുകള് നിലനിര്ത്തല്: ഈ മോഡലുകൾ ചില ആളുകളുടെ ഗ്രൂപ്പുകൾ കൂടുതലോ കുറവോ പ്രതിനിധാനം ചെയ്യാം, ചില ഗ്രൂപ്പുകളുടെ പ്രതിനിധാനങ്ങൾ ഇല്ലാതാക്കാം, അല്ലെങ്കിൽ ഹീനമായ അല്ലെങ്കിൽ നെഗറ്റീവ് സtereотипുകൾ ശക്തിപ്പെടുത്താം. പരിശീലനാനന്തര സുരക്ഷയിലും, വ്യത്യസ്ത ഗ്രൂപ്പുകളുടെ പ്രതിനിധാനത്തിന് വ്യത്യാസമോ, പരിശീലന ഡാറ്റയിൽ ഉള്ള നെഗറ്റീവ് സtereотипുകൾ അടങ്ങിയ യാഥാർത്ഥ്യ ലോക മാതൃകകളും സാമൂഹിക পক্ষപാതങ്ങളും കാരണം ഇവയുടെ പരിധികൾ ഇപ്പോഴും നിലനിൽക്കാം.
- അപര്യാപ്തമോ അപമാനകരമോ ആയ ഉള്ളടക്കം: ഈ മോഡലുകൾ ഉപയോഗത്തിലുള്ള സങ്കീർണ സാഹചര്യങ്ങൾക്ക് അനുയോജ്യമല്ലാത്ത മറ്റു അപര്യാപ്തവും അപമാനകവുമായ ഉള്ളടക്കം സൃഷ്ടിക്കാം.
- വിവരങ്ങളുടെ വിശ്വാസ്യത: ഭാഷ മോഡലുകൾ അര്ത്ഥശൂന്യമായ ഉള്ളടക്കം സൃഷ്ടിക്കാനോ, സാധുവായെങ്കിലും തെറ്റായതോ പഴകിയതോ ആയ ഉള്ളടക്കം നിര്മ്മിക്കാനോ കഴിയും.
- കോഡ് പരിധിയിലുള്ള ഒറ്റപ്പെട്ട പരിമിതികൾ: Phi-3 പരിശീലന ഡാറ്റയുടെ വലുതും Python അടിസ്ഥാനത്തിലാണ്, സാധാരണ പാക്കേജുകൾ ഉപയോഗിക്കുന്നു — "typing, math, random, collections, datetime, itertools". മോഡൽ Python സ്രിപ്റ്റുകൾ മറ്റൊരു പാക്കേജോ മറ്റൊരു ഭാഷയിലുള്ള സ്രിപ്റ്റുകളോ സൃഷ്ടിച്ചാൽ, ഉപഭോക്താക്കൾ എല്ലാ API ഉപയോഗങ്ങളും കൈകൊണ്ട് പരിശോധിക്കാൻ ശക്തമായി നിര്ദ്ദേശിക്കുന്നു.
ഡെവലപ്പർമാർ ഉത്തരവാദിത്വപൂർവ്വമായ AI മികച്ച രീതി അനുഗമിക്കണം, പ്രത്യേക ഉപയോഗകേസ് പ്രാദേശിക നിയമങ്ങളും നിയന്ത്രണങ്ങളും (ഉദാ: സ്വകാര്യത, വ്യാപാരം, തുടങ്ങിയവ) പാലിക്കുന്നു എന്ന് ഉറപ്പാക്കലും വേണ്ടതായിരിക്കും.
ഉത്തരവാദിത്വപ്പെട്ട AI പരിഗണനകൾ
മറ്റ് ഭാഷാമോഡലുകളെപ്പോലെ, Phi കുടുംബ മോഡലുകൾ നീതി വില്ലായ്മ, വിശ്വാസ്യതക്കുറവ്, അപമാനകരമായ പെരുമാറ്റം എന്നിവയിൽ പാഴ possibilità ഉണ്ട്. അറിയേണ്ട ചില പരിധിക്കടന്ന പെരുമാറ്റങ്ങൾ:
സേവന ഗുണ്മെതാണ്യത: Phi മോഡലുകൾ പ്രധാനമായും ഇംഗ്ലീഷ് ടെക്സ്റ്റിൽ പരിശീലിതമാണ്. മറ്റ് ഭാഷകൾക്ക് വൃത്തികെട്ട പ്രകടനം ഉണ്ടാകും. പരിശീലന ഡാറ്റയിൽ കുറവുള്ള ഇംഗ്ലീഷ് പദവിവിധികൾ സാധാരണ അമേരിക്കൻ ഇംഗ്ലീഷിനെ വലുതായി താഴ്ന്ന പ്രകടനം കാണിക്കും.
ഹാനി പ്രതിനിധാനം & സtereотипുകളുടെ നിലനിർത്തൽ: ഈ മോഡലുകൾ ചില കൂട്ടായ്മകൾ കൂടുതലോ കുറവോ പ്രതിനിധീകരിക്കാം, ചില ഗ്രൂപ്പുകളുടെ പ്രതിനിധാനം ഇല്ലാതാക്കാം അല്ലെങ്കിൽ ക്ഷീണിപ്പിക്കുന്ന നെഗറ്റീവ് സtereотипുകൾ ശക്തിപ്പെടുത്താം. പരിശീലനാനന്തര സുരക്ഷയ്ക്കപ്പുറം, ഈ പരിമിതികൾ പരിശീലന ഡാറ്റയിലെ വ്യത്യസ്ത ഗ്രൂപ്പുകളുടെ പ്രതിനിധാന വ്യത്യാസം, നെഗറ്റീവ് സtereотипുകളുടെ യഥാർത്ഥ ലോക മാതൃകകൾക്കെതിരെയും സാമൂഹിക പാർശ്വത്തിന്റെയും അടിസ്ഥാനമാകാം.
അപ്രാപ്യമോ അപമാനകരമോ ഉള്ളടക്കം: ഈ മോഡലുകൾ മറ്റു വിധത്തിലുള്ള അനുയോജ്യമല്ലാത്ത അല്ലെങ്കിൽ അപമാനകരമായ ഉള്ളടക്കം സೃജ്ടിക്കാം, അത് പ്രയോജനിക്കുന്ന പ്രത്യേക സാഹചര്യങ്ങളിൽ ഉപയോഗിക്കാൻ അനുപകാരകരമാകാം.
വിവരങ്ങളുടെ വിശ്വാസ്യത: ഭാഷ മോഡലുകൾ അർത്ഥശൂന്യമായ ഉള്ളടക്കം സൃഷ്ടിക്കാം അല്ലെങ്കിൽ സാദൃശ്യമുണ്ടെങ്കിൽ തെറ്റായിരിക്കാം അല്ലെങ്കിൽ പഴഞ്ഞിരിക്കാം.
കോഡ് പരിധിയിലുള്ള ഒറ്റപ്പെട്ട പരിമിതികൾ: Phi-3 പരിശീലന ഡാറ്റ പ്രധാനമായും Python അടിസ്ഥാനമായും "typing, math, random, collections, datetime, itertools" പോലുള്ള പൊതുവായ പാക്കേജുകൾ ഉപയോഗിച്ചും ആണ്. Python-ൽ മറ്റു പാക്കേജുകൾ ഉപയോഗിക്കുന്ന, അല്ലെങ്കിൽ മറ്റ് ഭാഷകളിലെ സ്ക്രിപ്റ്റുകൾ സൃഷ്ടിക്കുന്ന വിധം മോഡൽ പ്രവർത്തിച്ചാൽ, ഉപയോക്താക്കൾ എല്ലാ API ഉപയോഗങ്ങളും കൈകൊണ്ട് പരിശോധിക്കണമെന്ന് ശക്തമായി ശിപാർശ ചെയ്യുന്നു.
ഡെവലപ്പർമാർ ഉത്തരവാദിത്വ AI മികച്ച പ്രാക്ടിസുകൾ പ്രയോഗിക്കണം, പ്രത്യേക ഉപയോഗകേസ് നിയമങ്ങളും ചട്ടങ്ങളും പാലിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കേണ്ടതാണ് (ഉദാഹരണത്തിന് സ്വകാര്യത, വ്യാപാരം, തുടങ്ങിയവ). ചെറുതായ്മകൾ ഉൾപ്പെടെ പ്രധാന പരിഗണന മേഖലയായി:
വിതരണം: നിയമ സ്ഥിതിവിവരത്തിന് പ്രാധാന്യമുള്ള സാഹചര്യങ്ങൾക്കും സ്രോതസ്സുകളുടെയും ജീവിതാവസരങ്ങളുടെയും വിഭജനം (ഉദാ: ഭവനം, തൊഴിൽ, കടം തുടങ്ങിയവ) ഈ മോഡലുകൾ അനുയോജ്യമല്ലാതിരിക്കാം, ഇത് കൂടുതൽ വിലയിരുത്തലുകളും പരിഹാര സാങ്കേതിക വിദ്യകളും ആവശ്യമുണ്ട്.
ഉയർന്ന അപകട സാഹചര്യങ്ങൾ: നീതി വില്ലായ്മ, വിശ്വാസ്യതക്കുറവ്, അപമാനകരമായ ഫലങ്ങൾ മൂലം വലിയ ചെലവിലാഴ്ച്ചയുണ്ടാകുന്ന സാഹചര്യങ്ങളിൽ മോഡലുകൾ ഉപയോഗിക്കുന്നതിന് അനുയോജ്യത വിലയിരുത്തണം, പ്രത്യേകിച്ച് വിദഗ്ധ മേഖലകളിൽ (ഉദാ: നിയമ, ആരോഗ്യ പരാമർശങ്ങൾ) ശരിയാനും വിശ്വസനീയവുമായ ഉപദേശം നൽകേണ്ടതിന്. പ്രയോഗപരിസരത്തിന് അനുസൃതമായ അധിക സുരക്ഷ സംവിധാനങ്ങൾ നടപ്പിലാക്കണം.
അസാങ്കേതികവിവരങ്ങൾ: മോഡലുകൾ തെറ്റായ വിവരങ്ങൾ സൃഷ്ടിക്കാം. ഡെവലപ്പർമാർ പരദർശിത്വ ഏറ്റവും മികച്ച പ്രാക്ടിസുകൾ പിന്തുടർന്ന് ഉപയോക്താക്കളെ AI സംവിധാനം ഉപയോഗിക്കുന്നതായി അറിയിപ്പു നൽകണം. പ്രയോഗനിലയിൽ, പ്രതികരണങ്ങളെ വിഷയനിർദേശവും സാഹചര്യസംബന്ധ വസ്തുതകളോടും അടിസ്ഥാനമാക്കുന്നതിന് ഫീഡ്ബാക്ക് സംവിധാനങ്ങൾ നിർമിക്കാം, ഈ സാങ്കേതിക വിദ്യ Retrieval Augmented Generation (RAG) എന്നറിയപ്പെടുന്നു.
ഹാനികരമായ ഉള്ളടക്കം സൃഷ്ടിക്കൽ: പ്രതിസന്ധി സ്ഥിതികള് പരിഗണിച്ചുകൊണ്ട് ഫലങ്ങൾ വിലയിരുത്തേണ്ടതാണ്, ഉപയോഗത്തിനനുസൃത സുരക്ഷ ക്ലാസിഫയറുകളും ഇഷ്ടാനുസൃത പരിഹാരങ്ങളും ഉപയോഗിക്കണം.
ദുരുപയോഗം: തട്ടിപ്പ്, സ്പാം, മാൽവെയർ ഉണ്ടാക്കൽ തുടങ്ങിയ മറ്റു ദുരുപയോഗ വീതിരകൾ സാധ്യമായിരിക്കാം, അതിനാൽ ഡെവലപ്പർമാർ അവരുടെ അപ്ലിക്കേഷനുകൾ പ്രാദേശിക നിയമങ്ങളും ചട്ടങ്ങളും ലംഘിക്കാത്തതായി ഉറപ്പുവരുത്തണം.
ഫൈനറ്റ്യൂണിംഗ്, AI ഉള്ളടക്കം സുരക്ഷ
ഒരു മോഡൽ ഫൈനറ്റ്യൂൺ ചെയ്തശേഷം, മോഡലുകൾ സൃഷ്ടിക്കുന്ന ഉള്ളടക്കം നിരീക്ഷിക്കാൻ, സാധ്യതയുള്ള അപകടങ്ങളും ഭീഷണികളും ഗുണനിലവാര പ്രശ്നങ്ങളും തിരിച്ചറിയാനും തടയാനും Azure AI Content Safety ഉപാധികൾ പ്രയോജനപ്പെടുത്തണമെന്ന് ഞങ്ങൾ വളരെ ശിപാർശ ചെയ്യുന്നു.
Azure AI Content Safety ടെക്സ്റ്റും ചിത്രവും ഉള്ളടക്കവും പിന്തുണയ്ക്കുന്നു. ക്ലൗഡിലും, ഡിസ്കണക്റ്റഡ് കണ്ടെയ്നറുകളിലും, എഡ്ജും/എംബെഡഡ് ഉപകരണങ്ങളിലും ഇത് വിന്യസിക്കാം.
Azure AI Content Safety അവലോകനം
Azure AI Content Safety എല്ലായിടത്തും ഓരോ രീതിയിലും അനുയോജ്യമല്ല; ഇത് വാണിജ്യകേന്ദ്രങ്ങളുടെ പ്രത്യേക നയങ്ങൾക്ക് സാമঞ্জസ്യപ്പെടുത്താൻ ഇഷ്ടമനുസരിച്ചു ഇച്ഛാനുസൃതമാക്കാം. കൂടാതെ, ഇതിന്റെ ബഹുഭാഷാ മോഡലുകൾ ഒരേസമയം നിരവധി ഭാഷകൾ മനസ്സിലാക്കാൻ സാധിക്കുന്നു.
- Azure AI Content Safety
- Microsoft Developer
- 5 വീഡിയോകൾ
Azure AI Content Safety സേവനം അപ്ലിക്കേഷനുകളിലും സേവനങ്ങളിലും ഉപയോക്താവു നിർമിതവും AI നിർമിതവുമായ ഹാനിപരമായ ഉള്ളടക്കം കണ്ടെത്തുന്നു. അത് ടെക്സ്റ്റും ചിത്രവും തിരിച്ചറിയുന്നതിനുള്ള API-കൾ ഉൾക്കൊള്ളുന്നു, അത് ഹാനികരമോ അനുയോജ്യമല്ലാത്തവോ ആയ വിഷയങ്ങൾ കണ്ടെത്താൻ സഹായിക്കുന്നു.
ഇനിപ്പറയുന്ന കാര്യം ശ്രദ്ധിക്കുക: ഈ പ്രമാണം എഐ തർജ്ജമാ സേവനം Co-op Translator ഉപയോഗിച്ച് തർജ്ജമ ചെയ്തത് ആണ്. യാഥാർഥ്യതയ്ക്കായി ഞങ്ങൾ ശ്രമിക്കുകയെങ്കിലും, ഓട്ടോമാറ്റഡ് തർജ്ജമകളിൽ പിശകുകൾ അല്ലെങ്കിൽ തെറ്റുകൾ ഉണ്ടായിരിക്കാമെന്ന് ദയവായി മനസിലാക്കുക. സാധാരണയായി, സ്വദേശഭാഷയിലുള്ള മാറ്റിയ പ്രമാണം എത്രത്തോളം വിശ്വസനീയമാണെന്ന് കണക്കുകൂട്ടുക. അത്യാവശ്യ വിവരങ്ങൾക്കായി പ്രൊഫഷണൽ മനുഷ്യൻ നൽകുന്ന തർജ്ജമ നിർദ്ദേശിക്കുന്നു. ഈ തർജ്ജമ ഉപയോഗത്തിലുള്ള ഖച്ഛലങ്ങളോ പരസ്യത്വങ്ങളോ സംബന്ധിച്ച് ഞങ്ങൾക്ക് എന്തെങ്കിലും ഉത്തരവാദിത്തമില്ല.