01.Guidance.md

Guidance-AI ja Phi-mallit palveluna (MaaS)

Tuomme Guidance Phi-3.5-mini serverless -päätepisteeseen Microsoft Foundryssa, jotta tuotokset olisivat ennustettavampia sovellukseen räätälöidyn rakenteen määrittämisen avulla. Guidancein avulla voit poistaa kalliit uudelleenkäyttöyritykset ja muun muassa rajoittaa mallia valitsemaan esimäärätyistä listoista (esim. lääketieteelliset koodit), rajoittaa tuotokset suoriin lainauksiin annetusta kontekstista tai seurata mitä tahansa regexiä. Guidance ohjaa mallia token tokenilta päättelypinossa, vähentäen kustannuksia ja viivettä 30-50 %, mikä tekee siitä ainutlaatuisen ja arvokkaan lisän Phi-3-mini serverless -päätepisteeseen.

Guidance-AI on kehys, jonka tarkoituksena on auttaa kehittäjiä luomaan ja käyttöönotossa tehokkaasti tekoälymalleja. Se keskittyy tarjoamaan työkaluja ja parhaita käytäntöjä vakavien tekoälysovellusten rakentamiseen.

Yhdistettynä Phi Models as a Service (MaaS) -palveluun se tarjoaa tehokkaan ratkaisun pienten kielimallien (SLM) käyttöönottoon, jotka ovat sekä kustannustehokkaita että suorituskykyisiä.

Guidance-AI on ohjelmointikehys, joka auttaa kehittäjiä ohjaamaan suuria kielimalleja (LLM) tehokkaammin. Se mahdollistaa tuotosten tarkan rakenteen määrittämisen, mikä vähentää latenssia ja kustannuksia perinteisiin kehotus- tai hienosäätömenetelmiin verrattuna.

Guidance-AI:n keskeiset ominaisuudet:

• Tehokas ohjaus: Mahdollistaa kehittäjien ohjata, miten kielimalli tuottaa tekstiä varmistaen laadukkaat ja relevantit tuotokset.
• Kustannusten ja latenssin vähennys: Optimoi generointiprosessia tekemällä siitä kustannustehokkaamman ja nopeamman.
• Joustava integraatio: Toimii useiden taustajärjestelmien kanssa, kuten Transformers, llama.cpp, AzureAI, VertexAI ja OpenAI.
• Monipuoliset tuotostyypit: Tukee monimutkaisia tuotostruktuureja, kuten ehdollisuuksia, silmukoita ja työkalujen käyttöä, mikä helpottaa selkeiden ja jäsennettävien tulosten luomista.
• Yhteensopivuus: Sallii yhden Guidance-ohjelman suorittamisen useilla taustajärjestelmillä, mikä lisää joustavuutta ja käyttömukavuutta.

Esimerkkejä käyttötapauksista:

• Rajoitettu generointi: Mallin ohjaaminen säännöllisten lausekkeiden ja kontekstivapaiden kielioppien avulla.
• Työkalujen integraatio: Ohjauksen ja generoinnin automaattinen lomittaminen, kuten laskimen käyttö tekstin generointitehtävässä.

Lisätietoja ja esimerkkejä löydät Guidance-AI GitHub -arkistosta.

Tutustu Phi-3.5-esimerkkikansioon

Phi-mallien keskeiset ominaisuudet:

1. Kustannustehokas: Suunniteltu edulliseksi ja silti suorituskykyiseksi.
2. Pieni latenssi: Ihanteellinen reaaliaikaisiin sovelluksiin, jotka vaativat nopeita vastauksia.
3. Joustavuus: Voidaan ottaa käyttöön erilaisissa ympäristöissä, mukaan lukien pilvi, reunalaskenta ja offline-skenaariot.
4. Mukautettavuus: Mallit voidaan hienosäätää toimialakohtaisilla aineistoilla suorituskyvyn parantamiseksi.
5. Turvallisuus ja vaatimustenmukaisuus: Rakennettu Microsoftin tekoälyperiaatteiden mukaisesti, varmistaen vastuullisuuden, läpinäkyvyyden, oikeudenmukaisuuden, luotettavuuden, turvallisuuden, yksityisyyden ja inklusiivisuuden.

Phi Models as a Service (MaaS):

Phi-malleja on saatavilla käyttöön maksun mukaan inference-rajapintojen kautta, mikä helpottaa niiden integrointia sovelluksiin ilman merkittäviä alkuinvestointeja.

Phi-3:n käyttöönotto:

Aloittaaksesi Phi-mallien käytön voit tutustua Azure AI model catalogiin tai GitHub Marketplace Models](https://github.com/marketplace/models) -tarjontaan, joka sisältää valmiita ja muokattavia malleja. Lisäksi voit hyödyntää työkaluja kuten Microsoft Foundry kehittääksesi ja ottaaksesi käyttöön tekoälysovelluksiasi.

Resurssit

Esimerkkimuistikirja Guidancein käytön aloittamiseen

---

Vastuuvapauslauseke:
Tämä asiakirja on käännetty käyttämällä tekoälypohjaista käännöspalvelua Co-op Translator. Pyrimme mahdollisimman korkeaan tarkkuuteen, mutta otathan huomioon, että automaattikäännöksissä saattaa esiintyä virheitä tai epätarkkuuksia. Alkuperäinen asiakirja omalla kielellään on virallinen ja lopullinen lähde. Tärkeiden tietojen kohdalla suositellaan ammattimaista ihmiskäännöstä. Emme ole vastuussa tämän käännöksen käytöstä johtuvista väärinkäsityksistä tai virhetulkinnoista.