07.FoundryLocal.md

March 30, 2026 · View on GitHub

Aloittaminen Phi-Family-mallien kanssa Foundry Localissa

Johdanto Foundry Localiin

Foundry Local on tehokas laitteella toimiva tekoälyinferenziaratkaisu, joka tuo yritystason tekoälyominaisuudet suoraan paikalliselle laitteistollesi. Tämä opas ohjaa sinua Phi-Family-mallien käyttöönotossa ja käytössä Foundry Localin kanssa, tarjoten täydellisen hallinnan tekoälykuormituksillesi samalla kun säilytät yksityisyyden ja pienennät kustannuksia.

Foundry Local tarjoaa suorituskykyä, yksityisyyttä, räätälöitävyyttä ja kustannusetuja ajamalla tekoälymalleja paikallisesti laitteellasi. Se integroituu saumattomasti nykyisiin työnkulkuihisi ja sovelluksiisi intuitiivisen CLI:n, SDK:n ja REST-rajapinnan kautta.

arch

Miksi valita Foundry Local?

Foundry Localin etujen ymmärtäminen auttaa sinua tekemään tietoon perustuvia päätöksiä tekoälykäyttöönottoasi varten:

  • Laitteella toimiva inferenssi: Suorita mallit paikallisesti omalla laitteistollasi, vähentäen kustannuksia ja pitäen kaikki tietosi laitteellasi.

  • Mallin räätälöinti: Valitse valmiista malleista tai käytä omiasi täyttääksesi erityiset vaatimukset ja käyttötapaukset.

  • Kustannustehokkuus: Poista toistuvat pilvipalveluiden kustannukset käyttämällä olemassa olevaa laitteistoasi, tehden tekoälystä helpommin saavutettavan.

  • Saumaton integraatio: Yhdistä sovelluksiisi SDK:n, API-päätepisteiden tai CLI:n kautta, ja skaalaa helposti Microsoft Foundryyn tarpeidesi kasvaessa.

Aloitusvinkki: Tämä opas keskittyy Foundry Localin käyttöön CLI- ja SDK-käyttöliittymien kautta. Opit molemmat tavat, jotta voit valita parhaan menetelmän käyttötarkoitukseesi.

Osa 1: Foundry Local CLI:n asennus

Vaihe 1: Asennus

Foundry Local CLI on porttisi tekoälymallien hallintaan ja suorittamiseen paikallisesti. Aloitetaan asennuksella järjestelmääsi.

Tuetut alustat: Windows ja macOS

Yksityiskohtaiset asennusohjeet löytyvät virallisesta Foundry Local -dokumentaatiosta.

Vaihe 2: Saatavilla olevien mallien selaaminen

Kun olet asentanut Foundry Local CLI:n, voit tutkia mitä malleja on käytettävissä käyttötarkoitukseesi. Tämä komento näyttää kaikki tuetut mallit:

foundry model list

Vaihe 3: Phi Family -mallien ymmärtäminen

Phi Family tarjoaa valikoiman malleja, jotka on optimoitu eri käyttötarkoituksiin ja laitteistokokoonpanoihin. Tässä ovat Foundry Localissa saatavilla olevat Phi-mallit:

Saatavilla olevat Phi-mallit:

  • phi-3.5-mini - Kompakti malli perustoimiin
  • phi-3-mini-128k - Laajennettu konteksti pidempää keskustelua varten
  • phi-3-mini-4k - Standardikontekstimalli yleiskäyttöön
  • phi-4 - Kehittynyt malli parannetuilla ominaisuuksilla
  • phi-4-mini - Kevyt versio Phi-4:stä
  • phi-4-mini-reasoning - Erikoistunut monimutkaisiin päättelytehtäviin

Laitteistoyhteensopivuus: Jokainen malli voidaan konfiguroida eri laitteistokiihdytyksille (CPU, GPU) järjestelmäsi kyvykkyydestä riippuen.

Vaihe 4: Ensimmäisen Phi-mallin suorittaminen

Aloitetaan käytännön esimerkillä. Suoritamme phi-4-mini-reasoning -mallin, joka loistaa monimutkaisten ongelmien askel askeleelta ratkaisemisessa.

Mallin suorittamiskomento:

foundry model run Phi-4-mini-reasoning-generic-cpu

Ensikertalaisen ohje: Kun suoritat mallin ensimmäistä kertaa, Foundry Local lataa sen automaattisesti paikalliselle laitteellesi. Latausaika vaihtelee verkkoyhteytesi nopeuden mukaan, joten ole kärsivällinen alkuasetuksen aikana.

Vaihe 5: Mallin testaaminen todellisella ongelmalla

Testataan malliamme klassisella logiikkaongelmalla nähdäksesi miten se suorittaa askel askeleelta päättelyä:

Esimerkkiongelma:

Please calculate the following step by step: Now there are pheasants and rabbits in the same cage, there are thirty-five heads on top and ninety-four legs on the bottom, how many pheasants and rabbits are there?

Odotettu käyttäytyminen: Mallin tulisi jakaa tämä ongelma loogisiin vaiheisiin käyttäen tietoa, että fasaaneilla on 2 jalkaa ja kaneilla 4 jalkaa, ratkaistakseen yhtälöryhmän.

Tulokset:

cli

Osa 2: Sovellusten rakentaminen Foundry Local SDK:lla

Miksi käyttää SDK:ta?

Vaikka CLI on täydellinen testaamiseen ja nopeisiin vuorovaikutuksiin, SDK mahdollistaa Foundry Localin ohjelmallisen integroinnin sovelluksiisi. Tämä avaa mahdollisuudet:

  • Räätälöityjen tekoälypohjaisten sovellusten rakentamiseen
  • Automaattisten työnkulkujen luomiseen
  • Tekoälyominaisuuksien integrointiin olemassa oleviin järjestelmiin
  • Chatbottien ja interaktiivisten työkalujen kehittämiseen

Tuetut ohjelmointikielet

Foundry Local tarjoaa SDK-tuen useille ohjelmointikielille kehitysmieltymystesi mukaan:

📦 Saatavilla olevat SDK:t:

Seuraavat askeleet

  1. Valitse sinulle sopiva SDK kehitysympäristösi perusteella
  2. Seuraa SDK-kohtaisia dokumentaatioita yksityiskohtaisia toteutusohjeita varten
  3. Aloita yksinkertaisilla esimerkeillä ennen monimutkaisten sovellusten rakentamista
  4. Tutki jokaisessa SDK-repositoriossa olevaa mallikoodia

Yhteenveto

Olet nyt oppinut miten:

  • ✅ Asentaa ja ottaa käyttöön Foundry Local CLI
  • ✅ Löytää ja suorittaa Phi Family -malleja
  • ✅ Testata malleja tosielämän ongelmilla
  • ✅ Ymmärtää SDK-vaihtoehdot sovelluskehitykseen

Foundry Local tarjoaa vahvan perustan tekoälyominaisuuksien tuomiseksi suoraan paikalliseen ympäristöösi, antaen hallinnan suorituskyvystä, yksityisyydestä ja kustannuksista samalla kun säilytät joustavuuden skaalautua pilviratkaisuihin tarvittaessa.

Vastuuvapauslauseke:
Tämä asiakirja on käännetty käyttämällä tekoälypohjaista käännöspalvelua Co-op Translator. Vaikka pyrimme täsmällisyyteen, huomioithan, että automaattikäännöksissä saattaa esiintyä virheitä tai epätarkkuuksia. Asiakirjan alkuperäinen versio alkuperäiskielellä on virallinen lähde. Tärkeissä asioissa suositellaan ammattimaista ihmiskäännöstä. Emme ole vastuussa tämän käännöksen käytöstä aiheutuvista väärinkäsityksistä tai virhetulkinnoista.