Oheisvideot

Paikallinen tekoäly Macissa: Ollama, LM Studio ja mihin 7B-mallit todella pystyvät — saatevideot

Artikkeli perustelee pienen mallin ajamista paikallisesti Apple Siliconilla — tietosuojan, offline-käytön ja ilmaisen kokeilun vuoksi. Nämä videot antavat kaksi selkeää sisäänkäyntiä, joihin artikkeli toistuvasti viittaa: terminaali-ja-API-polku Ollaman kautta sekä ystävällisempi GUI-polku LM Studion kautta.

Päävalinta

14:01

Opettele Ollama 15 minuutissa – aja LLM-malleja paikallisesti ILMAISEKSI

Tech With Tim

Tiivis, suoraviivainen Ollama-läpikäynti — asenna, lataa malli, keskustele, sitten kokeile paikallista HTTP-API:a Pythonista ja luo oma malli Modelfilella. Kattaa tasan artikkelin kuvaaman päivittäisen Mac-työnkulun, mukaan lukien miten ajatella mallin kokoa suhteessa koneesi RAM-muistiin.

Mitä sinun pitäisi oppia tästä: Asenna paikallinen malliajaja, lataa pieni malli ja ymmärrä tietosuoja-/suorituskykykompromissi ennen käyttöä oikeassa työssä.

Katso tai hallitse ensin: Terminaali sujuu ja perustietoisuus siitä, että paikalliset mallit vaihtelevat voimakkaasti koon, kvantisoinnin ja laitteiston mukaan.

AI Expert -huomio: Asennuskomennot ja suositellut mallinimet muuttuvat. Pidä paikallinen-ensin -työnkulku, mutta tarkista nykyiset Ollama-mallinimet, muistivaatimukset ja lisensointi ennen minkään mallin käyttöä asiakas- tai yritystiedoilla.

Avaa videosivu

Kannattaa katsoa myös

05:45

LM Studio -tutoriaali: aja suuria kielimalleja (LLM) kannettavallasi

Kevin Stratvert

Sama työnkulku kuin Ollamalla mutta GUI:ssa: lataa LM Studio, hanki Llama- tai Gemma-malli, keskustele, pudota PDF ja kysy siitä. Hyvä lukijoille, jotka eivät halua elää terminaalissa — hyödyllinen myös tuntumaan siihen, miten 1B–3B-malli todella suoriutuu raskaampaan verrattuna.

Mitä sinun pitäisi oppia tästä: Kokeile paikallista tekoälyä GUI:n kautta ja vertaa pienten mallien käyttäytymistä isännöityihin frontier-malleihin.

Katso tai hallitse ensin: Tiedä, miksi haluat paikallisen ajon: tietosuoja, offline-käyttö, kustannusten hallinta tai kokeilu.

AI Expert -huomio: LM Studion käyttöliittymä ja mallikatalogi liikkuvat nopeasti. Käytä tätä itseluottamusta rakentavana kierroksena, sitten varmista nykyiset latauslähteet, mallilisenssit ja se, pysyvätkö ladatut asiakirjat paikallisina valitsemassasi työnkulussa.

Avaa videosivu