Kaasnevad videod

Lokaalne AI su Macis: Ollama, LM Studio ja mida 7B mudelid päriselt suudavad — kaasnevad videod

Artikkel argumenteerib väikese mudeli lokaalse käivitamise eest Apple Siliconil — privaatsuse, offline-kasutuse ja tasuta eksperimenteerimise nimel. Need videod annavad sulle kaks puhast sisselasu, millele artikkel pidevalt osutab: terminali-ja-API tee Ollama kaudu ja sõbralikum GUI tee LM Studio kaudu.

Esmane valik

14:01

Õpi Ollama selgeks 15 minutiga - käivita LLM mudeleid lokaalselt TASUTA

Tech With Tim

Tihke, asjalik Ollama läbikäik — paigaldus, mudeli tõmbamine, vestlus, siis lokaalse HTTP API torkimine Pythonist ja kohandatud mudeli loomine Modelfile'iga. Katab täpselt selle töövoo, mida artikkel Macis igapäevaseks kasutamiseks kirjeldab, sealhulgas kuidas mõelda mudeli suurusest vs su masina RAM-i kohta.

Mida sellest videost kaasa võtta: Saad praktilise töövõtte teemal "Lokaalne AI su Macis" ja ühe kontrollitud katse oma töö jaoks.

Mida enne vaadata või teada: Kasuks tuleb põhiline ChatGPT või muu AI-tööriista kasutamise kogemus.

AI Experti märkus: Tööriista vaated, hinnastus ja tootenimed võivad olla muutunud. Keskendu töövoo mustrile ning kontrolli praegust kasutajaliidest ja seadeid enne päristöös kasutamist.

Ava video leht

Tasub samuti vaadata

05:45

LM Studio õpetus: käivita suuri keelemudeleid (LLM) oma sülearvutil

Kevin Stratvert

Sama töövoog mis Ollama, aga GUI-s: laadi LM Studio alla, tõmba Llama või Gemma mudel, vestle, kukuta PDF sisse ja küsi selle kohta küsimusi. Hea lugejatele, kes pigem terminalis ei elaks — kasulik ka selle jaoks, et saada tunnetus, kuidas 1B–3B mudel raskema vastu päriselt esineb.

Mida sellest videost kaasa võtta: Saad praktilise töövõtte teemal "Lokaalne AI su Macis" ja ühe kontrollitud katse oma töö jaoks.

Mida enne vaadata või teada: Kasuks tuleb põhiline ChatGPT või muu AI-tööriista kasutamise kogemus.

AI Experti märkus: Tööriista vaated, hinnastus ja tootenimed võivad olla muutunud. Keskendu töövoo mustrile ning kontrolli praegust kasutajaliidest ja seadeid enne päristöös kasutamist.

Ava video leht