Tilhørende videoer

Lokal AI på din Mac: Ollama, LM Studio, og hvad 7B-modeller reelt kan — ledsagende videoer

Artiklen argumenterer for at køre en lille model lokalt på Apple Silicon — for databeskyttelse, offline-brug og gratis eksperimentering. Disse videoer giver dig de to rene indgangspunkter, artiklen bliver ved med at pege på: terminal-og-API-vejen gennem Ollama og den mere venlige GUI-vej gennem LM Studio.

Primært valg

14:01

Lær Ollama på 15 minutter — kør LLM-modeller lokalt GRATIS

Tech With Tim

En stram, no-nonsense Ollama-gennemgang — installer, pull en model, chat, poke derefter på den lokale HTTP-API fra Python, og opret en custom model med en Modelfile. Dækker præcis den arbejdsgang, artiklen beskriver til daglig brug på en Mac, inklusive hvordan du tænker om modelstørrelse kontra din maskines RAM.

Hvad du bør få ud af dette: Installér en lokal modelrunner, pull en lille model, og forstå trade-off mellem databeskyttelse og performance, før du bruger den til rigtigt arbejde.

Forudsætninger: Fortrolig med en terminal og grundlæggende bevidsthed om, at lokale modeller varierer kraftigt efter størrelse, kvantisering og hardware.

Bemærkning fra AI Expert: Installationskommandoer og anbefalede modelnavne ændrer sig. Behold den lokale-først-arbejdsgang, men tjek aktuelle Ollama-modelnavne, hukommelseskrav og licens, før du bruger en model på klient- eller virksomhedsdata.

Åbn videoside

Også værd at se

05:45

LM Studio-tutorial: Kør store sprogmodeller (LLM) på din laptop

Kevin Stratvert

Samme arbejdsgang som Ollama, men i en GUI: download LM Studio, pull en Llama- eller Gemma-model, chat, drop en PDF ind, og stil spørgsmål om den. God til læsere, der helst ikke vil leve i terminalen — også nyttig til at få en fornemmelse af, hvordan en 1B–3B-model faktisk performerer op imod en tungere.

Hvad du bør få ud af dette: Prøv lokal AI gennem en GUI, og sammenlign små-model-adfærd med hostede frontier-modeller.

Forudsætninger: Vid, hvorfor du vil have lokal eksekvering: databeskyttelse, offline-brug, omkostningskontrol eller eksperimentering.

Bemærkning fra AI Expert: LM Studios grænseflade og modelkatalog flytter sig hurtigt. Brug den som en tryghedsbyggende tour, og verificér derefter aktuelle downloadkilder, modellicenser og om uploadede dokumenter forbliver lokale i den arbejdsgang, du vælger.

Åbn videoside