Lokal AI på din Mac: Ollama, LM Studio, og hvad 7B-modeller reelt kan

I 2023 var lokal kørsel af AI en kuriositet. I 2026 er det en reel mulighed til flere typer arbejde. En moderne Mac med Apple Silicon eller en pc med et nyere grafikkort kan køre kompetente modeller offline, gratis og privat. Opsætningen tager 15 minutter.

Denne artikel er en praktisk guide til lokal AI i 2026 — hvad du faktisk kan gøre, hvad du ikke kan, hvilke værktøjer du bør bruge, og hvilke anvendelser der reelt har gavn af det. Vi springer den dybe gennemgang af hardware over og holder det praktisk.

Hvad »lokal AI« betyder i 2026

Det betyder, at du kører en AI-model på din egen computer i stedet for at kalde en cloud-API. Modellen ligger som en fil på din disk, typisk på 4-50 GB. Når du sender en forespørgsel, foregår beregningen på din CPU, GPU eller Apples Neural Engine. Der kræves ingen internetforbindelse. Ingen tredjepart ser dine data.

De modeller, du kan køre lokalt, spænder bredt:

• Små modeller (1-4B parametre): Phi-3.5/Phi-4 mini, Gemma 3 small, Qwen 3 small. De er hurtige og kan køre på bærbare computere med 8-16 GB RAM. De kan opsummere, skrive enkle udkast, klassificere og besvare grundlæggende spørgsmål.
• Mellemstore modeller (7-14B parametre): Llama 3.1 8B, Qwen 3 14B, Mistral 7B. De leverer stærk generel ydelse og kører komfortabelt på de fleste moderne Macs med 16-32 GB RAM. De kan håndtere ræsonnement, kode og komplekse prompts.
• Større modeller (30-70B+): Llama 3.3 70B, Qwen 3 32B/72B, DeepSeek V3 (distilled), GPT-OSS. De kræver kraftig hardware med 32-128 GB RAM og ofte et dedikeret grafikkort. På mange opgaver nærmer de sig kvaliteten fra frontlinjemodeller i skyen.

For de fleste brugere gælder det i 2026, at det bedste kompromis er en 7B-14B-model på en Mac M2/M3/M4 med 16-32 GB unified memory. Den er hurtig nok til praktisk brug og kompetent nok til at skabe værdi.

Hvad der er muligt, og hvad der ikke er

Her er en direkte sammenligning af lokale modeller og frontlinjemodeller i skyen:

Lokale modeller er fremragende til:

• Udkast og omskrivning, herunder tekst, e-mails og resuméer.
• Klassificering og udtræk, herunder kategorisering, tagging og parsing.
• Kodeforslag til almindelige mønstre.
• Grundlæggende flersprogede opgaver, herunder oversættelse og enkel Q&A på mange sprog.
• Privatlivsfølsom Q&A om alt, du ikke ønsker, at en tredjepart skal se.
• Brug som en delkomponent i en pipeline, hvor en lille model klassificerer og derefter sender opgaven til en større model efter behov.

Lokale modeller er svagere til:

• Dyb ræsonnering med komplekst flertrinslogik.
• Meget lang kontekst på 32K+ tokens, selvom nogle lokale modeller nu kan håndtere det.
• Specialviden inden for nicheområder.
• Værktøjsbrug og agentbaserede arbejdsgange, som forbedres, men stadig er mindre pålidelige end frontlinjemodellernes.
• Aktuelle oplysninger, fordi træningsskæringsdatoer gælder, og realtidssøgning ikke er standard.

Frontlinjemodellerne — GPT-5, Claude Opus 4.5, og Gemini 2.5 Pro — er stadig mærkbart bedre til vanskelig ræsonnering, nuanceret tekst og agentbaserede opgaver. Men forskellen på almindelige hverdagsopgaver er blevet væsentligt mindre. Til udkast, klassificering og grundlæggende analyse kan en 7B-model på din bærbare computer levere et resultat, der er 80-90% så godt som en frontlinjemodel, på 200-500ms og uden omkostning.

Værktøjerne

Mac-brugere har to primære muligheder. Begge virker; vælg den, der passer dig.

Ollama

Primært kommandolinjebaseret. Kør brew install ollama, eller download fra ollama.com. Sådan kører du en model:

ollama pull llama3.1:8b
ollama run llama3.1:8b

Du får en chatprompt. Der findes også en REST API på localhost:11434, som andre værktøjer kan kalde. De fleste open source-AI-værktøjer understøtter Ollama som udbyder direkte — n8n, LangChain, LiteLLM, OpenRouter og mange flere.

Ollama er det rigtige valg, hvis du vil:

• Køre modeller programmatisk via scripts, n8n eller specialbygget kode.
• Bruge modellen i arbejdsgange ud over chat.
• Have en enkel grænseflade, der kan automatiseres med scripts.

LM Studio

En gennemarbejdet desktopapp. Download den, åbn den, gennemse modeller, klik på »load«, og chat med dem. Fokus er på en grafisk brugergrænseflade.

LM Studio er det rigtige valg, hvis du ønsker:

• En grafisk chatgrænseflade.
• Nem søgning efter og download af modeller fra Hugging Face.
• Indbyggede indstillinger for ydelse, herunder kontekststørrelse, kvantisering og GPU-offload.
• En lokal OpenAI-kompatibel server, som apps kan forbindes til.

Begge værktøjer kan køre de samme underliggende modeller. Du kan installere dem begge og bruge hvert værktøj til det, det gør bedst. De fleste avancerede brugere har begge.

En praktisk første opsætning

Lad os gennemgå processen med Ollama:

Trin 1: Installer.

brew install ollama

(Eller download fra ollama.com.)

Trin 2: Vælg en model.

På en Mac med 16 GB RAM kan du begynde med llama3.1:8b eller qwen3:8b. Begge er kompetente generelle modeller i denne størrelse. Bemærk, at Llama 3.3 kun udgives som en 70B-model — den er for stor til en Mac med 16 GB.

ollama pull llama3.1:8b

Downloaden fylder nogle få GB og tager nogle få minutter.

Trin 3: Test den.

ollama run llama3.1:8b

Nu står du i en interaktiv prompt. Prøv nogle spørgsmål. Bemærk svarhastigheden: Vi målte llama3.1:8b til ~73 tokens/sec på en Apple M4 Max med 48 GB RAM via Ollama. Forvent en noget lavere hastighed på en M1/M2 eller med mindre end 16 GB RAM.

Trin 4: Brug den fra andre værktøjer.

Ollama kører en lokal server på port 11434. De fleste værktøjer, der integrerer med OpenAI’s API, kan forbindes til Ollama ved at indstille deres base-URL. I n8n gør du eksempelvis følgende:

• Indstil legitimationsoplysningerne til »AI« til at bruge et specialdefineret endpoint.
• Base URL: http://localhost:11434/v1
• API key: en vilkårlig værdi, da Ollama ikke kontrollerer den.
• Model name: llama3.1:8b

Dine n8n-arbejdsgange bruger nu den lokale model uden omkostning.

Trin 5: Prøv en stærkere model, hvis du har ledig kapacitet.

Hvis din Mac har 32+ GB RAM:

ollama pull qwen3:14b

En 14B-model er mærkbart mere kompetent, men det koster hastighed: På den samme M4 Max målte vi qwen3:14b til ~39 tokens/sec mod ~68 tokens/sec for qwen3:8b. Prøv begge ved siden af hinanden, så du oplever både kvalitetsforbedringen og den lavere hastighed.

Anvendelser, der reelt har gavn af lokal AI

Nogle områder, hvor lokal AI er væsentligt bedre end cloud:

1. Privatlivsfølsom transskription og analyse.

Personlige talememoer, interviewoptagelser, følsomme møder og terapinoter. Alt, du ikke ønsker lagret på en tredjeparts servere. Brug Whisper lokalt via MacWhisper eller et Python-script, og behandl derefter transskriptionen med en lokal LLM.

2. Batchbehandling i store mængder.

Hvis du behandler 10,000 dokumenter, f.eks. klassificerer henvendelser, udtrækker data fra PDF’er eller tagger billeder, vokser omkostningen til cloud-API-kald. En lokal model behandler 10,000 dokumenter uden API-omkostning, men langsomt. Det gør natlige kørsler praktiske.

3. Offlinearbejde.

Rejser uden stabil internetforbindelse. Arbejde på et fjerntliggende sted. Brug af AI, når netværket er nede. Lokal AI er upåvirket.

4. Værktøjer med privatliv som standard.

Hvis du bygger et værktøj til en bruger, f.eks. et personligt noteværktøj, en dagbogsapp eller en researchassistent, skaber videresendelse gennem din AI-udbyder en privatlivsmodel, som brugeren måske ikke bryder sig om. Lokale modeller holder alt på brugerens computer.

5. Hurtigere udførelse af bestemte, smalle opgaver.

En lille lokal model, der udfører én opgave, f.eks. kategorisering af e-mails eller udtræk af strukturerede data fra et bestemt format, kan være hurtigere end en tur frem og tilbage til en cloud-API. Det gælder især i anvendelser, hvor latenstid er vigtig.

6. Produktionssystemer med afgrænsede omkostninger.

Hvis din AI-app skalerer til mange brugere, vokser cloudomkostningerne lineært. Lokal inferens på din egen infrastruktur gør kurven markant fladere. Ved den største skala betyder »lokal« selvhosting på en GPU-server frem for på en bærbar computer, men princippet er det samme.

Regnestykket for omkostninger og udbytte

Her er en grov sammenligning for et typisk anvendelsestilfælde: behandling af 1000 dokumenter.

Ved 1000 dokumenter vinder cloud på hastighed. Ved 100,000 dokumenter vinder lokal AI på omkostning, og den ekstra tid er ligegyldig, fordi processen kører natten over.

Til hyppige opgaver med lav risiko giver lokal AI ofte mening. Til sjældne opgaver med høj risiko vinder cloud som regel på kvalitet.

Mønstre, der fungerer godt

Her er nogle mønstre, hvor lokal AI er særligt effektiv:

Mønster 1: Lokal klassifikationsmodel, svarmodel i skyen

En lille lokal model klassificerer og dirigerer, mens en frontlinjemodel i skyen håndterer de svar, der er vigtige.

Ved e-mailprioritering kategoriserer en lokal 3B-model indgående e-mail som hastende, rutine eller spam og afgør, hvilke der kræver menneskelig opmærksomhed. De få, der kræver et rigtigt svar, behandles af frontlinjemodellen i skyen. Omkostningen forbliver lav, mens kvaliteten forbliver høj på det, der betyder noget.

Mønster 2: Personlig assistent med privatliv først

Kør en lokal model med adgang til dine private dokumenter, din dagbog og kalender med mere. Intet forlader din computer. Modellen er en ægte personlig assistent i privatlivsmæssig forstand.

Det er det, Apples Foundation Models forsøger at levere som standard. Med lokale værktøjer som Ollama og nogle få MCP-servere kan du selv bygge en mere omfattende udgave.

Mønster 3: RAG-indlæsning i stor skala

I en RAG-pipeline, der skal opsummere eller oprette embeddings for tusindvis af dokumenter, er det dyrt at bruge cloud fra begyndelsen. Brug en lokal model til opgaver under indlæsningen, f.eks. chunkresuméer, metadataudtræk og embeddings, og gem cloud til arbejdet ved forespørgselstidspunktet.

Mønster 4: Specialiserede finjusterede modeller

Til en nicheopgave, f.eks. udtræk af bestemte data fra dit dokumentformat eller klassificering inden for din taksonomi, kan finjustering af en lille lokal model slå generelle cloudmodeller. Opsætningen tager en halv arbejdsdag med værktøjer som Unsloth eller MLX-LM. Den færdige model er hurtig, gratis og fremragende til netop din opgave.

Mønster 5: Air-gapped miljøer

Nogle arbejdspladser, f.eks. forsvar, reguleret finans og visse dele af sundhedssektoren, forbyder overførsel af data til AI-tjenester i skyen. Lokal AI er den eneste mulighed. Den samme Ollama-opsætning fungerer.

Det, der forbedres hurtigt

Her er en kort liste over de områder, hvor lokal AI ændrer sig fra måned til måned i 2026:

Spekulativ dekodning og caching. Inferenshastighederne bliver ved med at stige. Lokale modeller, der kørte med 20 tokens/sec for et år siden, kører nu med 60-100 tokens/sec på den samme hardware.

Kvantiseringskvalitet. Komprimerede modelvarianter med 4-bit eller 5-bit leverer nu en kvalitet tæt på originaler med fuld præcision. Du kan få større og mere intelligente modeller til at passe i den samme RAM-ramme.

Lang kontekst. Lokale modeller med en kontekst på 128K og derover er nu almindelige. Begrænsningen »lokal AI kan ikke håndtere lange dokumenter« er i vid udstrækning forsvundet.

Værktøjsbrug. Function calling og værktøjsbrug i lokale modeller er nået langt nok til at være nyttigt. Lokale agentbaserede arbejdsgange er i stigende grad praktiske.

Multimodalitet. Lokale visionmodeller som LLaVA, MiniCPM og Qwen-VL håndterer billeder godt. Lydforståelse bliver bedre.

Forskellen mellem lokale modeller og cloudmodeller bliver mindre. Til nogle anvendelser er den reelt forsvundet. Ved det mest krævende arbejde fører frontlinjemodeller i skyen stadig, men forskellen vil sandsynligvis fortsætte med at blive mindre.

Almindelige faldgruber

Forventning om frontlinjekvalitet fra skyen. En lokal 7B-model er ikke GPT-5. Det er et andet værktøj. Brug den til det, den er god til, og bed den ikke om opgaver, som kun frontlinjemodeller kan løse.

For lidt hukommelse. Indlæsning af en for stor model får appen til at gå ned eller blive ekstremt langsom. Tilpas modelstørrelsen til din RAM.

Langsom kontekstbehandling. Lokale modeller bliver markant langsommere, efterhånden som konteksten fyldes. Hold prompts på en rimelig længde; lange kontekstvinduer understøttes på papiret, men er ressourcekrævende.

Manglende opdatering. Nye modeller udkommer hver måned. Den »bedste 8B-model« fra for seks måneder siden er ikke den bedste i dag. Hent modellen igen med jævne mellemrum.

Behandling som en cloudtjeneste. Forsøg ikke at køre 10,000 parallelle lokale forespørgsler. Det vil din bærbare computer ikke bryde sig om. Lokal AI er til sekventielt eller moderat parallelt arbejde, ikke høj samtidighed.

Bemærkninger om hardware

Her er et hurtigt realitetstjek af, hvad forskellig hardware kan køre:

På pc’er giver et Nvidia-grafikkort med 12-24 GB VRAM et godt kompromis og omtrent samme kapacitet som en Mac med en tilsvarende mængde unified memory.

Gode vaner at opbygge

Installer både Ollama og LM Studio. Brug Ollama til scripts og LM Studio til udforskning i chatform.

Prøv de nyeste 7-14B-modeller med nogle måneders mellemrum. Udviklingshastigheden i denne størrelsesklasse er overraskende. Dagens bedste model er ofte mærkbart bedre end den bedste for tre måneder siden.

Byg en pipeline, der kombinerer lokalt og cloud. Brug lokale modeller til hurtige, billige og private opgaver og cloudmodeller til vanskelige, vigtige opgaver på frontlinjeniveau.

Mål på dit eget arbejde. Stol ikke på generelle benchmarks. Kør dit reelle anvendelsestilfælde gennem tre lokale modeller, og vælg den, der fungerer bedst for dig.

Cloud til de svære opgaver, lokalt til resten

Lokal AI i 2026 er et reelt værktøj og ikke en kuriositet for hobbyfolk. Til privatlivsfølsomt arbejde, batchbehandling i store mængder, offlinebrug og produktionssystemer med afgrænsede omkostninger ændrer det regnestykket markant.

Installer Ollama eller LM Studio, hent en 7-14B-model, og brug den på rigtige opgaver i en uge. Det er nok til at lære, hvilke kategorier lokal AI håndterer godt, og hvilke der fortsat hører hjemme i skyen.

Fremtidens AI er heterogen — cloud på frontlinjeniveau til de svære opgaver, kompetente lokale modeller til rutineopgaver og intelligent dirigering mellem dem. Lokal opsætning er det første skridt ind i den fremtid.