Emne

Private, Local & Self-hosted AI

Local models, private deployment patterns, self-hosted inference, and hybrid architectures.

10 historier (4 artikler · 6 videoer)

Start her

Et par gode steder at begynde, før du går på opdagelse i hele oversigten.

10 min læsning

Artikel

Lokal AI på din Mac: Ollama, LM Studio, og hvad 7B-modeller reelt kan

Lokal AI er blevet moden. Med Ollama eller LM Studio og en moderne Mac kan du køre kompetente modeller offline, gratis og privat. Her er, hvad der virker, hvad der ikke gør, og hvilke anvendelser der reelt har gavn af det.

Let øvet

10 min læsning

Artikel

Udrulningsmønstre for privat AI: lokalt, i VPC, selvhostet og hybridt

Privat AI er ikke én bestemt arkitektur. En praktisk sammenligning af lokale modeller, virksomheds-SaaS, VPC-udrulning, selvhostet inferens og hybride mønstre for SMV'er, der prioriterer databeskyttelse og kontrol.

Avanceret

11 min læsning

Artikel

Selvhostet kontra hostet inferens: vLLM, TGI og break-even-regnestykket

Ved hvilken skala slår selvhosting API-kald? Det faktiske regnestykke, de driftsmæssige realiteter og de mønstre, der adskiller teams, som bør selvhoste, fra teams, som fortsat bør betale for administreret inferens.

Avanceret

Flere i dette emne

Video

VMware Private AI Foundation Capabilities and Features Update from Broadcom

Tech Field Day.

Avanceret

13 min læsning

Artikel

Finjustering i 2026: Hvornår LoRA slår RAG, og hvordan du gør det uden en klynge

LoRA-finjustering er blevet tilgængelig — du kan køre reelle finjusteringer på en bærbar computer eller leje en GPU i en time. Her er de mønstre, der virker, de tilfælde, hvor finjustering slår RAG, og en praktisk arbejdsgang fra dataklargøring til drift.

Avanceret