32 minutterHurtig LLM-inferens med vLLM og PagedAttention
Forstå, hvorfor inferensmotorer, batchbehandling og hukommelse til KV-cache har stor betydning for økonomien i selvhostet inferens.
AvanceretPrivat / lokal AI
Opdatering om funktioner i VMware Private AI Foundation fra Broadcom
Tech Field Day. Videoen viser privat AI som lagdelt infrastruktur med kontrollerede beregningsressourcer, isolerede miljøer, Kubernetes, inferenscontainere, styring af modeller, selvbetjent klargøring, deling af GPU'er og overvågning. Det understøtter artiklens pointe om, at databeskyttelsen afhænger af udrulningsgrænser, logning, adgangskontrol og drift, ikke blot af betegnelsen "lokal".
Bemærkning fra AI Expert
Videoen viser en arkitektur, der er specifik for VMware/Broadcom, og er derfor ikke en neutral sammenligning af alle muligheder. Brug den til at forstå mønstret for større virksomheder, og sammenlign derefter med VPC-slutpunkter, SaaS til virksomheder, enklere selvhostede løsninger og arbejdsgange på lokale enheder i den konkrete SMV-anvendelse.
Hvad du bør få ud af dette
Vurdér privat AI som en beslutning om infrastruktur og styring frem for automatisk at vælge enten SaaS eller selvhosting.
Forudsætninger
Grundlæggende forståelse af cloudinfrastruktur eller lokal infrastruktur, Kubernetes, GPU'er og hvorfor fortrolige data ændrer AI-arkitekturen.
Senest gennemgået: 18. maj 2026
Se næste
Fortsæt ad den samme læringsvej med de næste kuraterede videoer.
32 minutter
6 minutterAI-stemmeagenter: sådan fungerer de egentlig, og derfor lyder de så menneskelige
Genkend kernearkitekturen i en voice-agent og de fejltilstande, der påvirker kundetillid i rigtige opkald.
AvanceretAutomatiseringer
69 minutterAgentlandskabet – erfaringer fra at sætte agenter i produktion
Genkend de fejltilstande, dine egne agenter rammer først, og forudplanlæg tests, reserveløsninger og kill-kriterier for hver.
AvanceretAI-sikkerhed og databeskyttelse