32 MinutenSchnelle LLM-Bereitstellung mit vLLM und PagedAttention
Verstehen, warum Serving-Engines, Batching und der Speicherbedarf des KV-Caches die Wirtschaftlichkeit selbst betriebener Inferenz bestimmen.
FortgeschrittenPrivate / lokale KI
Update von Broadcom zu Funktionen und Möglichkeiten der VMware Private AI Foundation
Tech Field Day. Das Video zeigt private KI als mehrschichtige Infrastruktur: kontrollierte Rechenressourcen, isolierte Umgebungen, Kubernetes, Inferenzcontainer, Modell-Governance, Self-Service-Bereitstellung, gemeinsame GPU-Nutzung und Monitoring. Das entspricht direkt der Warnung des Artikels, dass Datenschutz von Bereitstellungsgrenzen, Logs, Zugriffen und Betriebsprozessen abhängt und nicht vom Etikett „lokal“.
Hinweis von AI Expert
Dies ist eine VMware-/Broadcom-spezifische Architektur und nicht die einzige Lösung. Nutzen Sie sie zum Verständnis des Unternehmensmusters und vergleichen Sie sie anschließend für den konkreten KMU-Anwendungsfall mit VPC-Endpunkten, Enterprise-SaaS, einfacheren selbst betriebenen Stacks und lokalen Geräte-Workflows.
Was Sie aus diesem Video mitnehmen sollten
Private KI als Infrastruktur- und Governance-Entscheidung bewerten, statt sich reflexartig für SaaS oder Selbstbetrieb zu entscheiden.
Das sollten Sie zuerst ansehen oder wissen
Grundlegendes Verständnis von Cloud- oder On-Premises-Infrastruktur, Kubernetes, GPUs und dem Grund dafür, warum vertrauliche Daten die KI-Architektur verändern.
Zuletzt geprüft: 18. Mai 2026
Nächste Videos ansehen
Fahren Sie mit demselben Lernpfad fort und sehen Sie die nächsten kuratierten Begleitvideos.
32 Minuten
6 MinutenKI-Sprachagenten: Wie sie wirklich funktionieren und warum sie so menschlich klingen
Die Kernarchitektur eines Sprachagenten und die Fehlerpunkte erkennen, die das Kundenvertrauen in realen Anrufen beeinträchtigen.
FortgeschrittenAutomatisierungen
69 MinutenDie Agentenlandschaft – Erkenntnisse aus dem Produktiveinsatz von Agenten
Die wahrscheinlich ersten Fehlermodi eigener Agenten erkennen und Tests, Rückfallmechanismen sowie Abschaltkriterien für jeden davon im Voraus planen.
FortgeschrittenKI-Sicherheit und Datenschutz