32 MinutenSchnelle LLM-Bereitstellung mit vLLM und PagedAttention
Verstehen, warum Serving-Engines, Batching und der Speicherbedarf des KV-Caches die Wirtschaftlichkeit selbst betriebener Inferenz bestimmen.
Prompt Engineering. Das Video vergleicht Anthropics Prompt-Caching mit Geminis Context Caching und zeigt konkrete Latenz- und Kostensenkungen für Chats mit langen Dokumenten, Few-Shot- und Multi-Turn-Anwendungen. Die Gegenüberstellung des Aufpreises für Cache-Schreibvorgänge und des Rabatts für Cache-Lesevorgänge entspricht genau der Annahme des Artikels dazu, wann sich Caching auszahlt.
Das Video wurde im August 2024, also mit inzwischen veralteten Modellnamen und Tokenpreisen, aufgezeichnet. Der Mechanismus aus Schreibaufschlag und Leserabatt gilt weiterhin. Prüfen Sie die aktuellen Preisseiten der Anbieter, bevor Sie Ihre Workloads kalkulieren.
Abschätzen, wann sich Prompt-Caching für reale Workloads lohnt, indem Schreibaufschläge und Einsparungen beim Lesen gegeneinander abgewogen werden.
Grundlegendes Wissen über die Preise der LLM-API und Workloads mit langen Prompts.
Zuletzt geprüft: 18. Mai 2026
Fahren Sie mit demselben Lernpfad fort und sehen Sie die nächsten kuratierten Begleitvideos.
32 MinutenVerstehen, warum Serving-Engines, Batching und der Speicherbedarf des KV-Caches die Wirtschaftlichkeit selbst betriebener Inferenz bestimmen.
34 MinutenPreisgestaltung und Spezialisierung eines KI-Produkts anhand messbarer Ergebnisse statt anhand von Sitzplatzzahlen bewerten.
6 MinutenDie Kernarchitektur eines Sprachagenten und die Fehlerpunkte erkennen, die das Kundenvertrauen in realen Anrufen beeinträchtigen.
Sorgfältig ausgewählte externe Kurse, die dieses Thema vertiefen.
Emory University Goizueta Business School faculty
The deeper, university-level counterpart to our beginner HubSpot marketing pick — Emory's business-school treatment goes past 'how to prompt' into training generative models for brand-specific output, the purchase-funnel economics of AI-generated content, and a full module of genuine skepticism about when generative AI is and isn't worth using in marketing.
IBM AI Academy
Die Antwort der GenAI-Ära auf strategische Fragen der Geschäftsleitung. Drei kurze Kurse, die sich gezielt an Führungskräfte richten – ohne technische Vorkenntnisse vorauszusetzen. Sie zeigen, wo generative KI Wert schafft, wie sie verantwortungsvoll gesteuert wird und wie aus einem vagen „Wir sollten KI einsetzen“ ein konkreter, belastbarer Anwendungsfall entsteht. Bewertung: 4,6 bei rund 700 Rezensionen. Am besten vor Ihrer nächsten KI-Budgetentscheidung absolvieren.