32 minuterSnabb LLM-servering med vLLM och PagedAttention
Förstå varför serveringsmotorer, batchning och minne för KV-cache dominerar ekonomin för inferens i egen drift.
AvanceradPrivat/lokal AI
Build Hour: promptcachelagring
OpenAI. OpenAI:s egen Build Hour om promptcachelagring – tröskeln på 1024 token, kravet på stabila prefix, stora rabatter för cachelagring av ljud i realtid (kontrollera den aktuella prissidan för den exakta nivån) och påverkan på tiden till första token vid långa indata. Användbart när du bedömer den tekniska insats som faktiskt krävs för att träffa cachen tillförlitligt med dina produktionsprompter.
Anteckning från AI Expert
Videon ligger långt under vår visningsgräns men är den officiella djupdykningen. Tröskeln på 1024 token och reglerna för stabila prefix avgör om cachelagringen alls fungerar för dig, och de aktuella priserna finns på prissidan.
Vad du bör få ut av detta
Använd promptcachelagring endast när stabila prefix, latens och kostnadsbeteende passar arbetsbelastningen.
Titta på eller ha koll på först
Du bör redan leverera prompter via OpenAI:s API – sessionen handlar om att träffa cachen tillförlitligt i produktion.
Senast granskad: 18 maj 2026
Se nästa
Fortsätt längs samma lärstig med nästa kurerade kompletterande video.
32 minuter
34 minuterSå förändrar AI affärsmodellerna för programvara med Bret Taylor från Sierra
Utvärdera prissättning och specialisering av AI-produkter utifrån mätbara resultat i stället för antal användarplatser.
AvanceradAI för företag
6 minuterAI-röstassistenter: så fungerar de egentligen och därför låter de så mänskliga
Känn igen en röstassistents centrala arkitektur och de felkällor som påverkar kundernas förtroende under verkliga samtal.
AvanceradAutomatisering
Gå vidare
Externa kurser som är handplockade och går djupare in i detta ämne.
Coursera · Emory UniversityGenerative AI in Marketing
Emory University Goizueta Business School faculty
The deeper, university-level counterpart to our beginner HubSpot marketing pick — Emory's business-school treatment goes past 'how to prompt' into training generative models for brand-specific output, the purchase-funnel economics of AI-generated content, and a full module of genuine skepticism about when generative AI is and isn't worth using in marketing.
Avancerad~14 hours · self-paced (4 modules)
Coursera · IBMGenerative AI for Executives and Business Leaders
IBM AI Academy
Svaret på ledningens strategiska frågor i den generativa AI-eran. Tre korta kurser direkt riktade till företagsledare – inga tekniska förkunskaper krävs – om var generativ AI skapar värde, hur den styrs ansvarsfullt och hur ett vagt ”vi borde använda AI” omvandlas till ett konkret användningsfall som går att försvara. Betyget är 4,6 baserat på ~700 omdömen. Gå den helst före nästa beslut om AI-budgeten.
Avancerad~10 timmar · specialisering med 3 kurser