Production LLM Apps
Architect, ship, observe, and operate LLM applications after the demo stage.
31 historier (20 artikler · 11 videoer)
Start her
Et par gode steder at begynde, før du går på opdagelse i hele oversigten.
13 min læsningLLM-stacken i 2026: modeller, inferens, værktøjer og afvejninger
En praktiserende arkitekts blik på LLM-stacken i 2026 — modelniveauer, inferensudbydere, orkestreringslag, evalueringsværktøjer og de afvejninger, der faktisk betyder noget, når AI sættes i produktion.
Avanceret
12 min læsningDesign af prompts til produktion: system-, udvikler- og brugerlag
Produktionsprompter er ikke blot 'fortæl AI, hvad du vil'. De er et lagdelt system — stabile instruktioner, dynamisk kontekst og variabler pr. kald — som behandles som kode. Arkitekturen, mønstrene og disciplinen adskiller produktion fra prototyper.
Avanceret
10 min læsningFejltilstande i AI-produktion: det, der går i stykker efter demoen
AI-systemer fejler som regel på forudsigelige måder: hallucinationer, forældet kontekst, medløberi, prompt injection, usikker værktøjsbrug, skemadrift og svage fallbacks. Et register over fejltilstande til teams, der sætter reelle workflows i produktion.
AvanceretFlere i dette emne
The Agent Landscape - Lessons Learned Putting Agents Into Production
MLOps.community.
Avanceret
11 min læsningLangGraph vs. CrewAI vs. direkte API: valg af agentframework i 2026
Landskabet for agentframeworks er i 2026 mere modent, men ikke mere overskueligt. LangGraph, CrewAI, Pydantic AI, OpenAI Agents SDK og direkte API passer hver til nogle teams og projekter, men ingen passer til alle. Her får du en ærlig sammenligning og en beslutningsramme.
Avanceret
13 min læsningDesign af agenter, der ikke fortsætter i det uendelige
Den mest almindelige fejl for produktionsagenter er uendelige eller næsten uendelige løkker — agenter, der prøver igen, forgrener sig og bruger tokens uden at gøre fremskridt. Her er de arkitekturmønstre, der forhindrer det og skaber agenter, som afslutter selv svære opgaver.
Avanceret
12 min læsningComputerstyring og browseragenter i produktion
Computerstyring og browseragenter skaber virale demoer. Produktionsklare implementeringer i stor skala ser anderledes ud — afgrænset omfang, stærke sikkerhedsforanstaltninger og fokus på brugeroplevelsen. Her er de mønstre, der virker, de fejl, vi fortsat ser, og den reelle økonomi.
Avanceret
12 min læsningKontekstengineering: håndtering af 1M-tokenvinduer uden kontekstforringelse
Der findes kontekstvinduer på 1M tokens, men kvaliteten forringes længe før grænsen nås. Kontekstengineering er disciplinen i at bruge kontekstvinduer effektivt — hvad der skal medtages, hvad der skal sammenfattes, hvad der skal hentes på ny, og hvilke mønstre der holder kvaliteten høj, når konteksten vokser.
Avanceret
12 min læsningOmkostningsoptimering af inferens: promptcaching, routing og outputkontrol
LLM-inferensomkostninger kan reduceres med 60-90% med de rigtige teknikker. Promptcaching, modelrouting, outputkontrol, batching og nogle mindre kendte mønstre. Her er tallene, mønstrene og den produktionsdisciplin, der adskiller veldrevet inferens fra en løbsk regning.
Avanceret
13 min læsningSådan bygger du evalueringer, der faktisk opdager regressioner
De fleste evalueringssuiter ser imponerende ud, men overser reelle regressioner. Det kræver omhyggelig opbygning af datasæt, følsomme målinger, kalibrering af dommermodeller og en kultur præget af tillid at bygge evalueringer, der opdager det væsentlige. Her er mønstrene fra de teams, der lykkes med det.
Avanceret
13 min læsningFinjustering i 2026: Hvornår LoRA slår RAG, og hvordan du gør det uden en klynge
LoRA-finjustering er blevet tilgængelig — du kan køre reelle finjusteringer på en bærbar computer eller leje en GPU i en time. Her er de mønstre, der virker, de tilfælde, hvor finjustering slår RAG, og en praktisk arbejdsgang fra dataklargøring til drift.
Avanceret
14 min læsningMCP fra bunden: byg en produktionsklar server i TypeScript
At bygge en produktionsklar Model Context Protocol-server kræver mere end at forbinde nogle få værktøjer. Her er mønstrene for skemadesign, godkendelse, fejlhåndtering, streaming og observabilitet samt de praktiske produktionsforhold, der gør MCP-servere nyttige i stor skala.
Avanceret
12 min læsningDesign MCP-værktøjer, som LLM'er faktisk bruger korrekt
De fleste MCP-værktøjer, vi ser, er teknisk korrekte, men praktisk talt ubrugelige. LLM'er ignorerer dem, bruger dem forkert eller foretager unødvendige kald. Her er principperne for at designe værktøjer, som LLM'er tager naturligt i brug, med eksempler på almindelige fejl og løsninger.
Avanceret
12 min læsningSådan bygger du hukommelse til langvarige agenter
Agenter har brug for hukommelse ud over kontekstvinduet. Arkitekturen til langtidshukommelse — hvad der skal gemmes, hvornår det skal hentes, og hvordan det skal glemmes — afgør, om agenter føles, som om de »kender« dig, eller starter forfra hver gang. Her er mønstrene og produktionsmæssige afvejninger.
Avanceret
10 min læsningOrkestrering af flere modeller: Routing efter omkostning, latenstid og kvalitet
At bruge én model til alt er en begynderfejl. AI-systemer i produktion sender forskellige forespørgsler til forskellige modeller og sparer 60-90% i omkostninger, samtidig med at kvaliteten forbedres. Her er mønstrene, routinglogikken og afvejningerne.
Let øvet
12 min læsningObservabilitet for LLM-applikationer: sporing, omkostninger, latenstid og kvalitetsafdrift
LLM-applikationer fejler på særlige måder, som traditionel observabilitet overser. Her er mønstrene til sporing af flertrinsforløb, overvågning af omkostninger, der varierer 100x pr. kald, registrering af kvalitetsafdrift og fejlfinding af hallucinationer i produktionsskala.
Avanceret
12 min læsningByg produktionsklar RAG: indlæsning, embeddings, søgning, reranking og evaluering
En produktionsklar RAG-pipeline består af seks faser, hvor konkrete mønstre afgør kvaliteten. Her er arkitekturen, valgene i hver fase og den iterative evalueringsdisciplin, der adskiller velfungerende RAG fra skuffende løsninger.
Avanceret
14 min læsningPromptinjektion og LLM-sikkerhed: trusselsmodeller og forsvar i dybden
Promptinjektion er en permanent klasse af LLM-sikkerhedsrisici, ikke en fejl i promptformuleringen. En produktionsguide til trusselsmodeller, datagrænser, værktøjsrettigheder, regressionstest, overvågning og hændelseshåndtering.
Avanceret
12 min læsningVælg mellem prompting, RAG og finjustering (og hvornår de skal kombineres)
Prompting, RAG og finjustering er de tre store greb til at tilpasse LLM'er til dit problem. De passer hver især til nogle problemer og ikke til andre. Her er en ramme for valget, de realistiske omkostninger og de produktionsmønstre, hvor kombinationen virker bedst.
Avanceret
13 min læsningLancering af et LLM-produkt: prissætning, marginer og anti-moat-fælden
LLM-baserede produkter har en vanskeligere økonomi end traditionel SaaS. Variable omkostninger, der vokser med brugen, marginer presset af inferens, risiko for kommoditisering og konkurrenter med de samme grundmodeller. Sådan bygger du et produkt, der reelt kan forsvares — og undgår de mønstre, der får LLM-startups til at forsvinde.
Avanceret
13 min læsningStrukturerede output og funktionskald: produktionsmønstrene
Strukturerede output og funktionskald er broen fra 'LLM, der genererer tekst' til 'system, der udfører arbejde'. I produktion handler de vigtige mønstre om skemaer, fejlhåndtering, idempotens og kontrolleret forringelse — ikke kun JSON-tilstand.
Avanceret
Dybdegående gennemgang af LLM'er som ChatGPT
Andrej Karpathy.
Avanceret
Andrej Karpathy: Software Is Changing (Again)
Y Combinator.
Avanceret
LangSmith på 10 minutter
LangChain.
Avanceret
Instrumentering og evaluering af LLM'er
Hamel Husain.
Avanceret
AI prompt engineering: En dybdegående gennemgang
Anthropic.
Avanceret
Prompting 101 | Code w/ Claude
Anthropic.
Avanceret
Vertical AI Agents Could Be 10X Bigger Than SaaS
Y Combinator.
Avanceret
How AI is Reinventing Software Business Models ft. Bret Taylor of Sierra
Sequoia Capital.
Avanceret
OpenAI DevDay 2024 | Strukturerede outputs til pålidelige applikationer
OpenAI.
Avanceret
Pydantic is all you need: Jason Liu
AI Engineer.
Avanceret