¿Es el fin del RAG? El nuevo almacenamiento en caché de prompts de Anthropic

Prompt Engineering. Compara la caché de prompts de Anthropic con la caché de contexto de Gemini mediante reducciones concretas de latencia y coste para chat con documentos largos, *few-shot* y conversaciones de varios turnos. El desglose entre el recargo por escribir en caché y el descuento por leer de ella es exactamente lo que presupone el artículo al explicar cuándo compensa.

Ver siguiente

Continúa por el mismo itinerario de aprendizaje con los siguientes vídeos complementarios seleccionados.

32 minutos

Serving rápido de LLM con vLLM y PagedAttention

Comprenderás por qué los motores de inferencia, el procesamiento por lotes y la caché KV dominan la economía del alojamiento propio.

AvanzadoIA privada/local

34 minutos

Cómo la IA está reinventando los modelos de negocio del software ft. Bret Taylor de Sierra

Evaluarás los precios y la especialización de un producto de IA en torno a resultados medibles, no al número de puestos.

AvanzadoIA para empresas

6 minutos

Agentes de voz de IA: cómo funcionan realmente y por qué suenan tan humanos

Reconocerás la arquitectura básica de un agente de voz y los puntos de fallo que afectan a la confianza del cliente en llamadas reales.

AvanzadoAutomatizaciones