Creación de aplicaciones LLM: APIs, RAG, Incrustaciones y Uso de Herramientas

Abra el código fuente de cualquier aplicación LLM que realmente se mantenga unida en producción, y el impresionante prompt es lo más pequeño. Lo que rodea al prompt es la ingeniería: el esquema que restringe la salida, el índice que consulta para hechos que no conoce, la herramienta que toma la acción, la evaluación que detecta la regresión antes de enviarla. Ese código circundante — no un conjuro inteligente — es lo que convierte una buena respuesta en un sistema que puede respaldar. Este curso enseña ese código circundante como un pequeño conjunto de primitivas duraderas. La superficie de la API como un contrato estable bajo nombres de modelos que rotan cada pocos meses: mensajes, salidas estructuradas, transmisión, almacenamiento en caché de prompts, y las matemáticas de tokens y latencia que vienen con ellos. Embeddings, índices ANN, recuperación híbrida y reordenamiento con cross-encoder como la forma estándar de fundamentar un modelo en sus propios datos, con el chunking y la ingesta tratados como ingeniería de primera clase en lugar de un truco de notebook. Llamadas a funciones, el bucle del agente, efectos de herramienta idempotentes y el Protocolo de Contexto del Modelo como la forma estándar de permitir que un modelo actúe en sistemas reales, con alcance de capacidad y humano en el bucle donde la reversibilidad lo exige. Y el bucle de ingeniería — conjuntos de datos dorados, LLM como juez con sus sesgos conocidos, la tríada de evaluación RAG, trazado y defensas de tríada letal — que convierte 'funcionó una vez' en evidencia en la que se puede confiar. Terminará con cinco proyectos: Q&A de documentos con citas, extracción estructurada a escala, un asistente interno con herramientas de solo lectura, un agente de acción del cliente con herramientas mutantes y un agente de investigación de múltiples pasos. A lo largo de treinta y nueve lecciones, construye el hábito subyacente a todos ellos: dado un caso de uso, alcance las primitivas correctas, compóngalas, evalúelas, envíe.