Glosario de IA para Developers

LLM en bucle que planifica, usa herramientas y corrige errores hasta lograr objetivo.

Cuando un LLM inventa datos con confianza porque no encuentra la respuesta.

El modelo aprende a que palabras mirar para predecir la siguiente.

Buscar por significado, no por keywords. coche barato encuentra vehiculo economico.

Pedir al modelo que piense paso a paso antes de responder para mejorar razonamiento.

Dividir documentos largos en trozos 300-800 tokens para embedear sin perder contexto.

Cantidad maxima de tokens que un modelo puede ver a la vez (entrada + salida).

Vectores numericos que representan el significado de un texto; textos similares quedan cerca en el espacio.

Dar 2-5 ejemplos dentro del prompt para que copie formato sin entrenar.

Reentrenar un LLM con tus ejemplos para que aprenda estilo o dominio especifico.

Capacidad de un LLM para devolver JSON estructurado que dispara una funcion de tu codigo en vez de texto libre.

Ejecutar modelo ya entrenado para generar texto. Lo que haces al llamar a la API.

Modelo entrenado con billones de tokens que predice siguiente palabra y razona.

Metodo para fine-tunear LLMs entrenando solo 1% de parametros, barato y rapido.

Protocolo abierto de Anthropic para que un LLM se conecte a herramientas y datos externos de forma estandar.

Disenar instrucciones que maximizan la calidad de la respuesta sin cambiar el modelo.

Reducir precision de pesos 16-bit a 4-bit para que 70B quepa en GPU consumer.

Tecnica que combina busqueda en tu base de datos con un LLM para generar respuestas basadas en documentos reales, no en memoria.

Segunda pasada con cross-encoder que reordena docs para mejorar precision.

Etapa de RAG donde buscas los k docs mas relevantes para el query.

Entrenamiento con feedback humano para alinear LLM: util, honesto e inofensivo.

Enviar tokens conforme se generan por SSE en vez de esperar respuesta completa.

Instruccion oculta que define rol, tono y reglas antes de cada conversacion.

Parametro 0-2 que controla aleatoriedad. 0 determinista, 1 creativo.

Unidad minima que cobra un LLM. 1 token aprox 4 caracteres; 100 tokens ~75 palabras.

Capacidad de un agente para llamar APIs o BD mediante tools definidas.

Filtra tokens hasta sumar prob p. Alternativa a temperature para diversidad.

Arquitectura 2017 basada en attention que reemplazo RNNs y permite paralelizar.

Base de datos optimizada para guardar embeddings y buscar por similitud en milisegundos.

Pedir tarea sin ejemplos, solo instruccion. Depende del conocimiento preentrenado.