Diccionario de Inteligencia Artificial

Sistema en el que un LLM toma decisiones autónomas, usa herramientas externas y ejecuta tareas en varios pasos hasta cumplir un objetivo, en lugar de limitarse a responder un mensaje.

Enseñar al modelo con ejemplos dentro del propio prompt. Aprende para esa respuesta y lo olvida al terminar: no cambia nada del modelo.

Aprender de datos sin respuestas correctas: el modelo busca la estructura que ya existe en ellos en vez de imitar una etiqueta.

Forma de entrenar en la que un agente aprende probando acciones dentro de un entorno y recibiendo una recompensa o un castigo según el resultado.

Forma de entrenar un modelo dándole ejemplos con la respuesta correcta ya puesta, para que aprenda a predecirla en casos nuevos que nunca ha visto.

Mecanismo central de los transformers que permite a cada token de una secuencia ponderar la relevancia de todos los demás tokens al construir su nueva representación.

Algoritmo que calcula cómo cada parámetro de una red neuronal debe modificarse para reducir el error, propagando los gradientes desde la salida hacia atrás a través de las capas.

Prueba estandarizada que se pasa a muchos modelos para poder compararlos entre sí con la misma vara de medir, como MMLU, HumanEval o SWE-bench.

Técnica de prompting que pide al modelo razonar paso a paso antes de dar la respuesta final, mejorando significativamente su rendimiento en problemas que requieren multi-step reasoning.

Proceso de partir documentos largos en fragmentos manejables antes de indexarlos, para que la búsqueda recupere trozos con sentido y no páginas enteras.

Cantidad máxima de tokens que un modelo de lenguaje puede procesar a la vez en una sola petición, incluyendo prompt, contexto recuperado, historial de conversación y respuesta.

Forma habitual de facturar los modelos de lenguaje: se paga por cada mil o millón de tokens que entran y salen, con precios distintos para cada dirección.

Conjunto de datos organizado que se usa para entrenar, validar y evaluar un modelo. Su calidad marca el techo de lo que ese modelo podrá llegar a hacer.

Datos generados artificialmente que imitan a los reales. Sirven para entrenar y probar sin exponer información de personas.

Modelo generativo que aprende a producir imágenes, vídeo o audio partiendo de ruido aleatorio y eliminándolo progresivamente paso a paso, guiado por un condicionamiento textual.

Técnica que entrena un modelo pequeño (alumno) para imitar el comportamiento de un modelo grande (profesor), preservando gran parte de su calidad con una fracción del coste.

Algoritmo de alineamiento que optimiza un modelo directamente sobre preferencias humanas (respuesta A es mejor que B) sin necesidad de entrenar un reward model intermedio.

Vector denso de números reales que representa un token, palabra, frase o documento en un espacio donde la cercanía geométrica refleja similitud semántica.

Batería de casos de prueba con respuesta esperada que mide si un sistema con IA funciona, y sobre todo si un cambio lo ha mejorado o empeorado.

Proceso de tomar un modelo preentrenado y continuar su entrenamiento con datos específicos para adaptarlo a una tarea, dominio o estilo concretos.

Modelo de IA entrenado con datos masivos y diseñado para servir de base general sobre la que construir aplicaciones específicas mediante prompting, fine-tuning o RAG.

Capacidad de un LLM para invocar herramientas externas estructuradas decidiendo qué función llamar y con qué argumentos, en lugar de limitarse a generar texto.

Algoritmo de optimización que ajusta iterativamente los parámetros de un modelo en la dirección opuesta al gradiente del error, hasta encontrar el mínimo que produce las mejores predicciones.

Conjunto de controles que rodean a un modelo para limitar qué entra, qué sale y qué puede ejecutar, de modo que un fallo suyo no se convierta en un problema real.

Fenómeno por el que un LLM genera información que suena coherente y plausible pero es factualmente falsa o inventada, derivado de su naturaleza estadística de predicción de tokens.

Ajuste que tú decides antes de entrenar y que el modelo no aprende solo: cuántas capas, a qué velocidad aprende, cuántos ejemplos por paso.

Proceso de usar un modelo ya entrenado para generar predicciones o respuestas en tiempo real. Es la fase de explotación: cada vez que llamas a un LLM en producción, estás haciendo inference.

Mecanismo de cacheo durante la inferencia de un transformer que guarda las matrices Key y Value de cada token ya procesado, evitando recomputarlas en cada paso de generación.

Modelo de lenguaje de gran tamaño basado en redes neuronales tipo transformer, entrenado con cantidades masivas de texto para predecir el siguiente token de una secuencia.

Técnica de fine-tuning eficiente que adapta modelos grandes entrenando solo pequeñas matrices de baja dimensionalidad, en lugar de modificar los pesos originales del modelo.

Arquitectura de modelos de secuencia basada en State Space Models que escala linealmente con la longitud del contexto, posicionada como alternativa al transformer en contextos muy largos.

Protocolo abierto creado por Anthropic en 2024 que estandariza cómo los modelos de IA se conectan a herramientas, datos y entornos externos. El USB-C de los LLMs.

Arquitectura en la que un modelo tiene muchos parámetros totales pero solo activa una pequeña fracción de ellos por cada token, gracias a un router que elige qué expertos consultar.

Modelo que procesa y genera múltiples tipos de datos —texto, imagen, audio, vídeo— dentro de la misma red neuronal, en lugar de necesitar modelos separados especializados por tipo.

Primera fase de creación de un modelo de lenguaje: entrenarlo desde cero con cantidades masivas de texto y un objetivo simple (predecir el siguiente token) durante semanas o meses en miles de GPUs.

Disciplina de diseñar instrucciones, contexto y formato de los prompts enviados a un LLM para maximizar la calidad, consistencia y eficiencia de las respuestas que produce.

Ataque que consiste en colar instrucciones dentro del texto que un modelo procesa, para que obedezca al atacante en lugar de a quien lo programó.

Técnica que reduce la precisión numérica de los pesos de un modelo (de 32 bits a 16, 8, 4 o incluso 2 bits) para hacerlo más pequeño y rápido, sacrificando un mínimo de calidad.

Patrón arquitectónico que combina un LLM con un sistema de recuperación: antes de generar respuesta, el modelo busca información relevante en una base externa y la incluye en su contexto.

Modelo de lenguaje entrenado para razonar explícitamente antes de responder, generando largas cadenas internas de pensamiento que mejoran drásticamente su rendimiento en problemas complejos.

Modelo matemático formado por capas de nodos conectados que aprende a transformar entradas en salidas ajustando el peso de cada conexión a partir de ejemplos.

Segundo paso de una búsqueda que reordena los resultados recuperados usando un modelo más preciso, para que lo más relevante quede arriba de verdad.

Técnica de alineamiento donde un modelo de lenguaje se ajusta mediante aprendizaje por refuerzo usando preferencias humanas (qué respuesta es mejor) como señal de recompensa.

Cuando un modelo trata sistemáticamente peor a un grupo. No es un fallo del código: casi siempre estaba ya en los datos.

Medida que compara dos vectores por el ángulo que forman y no por su tamaño. Es la forma habitual de decidir si dos textos hablan de lo mismo.

Fallo por el que un modelo memoriza los datos con los que entrenó, incluido su ruido, y acierta con ellos pero falla al enfrentarse a casos nuevos.

Instrucción de partida que fija el papel, las reglas y los límites de un modelo antes de que empiece la conversación, y que el usuario no ve ni escribe.

Ajuste que controla cuánto azar mete un modelo al elegir la siguiente palabra: baja lo vuelve predecible y repetitivo, alta lo vuelve creativo y errático.

Unidad mínima que un modelo de lenguaje procesa, generada por un tokenizador. No es una palabra ni un carácter: es una pieza intermedia optimizada para compresión y vocabulario.

Arquitectura de red neuronal basada en el mecanismo de atención que procesa secuencias en paralelo. Es la base de todos los grandes modelos modernos: GPT, Claude, Gemini, Llama.

Base de datos especializada en almacenar y buscar vectores de embeddings de alta dimensionalidad por similitud, pieza fundamental del stack moderno de RAG y búsqueda semántica.

Adaptación del transformer al procesamiento de imágenes que las divide en parches y los trata como una secuencia de tokens, eliminando la necesidad de convoluciones.