Neural Networks

Una familia de modelos parametrizados

Una red neuronal es un modelo computacional que compone transformaciones parametrizadas sobre representaciones de entrada para producir representaciones o salidas útiles para una tarea. Sus parámetros suelen ajustarse mediante aprendizaje. La familia incluye arquitecturas diferentes; no se define por imitar fielmente un cerebro, generar lenguaje o conectarse a herramientas externas.

Machine Learning Fundamentals conserva el marco de datos, objetivo, entrenamiento y generalización. Las redes son un conjunto de modelos dentro de ese marco, no todo ML. Un sistema puede resolver una tarea mediante otros modelos y una red puede utilizarse para clasificar, predecir, representar o generar sin convertirse en una aplicación completa.

El interés de ingeniería está en comprender qué información entra, cómo se transforma, qué se aprende y qué propiedades debe preservar la integración. No es necesario derivar cálculo diferencial para distinguir una arquitectura de una instancia entrenada. Sí resulta importante reconocer que cambiar pesos, representación o configuración puede cambiar el comportamiento aunque la interfaz tenga la misma forma.

El capítulo Deep Feedforward Networks de Goodfellow, Bengio y Courville ofrece una referencia académica para la composición de funciones parametrizadas. Aquí se utiliza esa perspectiva para organizar conceptos y límites, sin convertir el canonical en un manual de una biblioteca.

Entradas, unidades y pesos

La entrada necesita una representación numérica: valores tabulares, píxeles, características de una señal o vectores asociados a tokens, entre otras posibilidades. El significado de cada dimensión depende de la preparación y del modelo. Una lista de números con el tamaño esperado puede seguir representando variables en orden equivocado o utilizar otra escala.

Una unidad sencilla puede combinar entradas mediante pesos, sumar un sesgo y aplicar una función. Los pesos determinan cuánto contribuye cada componente bajo esa operación; no son necesariamente explicaciones comprensibles de su importancia en el sistema completo. Muchas interacciones distribuyen la representación entre unidades y capas.

Los parámetros entrenables pueden incluir matrices, sesgos y otros valores específicos de la arquitectura. No todos los números presentes en la ejecución se aprenden: una entrada, una máscara o una configuración pueden cumplir funciones distintas. Mirar que un valor está almacenado dentro del artefacto no basta para identificar cómo fue elegido.

La representación y las convenciones de entrada forman parte del contrato práctico. Cambiar normalización, vocabulario o codificación de categorías puede producir un sistema diferente aun si no se cambian los pesos. El consumidor necesita una instancia coherente de esos elementos, no solamente un archivo al que se llama modelo.

Capas y composición de transformaciones

Una capa organiza una transformación o grupo de operaciones. En una red feedforward, la salida de una etapa alimenta otras posteriores sin recurrencia del mismo tipo que una red recurrente. La composición permite construir representaciones intermedias; no exige que cada capa corresponda a un concepto humano identificable.

La intuición puede expresarse sin fórmulas: entrada numérica → transformación parametrizada → activación → nueva transformación → salida. Es una ilustración, no una arquitectura universal. Redes con conexiones residuales, ramas o atención pueden tener otra estructura de dependencias. No todas son una cadena de capas densas idénticas.

Apilar transformaciones afines sin introducir otras operaciones no aporta por sí solo la expresividad de una composición no lineal: esa cadena puede reducirse a otra transformación afín. Las activaciones y otras operaciones cambian qué relaciones puede representar el conjunto. Esto explica por qué contar capas sin examinar sus funciones dice poco sobre capacidad útil.

Las dimensiones necesitan ser compatibles para que una operación pueda ejecutarse, pero compatibilidad de formas no garantiza compatibilidad semántica. Dos vectores del mismo tamaño pueden pertenecer a representaciones entrenadas para propósitos distintos. El contrato de la operación matemática es una parte del contrato del sistema.

Activaciones y representaciones intermedias

Una función de activación transforma valores de una unidad o capa, frecuentemente de forma no lineal. Distintas elecciones favorecen propiedades de optimización y representación diferentes. No existe una activación universal que haga correcta cualquier red ni una elección suficiente para determinar su capacidad final.

Las representaciones internas pueden capturar regularidades útiles sin corresponder a una lista explícita de reglas. Esa flexibilidad también limita las explicaciones ingenuas: observar un valor alto en una unidad no demuestra que el modelo haya reconocido una intención en el sentido humano. La interpretación necesita evidencia adecuada a la afirmación.

Embeddings trata la representación de objetos en espacios vectoriales. Una red puede aprender o transformar embeddings, y sus estados internos también son representaciones. Eso no significa que cualquier vector intermedio sea adecuado para comparar documentos externamente. El objetivo de entrenamiento y la forma de obtenerlo condicionan su utilidad.

La representación puede ser específica de la tarea o reutilizable bajo ciertas condiciones. Reutilizar una capa o un modelo preentrenado requiere examinar entradas y alcance; el mismo nombre de dimensión no garantiza que dos instancias aprendidas compartan coordenadas comparables.

Forward pass y salida

El forward pass calcula la salida a partir de entradas, parámetros y configuración. Puede producir una cantidad, un vector de puntuaciones, una representación o una distribución según la arquitectura y la tarea. Ejecutarlo no significa ajustar automáticamente los parámetros. Durante inferencia puede utilizarse una versión fijada del modelo.

Una salida de clasificación puede necesitar una transformación adicional para convertirse en probabilidades o en una decisión. Una puntuación alta no implica necesariamente confianza calibrada. El sistema que consume la salida debe conocer qué significa el valor, qué clases existen y qué operación de decisión aplica.

El forward pass también se ejecuta durante entrenamiento para calcular resultados sobre ejemplos. Su presencia no distingue por sí sola training de inference: interesa qué ocurre después, qué operaciones están activas y si se actualizan parámetros. Algunas arquitecturas utilizan comportamientos distintos entre esas fases.

Una integración puede fallar aunque el cálculo numérico termine sin error. Entradas truncadas, categorías intercambiadas o una revisión incorrecta de pesos pueden producir salidas formalmente válidas e inútiles para la tarea. Las comprobaciones de software y la evidencia sobre el modelo necesitan complementarse.

Loss, optimización y gradientes

La loss expresa una penalización respecto del objetivo elegido. Puede comparar una salida con una etiqueta o participar en otro objetivo de aprendizaje. Resume un criterio definido, no toda la calidad del producto. Reducirla no prueba por sí solo que las consecuencias comerciales o las restricciones de integración sean correctas.

Un gradiente indica cómo cambia localmente una función respecto de sus parámetros. La optimización basada en gradientes utiliza esa información para proponer ajustes que busquen mejorar el objetivo. Es una guía local dentro de un problema que puede ser complejo; no una garantía general de encontrar la mejor solución posible.

Una iteración conceptual puede calcular salidas, evaluar loss, obtener gradientes y actualizar parámetros mediante un optimizador. Trabajar por minibatches utiliza grupos de ejemplos para esas estimaciones. El tamaño del grupo y otros ajustes afectan ejecución y aprendizaje, sin crear un procedimiento único apropiado para todos los casos.

También existen condiciones que dificultan optimización: escala de entradas, inicialización, estabilidad numérica y señales de gradiente poco útiles, entre otras. No todo fallo de aprendizaje se corrige ampliando la red. Puede requerir revisar objetivo, representación o evidencia antes de invertir en un ajuste más costoso.

Backpropagation no es todo el entrenamiento

Backpropagation calcula eficientemente gradientes propagando contribuciones hacia atrás por el grafo de operaciones, aplicando relaciones de derivación. No significa que la red «piense al revés» ni que recuerde cada ejemplo como una regla. Es un procedimiento de cálculo utilizado dentro de muchos entrenamientos basados en gradientes.

El optimizador utiliza esos gradientes para actualizar parámetros bajo una política de ajuste. Seleccionar datos, definir el objetivo, elegir configuración y comprobar generalización son otras responsabilidades del entrenamiento. Confundir backpropagation con todo el proceso oculta decisiones que afectan directamente el comportamiento aprendido.

Una herramienta de diferenciación automática puede realizar el cálculo sin que el desarrollador derive cada operación a mano. Eso no demuestra que el objetivo esté bien definido ni que las operaciones representen la intención buscada. Un gradiente correctamente calculado respecto de una loss equivocada optimiza precisamente esa formulación equivocada.

La distinción también ayuda a diagnosticar: un error de forma puede impedir el forward pass; una operación incompatible puede bloquear gradientes; un entrenamiento que ejecuta ambos puede generalizar mal. Son problemas diferentes, con evidencias y remedios diferentes.

Parámetros e hiperparámetros

Los parámetros son valores ajustados dentro del procedimiento de aprendizaje considerado. Los hiperparámetros configuran decisiones externas a esa optimización, como ciertas dimensiones, regularización o tasa de aprendizaje. Una búsqueda de configuraciones puede ajustar esos valores a otro nivel; la frontera depende del proceso que se esté describiendo.

Elegir una arquitectura o una configuración después de observar repetidamente el conjunto reservado puede consumir parte de su independencia. La distinción entre parámetros e hiperparámetros no evita por sí sola overfitting ni fuga de información. machine-learning-fundamentals conserva las condiciones de generalización y partición de evidencia.

Guardar solamente el número de parámetros tampoco identifica una red. Importan valores, estructura, transformaciones de entrada y configuración de salida. Dos instancias del mismo tamaño pueden comportarse de manera muy diferente; una variación pequeña puede cambiar un caso relevante aunque preserve la mayoría de resultados habituales.

Para reproducir una observación conviene identificar el artefacto entrenado que realmente intervino. El nombre de la arquitectura o la configuración inicial de entrenamiento pueden resultar insuficientes para recuperar los pesos y el estado pertinente de ejecución.

Arquitectura y modelo entrenado

La arquitectura describe estructura y operaciones: conexiones, tipos de capas, dimensiones y relaciones de procesamiento. El modelo entrenado incorpora esa estructura junto con parámetros aprendidos y otros artefactos o configuración necesarios. Una arquitectura no es un checkpoint particular; varios entrenamientos pueden producir instancias diferentes de la misma familia.

Un checkpoint de entrenamiento puede conservar más que pesos, como estado del optimizador, según la implementación. No debe confundirse con Agent Checkpoints and Recovery, que trata continuidad de ejecución de agentes. Compartir la palabra checkpoint no convierte ambos objetos en el mismo concepto.

La versión utilizable necesita consistencia entre representación de entrada, arquitectura y parámetros. Cargar pesos de otra instancia no demuestra compatibilidad porque coincidan algunos nombres o dimensiones. También puede importar cómo se interpreta la salida y qué operaciones están disponibles en el entorno.

Esta diferencia separa innovación arquitectónica de un resultado de entrenamiento. Una mejora observada puede provenir de datos, objetivo o procedimiento aunque la arquitectura se conserve. Atribuir todo desempeño al nombre de la familia produce una explicación incompleta.

Deep learning y familias de arquitecturas

Deep learning suele referirse a aprendizaje con representaciones neuronales de múltiples capas. No hay un número universal de capas que delimite toda discusión sobre qué es profundo. La organización y el tipo de transformación importan además de la profundidad contada.

Redes densas, convolucionales y recurrentes ilustran estructuras diferentes; no constituyen una historia donde una elimina a todas las anteriores. Transformers es otra familia arquitectónica que utiliza atención y otras transformaciones. Las redes neuronales son mucho más amplias que Transformers y los Transformers no se limitan a producir lenguaje.

La arquitectura adecuada depende de información, tarea, restricciones y evidencia. Un modelo más profundo puede ser útil y también aumentar complejidad de ajuste e integración. Ni una familia popular ni una cantidad elevada de parámetros sustituyen demostrar que se resolvió el problema concreto.

La secuencia ML → Neural Networks → Transformers → LLM Fundamentals es una ruta educativa útil para muchos sistemas modernos, no una ontología exhaustiva ni una cronología de reemplazos. Un LLM tampoco incorpora por ser red un loop de agente, herramientas o permisos.

Ejemplo y límites de la integración

Para clasificar solicitudes de soporte, una red podría transformar representaciones de texto y producir puntuaciones por categoría. El entrenamiento ajustaría parámetros respecto de ejemplos y objetivo; el servicio aplicaría la política de asignación. Todavía necesita comprobar que las categorías correspondan a la versión cargada y que una entrada desconocida se trate de forma definida.

Si cambia el vocabulario o la preparación de texto, obtener un vector de tamaño válido no asegura preservar el significado de la entrada. Si cambia el proceso de soporte, una red que antes acertaba puede dejar de representar la necesidad actual. Los límites del sistema no se resuelven únicamente aumentando capas o reejecutando el entrenamiento.

La evidencia debe distinguir funcionamiento de la implementación, ajuste del modelo y utilidad sobre casos relevantes. Esa separación permite utilizar redes como componentes comprendidos, sin exigir una derivación matemática completa ni tratarlas como una caja que garantiza inteligencia por su nombre.

Fuentes y alcance

Referencia académica: Deep Learning, capítulo 6: Deep Feedforward Networks, Goodfellow, Bengio y Courville, 2016; consultado el 2026-10-30. Las comparaciones de contratos, artefactos y responsabilidades de integración son síntesis del Atlas. No se instalan frameworks ni se describen pipelines de entrenamiento, serving o MLOps. La arquitectura Transformer y el modelo de lenguaje conservan canónicos separados.