1. Cómo aprende realmente una red neuronal

El entrenamiento es el corazón del asunto. Una red neuronal comienza con parámetros iniciales, a menudo aleatorios o semi-aleatorios. Entonces se le presentan datos y se evalúa su desempeño.

En aprendizaje supervisado, se usa una señal de error. Por ejemplo, en clasificación de imágenes:

entrada: foto de un gato
salida esperada: "gato"
salida del modelo: "perro" con alta confianza

El modelo calcula una función de pérdida, que mide cuán equivocada está su predicción. Luego, mediante retropropagación del gradiente, se determina cómo ajustar cada parámetro para reducir ese error [1].

En grandes modelos de lenguaje, el entrenamiento más común es auto-supervisado. No hace falta etiquetar manualmente cada frase. El propio texto sirve como supervisión: el modelo intenta predecir la siguiente palabra o token.

Por ejemplo:

entrada parcial: "La capital de España es"
objetivo: predecir "Madrid"

El modelo ajusta sus pesos para que, en promedio, prediga mejor los datos de entrenamiento.

Posteriormente pueden aplicarse etapas adicionales:

  • fine-tuning supervisado con ejemplos de instrucciones y respuestas,
  • alineación mediante preferencias humanas [2],
  • aprendizaje por refuerzo,
  • filtros de seguridad,
  • ajustes de estilo y formato.

Todo esto no convierte al modelo en un ser consciente. Solo modifica sus parámetros para que se comporte de manera más útil, coherente y segura según criterios humanos.

2. Más allá del texto: visión, imagen, audio y multimodalidad

Aunque los grandes modelos de lenguaje han acaparado la atención, las redes neuronales artificiales se usan en muchos dominios.

En visión por computador, las convolutional neural networks (CNN) fueron durante años la arquitectura dominante [3]. Capturan patrones locales en imágenes: bordes, texturas, formas, objetos. Hoy también se usan Vision Transformers, que aplican mecanismos de atención a imágenes divididas en parches [4].

En generación de imágenes, muchos modelos usan arquitecturas difusivas. No generan píxel a píxel como un texto, sino que aprenden a transformar ruido aleatorio en una imagen coherente mediante pasos sucesivos de denoising [5]. El texto actúa como condición guía.

En audio, las redes neuronales pueden transcribir voz, sintetizar habla, separar fuentes sonoras o generar música. En sistemas multimodales, distintos codificadores convierten imagen, texto, audio o video en representaciones numéricas compatibles, permitiendo que un modelo razone sobre varias modalidades a la vez.

Esto muestra una idea importante: las redes neuronales no son solo “generadoras de texto”. Son máquinas universales de aproximación de patrones, siempre que existan datos suficientes y una representación adecuada del problema.

3. Neuronas biológicas: qué son y cómo funcionan

Ahora comparemos todo esto con el cerebro.

Una neurona biológica es una célula viva especializada en transmitir señales electroquímicas. Tiene dendritas, que reciben señales de otras neuronas; un soma, que integra esas señales; y un axón, que transmite impulsos hacia otras células. La comunicación ocurre en uniones llamadas sinapsis, donde normalmente se liberan neurotransmisores.

A diferencia de una neurona artificial, una neurona biológica no calcula una simple suma ponderada con una función de activación fija. Su comportamiento es mucho más complejo:

  • integra señales en el tiempo,
  • tiene dinámicas iónicas,
  • puede mostrar plasticidad sináptica [6],
  • recibe modulación química global,
  • interactúa con células gliales,
  • está influenciada por hormonas, sueño, metabolismo, emociones y estado corporal.

El aprendizaje biológico no funciona como el descenso de gradiente tal como se implementa en GPUs. Las sinapsis cambian su eficacia según patrones de actividad, reglas locales, neuromoduladores y procesos moleculares. El cerebro no entrena con un dataset centralizado ni calcula gradientes exactos de una función de pérdida global, aunque si aproxima algo parecido por otras vías es una pregunta abierta en neurociencia [7].

Además, el cerebro consume muy poca energía comparado con un centro de datos. Se estima que un cerebro humano en reposo usa alrededor de 20 vatios [8]. Entrenar un modelo grande puede consumir más de un gigavatio-hora: el entrenamiento de GPT-3 se estimó en unos 1.287 MWh [9], una energía que un cerebro tardaría más de 7.000 años en gastar.

4. Principales diferencias entre red neuronal artificial y cerebro

Podemos resumir las diferencias en varios niveles.

Base física

Una red neuronal artificial corre sobre transistores, memoria y unidades de cómputo. Una red biológica corre sobre células vivas, canales iónicos, vesículas sinápticas y química orgánica.

Tipo de señal

Las neuronas artificiales manejan números continuos o discretizados en representaciones digitales. Las neuronas biológicas usan pulsos electroquímicos, potenciales de acción y señales graduales en distintas partes de la célula.

Forma de aprendizaje

Las redes artificiales suelen aprender ajustando pesos mediante gradiente y retropropagación. El cerebro aprende mediante plasticidad sináptica, reorganización estructural, consolidación durante el sueño, modulación neuroquímica y experiencia encarnada.

Memoria

En una red neuronal artificial, la información aprendida queda distribuida en parámetros. No hay una “memoria episódica” nativa como la humana, salvo que se añadan sistemas externos de recuperación. El cerebro tiene múltiples sistemas de memoria: episódica, semántica, procedural, de trabajo, emocional, etc.

Cuerpo y entorno

El cerebro humano está integrado en un cuerpo. Sus estados internos —hambre, dolor, fatiga, emoción— influyen en la cognición. Los modelos actuales no tienen cuerpo biológico ni necesidades propias. Operan como funciones matemáticas activadas por entradas externas.

Conciencia

Aquí entramos en terreno abierto. No hay evidencia de que los modelos actuales sean conscientes [10]. Pueden simular lenguaje sobre emociones, intenciones o estados mentales, pero eso no implica que los experimenten. El cerebro humano, en cambio, parece estar asociado a experiencia subjetiva, aunque la naturaleza exacta de la conciencia sigue siendo un gran misterio científico.

5. ¿Por qué entonces las IAs parecen inteligentes?

Porque la inteligencia no es binaria. Hay muchas formas de desempeñarse bien en tareas cognitivas.

Un modelo de lenguaje no necesita tener conciencia para escribir un poema, resumir un artículo, traducir un texto o generar código funcional. Solo necesita capturar regularidades estadísticas suficientemente ricas para crear basándose en sus conocimientos.

La escala importa enormemente. Cuando un modelo tiene suficientes parámetros, suficientes datos y suficiente cómputo, aparecen capacidades que no estaban explícitamente programadas. Esto se llama a veces emergencia [11], aunque el término puede ser engañoso [12]. No es magia; es el resultado de optimizar predicciones en distribuciones complejas.

Por ejemplo, un modelo pequeño puede ser torpe gramaticalmente. Uno muy grande puede mantener coherencia en textos largos, seguir instrucciones, adaptar tono, detectar ironía básica o resolver problemas paso a paso. No porque “entienda” como una persona, sino porque las representaciones internas han capturado patrones profundísimos del lenguaje y del razonamiento humano plasmado en textos.

6. Comprensión simulada versus comprensión humana

Una distinción útil es entre manipulación simbólica competente y comprensión encarnada.

Cuando una persona dice “el fuego quema”, no solo asocia palabras. Tiene experiencia sensorial, memoria emocional, conocimiento corporal del dolor, comprensión causal del mundo físico.

Cuando un modelo genera la frase “el fuego quema”, está produciendo una secuencia altamente probable dado el contexto. No ha sentido calor. No ha evitado quemarse. No tiene miedo ni deseo. No posee un modelo del mundo anclado en la percepción directa, aunque pueda haber aprendido correlaciones increíbles desde textos.

Esto no significa que el modelo sea inútil o meramente un loro estocástico [13]. Es mucho más que eso. Ha aprendido estructuras abstractas que le permiten generalizar. Pero tampoco es un sujeto cognitivo humano.

La pregunta filosófica de si algún sistema artificial podría comprender de verdad permanece abierta. Lo que sí sabemos es que los modelos actuales no funcionan como cerebros, aunque puedan imitar ciertos productos del pensamiento humano con notable eficacia.

7. Analogía final: músico, mapa y orquestador

Para cerrar, podemos usar varias analogías.

Un modelo de lenguaje no es una biblioteca que busca libros. Es más bien como un músico que ha escuchado millones de piezas y ahora improvisa una nueva. No copia una canción exacta; genera algo coherente con los patrones internalizados.

Tampoco es un diccionario donde cada palabra tiene un número-significado. Es más como un mapa de altísimas dimensiones, donde las palabras son coordenadas y su relación espacial codifica regularidades de uso.

Y no es un cerebro en miniatura. Es más como un orquestador matemático: recibe entradas numéricas, las transforma mediante capas de atención y cálculo, y produce salidas probabilísticas que, ensambladas token a token, forman lenguaje.

Referencias

[1] Rumelhart, D. E., Hinton, G. E. y Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323, 533–536. https://doi.org/10.1038/323533a0

Fuente histórica. Popularizó la retropropagación en redes multicapa y mostró que las capas ocultas aprenden representaciones útiles.

[2] Ouyang, L. et al. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems 35 (NeurIPS 2022). https://doi.org/10.48550/arXiv.2203.02155

Fiable. Describe el ajuste fino supervisado seguido de aprendizaje por refuerzo con preferencias humanas (RLHF).

[3] LeCun, Y., Bottou, L., Bengio, Y. y Haffner, P. (1998). Gradient-based learning applied to document recognition. Proceedings of the IEEE, 86(11), 2278–2324. https://doi.org/10.1109/5.726791

Fiable. Trabajo de referencia sobre redes convolucionales (LeNet-5), usadas comercialmente para leer cheques.

[4] Dosovitskiy, A. et al. (2021). An image is worth 16×16 words: Transformers for image recognition at scale. ICLR 2021. https://doi.org/10.48550/arXiv.2010.11929

Fiable. Introduce el Vision Transformer, que trata parches de imagen como tokens.

[5] Ho, J., Jain, A. y Abbeel, P. (2020). Denoising diffusion probabilistic models. Advances in Neural Information Processing Systems 33 (NeurIPS 2020). https://doi.org/10.48550/arXiv.2006.11239

Fiable. Base de los generadores de imágenes por difusión actuales.

[6] Bliss, T. V. P. y Lømo, T. (1973). Long-lasting potentiation of synaptic transmission in the dentate area of the anaesthetized rabbit following stimulation of the perforant path. Journal of Physiology, 232(2), 331–356. https://doi.org/10.1113/jphysiol.1973.sp010273

Fiable. Primera descripción de la potenciación a largo plazo (LTP), el modelo sináptico de referencia del aprendizaje. Estudio en conejos.

[7] Lillicrap, T. P., Santoro, A., Marris, L., Akerman, C. J. y Hinton, G. (2020). Backpropagation and the brain. Nature Reviews Neuroscience, 21, 335–346. https://doi.org/10.1038/s41583-020-0277-3

Marco teórico. Artículo de perspectiva: propone que la corteza podría aproximar los principios de la retropropagación mediante sus conexiones de retroalimentación. Hipótesis sin confirmación experimental directa.

[8] Raichle, M. E. y Gusnard, D. A. (2002). Appraising the brain’s energy budget. PNAS, 99(16), 10237–10239. https://doi.org/10.1073/pnas.172399499

Fiable. El cerebro supone en torno al 2 % de la masa corporal y al 20 % del consumo energético en reposo. La cifra de unos 20 W se obtiene aplicando ese porcentaje al gasto basal de un adulto.

[9] Patterson, D. et al. (2021). Carbon emissions and large neural network training. arXiv:2104.10350. https://doi.org/10.48550/arXiv.2104.10350

Con reservas. Preprint de Google y la Universidad de California en Berkeley. La cifra de GPT-3 (1.287 MWh) es una estimación a partir de datos de hardware y rendimiento facilitados por OpenAI, no una medición directa.

[10] Butlin, P., Long, R. et al. (2023). Consciousness in artificial intelligence: Insights from the science of consciousness. arXiv:2308.08708. https://doi.org/10.48550/arXiv.2308.08708

Marco teórico. Informe de 19 investigadores de neurociencia, IA y filosofía que evalúa los sistemas de IA frente a las principales teorías científicas de la conciencia. Parte del supuesto del funcionalismo computacional, que no todos comparten.

[11] Wei, J. et al. (2022). Emergent abilities of large language models. Transactions on Machine Learning Research. https://doi.org/10.48550/arXiv.2206.07682

Con reservas. Define las capacidades emergentes como las que aparecen en modelos grandes y no en pequeños. Su interpretación depende de la métrica usada (véase [12]).

[12] Schaeffer, R., Miranda, B. y Koyejo, S. (2023). Are emergent abilities of large language models a mirage? Advances in Neural Information Processing Systems 36 (NeurIPS 2023). https://doi.org/10.48550/arXiv.2304.15004

Fiable. Muestra que muchos saltos aparentes desaparecen al usar métricas continuas en lugar de métricas de todo o nada.

[13] Bender, E. M., Gebru, T., McMillan-Major, A. y Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of FAccT ’21, 610–623. https://doi.org/10.1145/3442188.3445922

Marco teórico. Artículo de posición, revisado por pares, que acuñó la expresión “loro estocástico”. Argumenta sobre riesgos y límites, sin datos experimentales propios.

¡Únete!

Suscríbete, y empieza hoy a estar al día de las novedades de Pensar es Gratis.

¡Prometemos que nunca te enviaremos spam! Echa un vistazo a nuestra política de privacidad para obtener más información.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *