John B. Goodenough1 fue lo suficientemente bueno como para inventar la batería de iones de litio y para recibir el Nobel de química a la edad más avanzada de la historia. 97 años, nada menos. No fue lo bastante bueno para lograr que su última creación, la batería de vidrio, se coronara como el siguiente salto evolutivo en las tecnologías de almacenamiento de energía. En su último gran trabajo describía una batería de estado sólido completamente incombustible, con ciclos de carga ultracortos y una energía específica tres veces superior a las mejores baterías de iones de litio actuales. Este grial de la electroquímica recibió todo tipo de críticas. Se resumen en esta de un profesor en Princeton y experto en baterías, Daniel Steingart:
Si esto lo hubiera publicado cualquiera que no fuera Goodenough, yo estaría… Bueno, me cuesta encontrar palabras educadas.
Obvio que Goodenough fue lo bastante bueno como para evitar que lo apeasen a patadas de su lugar entre los grandes de la ciencia. Merecido con franqueza, a fuer de lo difícil que resulta encontrar lugares donde la vista no pueda posarse en una (o en un centenar) de sus creaciones.
Nuestros días están plagados de lo suficientemente bueno. En un artículo del año pasado acudí a una expresión de sonido bronco, la era del sudapollismo, para referirme al momento histórico presente, en el que cualquier cretino puede pedirle un texto o una ilustración al chatbot de turno y usarlo para revestirse de una apariencia de conocimiento o de arte, si nadie mira «su» creación con un átomo de detenimiento. El éxito de la inteligencia artificial generativa entre su público usuario vendría a explicarse por la propia mecánica de la economía de la atención. Nuestro tiempo de percepción consciente es un bien escaso, y las respuestas textuales o gráficas de los algoritmos hacen las veces de trampantojos intelectuales. No hay reflexión ni creación real tras ellos, pero son suficientemente buenos hasta que alguien, por puro azar, se detiene, mira y se hace preguntas.
Nada de esto es demasiado sorprendente hablando de indocumentados y cuñaos varios. ¿Qué sucede en entornos donde la precisión de lo comunicado es relevante? Hagamos todos juntos flashback a 2024. Recordaréis la movida de la rata de laboratorio a un nardo gigante pegada que se paseó por entonces entre los artículos de una revista pretendidamente seria de biología. A los revisores aquellas ilustraciones les parecieron suficientemente buenas, tanto o más que a los autores del artículo que a- (léase des-) graciaban. Dicho de otra forma: no hicieron su trabajo. Alguien con más de medio segundo de vida que malgastar vio el dislate y elevó el grito a los cielos. La revista, Frontiers in Cell and Developmental Biology, hubo de retractar su error entre las risas del respetable. Desde entonces nunca más ningún científico, ingeniero o simple divulgador se atrevió a manchar su reputación con ilustraciones automáticas, so pena de convertirse en el siguiente hazmerreír de su sector. Y colorín, colorado.
Por supuesto que no os lo habréis creído. Desde entonces un contingente bastante nutrido de gente que debería hacer gala de mejor criterio utiliza la IA generativa para ilustrar no ya paisajes genéricos o escenas cotidianas cuyas fotos de stock cuestan unas perras —o un poco de tiempo buscándolas en los repositorios gratuitos—, sino asuntos técnicos complejos. Artefactos, procesos, mapas cuyo valor se encuentra en la precisión de lo expuesto quedan reducidos a meras piezas de decoración, falsas como atrezo de teatro. Peor aún, extienden un halo de desconfianza sobre lo que quiera que pretendan ilustrar.
Por supuesto también que LinkedIn, como no, es un caladero abundante en este tipo de disparate. Como me dedico a lo que me dedico, los ejemplos que os voy a mostrar serán del negociado ferroviario. Son imágenes que no he buscado: me han aparecido en las últimas semanas en el contenido recomendado por el algoritmo. En contra de mi práctica habitual, no citaré fuentes salvo que se citen por sí mismas en las ilustraciones. Podría decir que se dice el pecado pero no el pecador, pero tampoco soy gran practicante de la defensa Sancho Panza. No cito fuentes porque todo lo que expulsa una IA generativa viene de material robado y debe ser robado a su vez2. Dicho esto…
Se supone que la imagen publicitaria muestra un bogie ferroviario recién salido del taller, rodeado de técnicos que discuten algo ante un plano. Seguramente se estarán preguntando cómo es posible que hayan fabricado un cacharro cuyos muelles de suspensión están cortados por una especie de eje, que de todas formas no está centrado en las ruedas. O para qué pueden servir unas ruedas que no tienen pestañas para poder encarrilarse. O si alguien ha medido mal y ha montado un bogie la mitad de largo de lo normal. El taller en el que están tiene carriles en el suelo por los que mover sus creaciones, pero no van siquiera por pares, se encuentran en ángulos absurdos y parece que podrían atravesar el foso. Que, de todas maneras, es demasiado estrecho como para que trabaje una persona adulta. Tal vez por eso se ven obligados a hacer uso del trabajo infantil: se les ha colado una personita muy pequeña a la derecha de la imagen.
La estandarización en marcha de los sistemas de señalización europeos es un fin deseable, mucho más que un plato de espaguetis de colores con tropezones en forma de botón. Las supuestas líneas férreas que se muestran aquí no tienen ningún sentido: no se parecen a nada existente en la realidad, y ni siquiera son consistentes entre los dos mapas. Es verdad que hay muchos sistemas de señalización y control ferroviario en Europa, aunque no hay uno por país de la Unión (lo que arrojaría esa cifra de 27). Lo que nadie se esperaba es que al implantar ERTMS se cerrarían tantas líneas y otras cambiarían de sitio.
Hablando de señalización, ¿qué es eso? Ocurre con mucha frecuencia en las ilustraciones creadas mediante IA generativa en las que aparece un tren que este no sabe si tiene que ir por la vía o por el espacio de entrevía, la longitud del mismo tren puede parecer infinita o cualquier equipamiento que no sea la vía o el tren se omite o aparece con formas retorcidas y confusas. Eso es justo lo que sucede en este ejemplo. Hay traviesas en la vía y, aparentemente, también entre la vía del centro y la de su izquierda. La catenaria, que aquí se sostiene en pórticos en lugar de en postes (eso es posible) es una masa de hilos y trozos de metal sin pies ni cabeza. Y las señales, ¿qué decir de ellas? Una ensalada de focos a diferentes alturas, encendidos o apagados sin lógica, acompañados de cajas y cableado sin sentido. Para rematar, un conjunto de señales luminosas digno de los ferrocarriles de algún exoplaneta salta desde la izquierda hacia nuestra vista suspendido en el aire o con un problema muy serio de perspectiva.
Este es uno de los ejemplos más peligrosos. Si no fuera por la acumulación de erratas, uno podría pensar que le están contando algo serio sobre cálculo de elementos finitos y discretos aplicado a las vías férreas. Pero no. Los colores con los que se decoran los carriles no tienen correlación alguna con ningún fenómeno físico. La idea que se pretendía ilustrar es que se pueden usar modelos de IA para mejorar los cálculos de solicitaciones de fuerza sobre las vías. Puede que sí, o puede que el mantenimiento de estas infraestructuras críticas para la seguridad estuviera mejor servido mandando palomas mensajeras entre estaciones para que repasen los carriles, y luego interpretando sus zureos con un vidente.
Este diagrama en particular viene encabezado con unos logos incongruentes de contenido en alta definición. Describe la conicidad de las ruedas del ferrocarril y sus beneficios de manera adecuada. Repite dos cuadros con ilustraciones diferentes, dando una imagen falsa de abundancia de información: los dos rectángulos de la izquierda, etiquetados como Straight Track Operation, son la misma cosa. Los indicadores de pestaña (flange) y banda de rodadura (tread) están invertidos. A veces las ruedas parecen rodar sobre sus pestañas en vez de sobre sus bandas de rodadura. Los marcadores de carril interior (low rail) y exterior (high rail) de la curva también están intercambiados. La escala relativa del carril y la rueda en el diagrama central es incorrecta. Las cotas que indican el radio efectivo de rodadura (effective rolling radius) no indican tal cosa. Hay otras cotas que solo se pueden considerar como decorativas.
Esto no es un diagrama de ingeniería. Es una trampa para incautos.
Terminaré con esta vista del perfil de una cabeza tractora de un tren de alta velocidad de estilo japonés. Es bella. Recuerdo que, en mis primeros experimentos3 con modelos del tipo stable diffusion, cualquier intento de generar algo aparentemente técnico acababan dando como resultado un zurullo que no servía ni como fondo para un teams. Y eso que a partir de cierto círculo del Infierno todas las torturas se infligen por Teams.
El diablo, precisamente, está aquí en los detalles. Mirad las cotas. La mayoría son erróneas o, peor, ni siquiera erróneas. Dos flechas idénticas y contiguas están marcadas como 1,1 y 1,7 metros, respectivamente. Una más lleva la enigmática etiqueta stress load, carga de tensión, como si significara algo en ese contexto. Otra indica que el morro alargado para mitigación del estampido sónico mide nada menos que 22 metros. Para no ser menos, otras dos establecen la longitud total ¡y la altura! de la cabeza tractora en 250 metros. En rojo aparece el componente protagonista del diagrama, un sistema de frenado aerodinámico. Uno que, de desplegarse, arrastraría consigo la catenaria en un par de kilómetros. Como poco.
Los últimos adelantos en IA generativa dejan entrever lo agónico de la carrera en la que están inmersas las empresas responsables de entrenar las sucesivas iteraciones de los chatbots. Primero recopilan volúmenes inmensos de conocimiento; todo el conocimiento, que ya alcanza repositorios analógicos digitalizados por procedimientos destructivos. Después etiquetan lo digitalizado en condiciones inhumanas en el sur global. Por último, consumen energía durante el entrenamiento de los modelos y durante la inferencia de las respuestas, una vez entrenados; del orden de 415 teravatios-hora en 2024, el 1,5 por ciento de todo el consumo eléctrico mundial, con la perspectiva de doblar esta cifra para 2030.
En ninguno de estos pasos adquieren los modelos un ancla factual. No hay nada cierto o falso dentro de la bestia, solo probabilidades. Los humanos, seleccionados por millones de años de evolución natural para encontrar caras y proyectar teorías de la mente en cualquier objeto para mejorar la supervivencia ante un eventual conflicto, proyectamos sentido donde no lo hay. Una menor cantidad de información hace más fácil crearlo. Por eso el texto, que solo tiene un grado de libertad, tiende a parecernos más aceptable siempre que no sea demasiado largo y seamos incapaces de imponer un marco semántico coherente.
Las ilustraciones son bidimensionales, contienen más información. Es más fácil que la ilusión del significado se rompa,y es particularmente sencillo apreciarlo en imágenes donde la precisión de lo expresado es clave, como las ilustraciones técnicas y científicas. Añadamos una dimensión más, el tiempo, para crear vídeo y entenderemos perfectamente por qué el modelo Sora de OpenAI fracasó. Demasiados tokens. Demasiada energía. Demasiado dinero. Todo el aparataje de tamaño planetario de los chatbots ha servido para acercarse a resultados superficialmente correctos y ya no queda espacio para crecer sin dar de comer a la bestia su propia producción.
A partir de aquí solo hay tres desenlaces. Como en la ruleta de un casino, rojo: la ruina económica. Negro: el colapso algorítmico. O cero, casi un milagro: que la «g» de la IA generativa se haga mayúscula en «G» de general. El deus ex machina definitivo. Pero para creer en esta posibilidad hace falta una fe que no tengo. Todo al rojo.
Bibliografía
Yeo, Amanda. «Behold, a Giant AI-Generated Rat Penis». Mashable, 16/02/2024. https://mashable.com/article/ai-rat-penis-diagram-midjourney-science.
Edwards, Benj. «Anthropic Destroyed Millions of Print Books to Build Its AI Models». Ars Technica, 25/06/2025. https://arstechnica.com/ai/2025/06/anthropic-destroyed-millions-of-print-books-to-build-its-ai-models/.
Pogrebna, Ganna. «AI is a multi-billion dollar industry. It’s underpinned by an invisible and exploited workforce». The Conversation, 8/10/2024. https://doi.org/10.64628/AA.c34rupswk.
IEA. «Energy and AI – Analysis». 10/05/2025. https://www.iea.org/reports/energy-and-ai.
Shumailov, Ilia, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson, y Yarin Gal. «AI Models Collapse When Trained on Recursively Generated Data». Nature, 24/07/2024. 631 (8022): 755-59. https://doi.org/10.1038/s41586-024-07566-y.
- Sí, toda la idea de este artículo viene del apellido de Goodenough, «lo bastante bueno» en español. Un chiste terrible, no se me escapa. ↩︎
- Si yo me bajo una película de por ahí, la he robado. Pero si Meta se baja 82 terabytes de libros con la aprobación explícita de Zuckerberg, es disruptivo. No me jod… ↩︎
- En efecto, he probado la IA generativa y hasta de vez en cuando encuentro usos, pero ni soy un usuario habitual ni voy a entrar aquí en el típico debate del purista que termina siempre en «malditos izquierdistas con iPhone». Tampoco uso un iPhone. ↩︎
Deja una respuesta