En enero de 2022 me pregunté en estas mismas páginas si la llamada ciencia posteórica era una predicción científica o una prescripción política. Por ciencia posteórica entendía una ciencia en la que la formulación de hipótesis, la inferencia, la explicación causal y la predicción pasan de la inteligencia colectiva humana a la computación algorítmica no humana. Mi respuesta fue que, bajo la apariencia de un pronóstico neutral sobre el «fin de la teoría», se escondía un proyecto político: el de los dueños del gólem digital, interesados en que los algoritmos gobiernen. Frente a ello defendía una hipótesis alternativa, la coevolución entre ciencia teórica e inteligencia artificial, sostenida por la metacognición recursiva y por salvaguardas institucionales que impidieran disfrazar prescripciones de predicciones. Casi cinco años después, la realidad ha montado el experimento que permite contrastar aquella hipótesis. Lo ha contado Ben Brubake en Quanta Magazine el pasado 7 de octubre. Es el caso más duro que podía presentarse contra mi tesis, y por eso mismo merece examinarse con cuidado.
El 11 de septiembre, Dor Minzer, profesor del MIT y uno de los grandes especialistas en la conjetura de los juegos únicos, empezó a recibir mensajes de colegas. Corría el rumor de que OpenAI había demostrado esa conjetura y podía anunciarlo cualquier día.La conjetura, formulada por Subhash Khot en 2002 cuando aún era doctorando, es una de las piedras angulares de la teoría de la complejidad computacional. Afirma, dicho toscamente, que ciertos problemas de satisfacción simultánea de restricciones (colorear los nodos de una red respetando reglas impuestas a cada enlace) siguen siendo intratables aunque uno se conforme con una solución muy pobre. En 2008, Prasad Raghavendra demostró que, si es cierta, un único algoritmo clásico es la mejor estrategia posible para toda una familia de problemas de optimización. Es, por tanto, un enunciado sobre los límites de lo calculable.
Minzer no la había demostrado, pero junto a sus doctorandos Yumou Fei y Shuo Wang había probado en abril un resultado de primer orden sobre una variante planteada por el propio Khot. Entre sus consecuencias está algo que se perseguía desde hacía décadas: hay grafos coloreables con tres colores en los que es inviable encontrar una coloración válida aunque se disponga de tantos colores adicionales como se quiera. El rumor los obligó a publicar en tres días un manuscrito de 95 páginas, con una advertencia en la primera: matemáticamente completo, pero no en la forma en que deseaban compartirlo.El 6 de octubre OpenAI anunció su demostración, junto con otros 376 resultados en múltiples campos de las matemáticas. El texto estaba verificado con Lean, que comprueba mecánicamente cada paso, pero era un manuscrito generado por IA, sin edición humana ni revisión independiente de expertos.
En 2022 recurrí a lo que llamé causalidad inversa. Si la inteligencia artificial es hija de la ciencia teórica, cabe preguntarse si podría haber engendrado ella misma esa ciencia. Respondí que no, por un gradiente evolutivo de complejidad: el producto no puede generar las funciones de la teoría de la que procede. A primera vista, el anuncio de OpenAI desmiente esta tesis. Una máquina ha resuelto un problema que resistía a los mejores especialistas desde hace veinticuatro años.
Conviene, sin embargo, distinguir entre demostrar una conjetura y producir teoría. La conjetura de los juegos únicos no la formuló la máquina. La pregunta, su relevancia, su conexión con la geometría o con los sistemas de votación, el andamiaje de conceptos y resultados previos sobre el que cualquier prueba tiene que apoyarse: todo eso es obra de la inteligencia colectiva humana a lo largo de dos décadas. La IA ha recorrido un camino dentro de un territorio cartografiado por la teoría. Es un logro formidable, pero es un logro de búsqueda, no de fundación. La causalidad inversa sigue en pie en su sentido fuerte: la máquina ha cerrado una pregunta que no habría sabido abrir.
Hay además un indicio decisivo. Según otras crónicas del episodio, Dana Moshkovitz, que había trabajado durante años en la conjetura, necesitó la ayuda de otra IA para poder leer la prueba, y la propia empresa admitió que muchos de sus resultados aún no los entienden sus matemáticos. Una demostración verificada pero no comprendida no es todavía teoría. Lean garantiza que cada paso se sigue del anterior, pero no dice por qué la conjetura es verdadera, qué supuestos son esenciales ni qué caminos abre. La explicación, que en 2022 situaba en el corazón de la ciencia teórica, sigue sin aparecer.
El contraste con el trabajo de Minzer, Fei y Wang es iluminador. Siete años de esfuerzo. Dos estudiantes que, recién terminado su primer año de doctorado, eligieron el más difícil de los dos problemas que se les ofrecían. Un nuevo tipo de código corrector de errores que no encajaba con el resto de piezas de la demostración. Meses de intentos fallidos, de cada uno de los cuales aprendieron algo, hasta que, según cuenta Minzer, lograron grapar el nuevo código sobre cinco fracasos previos.
Esto es lo que en 2022 llamaba metacognición recursiva: el saber que se vuelve sobre sí mismo, que conoce no solo lo que sabe sino por qué se equivoca. Minzer lo dice sin rodeos: fracasar y saber por qué se ha fracasado tiene un enorme valor, y la IA elimina todo eso. Siguiendo a Cleeremans, sugería entonces que la conciencia podría ser la teoría predictiva que el cerebro tiene de sí mismo. La demostración humana es, en ese sentido, consciente de su propia génesis. La de la máquina no lo es.
Mark Braverman, de Princeton, criticó en septiembre las matemáticas por comunicado de prensa y la incertidumbre que generan entre los investigadores. Es la confirmación más nítida de mi tesis de 2022. El anuncio de 377 resultados de una sola vez, antes de cualquier revisión independiente, no es un acto científico sino un acto de poder. Instala un hecho consumado («la IA ya hace matemáticas») que funciona como prescripción: reordena los incentivos de la investigación antes de que la comunidad haya podido evaluar nada.
Sus efectos ya son visibles. Un equipo humano tuvo que publicar un resultado sin terminar para asegurar la prioridad, y su propio autor reconoce que a partir de la sección sexta no hay una sola palabra de enlace. Minzer añade algo más grave: los humanos necesitan dormir y comer, tienen estados de ánimo, y no saben si les quitará el resultado una compañía valorada en billones. El riesgo no es que la máquina piense mejor, sino que desaliente los proyectos ambiciosos de largo aliento, que son los que necesitan años de fracasos fecundos. Eso es lo que en 2022 llamé nuevo orden natural de la servidumbre computacional: la dominación presentada como decisión neutral de un algoritmo.
Y sin embargo la coevolución sigue siendo posible. El propio Braverman lo apunta: una prueba automática de la conjetura podría abrir nuevas direcciones si los investigadores consiguen aislar sus supuestos clave y explorar qué sucede cuando se modifican. El producto de la máquina no clausura el problema. Se convierte en materia prima para la teorización humana, que lo descompone, lo y lo varía. Ninguna de las dos piezas del episodio es por sí sola ciencia completa. El artículo humano es inteligible en su génesis pero tosco en su forma; el de la máquina es formalmente impecable pero opaco. La ciencia madura está en su ensamblaje, y ese ensamblaje solo puede hacerlo una inteligencia que se pregunta por el sentido de lo que tiene delante.
Lo que el episodio muestra es que la coevolución no ocurre sola. Las velocidades son asimétricas, como ya advertía, y la asimetría no la decide la técnica sino la propiedad. El problema no es el gólem sino sus dueños. Una IA privada, cuyo horizonte es el anuncio y la valoración bursátil, se coloca frente a la comunidad científica como competidora y decide qué se publica, cuándo y en qué forma. Una IA pública, integrada en las instituciones del conocimiento, podría ser lo contrario: un compañero de fracasos al servicio del trabajo lento de comprender.
Ryan O’Donnell, de Carnegie Mellon, elogió el artículo de Minzer, Fei y Wang diciendo que lo resolvieron «con sus mentes, y lo escribieron con sus propios dedos». No es una elegía, sino un programa. La disposición institucional que reclamaba en 2022 tiene ahora un contenido preciso: que las demostraciones generadas por IA se depositen en repositorios públicos con sus supuestos explícitos, que no se anuncien antes de pasar por la revisión de la comunidad, y que la universidad sea el lugar donde se aprende a descomponerlas, a variar sus hipótesis y a fracasar sabiendo por qué.
La pregunta de 2022 tiene ya una respuesta empírica. La ciencia posteórica no es una predicción que se haya cumplido: la máquina demuestra, pero no explica ni funda. Es una prescripción que se está intentando imponer. La democracia cognitiva no se defiende negando lo que la máquina puede hacer, sino impidiendo que quienes la poseen decidan por todos qué significa conocer.
En enero de 2022 me pregunté en estas mismas páginas si la llamada ciencia posteórica era una predicción científica o una prescripción política. Por ciencia posteórica entendía una ciencia en la que la formulación de hipótesis, la inferencia, la explicación causal y la predicción pasan de la inteligencia colectiva humana a la computación algorítmica no humana. Mi respuesta fue que, bajo la apariencia de un pronóstico neutral sobre el «fin de la teoría», se escondía un proyecto político: el de los dueños del gólem digital, interesados en que los algoritmos gobiernen. Frente a ello defendía una hipótesis alternativa, la coevolución entre ciencia teórica e inteligencia artificial, sostenida por la metacognición recursiva y por salvaguardas institucionales que impidieran disfrazar prescripciones de predicciones. Casi cinco años después, la realidad ha montado el experimento que permite contrastar aquella hipótesis. Lo ha contado Ben Brubake en Quanta Magazine el pasado 7 de octubre. Es el caso más duro que podía presentarse contra mi tesis, y por eso mismo merece examinarse con cuidado.
El 11 de septiembre, Dor Minzer, profesor del MIT y uno de los grandes especialistas en la conjetura de los juegos únicos, empezó a recibir mensajes de colegas. Corría el rumor de que OpenAI había demostrado esa conjetura y podía anunciarlo cualquier día.La conjetura, formulada por Subhash Khot en 2002 cuando aún era doctorando, es una de las piedras angulares de la teoría de la complejidad computacional. Afirma, dicho toscamente, que ciertos problemas de satisfacción simultánea de restricciones (colorear los nodos de una red respetando reglas impuestas a cada enlace) siguen siendo intratables aunque uno se conforme con una solución muy pobre. En 2008, Prasad Raghavendra demostró que, si es cierta, un único algoritmo clásico es la mejor estrategia posible para toda una familia de problemas de optimización. Es, por tanto, un enunciado sobre los límites de lo calculable.
Minzer no la había demostrado, pero junto a sus doctorandos Yumou Fei y Shuo Wang había probado en abril un resultado de primer orden sobre una variante planteada por el propio Khot. Entre sus consecuencias está algo que se perseguía desde hacía décadas: hay grafos coloreables con tres colores en los que es inviable encontrar una coloración válida aunque se disponga de tantos colores adicionales como se quiera. El rumor los obligó a publicar en tres días un manuscrito de 95 páginas, con una advertencia en la primera: matemáticamente completo, pero no en la forma en que deseaban compartirlo.El 6 de octubre OpenAI anunció su demostración, junto con otros 376 resultados en múltiples campos de las matemáticas. El texto estaba verificado con Lean, que comprueba mecánicamente cada paso, pero era un manuscrito generado por IA, sin edición humana ni revisión independiente de expertos.
En 2022 recurrí a lo que llamé causalidad inversa. Si la inteligencia artificial es hija de la ciencia teórica, cabe preguntarse si podría haber engendrado ella misma esa ciencia. Respondí que no, por un gradiente evolutivo de complejidad: el producto no puede generar las funciones de la teoría de la que procede. A primera vista, el anuncio de OpenAI desmiente esta tesis. Una máquina ha resuelto un problema que resistía a los mejores especialistas desde hace veinticuatro años.
Conviene, sin embargo, distinguir entre demostrar una conjetura y producir teoría. La conjetura de los juegos únicos no la formuló la máquina. La pregunta, su relevancia, su conexión con la geometría o con los sistemas de votación, el andamiaje de conceptos y resultados previos sobre el que cualquier prueba tiene que apoyarse: todo eso es obra de la inteligencia colectiva humana a lo largo de dos décadas. La IA ha recorrido un camino dentro de un territorio cartografiado por la teoría. Es un logro formidable, pero es un logro de búsqueda, no de fundación. La causalidad inversa sigue en pie en su sentido fuerte: la máquina ha cerrado una pregunta que no habría sabido abrir.
Hay además un indicio decisivo. Según otras crónicas del episodio, Dana Moshkovitz, que había trabajado durante años en la conjetura, necesitó la ayuda de otra IA para poder leer la prueba, y la propia empresa admitió que muchos de sus resultados aún no los entienden sus matemáticos. Una demostración verificada pero no comprendida no es todavía teoría. Lean garantiza que cada paso se sigue del anterior, pero no dice por qué la conjetura es verdadera, qué supuestos son esenciales ni qué caminos abre. La explicación, que en 2022 situaba en el corazón de la ciencia teórica, sigue sin aparecer.
El contraste con el trabajo de Minzer, Fei y Wang es iluminador. Siete años de esfuerzo. Dos estudiantes que, recién terminado su primer año de doctorado, eligieron el más difícil de los dos problemas que se les ofrecían. Un nuevo tipo de código corrector de errores que no encajaba con el resto de piezas de la demostración. Meses de intentos fallidos, de cada uno de los cuales aprendieron algo, hasta que, según cuenta Minzer, lograron grapar el nuevo código sobre cinco fracasos previos.
Esto es lo que en 2022 llamaba metacognición recursiva: el saber que se vuelve sobre sí mismo, que conoce no solo lo que sabe sino por qué se equivoca. Minzer lo dice sin rodeos: fracasar y saber por qué se ha fracasado tiene un enorme valor, y la IA elimina todo eso. Siguiendo a Cleeremans, sugería entonces que la conciencia podría ser la teoría predictiva que el cerebro tiene de sí mismo. La demostración humana es, en ese sentido, consciente de su propia génesis. La de la máquina no lo es.
Mark Braverman, de Princeton, criticó en septiembre las matemáticas por comunicado de prensa y la incertidumbre que generan entre los investigadores. Es la confirmación más nítida de mi tesis de 2022. El anuncio de 377 resultados de una sola vez, antes de cualquier revisión independiente, no es un acto científico sino un acto de poder. Instala un hecho consumado («la IA ya hace matemáticas») que funciona como prescripción: reordena los incentivos de la investigación antes de que la comunidad haya podido evaluar nada.
Sus efectos ya son visibles. Un equipo humano tuvo que publicar un resultado sin terminar para asegurar la prioridad, y su propio autor reconoce que a partir de la sección sexta no hay una sola palabra de enlace. Minzer añade algo más grave: los humanos necesitan dormir y comer, tienen estados de ánimo, y no saben si les quitará el resultado una compañía valorada en billones. El riesgo no es que la máquina piense mejor, sino que desaliente los proyectos ambiciosos de largo aliento, que son los que necesitan años de fracasos fecundos. Eso es lo que en 2022 llamé nuevo orden natural de la servidumbre computacional: la dominación presentada como decisión neutral de un algoritmo.
Y sin embargo la coevolución sigue siendo posible. El propio Braverman lo apunta: una prueba automática de la conjetura podría abrir nuevas direcciones si los investigadores consiguen aislar sus supuestos clave y explorar qué sucede cuando se modifican. El producto de la máquina no clausura el problema. Se convierte en materia prima para la teorización humana, que lo descompone, lo y lo varía. Ninguna de las dos piezas del episodio es por sí sola ciencia completa. El artículo humano es inteligible en su génesis pero tosco en su forma; el de la máquina es formalmente impecable pero opaco. La ciencia madura está en su ensamblaje, y ese ensamblaje solo puede hacerlo una inteligencia que se pregunta por el sentido de lo que tiene delante.
Lo que el episodio muestra es que la coevolución no ocurre sola. Las velocidades son asimétricas, como ya advertía, y la asimetría no la decide la técnica sino la propiedad. El problema no es el gólem sino sus dueños. Una IA privada, cuyo horizonte es el anuncio y la valoración bursátil, se coloca frente a la comunidad científica como competidora y decide qué se publica, cuándo y en qué forma. Una IA pública, integrada en las instituciones del conocimiento, podría ser lo contrario: un compañero de fracasos al servicio del trabajo lento de comprender.
Ryan O’Donnell, de Carnegie Mellon, elogió el artículo de Minzer, Fei y Wang diciendo que lo resolvieron «con sus mentes, y lo escribieron con sus propios dedos». No es una elegía, sino un programa. La disposición institucional que reclamaba en 2022 tiene ahora un contenido preciso: que las demostraciones generadas por IA se depositen en repositorios públicos con sus supuestos explícitos, que no se anuncien antes de pasar por la revisión de la comunidad, y que la universidad sea el lugar donde se aprende a descomponerlas, a variar sus hipótesis y a fracasar sabiendo por qué.
La pregunta de 2022 tiene ya una respuesta empírica. La ciencia posteórica no es una predicción que se haya cumplido: la máquina demuestra, pero no explica ni funda. Es una prescripción que se está intentando imponer. La democracia cognitiva no se defiende negando lo que la máquina puede hacer, sino impidiendo que quienes la poseen decidan por todos qué significa conocer.
Comentarios