La máquina rota de comprender
Un manifiesto sobre la IA revela lo difícil que nos resulta comprender el presente. Indagamos en el debate que se ha producido en torno a él, más el minuto y resultado de la burbuja.
An English version of this article is available here,
Yo no debería estar aquí. Me había propuesto tomarme unas vacaciones de esta newsletter para ver el mundial, trabajar en un proyecto de negocio que estoy poniendo en marcha y escribir una serie de artículos que voy a publicar el mes que viene y que va a estar muy bien.
Pero resulta que dieciséis premios Nobel, más otros dos centenares de economistas y expertos, acaban de publicar un manifiesto sobre la IA. Y yo llevo toda la semana retorciéndome en la silla, intentando resistir la tentación de convertirme en ese señor del meme que no se puede ir a dormir porque alguien está equivocado en Internet.
Sin éxito.
Porque resulta que los firmantes de este manifiesto —entre los que se encuentran Paul Krugman, Joseph Stiglitz, el ex-governador de la FED Bed Bernanke y Daron Acemoglu— no son un “alguien” cualquiera: esta es la maldita élite de la intelectualidad. Son los intelectuales más citados, más leídos y más venerados del mundo mundial; los que dirigen las instituciones que crean el conocimiento, forman la opinión global y toman las decisiones políticas y económicas. Son los engranajes de la máquina global de comprender. Si alguien se supone que debería entender qué está pasando con la IA y explicarlo, son ellos.
Pues no.
El manifiesto es tan breve que puedo reproducirlo en su totalidad. Dice así (las negritas son mías):
La IA podría volverse radicalmente más poderosa en los próximos 10 años.
Esto podría impulsar una transformación sin precedentes de nuestra economía, mayor que la Revolución Industrial, pero desplegada en un plazo muchísimo más corto. Podría traer riesgos, como el desplazamiento masivo de empleos, así como oportunidades, entre ellas mejoras sustanciales en el nivel de vida.
Los economistas, los responsables políticos y los líderes tecnológicos deben actuar ya para comprender la economía de la IA transformadora y construir los incentivos, las salvaguardas y las instituciones necesarias para orientar la IA en una dirección que complemente a los humanos y beneficie a la sociedad.
¿Cómo que “podría”? Dieciséis frigging premios Nobel, ¡¿Cómo que “podría”?!
Claro que sí. Y alguien podría levantarse mañana y publicar el paper que abra las compuertas de la computación cuántica. O alguien podría probar la teoría de cuerdas, o la hipótesis de Riemann. Alguien podría descubrir el mecanismo que haga posible de una vez por todas la fisión nuclear o que nos permita revertir el envejecimiento. La IA no es el único campo en el que hay mucha gente investigando for fuck sake, ¡vivimos en mitad de una maldita revolución científica! Todas esas otras cosas son tan posibles como un salto de nivel en la IA. Y todas ellas, de ocurrir, tendrían efectos económicos y sociales igual de incalculables.
¿Por qué no hace nadie manifiestos sobre eso? ¿Por qué no se junta toda la intelectualidad del mundo a hablar de las consecuencias —locas, creedme, un día os las cuento— de la computación cuántica? Muy fácil: porque no tiene ningún sentido ponerse a calcular las derivadas de algo que no ha ocurrido, porque las cosas que podrían pasar son infinitas y nuestro tiempo, no.
¿Hay alguna razón para pensar que la IA tiene más probabilidad de ser un fenómeno revolucionario que estos otros avances?
No.
Más bien al contrario: la mal llamada “IA” lleva cuatro años faltando a todas sus promesas. Iba a sustituir 300 millones de puestos de trabajo (no ocurrió), iba a curar el cáncer (tampoco), iba a sustituir a todos los programadores (hoy hay más que nunca) y a incrementar la productividad (no lo ha hecho). Iba a crear ejércitos autónomos (¿Anybody?) y a traer la “singularidad”, o el fin de la historia, el momento en que una superinteligencia haría innecesario al género humano. ¿Dónde se encuentra esa criatura hoy? Ni está ni se la espera.
Si algo deberíamos haber aprendido en estos cuatro años de bulos, es a no fiarnos de sus próceres. Y sin embargo aquí seguimos: embaucados, embobados, dando pábulo a estos desvarios. Normal si quienes deberían poner cordura en esta casa de locos se dedican a publicar manifiestos sobre revoluciones industriales que podrían (o no) hacerse realidad.
¿Cómo puede ser que ni con toda la inteligencia del mundo podamos entender lo que va a ocurrir con una tecnología? ¿Cómo puede ser que este manifiesto no sea capaz de hacer un diagnóstico concreto y proponer algo más allá de “actuar para comprender la economía de la IA”? ¿Quién, si no sus firmantes, debe “actuar para comprender”?
¿En qué momento se rompió la máquina de comprender?
No, pero un momento, es que sí podemos. ¡Claro que podemos! Por supuesto que hay gente que lleva mucho tiempo explicando que la IA no es lo que dicen sus promotores; que ninguna tecnología que se limite a computar el lenguaje puede razonar realmente; que la naturaleza probabilística de los LLMs hace que sea imposible que dejen de alucinar y que por esa razón tienen muy mal encaje en el sistema productivo, que necesita certezas; que no existen barreras de entrada que permitan monopolizar esta tecnología de la manera en que otros gigantes tecnológicos lo hicieron en el pasado y que no es posible generar un modelo de negocio rentable para las empresas de la IA, mucho menos uno que justifique la valoración billonaria de algunas compañías.
Como consecuencia, lo que está ocurriendo en los mercados financieros solo se puede entender como una inmensa burbuja de expectativas en la que el dinero se mueve en círculos entre unas cuantas empresas sin llegar nunca a encontrar un cliente real. Es la enésima versión de una burbuja que lleva hinchándose desde que Internet cambió la naturaleza de la sociedad.
A diferencia de las profecías de la IA, todas estas verdades no han hecho más que confirmarse desde 2022. No es cierto que no podamos comprender. La verdad —guiño, guiño :p— está ahí fuera. La razón por la que el manifiesto de marras se queda en los podrías y en los hayques no es que no podamos entender lo que está pasando: es que no queremos admitirlo. No queremos reconocer que no hay ninguna revolución industrial en ciernes. Que ninguna tecnología va a venir a sacarnos del impasse civilizatorio en el que nos encontramos y que no nos queda más remedio que enfrentarnos al final de la era industrial con todas sus consecuencias.
El emperador está desnudo. Mucha gente lo lleva (lo llevamos) diciendo un montón de años ya. Lo verdaderamente grave es que hoy, cuando esa verdad —científica, demostrable, compartida— choca con los intereses de las empresas de IA, de Silicon Valley y de los gobiernos de Estados Unidos y de China, la máquina global de comprender se gripa y deja de funcionar: se rinde.
De esa renuncia surge este “manifiesto” de tres párrafos que no manifiesta nada, que está vacío; apenas habitado por dos podrías y un hay-que-hacer-algo (pero no sabemos qué).
¿Por qué se ha roto la máquina de comprender?
A pocas horas de la publicación del texto, uno de los firmantes se acercó a Twitter a dar explicaciones. A Daron Acemoglu “no le convence” la comparación con la Revolución Industrial y sigue “sin estar convencido de que vayamos a ver las enormes ganancias de productividad que predicen los insiders de la industria”, pero podrían pasar cosas ("de nuevo, sin certeza alguna, solo podría”).
¿Entonces por qué ha firmado Daron Acemoglu este manifiesto que viene a no decir absolutamente nada? Aquí está la madre del cordero: porque “encontrar una declaración que reflejara las visiones compartidas de varios investigadores de IA, economistas y científicos sociales era importante”.
¿Aunque no diga nada? ¿Aunque de por válidas unas tesis que no solo no se han probado, sino que se descalifican cada día que pasa? ¡¿Aunque nos lleve en la dirección equivocada?!
Esto, queridos amigos, no es ciencia. Ciencia es la búsqueda de una verdad. Tanto si la comparten los otros investigadores, como si no. Tanto si es de consenso, como si eres la única persona sobre la faz de la Tierra en sostenerla. Cuando lo que uno busca es una “visión compartida”; cuando es más importante estar con el resto de personas pintonas que decir algo verdadero, a eso no le llamamos ciencia, le ponemos otro nombre: “mentalidad de rebaño”, una enfermedad endémica de nuestro tiempo que atraviesa la academia, el periodismo y la política a partes iguales.
Los debates en la nube de la IA
¿Sabéis cuál es el problema? Que cuando dieciséis premios Nobel, más doscientos economistas y expertos dan por válida la hipótesis de que esta tecnología va a ser revolucionaria, también le otorgan carta de naturaleza a que todo el panorama político y económico se distraiga hablando de ese tema como Tomás de Aquino disertando sobre cuántos ángeles caben en la punta de un alfiler.
Para muestra, un botón. Desde la publicación del manifiesto, al menos otro famoso economista, Noah Smith, ha salido a contar que ha decidido no firmarlo porque le preocupa que se use su nombre para avalar tesis posteriores que él no comparte, como las que imprime Acemoglu en su libro “Poder y progreso”:
Yo creo que "dirigir" la IA es una mala idea de política pública. La primera razón es que es básicamente imposible: nadie sabe en realidad cómo una tecnología complementará o sustituirá al trabajo humano en el momento de inventarla. Los inventores no saben cómo acabarán usando sus inventos las empresas —y cuanto más de propósito general es una tecnología, menos lo saben—. ¿Podría James Watt, en 1765, haber predicho la mayoría de las aplicaciones de la energía de vapor? En absoluto. Así que no tenía forma de saber si la máquina de vapor acabaría creando más empleos de los que destruía.
Y al menos otra estrella del firmamento político digital, Henry Farrell, ha aprovechado para refutar la reseña que Smith hizo sobre “Poder y progreso” y contestarle:
Cuando Acemoglu y Johnson hablan de "dirigir", lo que están sugiriendo es que es mejor no dejar decisiones de importancia crucial en manos de los techbros, sino tomarlas democráticamente, mediante procesos que den a la gente corriente cierto poder de contrapeso frente a las élites. El inconveniente de la democracia es que es lenta, conflictiva y un engorro monumental. La ventaja es que permite que personas con intereses distintos defiendan sus intereses, y que se aprovechen colectivamente formas diversas de entender el mundo para trazar un mapa más complejo de los futuros posibles. Y cuando se están tomando decisiones que pueden dejar patrones grabados en piedra durante muchísimo tiempo, lo que de verdad quieres es que quienes van a verse afectados por ellas tengan voz y voto.
Burbuja: minuto y resultado
A lo mejor a ti este te parece un debate muy relevante, porque todos estamos muy alterados con el papel que los technobros tendrán en nuestras vidas si se materializan las distopías que nos promete la inteligencia artificial, pero ¿y si no es así? ¿Y si no hay cuarta revolución industrial?
Mi tesis es esta: creo que lo que es verdaderamente aterrador no es que la IA dispare la productividad y nos libere del trabajo. Ni siquiera aunque destruya muchos empleos por el camino. Lo que de verdad nos aterra es que no ocurra.
Este año la inversión que está detrás de la burbuja de la IA representa el 92% del crecimiento del PIB de EE.UU. Mientras tanto, la economía china está dando alarmantes síntomas de agotamiento. Es decir, más allá de la burbuja, no hay crecimiento. Si la IA no produce las transformaciones que hemos anticipado, nos encontraremos con un mundo estancado, sin proyecto de progreso. En un momento de máxima polarización. Esto sí es aterrador.
Por otra parte, ¿Cómo puede ser que este manifiesto no mencionen ni la posibilidad de que la burbuja explote en las próximas semanas o meses? Hoy la mayoría de los analistas coinciden en que ocurrirá. ¿Qué haremos después? ¿Le vamos a volver a decir a la gente, como en 2008, que no se podía prever? ¿Que no lo vimos venir?
Mientras estamos distraídos, los mercados siguen temblando. Solo en la última semana IBM ha vivido el peor día de sus 115 años de historia con una caída del 25% en una sola sesión; las acciones de SpaceX —que hace un mes se vendían como la gran oportunidad generacional de hacerse rico invirtiendo— han caido un 40% y ya están por debajo del precio con el que salieron al mercado; la bolsa coreana —donde se agrupan varios de los fabricantes del hardware que necesita la IA— ha perdido en un mes el 25% de su valor y los fabricantes de chips americanos han ido detrás en la enésima ronda de pánico que lleva semanas sacudiendo los índices. La burbuja, si no ha explotado, desde luego ya silba.
En el horizonte, una sucesión de obstáculos, cada vez más altos: en el mes de agosto, se presentarán los resultados de todas las tecnológicas. En las ocasiones anteriores ha ocurrido que las acciones de alguna — o todas— han caído con brusquedad a continuación, aunque los números fueran excelentes. Además, en la primera semana del mes saldrá a bolsa otro 20% de las acciones de SpaceX y con la deriva actual, todo el mundo anticipa que va a ser una sangría. En medio de todo esto, OpenAI y Anthropic preparan sus propias salidas a bolsa, quizá alguna para octubre.
El boss final se avista en noviembre, cuando hay elecciones en Estados Unidos. El resultado más esperable es que Trump pierda el control, al menos, del congreso del país. Y si fuera así, los bulls (los que apuestan a que la bolsa seguirá subiendo) se quedarían sin la persona que ha sostenido las cotizaciones fabricando acontecimientos y titulares cada vez que han amenazado con desplomarse.
Cómo arreglar la máquina de comprender
He dicho muchas veces que estamos en la recta final de un proceso de 25 años. He argumentado que estamos en un momento idéntico al que nos empujó a la Gran Depresión en 1929. Creo que en los próximos años atravesaremos una profunda crisis existencial.
Y mucho más que la economía, me preocupa que los mecanismos que nos habíamos dado para comprender el mundo, incapaces de enfrentarse al hype económico y político, se nos han roto. Y nos han dejado sin una estructura intelectual que pueda mirar con honestidad y rigor a los cambios que estamos viviendo y a los verdaderos retos que tenemos por delante.
Necesitamos arreglar la máquina de comprender. Y la mejor herramienta para repararla es el viejo oficio de llevar la contraria: decir lo que uno ha comprobado aunque no lo firme nadie más; sobre todo si no lo firma nadie más. Porque tiene razón Meredith Whittaker: renunciar a decir la verdad nos vuelve estúpidos, no solo como individuos, sino como sociedad. Y para superar este momento extraordinario, brillante y temible que nos ha tocado vivir, vamos a necesitar de toda nuestra inteligencia.
Si quieres comprender este momento histórico, te invito a leer Hijos del optimismo. Es mi primer libro y lo he escrito como una guía para orientarnos en esta época de cambios. ¡Te cambiará la forma de ver el mundo!
Gracias, María, por tu valentía. No comparto del todo tu visión, pero es de agradecer esa claridad.
Sobre si “hay alguna razón para pensar que la IA tiene más probabilidad de ser un fenómeno revolucionario que estos otros avances” contestas que no, y creo que es rebatible precisamente porque ninguno de estos otros avances está percibiendo hoy en día tanta financiación. Puede ser mera especulación y que la gente corra detrás de este conejo hasta perderse en el país de las maravillas porque, como dices, no tenga más a qué aferrarse. O puede ser que la sobrefinanciación acabe generando transformaciones asombrosas, pues sin burbuja especulativa del ferrocarril o de la puntocom no se habrían asentado unas infraestructuras que, después de pagar los excesos con una buena resaca, dejaron ver una transformación efectiva en la productividad o el mercado. La inyección de dinero suele generar innovación - aunque también su ausencia, que azuza al ingenio - como ya ocurriera contrarreloj con las vacunas contra el COVID en tiempo récord.
Dicho esto, ante una inminente crisis como la que predices, ¿qué crees que convendría al ahorrador medio más allá de aferrarse a la silla todo lo posible?
Gracias por compartir.
Hola, María. Me voy a extender (y siento abusar de tu espacio) porque, leyéndote desde hace tiempo, me cuesta entender que hayas pospuesto tus vacaciones para escribir esto. No alcanzo a ver el objetivo de tanto entusiasmo contrarianista. Trataré de explicarme...
Tengo pocas dudas de que la IA «no será lo que anuncian sus promotores». Pero permíteme dudar también de que vaya a ser lo que tú afirmas con tanta seguridad:
(a) ¿Qué importa que no "razone" en términos humanos si consigue resultados comparables mediante algoritmos? La historia de la tecnología está llena de soluciones que funcionan sin replicar el mecanismo humano.
(b) ¿Sabes cuántos ámbitos productivos funcionan desde hace décadas sin certezas y gestionando riesgos probabilísticos? Si la IA alucina cada vez menos (y eso es objetivamente cierto), y además asumimos que esta es la peor IA que vamos a tener, ¿por qué no contemplar con algo más de humildad la posibilidad, bastante plausible, de que esas alucinaciones terminen siendo gestionables mediante salvaguardas, igual que hacemos con los errores humanos, mientras siga expandiéndose la automatización?
(c) Que hoy no parezca existir un moat suficiente para proteger a los gigantes tecnológicos no implica que el mercado no vaya a encontrar un equilibrio o, lo que me parece incluso más probable, que prosperen modelos de negocio rentables basados en IA, impulsados tanto por inversión privada como por subvenciones políticas públicas (EE. UU. y China ya compiten precisamente en ese terreno, y la obsesión geopolítica puede tapar brechas).
En lo único en que coincido plenamente contigo es en cuestionar las valoraciones billonarias de algunas compañías. Y creo que precisamente ahí está el origen de tu enmienda a la totalidad. Me parece que tu tesis (a mi juicio acertada) de que existe una enorme burbuja financiera acaba llevándote a una cierta visión de túnel. Que pueda producirse un gran ajuste bursátil no impide que, una vez pase, terminemos viendo transformaciones productivas muy profundas durante la próxima década.
Luego planteas que lo que nos aterra es que "todo eso no ocurra". ¿De verdad? Eso quizás preocupe a los inversores, que es donde tú sitúas el foco. Al resto de la sociedad lo que le inquieta es justo lo contrario: que esta tecnología transforme el empleo, destruya puestos de trabajo o los precarice.
Me parece estupendo que aportes un contrapunto, pero creo que cruzas una línea cuando afirmas que «has comprobado» lo que sostienes o que, por contraste, tu pronóstico es «ciencia en búsqueda de la verdad». No lo es. Igual que tampoco lo es el manifiesto que críticas, ni pretenden que lo sea. En ambos casos hablamos de hipótesis, algunas más plausibles que otras, pero hipótesis al fin y al cabo. Precisamente por eso te leo: porque planteas escenarios interesantes, no porque tengas acceso a certezas que nadie tiene.
Y hay algo que me desconcierta especialmente. ¿De verdad merece sacar los tanques y los cañones contra una afirmación como esta del Manifiesto? => «Los economistas, los responsables políticos y los líderes tecnológicos deben actuar ya para comprender la economía de la IA transformadora y construir los incentivos, las salvaguardas y las instituciones necesarias para orientar la IA en una dirección que complemente a los humanos y beneficie a la sociedad». Te leo y me pregunto: ¿cuál sería entonces la alternativa? ¿No hacer nada porque «esto no es para tanto»? ¿Esperar a que la mano invisible lo resuelva sola? Me parece mucho más irresponsable ridiculizar una llamada a prepararse que equivocarse por un hipotético exceso de prudencia.
Sí, existe una inmensa burbuja de expectativas, especialmente en los mercados financieros. Pero también hay muchísimas señales —muchísimas— de que estamos ante una tecnología profundamente disruptiva. Un desplome bursátil puede corregir el rumbo de la industria; pero no cambia necesariamente la naturaleza de la tecnología. Por eso, despreciar su potencial con tanta rotundidad me suena, con todo el respeto, a contrarianismo performativo.
Y termino mojándome. Este manifiesto podrá pecar de abusar del «podría», pero no porque sea razonable afirmar, como haces tú, que todo eso no va a ocurrir. Nadie tiene esa certeza, tú tampoco. Las probabilidades de que veamos transformaciones muy profundas (en los próximos diez años) son suficientemente altas como para tomarlas en serio y empezar a prepararnos desde ya. Tan es así, que yo me hubiera ahorrado el condicional.