El otro ensayo de Darío Amodei: lo que imaginó para el futuro antes de advertirnos sobre lo que puede salir mal
En 2024, el CEO de Anthropic escribió su visión más ambiciosa: un mundo donde la IA cura enfermedades, reduce la pobreza y duplica la expectativa de vida. Mi lectura desde Latinoamérica.
Hace unos días publiqué mi análisis de “The Adolescence of Technology“, el ensayo donde Dario Amodei cataloga todo lo que puede salir mal con la IA. Bioterrorismo. Vigilancia totalitaria. Desempleo masivo. Concentración de riqueza que “romperá la sociedad”.
Pero ese ensayo fue el segundo que Amodei escribió. El primero se llama “Machines of Loving Grace“ y lo publicó en octubre de 2024. Es exactamente lo opuesto: una visión detallada de todo lo que la IA puede hacer por la humanidad si las cosas salen bien.
Decidí empezar por publicar mi análisis del ensayo pesimista porque creo que el orden importa: es más fácil evaluar una promesa cuando ya conoces los riesgos. Ahora que ya tienes el mapa de lo que puede salir mal, podemos mirar la visión optimista con los pies en la tierra.
Y hay algo interesante en la secuencia del propio Amodei: él hizo el camino inverso. Escribió primero el sueño y después la pesadilla. Como si imaginar todo lo bueno lo hubiera forzado a confrontar todo lo malo.
La inteligencia no es polvo de hadas
El aporte intelectual más valioso de este ensayo es un concepto que Amodei llama “retornos marginales a la inteligencia”. La pregunta que propone no es “¿qué tan inteligente será la IA?” sino “¿en qué problemas rinde más esa inteligencia?”
Porque la inteligencia, por muy superior que sea, choca contra los límites del mundo real: La velocidad del mundo físico (las células se dividen al ritmo que se dividen, los experimentos toman el tiempo que toman). La falta de datos (a veces la información simplemente no existe). La complejidad intrínseca de ciertos sistemas. Las restricciones humanas (leyes, regulaciones, hábitos). Y las leyes de la física, que son absolutas.
Este framework es lo que separa a Amodei de los tecno-optimistas genéricos. No es “la IA lo resuelve todo mágicamente”. Es “la inteligencia es extraordinariamente poderosa, pero no es magia”. Esa sobriedad es rara en un CEO de una empresa de tecnología, y es lo que hace que sus predicciones merezcan atención.
Las cinco promesas
El ensayo organiza su visión en cinco áreas. No voy a repetir su ensayo (te invito a leerlo completo aquí). Quiero recorrer cada una con mi propia lectura.
Biología y salud. La predicción central es radical: la IA podría comprimir 50 a 100 años de progreso biológico en 5 a 10 años. Cura de la mayoría del cáncer. Prevención del Alzheimer. Duplicar la expectativa de vida a 150 años. Suena a ciencia ficción, pero el argumento es más serio de lo que parece. Amodei, que fue investigador en biología antes de fundar Anthropic (tiene publicaciones académicas en el campo), sostiene que la mayor parte del progreso biológico viene de un número minúsculo de descubrimientos (CRISPR, vacunas mRNA, terapias CAR-T) y que esos descubrimientos tienen altos retornos a la inteligencia. Más gente brillante trabajando en paralelo, más descubrimientos de ese calibre. Los datos recientes le dan cierta razón: Insilico Medicine desarrolló un fármaco con IA que pasó de identificación a ensayo clínico Fase I en 18 meses, un proceso que normalmente toma de 3 a 5 años. AstraZeneca reporta que la IA ha acelerado el diseño de fármacos en más del 50%. No es el siglo comprimido todavía, pero la dirección es clara.
Neurociencia y salud mental. El autor aplica el mismo framework a la neurociencia, con una adición: lo que estamos aprendiendo de la IA misma puede ayudar a entender el cerebro humano. Los trabajos de interpretabilidad de modelos de Anthropic abordan la misma pregunta fundamental: ¿cómo cooperan redes de unidades simples para producir computaciones complejas? De hecho, un mecanismo computacional descubierto en sistemas de IA fue recientemente redescubierto en cerebros de ratones. Las predicciones concretas: cura de la mayoría de enfermedades mentales, mejora de problemas cotidianos como ansiedad o falta de foco, y una mejora general de la experiencia humana. Amodei agrega un punto que me parece importante: sospecha que la mejora de la salud mental atenuará muchos problemas que hoy parecen políticos o económicos. Una población más sana mentalmente toma mejores decisiones y es menos susceptible a la manipulación.
Gobernanza y paz. Amodei es directo: no hay razón estructural para creer que la IA favorecerá la democracia. Si queremos ese resultado, hay que pelear por él. Propone una coalición de democracias que mantenga ventaja en IA. Para Latinoamérica esta sección es la más distante (no controlamos la cadena de suministro de chips), pero hay un punto que merece atención: la IA como herramienta para mejorar servicios públicos. La idea de un sistema que ayude a los ciudadanos a recibir todo lo que legalmente les corresponde del gobierno, reduciendo la discrecionalidad y la corrupción en trámites, es potencialmente transformadora para países con instituciones que funcionan a medias.
Las dos áreas restantes son las que más conectan con los temas que he venido tratando en este blog, así que voy a dedicarles más espacio.
Desarrollo económico: donde la visión se vuelve borrosa
El CEO de Anthropic reconoce que está “menos confiado” en que la IA pueda resolver la desigualdad más que en su capacidad para inventar tecnologías. Y con razón. No basta con inventar una vacuna. Hay que fabricarla, distribuirla, convencer a la gente de usarla, y hacerlo en países con instituciones débiles y recursos limitados.
Los datos del Banco Mundial dan la escala del desafío: el PIB per cápita de África subsahariana es de aproximadamente 1.533 dólares (2024). El de Latinoamérica, unos 10.738 dólares. El de Estados Unidos, alrededor de 75.000 dólares.
El ensayo ofrece hipótesis esperanzadoras: “ministros de finanzas de IA” que repliquen el éxito de los Tigres Asiáticos, una segunda Revolución Verde, crecimiento del 20% anual en el mundo en desarrollo como “escenario ideal”. Pero su análisis de la distribución es vago.
Creo que tiene razón en el diagnóstico pero subestima la dificultad del último kilómetro. Y esto lo veo todos los días en mi trabajo como CEO de Yom.
La inteligencia se está democratizando. Cualquier persona puede acceder a modelos de IA de frontera por unos pocos dólares al mes. Pero acceso a la inteligencia no es lo mismo que capacidad de usarla. ¿Quién le va a explicar al agricultor en Huancavelica cómo usar estas herramientas? ¿Quién va a adaptar un modelo de diagnóstico médico al contexto de una posta rural en Centroamérica? ¿Quién va a integrar la IA en el flujo de trabajo de una pyme familiar que todavía lleva sus cuentas en un cuaderno?
La respuesta no son las empresas de IA en San Francisco. Son los incumbentes locales: las empresas que ya tienen distribución, clientes, confianza y conocimiento del terreno.
Amodei mira el mundo desde la oferta: qué puede hacer la IA. Desde Latinoamérica necesitamos mirar desde la demanda: quién necesita qué, y cómo se lo hacemos llegar. No vamos a competir en la capa de infraestructura (esa carrera requiere inversiones de miles de millones de dólares que no tenemos). Pero podemos ser los que lleven estas promesas al mundo real. Al vendedor en una tienda de barrio, al médico sin especialistas, al emprendedor que necesita capacidad de análisis que antes solo tenía una consultora internacional.
La restricción de capital que tenemos en Latinoamérica no es solo una limitación. Es lo que nos fuerza a pensar en aplicación y distribución, que es donde se captura el valor real.
Trabajo y sentido: la pregunta que realmente nos quita el sueño
El ensayo hace una distinción que me parece fundamental: el problema del sentido es más fácil que el problema económico.
Sobre el sentido, su argumento es simple: la mayoría de las personas no son las mejores del mundo en nada, y eso no parece molestarles demasiado. Disfrutamos de actividades que no generan valor económico. Que una IA pueda hacer algo mejor que tú no le quita sentido a que tú lo hagas.
El problema económico es más difícil. A largo plazo, cuando la IA pueda hacer todo más barato que un humano, el modelo económico actual dejará de funcionar. La respuesta de Amodei es honesta: “No sé cómo se resolverá esto”.
Aquí conecto con algo que he escrito antes en La Última Interfaz. El ensayo valida (probablemente sin proponérselo) la distinción que hice en mi artículo sobre el emprendimiento como futuro del trabajo: la diferencia entre carreras “líquidas” e “ilíquidas”. Las carreras líquidas (predecibles, estandarizadas) caen primero ante la automatización. Las ilíquidas (emprendimiento, combinaciones únicas de habilidades) resisten más porque su impredecibilidad es lo que la IA todavía no domina.
Pero quiero ir un paso más allá. Amodei argumenta que “la civilización ha navegado cambios económicos mayores en el pasado: de caza y recolección a agricultura, de agricultura a feudalismo, de feudalismo a industrialismo”. Es verdad. Pero esas transiciones tomaron generaciones. Si la IA comprime un siglo de progreso en una década, estamos hablando de hacer una transición económica civilizacional en el tiempo que toma criar un hijo.
Eso no se resuelve con un programa de reentrenamiento laboral. Requiere repensar la relación entre trabajo, valor y dignidad desde cero.
La tensión como brújula
Amodei escribió primero el sueño y después la pesadilla. No porque cambiara de opinión, sino porque ambos son ciertos al mismo tiempo. El mismo “país de genios” que puede curar el cáncer puede diseñar un arma biológica. La misma IA que puede duplicar el crecimiento económico puede concentrar riqueza de formas nunca vistas.
La posición correcta, especialmente para quienes lideramos empresas o tomamos decisiones, es vivir en esa tensión. Actuar con la ambición que justifica el ensayo luminoso. Prepararse con la seriedad que exige el oscuro.
Para quienes operamos desde Latinoamérica, esa tensión tiene una traducción práctica. No vamos a construir los modelos de frontera ni a ganar la carrera de infraestructura. Pero sí podemos ser quienes lleven estas promesas al último kilómetro, a las personas que no se ven desde San Francisco. Tenemos los clientes, la distribución, la confianza. Y ahora tenemos acceso a una inteligencia que antes estaba reservada para quienes podían pagar equipos de cientos de ingenieros.
Eso no es poco. Es, posiblemente, la oportunidad más grande que ha tenido esta región en décadas.
Amodei termina Machines of Loving Grace diciendo que si todo esto realmente sucede, sospecha que todos los que lo presencien se sorprenderán por el efecto que tendrá sobre ellos. No por los beneficios personales, sino por la experiencia de ver un conjunto de ideales largamente sostenidos materializarse de golpe.
La pregunta no es si el futuro será bueno o malo. La pregunta es qué vamos a hacer nosotros para que sea más parecido al sueño que a la pesadilla.