Antes una ambición lejana para los investigadores tecnológicos, la perspectiva de que los modelos de inteligencia artificial se enseñen a sí mismos de forma autónoma para ser más eficientes y capaces parece cada vez más cercana a la realidad.
A medida que la tecnología avanza, los desarrolladores afirman que se acerca a la «auto-mejora recursiva», o RSI, en la que los modelos de IA encuentran formas de perfeccionarse a sí mismos y construir su propio sucesor. Podría traer la promesa de avances en ciencia y medicina, dicen los ejecutivos de empresas tecnológicas, pero también grandes riesgos.
La incertidumbre sobre hacia dónde podría llevar todo esto está en el centro de los crecientes temores sobre que la IA evada el control humano y posibles amenazas para la humanidad, lo que llevó a varios magnates de la IA a unirse el pasado fin de semana en un llamamiento para frenar el ritmo de crecimiento de la tecnología.
Esta semana, Anthropic detalló cómo su modelo Claude está ayudando a la empresa a desarrollar la próxima versión más inteligente de sí misma. Claude lidera ahora el 26% de la investigación y desarrollo de modelos de Anthropic, lo que, según la compañía, significa que puede completar la mayor parte de una tarea «de principio a fin desde un prompt de alto nivel» y seguir bajo supervisión humana. Los modelos no funcionan de forma completamente autónoma — al menos no todavía.
Aquí tienes algunos puntos clave sobre la superación recursiva de la persona.
TemasRelacionados
¿Qué es la superación recursiva?
Las principales empresas de IA tienen diferentes definiciones para la auto-mejora recursiva. Algunos lo definen como cuando hay algún feedback de la IA sobre la mejora del modelo, mientras que otros lo definen como que la IA trabaja hacia ese objetivo de forma totalmente autónoma.
La auto-mejora autónoma y recursiva significa esencialmente una IA que puede mejorarse diseñando la siguiente versión del sistema, luego la siguiente, y así sucesivamente, dijo Anthony Aguirre, presidente y CEO de la organización sin ánimo de lucro Future of Life Institute y profesor de física en la Universidad de California, Santa Cruz.
«Lo realmente importante aquí es que, a medida que la IA hace más de ello, se vuelve más rápida, porque la IA opera mucho, mucho más rápido que los humanos», dijo.
El temor en torno a la RSI se basa en gran medida en una superinteligencia descontrolada que surge de ese proceso, dijo John Thickstun, profesor adjunto de informática en la Universidad de Cornell que estudia métodos que controlan el comportamiento de los modelos de IA. Pero dijo que una visión más realista sugiere que una especie de auto-mejora recursiva lleva ocurriendo en el desarrollo de la IA desde hace tiempo.
«Ya llevamos años, usando estos modelos en roles de apoyo para crear la siguiente versión de estos modelos. Así que la gente utiliza la generación pasada de modelos para escribir código para los sistemas de IA que luego crean la siguiente generación», explicó.
Durante años, destacados investigadores en IA como Andrej Karpathy, cofundador de OpenAI, han experimentado con intentar que los modelos de IA entrenen y mejoren nuevos sistemas de IA. Esos esfuerzos han traído pequeñas mejoras, pero no grandes saltos creativos, dijo Thickstun.
Pero las empresas de IA actuales, dijo Aguirre, están mucho más cerca de lograr esos saltos mayores en la mejora.
«Se puede ver en estos gráficos de Anthropic a lo largo del tiempo, que cada vez más investigación la realiza la IA y que se está acercando cada vez más a ser completamente autónoma», dijo. «Y el resultado de ese éxito, en última instancia, es algo que, creo, es extremadamente aterrador. Creo que probablemente esta sea la peor idea en la historia de la humanidad para hacer esto. Y sí, lo están haciendo.»
Algunos laboratorios de IA dicen que la LER no está tan lejos
El reciente anuncio de Anthropic proporcionó al público —y a otros laboratorios— cierta información sobre el progreso de la RSI, y animó a sus competidores a compartir métricas similares. Aun así, la compañía no ha dicho expresamente lo cerca que está de lograr una mejora totalmente autónoma del modelo.
El creador de ChatGPT, OpenAI, anunció este mes que ha desarrollado un «becario de investigación» automatizado, que define como un sistema capaz de realizar tareas de investigación bien definidas bajo dirección humana, incluyendo «tareas que llevarían unos días a un investigador cualificado». La empresa ha anunciado que avanza con el objetivo de crear un «investigador» automatizado de IA para marzo de 2028.
La compañía dijo en ese anuncio que, aunque la RSI puede ayudar a alinear las acciones de los modelos con los valores e intenciones humanas, eso no significa que «la RSI rápida sea necesariamente un resultado que debamos perseguir.»
«Si y cómo proceder debe depender de nuestra capacidad para preservar el control humano y de decisiones democráticas informadas sobre los beneficios y riesgos», dijo la compañía en una entrada de blog.
Elon Musk parece más dispuesto a seguir adelante. En marzo dijo que para los modelos Grok de xAI, «los humanos están cada vez menos informados» sobre la mejora de modelos y que «cada modelo sucesivo es construido por el anterior», pero aclaró que el proceso aún no está completamente automatizado. Ese objetivo podría alcanzarse antes de que termine este año, añadió, «pero no más tarde» de 2027.
Microsoft y otras empresas líderes en IA parecen estar adoptando un enfoque diferente.
Mustafa Suleyman, CEO de Microsoft AI, ha dicho que la empresa se está moviendo hacia la «superinteligencia humanista», o capacidades avanzadas de IA al servicio de las personas y de la humanidad en general. Suleyman dijo en un ensayo de 2025 que esto no significaría «una entidad ilimitada con altos grados de autonomía», sino más bien una IA que está «cuidadosamente calibrada, contextualizada, dentro de límites.»
Cómo las negociaciones para desacelerar el desarrollo podrían afectar a RSI
Un desafío clave al que se enfrentan los laboratorios —y que han estado enfrentando esencialmente desde el inicio de la tecnología— es asegurar que sus medidas de seguridad avancen junto con las capacidades de los modelos.
Han surgido divisiones en la industria tecnológica por las peticiones de una desaceleración coordinada de la IA para garantizar la seguridad, y no todos los grandes actores del sector de la IA han comentado específicamente su camino con la RSI.
Anthropic, que ha sido una voz principal en las demandas de ritmo, ha dicho que ralentizaría o pausaría temporalmente su trabajo de desarrollo — suponiendo que sus competidores globales también lo hicieran, y de una «manera verificable».
OpenAI declaró explícitamente este mes que aún no sabe cómo «llegar de forma segura hasta un RSI alineado y completo», añadiendo que la empresa «no puede asumir que el progreso en alineación y seguridad vaya a mantener el ritmo.» Continuó con sistemas más capaces de ser más difíciles de monitorizar, pero perseguir la RSI sigue siendo un objetivo que dice valorar porque un «investigador automatizado en IA también puede ser un investigador automatizado de seguridad o alineación.»
