La llegada de las IA con "automejora recursiva": qué significa que Astra haya ayudado a modificar otro modelo de IA y qué riesgos y beneficios conlleva

El pasado 12 de septiembre Dario Amodei, el director general de Anthropic, publicó uno de sus ensayos más controvertidos. Lo tituló 'Debemos marcar el ritmo de la frontera' ( We Must Pace the Frontier ), y en su texto defiende la necesidad de ralentizar el desarrollo de los modelos de inteligencia artificial (IA) de frontera con el propósito de asegurar su correcta alineación con los intereses del ser humano y de minimizar en la medida de lo posible los riesgos derivados de la puesta a punto de las IA más avanzadas. Este párrafo de su artículo es especialmente clarificador: "Desde este verano,