Alarma en Silicon Valley: Renuncia un investigador de Anthropic y científicos admiten riesgos del 10% de catástrofe por superinteligencia
13.09.2026
El científico Jacob Coxon dimitió denunciando una carrera corporativa sin frenos de seguridad. Su exjefe de Alineación confirmó que la automejora recursiva de los modelos avanza más rápido de lo previsto y advirtió que los temores privados de los ejecutivos superan a su discurso público.
Alarma en Silicon Valley: Renuncia un investigador de Anthropic y científicos admiten riesgos del 10% de catástrofe por superinteligencia
Una nueva grieta ética sacude a las gigantes de la inteligencia artificial en Estados Unidos. El científico Jacob Coxon anunció su renuncia a la firma Anthropic tras denunciar que la competencia encarnizada entre corporaciones tecnológicas está relegando los controles de seguridad fundamentales. Según Coxon, la toma de decisiones sobre el despliegue de modelos avanzados se encuentra hiperconcentrada en un reducido grupo de ejecutivos motivados prioritariamente por liderar el mercado, aun a costa de admitir en privado riesgos de escala civilizatoria.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
La denuncia cobró volumen institucional tras el respaldo público de Evan Hubinger, responsable del área de Alineación de Anthropic —disciplina encargada de garantizar que los sistemas obedezcan el diseño humano—. Hubinger confirmó que la probabilidad de una catástrofe global derivada de estos desarrollos supera el 10% dentro de la próxima década. El eje de la preocupación técnica no radica en los modelos comerciales actuales, sino en la inminente fase de "automejora recursiva": un escenario donde los algoritmos existentes entrenan y diseñan de forma autónoma a sus sucesores a velocidades que impiden la supervisión externa.
El episodio expone la brecha entre el discurso público y las discusiones a puerta cerrada en Silicon Valley. A diferencia de las posturas corporativas tradicionales que minimizan los impactos, el propio presidente ejecutivo de Anthropic, Dario Amodei, reconoció meses atrás que los riesgos reales se aceleraron drásticamente en 2026 respecto a años anteriores. El debate reaviva la discusión geopolítica global sobre la urgencia de marcos regulatorios estatales que impidan que un puñado de firmas privadas gestione de manera unilateral tecnologías de impacto crítico.
Fuente: CONSENSO PATAGONICO
