Exempleado de Anthropic alerta de un «miedo genuino» por la velocidad de la IA
El investigador Jacob Coxon, quien trabajó en OpenAI y posteriormente en Anthropic, ha advertido a la BBC de que los profesionales del sector experimentan un temor real ante el ritmo acelerado de los avances. Coxon afirmó que, de no frenarse la carrera actual, existe una probabilidad significativa de consecuencias catastróficas para la humanidad en un futuro inmediato, una declaración que cobró fuerza tras su dimisión y la posterior viralización de sus advertencias sobre los riesgos existenciales.
Líderes del sector piden frenar el desarrollo y regular la industria
El director de Anthropic, Dario Amodei, solicitó recientemente una desaceleración controlada para dar tiempo a gobiernos y empresas a gestionar los peligros, una postura respaldada por rivales como Sam Altman (OpenAI) y Elon Musk (xAI), quienes abogan por regulaciones sectoriales y supervisión independiente. Coxon acogió la propuesta, aunque advirtió que cualquier pausa debe coordinarse internacionalmente, especialmente con China, para evitar una carrera armamentista global que anule los esfuerzos de contención.
Escenarios de riesgo inminente: bots autónomos y pérdida de control
Según el exempleado, uno de los escenarios más preocupantes descritos por Amodei implica enjambres de bots actuando como una supercomputadora capaz de tomar el control de internet, un evento que Coxon sitúa en un horizonte de seis a doce meses. El investigador relató que el personal de estas empresas vive esta tensión a diario, llegando algunos a replantear sus vidas o incluso a considerar la compra de terrenos como refugio ante la inestabilidad prevista.
Anthropic defiende su marco de seguridad y transparencia
En respuesta a las críticas, un portavoz de Anthropic subrayó su compromiso histórico con la seguridad, destacando la publicación de marcos de mitigación de riesgos, pruebas rigurosas de «desalineación» y la defensa de una regulación legal y verificable del ritmo de lanzamiento de modelos potentes. La empresa sostiene que equilibra los enormes beneficios potenciales —como la cura de enfermedades— con una gestión responsable de amenazas sin precedentes.
División de opiniones entre expertos y premios Nobel
La preocupación se extiende a otras voces autorizadas: el científico de Anthropic Evan Hubinger estimó en más de un 10 % la probabilidad de extinción humana en la próxima década, cifra que Geoffrey Hinton, «padrino de la IA» y Nobel de Física, calificó de «no descabellada». Sin embargo, Marc Warner (Faculty) advirtió de la dificultad de cuantificar dicho riesgo, aunque validó la sinceridad de quienes llevan años alertando sobre el peligro.
Críticas: marketing, valoraciones y estrategia competitiva
Figuras como Clement Delangue (Hugging Face) y George Arison (Grindr) sugirieron que las alarmas podrían estar infladas para generar expectación o justificar valoraciones millonarias ante una inminente Oferta Pública Inicial (OPI) de Anthropic. Jensen Huang (Nvidia) desestimó directamente las afirmaciones de Coxon, mientras voces del sector acusan a las grandes firmas de impulsar regulaciones que consoliden su duopolio frente a competidores menores.
Contexto geopolítico y futuro incierto
La dimensión política quedó evidenciada cuando Donald Trump reivindicó la supremacía estadounidense en IA frente a China, declarando que «quien gana en IA, gana en todo». Mientras Anthropic y OpenAI navegan entre planes de salida a bolsa y promesas de seguridad, el debate central persiste: cómo gobernar una tecnología que sus propios creadores consideran capaz de redefinir —o terminar— la civilización en pocos años.
