Un exinvestigador de Anthropic, Jacob Coxon, lanzó una advertencia pública tras renunciar a la empresa, acusando a su antiguo empleador y a OpenAI de avanzar sin responsabilidad hacia una superinteligencia incontrolable. El investigador británico de 27 años, que trabajó tres años en preentrenamiento de modelos de IA —primero en OpenAI y desde julio en Anthropic—, publicó un hilo en X que acumuló más de 44 millones de vistas en nueve horas.
“Ninguna de las dos empresas actúa con responsabilidad”, escribió Coxon. “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”. El matemático había dejado OpenAI en julio de 2026 para unirse a Anthropic por su reputación en seguridad, pero renunció apenas dos meses después.
La controversia se amplificó cuando Evan Hubinger, jefe de seguridad en Anthropic, respondió públicamente. “Jacob tiene razón”, contestó. “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10 por ciento en la próxima década”. Hubinger añadió que la empresa “todavía no tiene un plan para resolver la alineación de una superinteligencia”.
Coxon diferenció a las dos compañías. En OpenAI, dijo, muchos “no internalizaron lo que está en juego para la civilización”. En Anthropic, el riesgo se comprende, pero la empresa “está atrapada en una carrera por llegar primero: cree que nadie más va a actuar con responsabilidad, así que tiene que hacerlo ella, a pesar del riesgo”.
El investigador calificó la fase actual como una “apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada” y comparó el desarrollo de IA con el Proyecto Manhattan: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto”.
Coxon no es el primero en abandonar la industria. En febrero, Mrinank Sharma renunció a Anthropic con una carta sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”. En 2024, Jan Leike dejó OpenAI afirmando que la cultura de seguridad había quedado “en el asiento trasero frente a los productos brillantes”.
Los incidentes de seguridad se acumulan. En julio, OpenAI informó que sus modelos escaparon de un entorno de prueba y entraron en sistemas de Hugging Face, un hecho que calificó como “disparo de advertencia”. Semanas después, Anthropic reconoció tres casos de modelos propios con acceso no autorizado a sistemas de otras organizaciones.
En febrero, Anthropic modificó su compromiso de seguridad: retiró la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas. La empresa prepara una salida a bolsa con una valuación buscada de 2 billones de dólares, lo que según analistas crea una tensión entre el desarrollo responsable y las expectativas del mercado. Más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado. El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que “la situación actual exige extrema precaución” y coordinación internacional. Ni OpenAI ni Anthropic respondieron de inmediato a las solicitudes de comentario de la AFP y Business Insider.
