Un exinvestigador de Anthropic, Jacob Coxon, ha encendido las alarmas al afirmar que la humanidad podría extinguirse en un futuro inmediato si no se modera el ritmo de desarrollo de la inteligencia artificial. Sus declaraciones, difundidas por la BBC, llegan en un momento en que líderes del sector tecnológico piden una pausa regulatoria y crece la inquietud por la seguridad de estos sistemas.
"Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato", advirtió Coxon, quien antes trabajó en OpenAI.
Su mensaje se volvió viral tras abandonar la compañía, y describe un ambiente de temor entre sus colegas:
"Las personas que trabajan en estas empresas hablan muy en serio cuando piden regulación, ya que se sienten atrapadas en una carrera. Y temen las consecuencias de esa misma carrera".
El director de Anthropic, Dario Amodei, publicó un artículo el sábado en el que calificó de "graves" los riesgos de la IA y solicitó tiempo para que empresas y gobiernos los aborden. Sam Altman, de OpenAI, y Elon Musk, de xAI, respaldaron la propuesta de Amodei de ralentizar el avance y establecer regulaciones. Coxon acogió la idea, pero advirtió que sería necesario coordinar con China para evitar "una carrera a escala internacional".
El exinvestigador detalló que el personal de las empresas de IA estaba "planificando qué hacer con sus vidas y reflexionando sobre el impacto de su trabajo", y algunos "consideraban comprar terrenos en algún lugar debido al miedo que les provoca la inestabilidad derivada del rápido avance de la IA". Según Coxon, "todos tienen esto presente a diario mientras trabajan en la tecnología". Aun así, mostró cierto optimismo: los investigadores "realmente quieren ver el lado positivo", como "curar enfermedades y mejorar la vida de todos".
La preocupación se extiende. Evan Hubinger, científico de Anthropic, afirmó: "Realmente creemos con total sinceridad que la IA podría acabar con todos los seres humanos. Personalmente, creo que existe una probabilidad superior al 10 por ciento de que esto ocurra en la próxima década". Geoffrey Hinton, premio Nobel y conocido como el "padrino de la IA", declaró el viernes a la BBC que esa probabilidad "no era descabellada". Marc Warner, director ejecutivo de Faculty, señaló que es "extremadamente difícil asignar una probabilidad", pero reconoció que "estas personas son muy sinceras en lo que dicen".
No todos comparten estas visiones. Clement Delangue, director ejecutivo de Hugging Face, ironizó en redes sociales: "Lo siento, pero preguntar a Jacob [Coxon] sobre el riesgo de extinción por la IA es como preguntar al técnico del aire acondicionado sobre el cambio climático". George Arison, de Grindr, sugirió que estas declaraciones buscan captar inversores. En este escenario, Sam Altman anunció el viernes que OpenAI no seguirá el camino de la OPI este año, citando preocupaciones sobre la seguridad de la IA. La valoración más reciente de OpenAI alcanzó los 852 mil millones de dólares, mientras se informa que Anthropic se prepara para una oferta pública inicial récord.
Desde la ONU, el alto comisionado Volker Türk advirtió este lunes que todos los derechos humanos "están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad". Türk señaló que la IA agéntica está mostrando fallos que "podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas". Además, afirmó que "poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros".
Türk aseguró que la IA "ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva". Ante ello, instó a Estados y empresas a movilizarse con urgencia:
"Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico".
