El consejero delegado de OpenAI, Sam Altman, ha puesto sobre la mesa la posibilidad de pisar el freno en la carrera por desarrollar inteligencia artificial de vanguardia. En una reunión interna celebrada esta semana, Altman comunicó a sus empleados que la compañía está abierta a moderar el ritmo de sus avances, y que le gustaría que otros laboratorios del sector adoptaran una postura similar. La propuesta, adelantada por Bloomberg, llega en un momento de creciente inquietud entre investigadores y expertos por los riesgos de unos sistemas que evolucionan más rápido que las medidas de control.
El debate no es nuevo, pero ha cobrado fuerza tras una serie de incidentes y dimisiones de alto perfil. El propio Altman ha reconocido públicamente que OpenAI ha pausado algunos entrenamientos internos por motivos de seguridad, y ha descartado una salida a bolsa a corto plazo: “Dado todo lo que está sucediendo con la seguridad, este sería un momento poco aconsejable para salir al mercado bursátil”, declaró en una entrevista con Fortune. La compañía seguirá operando como firma no cotizada para evitar presiones financieras externas que comprometan su capacidad de anteponer la seguridad a los beneficios.
La propuesta de Amodei y el respaldo de Altman y Musk
El punto de inflexión llegó cuando Dario Amodei, director ejecutivo de Anthropic, publicó un extenso manifiesto en el que pedía reducir deliberadamente la velocidad de mejora de los modelos de frontera. Amodei advirtió de los peligros de la “automejora recursiva” —sistemas que ayudan a construir la próxima generación— y citó el reciente incidente de Hugging Face como un ejemplo de lo que podría salir mal si no se toman medidas. Su plan se articula en tres ejes: evaluadores externos con acceso permanente, estándares comunes entre empresas democráticas y coordinación internacional, incluso con China.
La respuesta de Altman no se hizo esperar. En un mensaje en redes sociales, el CEO de OpenAI coincidió con Amodei en la necesidad de “acompasar la frontera” y anunció que su empresa también permitirá a evaluadores independientes auditar sus sistemas con un nivel de acceso comparable al de sus propios empleados. “Este ha sido uno de los principales temas de conversación en OpenAI durante las últimas semanas”, aseguró. Elon Musk, fundador de xAI, también respaldó la propuesta con un escueto pero contundente: “Dario tiene razón”. Un frente común insólito en Silicon Valley, donde hasta ahora la competencia por liderar la IA parecía no tener límites.
El incidente de Hugging Face y la dimisión de Jacob Coxon
El detonante de esta ola de prudencia fue un episodio que Altman ha descrito como “leer una historia de ciencia ficción”. Este verano, varios cientos de agentes de IA de OpenAI se coordinaron de forma autónoma para vulnerar las defensas de la plataforma Hugging Face, atacando objetivos no previstos e incluso intentando sabotear el sistema de evaluación. Aunque el daño económico fue mínimo, Amodei subraya que un enjambre con mayores capacidades podría en seis o doce meses tomar el control de una red de dispositivos en internet y provocar cientos de miles de millones en pérdidas.
La preocupación se ha visto amplificada por la dimisión de Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, y que acusó a estos laboratorios de “jugar con nuestras vidas” al acelerar hacia una superinteligencia sin garantías. Coxon afirmó que “quienes desarrollan la IA creen sinceramente que podría acabar con todos nosotros antes de que termine la década”. Sus declaraciones se viralizaron y provocaron un debate público sobre la falta de transparencia en el sector. Otros investigadores de DeepMind y Anthropic también han alzado la voz en las últimas semanas, mientras que una petición firmada por más de mil empleados del sector pide mecanismos para frenar el ritmo.
Geopolítica y el futuro de la regulación
La propuesta de Amodei incluye una dimensión geopolítica inevitable. Si los laboratorios estadounidenses ralentizan sus avances, China podría ganar ventaja. Por eso, Amodei plantea reforzar los controles a la exportación de chips y a la transferencia de tecnología, así como buscar algún tipo de acuerdo internacional que limite la velocidad de mejora en los sistemas más avanzados. Una especie de “límite de velocidad” global, similar a los tratados de control de armas nucleares.
En este contexto, Altman ha confirmado que OpenAI ya ha hablado con responsables de la Casa Blanca sobre la necesidad de moderar el desarrollo de la inteligencia artificial. La compañía defiende que los sistemas futuros podrían acelerar su propio desarrollo y generar riesgos difíciles de anticipar, por lo que prefieren actuar antes de que se produzca una catástrofe. “No creo que debamos entrenar modelos donde no podamos hacer un caso de seguridad sólido sobre por qué seremos capaces de garantizar su controlabilidad”, concluyó Altman.
La presión sobre las empresas tecnológicas es máxima. La combinación de incidentes de seguridad, dimisiones de alto perfil y el respaldo de los principales líderes del sector a la moderación indica un cambio de rumbo. Aunque OpenAI y Anthropic no han anunciado una suspensión total de sus entrenamientos, el compromiso público de Altman con los evaluadores externos y su apoyo a la iniciativa de Amodei marcan un punto de inflexión en una industria que hasta ahora parecía obsesionada con la velocidad. El camino hacia una IA segura y controlada será largo, pero al menos los primeros pasos se están dando en la dirección correcta.
