El llamado conjunto de los líderes de las dos empresas de inteligencia artificial más prominentes para frenar el ritmo de desarrollo de la IA de frontera sacudió los mercados globales el lunes, ahondando la brecha entre los defensores de la seguridad en Silicon Valley y los líderes políticos empeñados en mantener una ventaja tecnológica sobre China.
El llamado a la moderación
El CEO de Anthropic, Dario Amodei, publicó el sábado un extenso ensayo en el que pide a la industria de la IA que frene el desarrollo de sus modelos más avanzados, advirtiendo que la automejora recursiva —sistemas de IA capaces de construir versiones mejoradas de sí mismos— «podría superar nuestra capacidad de entender y controlar estos sistemas, por lo que debe perseguirse con mucha cautela, si es que debe perseguirse en absoluto». El CEO de OpenAI, Sam Altman, respaldó la propuesta en una publicación en X, al tiempo que le comunicó a Fortune que su empresa no saldría a bolsa este año, ya que prioriza la seguridad.
Los anuncios se produjeron tras una turbulenta semana en la que el ex investigador de Anthropic Jacob Coxon renunció y advirtió públicamente que las empresas están compitiendo para crear una «superinteligencia que se autoperfecciona». Evan Hubinger, director de Ciencias de Alineación de la propia Anthropic, respondió después que cree que hay más de un 10% de probabilidades de que la tecnología pueda «matar a todos los humanos».
Anthropic se comprometió a integrar evaluadores externos dentro de la empresa para evaluar sus modelos de IA y verificar el cumplimiento de las prácticas de seguridad. The Wall Street Journal informó que el debate sobre seguridad había ido tomando fuerza internamente, incluso mientras ambas empresas celebraban recientes hitos técnicos, entre ellos un modelo de IA que resolvió uno de los Problemas del Milenio en matemáticas.
Turbulencia en los mercados
Las bolsas asiáticas y los futuros de acciones estadounidenses retrocedieron el lunes, mientras los inversores sopesaban las implicaciones de una desaceleración deliberada en la industria que ha impulsado gran parte de las ganancias del mercado. Las acciones de SoftBank, uno de los principales inversores de OpenAI, cayeron más de un 10% en la bolsa de Tokio. La ola de ventas se extendió por todo el sector tecnológico, poniendo de manifiesto hasta qué punto las valoraciones recientes del mercado han dependido de las expectativas de un rápido avance de la IA.
Trump responde a las advertencias
El presidente Trump desestimó las advertencias de seguridad el domingo, diciéndoles a los periodistas que «fuerzas muy negativas» están «sacando a relucir cosas que no van a ocurrir.» Enmarcó el debate en términos geopolíticos: «Vamos por delante de China en IA. Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA lo gana todo», según informó Reuters.
La tensión entre las propias preocupaciones de seguridad de la industria y las ambiciones competitivas de Washington se cierne ahora sobre las salidas a bolsa planeadas por ambas compañías, tras confirmar Altman que el IPO de OpenAI está retrasado y esperándose aún para este otoño la cotización de Anthropic.
