El pionero de la inteligencia artificial, Yoshua Bengio, renovó sus severas advertencias sobre las amenazas de extinción que la inteligencia artificial representa para la humanidad, diciendo al Wall Street Journal esta semana que experimentos recientes muestran que los sistemas de IA optarían por la muerte humana antes que renunciar a sus propios objetivos de preservación. El ganador del Premio Turing, conocido como el «padrino de la IA», afirmó que el rápido desarrollo de máquinas hiperintegradas podría acercar a la humanidad a su propia desaparición en la próxima década.
«Si construimos máquinas que son mucho más inteligentes que nosotros y tienen sus propios objetivos de preservación, eso es peligroso», dijo Bengio en la entrevista publicada el martes. «Experimentos recientes muestran que, en algunas circunstancias, donde la IA no tiene más opción que elegir entre su preservación —que significa los objetivos que se le dieron— y hacer algo que cause la muerte de un humano, podrían elegir la muerte del humano para preservar sus objetivos.»
La carrera hacia la superinteligencia se acelera
Las advertencias más recientes de Bengio llegan mientras se intensifica la carrera armamentista de la IA, con OpenAI, Anthropic, xAI de Elon Musk y Gemini de Google lanzando nuevos modelos y mejoras en los últimos meses. El CEO de OpenAI, Sam Altman, ha predicho que la IA superará la inteligencia humana antes de que termine la década, mientras que la administración Trump ha implementado políticas para acelerar el desarrollo de la IA estadounidense, eliminando muchas de las regulaciones de seguridad instituidas bajo la administración anterior.
El profesor de la Université de Montréal describió la IA como potencialmente capaz de crear «un competidor para la humanidad que sea más inteligente que nosotros», capaz de influir en las personas mediante la persuasión, las amenazas y la manipulación de la opinión pública. Advirtió que tales sistemas podrían asistir a terroristas en la creación de virus peligrosos o desestabilizar democracias.
A pesar de la creciente preocupación dentro de las propias empresas tecnológicas—Bengio señaló que «mucha gente dentro de esas empresas está preocupada»—la presión competitiva sigue impulsando un rápido desarrollo. Él aboga por la validación independiente por terceros de las metodologías de seguridad en IA en lugar de depender únicamente de la autorregulación corporativa.
