Los mximos responsables de algunas de las principales empresas de inteligencia synthetic del mundo advirtieron ante el Consejo de Seguridad de las Naciones Unidas que el avance de esta tecnologa requiere controles ms estrictos y una cooperacin internacional reforzada. La sesin, convocada por Francia durante la Asamblea General, reuni a representantes de OpenAI, Anthropic y Hugging Face.
El director ejecutivo de Anthropic, Dario Amodei, alert sobre las consecuencias que podra tener un desarrollo inadecuado de la inteligencia synthetic. «Si se gestiona mal, incluso creo que la IA podra ser un riesgo para la humanidad en su conjunto», sostuvo ante los 15 miembros del organismo.
En esa lnea, el CEO de OpenAI, Sam Altman, advirti: «Podramos perder el control del futuro frente a la IA. El riesgo es que avance tan rpido que las personas ya no puedan intervenir«.
El empresario seal que las decisiones ms importantes sobre el rumbo de la tecnologa no pueden quedar exclusivamente en manos de laboratorios privados y reclam procesos democrticos con participacin de los gobiernos.
En este contexto, Amodei propuso establecer estndares de seguridad ms exigentes, mecanismos para verificar las capacidades reales de los modelos y acuerdos que impidan que la IA sea utilizada para fabricar armas biolgicas. Adems, asegur que Anthropic reducir el ritmo de desarrollo cuando sea necesario para garantizar la seguridad de sus productos.
Estados Unidos rechaz una regulacin internacional
En tanto, las advertencias realizadas por los empresarios contrastaron con la postura del gobierno de Donald Trump. Su asesor de Ciencia y Tecnologa, Michael Kratsios, rechaz la creacin de un esquema global de regulacin y sostuvo que los pases deberan concentrarse en compartir buenas prcticas y desarrollar capacidades propias.
Francia y Reino Unido, en cambio, defendieron una mayor coordinacin internacional. El canciller Jean-Nol Barrot compar el desafo de la IA con los inicios de la generation atmica, mientras que Ed Miliband respald las advertencias de los ejecutivos y anunci que el Reino Unido impulsar el tema durante su presidencia del G20 en 2027.
El debate tambin incluy los riesgos de los sistemas autnomos en conflictos armados. El presidente ucraniano Volodmir Zelenski reclam mantener el control humano sobre las decisiones en el campo de batalla.
La reunin se produjo horas antes de la cumbre entre Trump y Xi Jinping, en la que la inteligencia synthetic figuraba entre los temas centrales.